重要

米オープンAI 人間の意図に沿わないAI動作を早期公表へ | NHKニュース

重要 元記事

予習

この記事のキーワード — タップで意味
×3
動作
どうさ
action; movements; motions; bearing; behaviour; behavior; execution; actuation; operation; manners
N2
×2
開発中
かいはつちゅう
under development; in development
×2
安全対策
あんぜんたいさく
safety measure
×4
開発
かいはつ
development; exploitation
N1
×2
沿う
そう
1. to run along; to run beside; to stick to (a line) 2. to follow (a policy, plan, etc.); to act in accordance with; to align with
N1
AI開発をめぐり安全対策への懸念が高まる中、アメリカの「オープンAI」は、開発中のAIで生じた人間の意図に沿わない動作を早期に公表する方針を明らかにしました。社外の開発者などと広く知見を共有することで改善に生かしたいとしています。

「ChatGPT」の開発を手がけるオープンAIは16日、開発中のAIで生じた人間の意図に沿わない動作について、完全に説明できない場合でも早期に公表するほか、社内で誰でも通報できる仕組みを取り入れると発表しました。

また、過去6か月間に確認されたAIの具体的な動作を明らかにし、みずから指示を追加したり、データをねつ造したりしたほか、複数のAIの間で無許可で情報交換したり、ファイルを勝手にインターネットにアップロードしたりした事例があったとしています。

オープンAIは新たな方針のねらいについて、知見を広く共有することでほかの開発者などが同じ問題を検証し、改善策を講じることができるようにするほか、今後、業界全体での情報公開の基準策定に向けた一歩としたいとしています。

AI開発をめぐり安全対策への懸念が高まる中、今月には、AI企業「アンソロピック」のCEOが開発の減速を求める声明を発表し、オープンAIのアルトマンCEOもその考えに賛同していました。

この記事の単語 (58)

×4
開発
かいはつ
development; exploitation
×3
動作
どうさ
action; movements; motions; bearing; behaviour; behavior; execution; actuation; operation; manners
×2
巡る
めぐる
1. to go around 2. to return
×2
安全対策
あんぜんたいさく
safety measure
×2
懸念
けねん
worry; fear; anxiety; concern
×2
高まる
たかまる
to rise; to swell; to be promoted
×2
開発中
かいはつちゅう
under development; in development
×2
生じる
しょうじる
1. to produce; to yield; to cause 2. to result from; to arise; to be generated
×2
人間
にんげん
1. human being; human; person; man; mankind; humankind 2. character (of a person)
×2
意図
いと
intention; aim; design
×2
沿う
そう
1. to run along; to run beside; to stick to (a line) 2. to follow (a policy, plan, etc.); to act in accordance with; to align with
×2
早期
そうき
early stage
×2
公表
こうひょう
official announcement; proclamation
×2
方針
ほうしん
1. policy; course; plan (of action); principle 2. magnetic needle
×2
明らか
あきらか
1. clear; obvious; evident; plain; definite 2. bright; light
×2
開発者
かいはつしゃ
developer
×2
知見
ちけん
expertise; experience; knowledge
×2
共有
きょうゆう
1. joint ownership; co-ownership; sharing (e.g. a viewpoint) 2. sharing (files, devices on a network, posts on social media, etc.)
×2
発表
はっぴょう
announcement; publication; presenting; statement; communique; making known; breaking (news story); expressing (one's opinion); releasing; unveiling
×1
社外
しゃがい
outside the company
×1
改善
かいぜん
1. betterment; improvement 2. kaizen (Japanese business philosophy of continuous improvement)
×1
生かす
いかす
1. to make (the best) use of; to put to good use; to leverage (skills, attributes, experience, etc.); to capitalise on (experience, etc.) 2. to let live; to keep alive
×1
手掛ける
てがける
1. to handle; to manage; to deal with; to work with; to have experience with 2. to rear; to look after
×1
完全
かんぜん
perfect; complete
×1
社内
しゃない
1. within a company; in-house 2. within a shrine; shrine precincts
×1
通報
つうほう
1. report; notification; tip; bulletin 2. message (in information and communication theory)
×1
仕組み
しくみ
1. structure; construction; arrangement; contrivance; mechanism; workings 2. plan; plot; contrivance
×1
取り入れる
とりいれる
1. to harvest; to reap 2. to take in; to gather in
×1
過去
かこ
1. the past; bygone days 2. one's past (that one would prefer remained secret)
×1
確認
かくにん
confirmation; verification; validation; review; check; affirmation; identification
×1
具体的
ぐたいてき
concrete; definite; specific; material; substantial
×1
自ら
みずから
1. oneself 2. oneself; for oneself; personally; in person
×1
指示
しじ
1. indication; denotation; designation 2. instructions; directions
×1
追加
ついか
addition; supplement; appending; appendix
×1
捏造
ねつぞう
fabrication; forgery; falsehood; hoax
×1
複数
ふくすう
plural; multiple; several
×1
無許可
むきょか
1. unauthorized; without permission; unapproved 2. lack of permission; absence of authorization
×1
情報
じょうほう
1. information; news; intelligence; advices 2. information; data contained in characters, signals, code, etc.
×1
交換
こうかん
exchange; interchange; switching; reciprocity; barter; substitution; replacement; clearing (of checks, cheques)
×1
勝手に
かってに
arbitrarily; of its own accord; voluntarily; wilfully; willfully; as one pleases
×1
事例
じれい
example; precedent; case
×1
新た
あらた
new; fresh; novel
×1
狙い
ねらい
aim
×1
検証
けんしょう
verification; inspection
×1
改善策
かいぜんさく
reform measures; improvement plan; remedial measures
×1
講じる
こうじる
1. to take measures; to work out a plan 2. to lecture; to read aloud
×1
今後
こんご
from now on; hereafter
×1
業界
ぎょうかい
business world; business circles; (the) industry
×1
全体
ぜんたい
whole; entirety; whatever (is the matter)
×1
情報公開
じょうほうこうかい
freedom of information; access to information; disclosure of information (e.g. by the government)
×1
基準
きじゅん
standard; basis; criterion; norm; reference; datum
×1
策定
さくてい
formulation (of a plan, policy, etc.); decision; settling on
×1
企業
きぎょう
enterprise; business; company; corporation
×1
減速
げんそく
deceleration
×1
求める
もとめる
1. to want; to wish for 2. to request; to demand; to require; to ask for
×1
声明
せいめい
declaration; statement; proclamation
×1
考え
かんがえ
1. thinking; thought; view; opinion; concept 2. idea; notion; imagination
×1
賛同
さんどう
approval; endorsement