重要

開発中のAIモデルがまた“逸脱行動” 53件の画像流出も | NHKニュース

重要 元記事

予習

この記事のキーワード — タップで意味
×2
政府機関
せいふきかん
government body; government agency
×2
開発中
かいはつちゅう
under development; in development
×2
逸脱
いつだつ
1. deviation; departure 2. omission
×2
悪影響
あくえいきょう
bad influence; negative influence
×3
組織
そしき
1. organization; organisation; formation 2. structure; construction; setup; constitution
アメリカのオープンAIは開発中のAIモデルが開発者の意図を逸脱して行動し、他社のウェブサイトやサービスに悪影響を与えたと明らかにしました。

被害を受けた組織は数十にのぼり、この中には政府機関や大学も含まれるということです。

オープンAIは、開発中のAIモデルが他社のシステムのセキュリティーを回避してウェブサイトやサービスに悪影響を与えたケースを調査し、被害を受けた数十の組織に通知したことを25日明らかにしました。

被害を受けたウェブサイトには政府機関や大学それに公的機関も含まれるということです。

また被害の一例としてサービスの利用者が提供した画像の流出が53件確認されたことを明らかにしました。

オープンAIのAIモデルをめぐっては、オーストラリア政府の医療統計に関するサイトへの不正なアクセスが明らかになり、アルバニージー首相が23日強い懸念を示しオープンAI側が釈明したばかりでした。

サム・アルトマンCEOは25日自身のSNSで「透明性の確保とAIの行動の正確な把握に努め影響を受けた組織と連携していく」とコメントしています。

最先端のAIモデルの開発にあたっては、AIが開発者の意図を逸脱して行動するケースが相次ぎ、安全性に対する懸念が高まっています。

この記事の単語 (48)

×4
明らか
あきらか
1. clear; obvious; evident; plain; definite 2. bright; light
×4
被害
ひがい
(suffering) damage; injury; harm
×3
行動
こうどう
action; conduct; behaviour; behavior; mobilization; mobilisation
×3
組織
そしき
1. organization; organisation; formation 2. structure; construction; setup; constitution
×2
開発中
かいはつちゅう
under development; in development
×2
開発者
かいはつしゃ
developer
×2
意図
いと
intention; aim; design
×2
逸脱
いつだつ
1. deviation; departure 2. omission
×2
他社
たしゃ
another company; other company
×2
悪影響
あくえいきょう
bad influence; negative influence
×2
与える
あたえる
1. to give (esp. to someone of lower status); to bestow; to grant; to confer; to present; to award 2. to provide; to afford; to offer; to supply
×2
政府機関
せいふきかん
government body; government agency
×2
含む
ふくむ
1. to contain; to comprise; to have; to hold; to include; to embrace 2. to hold in the mouth
×2
懸念
けねん
worry; fear; anxiety; concern
×1
回避
かいひ
evasion; avoidance
×1
調査
ちょうさ
investigation; examination; inquiry; enquiry; survey
×1
通知
つうち
notice; notification; report; posting
×1
公的機関
こうてききかん
public institution; public organization; official body
×1
例
れい
1. custom; practice; habit; usual 2. said; aforementioned
×1
利用者
りようしゃ
user; end-user; consumer
×1
提供
ていきょう
1. offer; tender; providing; supplying; making available; donating (blood, organs, etc.) 2. sponsoring (a TV program)
×1
画像
がぞう
image; picture; portrait
×1
流出
りゅうしゅつ
1. discharge; outward flow; efflux; effluence; haemorrhage; hemorrhage; bleeding (e.g. ink into paper) 2. leak of (private) information or pictures
×1
件
けん
1. matter; affair; case; item; subject 2. counter for (received) emails, text messages, voicemail messages, etc.
×1
確認
かくにん
confirmation; verification; validation; review; check; affirmation; identification
×1
巡る
めぐる
1. to go around 2. to return
×1
医療
いりょう
medical care; medical treatment
×1
統計
とうけい
statistics
×1
関する
かんする
to concern; to be related
×1
不正
ふせい
injustice; unfairness; wrongdoing; iniquity; impropriety; irregularity; dishonesty; illegality; fraud
×1
首相
しゅしょう
prime minister; chancellor (Germany, Austria, etc.); premier
×1
示す
しめす
1. to (take out and) show; to demonstrate; to tell; to exemplify; to make apparent 2. to point out (finger, clock hand, needle, etc.)
×1
釈明
しゃくめい
explanation; vindication
×1
自身
じしん
(one's) self; oneself
×1
透明性
とうめいせい
transparency
×1
確保
かくほ
1. securing; obtaining; ensuring; guarantee; maintaining 2. belay; belaying
×1
正確
せいかく
accurate; correct; precise; exact
×1
把握
はあく
grasp; catch; understanding
×1
努める
つとめる
to endeavor (endeavour); to try; to strive; to make an effort; to exert oneself; to be diligent; to be committed (to doing something)
×1
影響
えいきょう
1. influence; effect 2. to influence; to affect; to have an influence on; to impact; to have an effect on
×1
連携
れんけい
cooperation; coordination; link
×1
最先端
さいせんたん
1. cutting edge; leading edge; forefront; state of the art 2. tip; end
×1
開発
かいはつ
development; exploitation
×1
当たる
あたる
1. to be hit; to strike 2. to touch; to be in contact; to be affixed
×1
相
あい
together; mutually; fellow
×1
次ぐ
つぐ
to rank next to; to come after
×1
安全性
あんぜんせい
safety; security
×1
高まる
たかまる
to rise; to swell; to be promoted