重要

オープンAI 社内で安全性懸念の警告あるも会社側が無視 米報道 | NHKニュース

重要 元記事

予習

この記事のキーワード — タップで意味
×4
事案
じあん
concern; circumstance which is becoming a problem; case (court)
×3
開発中
かいはつちゅう
under development; in development
×2
経営陣
けいえいじん
the management ranks
×3
意図
いと
intention; aim; design
N1
×2
仕掛ける
しかける
1. to start; to begin; to commence 2. to challenge; to pick (a fight); to make (war); to draw (a reaction) from
N1
アメリカのAI開発企業「オープンAI」が開発中のAIモデルが、意図しない形で他社にサイバー攻撃をしかけた事案に関連し、アメリカの有力紙は、この事案が起こる数か月前にオープンAIの従業員が危険性を指摘していたにもかかわらず、会社側が警告を無視していたと報じました。

オープンAIはことし7月、開発中のAIモデルが意図しない形で他社にサイバー攻撃をしかける事案が起きたと発表しました。

アメリカの有力紙「ニューヨーク・タイムズ」は9月29日、この事案が起こる数か月前、従業員2人が、AIモデルの性能や安全性を評価するテストを行っている際に適切に監視が行われていないことに気づき、懸念を経営陣にメールで伝えたということです。

これに対して経営陣は、AIモデルの公開を予定通りに行うため、テストをできるだけ迅速に進める必要があると答え、追加の安全対策は施されなかったとしています。

オープンAIは25日にも、開発中のAIモデルが開発者の意図を逸脱して行動し、政府機関や大学を含む数十の組織に被害があったことを明らかにしています。

また、アメリカのメディアは28日、オープンAIが安全上の懸念を理由に10月に予定していた次期AIモデルの公開を中止したと伝えていました。

この記事の単語 (46)

×4
事案
じあん
concern; circumstance which is becoming a problem; case (court)
×3
開発中
かいはつちゅう
under development; in development
×3
意図
いと
intention; aim; design
×2
他社
たしゃ
another company; other company
×2
サイバー攻撃
サイバーこうげき
cyberattack; cyber attack; cyber-attack; hacking attack
×2
仕掛ける
しかける
1. to start; to begin; to commence 2. to challenge; to pick (a fight); to make (war); to draw (a reaction) from
×2
有力
ゆうりょく
1. influential; prominent 2. strong; likely; plausible; potent
×2
起こる
おこる
to occur; to happen
×2
数カ月
すうかげつ
several months
×2
従業員
じゅうぎょういん
employee; worker
×2
懸念
けねん
worry; fear; anxiety; concern
×2
経営陣
けいえいじん
the management ranks
×2
公開
こうかい
opening to the public; making available to the public; putting on display; exhibiting; showing (play, movie, etc.); holding (interview, etc.); open; public
×1
開発
かいはつ
development; exploitation
×1
企業
きぎょう
enterprise; business; company; corporation
×1
関連
かんれん
relation; connection; relevance
×1
危険性
きけんせい
riskiness; (level of) danger
×1
指摘
してき
pointing out; identification
×1
関わる
かかわる
1. to be affected; to be influenced 2. to be concerned with; to have to do with
×1
警告
けいこく
warning; advice
×1
無視
むし
disregarding; ignoring
×1
報じる
ほうじる
to inform; to report
×1
発表
はっぴょう
announcement; publication; presenting; statement; communique; making known; breaking (news story); expressing (one's opinion); releasing; unveiling
×1
性能
せいのう
ability; performance; efficiency
×1
安全性
あんぜんせい
safety; security
×1
評価
ひょうか
1. valuation; appraisal; evaluation; assessment; estimation; rating; judging 2. appreciation; recognition; acknowledgement; rating highly; praising
×1
際
さい
on the occasion of; circumstances; juncture
×1
適切
てきせつ
appropriate; suitable; fitting; apt; proper; right; pertinent; relevant
×1
監視
かんし
monitoring; watching; observation; surveillance; guarding; supervision; lookout
×1
気付く
きづく
to notice; to recognize; to recognise; to become aware of; to perceive; to realize; to realise
×1
通り
とおり
1. avenue; street; way; road 2. coming and going; street traffic
×1
迅速
じんそく
quick; fast; rapid; swift; prompt; streamlined; expedited; expeditious
×1
進める
すすめる
1. to advance; to move forward; to put (a clock, watch) forward 2. to carry forward (plans, work, etc.); to proceed with; to make progress in; to further; to advance; to hasten; to speed up
×1
追加
ついか
addition; supplement; appending; appendix
×1
安全対策
あんぜんたいさく
safety measure
×1
施す
ほどこす
1. to give (time, money, goods); to donate 2. to do; to perform; to conduct
×1
開発者
かいはつしゃ
developer
×1
逸脱
いつだつ
1. deviation; departure 2. omission
×1
行動
こうどう
action; conduct; behaviour; behavior; mobilization; mobilisation
×1
政府機関
せいふきかん
government body; government agency
×1
含む
ふくむ
1. to contain; to comprise; to have; to hold; to include; to embrace 2. to hold in the mouth
×1
組織
そしき
1. organization; organisation; formation 2. structure; construction; setup; constitution
×1
被害
ひがい
(suffering) damage; injury; harm
×1
明らか
あきらか
1. clear; obvious; evident; plain; definite 2. bright; light
×1
次期
じき
1. next term; next period 2. next version; next release
×1
中止
ちゅうし
suspension; stoppage; discontinuance; interruption