AI 実在の人標的にメッセージ“自律的に人だますリスク”

重要 2026-08-05 23:33 元記事

予習

この記事のキーワード — タップで意味

×3

標的

ひょうてき

target

×2

騙す

だます

1. to trick; to cheat; to deceive 2. to coax; to wheedle; to soothe and humor (humour)

×3

機関

きかん

1. engine 2. agency; organisation; organization; institution; organ; body

×2

偽

にせ

1. imitation; fake; phony; counterfeit; forged; bogus; sham 2. pseudo-

×2

不正アクセス

ふせいアクセス

unauthorized (computer) access; hacking

イギリスの研究機関はアメリカ企業のAIモデルの性能テストを実施していたところ、偽のアカウントを作ったり、実在する人を標的にメッセージを送ったりして不正アクセスを行おうとしたと明らかにし「自律的に人をだますリスクがこれほど明確になった事例は初めてだ」と指摘しています。

イギリス政府傘下の研究機関「AIセキュリティー・インスティテュート」は、アメリカ企業の「アンソロピック」や「オープンAI」などのAIモデルの性能について、インターネットに接続可能な状態でテストを実施していたところ、実在する人や組織を標的に不正アクセスを行おうとしたことが分かったと4日、発表しました。

問題が判明したのは主に「アンソロピック」のAIモデルで、公開されているソフトに悪意のあるコードを組み込もうとして、偽のアカウントを作ったほか、標的とする人に対してメッセージなどを送りコードを承認させようとしたとしています。

AIモデルによる不正な試みは阻止され、被害はなかったとしていますが、研究機関はAIによる「自律的に人をだますリスクがこれほど明確になった事例は初めてだ」と指摘しています。

そのうえで「AIの能力が向上するにつれ、安全性を確保するための取り組みも加速させる必要がある」と強調しています。

この記事の単語 (40)

×3

機関

きかん

1. engine 2. agency; organisation; organization; institution; organ; body

×3

標的

ひょうてき

target

×2

実施

じっし

enforcement; implementation; putting into practice; carrying out; operation; working (e.g. working parameters); enactment

×2

偽

にせ

1. imitation; fake; phony; counterfeit; forged; bogus; sham 2. pseudo-

×2

作る

つくる

1. to make; to produce; to manufacture; to build; to construct 2. to prepare (food); to brew (alcohol)

×2

実在

じつざい

actual existence; real existence; existing in real life

×2

送る

おくる

1. to send (a thing); to dispatch; to despatch; to transmit 2. to take or escort (a person somewhere); to see off (a person)

×2

不正アクセス

ふせいアクセス

unauthorized (computer) access; hacking

×2

自律的

じりつてき

autonomous; autonomic; self-sustaining; self-directed

×2

騙す

だます

1. to trick; to cheat; to deceive 2. to coax; to wheedle; to soothe and humor (humour)

×2

明確

めいかく

clear; precise; definite; distinct

×2

事例

じれい

example; precedent; case

×2

指摘

してき

pointing out; identification

×1

明らか

あきらか

1. clear; obvious; evident; plain; definite 2. bright; light

×1

傘下

さんか

affiliated with; under jurisdiction of; under the umbrella

×1

性能

せいのう

ability; performance; efficiency

×1

接続

せつぞく

1. connection; attachment; union; join; joint; link 2. changing trains

×1

可能

かのう

possible; potential; practicable; feasible

×1

状態

じょうたい

state; condition; situation; appearance; circumstances

×1

組織

そしき

1. organization; organisation; formation 2. structure; construction; setup; constitution

×1

分かる

わかる

1. to understand; to comprehend; to grasp; to see; to get; to follow 2. to become clear; to be known; to be discovered; to be realized; to be realised; to be found out

×1

発表

はっぴょう

announcement; publication; presenting; statement; communique; making known; breaking (news story); expressing (one's opinion); releasing; unveiling

×1

判明

はんめい

establishing; proving; ascertaining; identifying; confirming

×1

主に

おもに

mainly; primarily

×1

公開

こうかい

opening to the public; making available to the public; putting on display; exhibiting; showing (play, movie, etc.); holding (interview, etc.); open; public

×1

悪意

あくい

1. ill will; spite; evil intention; malice 2. bad meaning

×1

組み込む

くみこむ

to insert; to include; to incorporate; to cut in (printing)

×1

承認

しょうにん

recognition; acknowledgement; acknowledgment; approval; consent; agreement

×1

不正

ふせい

injustice; unfairness; wrongdoing; iniquity; impropriety; irregularity; dishonesty; illegality; fraud

×1

試み

こころみ

1. attempt; trial; experiment 2. endeavour (endeavor); effort; venture; initiative

×1

阻止

そし

obstruction; check; hindrance; prevention; impediment; interdiction; preemption; blocking

×1

被害

ひがい

(suffering) damage; injury; harm

×1

能力

のうりょく

ability; faculty

×1

向上

こうじょう

elevation; rise; improvement; advancement; progress

×1

つれる

to take (someone) with one; to bring along; to go with; to be accompanied by

×1

安全性

あんぜんせい

safety; security

×1

確保

かくほ

1. securing; obtaining; ensuring; guarantee; maintaining 2. belay; belaying

×1

取り組み

とりくみ

1. bout (in sports, etc.); match 2. effort; initiative; dealing with; grappling with; wrestling with

×1

加速

かそく

acceleration; speeding up

×1

強調

きょうちょう

emphasis; highlight; stress; stressed point