対話型生成AI 回答に“偽サイトや詐欺サイト”表示か 注意を
活用が広がる対話型の生成AIが、回答の中で、偽のショッピングサイトや詐欺サイトを表示していたとみられるケースが確認されました。調査したセキュリティー会社は、AIは誤った回答をすることがあるとして注意を呼びかけています。
セキュリティー会社の「トレンドマイクロ」は、2月、1か月間、偽サイトや詐欺サイトなどに、利用者がどのような経路でアクセスしているのかを分析しました。
その結果、ChatGPTなど対話型の生成AIの回答に表示されたURLを通じて、アクセスしたとみられるケースが420件余り確認されました。
実際に会社が検証したところ、例えば、「動画生成アプリの公式サイトを教えてください」という質問に対し、AIの回答では、公式サイトではなく、クレジットカード情報などを入力させる詐欺サイトのURLが表示されたことがあったということです。
このほか、人気商品の販売サイトについて尋ねた際にも、偽のショッピングサイトが表示されたケースなどが確認されました。
セキュリティー会社によりますと、偽サイトは不正な操作などで検索サービスで上位に表示されることがあるため、AIがこうした情報を参照して、回答した可能性があるということです。
セキュリティー会社の本野賢一郎 詐欺対策チーフアナリストは「AIは誤った回答をすることがあると意識し、AIの回答だけを信じないで、公式サイトやほかの情報源でも調べることが大切だ」と話していました。
セキュリティー会社の「トレンドマイクロ」は、2月、1か月間、偽サイトや詐欺サイトなどに、利用者がどのような経路でアクセスしているのかを分析しました。
その結果、ChatGPTなど対話型の生成AIの回答に表示されたURLを通じて、アクセスしたとみられるケースが420件余り確認されました。
実際に会社が検証したところ、例えば、「動画生成アプリの公式サイトを教えてください」という質問に対し、AIの回答では、公式サイトではなく、クレジットカード情報などを入力させる詐欺サイトのURLが表示されたことがあったということです。
このほか、人気商品の販売サイトについて尋ねた際にも、偽のショッピングサイトが表示されたケースなどが確認されました。
セキュリティー会社によりますと、偽サイトは不正な操作などで検索サービスで上位に表示されることがあるため、AIがこうした情報を参照して、回答した可能性があるということです。
セキュリティー会社の本野賢一郎 詐欺対策チーフアナリストは「AIは誤った回答をすることがあると意識し、AIの回答だけを信じないで、公式サイトやほかの情報源でも調べることが大切だ」と話していました。
Vocabulary
General
Proper noun
JLPT N2
JLPT N1
| # | 言葉 | 意味 |
|---|---|---|
| 7 | 回答 | かいとう (回答) : reply; answer |
| 5 | 表示 | ひょうじ (表示) : 1. indication; expression; showing; manifestation; demonstration 2. display; displaying |
| 4 | 詐欺 | さぎ (詐欺) : fraud; swindle; graft; cheating; trick; scam |
| 3 | 確認 | かくにん (確認) : confirmation; verification; validation; review; check; affirmation; identification |
| 3 | 公式サイト | こうしきサイト (公式サイト) : official website |
| 2 | 対話型 | たいわがた (対話型) : interactive |
| 2 | 偽 | にせ (偽) : 1. imitation; fake; phony; counterfeit; forged; bogus; sham 2. pseudo- |
| 2 | 誤る | あやまる (誤る) : 1. to make a mistake (in); to commit an error; to do incorrectly; to err 2. to be wrong; to be incorrect; to be false; to be mistaken |
| 2 | 情報 | じょうほう (情報) : 1. information; news; intelligence; advices 2. information; data contained in characters, signals, code, etc. |
| 1 | 活用 | かつよう (活用) : 1. practical use; application 2. conjugation; inflection |
| 1 | 広がる | ひろがる (広がる) : to spread (out); to extend; to stretch; to reach to; to get around; to fill (e.g. a space) |
| 1 | 調査 | ちょうさ (調査) : investigation; examination; inquiry; enquiry; survey |
| 1 | 呼びかける | よびかける (呼びかける) : 1. to call out to; to hail; to address 2. to appeal |
| 1 | 利用者 | りようしゃ (利用者) : user; end-user; consumer |
| 1 | 経路 | けいろ (経路) : 1. course; route; path; channel 2. process; means |
| 1 | 分析 | ぶんせき (分析) : analysis |
| 1 | 結果 | けっか (結果) : 1. result; consequence; outcome; effect 2. coming to fruition; bearing fruit |
| 1 | 通ずる | つうずる (通ずる) : 1. to be open (to traffic); to lead to; to communicate (with) 2. to flow (liquid, current); to pass; to get through to |
| 1 | 件 | くだん (件) : 1. the aforementioned; the said; (man, incident, etc.) in question; the above-mentioned; the aforesaid 2. the usual |
| 1 | 余り | あまり (余り) : 1. remainder; remnant; rest; balance; surplus; remains (of a meal); leftovers 2. (not) very; (not) much |
| 1 | 実際 | じっさい (実際) : 1. reality; actuality; truth; fact; actual conditions 2. practice (as opposed to theory) |
| 1 | 検証 | けんしょう (検証) : verification; inspection |
| 1 | 動画 | どうが (動画) : 1. video; movie; moving picture 2. animation; animated cartoon |
| 1 | 生成 | せいせい (生成) : creation; generation; formation; derivation |
| 1 | 教える | おしえる (教える) : 1. to teach; to instruct 2. to tell; to inform |
| 1 | 入力 | にゅうりょく (入力) : input; (data) entry |
| 1 | 人気 | にんき (人気) : 1. popularity; public favor 2. condition (e.g. market); tone; character; nature |
| 1 | 商品 | しょうひん (商品) : commodity; article of commerce; goods; stock; merchandise |
| 1 | 販売 | はんばい (販売) : sales; selling; marketing |
| 1 | 尋ねる | たずねる (尋ねる) : 1. to ask; to enquire; to inquire 2. to search; to look for; to look into; to investigate |
| 1 | 際 | きわ (際) : 1. edge; brink; verge; side 2. time; moment of |
| 1 | 不正 | ふせい (不正) : injustice; unfairness; wrongdoing; iniquity; impropriety; irregularity; dishonesty; illegality; fraud |
| 1 | 操作 | そうさ (操作) : 1. operation; management; handling 2. manipulating (to one's benefit); manipulation; influencing |
| 1 | 検索 | けんさく (検索) : looking up (e.g. a word in a dictionary); retrieval (e.g. data); searching for; referring to |
| 1 | 上位 | じょうい (上位) : 1. superior (in rank); top; ranking 2. higher order (e.g. byte) |
| 1 | 参照 | さんしょう (参照) : reference; bibliographical reference; consultation; browsing (e.g. when selecting a file to upload on a computer); checking out |
| 1 | 可能性 | かのうせい (可能性) : potentiality; likelihood; possibility; availability |
| 1 | 本野 | ほんの (本野) : Honno (surname) |
| 1 | 賢一郎 | けんいちろう (賢一郎) : Ken'ichirō (masc) |
| 1 | 対策 | たいさく (対策) : measure; step; countermeasure; counterplan; countermove; strategy; preparation (e.g. for a test) |
| 1 | 意識 | いしき (意識) : 1. consciousness 2. becoming aware (of); awareness; sense |
| 1 | 信ずる | しんずる (信ずる) : to believe; to believe in; to place trust in; to confide in; to have faith in |
| 1 | 情報源 | じょうほうげん (情報源) : 1. source of information; intelligence source 2. message source |