ChatGPTの健康アドバイスは信用できるのか…60歳男性が中毒で入院、研究者が警鐘

チャットGPTによる食事のアドバイスに従った60歳の男性が、治療が必要な状態になった。【ルーシー・ノタラントニーオ （ライフスタイル担当）】 男性は食事から塩化物を取り除こうと、チャットGPTに相談した後、食卓塩の代わりに臭化ナトリウムという化合物を使うようになった。その後、臭化物中毒によって幻覚や被害妄想が現れ、入院した。だがAIとの会話記録を入手できず、医師は男性が具体的にどのような助言を受けたのか確認できなかった。 米ビンガムトン大学など4大学の研究者の論文はこの事例を取り上げ、AIによる健康に関する助言の内容を確認・検証できないことがこのような事例の調査を困難にする場合があると指摘している。 「AIは健康に関する疑問を尋ねる相手として非常に役立つと思う」と、論文の著者の1人でビンガムトン大学助教のカイチェン・ヤンは本誌に語った。「だが、AIは正しい答えと同じくらい自信たっぷりに誤った答えを示すこともある。その結果、治療が遅れたり、間違った薬を服用したりする可能性がある」 ギャラップ社が昨年10月27日から約2カ月、アメリカの成人5500人以上を対象にした調査結果から推計すると、AIを利用した結果、医療機関の受診を見送った経験がある人は全米で約1400万人に上る。 正確性を監視できるようにするシステム 現在のAIシステムでは、提供された健康上の助言を外部から把握できず、医療従事者や規制当局が事後的に有害な助言を特定することが難しいと、この論文は指摘する。 オープンAIの広報担当者は本誌にこう語った。「チャットGPTは医師ではなく、診断や医療行為の代わりとして使用すべきではない」 この論文の研究者らは、AIの助言に従う前に、情報源を尋ね、回答を確認するよう勧めている。 「AIから健康に関する情報を得ることをやめろというつもりはない」とヤンは言う。「AIの回答を診断結果ではなく、出発点として扱うことだ。医学用語を理解したり、医師への質問を準備したり、検査結果を読み解いたりするためなら活用できる」 論文では、健康に関するチャットボットとの会話記録を利用者が入手し、医療従事者と共有できるようにすることを提案している。また、AIによる全ての医療アドバイスにタグを付け、その正確性を監視できるようにするシステムも求めている。 古い情報を根拠にしたりする危険性 さらに、ソーシャルメディア企業にはAI生成の健康関連コンテンツの表示改善を要求し、検索エンジンにはAIによる要約に医学的な検証を受けた情報を使うことを提案。政府と議会には、医師の医療過誤に対する法的責任をAI企業にも適用することを検討すべきだと主張している。 「対策を企業任せにすべきではない。企業には利益を増やそうとする動機があり、このような仕組みの構築はその動機に反する。だからこそ第三者による監視や独立した評価が必要だ」とヤンは語った。 論文では、AIが誤った答えを自信ありげに示したり、複雑な医療情報を過度に単純化したり、古い情報を根拠にしたりする危険性も指摘されている。 Reference DeVerna, M.R., Yan, H.Y., Yang, KC. et al. The invisible risks of AI-generated health information. Nat. Health (2026). https://doi.org/10.1038/s44360-026-00206-x

チャットGPTによる食事のアドバイスに従った60歳の男性が、治療が必要な状態になった。【ルーシー・ノタラントニーオ （ライフスタイル担当）】 男性は食事から塩化物を取り除こうと、チャットGPTに相談した後、食卓塩の代わりに臭化ナトリウムという化合物を使うようになった。その後、臭化物中毒によって幻覚や被害妄想が現れ、入院した。だがAIとの会話記録を入手できず、医師は男性が具体的にどのような助言を受けたのか確認できなかった。 米ビンガムトン大学など4大学の研究者の論文はこの事例を取り上げ、AIによる健康に関する助言の内容を確認・検証できないことがこのような事例の調査を困難にする場合があると指摘している。 「AIは健康に関する疑問を尋ねる相手として非常に役立つと思う」と、論文の著者の1人でビンガムトン大学助教のカイチェン・ヤンは本誌に語った。「だが、AIは正しい答えと同じくらい自信たっぷりに誤った答えを示すこともある。その結果、治療が遅れたり、間違った薬を服用したりする可能性がある」 ギャラップ社が昨年10月27日から約2カ月、アメリカの成人5500人以上を対象にした調査結果から推計すると、AIを利用した結果、医療機関の受診を見送った経験がある人は全米で約1400万人に上る。 正確性を監視できるようにするシステム 現在のAIシステムでは、提供された健康上の助言を外部から把握できず、医療従事者や規制当局が事後的に有害な助言を特定することが難しいと、この論文は指摘する。 オープンAIの広報担当者は本誌にこう語った。「チャットGPTは医師ではなく、診断や医療行為の代わりとして使用すべきではない」 この論文の研究者らは、AIの助言に従う前に、情報源を尋ね、回答を確認するよう勧めている。 「AIから健康に関する情報を得ることをやめろというつもりはない」とヤンは言う。「AIの回答を診断結果ではなく、出発点として扱うことだ。医学用語を理解したり、医師への質問を準備したり、検査結果を読み解いたりするためなら活用できる」 論文では、健康に関するチャットボットとの会話記録を利用者が入手し、医療従事者と共有できるようにすることを提案している。また、AIによる全ての医療アドバイスにタグを付け、その正確性を監視できるようにするシステムも求めている。 古い情報を根拠にしたりする危険性 さらに、ソーシャルメディア企業にはAI生成の健康関連コンテンツの表示改善を要求し、検索エンジンにはAIによる要約に医学的な検証を受けた情報を使うことを提案。政府と議会には、医師の医療過誤に対する法的責任をAI企業にも適用することを検討すべきだと主張している。 「対策を企業任せにすべきではない。企業には利益を増やそうとする動機があり、このような仕組みの構築はその動機に反する。だからこそ第三者による監視や独立した評価が必要だ」とヤンは語った。 論文では、AIが誤った答えを自信ありげに示したり、複雑な医療情報を過度に単純化したり、古い情報を根拠にしたりする危険性も指摘されている。 Reference DeVerna, M.R., Yan, H.Y., Yang, KC. et al. The invisible risks of AI-generated health information. Nat. Health (2026). https://doi.org/10.1038/s44360-026-00206-x