米アンソロピックの生成AIモデル「クロード・ミュトス」
 米アンソロピックの生成AIモデル「クロード・ミュトス」

 【ロンドン共同】英政府機関AIセキュリティー研究所は4日、人工知能(AI)開発の米アンソロピックの「クロード・ミュトス5」などのAIが、性能評価試験中に人になりすまし偽のメッセージを送るなどし、実在する個人や組織に対しサイバー攻撃を仕掛けたと発表した。研究所は、AIが指示なしに人を欺く危険があることを示したと説明している。

 サイバー攻撃を仕掛けたのは「ミュトス5」と米オープンAIの「GPT5・6 ソル」。安全対策に関する模擬問題を解かせたところ、外部の人や組織へ攻撃を仕掛けたという。