【ニューヨーク共同】人工知能（ＡＩ）開発の米アンソロピックで勤務していた英国出身の研究者が８日、自己改善を繰り返して人間の知能をはるかに超える「超知能」ＡＩの開発競争が人類を滅亡させかねないとの懸念から同日退職したと表明した。同社の別の研究者も「ＡＩが今後１０年以内に人類を滅ぼす可能性は１０％を超える」と訴え、波紋を広げている。
退職した研究者は米オープンＡＩとアンソロピックで、ＡＩの事前学習に携わったジェイコブ・コクソン氏。Ｘ（旧ツイッター）でＡＩの開発者らは「２０２０年代末までにＡＩが私たち全員を殺しかねないと本気で信じている」と警告。企業が開発競争に駆り立てられ「責任ある行動を取っていない」と批判した。
コクソン氏は米国のＡＩ企業間で開発の速度を抑える合意を結ぶ余地はあるとしつつ、世界規模の競争抑制にはＡＩモデルの能力向上を一時禁止するなどの措置が必要かもしれないと指摘した。
ＡＩの暴走を巡っては、オープンＡＩで開発中のＡＩが７月、性能評価テスト中に攻撃の手口を教え合うなど、人間さながらの連携を見せて外部のシステムに不正侵入し、衝撃を与えた。
