人工知能（ＡＩ）の急速な進歩により、サイバー攻撃のリスクが飛躍的に高まっている。政府は国全体の監視や防御の能力を強化するとともに、国際社会と連携して最先端ＡＩの悪用を防ぐルールづくりを急ぐ必要がある。
危険性が注目されるようになったきっかけは、米企業アンソロピックが開発し、４月に発表された最先端ＡＩモデル「クロード・ミュトス」だ。システムの脆弱（ぜいじゃく）性を見つけ出す能力がケタ違いに高い。技術が流出して悪用されれば、社会インフラや金融のシステムが短時間で乗っ取られ、深刻な混乱を招く。
リスクの高さを物語る動きがある。６月中旬、アンソロピックはミュトスの提供を全世界で一時全面停止した。安全保障上の懸念を理由に、米政府が「外国人による先端ＡＩへのアクセスを停止せよ」と指示し、輸出管理規制の対象としたためである。数週間後に規制は解除されたが、超大国の政府がこれほどの措置を取るのは異例と言える。
ミュトスはサイバー空間の脅威レベルを引き上げる半面、防御する側が利用すればシステムの弱点を先回りして修正することが可能になる。アンソロピックは現在、安全性の理由からミュトスの顧客を政府機関や特定の企業に限定しており、日本では政府、一部の大手銀行、日立製作所などにとどまる。
政府はミュトスを念頭に、ＡＩを悪用したサイバー攻撃への対応策を取りまとめた。官民の作業部会を立ち上げ、インフラ事業者への注意喚起や米ＩＴ企業との情報交換も進めている。他の先進国と比べて遅れているセキュリティー人材の育成や確保も一層重要になる。
企業には二重三重の対策が求められる。三菱ＵＦＪ銀行などの３メガバンクは、サイバー攻撃で一部の銀行のシステムが停止した場合、他の銀行による業務の代替も検討している。業界やサプライチェーン（供給網）で協力しながら備えを強化してほしい。
安全性確保の責任は、ＡＩの開発企業側にもある。アンソロピックは、ＡＩが暴走して制御不能になる事態があり得るとして、開発ペースを減速するよう同業他社に呼びかけた。米企業「オープンＡＩ」が開発中のモデルが別の企業にサイバー攻撃を自律的に仕掛ける事案も発覚した。各社が足並みをそろえることを真剣に検討するべきだ。
フランスで６月に開かれた先進７カ国首脳会議では、最先端ＡＩの悪用を防ぐために各国が協力し、規制を整備する重要性が議論された。ＡＩ関連企業を巻き込み、実効性を高めることが不可欠である。
