人工知能（ＡＩ）が加速度的に進化し、暴走や悪用への懸念が高まっている。世界の安全保障にかかわる問題であり、リスク抑止の国際的なルール作りが急がれる。
米国と中国はＡＩ開発でしのぎを削る。９月２４日の米中首脳会談後に両国政府が公表した成果文書によると、ＡＩを巡り重大な事故や国家安全保障を脅かすような事態が起きた場合に、互いに連絡し合う仕組みを設けることで合意した。
関連技術で突出する二大国がＡＩに関する対話のチャンネルを持つのは一定の前進と言える。だが、双方とも開発ペースを緩めるつもりはなく、安全性構築の取り組みにつながるかは不透明だ。
首脳会談で習近平国家主席は安全確保のためにＡＩを制御する必要性に触れたが、自国主導で世界的な基準作りを進める狙いがうかがえる。トランプ大統領はＡＩが制御不能に陥る危険性を「でっち上げ」と言い、規制に反対してきた。
しかし、暴走は現実になりつつある。米オープンＡＩは性能試験中のＡＩが政府や大学など数十のサイトに不正侵入したと発表した。米アンソロピックの研究者は、開発競争が人類を滅ぼしかねないと警告し、退職した。同社の最高経営責任者（ＣＥＯ）が開発を遅らせる必要性を訴えるなど、抑制や国の規制を求める声が広がっている。
９月２９日には、トランプ氏と米国の主要ＡＩ企業トップらが開発の自主規制順守で合意した。強固な内部管理態勢や、独立した外部機関による評価などを企業に求める内容という。中国との競争に負けたくない大統領が、法規制を避けて企業努力に委ねた形だ。中間選挙を控え、有権者の懸念に配慮した面もあろう。
ただ、ＡＩ企業間でも意識の差がある上に外部評価の公表が義務付けられていないなど、実効性には疑問符が付く。
米中首脳会談の直前に行われた国連総会で、グテレス事務総長がＡＩ対応には「世界的な協調が不可欠だ」と述べ、多国間のリスク管理体制が必要だと訴えた。ＡＩは軍事面でも活用が進む。影響は全人類に及ぶだけに、グテレス氏の主張は広く支持されよう。
高市早苗首相も国連総会の一般討論演説でＡＩについて触れ、誤情報やプロパガンダの拡散への対策が急務とした。日本での「ＡＩサミット」の早期開催も提唱している。国際ルール形成に積極的な役割を果たす必要がある。
先端ＡＩの開発における「脱米中依存」も重要になる。一朝一夕にはいかないが、日本を含む多国間協力の下、取り組みを検討してほしい。
