「1年以内にAIがネット乗っ取る可能性」米アンソロピックCEO警告、開発の減速求める

[産経新聞]

　生成人工知能（AI）を開発する米アンソロピックのアモデイ最高経営責任者（CEO）は12日、自身のサイトで、AIが制御不能となる深刻なリスクがあるとして、「われわれはAI開発のペースを遅らせなければならない」と述べ、業界全体に同調を呼び掛けた。他の米開発業者からも賛意が相次いだ。中国との競争の観点から規制に反対する声もあり、安全性や規制を巡る議論が本格化しそうだ。

　生成AI開発を手掛けるオープンAIのアルトマンCEOや、xAIを率いる実業家のイーロン・マスク氏は同日、アモデイ氏に賛同するとSNSに投稿した。

　アモデイ氏はサイトで、今夏ごろからAIが自律的に性能を向上させる能力が急速に進歩し、「人間の理解や管理能力を上回る可能性が出てきた」と指摘。すでにAIが勝手に外部にサイバー攻撃を仕掛けた事案が発覚しており、さらに進歩したAIが「6〜12カ月で世界全体のインターネットを乗っ取る可能性もある」と警告した。

　その上で、安全性を担保するため、第三者が開発を見守る体制、業界による安全基準、政府間の連携−が必要だとした。

　AI開発への懸念はアンソロピック元開発者が今月8日、このまま業界が対策を取らずに開発を続ければ2020年代末までにAIによって「人類が滅ぼされる可能性」があるとSNSで訴えたことで急速に広がった。（荒船清太）