AnthropicのCEO、米国防総省のAI規制撤廃要求を拒否 「自律型兵器への転用」を懸念

AnthropicのアモデイCEOは、米国防総省によるAIセーフガード撤廃要求を拒否する声明を出した。大規模監視や完全自律型兵器への悪用を懸念しており、軍からの契約解除や国防生産法発動の警告を受けても姿勢を崩していない。

[ITmedia]

　米Anthropicのダリオ・アモデイCEOは2月26日（現地時間）、米国防総省（Department of War）が求めているAIの安全対策（セーフガード）撤廃の要求に対し、特定の危険な用途への懸念からこれに応じないとする声明を発表した。

　同社は昨年7月、国防総省から2億ドルの最先端AIプロトタイプ開発の契約を受注するなど、これまで軍への技術提供を行ってきた。しかし、国防総省は同社を含むAI企業に対して「あらゆる合法的な利用」に同意し、セーフガードを撤廃するよう要求している。同省は要求に応じないAnthropicに対し、軍のシステムからの排除を警告したほか、通常は米国の敵対国にのみ適用される「サプライチェーンリスク」としての指定や、国防生産法（Defense Production Act）を発動して強制的にセーフガードを撤廃させるなどの圧力を強めているという。

ダリオ・アモデイ氏（画像：同氏のXのプロフィールより）

　アモデイ氏が問題視し、妥協を拒んでいるのは「大規模な国内監視」と「完全自律型兵器」へのAI利用の2点だ。同氏は、令状なしで収集された個人の断片的なデータを強力なAIで統合するような大規模な米国内の監視は、民主主義の価値観と相容れないと指摘している。また、人間の判断を完全に排除する完全自律型兵器については、現在の最先端AIシステムはこれを稼働させるのに十分な信頼性を備えておらず、適切なガードレールなしでの導入は兵士や民間人を危険にさらすため、良心に従って要求には応じられないと主張した。

　アモデイ氏は一方、米国や民主主義陣営の防衛にAIを活用することの重要性を深く信じており、決して政府に反抗しているわけではないと強調している。同社はこれまでも政府の機密ネットワークへのモデル導入を率先して行い、中国共産党に関連する企業からの数億ドルの収益を放棄してでも米国の優位性を守ってきた実績がある。

　アモデイ氏は、上記2つのセーフガードを維持した上で、今後も国防総省や兵士への技術提供を継続していくことを強く望んでいると表明した。また、国防総省がAnthropicとの契約打ち切りを決定した場合でも、同社は進行中の軍事計画や重要な任務に支障が出ないよう、他社へのスムーズな移行に協力する意向を示している。