AnthropicのCEO、米国防総省のAI規制撤廃要求を拒否 「自律型兵器への転用」を懸念
米Anthropicのダリオ・アモデイCEOは2月26日(現地時間)、米国防総省(Department of War)が求めているAIの安全対策(セーフガード)撤廃の要求に対し、特定の危険な用途への懸念からこれに応じないとする声明を発表した。
同社は昨年7月、国防総省から2億ドルの最先端AIプロトタイプ開発の契約を受注するなど、これまで軍への技術提供を行ってきた。しかし、国防総省は同社を含むAI企業に対して「あらゆる合法的な利用」に同意し、セーフガードを撤廃するよう要求している。同省は要求に応じないAnthropicに対し、軍のシステムからの排除を警告したほか、通常は米国の敵対国にのみ適用される「サプライチェーンリスク」としての指定や、国防生産法(Defense Production Act)を発動して強制的にセーフガードを撤廃させるなどの圧力を強めているという。
アモデイ氏が問題視し、妥協を拒んでいるのは「大規模な国内監視」と「完全自律型兵器」へのAI利用の2点だ。同氏は、令状なしで収集された個人の断片的なデータを強力なAIで統合するような大規模な米国内の監視は、民主主義の価値観と相容れないと指摘している。また、人間の判断を完全に排除する完全自律型兵器については、現在の最先端AIシステムはこれを稼働させるのに十分な信頼性を備えておらず、適切なガードレールなしでの導入は兵士や民間人を危険にさらすため、良心に従って要求には応じられないと主張した。
アモデイ氏は一方、米国や民主主義陣営の防衛にAIを活用することの重要性を深く信じており、決して政府に反抗しているわけではないと強調している。同社はこれまでも政府の機密ネットワークへのモデル導入を率先して行い、中国共産党に関連する企業からの数億ドルの収益を放棄してでも米国の優位性を守ってきた実績がある。
アモデイ氏は、上記2つのセーフガードを維持した上で、今後も国防総省や兵士への技術提供を継続していくことを強く望んでいると表明した。また、国防総省がAnthropicとの契約打ち切りを決定した場合でも、同社は進行中の軍事計画や重要な任務に支障が出ないよう、他社へのスムーズな移行に協力する意向を示している。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
日本人の大腸がん、約半数に“腸内細菌の毒素”が関与 40歳以下の発症は7割 東大・阪大が200人を全ゲノム解析
-
2
「コミューン」不正アクセスでLINEヤフー、Sansan、パナソニックでも会員情報漏えいの可能性
-
3
「お前たちのクラウドはわれわれのもの」 IDCFクラウドの管理画面に出た攻撃者のメッセージ 内容に運営元は
-
4
MicrosoftのナデラCEO、「SIモデルは“内部リスク”として扱うべき」とXに投稿 統制はモデルの外に置くよう提言
-
5
「男は狩り、女は採集」はどこまで本当? 約8割で女性も狩り、乳児連れの例も 過去100年の狩猟採集社会を調査
-
6
AnthropicのAI、未解決殺人事件で警察に虚偽の情報提供 米政権は「通知と是正は義務」と警告
-
7
JR東日本、「えきねっと」「ビューカード」などで漏えいか メルアドなど最大609万件 IDCFへの不正アクセスで【追記あり】
-
8
農水省の“クソダサ”ポスター話題 「AIよりよっぽど良い」の声も 担当者に狙いを聞いた
-
9
新作映画「バイオハザード」公開で原作ゲームも大盛り上がり? 劇場でマンガ家が頷いた、その理由とは
-
10
OpenAI、安全性研究者3人を解雇 本人らは「安全性を優先したため」と主張、同社は「機密情報の扱いに関する規定違反」と説明
ITmedia NEWS SNS
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR