米アンソロピックが「ミュトス級」生成AIの提供停止、なぜ？

AI開発を手がける米新興企業アンソロピックは、最先端の生成AIモデル「クロード・ミュトス5」と、同等の性能を持ち「ミュトス級」と呼ばれる「クロード・フェイブル5」の提供を停止すると発表した。

[産経新聞]

　【ワシントン＝本間英士】人工知能（AI）開発を手がける米新興企業アンソロピックは12日、最先端の生成AIモデル「クロード・ミュトス5」と、同等の性能を持ち「ミュトス級」と呼ばれる「クロード・フェイブル5」の提供を停止すると発表した。外国人によるアクセス停止を求める輸出管理措置を米政府が同日発令したためだという。安全保障上の懸念が理由とみられ、「全ての利用者のアクセスを停止する」と表明した。

　アンソロピックは声明で「政府は危険なAIの運用を停止させる権限を持つべきだ」と一定の理解を示しつつ、「それは透明性や公平性が確保され、技術的な事実に基づく法的手続きの下で行われるべきだ」と指摘。「今回の措置はそうした原則に従っていない」と反論し、措置は「誤解によるものだと考えている」と主張した。

　米ニュースサイトのアクシオスは政権当局者の話として、別の企業がミュトス級の安全対策の突破に成功したと政府に報告したことが停止措置の発端になったと報じた。

　アンソロピックは4月、システムの脆弱（ぜいじゃく）性を発見する能力が極めて高いミュトスを発表。サイバー攻撃などへの悪用を懸念し、一般公開は見送っていた。今月に入り、安全対策を講じた一般向けモデルのフェイブルの提供を開始。ミュトスも利用者を限定した上で提供を続けていた。

　最先端の生成AIを巡っては、アンソロピックが今月上旬、AIが人間の手を借りずに性能を自律的に高める段階に近づきつつあると指摘。制御不能になる前に、開発を遅らせるなどの選択肢を持つことが世界にとって有益だと提言していた。