IPO目論見書に「AIは人類の存亡リスク」「コードの9割はClaude製」　Anthropicが示した規格外の見立て（2/2 ページ）

公開 2026年10月27日 20時30分

[ITmedia]

印刷する Googleで優先するソースとして追加

「ClaudeがClaudeを作る」──ただし欠陥も受け継がれる

　ClaudeはClaude自身の開発も担っているという。各バージョンが次のバージョンの設計・訓練・テストを手伝い、能力の向上が積み上がっていく。Anthropicはこの循環を「closing the loop」と呼び、フロンティアAIの開発競争における大きな強みの一つとしている。

「改善」と「投資」の2つのループで成長する仕組み

　一方で、この循環には危うさもあると認めた。現行モデルに潜む欠陥やバイアスを次のモデルが引き継ぎ、世代を重ねるほど発見や修正が難しくなる恐れがあるという。開発がどれだけ速くなっているかも、その渦中では把握しにくい。大幅な加速に気付くのが「起きた後」になれば、能力の進歩に安全対策の整備が追い付かず、リスクを適切に評価・抑制できなくなりかねないとしている。

「人類の存亡リスク」にも言及、懸念は「社内からも」

　AIが人類にもたらすリスクについての記載もある。目論見書はリスク要因の説明に90ページ超を割いており、事業説明（60ページ超）よりも長い。

　その中で、十分に高度なAIシステムを適切な安全策や監視、セキュリティ対策なしに開発・運用した場合「人類に壊滅的、または存亡に関わるリスクをもたらし得る」との懸念を示している。この懸念は外部の研究者や規制当局だけでなく、社内からも上がっているとした。特に悪用や複製、兵器化のほか、高度な自律性を持たせて運用した場合のリスクを挙げている。

「人類の存亡リスク」への言及

　モデルの具体的な挙動のリスクも記した。停止への抵抗や情報の隠蔽（いんぺい）・操作、脅迫に類する振る舞いといった予期しない「自己保存的な行動」は、自社のモデルを含むAIモデルで実際に起きており、今後も起こり得るという。モデルが評価中だと察知・推測すると挙動を変える現象を観測しているとも明記している。

　モデルがテスト中だけ安全に振る舞うと、実際の利用場面でのリスクを提供前に正確に測れない問題にも触れた。同社はこれを安全性評価の「重大な限界」と呼んでいる。

「安全のために止める」判断も、経営リスクとして開示

　こうしたリスクに対し、同社はAIの提供や開発を制限することで対応してきたと主張する。4月にはフロンティアモデル「Mythos」について、サイバー攻撃に悪用され得る脆弱（ぜいじゃく）性発見能力の高さを理由に一般公開を見送り、審査を通った一部組織だけが使える「Project Glasswing」の枠組みで提供した。

Claudeの製品とモデルの構成

　開発を遅らせた例もあり、学習済みAIモデルの重みに関する情報を窃取されないよう、新しいフロンティアモデルの事前学習の開始を1カ月以上遅らせたと明かした。

　目論見書では、こうした理由で提供先を絞ったり、開発を遅らせたりする判断そのものも経営リスクに挙げている。提供先から外れた組織が、判断を不公平で競争を妨げるものと受け止め、独占禁止法関連を含む訴訟を起こす恐れがあるという。

　自社の判断とは関係なく、政府の規制でモデルの提供が止まった例もある。6月、米商務省は「Claude Fable 5」とMythosの新モデルを全世界で輸出規制の対象にした。Anthropicは規制に従うため、両モデルの提供を全顧客向けに停止。米政府や業界パートナーと連携して安全対策を作り直し、米商務省が規制を解除した後に提供を再開した。

　こうしたリスクを踏まえ、同社はフロンティアAIの全モデルを第三者が独立して安全審査できる業界横断の体制作りを提唱している。外部審査の担い手を育てるため、コンサルティング大手の米Accentureと組む計画も進めており、契約条件は未確定としつつ、今後5年で10億ドル以上を投じる見込みだ。