「コードの9割をAIが作成」 AnthropicがIPO文書で明かした“AI急加速”と制御不能リスク（2/2 ページ）

[湯川鶴章、エクサウィザーズ AI新聞編集長]

「急加速しても事後まで気付けない」　衝撃の警告

　今回の上場申請書には、もう一つ極めて重要な警告がある。Anthropicは、AIを使った研究開発の加速によって、モデルの能力向上が、安全対策やセキュリティ対策の進歩を上回る可能性があると指摘した。さらに、同社は次のように記している。

We have in the past not identified, and may in the future not identify, a significant acceleration in our rate of development until after it has occurred.

（当社は過去に、開発速度が大幅に加速したことを、その発生後まで把握できなかった。今後も同様のことが起こる可能性がある）

　AIが研究開発をどれほど加速したかを客観的に測るには、一定期間の成果を振り返る必要がある。新しいAIが登場した直後には、そのAIが開発速度にどれほど貢献したかを正確に判断できない場合がある。このため、AIの進化が急加速する境目を超えても、開発企業自身がその事実を「後から」しか認識できない可能性があるのだ。

　問題は、その間にもAIの能力が指数関数的に向上し続けることだ。研究開発の速度が安全性の検証や対策の整備を上回れば、企業が新しいAIの危険性を十分に把握できないまま、さらに高性能なモデルを開発してしまう事態も考えられる。

　Anthropicはこうしたリスクを認識しており、現在の安全方針の見直しを検討している。同社は、人間による実質的な監督や理解なしに、Claudeが次々と最先端モデルを完全自律的に設計・開発することを、安全に実施できるとは想定していないと説明する。仮に技術的に可能になっても、人間がAI開発を管理し続けられる仕組みが不可欠だという立場だ。

仮説から「現実の経営課題」へシフトした自己改善

　RSIはこれまで、AI研究者や専門家の間で「いつ実現するのか」という技術的関心として議論されてきた。AIがAIを改良する循環が成立すれば、技術進歩が爆発的に加速する可能性がある。一方で、研究開発の自動化が進むほど、人間がAIの能力や危険性を把握し、制御することが難しくなるとの懸念も根強かった。

　今回のAnthropicの開示が重要なのは、この問題がもはや将来の仮説にとどまらなくなっている点だ。

　同社はすでにClaudeを次世代モデルの開発に幅広く利用しており、その成果を競争上の強みとしている。そして、AIによる研究開発の加速が、自社の安全基準で定めた重要な水準に近づいている可能性を、投資家に正式に開示した。

　ただ、今回の判断はAnthropic自身の推計に基づくもので、第三者がRSIの到達を確認したわけではない。また、研究開発が劇的に加速することと、人間の関与なしにAIが自律的に次世代AIを作り続けることは同じではない。

　それでも、AIがAIを開発する循環は、すでに最先端モデルの開発現場に不可逆的に組み込まれている。これまでの焦点は「AIが自分自身を改良できるようになるのはいつか」ということだった。Anthropicの今回の開示は、その問いを変えつつある。AIの進化が急加速し始めたとき、人間はそれに気付き、進化の速度を制御し続けることができるのだろうか。

本記事は、エクサウィザーズが運営するAI新聞内の記事「AIがAIを作る速度、まもなく急加速か Anthropicが上場申請書で明かす」（2026年11月4日掲載）を、ITmedia ビジネスオンライン編集部で一部編集の上、転載したものです。

著者プロフィール

湯川鶴章

AIスタートアップのエクサウィザーズ AI新聞編集長。米カリフォルニア州立大学サンフランシスコ校経済学部卒業。サンフランシスコの地元紙記者を経て、時事通信社米国法人に入社。シリコンバレーの黎明期から米国のハイテク産業を中心に取材を続ける。通算20年間の米国生活を終え2000年5月に帰国。時事通信編集委員を経て2010年独立。17年12月から現職。主な著書に『人工知能、ロボット、人の心。』（15年）、『次世代マーケティングプラットフォーム』（07年）、『ネットは新聞を殺すのか』（03年）などがある。