「コードの9割をAIが作成」 AnthropicがIPO文書で明かした“AI急加速”と制御不能リスク（1/2 ページ）

米AnthropicがSECに提出した新規上場（IPO）申請書の修正版で、AIが次のAIを開発する「再帰的自己改善」（RSI）による劇的な進歩加速に「まもなく到達する」と警告した。同社では既にコードの9割以上をClaudeが作成し、エンジニアのコード貢献量は45倍に跳ね上がっている。一方で「急加速が起きても事後まで把握できない」とも告白。AIの自己進化が仮説を脱し、制御不能リスクを孕む経営課題となった。

[湯川鶴章、エクサウィザーズ AI新聞編集長]

　AIが次世代のAIを開発し、そのAIがさらに高性能なAIを生み出す――。

　こうした「再帰的自己改善」（RSI：Recursive Self-Improvement）が、急速に進み始める境目に近づいている可能性がある。

　米Anthropicは11月2日、米証券取引委員会（SEC）に提出した新規株式公開（IPO）申請書の修正版で、AIによる研究開発の加速が、同社の安全基準で定めた重要な水準に「まもなく到達する可能性がある」と明らかにした。

　これは外部の専門家による予測ではない。最先端AIを開発している企業自身が、社内の推計と次世代モデルの見通しに基づいて公式に示した判断だ。しかもAnthropicは、AIによる開発の加速が起きても、同社自身がすぐには気付けない可能性があると警告している。

AIが次世代のAIを開発し、そのAIがさらに高性能なAIを生み出す（写真提供：ゲッティイメージズ）

SEC文書に明記「劇的な進歩加速にまもなく到達」

　Anthropicが今回の修正版で追加したのは、投資家に事業上の危険を説明する「リスク要因」の記述だ。同社は次のように記している。

Our internal estimates and our expectations regarding future models, rather than our current models, indicate that we may imminently meet our Responsible Scaling Policy’s definition of “dramatically accelerated progress attributable to AI.”

（現在のモデルではなく、社内の推計と将来のモデルに関する見通しによれば、当社は責任あるスケーリング方針で定義する「AIに起因する劇的な進歩の加速」の基準に、まもなく到達する可能性がある）

　ここでいう「責任あるスケーリング方針」（Responsible Scaling Policy：RSP）は、AIの能力が高まるにつれて、どのような安全対策を講じるかを定めたAnthropic独自の方針だ。

　同社の7月版RSPでは、AIによる研究開発の自動化が進み、AI全体の能力向上の速度が従来の2倍になることなどを「劇的な加速」を判断する基準にしている。単にプログラムを書く速度が2倍になるという話ではない。AIの研究開発そのものが加速し、次世代AIの能力向上がさらに速くなる状態を指す。

　ただし、Anthropicは現在のモデルがこの基準を超えたとは認定していない。今回明らかにしたのは、今後のモデルがその水準に近づいているという見通しだ。具体的な到達時期やモデル名も示していない。

　この記述は、10月26日に提出した最初の上場申請書にはなかった。11月2日の修正版で新たに加えられたもので、米テクノロジーメディアのTechCrunchも同日、AnthropicがRSIの実現に近づいていると報じた。

社内コードの9割超を作成　生産性は「45倍」に

　AIがAIを改良する循環は、すでにAnthropicの社内で始まっている。同社は上場申請書で、各世代のClaudeが次世代Claudeの開発を加速する仕組みを「closing the loop」（ループを閉じる）と呼んでいる。

　現在のClaudeは、次世代モデルの研究や学習、評価など、開発工程のさまざまな場面で利用されている。実験の実行、学習データの生成と処理、モデルの性能評価、安全性の検査、プログラムの作成とレビューなどだ。こうした作業をAIが担えば、研究者はより多くの実験を短期間に実施できる。その結果、より高性能なAIが生まれ、そのAIが次の研究開発をさらに加速する。これがRSIの基本的な仕組みだ。

　実際、Anthropicの社内ではAIによる開発作業が急速に増えている。上場申請書によると、9月には、同社のコードベースに対する貢献の90％以上をClaudeが作成した。また、エンジニア1人当たりの1日の平均コード貢献量は、2024年の平均と比べて2026年7〜9月には45倍以上になった。

　もちろん、コードの量が45倍になったからといって、AIの能力向上が45倍速くなったわけではない。それでも、AIが次世代AIの開発を支える決定的な役割を担うようになったことは確かだ。Anthropicは、こうした循環によって、同じ計算資源からより高い性能を引き出す技術的な改善も速く発見できるようになったと説明している。AIが研究開発を加速し、その成果が次世代AIをさらに高性能にする循環を、同社は競争上の強みと位置付けている。