根拠の大半は「黒塗り」　AIはAI開発を加速しているか、第三者機関がAnthropic内部を調査（1/2 ページ）

　AIのリスク評価を手掛ける米国の非営利研究機関METRは11月5日、米Anthropicの協力を得て「AIがAI開発を加速させているかどうか」を評価したレポートを公開した。これによると、AIの能力向上のペースはAIによって加速している可能性が高いという。METRはその結論の証拠として「最も有益」な部分の多くは、公開前にAnthropicによって「黒塗りされた」としている。

　METRは今回の調査で、（1）加速は発生しているか、（2）それがAIに起因するか、（3）近未来の加速の阻害要因はあるか、の3点について検討した。同機関によると、Anthropicは事前学習から強化学習まで、同社のAI開発パイプライン全体にわたる広範な証拠を共有し、協力したという。

　（1）についてMETRは、明確に定義されたタスクにおけるAIの能力向上ペースが、10月時点で24年3月～25年10月の約2倍になる可能性が高く、「1.3～3倍になっても驚かない」とした。その根拠としてAnthropicが実施しているベンチマークテスト（AECI）のスコアが1.9倍になっていることなどを挙げた。

　（2）については、この能力向上の大部分が、研究開発におけるAIの利用に起因している可能性が高いとした。この点についてAnthropicの従業員へのインタビュー調査では、AIが「劇的な生産性向上」をもたらしたという声がある一方、「最も重要な部分」はまだ自動化されていないという指摘もあったという。METRは、現在のAIの開発加速がモデル学習のコンピューティング性能向上によるものではないという点については「自信を持っている」とした。

　（3）については近い将来、アルゴリズムの進歩や、学習におけるコンピューティング性能、データなどについてAI開発の明確なボトルネックはなく、今後1年間でさらに開発が加速する可能性があるとした。限られた視点からの分析のためボトルネックを見逃している可能性があるとも注釈している。

　METRは当初、100ページにわたる完全版の報告書をAnthropicに提出。しかし、上記の結論に最も影響を与えた証拠の大部分がAnthropicによって公開版レポートから削除されたとしており、公開版レポートの結論はMETR独自の判断による部分が大きいとしている。Anthropicは今回の黒塗りについて「他のAI開発者の進歩を加速させる可能性のある機密情報を削除するため」と説明している。

関連記事

• 

  「AIがAIを作れるようになる確率は2027年に50%超」　Anthropic共同創業者が予測を前倒し、「ただし実行は“片道切符"」

• 

  「現代AIの父」シュミットフーバー氏がSakana AIに参画　RSI研究のアドバイザーに

• 

  AIがAIを作る時代の到来か──Anthropicが示す「再帰的自己改善」の実態とリスク