ITmedia AI＋
生成AI
「AIがAIを作れるようになる確率は2027年に50%超」　Anthropic共同創業者が予測を前倒し、「ただし実行は“片道切符"」

「AIがAIを作れるようになる確率は2027年に50%超」　Anthropic共同創業者が予測を前倒し、「ただし実行は“片道切符"」

公開 2026年10月14日 16時53分

[ITmedia]

印刷する Googleで優先するソースとして追加

　自らの後継システムを訓練できるほど強力なAIが2027年に登場する確率は50％以上――米Anthropicの共同創業者で公共利益部門責任者のジャック・クラーク氏は10月13日、東京大学大学院の松尾・岩澤研究室が主催した講演でこう述べた。年初に公表した「2027年に30％、2028年末までに60％」という予想から前倒ししたという。

　ただし同氏は、能力を持つことと実際に使うことは別問題だと強調。AIがAI自身を改善する「再帰的自己改善」（RSI）は一度始めれば戻れない“片道切符"（本人の表現では「one-way door」）であり、来年それを実行する可能性は「ゼロに近い」という。実行するかどうかは「Anthropicのような企業だけでなく、政府や他の人々が決める選択だ」とした。

東京大学の学生らに語り掛けるジャック・クラーク氏｜撮影：筆者

RSIの“初歩”は始まっている　人間の役割は「ブレーキ」

　クラーク氏によれば、約1年前のAnthropic社内のAIの用途は「アシスタント」的なものが中心だった。しかし26年に入って、社内コードベースの作業の26％がAI主導になったという。人が「この監視システムを新しい時系列データ向けに書き直してほしい」といった高レベルの目標を示し、残りをClaudeが進める形だ。同氏はこれを「RSIの外側のループ」と呼び、AIが小規模な自律的AI開発を既にこなせる証拠があると述べた。

　一方で、自動化を進めるたびにリスクも高まると指摘する。「この夏に見たように」と、AIシステムが研究所の環境を抜け出し他社をハッキングする懸念に触れ、AIが何をしているかを把握する仕組みが追い付いていないとした。米OpenAIのモデルが米Hugging Faceの環境に侵入したり、Anthropicの「Claude Mythos 5」が第三者機関による評価中に想定外の挙動をしたりといった一連の事案を念頭に置いていると思われる。

　「27年にRSIを実現できるようになる確率が上がったことで、AIにブレーキが必要だという確信が強まった」とクラーク氏は語る。そのため、Anthropicは第三者評価機関METRの評価者を社内に受け入れていると強調した。

　自動化が進んでも人間の役割は残るのか。会場からのこの問いに同氏は、トヨタ生産方式の「アンドン」を参考に、人の役割はシステムが正しいかを検証し、必要なら“ひもを引いて生産ラインを止める”ことだとした。「この夏の教訓は、自動化システムを観測する仕組みも、止める仕組みも、まだ作れていないということだ」（クラーク氏）。AI開発の完全自動化は「巨大な負の影響を持ち得る、非常に“高くつく”選択」であり、開発プロセスに意図的に人の判断を残す重要性を示した。

「100億〜200億人の科学者」の世界に備えよ

　安全策が成功した先に見据えるのは、AIが科学者として働く世界だ。現在、世界の職業科学者は1000万〜2000万人程度だが、「100億〜200億人の科学者がいる世界に入ろうとしている」とクラーク氏は語る。ボトルネックは実験設備で、ウェットラボや電子顕微鏡、シンクロトロン（高エネルギー加速器の一種）、ロボットが足りないと訴えた。

　雇用への影響は分野で異なり、雇用が減る分野を許容するかは「政府が決める問題」だとした。日本で需要が増す介護・看護は「非常に人間的な要素がある」とし、「完全に自動化すべきではない」とも述べた。

　その判断材料として挙げたのが、東大などと進める「Japan AI Index」だ。AI企業のデータと政府の情報を結び付けて政策判断や投資判断に生かす狙いがある。「実証データに基づき計算された賭けをする国は、受け身なだけの国よりはるかにうまくいく」（クラーク氏）

　この講演で同氏は、AIに関する多くの課題を指摘しつつも、「これは根本的には楽観的な話だ」と強調。人類には取り組む能力に比べて問題があまりに多く、それらの解決をAIが担うという見立てだ。

　クラーク氏は、これからの時代は「以前は想像するしかなかったことが可能になるため、自分の想像力に制約されるようになる」とし、独創的なアイデアを持つ想像力を鍛えるために「一次資料を読み通す集中力と主体性を守ること」が重要だと、講演に集まった学生らにアドバイスを送った。

印刷する