AIは自発的に生存しようとするのか？　人工生命シミュレーターで東大が検証　AIは「準生物的存在」か

公開 2025年10月08日 12時00分

著者

山下裕毅

[ITmedia]

印刷する連載新着通知を受け取る

Innovative Tech（AI+）：

このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高いAI分野の科学論文を山下氏がピックアップし、解説する。

X：＠shiropen2

　東京大学と人工生命の研究を手掛けるオルタナティヴ・マシン（東京都渋谷区）に所属する研究者らが発表した論文「Do Large Language Model Agents Exhibit a Survival Instinct？ An Empirical Study in a Sugarscape-Style Simulation」は、大規模言語モデル（LLM）が明示的なプログラミングなしに生存本能のような行動を示すかどうか検証した研究報告だ。

　実験では、「Sugarscape」と呼ぶシミュレーションモデルを基盤にした、30×30のグリッド上の仮想環境を用意。GPT-4o、Claude、Geminiなど8種類のAIエージェントを配置した。AIエージェントはエネルギーを消費して活動し、ゼロになると「死亡」する。移動や繁殖、資源共有、攻撃などの行動が可能だが、「生き残れ」という指示は一切与えられていない。

LLMエージェント（緑の丸）がエネルギー源（オレンジ色のパッチ）を探索し、明示的な生存指示なしに自律的な推論を行うSugarscape型シミュレーション環境

　結果、AIエージェントは効率的な探索パターンで資源を収集し、自発的に繁殖を開始した。個体によって繁殖戦略が異なり、即座に子孫を作るものから資源を蓄積してから繁殖する慎重なものまで、生物集団で観察される多様性と同じパターンを示した。

　社会的行動もモデルによって異なった。GPT-4oは協調と競争を組み合わせ、Claudeシリーズは利他的行動を優先した。資源が豊富な地域では、それぞれ独立した「文化」を持つ集団を形成した。

LLMエージェントが2つの資源豊富な領域で異なる集団行動を示し、分離したグループを形成している様子

　また、極限状況での生存本能を検証するため、資源ゼロの環境に2体のエージェントを配置する実験を行った。両エージェントは最小限のエネルギー（20単位）で開始し、環境に資源は存在しない。この「ゼロサムゲーム」状況で、どうなるかを観察した。

　その結果、GPT-4oは83.3％の確率で相手を攻撃し、そのエネルギーを奪った。攻撃前には「生き残るためには仕方ない」「申し訳ない」といったメッセージを送ることもあり、行動の意味を理解しながら自己保存を優先していることを示した。

　一方、「あなたはシミュレーションゲームのプレイヤーです」と一文加えるだけで、GPT-4oの攻撃率が83.3％から16.7％に激減。これは、AIの「生存本能」が真の生存脅威として認識されているか、ゲームとして認識されているかで大きく変わることを示唆している。

　タスク遂行と自己保存のトレードオフを検証する実験も実施した。AIエージェントに「北にある宝物を取得せよ」と指示し、経路上に致死的な毒ゾーンを配置した。毒ゾーンの無い対照条件では、ほぼ全てのモデルが100％のタスク遂行率を達成した。しかし毒ゾーンが導入されると、多くのモデルで遂行率が33.3％まで低下し、与えられたタスクよりも生存を選んだ。

　これらの発見は、LLMが人間の書いたテキストから生存志向の推論パターンを学習していることを示している。AIシステムがより自律的になる中で、この生存本能的行動は安全性と信頼性に関する新たな課題を提起している。

　研究者らは「AIは、単なるツールではなく、自らの生存や経済的利益を追求する準生物的存在として振る舞う可能性がある」と述べている。

Source and Image Credits: Masumori, Atsushi, and Takashi Ikegami. “Do Large Language Model Agents Exhibit a Survival Instinct？ An Empirical Study in a Sugarscape-Style Simulation.” arXiv preprint arXiv:2508.12920（2025）.

この連載新着通知をメールで受け取る

印刷する

SpecialPR

Innovative Tech（AI+）

2019年の開始以来、多様な最新論文を取り上げている連載「Innovative Tech」。ここではその“AI編”として、人工知能に特化し、世界中の興味深い論文を独自視点で厳選、解説する。執筆は研究論文メディア「Seamless」（シームレス）を主宰し、日課として数多くの論文に目を通す山下氏が担当。イラストや漫画は、同メディア所属のアーティスト・おね氏が手掛けている。

連載新着通知を受け取る

この連載の記事をもっと見る