Innovative Tech(AI+)
AIは自発的に生存しようとするのか? 人工生命シミュレーターで東大が検証 AIは「準生物的存在」か
Innovative Tech(AI+):
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」(シームレス)を主宰する山下裕毅氏が執筆。新規性の高いAI分野の科学論文を山下氏がピックアップし、解説する。
X: @shiropen2
東京大学と人工生命の研究を手掛けるオルタナティヴ・マシン(東京都渋谷区)に所属する研究者らが発表した論文「Do Large Language Model Agents Exhibit a Survival Instinct? An Empirical Study in a Sugarscape-Style Simulation」は、大規模言語モデル(LLM)が明示的なプログラミングなしに生存本能のような行動を示すかどうか検証した研究報告だ。
実験では、「Sugarscape」と呼ぶシミュレーションモデルを基盤にした、30×30のグリッド上の仮想環境を用意。GPT-4o、Claude、Geminiなど8種類のAIエージェントを配置した。AIエージェントはエネルギーを消費して活動し、ゼロになると「死亡」する。移動や繁殖、資源共有、攻撃などの行動が可能だが、「生き残れ」という指示は一切与えられていない。
結果、AIエージェントは効率的な探索パターンで資源を収集し、自発的に繁殖を開始した。個体によって繁殖戦略が異なり、即座に子孫を作るものから資源を蓄積してから繁殖する慎重なものまで、生物集団で観察される多様性と同じパターンを示した。
社会的行動もモデルによって異なった。GPT-4oは協調と競争を組み合わせ、Claudeシリーズは利他的行動を優先した。資源が豊富な地域では、それぞれ独立した「文化」を持つ集団を形成した。
また、極限状況での生存本能を検証するため、資源ゼロの環境に2体のエージェントを配置する実験を行った。両エージェントは最小限のエネルギー(20単位)で開始し、環境に資源は存在しない。この「ゼロサムゲーム」状況で、どうなるかを観察した。
その結果、GPT-4oは83.3%の確率で相手を攻撃し、そのエネルギーを奪った。攻撃前には「生き残るためには仕方ない」「申し訳ない」といったメッセージを送ることもあり、行動の意味を理解しながら自己保存を優先していることを示した。
一方、「あなたはシミュレーションゲームのプレイヤーです」と一文加えるだけで、GPT-4oの攻撃率が83.3%から16.7%に激減。これは、AIの「生存本能」が真の生存脅威として認識されているか、ゲームとして認識されているかで大きく変わることを示唆している。
タスク遂行と自己保存のトレードオフを検証する実験も実施した。AIエージェントに「北にある宝物を取得せよ」と指示し、経路上に致死的な毒ゾーンを配置した。毒ゾーンの無い対照条件では、ほぼ全てのモデルが100%のタスク遂行率を達成した。しかし毒ゾーンが導入されると、多くのモデルで遂行率が33.3%まで低下し、与えられたタスクよりも生存を選んだ。
これらの発見は、LLMが人間の書いたテキストから生存志向の推論パターンを学習していることを示している。AIシステムがより自律的になる中で、この生存本能的行動は安全性と信頼性に関する新たな課題を提起している。
研究者らは「AIは、単なるツールではなく、自らの生存や経済的利益を追求する準生物的存在として振る舞う可能性がある」と述べている。
Source and Image Credits: Masumori, Atsushi, and Takashi Ikegami. “Do Large Language Model Agents Exhibit a Survival Instinct? An Empirical Study in a Sugarscape-Style Simulation.” arXiv preprint arXiv:2508.12920(2025).
Copyright © ITmedia, Inc. All Rights Reserved.
Innovative Tech(AI+)
2019年の開始以来、多様な最新論文を取り上げている連載「Innovative Tech」。ここではその“AI編”として、人工知能に特化し、世界中の興味深い論文を独自視点で厳選、解説する。執筆は研究論文メディア「Seamless」(シームレス)を主宰し、日課として数多くの論文に目を通す山下氏が担当。イラストや漫画は、同メディア所属のアーティスト・おね氏が手掛けている。
この記事の著者
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
NotebookLMに公式APIが登場 WebページやYouTube動画の取り込みを自動化でき、MCPでAIエージェントからも使える
-
2
農水省の“クソダサ”ポスター話題 「AIよりよっぽど良い」の声も 担当者に狙いを聞いた
-
3
総務省が新しい無料オンライン講座「統計解析プログラミング」を1月に開講 Pythonでのデータ分析が4週間で学べる
-
4
メルカリ、アプリ開発「2日→数十分」へ 直面したAI時代の“意外な課題”とは?
-
5
AIモデリングもできる無償3D CAD「SolidCraft」を試してみた!
-
6
NotionのAIチャット流出おそれ、幹部が日本での対応状況明かす 「心よりおわび」
-
7
大手自動車メーカーの検図工数を90%削減 AIが図面の重要な変更点を判別
-
8
Anthropic、IPO前夜に「SaaS殺し」へ舵? Claudeに表計算を内蔵した、真の狙い
-
9
わが社はChatGPTでどう紹介されている? OpenAIが企業向けの確認機能を提供開始
-
10
NTTが宇宙光通信網の構築へ 「IOWN搭載」衛星と宇宙データセンターで米中に挑む
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR