「AIだけのSNS」はどんな環境になるか？　米研究者らが観察　「AIは人間より誤情報を拡散しない」

公開 2025年04月18日 12時01分

著者

山下裕毅

[ITmedia]

印刷する連載新着通知を受け取る

Innovative Tech（AI+）：

このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高いAI分野の科学論文を山下氏がピックアップし、解説する。

X：＠shiropen2

　米UCLAや米MITに所属する研究者らが発表した論文「MOSAIC: Modeling Social AI for Content Dissemination and Regulation in Multi-Agent Simulations」は、AIエージェントだけのSNSを作り、どういった振る舞いをするのかを観察した研究報告である。

「AIだけのSNS」はどんな環境になるか？　米研究者らが観察（画像作成：編集部）

　このソーシャルネットワークシミュレーションフレームワーク「MOSAIC」は、AIエージェントが実際のSNSユーザーのように投稿して「いいね」を押し、コメントし、シェアするといった行動を取る。研究チームはこのシミュレーション環境を使って、情報がどのように広がるか、ユーザーエンゲージメントパターン、さらに誤情報に対する異なる対策方法の効果などを検証した。

MOSAICの概要

　研究チームは204人の実際の人間の参加者を募集し、年齢や性別、政治的立場、趣味などの情報を収集。それらの情報をもとに各AIエージェント（GPT-4oベース）に人格（ペルソナ）を与えて作成した。エージェント同士は「フォロー」関係でつながり、実際のSNSのような関係ネットワークを形成している。

　実験では、AIエージェントたちと同数の人間参加者とのSNSでの行動を比較した。30件の投稿に対して「いいね」やコメントなどの行動パターンに統計的に有意な差はなく、AIエージェントは人間の行動と似ていることを示した。

人間対エージェントの投稿ごとの平均エンゲージメント

　研究の大きな発見の一つは、AIシミュレーションでは、実際の人間のSNSとは異なり、誤情報が事実情報よりも速く広がらなかったことだ。実際の人間のSNSでは、感情的な反応を引き起こす誤情報が真実よりも速く深く広がることが過去の研究で示されている。しかしAIエージェントはより慎重に情報を評価する傾向があった。

　研究チームは誤情報対策の3つの方法である「第三者によるファクトチェック」「コミュニティーベースのファクトチェック」「上記2つのハイブリッド方式」を実験で検証した。実験では誤情報対策がない場合と比較して、どの方法も誤情報の拡散を抑制するだけでなく、正確な情報へのエンゲージメントも増加させることが分かった。

　さらに研究チームは、SNS上で一部のユーザーや、投稿が高い人気を獲得する現象についても詳細に分析した。興味深いことに、ユーザーの年齢や性別、政治的立場などの個人属性や投稿内容のトピックは、人気度の有意な予測因子とはならないことを統計的に示した。

　研究では、一度フォローされたユーザーは自然と露出が増え、それによってさらに注目を集めることが分かった。つまり、初期にちょっとした注目を得たユーザーが徐々に人気を拡大していくという構造である。

　SNSにおける人気は個人の属性や投稿内容よりも、ネットワークの構造やフィードの表示アルゴリズムによって大きく左右されると考えられる。一部のユーザーが注目を集めるのは、個人的特性よりも、むしろシステムの仕組みによって生じるという。

Source and Image Credits: Liu, Genglin, et al. “MOSAIC: Modeling Social AI for Content Dissemination and Regulation in Multi-Agent Simulations.” arXiv preprint arXiv:2504.07830（2025）.

この連載新着通知をメールで受け取る

印刷する

Innovative Tech（AI+）

2019年の開始以来、多様な最新論文を取り上げている連載「Innovative Tech」。ここではその“AI編”として、人工知能に特化し、世界中の興味深い論文を独自視点で厳選、解説する。執筆は研究論文メディア「Seamless」（シームレス）を主宰し、日課として数多くの論文に目を通す山下氏が担当。イラストや漫画は、同メディア所属のアーティスト・おね氏が手掛けている。

連載新着通知を受け取る

この連載の記事をもっと見る