陰謀論者 vs. 生成AI──大規模言語モデルは陰謀論を説得できるか？　米MITなどが2000人以上で検証

公開 2024年04月19日 12時00分

著者

山下裕毅

[ITmedia]

印刷する連載新着通知を受け取る Googleで優先するソースとして追加

Innovative Tech（AI+）：

このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高いAI分野の科学論文を山下氏がピックアップし、解説する。

X：＠shiropen2

　米MITや米コーネル大学に所属する研究者らが発表した論文「Durably reducing conspiracy beliefs through dialogues with AI」は、大規模言語モデル（LLM）を用い、陰謀論者の考えを説得できるかを検証した研究報告である。

大規模言語モデルは陰謀論を説得できるか？

　陰謀論は一度信じ始めると、反証によって覆すのが非常に難しい信念だと考えられている。しかし、この研究では従来の陰謀論に対する反証の試みが失敗してきたのは、単に各陰謀論者に合わせた説得力のある反証が不足していたためではないかという可能性を検討した。陰謀論者は自分の関心のある陰謀について非常に詳しいことが多く、反論する側が議論で劣勢に立たされるのである。

　この課題に対処するため、この研究ではLLM（GPT-4 Turbo）を活用した。実験では、計2190人の陰謀論者がLLMと3ラウンドの対話を行った。参加者は自分が信じる陰謀論を詳細に説明し、AIにはそれぞれの陰謀論の信念を低下させるよう指示した。

人間とAIとの対話の流れ

　その結果、参加者の陰謀論信念が21.43％低下した。さらに、参加者の27.4％が対話後に陰謀論を確信しなくなった。この効果は2カ月後も持続し、非常に広範な陰謀論で一貫して見られ、陰謀論信念が深く根付いていてアイデンティティーにとって重要である参加者でも生じた。

　さらに、AIとの対話は特定の陰謀論に焦点を当てたものだったが、関連のない陰謀論の信念も低下させ、陰謀論的世界観の全般的な減少を示唆した。また、AIによる反論は参加者の行動意図にも影響を与えた。陰謀論を支持するソーシャルメディアアカウントを無視・フォロー解除する意図が高まり、陰謀論の支持者を無視したり議論で反論したりする意欲も高まった

　以上の結果は、多くの陰謀論者は反証に直面すれば考えを変えられることを示している。これは、人々の推論能力についてかなり楽観的な見方を示唆している。陰謀論者の心理的欲求によってむやみになっているわけではなく、説得力のある反論を示せば影響を与えられるということが分かった。

Source and Image Credits: Costello, T. H., Pennycook, G., & Rand, D. G.（2024, April 3）. Durably reducing conspiracy beliefs through dialogues with AI. https://doi.org/10.31234/osf.io/xcwdn

この連載新着通知をメールで受け取る

印刷する

SpecialPR

Innovative Tech（AI+）

2019年の開始以来、多様な最新論文を取り上げている連載「Innovative Tech」。ここではその“AI編”として、人工知能に特化し、世界中の興味深い論文を独自視点で厳選、解説する。執筆は研究論文メディア「Seamless」（シームレス）を主宰し、日課として数多くの論文に目を通す山下氏が担当。イラストや漫画は、同メディア所属のアーティスト・おね氏が手掛けている。

連載新着通知を受け取る

この連載の記事をもっと見る