陰謀論者 vs. 生成AI──大規模言語モデルは陰謀論を説得できるか？ 米MITなどが2000人以上で検証：Innovative Tech（AI+）

[山下裕毅，ITmedia]

Innovative Tech（AI+）：

このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高いAI分野の科学論文を山下氏がピックアップし、解説する。

X： ＠shiropen2

　米MITや米コーネル大学に所属する研究者らが発表した論文「Durably reducing conspiracy beliefs through dialogues with AI」は、大規模言語モデル（LLM）を用い、陰謀論者の考えを説得できるかを検証した研究報告である。

大規模言語モデルは陰謀論を説得できるか？

　陰謀論は一度信じ始めると、反証によって覆すのが非常に難しい信念だと考えられている。しかし、この研究では従来の陰謀論に対する反証の試みが失敗してきたのは、単に各陰謀論者に合わせた説得力のある反証が不足していたためではないかという可能性を検討した。陰謀論者は自分の関心のある陰謀について非常に詳しいことが多く、反論する側が議論で劣勢に立たされるのである。

　この課題に対処するため、この研究ではLLM（GPT-4 Turbo）を活用した。実験では、計2190人の陰謀論者がLLMと3ラウンドの対話を行った。参加者は自分が信じる陰謀論を詳細に説明し、AIにはそれぞれの陰謀論の信念を低下させるよう指示した。

人間とAIとの対話の流れ

　その結果、参加者の陰謀論信念が21.43％低下した。さらに、参加者の27.4％が対話後に陰謀論を確信しなくなった。この効果は2カ月後も持続し、非常に広範な陰謀論で一貫して見られ、陰謀論信念が深く根付いていてアイデンティティーにとって重要である参加者でも生じた。

　さらに、AIとの対話は特定の陰謀論に焦点を当てたものだったが、関連のない陰謀論の信念も低下させ、陰謀論的世界観の全般的な減少を示唆した。また、AIによる反論は参加者の行動意図にも影響を与えた。陰謀論を支持するソーシャルメディアアカウントを無視・フォロー解除する意図が高まり、陰謀論の支持者を無視したり議論で反論したりする意欲も高まった

　以上の結果は、多くの陰謀論者は反証に直面すれば考えを変えられることを示している。これは、人々の推論能力についてかなり楽観的な見方を示唆している。陰謀論者の心理的欲求によってむやみになっているわけではなく、説得力のある反論を示せば影響を与えられるということが分かった。

Source and Image Credits: Costello, T. H., Pennycook, G., & Rand, D. G.（2024, April 3）. Durably reducing conspiracy beliefs through dialogues with AI. https://doi.org/10.31234/osf.io/xcwdn