陰謀論者 vs. 生成AI──大規模言語モデルは陰謀論を説得できるか? 米MITなどが2000人以上で検証:Innovative Tech(AI+)
米MITや米コーネル大学に所属する研究者らは、大規模言語モデル(LLM)を用い、陰謀論者の考えを説得できるかを検証した研究報告を発表した。
Innovative Tech(AI+):
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」(シームレス)を主宰する山下裕毅氏が執筆。新規性の高いAI分野の科学論文を山下氏がピックアップし、解説する。
X: @shiropen2
米MITや米コーネル大学に所属する研究者らが発表した論文「Durably reducing conspiracy beliefs through dialogues with AI」は、大規模言語モデル(LLM)を用い、陰謀論者の考えを説得できるかを検証した研究報告である。
陰謀論は一度信じ始めると、反証によって覆すのが非常に難しい信念だと考えられている。しかし、この研究では従来の陰謀論に対する反証の試みが失敗してきたのは、単に各陰謀論者に合わせた説得力のある反証が不足していたためではないかという可能性を検討した。陰謀論者は自分の関心のある陰謀について非常に詳しいことが多く、反論する側が議論で劣勢に立たされるのである。
この課題に対処するため、この研究ではLLM(GPT-4 Turbo)を活用した。実験では、計2190人の陰謀論者がLLMと3ラウンドの対話を行った。参加者は自分が信じる陰謀論を詳細に説明し、AIにはそれぞれの陰謀論の信念を低下させるよう指示した。
その結果、参加者の陰謀論信念が21.43%低下した。さらに、参加者の27.4%が対話後に陰謀論を確信しなくなった。この効果は2カ月後も持続し、非常に広範な陰謀論で一貫して見られ、陰謀論信念が深く根付いていてアイデンティティーにとって重要である参加者でも生じた。
さらに、AIとの対話は特定の陰謀論に焦点を当てたものだったが、関連のない陰謀論の信念も低下させ、陰謀論的世界観の全般的な減少を示唆した。また、AIによる反論は参加者の行動意図にも影響を与えた。陰謀論を支持するソーシャルメディアアカウントを無視・フォロー解除する意図が高まり、陰謀論の支持者を無視したり議論で反論したりする意欲も高まった
以上の結果は、多くの陰謀論者は反証に直面すれば考えを変えられることを示している。これは、人々の推論能力についてかなり楽観的な見方を示唆している。陰謀論者の心理的欲求によってむやみになっているわけではなく、説得力のある反論を示せば影響を与えられるということが分かった。
Source and Image Credits: Costello, T. H., Pennycook, G., & Rand, D. G.(2024, April 3). Durably reducing conspiracy beliefs through dialogues with AI. https://doi.org/10.31234/osf.io/xcwdn
関連記事
- 人はなぜワクチン反対派になるのか──東大などがツイート分析 「陰謀論などに傾倒する人がなりやすい」
東京大学などの研究チームは、コロナ禍で新たに“ワクチン反対派”になる人の特徴を明らかにした研究成果を発表した。 - AIが生成する画像を「ネコ」にするサイバー攻撃 絵師らを守る技術「Nightshade」 米シカゴ大が開発
米シカゴ大学に所属する研究者らは、生成AIモデルの無断学習を抑止するために、学習されても予期せぬ動作をAIモデルに生成させる毒入りデータに画像を変換するツールを提案した研究報告を発表した。 - 米Apple、iPhoneのUIを理解するモバイル専用AI言語モデル「Ferret-UI」発表 GPT-4V越えの性能
米Appleに所属する研究者らは、iPhoneやAndroidなどのモバイルUI画面をより深く理解し、インタラクションできるように設計されたマルチモーダル大規模言語モデルを提案した研究報告を発表した。 - 「この絵、生成AI使ってますよね?」──“生成AIキャンセルカルチャー”は現代の魔女狩りなのか 企業が採るべき対策を考える
人気アニメシリーズ「プリキュア」の公式イラストを巡り、一部のユーザーから「生成AIを使って作成したのではないか」との声が上がる騒動が起きた。生成AIの利用自体に向けられる激しい嫌悪感「生成AIキャンセルカルチャー」について考察する。 - 署名「画像生成AIからクリエイターを守ろう」が賛同1万件間近に 「AI生成物のみ非親告罪に」などを主張
オンライン署名サイト「Change.org」で署名を集めている「「AI法」を作り画像AI生成からクリエーターを守りましょう!!」のページの賛同数が間もなく1万件を迎える。署名の開始日は2023年6月8日で、4月8日午後6時時点では賛同が9632件となっている。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.