Innovative Tech

「Xのアルゴリズム」は数日であなたの政治的意見を変えられる――米スタンフォード大が1000人以上で検証

　米スタンフォード大学などに所属する研究者らが発表した論文「Social Media Algorithms Can Shape Affective Polarization via Exposure to Antidemocratic Attitudes and Partisan Animosity」は、ソーシャルメディアのアルゴリズムが、数日で人々の政治的な見方を変えうることが明らかになった研究報告である。

　研究チームは、大規模言語モデル（LLM）を活用し、政治的に分極化をもたらす可能性のあるコンテンツへの影響を調べるため、リアルタイムでXのフィードを再ランク付けするアプローチを開発し、ユーザーへの影響を調査した。

　実験では、Xのユーザー1256人の協力を得て10日間実施。ブラウザ拡張機能を使用してフィードをリアルタイムでコントロールし、敵意コンテンツ投稿への接触を意図的に増減させた。

　参加者は2つの実験群に分けられ、一方は敵意コンテンツへの接触を減らし（727人）、もう一方は増やす（529人）設定にした。実験の最初の3日間は通常のフィードを見せ、その後の7日間で介入を行った。

　研究チームはまず、敵意コンテンツを自動的に識別するシステムを開発した。LLMを用いて、党派的な敵意、非民主的な慣行への支持、党派的暴力への支持、非民主的な候補者への支持、超党派的協力への反対、社会的不信感、社会的距離感、政治的事実の偏った評価という8つの要素を検出し、そのうち4つ以上を含む投稿を敵意コンテンツと分類した。

　介入期間中、接触減少群ではこれらのコンテンツをフィードの下位に移動し、接触増加群では上位に表示した。効果測定は、フィード内に直接組み込んだ調査と、実験前後のアンケートの2つの方法で行った。

　実験結果では、敵意コンテンツへの接触を減らすと、対立政党への好感度が2.11ポイント上昇し、接触を増やすと2.48ポイント低下した。これは米国における党派的敵意の約3年分の変化に相当する。また、フィード内でのリアルタイムの調査では、さらに大きな効果が観察され、接触減少群で3.24ポイントの上昇、接触増加で2.56ポイントの低下を確認できた。

　感情面での変化も顕著だった。フィード内での評価において、接触減少群では「怒り」が5.05ポイント、「悲しみ」が3.68ポイント減少。反対に接触増加群では、「怒り」が5.13ポイント、「悲しみ」が4.38ポイント増加した。ただし、ポジティブな感情には有意な変化が見られなかった。

　一方、これらの操作は従来のエンゲージメント指標（リポストやいいねの数など）に大きな影響を与えなかった。また、参加者の大多数（74.2％）が実験による介入（フィード操作）に気付かなかったと報告している。

Source and Image Credits: Piccardi, Tiziano, et al. “Social Media Algorithms Can Shape Affective Polarization via Exposure to Antidemocratic Attitudes and Partisan Animosity.” arXiv preprint arXiv:2411.14652（2024）.

Innovative Tech

2019年にスタートした本連載「Innovative Tech」は、世界中の幅広い分野から最先端の研究論文を独自視点で厳選、解説している。執筆は研究論文メディア「Seamless」（シームレス）を主宰し、日課として数多くの論文に目を通す山下氏が担当。イラストや漫画は、同メディア所属のアーティスト・おね氏が手掛けている。

この連載の記事をもっと見る

この記事の著者

関連記事

• 

  「Xの広告が変になってる」は本当か　流れてきた広告500件を集計して確かめてみた　見えてきた傾向

• 

  Bluesky、「ユーザーデータをAIのトレーニングに使わない」宣言

• 

  XのマスクCTO、「リンクはメインではなくリプライに入れろ」

• 

  キティちゃんが喫煙、暴行──“破天荒キティ”Xで出回る　中国SNS発のAI画像か　「イメージ壊れる」の声も

• 

  「SNS流行語大賞2024」発表　3位「アザラシ幼稚園」、2位「好きな◯◯発表ドラゴン」　1位は？