検索結果の「AI要約」って見てる? 2000人を対象に影響力を調査 米国チームが研究報告:Innovative Tech(AI+)
米メリーランド大学と米ワシントン大学などに所属する研究者らは、検索結果に登場するAI要約がユーザーにとってどのような影響を与えているかを調査した研究報告を発表した。
Innovative Tech(AI+):
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」(シームレス)を主宰する山下裕毅氏が執筆。新規性の高いAI分野の科学論文を山下氏がピックアップし、解説する。
X: @shiropen2
米メリーランド大学と米ワシントン大学などに所属する研究者らが発表したプレプリント論文「AI summaries in online search influence users’ attitudes」は、検索結果に登場するAI要約がユーザーにとってどのような影響を与えているかを調査した研究報告だ。
GoogleやBingといった主要な検索エンジンは、生成AIを活用した要約機能を検索結果ページに組み込むようになった。ユーザーが何かを検索すると、関連するWebページの一覧に加えて、AIが情報を要約したテキストが表示される。こうした機能は便利である一方、ユーザーの考え方や判断にどのような影響を及ぼすのだろうか。
研究では2004人の米国成人を対象に、模擬的な検索結果ページを見せる実験を行った。テーマは加熱殺菌処理をしていない牛乳や水道水へのフッ素添加、人工甘味料、遺伝子組み換え食品という、社会的に議論のある4つの健康関連トピックだ。
参加者はAI要約がある場合とない場合、要約がページ上部にある場合と中央にある場合、また要約が健康上の利益を強調する場合と害を強調する場合という異なる条件に無作為に割り当てられた。
結果、AI要約が存在すると、参加者の態度や行動意図、政策への支持は、その要約が主張する方向へと有意に移動した。つまり利益を強調する要約を見た人はそのトピックに好意的になり、害を強調する要約を見た人は否定的になったのだ。この効果はAI要約がない対照群と比較して統計的に有意であった。さらに害を強調する要約は、利益を強調する要約よりも有用だと評価された。
要約の配置位置も影響し、ページ上部に置かれた要約は、中央に置かれた場合よりも態度への影響が大きかった(行動意図と政策への支持には影響はなかった)。人は最初に接した情報に過度に依存する傾向があり、検索結果ページの冒頭に現れるAI要約がその役割を果たしたと考えられる。
トピックへのなじみが薄い人ほどAI要約の影響を強く受けた。また、AI全般への信頼が高い人ほど、要約による説得効果が大きかった。
Source and Image Credits: Yiwei Xu, Saloni Dash, Sungha Kang, Wang Liao, Emma S. Spiro. AI summaries in online search influence users’ attitudes
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
LLMに膨大な量の問題を解かせる→混乱し有害な内容をポロポロ解答 新たなジェイルブレイク攻撃、国際チームが提案
英オックスフォード大学などに所属する国際研究チームは、有害な指示の前に無害な長い推論を付加することで、AIの安全機構を巧妙に回避するジェイルブレイク攻撃を提案した研究報告を発表した。
「8bit-GPT」登場──1986年発売のレトロMacでAIチャット 入力は1行のみ 古い技術で“AIの擬人化”に問いかけ
カナダのウォータールー大学の研究者は、レトロなMacintoshコンピュータ上で動作するチャットbot「8bit-GPT」を開発した研究報告を発表した。
arXiv、コンピュータサイエンスの「レビュー論文」「ポジションペーパー」が査読なしで掲載不可に 原因は“AI生成論文の急増”
arXivがコンピュータサイエンスカテゴリーにおいて、レビュー論文(サーベイ論文)とポジションペーパーの投稿に関する運用変更を発表した。これらをarXivに投稿する前に、学術誌または会議での採択と査読プロセスの完了が必要となる。
「著作物を食うAIは違法か」に実証的な証拠か “著作物を学習したAI” vs. 専門作家で文章生成能力を検証 米国チームが発表
米ストーニーブルック大学や米コロンビア大学ロースクールなどに所属する研究者らは、著作権で保護された書籍で訓練されたAIが、専門作家よりも読者に好まれる文章を生成できることを明らかにした研究報告を発表した。
LLMの開発効率化に革新? 中国DeepSeekが「DeepSeek-OCR」発表 “テキストを画像化”でデータ圧縮
中国のDeepSeek-AIに所属する研究者らは、本や画像などをスキャンして書いてある文字をデジタルテキストデータに変換するOCR(光学文字認識)を用い、長文を画像に圧縮する技術を発表した。

