「＠grok ファクトチェック」は本当に正しい？ 迫る参院選、偽情報に踊らされないSNS・AIの付き合い方：マスクド・アナライズの「AIしてま〜す！」（2/4 ページ）

[マスクド・アナライズ，ITmedia]

　SNSや動画投稿サイトは個人に合わせた情報を選別してくれるので、良くも悪くも自分が欲しい情報ばかりになります。これを利用すれば、政党にとって都合の良い情報を発信して、支持者が都合の良く解釈して支持する流れも作ることができます。そのため否定的な意見や第三者の助言を受け付けず、偏った意見に集中してしまいます。

　しかし“自分の視点だけで共感を集めている人が正しい”とは限らず、“話題性があれば正しい”ともいえません。このような偏った視点に陥らないように、ファクトチェックによって根拠のある事実であるかを見極める必要があります。

人気と話題性があれば正しい？　AI絶許党とチームでじたるの比較　

生成AIはファクトチェックで役立つか？

　SNS上で散見されるファクトチェックとしては、Xの生成AIである「Grok」によるものがあります。画面上で「＠grok　ファクトチェック」という投稿を見かける人も多いでしょう。この方法によるファクトチェックは、間違っている場合もあるので注意が必要です。

　Grokが回答するために参考にするデータはXを含むインターネット上にある情報が中心です。これらの情報は必ずしも正確ではなく正確性を担保するにはデータ量や根拠が乏しい場合もあります。さらにGrokを含めた生成AIの特徴として、回答する文章を類推しながら答えを生成します。そのため生成AIに情報の真偽は判別できず、間違った回答を行う可能性があります。

生成AIによる学習と回答の仕組み

　生成AIが回答を生成する仕組みであるアルゴリズムは、利用者には分かりません。そのため、特定の主義主張に誘導する仕組みが含まれれば印象操作となります。さらに生成AIの多くは海外で開発されており、日本語の情報、日本の政治や社会制度、歴史的背景や地域の現状について、どの程度把握しているかは問題視されます。

　根拠がない情報でもインターネット上にまん延した結果、多数派の意見なので正しいと判断されればどうなるでしょう。「うそも100回言えば真実になる」が現実となります。また、発言が第三者によって切り抜き動画で編集されたり、動画投稿サイトで注目を集めやすい言葉や画像を仕込んだ「釣りサムネ」を作られたり、加工された情報もまん延します。生成AIを使えば、画像や音声、動画を捏造できるので、印象操作も可能です。

　こうしてファクトチェックによる判断が難しくなればなるほど、意思決定を誰かに委ねたくなります。そこで生成AIを使えば「候補者の〇〇に投票しろ、生成AIが言っている」と任せることができます。既に一部の人たちの間では、生成AIを無条件に信用する傾向も見られており、Z世代の子どもを持つ親からは「ウチの子は親の助言よりも生成AIの回答を信用してる」と嘆くほどです。

　一方、生成AIにおける信頼性を高めるため、回答結果に情報源を示すなどの対策も行われています。さらに大量のデータを手動で調べるのは大変ですが、生成AIであれば自動で行ってくれるため、効率化を支援する場合もあります。つまり「生成AIはうそをつくから信用できない」と単純に片付けるのではなく、効果的に使える場面を考えることが重要です。

正しいファクトチェックとは何か？

　それではファクトチェックをする上で心掛けておくべき点とは何でしょうか。まずは候補者の公式SNSや動画投稿サイトで公開された発言や言動であるかが重要です。「（本人以外の）SNSや動画投稿サイトで発信されていた」「（本人以外の人物が）〇〇だと主張していた」では、信用できません。SNSや動画投稿サイトは、第三者が意図的かつ簡単に根拠のない情報を流布できるためです。