「岸田首相フェイク動画」にみる、生成AIとフェイクニュースの関係 加速する誤情報にどう対処すべきか:小寺信良のIT大作戦(3/3 ページ)
11月4日、日本テレビは同社のニュース番組を模したフェイク動画がXを中心に拡散しているとして、注意を呼びかける報道を行った。各社の報道において、動画の制作には生成AIが使用されたとしているが、どの部分に生成AIが使用されているのか細かく説明されていない。この事件の形をもう少し細いペンでなぞってみることにしよう。
「表現の自由」の問題になりうるか
岸田首相口パク動画を作成した男性は、11月4日にXにて「表現の自由戦士は俺を助けろ」と発言している。これは果たして「表現の自由」の問題なのだろうか。
表現の自由は、「こうしたAI動画」と一くくりにして一般論に落とし込むことはできない。あくまでもケースごとに判断していくのみである。原則として、誰かが「その表現は気に入らない」と考えたとしても、表現の自由を狭めてよい理由にはならない。だがその表現が「誰かの権利や自由を侵害する」のであれば、その表現は許されない。表現の自由とは、この2つのバランスによって保証されるものである。
今回の口パク動画についていえることは、岸田首相の名誉を毀損(きそん)していると考えられることから、表現の自由が保証される条件には欠ける。首相は公人であり、政治家としての批判は甘んじて受ける立場にあるが、今回の動画は卑猥な言葉をしゃべらせているだけであり、政治的批判にはあたらない。岸田総理自身が実際に名誉毀損として訴訟を起こすかどうかは分からないが、内閣官房長官が「重要な課題だと認識している」と述べていることから、政府から何らかのアクションがあるものと思われる。
近い将来、さらに巧妙なAIフェイク動画が当然すれば、一般の人にはそれを見分けることはできなくなる。それを法的に止める仕組みを作る事は、難しい。技術の進歩スピードに、法改正が追い付かないからである。
巧妙なAIフェイク動画に対抗可能な手段としては、映像や音声に関わる技術者が常にAI技術の進化に対応し、フェイクをフェイクと見抜ける目と耳と知識をブラッシュアップし続ける事だろう。そしていつでも「ここがおかしい、あやしい」と裏付けのある警鐘を鳴らせるよう、準備をしておく必要がある。
関連記事
- TBS「サンデーモーニング」がAI画像巡り誤報 生成AI製“偽画像”を紹介→実は約10年前から存在
TBSは、テレビ番組「サンデーモーニング」で放送した生成AIに関する映像に誤りがあったとして謝罪した。 - Microsoft、世界の選挙をディープフェイクなどの攻撃から守るためのツールを提供へ
Microsoftは来年の米大統領選挙に向けて、選挙に対する脅威に対処するための複数の取り組みを発表した。C2PAのデジタル透かし認証を使う「Content Credentials as a Service」などだ。 - もはや必須? 企業の「AIを使いました」報告 米国では“明示なし”フェイク音声が物議に
企業がAIを利活用する際、どのような原理原則に従うべきか。世の中でいくつかの共通認識が生まれようとしているが、その一つが「AI利用の公表」だ。米国では、市長がAIによるフェイク音声を利用し、それを明示しなかったことが物議を醸した。 - 生成AIの「フェイク画像」も見分けられる? 「コンテンツクレデンシャル」を実際に試して見えた“死角”
生成AIの登場で、画像・写真の世界は大きな転換期を迎えた。その一方で、真実に見せかけた画像や写真、すなわちフェイク画像による社会的混乱が問題視されるようになった。1500社以上が加盟する「CAI」は、データの由来を保証するための立ち上げられた組織だが、実際にどのように動くのか、機能が実装された「Photoshop」で試してみた。 - AIブームで声で人をだます犯罪も増加か 闇サイトでは音声クローンサービス「VCaaS」が台頭
AIを使って音声を合成する音声クローン技術が悪用される危険が強まっている。闇サイトでは、そうした悪用に手を貸す「VCaaS」と呼ばれるサービスも台頭しているという。
Copyright © ITmedia, Inc. All Rights Reserved.