Microsoft、中国のAIによる選挙操作を具体例で再警告
Microsoftは、中国が地政学的利益を高めるために世界の有権者の分断化を実験し、AIコンテンツを強化していると警告した。台湾総統選挙中にSNSに投稿された偽画像などの具体例を紹介している。
米Microsoftは4月4日(現地時間)、中国が地政学的利益を高めるために世界の有権者の分断化を実験し、AIコンテンツを強化していると公式ブログで警告した。
Microsoftによると、中国はSNSの偽アカウントで既に分断化してるテーマに関するアンケートを行い、分断を助長し、米国、韓国、インドなどで年内に予定されている選挙の結果に有利な影響を与える可能性があるという。
同社の脅威分析センター(MTAC)は同日公開した報告書(PDF)で、こうしたコンテンツがユーザーに与える影響は依然として低いが、コンテンツを増強する実験が増えており、将来的には効果的になる可能性があるとしている。
中国は既に、Microsoftが「Storm 1376」と呼ぶグループを使って、1月の台湾総統選挙でAIによる偽情報キャンペーンを実施したという。例えば、11月に出馬を取りやめたテリー・ゴウ氏が別の候補者を支持する偽の音声がYouTubeに投稿され(YouTubeがすぐに削除した)たが、これをAIで生成した可能性が高いという。中国政府が支持しないウィリアム・ライ氏についても、ライ氏が資金横領したなどの根拠のないうわさをAIで生成して拡散させたという(最終的には当選した)。
Storm 1376はこの他、米国や日本の評価を落とす可能性のある出来事に「日和見的に飛びつき」、AIによる偽情報を流したという。
例えば、処理済み放射性廃水(ALPS処理水)を太平洋に流すという日本政府の決定について、これは米国が水の覇権を維持するために他国の水を意図的に汚染していると非難する多言語によるキャンペーンを展開したとしている。
Microsoftは、世界的な選挙イヤーとなる2024年に、中国が自国の利益を図るためにAI生成コンテンツの活用を強化すると警告する。
同社は昨年11月にも世界の選挙をディープフェイクなどの攻撃から守るための取り組みを発表している。
関連記事
- Instagram、Facebook、ThreadsのAI生成画像のラベル表示、5月から本格化
Metaは、、Instagram、Facebook、Threads上に投稿されたAI生成画像への「Made with AI」ラベル表示を5月から本格化させると発表した。7月からは、ガイドラインに反していないAI生成コンテンツの削除を停止する。 - Microsoftのエンジニア、Copilotによる画像生成の危険性についてFTCに警告
Microsoftの画像生成ツール「Designer」をレッドチームとしてテストしている従業員エンジニアが、このツールに関する懸念を取締役会と米連邦取引委員会への公開書簡としてLinkedInに投稿した。 - Google、Microsoft、MetaなどIT系20社、選挙イヤーでのAI悪用阻止協定
GoogleやMicrosoftなど大手IT企業20社のグループがミュンヘン安全保障会議で、世界で行われる選挙でのAI悪用と戦うための技術協定を発表した。2024年は40以上の国、40億人以上の人々が選挙に参加する。 - “テイラー・スウィフト偽AI画像”の衝撃 一般人にも広がるディープフェイクの脅威 対策は?
テイラー・スウィフトの写真をAIツールで合成したわいせつ画像がXで拡散した事件は、幅広い方面に衝撃を与えた。だがこうした問題の深刻な影響を受けるのは、SNSに気軽に自分の写真を掲載する一般人の方かもしれない。対策はあるのだろうか? - OpenAIとMicrosoft、AIを攻撃に悪用するロシアや中国のアカウント停止
MicrosoftとOpenAIは、LLMなどのAIツールがロシアや中国などとつながる脅威アクターに悪用されているという調査結果を発表した。両社はこれらの脅威アクターに関連付けられているすべてのアカウントと資産を無効にしたとしている。 - Microsoft、世界の選挙をディープフェイクなどの攻撃から守るためのツールを提供へ
Microsoftは来年の米大統領選挙に向けて、選挙に対する脅威に対処するための複数の取り組みを発表した。C2PAのデジタル透かし認証を使う「Content Credentials as a Service」などだ。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.