Xでのテイラー・スウィフト偽AI画像拡散について米連邦政府が懸念表明 Microsoftは「Designer」のフィルターを強化
テイラー・スウィフトの偽ヌード画像がXで拡散されたことについて、米連邦政府が懸念を表明した。Xは画像を削除し、「Taylor Swift」の検索結果を表示させないようにした。画像生成には「Microsoft Designer」が使われたと報じられている。
米大統領報道官のカリーヌ・ジャンピエール氏は1月26日(現地時間)、最近米Xのプラットフォーム上で拡散されたテイラー・スウィフトの偽画像についての質問に答え「憂慮すべきことだ。この問題に対処する法律があるべきだ」と語った。
問題の画像は、先週初めごろからXで拡散された。米The New York Timesによると、25日にアカウントが停止されるまでに4700万回閲覧された。
米404 Mediaによると、この画像は米Microsoftが無料プレビューを公開している画像生成AI「Microsoft Designer」で生成したものである可能性が高いという。
Xは25日、具体的な画像については言及せず、「同意のないヌード(NCN)画像の投稿は厳しく禁止されており、そのようなコンテンツに対しては一切容認しないポリシーを採用している」とポストした。
その後、X上で「Taylor Swift」を検索すると、結果が表示されなくなった。ただし、「テイラー・スウィフト」などでは関連ポストが表示される。
Microsoft Designerが使われた可能性があるという報道を受け、Microsoftは米NBC Newsなどに対し「これらの報告を非常に真剣に受け止めており、すべての人に安全な体験を提供することに尽力している。当社ではこれらの報告に含まれる露骨な画像を再現できなかった。これまでのところ、コンテンツ安全フィルターがバイパスされた証拠は見つかっていない。細心の注意を払ってフィルターを強化し、サービス悪用に対処するための措置を講じた」という声明文を送った。
関連記事
- 「岸田首相フェイク動画」にみる、生成AIとフェイクニュースの関係 加速する誤情報にどう対処すべきか
11月4日、日本テレビは同社のニュース番組を模したフェイク動画がXを中心に拡散しているとして、注意を呼びかける報道を行った。各社の報道において、動画の制作には生成AIが使用されたとしているが、どの部分に生成AIが使用されているのか細かく説明されていない。この事件の形をもう少し細いペンでなぞってみることにしよう。 - もはや必須? 企業の「AIを使いました」報告 米国では“明示なし”フェイク音声が物議に
企業がAIを利活用する際、どのような原理原則に従うべきか。世の中でいくつかの共通認識が生まれようとしているが、その一つが「AI利用の公表」だ。米国では、市長がAIによるフェイク音声を利用し、それを明示しなかったことが物議を醸した。 - 「DALL・E 2」採用の新デザインアプリ「Microsoft Designer」無料プレビュー開始
MicrosoftはOpenAIの画像生成AI「DALL・E 2」採用のWebアプリ「Microsoft Designer」を発表した。テキストと画像を使ってInstagram投稿用コンテンツやパンフレットなどをデザインできる。Bingで無料で使える「Image Creator」も発表した。 - 「写真付きフェイクニュース」大量発生時代の幕開けか 静岡水害の“偽画像”問題を考える
「ドローンで撮影した静岡県の水害の画像」と称し、画像生成AIで作った偽の水害画像がTwitterで拡散。フェイクニュースにオリジナルの「フェイク画像」を簡単に添付できる時代が到来している。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.