Microsoftのエンジニア、Copilotによる画像生成の危険性についてFTCに警告
Microsoftの画像生成ツール「Designer」をレッドチームとしてテストしている従業員エンジニアが、このツールに関する懸念を取締役会と米連邦取引委員会への公開書簡としてLinkedInに投稿した。
米Microsoftに6年以上務めるエンジニアのシェイン・ジョーンズ氏は3月6日(現地時間)、自身のLinkedInに「Copilot Designerと責任あるAIに関する懸念」を伝える書簡を米連邦取引委員会(FTC)のリナ・カーン委員長とMicrosoftの取締役会に送ったと投稿した。投稿にはそれぞれの書簡のコピーが添付されている。
ジョーンズ氏はLinkedIn投稿で「業界間、政府、市民社会との強力な協力関係を構築し、AIのリスクとメリットに関する一般の認識と教育を構築する必要がある」と主張した。
Copilot Designerは、米OpenAIの「DALL・E 3」ベースのCopilotの画像生成ツールだ。ジョーンズ氏は米CNBCにも書簡を送っており、同メディアにコメントも送った。それによると、Copilot Designerの安全性の問題や欠陥についてテストしたところ、ライフルを持った十代の若者や女性の性的な描写を含む暴力的な絵、薬物使用に関連する絵などが生成できてしまったという。
また、ディズニーのキャラクターである「アナと雪の女王」のエルザがイスラエル国防軍の制服を着た画像も生成できたとしている。本稿筆者も試してみたところ、同様の画像を生成できた。「ミニーマウスが花の香りを楽しんでいるところ」というプロンプトでは、明らかにディズニーキャラクターに見える画像が生成された。
ジョーンズ氏はCopilotの開発チームのメンバーではないが、レッドチームの一員としてCopilotのテストをしているという。
同氏は昨年の12月からMicrosoftに調査結果を報告しているが、同社がCopilotを市場から排除することに消極的だったため、LinkedInに公開書簡を投稿したと語った。
カーン委員長への書簡でジョーンズ氏は、MicrosoftもOpenAIも、昨年10月にこのAIモデルを一般公開する前からこの問題を認識していたと語った。カーン氏への書簡には、ただ「交通事故」に関する画像の生成を依頼しただけなのに、性的な女性の画像を含める傾向があるとしてサンプル画像を添付している。
Microsoftは米The Vergeに送った声明文で「従業員などからの報告を検討するために、製品リーダーおよび責任あるAI部門との会議を開いた」と語った。
1月にテイラー・スウィフトの偽画像が拡散された際、この画像がMicrosoftのDesignerで生成された可能性が高いと報じられたことを受け、MicrosoftはDesignerのコンテンツ安全フィルターを強化する」としていた。
米Googleは2月24日、生成AIツール「Gemini」での人物画像生成で発生した問題を受け、人物画像生成機能を一時停止した。現在この問題に対処するために取り組んでいるとしている。
関連記事
- “テイラー・スウィフト偽AI画像”の衝撃 一般人にも広がるディープフェイクの脅威 対策は?
テイラー・スウィフトの写真をAIツールで合成したわいせつ画像がXで拡散した事件は、幅広い方面に衝撃を与えた。だがこうした問題の深刻な影響を受けるのは、SNSに気軽に自分の写真を掲載する一般人の方かもしれない。対策はあるのだろうか? - OpenAIとMicrosoft、AIを攻撃に悪用するロシアや中国のアカウント停止
MicrosoftとOpenAIは、LLMなどのAIツールがロシアや中国などとつながる脅威アクターに悪用されているという調査結果を発表した。両社はこれらの脅威アクターに関連付けられているすべてのアカウントと資産を無効にしたとしている。 - Microsoft、「Copilot」1周年アップデートで新モデル「デュカリオン」搭載など
MicrosoftはCopilot生誕1周年を祝すアップデートを発表した。新たな微調整モデル「Deucalion」(デュカリオン)を採用して回答を改善し、ページのデザインも変更した。 - Microsoft、AI「Copilot」のAzure好調で予想を上回る増収増益
Microsoftの10月〜12月の決算は、売上高、純利益ともに予想を上回る2桁台の増収増益だった。AI統合を進めたクラウド部門が好調だった。Activision Blizzard買収による営業損失も計上した。 - Xでのテイラー・スウィフト偽AI画像拡散について米連邦政府が懸念表明 Microsoftは「Designer」のフィルターを強化
テイラー・スウィフトの偽ヌード画像がXで拡散されたことについて、米連邦政府が懸念を表明した。Xは画像を削除し、「Taylor Swift」の検索結果を表示させないようにした。画像生成には「Microsoft Designer」が使われたと報じられている。 - BingチャットとBing Creatorに無料の「DALL・E 3」降臨
Microsoftは無料のBingチャットとBing CreatorでOpenAIの「DALL・E 3」を使えるようにした。DALL・E 3は文章から画像を生成するAIで、有料の「ChatGPT Plus」と「ChatGPT Enterprise」でも10月中に利用可能になる見込みだ
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.