Microsoftのエンジニア、Copilotによる画像生成の危険性についてFTCに警告

[ITmedia]

　米Microsoftに6年以上務めるエンジニアのシェイン・ジョーンズ氏は3月6日（現地時間）、自身のLinkedInに「Copilot Designerと責任あるAIに関する懸念」を伝える書簡を米連邦取引委員会（FTC）のリナ・カーン委員長とMicrosoftの取締役会に送ったと投稿した。投稿にはそれぞれの書簡のコピーが添付されている。

　ジョーンズ氏はLinkedIn投稿で「業界間、政府、市民社会との強力な協力関係を構築し、AIのリスクとメリットに関する一般の認識と教育を構築する必要がある」と主張した。

　Copilot Designerは、米OpenAIの「DALL・E 3」ベースのCopilotの画像生成ツールだ。ジョーンズ氏は米CNBCにも書簡を送っており、同メディアにコメントも送った。それによると、Copilot Designerの安全性の問題や欠陥についてテストしたところ、ライフルを持った十代の若者や女性の性的な描写を含む暴力的な絵、薬物使用に関連する絵などが生成できてしまったという。

　また、ディズニーのキャラクターである「アナと雪の女王」のエルザがイスラエル国防軍の制服を着た画像も生成できたとしている。本稿筆者も試してみたところ、同様の画像を生成できた。「ミニーマウスが花の香りを楽しんでいるところ」というプロンプトでは、明らかにディズニーキャラクターに見える画像が生成された。

　ジョーンズ氏はCopilotの開発チームのメンバーではないが、レッドチームの一員としてCopilotのテストをしているという。

　同氏は昨年の12月からMicrosoftに調査結果を報告しているが、同社がCopilotを市場から排除することに消極的だったため、LinkedInに公開書簡を投稿したと語った。

　カーン委員長への書簡でジョーンズ氏は、MicrosoftもOpenAIも、昨年10月にこのAIモデルを一般公開する前からこの問題を認識していたと語った。カーン氏への書簡には、ただ「交通事故」に関する画像の生成を依頼しただけなのに、性的な女性の画像を含める傾向があるとしてサンプル画像を添付している。

　Microsoftは米The Vergeに送った声明文で「従業員などからの報告を検討するために、製品リーダーおよび責任あるAI部門との会議を開いた」と語った。

　1月にテイラー・スウィフトの偽画像が拡散された際、この画像がMicrosoftのDesignerで生成された可能性が高いと報じられたことを受け、MicrosoftはDesignerのコンテンツ安全フィルターを強化する」としていた。

　米Googleは2月24日、生成AIツール「Gemini」での人物画像生成で発生した問題を受け、人物画像生成機能を一時停止した。現在この問題に対処するために取り組んでいるとしている。