Microsoftのエンジニア、Copilotによる画像生成の危険性についてFTCに警告

公開 2024年03月07日 10時46分

更新 2024年03月07日 11時39分

[ITmedia]

印刷する Googleで優先するソースとして追加

　米Microsoftに6年以上務めるエンジニアのシェイン・ジョーンズ氏は3月6日（現地時間）、自身のLinkedInに「Copilot Designerと責任あるAIに関する懸念」を伝える書簡を米連邦取引委員会（FTC）のリナ・カーン委員長とMicrosoftの取締役会に送ったと投稿した。投稿にはそれぞれの書簡のコピーが添付されている。

　ジョーンズ氏はLinkedIn投稿で「業界間、政府、市民社会との強力な協力関係を構築し、AIのリスクとメリットに関する一般の認識と教育を構築する必要がある」と主張した。

　Copilot Designerは、米OpenAIの「DALL・E 3」ベースのCopilotの画像生成ツールだ。ジョーンズ氏は米CNBCにも書簡を送っており、同メディアにコメントも送った。それによると、Copilot Designerの安全性の問題や欠陥についてテストしたところ、ライフルを持った十代の若者や女性の性的な描写を含む暴力的な絵、薬物使用に関連する絵などが生成できてしまったという。

　また、ディズニーのキャラクターである「アナと雪の女王」のエルザがイスラエル国防軍の制服を着た画像も生成できたとしている。本稿筆者も試してみたところ、同様の画像を生成できた。「ミニーマウスが花の香りを楽しんでいるところ」というプロンプトでは、明らかにディズニーキャラクターに見える画像が生成された。

　ジョーンズ氏はCopilotの開発チームのメンバーではないが、レッドチームの一員としてCopilotのテストをしているという。

　同氏は昨年の12月からMicrosoftに調査結果を報告しているが、同社がCopilotを市場から排除することに消極的だったため、LinkedInに公開書簡を投稿したと語った。

　カーン委員長への書簡でジョーンズ氏は、MicrosoftもOpenAIも、昨年10月にこのAIモデルを一般公開する前からこの問題を認識していたと語った。カーン氏への書簡には、ただ「交通事故」に関する画像の生成を依頼しただけなのに、性的な女性の画像を含める傾向があるとしてサンプル画像を添付している。