画像生成AIが独自の“AI語”を生み出した？ 「DALL-E 2」を巡って、米テキサス大学が論文発表

[松浦立樹，ITmedia]

　AIが人間の言葉ではない独自の言語を生成した──米テキサス大学オースティン校の研究チームは6月1日、そのような研究結果を示す論文を発表した。文章から画像を生成するAIが生み出す文字列は、意味不明なものであると思われていたが、それらの言葉は鳥や野菜などの意味を持つ“AI語”であったという。

　論文で取り上げられたのは、米AI研究企業OpenAIが開発した「DALL-E 2」。文章から画像を生成するAIとして開発され、22年4月に発表された。その生成した画像のクオリティーの高さに「最新のAIやばすぎる」「個展開ける」など、驚きの声が上がっていた。

　（関連記事：最新AIの描く絵が「ヤバすぎ」「個展開ける」と話題　文章から画像を生成する「DALL・E 2」、米OpenAIが発表）

DALL-E 2が作成した画像（「An astronaut riding a horse in a photorealistic style」と入力）

　一方「野菜と書かれた本がある」や「10カ国語で書かれた野菜という言葉」など、画像中に文言を入れるリクエストは苦手であるという。例えば「 “Two farmers talking about vegetables, with subtitles.」（野菜について話す2人の農夫（字幕付き））と入力すると、2人の農夫の画像は生成できるが、字幕には「Vicootes」や「Apoploe vesrreaitais」など意味不明な文字列を提示した。

「Two farmers talking about vegetables, with subtitles.」で出力した画像

　しかし研究チームは、多くの場合でこれらの文字列は画像中に表示するはずの単語と強い相関があると指摘。DALL-E 2に「Vicootes」と入力すると野菜の画像を、「Apoploe vesrreaitais」では鳥の画像を生成したという。つまり2人の農夫の画像では“野菜に害を与える鳥”について話す字幕を、AIの独自言語で表示していた可能性があるとしている。

「Vicootes」で出力した画像

「Apoploe vesrreaitais」で出力した画像

　また、DALL-E 2は生成する画像の画風を指示できる機能を持つ。これがAIの独自言語でも有効か、「Apoploe vesrreaitais」で検証したところ、鳥だけではなく飛翔する虫の画像も生成した。画風を変えた場合でも「飛ぶもの」という視覚的なコンセプトは維持されており、研究チームでは「adversarial」（敵対者）を示す言葉ではないかと推察している。

画風を変えて「Apoploe vesrreaitais」を出力した結果、一部は飛翔する虫の画像（下）になったという

　研究チームは、AIが生み出した意味不明な言葉は、バックドアなどのサイバー攻撃や、不適切な画像を生み出さないように設置したフィルターを回避するために使われる可能性があると指摘。セキュリティの観点からも、さらなる研究が必要としている。