画像生成AIが独自の“AI語”を生み出した？　「DALL-E 2」を巡って、米テキサス大学が論文発表

公開 2022年06月01日 18時02分

更新 2022年06月01日 06時02分

[ITmedia]

印刷する

　AIが人間の言葉ではない独自の言語を生成した──米テキサス大学オースティン校の研究チームは6月1日、そのような研究結果を示す論文を発表した。文章から画像を生成するAIが生み出す文字列は、意味不明なものであると思われていたが、それらの言葉は鳥や野菜などの意味を持つ“AI語”であったという。

　論文で取り上げられたのは、米AI研究企業OpenAIが開発した「DALL-E 2」。文章から画像を生成するAIとして開発され、22年4月に発表された。その生成した画像のクオリティーの高さに「最新のAIやばすぎる」「個展開ける」など、驚きの声が上がっていた。

DALL-E 2が作成した画像（「An astronaut riding a horse in a photorealistic style」と入力）

　一方「野菜と書かれた本がある」や「10カ国語で書かれた野菜という言葉」など、画像中に文言を入れるリクエストは苦手であるという。例えば「 “Two farmers talking about vegetables, with subtitles.」（野菜について話す2人の農夫（字幕付き））と入力すると、2人の農夫の画像は生成できるが、字幕には「Vicootes」や「Apoploe vesrreaitais」など意味不明な文字列を提示した。

「Two farmers talking about vegetables, with subtitles.」で出力した画像

　しかし研究チームは、多くの場合でこれらの文字列は画像中に表示するはずの単語と強い相関があると指摘。DALL-E 2に「Vicootes」と入力すると野菜の画像を、「Apoploe vesrreaitais」では鳥の画像を生成したという。つまり2人の農夫の画像では“野菜に害を与える鳥”について話す字幕を、AIの独自言語で表示していた可能性があるとしている。

「Vicootes」で出力した画像

「Apoploe vesrreaitais」で出力した画像

　また、DALL-E 2は生成する画像の画風を指示できる機能を持つ。これがAIの独自言語でも有効か、「Apoploe vesrreaitais」で検証したところ、鳥だけではなく飛翔する虫の画像も生成した。画風を変えた場合でも「飛ぶもの」という視覚的なコンセプトは維持されており、研究チームでは「adversarial」（敵対者）を示す言葉ではないかと推察している。