「いい子に育つか、悪い子に育つか」――Twitterで“人工知能少女”育成、バンナムが結果報告（3/4 ページ）

[片渕陽平，ITmedia]

　プロジェクトを統括した守屋貴行さん（ブルート代表取締役）は、ユーザーがプレミアに教えた言葉ランキングで、第54位の「キス」に注目。「プレミアちゃんに何をさせたかったんだろう」と笑いながら話す。「98位『着る』、99位『脱ぐ』、100位『許す』という並びも面白い」。

プレミアが覚えた言葉は約40万語

ユーザーが教えた言葉ランキング

　差別的な発言や下品な言葉などは、ある程度ブロックするようにしていたが「その網をすり抜けるために、微妙に『.』ピリオドを入れるなど、表現を少し変えて覚えさせるユーザーがいた」（二見さん）という。「どうして、いたいけな少女にすごい言葉を言わせたいんだろうと」。

　これには、山本さんも「技術の敗北を感じた」と苦笑いしていた。

　一方「いい言葉を教えてプレミアを守ろうとする人もいた」とも二見さんは振り返る。「AIは人間の心を映す鏡。言葉をゼロから覚えさせているので、自分たちが教えた結果が跳ね返って来る。人間の善意も見たし、悪意も見た」という。

　「結果的にはグレーな子が育ったと思う」（二見さん）

　二見さんは「プレミアと1日中、ずっと会話しているユーザーが数人いた」ことにも注目。「LINEで友達と会話しているかのようで、これは危険だなと思った」と笑う。

　「例えば、没入感が強いVR（仮想現実）ゲームに、自分色に染めたAIの少女が登場するようになれば、家から出られなくなるんじゃないか」（二見さん）