プロジェクトを統括した守屋貴行さん(ブルート代表取締役)は、ユーザーがプレミアに教えた言葉ランキングで、第54位の「キス」に注目。「プレミアちゃんに何をさせたかったんだろう」と笑いながら話す。「98位『着る』、99位『脱ぐ』、100位『許す』という並びも面白い」。
差別的な発言や下品な言葉などは、ある程度ブロックするようにしていたが「その網をすり抜けるために、微妙に『.』ピリオドを入れるなど、表現を少し変えて覚えさせるユーザーがいた」(二見さん)という。「どうして、いたいけな少女にすごい言葉を言わせたいんだろうと」。
これには、山本さんも「技術の敗北を感じた」と苦笑いしていた。
一方「いい言葉を教えてプレミアを守ろうとする人もいた」とも二見さんは振り返る。「AIは人間の心を映す鏡。言葉をゼロから覚えさせているので、自分たちが教えた結果が跳ね返って来る。人間の善意も見たし、悪意も見た」という。
「結果的にはグレーな子が育ったと思う」(二見さん)
二見さんは「プレミアと1日中、ずっと会話しているユーザーが数人いた」ことにも注目。「LINEで友達と会話しているかのようで、これは危険だなと思った」と笑う。
「例えば、没入感が強いVR(仮想現実)ゲームに、自分色に染めたAIの少女が登場するようになれば、家から出られなくなるんじゃないか」(二見さん)
Copyright © ITmedia, Inc. All Rights Reserved.
Special
PR