「いい子に育つか、悪い子に育つか」――Twitterで“人工知能少女”育成、バンナムが結果報告（3/4 ページ）

　プロジェクトを統括した守屋貴行さん（ブルート代表取締役）は、ユーザーがプレミアに教えた言葉ランキングで、第54位の「キス」に注目。「プレミアちゃんに何をさせたかったんだろう」と笑いながら話す。「98位『着る』、99位『脱ぐ』、100位『許す』という並びも面白い」。

　差別的な発言や下品な言葉などは、ある程度ブロックするようにしていたが「その網をすり抜けるために、微妙に『.』ピリオドを入れるなど、表現を少し変えて覚えさせるユーザーがいた」（二見さん）という。「どうして、いたいけな少女にすごい言葉を言わせたいんだろうと」。

　これには、山本さんも「技術の敗北を感じた」と苦笑いしていた。

　一方「いい言葉を教えてプレミアを守ろうとする人もいた」とも二見さんは振り返る。「AIは人間の心を映す鏡。言葉をゼロから覚えさせているので、自分たちが教えた結果が跳ね返って来る。人間の善意も見たし、悪意も見た」という。

　「結果的にはグレーな子が育ったと思う」（二見さん）

　二見さんは「プレミアと1日中、ずっと会話しているユーザーが数人いた」ことにも注目。「LINEで友達と会話しているかのようで、これは危険だなと思った」と笑う。

　「例えば、没入感が強いVR（仮想現実）ゲームに、自分色に染めたAIの少女が登場するようになれば、家から出られなくなるんじゃないか」（二見さん）

この記事の著者

関連記事

• 

  ツイートで育つ“人工知能少女”　「ソードアート・オンライン」新作に登場へ

• 

  「クソ豚！」「エロい目でジロジロ見んじゃねえよ、このクズ」――“ドS”人工知能「罵倒少女」開発の狙いは？　ソニーに聞く

• 

  異色の“Suica連携ゲーム”「めがみめぐり」開発秘話、カプコンに聞く　きっかけは「交通費精算」

• 

  「国とコラボするとは」――政府がアニメ「ソードアート・オンライン」とサイバーセキュリティ啓発　その理由は