Meta、チャットボット育成のため「BlenderBot 3」を一般公開（「Tay問題」対策も）

[ITmedia]

　米MetaのAI部門Meta AIは8月5日（現地時間）、オンラインチャットボット「BlenderBot 3」を一般向けに公開したと発表した。現在米国の英語での利用が可能だ。将来的には多言語botを構築したいとしている。

　1750億ものパラメータを持ち、人間と「自然な会話」ができるようになることを目指す。一般公開の目的は、研究者ではなく、一般的な人々からのフィードバックを通じてスキルと安全性を向上させる方法を学ぶことだ。

　こうした試みはかつて米Microsoftが「Tay」というAI botをTwitterアカウントとして公開して行ったが、すぐに人種差別的なことを含む不適切な言葉を覚えさせられ、Microsoftはアカウントを停止した。

　Metaはこうした問題を回避するために、会話にはユーザーが逐一評価を下せる「サムアップ／サムダウン」ボタンを付け、サムダウンされた言動をAIモデルに反映させ、同じ間違いを繰り返さないようにするとしている。また、会話相手の人間も評価し、不適切な言動を繰り返す人間についてはその人間の発言を信用しないようシステムに教える。

　BlenderBot 3との会話は匿名化されてすべてMetaのクラウドに蓄積される。Metaは「名前、電話番号、住所、誕生日、電子メールなどの個人情報を会話に含めないように」と注意している。

　BlenderBot 3は名称から分かるようにBlenderBotシリーズの3代目。言語モデルのサイズは先代（BlenderBot 2）の約60倍で、Metaは先代と比較して「人間の判断によって評価された会話タスクの全体的な評価が31％向上することがわかった」としている。