Meta、チャットボット育成のため「BlenderBot 3」を一般公開（「Tay問題」対策も）

公開 2022年08月08日 11時08分

[ITmedia]

印刷する

　米MetaのAI部門Meta AIは8月5日（現地時間）、オンラインチャットボット「BlenderBot 3」を一般向けに公開したと発表した。現在米国の英語での利用が可能だ。将来的には多言語botを構築したいとしている。

　1750億ものパラメータを持ち、人間と「自然な会話」ができるようになることを目指す。一般公開の目的は、研究者ではなく、一般的な人々からのフィードバックを通じてスキルと安全性を向上させる方法を学ぶことだ。

　こうした試みはかつて米Microsoftが「Tay」というAI botをTwitterアカウントとして公開して行ったが、すぐに人種差別的なことを含む不適切な言葉を覚えさせられ、Microsoftはアカウントを停止した。

　Metaはこうした問題を回避するために、会話にはユーザーが逐一評価を下せる「サムアップ／サムダウン」ボタンを付け、サムダウンされた言動をAIモデルに反映させ、同じ間違いを繰り返さないようにするとしている。また、会話相手の人間も評価し、不適切な言動を繰り返す人間についてはその人間の発言を信用しないようシステムに教える。