Meta、チャットボット育成のため「BlenderBot 3」を一般公開(「Tay問題」対策も)
Meta AIは、人間との自然に会話するbot構築を目指し、「BlenderBot 3」を一般公開した。かつてのMicrosoftの「Tay」が暴走した問題を踏まえ、対策も強化した。
米MetaのAI部門Meta AIは8月5日(現地時間)、オンラインチャットボット「BlenderBot 3」を一般向けに公開したと発表した。現在米国の英語での利用が可能だ。将来的には多言語botを構築したいとしている。
1750億ものパラメータを持ち、人間と「自然な会話」ができるようになることを目指す。一般公開の目的は、研究者ではなく、一般的な人々からのフィードバックを通じてスキルと安全性を向上させる方法を学ぶことだ。
こうした試みはかつて米Microsoftが「Tay」というAI botをTwitterアカウントとして公開して行ったが、すぐに人種差別的なことを含む不適切な言葉を覚えさせられ、Microsoftはアカウントを停止した。
Metaはこうした問題を回避するために、会話にはユーザーが逐一評価を下せる「サムアップ/サムダウン」ボタンを付け、サムダウンされた言動をAIモデルに反映させ、同じ間違いを繰り返さないようにするとしている。また、会話相手の人間も評価し、不適切な言動を繰り返す人間についてはその人間の発言を信用しないようシステムに教える。
BlenderBot 3との会話は匿名化されてすべてMetaのクラウドに蓄積される。Metaは「名前、電話番号、住所、誕生日、電子メールなどの個人情報を会話に含めないように」と注意している。
BlenderBot 3は名称から分かるようにBlenderBotシリーズの3代目。言語モデルのサイズは先代(BlenderBot 2)の約60倍で、Metaは先代と比較して「人間の判断によって評価された会話タスクの全体的な評価が31%向上することがわかった」としている。
関連記事
- Meta、AIチームを再編 AIトップは退社
Metaは、「AIが業務の中心となってきた」ことに合わせたAI部門の再編を発表した。研究部門から各製品部門にAI業務が分散される。ヤン・ルカン博士とFAIRは研究部門として存続する。 - Meta、200言語対応のAI翻訳プロジェクト「NLLB-200」をオープンソース化
Metaは、200言語を中間言語なしに翻訳するAIモデル「NLLB-200」をオープンソース化する。FacebookやInstagramでも採用する他、「より多くの人々がメタバースにアクセスできるようになる」としている。 - Microsoft、人工知能Tayの無作法を謝罪 「脆弱性を修正して再挑戦したい」
Microsoftが、公開後数時間でヘイトスピーチを多発した人工知能「Tay」について謝罪し、Tayに悪い言葉を覚えさせることになった脆弱性を修正していると説明した。こうした攻撃に対処する自信がついたら復活させるとしている。 - Microsoftの人工知能「Tay」、Twitterデビュー
Microsoftが米国の若者向けの人工知能「Tay」をTwitterやFacebookで公開した。日本マイクロソフトの「りんな」と同様に会話をするほどに賢くなっていく。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.