OpenAI、AIに人間にも分かりやすく説明させるアルゴリズムを提案
米OpenAIは7月17日（現地時間）、LLMの出力の信頼性と透明性を向上させるための新しいトレーニング方法を紹介する論文（PDF）を公開した。AIによる回答が本当に正しいのか、人間が理解しやすくするための取り組みだ。
このトレーニング方法は、「Prover-Verifier Games（証明者ー検証者ゲーム）」と」呼ばれるゲーム理論に基づいている。おおまかに説明すると、賢い「証明者」と証明者よりはるかに能力の低い「検証者」を用意し、証明者に問題を解決させ、その解決方法を検証者にも理解できるように説明させる。このトレーニングを繰り返すことで、証明者は説明能力が向上し、検証者は解決方法の問題点を見つける能力が向上する。
論文では小学校の算数の回答を判断する設定でトレーニングする方法を紹介している。
証明者はトレーニングによってより分かりやすい説明をするようになる（画像：論文より）
論文では、この方法によって、3つの成果が得られたとしている。
まず、読みやすさとパフォーマンスの両立が可能になる。従来のAIは読みやすさを重視するとパフォーマンスが低下し、その逆もあるという関係だったが、この方法ではバランスを保ちつつAIの能力を高められる。
次に、検証者はトレーニングを通じて証明者の策略を見破る能力を身に着けていくので、検証者は証明者が潜ませた人間が誤解しやすい間違いを見抜けるようになる。
また、証明者は検証者のレベルに合わせて説明を修正していくことで、よりわかりやすい解決策を生成できるようになる。
OpenAIは、このトレーニング方法は、AIによる回答に対する信頼性を高めるだけでなく、AIと人間のより良い関係構築にも役立つとしている。「LLMが将来人間より有能になったとしても、LLMの出力への信頼を確立するための有望な兆候を示している」。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
肖像画をChatGPTに読み込ませて出力→加工して納品 委託先による著作権侵害で、小学館「サライ.jp」が謝罪
-
2
経営「AIでラクして早く帰って」→社員「帰らない」 工数最大9割減のDeNAも悩むAI効率化の壁
-
3
農水省の“クソダサ”ポスター話題 「AIよりよっぽど良い」の声も 担当者に狙いを聞いた
-
4
「一般国道トレカ」ゼンリン一丸で制作、発売 「さすがにマニアックすぎるだろ!!!」
-
5
「POPOPO」サービス終了 開始から約半年
-
6
“自動で耳コピ”アプリ、ヤマハが無料公開 音源読み込み→3分でピアノ譜に
-
7
東京ゲームショウと生成AI ゲームの祭典で商談見込むベンダーたち
-
8
「食欲が削られる」――AIで作られた“気色の悪い飲食店メニュー”がXで物議 「実物を見たい」の声も
-
9
ドローン攻撃を受けたAWS中東データセンター、半年の復旧作業の末に「一部データは回復不能」
-
10
ドコモ版DAZNは価格据え置き、なぜ？ Twitterでは「勝ち確きた」など歓喜の声
ITmedia NEWS SNS
@itmedia_newsをフォロー
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR