OpenAI、AIに人間にも分かりやすく説明させるアルゴリズムを提案
米OpenAIは7月17日（現地時間）、LLMの出力の信頼性と透明性を向上させるための新しいトレーニング方法を紹介する論文（PDF）を公開した。AIによる回答が本当に正しいのか、人間が理解しやすくするための取り組みだ。
このトレーニング方法は、「Prover-Verifier Games（証明者ー検証者ゲーム）」と」呼ばれるゲーム理論に基づいている。おおまかに説明すると、賢い「証明者」と証明者よりはるかに能力の低い「検証者」を用意し、証明者に問題を解決させ、その解決方法を検証者にも理解できるように説明させる。このトレーニングを繰り返すことで、証明者は説明能力が向上し、検証者は解決方法の問題点を見つける能力が向上する。
論文では小学校の算数の回答を判断する設定でトレーニングする方法を紹介している。
証明者はトレーニングによってより分かりやすい説明をするようになる（画像：論文より）
論文では、この方法によって、3つの成果が得られたとしている。
まず、読みやすさとパフォーマンスの両立が可能になる。従来のAIは読みやすさを重視するとパフォーマンスが低下し、その逆もあるという関係だったが、この方法ではバランスを保ちつつAIの能力を高められる。
次に、検証者はトレーニングを通じて証明者の策略を見破る能力を身に着けていくので、検証者は証明者が潜ませた人間が誤解しやすい間違いを見抜けるようになる。
また、証明者は検証者のレベルに合わせて説明を修正していくことで、よりわかりやすい解決策を生成できるようになる。
OpenAIは、このトレーニング方法は、AIによる回答に対する信頼性を高めるだけでなく、AIと人間のより良い関係構築にも役立つとしている。「LLMが将来人間より有能になったとしても、LLMの出力への信頼を確立するための有望な兆候を示している」。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
陸自が「イオンモール熊本」内部をドローン撮影 防衛省が映像公開
-
2
イオンモール熊本内部の撮影、国産ドローンが活躍 日本企業2社が自衛隊などと協力
-
3
PayPayアプリで熊本地震への寄付が可能に 最短3ステップ・1円から
-
4
農水省の“クソダサ”ポスター話題 「AIよりよっぽど良い」の声も 担当者に狙いを聞いた
-
5
“ダサい”不評の「ドコモの銀行」、従来のアプリアイコン選択可能に 「ご意見・ご要望も踏まえ」
-
6
熊本「通れた道」マップ、トヨタが公開 ホンダも「通行実績情報マップ」
-
7
「Xが情報収集に役立たない……」熊本地震で不満の声続出 「Twitterを返して」
-
8
TSMC熊本工場、段階的に通常操業へ 熊本の地震で一時中断、従業員の無事確認 台湾報道
-
9
タムロン、ソニーからの買収提案認める 特別委員会を設置して検討
-
10
熊本で非常時Wi-Fi「00000JAPAN」発動中 KDDIが無料開放、他社ユーザーも利用可
ITmedia NEWS SNS
@itmedia_newsをフォロー
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR