AIの挙動をAIで自動分析 OpenAI、モデルの理解や改善に向け一歩前進
米OpenAIは5月9日（現地時間）、GPT-4を使って言語モデルの挙動を分析できるとの研究結果を発表した。これまではモデルを構成するニューロンの動作を人間が手作業で観察していたが、数億パラメーターを持つ大規模モデルでは分析が困難だった。GPT-4の利用で作業を自動化できる。
検証では、GPT-2を構成するニューロンをGPT-4で分析。その挙動をシミュレーションし、実際の結果と比較して類似度を点数化した。この評価法を使えば、技術の有効性を評価したり、技術の具体的な改善法を検討したりするのに役立つという。
GPT-4でGPT-2のニューロンの挙動を分析
OpenAIはGPT-2に含まれる約30万個のニューロンそれぞれの挙動の説明文や点数をまとめたデータセットをオープンソース化。「研究コミュニティーがより良い分析技術やツールを開発することを期待する」としている。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
「命の砂時計」連呼のGMO会見──熊谷代表の発言にXではツッコミ続出
-
2
ロゴ画像用の公開領域に顧客ファイルも保存 GMO系シングルサインオン、4.5万人分漏えい
-
3
GMO熊谷代表、涙の謝罪会見でも“熊谷節”さく裂──「31年間、もうけるという言葉は使ったことがない」
-
4
GMO熊谷代表、会見で改めて謝罪 SNS投稿巡り「配慮が欠けていた」
-
5
渦中のGMO記者会見、責任の所在はどこに？ 熊谷代表が語った“グループ内の力関係”
-
6
アットコスメ、会員約300万人分の情報漏えい 不正アクセスで
-
7
Marvell、光通信技術のLumentumを約18兆円で買収 AIデータセンターの高速化に対応
-
8
Apple、第4四半期として過去最高の増収増益 ターナスCEO初の決算「Siri AIはずっと望んでいたSiri」
-
9
日本郵政「ゆうID」不正ログイン、他社で流出したパスワード使うリスト攻撃か……2段階認証必須に
-
10
Anthropic、IPO申請書を修正 7～9月売上高は約170億ドル、インフラ契約額は約8954億ドル
ITmedia NEWS SNS
@itmedia_newsをフォロー
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR