AIの挙動をAIで自動分析　OpenAI、モデルの理解や改善に向け一歩前進

　米OpenAIは5月9日（現地時間）、GPT-4を使って言語モデルの挙動を分析できるとの研究結果を発表した。これまではモデルを構成するニューロンの動作を人間が手作業で観察していたが、数億パラメーターを持つ大規模モデルでは分析が困難だった。GPT-4の利用で作業を自動化できる。

　検証では、GPT-2を構成するニューロンをGPT-4で分析。その挙動をシミュレーションし、実際の結果と比較して類似度を点数化した。この評価法を使えば、技術の有効性を評価したり、技術の具体的な改善法を検討したりするのに役立つという。

GPT-4でGPT-2のニューロンの挙動を分析

　OpenAIはGPT-2に含まれる約30万個のニューロンそれぞれの挙動の説明文や点数をまとめたデータセットをオープンソース化。「研究コミュニティーがより良い分析技術やツールを開発することを期待する」としている。

印刷する

SNSでシェア

関連記事

• 

  米バイデン政権、OpenAIなどAI関連4社のCEOを招き「責任あるイノベーション」促す

• 

  “AIのゴッドファーザー”ことヒントン博士、Googleを退社してAI開発に警鐘

• 

  OpenAIのChatGPT、イタリアで再び利用可能に　透明性改善で

• 

  ChatGPTに“追悼文”を書かせるのは失礼なのか？　米国で物議に　求められる第三者への配慮

こんなメディアも見られています

ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。

企業ITのトレンドを詳説

ITmedia エンタープライズ

エネルギーの専門メディア

スマートジャパン

建設×テクノロジーの最前線

BUILT

ビジネスと働き方のヒント

ITmedia ビジネスオンライン