OpenAI、AIのリスクを軽減するための「Model Spec」(モデル仕様)最新版を公開
米OpenAIは2月12日(現地時間)、AIモデルの行動規範を定める「Model Spec(モデル仕様)」の最新版を発表した。これは、OpenAIが開発するAIモデルが、安全で有用であり、人間の価値観に沿った行動を促進するための重要なガイドラインだ。
同社は昨年5月にModel Specの初版を公開した。今回の更新版は初版の約6倍の長さがある。カスタマイズ性、透明性、知的自由の尊重をさらに強化し、より安全で信頼できるAIの実現を目指したとしている。また、Creative Commons CC0ライセンスの下で公開し、開発者や研究者が自由に利用、改変、構築できるようにした。
Model Specは、AIが従うべき具体的な指示を3つの階層で定めた。
- プラットフォームレベルの指示:OpenAIが定める、絶対に覆すことのできないルール。法律違反、身体的な危害、チェーン・オブ・コマンド(AIモデルが従うべき指示の優先順位)を損なう行動を避けることが含まれる
- 開発者レベルの指示: APIを使用する開発者が定める指示で、プラットフォームレベルの指示に反しない限り、AIはそれに従う
- ユーザーレベルの指示: エンドユーザーからの指示で、開発者レベルとプラットフォームレベルの指示に反しない限り、AIはそれに従う
このチェーン・オブ・コマンドのメカニズムにより、例えば、開発者が「数学の家庭教師」としてモデルを設定し、ユーザーが「答えを教えて」と指示した場合、モデルはユーザーの指示に従うのではなく、開発者の指示に従い、ユーザーに答えを教えるのではなく、ヒントだけを与えてユーザー自身が答えを見つけられるようサポートする。
OpenAIは、Model Specの各原則に対するモデルの順守状況を評価するためのテストを実施しており、以前のモデルと比較して大幅な改善が見られたとしている。これらのテストでは、モデルがModel Specの原則をどの程度順守しているかを評価するために、モデル生成と専門家によるレビューを組み合わせたプロンプトが使用されている。とはいえ、依然として改善の余地があることも認識しており、今後も継続的な改善に取り組むという。
Model Specの最新版は、Githubのリポジトリで公開されている。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
Googleの“人気AI講座”、先着1万人に無料提供 リスキリング推進団体
-
2
「Gemini 4 Hydrogen」とは 性能とユースケースまとめ Googleの「誰でも使える」最新モデル
-
3
メルカリ、アプリ開発「2日→数十分」へ 直面したAI時代の“意外な課題”とは?
-
4
AIモデリングもできる無償3D CAD「SolidCraft」を試してみた!
-
5
ジェンスン・フアン氏退任は「NVIDIAバブル崩壊」の序章か? どうなる今後の半導体業界
-
6
総務省が新しい無料オンライン講座「統計解析プログラミング」を1月に開講 Pythonでのデータ分析が4週間で学べる
-
7
アクセンチュアが説く「業務そのものの創り直し」とは? AI活用が事業成果に結びつかない企業に向けた2つのポイント
-
8
フリーランス市場、受注者の約8割がAIを利用 自発的に開示は1割弱、両者に意識差 IBMリサーチなど調査
-
9
人手不足だからAIを使いたい、でも導入できる人がいない 中小企業“一人情シス”の葛藤
-
10
AIによる誤った判断、責任を負うのは誰? 「9割」をAIに委ねる時代に向け、IDCが提言
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR