Anthropic、METRの評価チームを社内に常駐させ“従業員並み”のアクセス付与　公表に拒否権なし

公開 2026年10月16日 09時49分

[ITmedia]

印刷する Googleで優先するソースとして追加

　米Anthropicは10月15日（現地時間）、AIモデルを評価する米非営利団体METRのチームに、従業員並みのアクセス権限を与え始めたと発表した。ダリオ・アモデイCEOが9月のエッセイ「We Must Pace the Frontier」で打ち出した「常駐評価者」構想を具体化した。

（画像：Anthropic）

　METRのスタッフ6人に、同社の端末とオフィススペースを提供し、社内ツールやシステムへのアクセスを認めた。提供範囲は同社のリスク評価チームとおおむね同等という。顧客データやモデルのアーキテクチャ情報など、少数のカテゴリは共有の対象外とした。

　METRは、同社のリスクレベルやインシデントについての分析を公表する。Anthropicは公表を拒否できないが、事前に定めたカテゴリの情報については伏せ字化を要請できる。METRは、伏せ字化が妥当だったかどうかの見解を公表することも可能だ。

　Anthropicは評価機関との連携を3段階で設計しており、METRは最上位の第3段階に当たる。米SecureBioは公表に同社の承認が必要な第1段階にあり、8月のリスクレポートのうち化学・生物兵器の章をレビューしている。AccentureとFacultyとも連携を進めているほか、Hugging Faceなどとも初期段階の協議を進めている。同社は、すべてのフロンティアAI企業が同様の対応を取るべきだとしている。

　METRは前日の14日、全フロンティアAI企業に向けて評価の提案を公開している。開発企業が社内のAIを制御できなくなるリスクについて、一般の人々が判断できる材料を増やす狙いだ。METRのスタッフが企業の端末上でデータにアクセスし、従業員に個別にインタビューした上で、数週間で予備的な報告書を公表するという。ただし、アクセスは企業の裁量に委ねられるため、社内の上級従業員と同等にはならないとし、提案の限界も明記している。