元OpenAI幹部、AI監査の非営利団体「AVERI」設立 「家電並みの安全確認」を目指す
米OpenAIの元AGI(汎用人工知能)シニアアドバイザー、マイルズ・ブランデージ氏は1月15日(現地時間)、フロンティアAI(最先端AI)の開発企業による安全性やセキュリティの主張を厳格に検証する監査を効果的かつ普遍的なものにすることを目指す非営利団体AVERIの発足を発表した。
AVERI(AI Verification and Evaluation Research Institute)は、米国の501(c)(3)に基づく非営利シンクタンク。その目的は、AI開発企業が公開されていない内部情報へのアクセスを独立した第三者に提供し、厳格な基準に基づいて安全性やセキュリティを検証する「フロンティアAI監査」のエコシステムを構築することだ。AVERI自身が監査法人として企業を監査するのではなく、監査に必要な基準の策定やツールの開発、政策提言を通じて、信頼できる第三者検証が普及する基盤を作ることを役割とする。
ブランデージ氏が同団体を設立した背景には、OpenAIでの7年間の経験を通じた強い危機感があるという。AI企業が安全性に関するルールを自分たちで決め、第三者による強制力のないまま「自らの宿題を採点している」のが現状だとしている。同氏は、一般的な家電製品でさえ独立した試験機関による安全確認が行われているのに対し、社会インフラとなりつつあるAIに対する外部からの監視が不十分であると指摘しており、企業内部の自主的な評価だけでは不十分だとして、より客観的で厳格な監査メカニズムの必要性を訴えている。
具体的な活動として、AVERIは立ち上げと同時にフロンティアAI監査のビジョンを示す論文(PDF)を公開し、監査の厳格さを4段階に分類する「AI保証レベル(AAL)」や、AIの評価手法そのものがどれほど堅牢で信頼できるかを測定するオープンソースツール「BenchRisk」などを提示した。
AVERIは、Amazon、Anthropic、Google DeepMind、OpenAI、Thinking Machines LabといったAI開発企業からAPIクレジットの提供を受けている。今後は、これらの企業が外部監査を受け入れるよう、保険会社や投資家、政策立案者と連携し、「安全なAIこそが経済的・政治的利益を生む」インセンティブ設計を進める方針だ。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
NotebookLMに公式APIが登場 WebページやYouTube動画の取り込みを自動化でき、MCPでAIエージェントからも使える
-
2
農水省の“クソダサ”ポスター話題 「AIよりよっぽど良い」の声も 担当者に狙いを聞いた
-
3
総務省が新しい無料オンライン講座「統計解析プログラミング」を1月に開講 Pythonでのデータ分析が4週間で学べる
-
4
メルカリ、アプリ開発「2日→数十分」へ 直面したAI時代の“意外な課題”とは?
-
5
AIモデリングもできる無償3D CAD「SolidCraft」を試してみた!
-
6
NotionのAIチャット流出おそれ、幹部が日本での対応状況明かす 「心よりおわび」
-
7
大手自動車メーカーの検図工数を90%削減 AIが図面の重要な変更点を判別
-
8
Anthropic、IPO前夜に「SaaS殺し」へ舵? Claudeに表計算を内蔵した、真の狙い
-
9
わが社はChatGPTでどう紹介されている? OpenAIが企業向けの確認機能を提供開始
-
10
NTTが宇宙光通信網の構築へ 「IOWN搭載」衛星と宇宙データセンターで米中に挑む
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR