Google DeepMindのハサビスCEO、米国主導の「フロンティアAI標準化機関」設立を提唱
米Google DeepMindのデミス・ハサビスCEOは7月14日(現地時間)、「A Framework for Frontier AI and the Dawning of a New Age」(フロンティアAIのための枠組みと新時代の夜明け)と題するエッセイを自身のSubstackで公開した。
ハサビス氏は「今は人類史における極めて重要な転換点だ。脳が持つあらゆる認知能力を備えたシステムであるAGIは、おそらくあと数年で実現する」とし、この時代は「シンギュラリティのふもと」として振り返られることになるだろうと主張。AGIは電気や火の発見に近いものであり、その影響は「産業革命の10倍の規模が10倍の速度で」訪れる可能性があるとした。
同氏は現在の業界の激しい競争が急速な進歩を促す一方で、最前線の進歩が技術への理解を上回るペースで進んでいると指摘。フロンティアモデルがサイバーセキュリティにもたらす課題は既に顕在化しており、核や生物学的リスクも間もなく浮上しかねないと警告。現在、業界としても社会全体としても、リスク軽減に必要な時間と余地を確保できていないと警鐘を鳴らした。
その解決策としてハサビス氏が提案するのが「フロンティアAI標準化機関」(Standards Body)の設立だ。米金融業界の自主規制機関FINRA(金融取引業規制機構)をモデルに、連邦政府の監督下にある官民パートナーシップまたは自主規制組織として設立し、理事会には独立した技術専門家やオープンソース界の代表を含める。資金は主に業界から拠出し、一流の技術人材の確保と大規模テストに必要な計算資源に充てるという。
同機関は評価プロトコルの策定を担い、国家安全保障に関わる領域では連邦政府機関や米国立研究所と連携してテストを実施する。同機関が定めるベンチマークの基準を満たしたモデルを「フロンティア級」、それを持つ組織を「フロンティアラボ」と認定する。当初はフロンティアラボがリリースの最大30日前に自主的にモデルを提出してレビューを受け、有効性が実証されれば審査通過を米国市場での展開要件とすることも視野に入れる。状況が深刻化した場合は、この機関がフロンティアラボ間での開発減速の調整も可能としている。
英国出身でロンドンを拠点とするハサビス氏があえて米国主導を提唱するのは、「米国はその経済的・技術的地位から、こうした枠組みの開発に向けた第一歩を踏み出すのに適した立場にある」ためで、米国発のこの取り組みを共通標準構築の「強力な出発点」とし、最終的には国際社会全体での合意形成につなげたい考えだ。米CNBCによると、同氏は6月、米Anthropicのダリオ・アモデイCEOとともにG7の会合に参加し、AIのルールと標準を形作る米国主導の連合を呼びかけたという。アモデイ氏も個人ブログで、拘束力あるリリース前審査を含む包括的な政策対応を急ぐべきだと主張している。
米政府は6月12日、国家安全保障上の権限を理由にAnthropicの最新モデル「Claude Fable 5」および「Claude Mythos 5」への外国籍者によるアクセスを停止するよう輸出規制指示を出し、同社は両モデルの提供を全世界で一時停止した(規制は6月30日に解除された)。ハサビス氏はこの件には言及していないが、「フロンティアモデルがサイバーセキュリティにもたらす課題は既に見てきた」としている。
ハサビス氏はエッセイの最後に、「未来はまだ描かれていない。AGIが到来する前のこの貴重な時間を、全人類の利益のためにこの技術を形作るために使わなければならない」と呼びかけた。
このエッセイ公開の前日には、米スタンフォード大学のエリック・ブリニョルフソン教授らが主導し、16人のノーベル賞受賞者を含む200人以上の経済学者やAI研究者が署名した声明「We Must Act Now」が公開された(ハサビス氏は署名していない)。声明は、AIが産業革命を上回る規模の経済変革をはるかに短い期間で引き起こす可能性があると警告し、AIが人間の能力を補完し社会に利益をもたらすための政策と制度の構築を急ぐよう呼びかけている。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
新サービス「Gemini Agent」は企業向け、「Gemini Enterprise」加入者は追加料金なし 日本提供時期は未定
-
2
FDEが構築したAIエージェントの7割、企業が放棄へ Gartner予測
-
3
Meta、同社最大のAIモデル「Muse Wonder」発表 記憶力と粘り強さを強化、AIエージェント「Muse」にも搭載へ
-
4
Microsoft、第3世代AIチップ「Maia 300」を2027年に投入 GPU比で電力効率4割向上、自社サービスの主力推論基盤に
-
5
AnthropicのAI、未解決殺人事件で警察に虚偽の情報提供 米政権は「通知と是正は義務」と警告
-
6
「当然、攻撃者はAIを悪用する」――不正アクセスに対峙する国家サイバー統括室を直撃、日本の情報をどう守る?
-
7
“クールジャパン機構の二の舞”か? 2兆円支援のラピダス、2ナノ半導体工場あっても拭えぬ「顧客不在」の懸念
-
8
OpenAIが「数学論文722本」を一挙公開 「AI企業の技術独占」に数学界が猛反発したワケ
-
9
3社に1社がトークン予算超過 コスト増を最大44%抑える方法とは【アクセンチュア調査】
-
10
MicrosoftのナデラCEO、「SIモデルは“内部リスク”として扱うべき」とXに投稿 統制はモデルの外に置くよう提言
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR