ITmedia AI＋
生成AI
AnthropicのアモデイCEO、フロンティアAIに「航空機並みの安全審査」求めるエッセイと政策提言を公開

AnthropicのアモデイCEO、フロンティアAIに「航空機並みの安全審査」求めるエッセイと政策提言を公開

公開 2026年06月11日 14時12分

[ITmedia]

印刷する Googleで優先するソースとして追加

　米Anthropicのダリオ・アモデイCEOは6月10日（現地時間）、個人のWebサイトで、AIの指数関数的な進歩と政策のあるべき姿を論じた長編エッセイ「Policy on the AI Exponential」を公開した。

　同日、Anthropicも公式ブログで「Advanced AI Framework」（先進AIフレームワーク）と「Economic Policy Framework」（経済政策フレームワーク）の2つの政策提言を公表した。

　アモデイ氏はエッセイの中で、AIの進歩の速度と政策決定プロセスの遅さの根本的なミスマッチを「ロード・オブ・ザ・リング」に登場する樹木の精霊「木の鬚」にたとえた。ほんの4年前にはまともなコードすら書けなかったAIモデルが、今や主要AI企業のコードの大部分を書くまでになっており、スケーリング則が示す指数関数的な能力向上はあと1～2年で「データセンターの中の天才たちの国」と呼べる段階に達する可能性があるという。一方で議会が法案を通すには数年かかり、その間にAIは「面白いおもちゃ」から世界を変える技術へと変貌し得ると指摘した。

　これまでAnthropicは透明性法案やチップの輸出規制などの「将来の迅速な対応に備える」施策を中心に支持してきたが、同社のフロンティアモデル「Claude Mythos Preview」が主要OSやWebブラウザの深刻な脆弱性を大量に発見するなど、AIが安全保障上の戦略的ツールであることが否定しがたくなった今、透明性だけでは不十分だとアモデイ氏は主張する。

　エッセイでは、規制と公共安全、マクロ経済と税制、科学イノベーションの加速、国家と市民的自由のバランス、地政学という5つの政策領域を取り上げ、フロンティアAIモデルには航空機と同様に第三者によるリリース前テストを義務付け、安全基準を満たさない場合は政府がデプロイを阻止できる権限を持つべきだと提言した。

　雇用問題についても言及し、AIが人間の認知能力の広範な代替物となることで、過去の技術革新とは異なる持続的な雇用喪失が起き得ると率直に認めつつ、それを望んでいるわけではなく、社会が備えるために警鐘を鳴らしているのだと強調した。ユニバーサル・ベーシック・インカムや賃金保険などの長期的支援策に加え、人々が経済的な安定だけでなく意義や目的を見いだせる社会のあり方を模索すべきだと論じている。

　Anthropicが同時に公開した2つの政策フレームワークは、このエッセイを具体的な制度設計に落とし込んだものだ。

　先進AIフレームワークでは、一定規模以上の計算資源で訓練されたモデルについて、サイバー、生物兵器、制御喪失、自動化されたAI研究開発の4分野で独立した第三者評価を義務付け、危険と判断された場合に政府がデプロイを差し止める法的権限を持つことを提案している。

　経済政策フレームワークでは、失業率5％、10％、前例のない水準、という3段階のシナリオに応じた対策を示し、Anthropic自身が計3億5000万ドル（約500億円）を拠出して経済研究基金や全米規模のフェローシッププログラムを設立する計画も明らかにした。

　アモデイ氏はエッセイの結びで、AIのリスクに対する社会の懸念は正当なものであり「PRの問題」として片付けるべきではないと述べ、党派を超えた政策連携によってAIの恩恵を広く共有できる未来は現実的だと訴えた。

印刷する