Anthropic、AIリスク専門のシンクタンク設立──米政府の規制リスクに直面する中で

　米Anthropicは3月11日（現地時間）、新たな研究部門「Anthropic Institute」の設立を発表した。AIが社会に与える影響を研究し、高度なシステムから生じるリスクに対して政府が適切な政策を打ち出せるよう、判断材料を提供することを目的としたシンクタンクだ。

　同社は、AIの開発が加速度的に進んでおり、極めて強力なAIが多くの人の予想よりもはるかに早く到来すると予測している。新部門立ち上げの目的は、強力なAIが雇用や経済をどう再構築するか、どのような脅威をもたらすかといった社会的な課題に直面する前に、情報を公開して外部と連携し、リスクに対処することだとしている。

　トップには、同社の共同創設者であり、新たにHead of Public Benefit（公益担当責任者）に就任するジャック・クラーク氏が就く。機械学習エンジニア、経済学者、社会科学者などからなる学際的なチームで構成され、Google DeepMindの元リサーチディレクターであるマット・ボトヴィニック氏や、バージニア大学の経済学教授アントン・コリネク氏、元OpenAIのゾーイ・ヒッツィグ氏などが初期メンバーとして参加する。

　新部門は、現行の3つの部門、AI機能の限界を検証するフロンティアレッドチーム、実世界でのAI利用を研究する社会的影響チーム、雇用や経済への影響を追跡する経済研究チームを統合したものになる。さらに、AIの進歩の予測や、強力なAIと法制度との相互作用に関する新たな研究分野も開拓する予定だ。

Anthropic Instituteでは、最先端のAIシステム開発者のみが持つ内部情報を最大限に活用し、テクノロジーの状況を率直に報告するとともに、AIによって仕事を奪われる不安を抱える労働者や業界とも対話を行っていく。また、この設立と並行して公共政策チームも拡大しており、世界的なAIガバナンスの形成を推進する拠点として、今春にワシントンD.C.に最初のオフィスを開設する計画だ。

　この発表は、Anthropicが米連邦政府によるサプライチェーンリスク指定を巡り訴訟を起こした数日後というタイミングで行われた。米The Vergeによると、この指定と新部門設立が関係しているのかという質問に対しクラーク氏は、設立の準備は以前から進められていたと説明したという。この事態が研究予定を「直接的に変えたわけではない」とし、一方で、ここ数週間の経験を通じて、AI技術に関する国民的な議論への渇望がいかに大きいかが示されたとし、より多くの情報を世間に公開していくという同社の決断を今回の事態が「裏付けるものになった」と語った。

関連記事

• 

  Microsoft、対DoW訴訟でAnthropicを支持するアミカスブリーフを企業として提出

• 

  米国防総省、Anthropicを「サプライチェーンリスク」に正式指定　法廷で争うとアモデイCEO

• 

  トランプ大統領、Anthropicを「極左の意識高い系企業」と非難し　政府機関での製品使用を即時停止

• 

  AnthropicのCEO、米国防総省のAI規制撤廃要求を拒否　「自律型兵器への転用」を懸念