「厳しすぎるAI規制法」にどんでん返し IT部門が押さえておきたい“見直しポイント”：CIO Dive

「事実上の米国のAI規制基準になる」と言われていた法案に対し、なぜ知事は拒否権を行使したのか。今後の米国のAI規制の行方を占う、同法案見直しのポイントとは。

[Lindsey Wilkinson，CIO Dive]

　「ChatGPT」を生み出したOpenAIをはじめとする多くのAIサービス企業が拠点を置く米国カリフォルニア州で、「最先端AIモデルに関する安全で安心なイノベーション法案」（Safe and Secure Innovation for Frontier Artificial Intelligence Models Act。SB1047。以下、「カリフォルニア州のAI規制法」）に対し、同州のギャビン・ニューサム知事が拒否権を行使した。

　OpenAIなどAIサービスの中心地である同州のAI規制法案は、「事実上の米国のAI規制基準になる」という声もあったが、なぜ知事は見直すことを決めたのか。

州知事が拒否した「厳しすぎる法案」　見直しのポイントは？

　AIをビジネスで活用する企業が増加する中で、2024年8月に発効したEUのAI規制法と同じく、同法案の行方がビジネスにもたらす影響は大きい。そこで、IT部門が知っておくべき「今後見直されるポイント」を整理した。

　カリフォルニア州は、2024年8月28日（現地時間、以下同）に州議会で可決された「カリフォルニア州AI規制法」の一環として州全体に適用されるAIに関する規制の準備を進めていた（注1）。

　カリフォルニア州AI規制法案はAIモデルの開発を主な対象としており、AIサービスを提供する企業に以下のようなプロトコルに従うことを義務付けるものだ。

• AIモデルを完全にシャットダウンできる機能の実装
• 安全およびセキュリティプロトコルの改ざんされていないコピーの保管
• カリフォルニア州司法長官への順守声明の提出
• 内部告発者の保護

　同法案では、既存のAIモデルを1000万ドル以上費やして調整した企業は、「開発者」として責任を負うことになるとしていた。違反企業は、州司法長官から訴訟を起こされる可能性があった。

　同法案は、カリフォルニア州がカリフォルニア州技術局から独立した委員会を設立し、AIの機能や倫理基準、安全性などの定義の更新や規制の策定、「責任あるAI」の導入を進める枠組みの制定を実施することを定めていた。

企業は何を懸念したのか

　企業のITリーダーは、AIに焦点を当てた規制がパッチワークのように進化するのを注視している。グローバル展開する大企業は、より厳しい規制の施行が目前に迫っていることを予測している。自社が独自に実施してきたAI活用に関するガードレールの実践を評価し、より厳しい規制が施行された際、軌道に乗れるようにプロトコルを適応させている。

　しかし、2024年8月初めに発表された「IBM Institute for Business Value」の調査によると、ほとんどの経営幹部が「責任あるAI」の大規模な導入に後れを取っていることを認めている（注2）。5人中2人以上の経営幹部が、AI規制に対する懸念の高まりと、それが「責任あるAI」の導入を遅らせる可能性を示した。

　ほとんどのITベンダーがAI規制を理論的に支持する一方で、カリフォルニア州議会議員による「行きすぎた規制」に警鐘を鳴らす企業もある（注3）。OpenAIやMeta、130社以上の新興企業の創業者は、カリフォルニア州AI規制法によって「大手ベンダーの多くが拠点を置くカリフォルニア州におけるAIのイノベーションが阻害されるのではないか」と疑問を呈していた（注4）。

　カリフォルニア州AI規制法案を提出した同州上院議員のスコット・ウィーナー氏は2024年8月第4週に次のような声明を出した。

　「カリフォルニア州AI規制法案は合理的だ。著名なAI研究所が約束している、LLM（大規模言語モデル）が抱える安全性リスクに関するテスト実施をわれわれは要求する（注5）。われわれは、オープンソースの支持者やAI関連のスタートアップ企業Anthropic PBCなどと協力して法案の改善に尽力してきた」（ウィーナー氏）

見直しのポイントを整理

（編注）本稿は、ニューサム州知事が法案に拒否権を行使したことを受けて、「CIO Dive」の記事の一部を変更・加筆しています。以下の記述は、ITmedia エンタープライズ編集部が加筆したものです。

　カリフォルニア州AI規制法案は、州議会での可決後、どんでん返しに遭うことになった。2024年9月29日、ニューサム知事が同法案に対して拒否権を行使したのだ。

　この背景に、何があったのか。

　日本貿易振興機構（JETRO）が2024年10月7日に公開した記事によると、「壊滅的な事象」を発生させた製品が、第三者が修正を加えたものであっても、ベースとなったAIモデルの開発者に責任を課すといった内容が、「開発者に過度な負担をかける」との懸念を知事は抱いたようだ。

　ただし、ニューサム知事は法案の趣旨自体には賛同しているようだ。JETROによると、知事は「安全で責任あるAIの推進」を掲げて示された見直しのポイントと今後の取り組みとして知事は次の3点を示した。

• 「壊滅的な事象」発生後に対策を講じるのでは遅すぎるという法案賛同者の意見には賛成。ただし、実証的かつ科学的根拠に基づいたアプローチで、AIの効果的な規制枠組みを考えるべきだ
• 州議会や連邦政府関係者、倫理専門家、学術界と協力して、技術の進展に合わせて取り組む
• 規制法案に反対するフェイフェイ・リー博士をはじめとする研究者の協力を得て、責任あるガードレールなどの規制を制定する

　知事が慎重な姿勢を取った背景には、多くの主要AIサービス企業と研究機関が立地するカリフォルニア州として、規制に対する責任を重く見たこともあるようだ。bloombergの記事によると、同法案に反対するOpenAIなどの企業は、カリフォルニア州からAIサービス企業が流出する可能性を指摘していたという。

　bloombergによると、AIイノベーションにおけるカリフォルニア州のリーダーシップが揺らぐことを懸念して同法案に反対する有力政治家は、カリフォルニア州の外にも存在する。ペロシ元下院議長、カンナ下院議員らの民主党議員、サンフランシスコのブリード市長などがAIサービス企業の懸念に同調しているという。

　新技術を使ったサービスが次々に登場する中で、技術が社会に与える影響をいかにコントロールするのが望ましいのかは常に難しい問題だ。AIのような、猛烈なスピードで進化し、世界の多くの人に影響を与えるような技術の場合は特にバランス感覚が問われる。

　今回の「どんでん返し」によって、われわれはその難しさを改めて思い出すことになった。

（注1）SB-1047 Safe and Secure Innovation for Frontier Artificial Intelligence Models Act.（California Legislative Information）
（注2）C-suite concern over generative AI regulation intensifies: IBM（CIO Dive）
（注3）OpenAI CEO asks Congress for AI regulation and a new agency（CIO Dive）
（注4）Combinator（Dear Senator Wiener）
（注5）Senator Wiener Responds to OpenAI Opposition to SB 1047（SCOTT WIENER）

（初出）What CIOs should know about California’s contentious AI bill