カリフォルニア州、“AI安全法”成立 事故報告や告発者の保護など義務づけ

大規模なAI開発企業に、リスクの報告などを義務づける州法「SB53」が成立。

[ITmedia]

　米カリフォルニア州のギャビン・ニューサム知事は9月29日（現地時間）、大規模なAI開発企業に、リスクの報告などを義務づける州法「SB53」に署名した。AIがもたらす問題を抑えつつ、イノベーションを阻害しないようい配慮した内容だ。

　州政府は「連邦政府のAI規制が進まない中、州独自の規制を先行させることで、全米のAI政策のモデルを提示した」と述べている。

ニュースリリースより

　新法では、大規模なAI開発企業に対し、フレームワークが国内外安全基準をどう採り入れたか説明する文書の公開を義務付ける。

　AIを使ったハッキングや、AIが制御不能になる事態、生物兵器の開発など重大な事故が起きた際は、企業や一般市民が州に報告できる仕組みを整備。AIのリスクを開示する内部告発者を保護し、違反企業は法務長官による民事罰の対象にする。

　州技術局は毎年、技術の進展や国際基準を踏まえた法改正の提言する。法案を起草したスコット・ウィーナー州上院議員は「イノベーションの支援とリスク軽減の両立が必要」とコメントしている。

　同州には、Google、Apple、Nvidiaなど世界トップ50のAI企業のうち32社が拠点を置き、AI・機械学習関連のVC投資でも、世界全体の半分以上がベイエリアに集中したという。

　同法は、3月に発表された専門家グループの報告書（URL）に基づく。