ChatGPTに懸念の声、再び 「GPT-4」商用リリース中止を求める団体の“言い分”とは？：CIO Dive

ChatGPTをはじめとするジェネレーションAIに関しては、ビジネス活用に向けた実証実験を始める企業が増える一方で、懸念の声も根強い。その懸念の根幹にあるものとは何か。「GPT-4」商用リリース中止を求める団体の“言い分”を聞いてみよう。

[Lindsey Wilkinson，CIO Dive]

　ChatGPTへの期待が高まる一方で、ジェネレーティブAIに対して懸念を表明する声が後を絶たない。彼らは何を懸念し、それを払拭するために何を提案しているのか。

「GPT-4」商用リリース中止を求める団体の言い分とは？

　AI（人工知能）技術開発において倫理問題を重視する非営利調査団体のAIデジタル政策センター（Center for AI and Digital Policy、以下CAIDP）は2023年3月30日、米連邦取引委員会（the Federal Trade Commission、以下FTC）に訴状を提出した（注1）。

　CAIDPはOpenAIに対する調査や、OpenAIが開発したマルチモーダル大規模言語モデル「GPT-4」の商用リリースの中止、消費者や企業、商用市場を保護するガイドラインの確立を要請している。

　訴状には「FTCは、AIの利用は『透明性があり、説明可能で公正かつ経験的に正しく、責任を果たせるものであるべきだ』と定めている。GPT-4は、これらの要件を一切満たしていない。FTCが動くべき時が来た」と書かれている。

　FTCに提出されたこの訴状に先立って、2023年月には、1100人以上のAIとテクノロジーの専門家から構成されるグループが業界全体におけるAIの開発の一時停止を求める公開書簡を公開した（注2）。

「十分な検証が行われていない」「能力が誇張されているのでは」

　GPT-4が搭載されているChatGPTをはじめとするジェネレーティブAIへの規制介入を呼びかけるのは、倫理学者や技術専門家、ビジネスリーダーだけではない。彼らに賛同する米連邦議会議員（日本の国会議員に相当）もいる。

　2023年1月下旬、カリフォルニア州選出のテッド・ルー議員はChatGPTを使用して（注3）、議会がAIの注視を強化することを求める法案を作成した。2022年11月にはサンフランシスコでソフトウェア会社のGitHubやMicrosoft、OpenAIに対して集団訴訟が起きている。知的財産権紛争に関連する訴訟によって、（AIへの）監視を求める動きはさらに広がっている。

　FTCはテクノロジー分野の競争について調査を開始した。2023年3月第4週には、潜在的なセキュリティリスクを視野に入れたクラウド市場の競争に関する調査も開始した（注4）。

　FTCのリナ・カーン委員長は、2023年に開催された反トラスト法執行者サミットで「AIがFTCの最優先事項だ」と述べた。「時には十分に検証されていない、あるいはこれらの技術がどのように機能するかを十分に反映していない主張を耳にすることがある。つまり（ジェネレーティブAIが）エラーを起こしたり差別的な内容を作成したりする確率は高い。企業がAIの能力を過剰に売り込んだり、誇張したりしていないことを確認する必要がある」（カーン氏）

　FTCは2023年2月に「Office of Technology」（技術評価局）を立ち上げた（注5）。同局は、FTCの業務に影響を与える市場動向や新興技術を中心に法執行の調査や行動を強化、支援して職員に助言、関与する。

　カーン氏は「FTCは1世紀以上にわたって専門知識を高めることで、新しい市場や絶えず変化する技術に対応するよう努めてきた。Office of Technologyの立ち上げは、進化するテクノロジーや市場動向を完全に把握するために必要なスキルを確保するための自然なステップアップだ。Office of Technologyは違法な商習慣に対処し、米国人を引き続き保護していく」と述べた。

　同局にはデータサイエンティストやデータエンジニア、AI専門家、デザイン倫理専門家が在籍している。求人情報を掲載してから数日で、300〜400件の応募があったという。

　「われわれは近年、AIを使って非常にリアルなシミュレーションが行われる世界に身を置いている。その結果、だまされたり詐欺に遭ったりするリスクが高まっている」と、同氏はAIの動向を注視していることを明かした。

　FTCは2023年3月30日、CAIDPの訴状を受け取ったことを「CIO Dive」に明かしたが、追加のコメントは出さなかった。「CIO Dive」はCAIDPにもコメントを求めたが、すぐには返答が得られなかった。

「AI不信」の根っこにあるもの

　多くの専門家や技術リーダー、業界ウォッチャーがAIに対する懸念を表明し始めた。擁護団体や研究機関が公開書簡や訴状を通して議論の場を提供しているためだ。しかし、全ての人が同意することはあり得ないだろう。

　国連教育科学文化機関（UNESCO）は、AIの倫理に関する勧告を迅速かつ全面的に実施するよう各国に要請した。同機関は2023年3月30日、「この枠組みが193の加盟国によって全会一致で採択されれば、必要な予防手段を提供することになる」と発表した（注6）。今回の呼びかけは、特に高度なAIによる実存的なリスクを軽減するために活動する非営利団体Future of Life Instituteが発表した公開書簡に呼応したものだ。

　6カ月間のAI開発の一時停止を訴えるこの書簡は、懐疑的な目で見られた。ITリーダーや専門家、業界ウォッチャーの中には自主的な指導では不十分だと感じている人もいれば、イノベーションやAI開発の一時停止に懸念を示す人もいる。

　「技術（の進展速度）に対して規制が大きく遅れているというのが大方の反応だ。これまでも同様だったが、ChatGPTのような大規模な言語モデルの開発では能力差が生じる。私たちは十分に理解できていない」と、カーネギーメロン大学ハインツカレッジのラマイヤ・クリシュナン学部長は電子メールで述べた。

　「この技術は現在、OpenAIやGoogleなどほんの一握りのプレーヤーにしか提供されておらず、検査や創発的な研究のためにはオープンにされていない。産業界はモデルとその特性を研究するための計算資源やデータ、ガバナンスを備えたオープンなコンソーシアムを必要としている」（クリシュナン氏）

（注1）IN THE MATTER OF OPEN AI (FTC 2023)（Center for AI and Digital Policy）
（注2）Call for a pause on AI training met with skepticism（CIO Dive）
（注3）All this AI has a byproduct: regulatory and legal scrutiny（CIO Dive）
（注4）FTC opens inquiry into cloud market competition, security（CIO Dive）
（注5）FTC Launches New Office of Technology to Bolster Agency’s Work（FTC）
（注6）Artificial Intelligence: UNESCO calls on all Governments to implement Global Ethical Framework without delay（UNESCO）

（初出）GPT-4 draws more heat as AI advocates file FTC complaint against OpenAI

原文へのリンク