小林啓倫のエマージング・テクノロジー論考
生成AIのセキュリティ演習は“それっぽく見えるだけ”? 「AIレッドチーミング」を考える(2/4 ページ)
米Googleも23年7月に発表したレポートの中で、社内に設置されたAI専門レッドチームの活動を報告している。Googleは具体的にいつAIレッドチーミングを開始したかは明記していないが、社内レッドチームの立ち上げは、「10年以上前」にさかのぼるそうだ。
またChatGPTでおなじみの米OpenAIは23年9月、社外の専門家で構成される「OpenAI Red Teaming Network」の立ち上げを発表している。これはGoogleとは異なり、専門家と契約を結び、彼らに対して実施した業務単位で報酬を支払うという形式を取っている。実際にこのネットワークを通じて、OpenAIのLLMであるGPTシリーズや、動画生成AI「Sora」のテストが行われたことも明らかになっている。
こうしたIT企業におけるAIレッドチーミングの取り組みの追い風となっているのが、23年10月に発表された、バイデン大統領による「AIの安全、安心、信頼できる開発と使用に関する大統領令」だ。
この大統領令では、基盤モデルを開発する企業に対し各種情報を提供するよう求めており、その中にレッドチーミングの実施結果も含まれている。またNIST(米国国立標準技術研究所)に対して、AIレッドチーミングのガイドラインを作成するよう求めている。いわば米連邦政府という重要な存在が、AIレッドチーミングにお墨付きを与えた格好だ。
生成AIレッドチーミングは“演劇”なのか?
このように盛り上がりを見せるレッドチーミングだが、一方で生成AIを相手にした場合、果たしてこの手法がどこまで有効なのか? という疑問の声も挙がっている。
例えば1月、米カーネギーメロン大学の研究者らが「生成AIに対するレッドチーミングは『セキュリティシアター』で終わる危険性がある」とする論文を発表している。セキュリティシアターとは、セキュリティ対策を実施したように見えるものの、実際にはセキュリティの向上に何ら効果の無い取り組みのことを指す。シアター(劇場)で行われる演劇のように、それっぽく見えるが真実ではない、という意味が込められている。
研究者らはこの論文の中で、生成AIに対するレッドチーミングが一定の効果を上げることを認めつつ、「レッドチーミングがあらゆる潜在的なリスクに対する万能薬であるかのような言及は、セキュリティシアターの域を出ない」として、その課題や限界にも目を向けるべきだと主張している。
それでは具体的に、どのような懸念点が示されているのか。主なものをまとめてみよう。
Copyright © ITmedia, Inc. All Rights Reserved.
小林啓倫のエマージング・テクノロジー論考
生成AIやメタバース、新たなサイバー攻撃など、テクノロジーの進化が止まらない。少しずつ生活の中に浸透し、その恩恵を預かれることもある一方、思いもよらない問題を生み出すこともある。このコーナーでは、さまざまな分野の新興技術「エマージング・テクノロジー」について、小林啓倫氏が解説する。
この記事の著者
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
総務省が新しい無料オンライン講座「統計解析プログラミング」を1月に開講 Pythonでのデータ分析が4週間で学べる
-
2
AIモデリングもできる無償3D CAD「SolidCraft」を試してみた!
-
3
メルカリ、アプリ開発「2日→数十分」へ 直面したAI時代の“意外な課題”とは?
-
4
AIが設計データの分析からCAD操作まで支援する「SOLIDWORKS 2027」
-
5
AIに200万円渡してネットショップを1年運営させてみた──Alibabaの研究者らがシミュレーション 資産14倍の例も
-
6
【図解あり】マルチエージェント設計「15のパターン」 GitHub、Google、Siemensの知見を一気に整理
-
7
設計/製造から工場運用へ、オートデスクが描く工場全体の最適化戦略
-
8
ガートナーが考えるフィジカルAI実装のロードマップと人の役割
-
9
OpenAI、AIエージェントが代わりに支払う「ChatGPT Wallet」 カード番号は渡さず、購入ごとに生体認証
-
10
AIエージェントを「追えない、止められない」 約半数が経験する“暴走”、浮上する3つの盲点
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR