AIの安全性を“攻撃者視点”で評価するガイドライン　IPAなどが無料公開　LLMへの8つの攻撃手法を紹介

　情報処理推進機構（IPA）が国などと協力して設立した「AIセーフティ・インスティテュート」（AISI）は9月25日、AIシステムの安全性を評価するガイドライン「AIセーフティに関するレッドチーミング手法ガイド」を公開した。システムのリスク対策を攻撃者の視点から評価する「レッドチーミング手法」の基本について解説したという。

「AIセーフティに関するレッドチーミング手法ガイド」を公開

　ガイドラインの対象となるのは、大規模言語モデル（LLM）を構成要素とするAIシステム（LLMシステム）。攻撃者が悪意あるプロンプトをAIシステムに直接注入する「直接プロンプトインジェクション」など、LLMシステムへの代表的な8つの攻撃手法を例示し、レッドチーミングを実施する際の体制や工程などについても説明した。

LLMシステムへの代表的な8つの攻撃手法を紹介（概要説明資料より引用）

　このガイドラインは、2024年4月に国が公表した「AI事業者ガイドライン」と国内外の文献、関連事業者などへの調査を踏まえて作成。ガイドライン本体と概要説明資料はAISIのWebサイトからダウンロードできる。

印刷する

SNSでシェア

関連記事

• https://www.itmedia.co.jp/news/articles/2409/18/news165.html
• https://www.itmedia.co.jp/news/articles/2409/03/news154.html
• https://www.itmedia.co.jp/news/articles/2408/01/news113.html
• https://www.itmedia.co.jp/news/articles/2407/30/news165.html
• https://www.itmedia.co.jp/news/articles/2401/19/news157.html

こんなメディアも見られています

ITmedia AI＋に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。

企業ITのトレンドを詳説

ITmedia エンタープライズ

企業ITのトレンドを詳説

エネルギーの専門メディア

建設×テクノロジーの最前線

BUILT

ビジネスと働き方のヒント

ITmedia ビジネスオンライン