米国と同盟国、安全なAI開発に向けたセキュリティガイダンスを公開：Cybersecurity Dive

重要インフラの分野においてハッカーによるAIシステムの悪用が懸念される中で、この度、米国とその同盟国による共同ガイダンスが発表された。AI開発の安全性を高める効果が期待されている。

[Eric Geller，Cybersecurity Dive]

　米国とその同盟国である3カ国は2025年5月22日（現地時間）に発表した共同ガイダンスの中で（注1）、AIシステムを設計する企業に対し、トレーニングデータの改ざんを防ぎ、基盤となるインフラへのアクセスを厳格に制限するよう求めた。

AI開発の安全性を高める　CISAらがセキュリティガイダンスを公開

　この度のAIに関連するセキュリティガイダンスは、AIシステムのライフサイクル全体にわたるデータ保護やサプライチェーンに関する考慮事項、大規模データセットに対する攻撃を防ぐための対策などの複数のテーマを取り扱っている。

　この共同ガイダンスは、強力なAIモデルに脆弱（ぜいじゃく）性が存在すると、それが（電力やガス、鉄道、空港などの）重要インフラ業界全体に波及する可能性があるという米国および同盟国の懸念を反映したものだ。

　米国連邦捜査局（FBI）と米国土安全保障省サイバーセキュリティ・インフラストラクチャセキュリティ庁（CISA）、米国国家安全保障局（NSA）は、オーストラリアおよびニュージーランド、英国のサイバーセキュリティ機関と連携し、安全なAI開発のためのベストプラクティスを記載した文書を作成した。

　米国および同盟国は次のように述べている。

　「このインフォメーションシートに示された原則は、AIデータのセキュリティを確保し、AIによって導き出される結果の信頼性と正確性を担保するための強固な基盤を提供するものだ」

　多くの企業が十分な検討や監視をしないままAIを業務に取り入れる動きを急いでいることを考えると（注2）（注3）、この度の勧告は意義のあるタイミングで発表されたといえるだろう。西側諸国の政府は、ロシアや中国をはじめとする敵対勢力がAIの脆弱性を予期しない形で悪用する事態を警戒する姿勢を強めている。

　電力や水道、医療など日常生活に不可欠な要素を制御する運用技術に、重要インフラの事業者がAIを組み込み始めたことで、これらのリスクはさらに高まっている。

　データはAIシステムの基盤となる要素である。そのため本文書では計画およびデータ収集、モデル開発、導入、運用といったAIに関連するライフサイクルの各段階で情報を保護する方法について示している。また文書の中では、改ざんを認証するデジタル署名の使用、不正アクセスを防ぐ信頼できるインフラの利用、新たなリスクを特定するための継続的なリスク評価が推奨されている。

　意図的であれ偶発的であれ、この度のガイダンスはデータ品質の問題がAIモデルの安全性や信頼性を損なうことを防ぐ方法に焦点を当てている。文書によると、暗号化ハッシュの活用により、生データがモデルに組み込まれた後に改ざんされていないことを保証できるとされている。また、Webで収集したデータセットの問題を取り除くために定期的なキュレーションを実施することや、トレーニング前に悪質なデータポイントや疑わしいデータポイントを除去できる異常検知のアルゴリズムの利用も推奨されている。

　この共同ガイダンスは、統計的なバイアスや不正確な情報、重複データ、入力データの特性が自然に劣化していく「データドリフト」などの懸念事項にも対応している。

（注1）Joint Cybersecurity Information（U.S. Department of Defense）
（注2）AI drives cyber strategies, security execs say（Cybersecurity Dive）
（注3）AI is stirring mixed feelings among CFOs, survey finds（Cybersecurity Dive）

原文へのリンク