富士通、AIに潜むセキュリティリスクを分析するツールを無償公開 “安全なAI”開発を可能に

富士通は、AIに潜むセキュリティリスクを分析する「AIリスク問診ツール」の無償公開を発表した。AIに誤判断させて情報窃取したり、機械を誤動作させたりするAIの特性を悪用したサイバー攻撃を防ぐことができる。

[金澤雅子，ITmedia]

　富士通は2022年6月29日、AI（人工知能）に潜むセキュリティリスクを分析する「AIリスク問診ツール」を開発し、機械学習工学研究会（MLSE）を通じて無償公開すると発表した。MLSEが2022年6月30日に公開する「機械学習システムセキュリティガイドライン　Version 1.0」に同技術を掲載し、AI開発者向けのリスク分析ツールとして無償提供する。

開発者自身がリスクを分析するツール　その仕組みは？

　近年、AIの活用分野が広がる一方で、AIを意図的に誤判断させたり、AIから訓練データやモデルの情報を窃取したりするAI特有のサイバー攻撃が懸念されている。これらの攻撃により、自動運転車に搭載されたAIが誤判断をすれば、交通事故が起こる危険性があり、AIを活用したシステムを攻撃者が複製すれば、類似サービスが展開される恐れがある。