AIの安全性測る「物差し」を日本でも――AISI村上所長に聞く展望　相次ぐサイバー攻撃への対応は

　AIの安全性を測る「物差し」を自ら作り、評価を公開する。日本のAISI（AIセーフティ・インスティテュート）が、このような取り組みを進めている。村上明子所長によると、独自ベンチマークによるAIモデルの評価を2026年度内に完了するという。

　日本のAISIは、2024年2月に発足した公的機関。関係省庁や海外の同種の組織と連携しながら、AIの安全性に関する基準や評価手法を整備している。

　AIの性能が飛躍的に高まり、安全性にも注目が集まる中、AISIは何を担い、どのような課題に取り組んでいくのか。村上明子所長に聞いた。

AIの安全対策、「事例の後追いでは間に合わず」

　村上所長は、AISIが10月7日に開催した事業者らによる実証実験の成果共有会「AISI事業実証WG 2026年度上期報告会」に登壇。AISIの目的を「信頼できるAIの提供に必要な情報や技術を有し、日本を世界で最もAIを開発・活用できる国にすること」と定義した。

　この目的の実現に向けたAISIの役割は3つある。信頼できるAI製品・サービスの普及、AI関連分野の競争力強化、AIの開発・普及に伴って国家の安全を脅かす事象の抑止だ。

　これを踏まえ、村上所長はAISIの具体的な活動を次の4つに整理する。

1）AIの安全性に関する物差し（ベンチマーク）を作る。

2）AIモデル・システムを自ら評価する能力を持つ。

3）AI関連情報の収集・分析・提供を率先して行う。

4）AI安全性に関して国際協調を主導し、国際競争力を高める。

　村上所長は、日々AIの安全性に関するニュースが飛び交う中で、「こうした事例を後から追いかけても間に合わない」と指摘する。実証実験の成果共有などを通じ、先回りで議論を進めることの重要性を強調した。

「実装段階の安全性」も評価へ

　村上所長は同日、同会の会場で報道関係者の取材にも応じた。

　村上所長によると、AIの評価に関しては、英国AISIのAI評価ツール「Inspect」や、公開されたベンチマークによる検証を実施済みという。独自ベンチマークによる評価も2026年度内に完了する予定だ。

　ただし、評価対象となるモデルやベンチマークの公開範囲は検討中だ。「基本的には公開されているモデルを広くカバーしたいが、対象は確定していない。またベンチマークを全てオープンにすると、悪い人たちにも手の内を伝えることになる」

　村上所長は、今後注力したいポイントとして、多くのAIモデルを評価し続ける体制の確保に加え、モデルの実装段階における安全性の評価を挙げる。AIエージェントやフィジカルAIを念頭に、ハーネスなども含めて検証する方針を示した。

セキュリティ専門機関との協力も視野

　記者からは、相次ぐサイバー攻撃に対する見方と対応を聞く質問も出た。

　村上所長は「AIが関与しているかどうか証拠が無い」（7日取材時点）とした一方、「AIによって脆弱（ぜいじゃく）性の発見速度が上がっていることは事実」との見解を示す。攻撃側の速度に対応するため防御側もAIを活用する必要があるという。

　「AIを使ってくる相手に丸腰で、つまり人力だけで脆弱性のパッチを当てて対応しきれるだろうか。AIの速度は人間を超えており、24時間365日休まず働ける」（村上所長）

　AIによるサイバー攻撃の対策については、「AISIだけでは対応できないため、サイバーセキュリティの専門機関とも協力することになる」と村上所長。ただし、インシデントにおけるAI利用の有無を外部から見極めるのは難しいため、報告のフレームワークに関しては、既存のサイバーセキュリティインシデントのもので対応したい考えだ。

　「表からだとAIを使っているのか分からない。そこはサイバーセキュリティの枠で対応しつつ、どういう攻撃手法があるのか、どういう能力を（AIが）持っているのかという点は、AIの安全性を見ているわれわれもフォローする必要がある」（村上所長）

この記事の著者