「AIで社員の声まね→認証突破」「機密情報をAIに入力」――生成AI時代のリスク、対抗方法は

[PR／ITmedia]

　あなたの声をAIで模倣し、多要素認証を突破する――にわかには信じ難いが、これはSF映画の話ではない。生成AIで精巧にまねされた音声で従業員になりすまし、セキュリティ対策をかいくぐる巧妙なサイバー攻撃が現実のものになっている。

　高度なサイバー攻撃に遭わなくても、AIを利用する従業員の不注意で機密情報が流出してしまう事例が相次いでいる。AIがもたらす利便性とリスクの間で揺れている企業が多い中、AIによる変革「AIトランスフォーメーション」（AX）を掲げているのがソフトバンクだ。

　ソフトバンクはAXをテーマにした法人向けイベント「SoftBank World 2025」を2025年7月に開催し、「AIを加速させるためのセキュリティ対策」と題した講演セッションを実施。SBテクノロジーのプリンシパルセキュリティリサーチャーである辻伸弘氏とソフトバンクでセキュリティ事業を率いる中野博徳氏が登壇し、AI時代の新たなリスクの実態とそれに対抗するためのアプローチを語った。本記事では、その模様をレポートする。

多要素認証も何のその　生成AIを悪用した新しい手口

SBテクノロジーの辻伸弘氏（プリンシパルセキュリティリサーチャー）

　辻氏は攻撃者の視点を知り尽くす専門家だ。脆弱（ぜいじゃく）性診断やペネトレーションテストを手掛け、セキュリティ動向のリサーチと情報発信に力を入れている。同氏は、生成AIが悪用される現状を分析した次の言葉でセッションの口火を切る。

　「『AIがマルウェアを作って自律的に攻撃を仕掛ける』というのは未来の話です。現在は、攻撃者の補助ツールとして、今まで成功しなかった攻撃の成功率を上げたり人間の心理を突く攻撃に利用されたりしています」

　辻氏は、米国のIT企業が受けた攻撃を例に挙げる。攻撃者は、従業員のスマートフォンにSMSでフィッシングメッセージを送信。従業員の一人が引っ掛かり、IDとパスワードが流出してしまう。IDとパスワードを窃取したものの、多要素認証に阻まれた攻撃者は驚くべき手口を使った。IT担当者の声色を生成AIで模倣し、従業員に電話をして認証コードを入手したのだ。従業員は疑うことなく電話の指示に従い、攻撃者は多要素認証を突破。VPN経由で組織内ネットワークへの侵入に成功した。

　「他人の声を取得するのは難しい」と思うかもしれない。しかし、経営幹部や広報担当者の声は会見動画などから入手でき、一般従業員であっても営業電話を装って声のサンプルを取るのは容易だと辻氏は指摘する。

　AIを駆使した攻撃にAIで対抗すべきなのだろうか。辻氏の答えは「ノー」だ。

　「高いお金をかければ、最新のすごいテクノロジーを使ってフェイクを見抜くことは可能です。それよりも前に実践していただきたいのは、変な電話がかかってきたらコールバックをするといった基本的な取り組みです。従来の仕組みやルールを守ることが大切なのです」

10ドルで売られるログイン情報　マルウェア「InfoStealer」の怖さ

　AIによる攻撃の巧妙化もさることながら、辻氏が「今、最も注目している脅威」として警鐘を鳴らすのが「InfoStealer」（インフォスティーラー）というマルウェアだ。感染したPCから情報（インフォメーション）を盗む（スティール）ことを目的とする。

InfoStealerの概要（出典：辻氏の講演資料）《クリックで拡大》

　InfoStealerに感染すると、Webブラウザに保存しているIDやパスワード、Cookie、VPNの接続情報、クレジットカード情報などが盗まれてしまう。中でもCookieについて辻氏は「盗まれたら本当に厄介です」と語る。Cookieは、Webサイトにログインした状態を維持するための情報を含んでいる。

　「IDとパスワードが盗まれても、多要素認証が設定されていれば攻撃者のログインは困難です。しかし、Cookieがあればログイン可能です。と言うよりも、ログイン画面さえ出ません。マイページなどログイン後のページに直接アクセスできてしまうのです」

　盗まれたと思われる認証情報やCookieは、ダークWebのマーケットで「1台分のPCの認証情報セットで10ドル」で取引されているという。情報の漏えいによる影響は計り知れないが、脅威の本質は別の場所にあると辻氏は指摘する。InfoStealerによる侵害は表沙汰になりにくいという事実だ。

　「InfoStealerに感染したPCから情報が漏えいするわけですが、Cookieを用いた不正アクセスは正規の認証情報を使った正常なアクセスにしか見えないため、原因を特定できません。ログを残していない場合は、IT担当者はどのような対策を打てばいいか分からず、有効な対策を打てない状況です」

　辻氏は、取り組むべき対策は「基本への立ち返り」だと強調する。自社のセキュリティシステムや監視体制を過信せず、被害の早期発見とダメージコントロールに主眼を置くことが大切だ。IT資産の棚卸しや、テレワーク環境や委託先のセキュリティ状況を改めて見直すことも忘れてはならない。

　「土台が緩い土地に高層マンションを建てると傾いてしまいます。セキュリティも同じで、情報管理できている上にしか成り立たないのです。セキュリティは『健康』にも例えられます。健康体を手に入れるにはサプリメントだけ飲んでも駄目で、健康状態に合わせて睡眠、食事、運動などに取り組みます。皆さんが守りたいITシステムがどのような状態にあるのか把握し、必要な対策を考えてください」

生成AI利用の“やらかし”が企業のリスクに

ソフトバンクの中野博徳氏（法人統括 AIプラットフォーム開発本部 セキュリティ事業第1統括部 統括部長）

　講演セッションのバトンを受け取ったソフトバンクの中野氏は、AIを使う側の視点から企業が直面するセキュリティリスクと対策を語る。

世界的にも活用が進むAIだが、その裏では看過できないインシデントが起きている。大規模言語モデル（LLM）を開発している米国のある企業は、プライベートLLMにアクセスできるAPIキーを従業員が誤って公開してしまった。不正アクセスされれば知的財産であるLLMのフェイクモデルを作られてしまうなどのリスクがある。

　韓国の大手電機メーカーは、会社の管理外にあるAIサービスにソースコードのバグ修正や会議の議事録作成を依頼していたことが判明。機密情報の漏えいにつながりかねない利用方法だが、AIへの指示文（プロンプト）に機密情報を入れてしまうケースは同社に限らず多いとみられている。

　他にも、メールに悪意あるプロンプトを埋め込んでおき、「ユーザーが『Microsoft Copilot』などのAIアシスタントに要約を依頼すると社内情報を外部送信する」という脆弱性が確認されている。これから爆発的に増えるであろうAIエージェントについても注意が必要だ。

　「AIエージェントは、業務アプリケーションや社内情報と連携させることで価値を発揮します。情報の読み取り／書き取りが可能なため、AIエージェントを適切に管理しなければなりません。AIエージェントは、最も考慮すべきアタックサーフェス（攻撃対象領域）の一つになるでしょう」

AIを安全に利用するための3つのポイント

　中野氏がAIのインシデント事例を挙げたのは、AIの利用を制限するためではない。適切な利用方法を守る必要があり、そのためには安全に使えるセキュリティ環境が欠かせない。同氏は「多くの企業はゼロトラストセキュリティの考え方でIT環境を守っているでしょう。それをベースに、AIサービスに対するセキュリティ対策を追加してトータルで守ることが大切です」と訴える。

　AI利用に即したセキュリティ対策に取り組むには、「AIを支えるセキュア基盤」の構築から始めるとよい。多くのAIサービスが稼働するクラウド環境のセキュリティ対策にはCNAPP（Cloud Native Application Protection Platform）の製品が役立つ。設定ミスや脆弱性の検出、サイバー攻撃のブロックなどが可能なので、AIを安全に使う土台を固められる。

　従業員が誤って機密情報を入力するのを防ぐために「セキュアな生成AIアクセス」を実現するのも効果的だ。ネットワーク管理とセキュリティ機能を統合したSASE（Secure Access Service Edge）製品が備える「DLP」（Data Loss Prevention）機能を使い、個人情報や機密情報が外部に送信されるのを検知してブロックする。

AI活用を守るセキュリティ対策の在り方（出典：中野氏の講演資料）《クリックで拡大》

　「AI環境をサイバー攻撃から守るために、全体を俯瞰（ふかん）した対策も必要です。脆弱性診断や脅威動向の調査などを通して防御力を強化してサイバー攻撃を未然に防ぐ『アクティブサイバーディフェンス』と、ITインフラ全体を監視してインシデントに即応できる体制を設けることでAI環境を総合的に守る取り組みが重要です」

AIを守るパートナーとして「ナンバーワンの会社を目指す」

　セキュアなAI利用によるビジネス改革を提唱するソフトバンクは、グループ企業であるSBテクノロジーと共に企業のAI利用を推進している。

　「通信会社でもあるソフトバンクは、ネットワークセキュリティやエンドポイントセキュリティに強みがあります。SBテクノロジーは、クラウドシステムの構築やセキュリティ監視を得意とする会社です。強みが違うからこそ、シナジーを生み出しやすいのです」

　両社の強みを合わせることで、上流のコンサルティングから設計・構築、マネージドセキュリティサービスによる運用・監視、インシデント対応までワンストップで提供する体制を用意している。

　「私たちはノウハウを統合して、AI環境を守るゼロトラスト製品の拡充や新しいソリューション群の開発に取り組んでいます。AIを守るためのセキュリティパートナーとして求められるナンバーワンの会社を目指しています」

　本講演を通して両氏が訴えるのは、AXの価値や成果ばかりに目を向けるのではなく、それを支える確かな土台を築くことの重要性だろう。従来のセキュリティ対策を維持しつつ、AI時代に適した対策を取り入れる上でソフトバンクとSBテクノロジーのタッグは心強い味方になりそうだ。