「AI社員」がビジネスを変える？ 便利さの裏にある“新たな脅威”：世界を読み解くニュース・サロン（4/5 ページ）

AIの新たな使い方として注目される「AIエージェント」。企業の一員として、自律的に業務を遂行するようになる可能性もある。一方、サイバー攻撃者も高度なAIを武器として使い始めており、攻めと守りの両面でAIをうまく活用することが求められる。

[山田敏弘，ITmedia]

両刃の剣となった「Claude Mythos」

　専門家らの見立てでは、2026年には「脆弱性が悪用されるまでの時間が半減する」とも言われている。攻撃者側は倫理的な制約が少ないため、防御側よりも先に先端AIを活用する可能性がある。

　象徴的な事例として最近注目されているのが、米Anthropic（アンソロピック）による先端モデル「Claude Mythos（クロード・ミュトス）」だ。同社は当初想定されていた一般公開を見送り、代わりに、大手テクノロジー企業やインフラ事業者（Microsoft、Apple、AWS、NVIDIA、Ciscoなど）に対して、防御目的に限定した上で提供した。

　その背景にあるのは、同モデルが示した能力だ。ミュトスは、主要なOSやブラウザ、一般的なアプリのほぼすべてにおいて、これまで知られていなかった危険度の高い脆弱性を大量に発見した。その中には20年以上放置されていた欠陥も含まれていたという。

悪用を防ぐため、最先端AIは限定的に提供された（画像提供：ゲッティイメージズ）

　このレベルの能力を持つモデルを無制限に開放した場合、防御側が修正パッチを適用する前に、攻撃者に悪用されるリスクが極めて高い。同社はまず、重要なソフトウェアやインフラのベンダーが脆弱性を修正するための「防御ファースト」活用に限定する戦略を採った。

　もしミュトスのような高度なAIが攻撃者や国家的な敵対者の手に渡れば、企業や社会は恐ろしい脅威に直面する。「システムの微妙な欠陥を自律的に大量に発見し、即座に攻撃へと変換できるため、攻撃の速度と規模が爆発的に増大する。重要インフラに対する攻撃や大規模なランサムウェア攻撃、スパイ活動など、防御側が対応する前に壊滅的な攻撃ができてしまう。そうなるとデジタルインフラ全体に対する信頼が揺らぐことになる」とリテシュCEOは言う。

　ミュトスを巡る騒動は、最先端レベルの「フロンティアAI」が、防御にも攻撃にも使える強力な両刃の剣であることをあらためて見せつけた。先端モデルの公開範囲や利用目的をどうデザインするか。技術を提供する企業だけでなく、利用企業や規制当局にとっても避けて通れないテーマになりつつある。