AIによるサイバー攻撃の民主化をUnit 42が警告 無料の「KawaiiGPT」巡り

Palo Alto NetworksのUnit 42は、悪意あるLLM「WormGPT 4」や「KawaiiGPT」の分析結果を公開し、AIの「デュアルユースのジレンマ」がサイバーセキュリティの中心課題だと警告した。これらのLLMの出現により、攻撃のライフサイクルが数日からわずか数分にまで圧縮されたとしている。

[ITmedia]

　サイバーセキュリティ企業の米Palo Alto NetworksのUnit 42は11月25日（現地時間）に公開したレポートで、LLMが持つ力が防御だけでなく攻撃にも利用される「デュアルユースのジレンマ」がサイバーセキュリティの中心課題であると警告した。

　Unit 42が分析した「WormGPT 4」や「KawaiiGPT」といった悪意あるLLMは、意図的に倫理的制約を取り除き、サイバー攻撃を助長するために特化して設計されている。これらのツールは、コーディングスキルやテキストの自然さなどの技術的な障壁を取り除くことでサイバー犯罪の商業化とスキルの民主化を促進し、ネットに接続できれば誰にでも利用可能になっているとしている。

　「WormGPT 4」は、倫理的境界の完全な拒否を主要なセールスポイントとして掲げ、月額50ドルからのサブスクリプションで提供される完全に商用化されたサービスだ。Unit 42の検証によると、このモデルは、文法的な誤りや不自然な表現を排除した説得力のあるビジネスメール詐欺やフィッシングのメッセージを生成できるほか、Windowsホスト上のPDFファイルを暗号化する機能的なPowerShellランサムウェアスクリプトや、72時間以内の支払いを要求する脅迫的なランサムノート一式を瞬時に出力する能力を持っているという。

「WormGPT 4」の販売価格（画像：Unit 42）

　無料で利用できる「KawaiiGPT」は、サイバー犯罪への参入障壁をさらに下げており、GitHubで公開され、ほとんどのLinux環境で5分未満で容易にセットアップできる。このモデルは、ユーザーにカジュアルな言葉遣いで挨拶するが、スピアフィッシングのルアー、Linuxホスト間のラテラルムーブメント用の機能的なPythonスクリプト、Windowsホスト上のEMLファイルを窃取するデータ抜き出しスクリプトなど、攻撃に必要な構成要素を生成する。KawaiiGPTの作成者は、500人以上の登録ユーザーがいると自己報告しており、活発なTelegramコミュニティを中心にヒントの共有が行われているという。

「KawaiiGPT」のWebサイト（画像：Unit 42）

　Unit 42は、これらのLLMの出現により、攻撃のライフサイクルが数日からわずか数分にまで圧縮され、防御側は質の悪い文法や稚拙なコーディングといった従来の警告サインに頼れなくなったと結論づけている。このため、基盤モデル開発者は、強制的なアラインメントや安全メカニズムの組み込みを徹底し、政府・規制当局は監査フレームワークを整備する必要があるとしている。

　同チームは、WormGPT 4のように営利目的で組織化された犯罪に対処するためには、研究者や事業者間の国際的な協力を通じて、犯罪サービスの収益化基盤を遮断し、AIによって生成される悪意の規模と速度に耐性のあるシステムを構築する必要があると提言している。