サイバー犯罪者が早速、ChatGPTを悪用 3つの事例を紹介

Check Point ResearchはOpenAIが開発したチャットbot「ChatGPT」を悪用したサイバー犯罪事例を紹介した。アンダーグラウンドのハッキングコミュニティーではこれをどう悪用するか盛んに議論されているようだ。

[田渕聖人，ITmedia]

　セキュリティベンダーのCheck Point Software Technologiesのリサーチ部門であるCheck Point Research（以下、CPR）は2023年1月6日（現地時間）、同社のブログで、OpenAIが開発したチャットbot「ChatGPT」を悪用したサイバー犯罪事例について解説した。

　CPRは「AI（人工知能）の悪用がサイバー犯罪の新たなトレンドとなりつつある」と警告している。

ChatGPTのサイバー犯罪への悪用　3つのパターンを確認

　CPRは、複数の主要なアンダーグラウンドのハッキングコミュニティーを分析した。その結果、既にサイバー犯罪者がChatGPTを利用して悪意あるツールを開発していたことが判明した。

　CPRはブログの中で以下の3つの事例を紹介している。

ケース1：インフォスティーラー型マルウェアの作成

　アンダーグラウンドのハッキングフォーラムで、ChatGPTで作成されたPythonをベースとしたインフォスティーラー型マルウェアのコードが公開された。このマルウェアは、「Microsoft Office」文書やPDF、画像ファイルなどをシステム全体から探し、目的のファイルが見つかると、そのファイルをtempディレクトリにコピーし、zipファイルに圧縮してWeb上に送信する。

　CPRはマルウェアの開発者について、技術志向の脅威アクターであり、技術力の低いサイバー犯罪者に対し、即座に使用可能な実例を挙げながらChatGPTの悪用方法を紹介することが目的だとみている。

ケース2：暗号化ツールの作成

　“USDoD”と名乗る脅威アクターがOpenAIを活用したPythonスクリプトを公開した。USDoDはOpenAIが「明確なスコープでスクリプトを仕上げるため手を貸してくれた」と発言している。

OpenAIを用いてマルチレイヤー暗号化ツールを作成したことを認めるコメント（出典：Check Point Software Technologiesの提供資料）

　同スクリプトには暗号処理を実行するPythonスクリプトで署名や暗号化、復号などの関数が混在している。CPRは「現時点で犯罪利用されてはいないが、このスクリプトは、ユーザーの操作なしで完全にマシンを暗号化するよう、容易に書き換え可能だ。スクリプトや構文を変更すれば、ランサムウェアに転用できる可能性を秘めている」と指摘した。

ケース3：不正行為を目的とするChatGPTの利用促進

　CPRによれば、ChatGPTを利用した不正行為をどう実現するかについて、アンダーグラウンドのハッキングコミュニティーでは議論が進んでいる。

　「Abusing ChatGPT to create Dark Web Marketplaces scripts.」（ChatGPTを悪用しダークWebマーケットのスクリプトを作成する）というスレッドでは、サイバー犯罪者が、ChatGPTを使用していかに容易にダークWeb上にマーケットを作成できるかについて投稿されている。

　ダークWebマーケットの主な役割は、盗まれた口座やクレジットカード、マルウェア、麻薬、弾薬など、さまざまな違法品や盗品を自動取引し、それらを全て暗号通貨で支払えるプラットフォームを提供することだ。この目的でChatGPTを使用する方法を説明するために、あるサイバー犯罪者は、ダークWebマーケットの決済システムの一部として、サードパーティー製のAPIを利用してBitcoinやEthereumなどの暗号通貨の価格を取得するコードの一部を公開している。

　その他、アンダーグラウンドのフォーラム内では、ChatGPTを利用した詐欺の手法などについても盛んに議論が交わされている。

　今回紹介した事例の中には、サイバー犯罪者の多くが全く開発スキルを持っていないものも複数存在した。しかしCPRは「より高度なスキルを持つ脅威アクターがAIをベースとしたツールの悪用方法を拡大するのは時間の問題だ」と指摘している。