サイバー犯罪者が早速、ChatGPTを悪用 3つの事例を紹介
Check Point ResearchはOpenAIが開発したチャットbot「ChatGPT」を悪用したサイバー犯罪事例を紹介した。アンダーグラウンドのハッキングコミュニティーではこれをどう悪用するか盛んに議論されているようだ。
セキュリティベンダーのCheck Point Software Technologiesのリサーチ部門であるCheck Point Research(以下、CPR)は2023年1月6日(現地時間)、同社のブログで、OpenAIが開発したチャットbot「ChatGPT」を悪用したサイバー犯罪事例について解説した。
CPRは「AI(人工知能)の悪用がサイバー犯罪の新たなトレンドとなりつつある」と警告している。
ChatGPTのサイバー犯罪への悪用 3つのパターンを確認
CPRは、複数の主要なアンダーグラウンドのハッキングコミュニティーを分析した。その結果、既にサイバー犯罪者がChatGPTを利用して悪意あるツールを開発していたことが判明した。
CPRはブログの中で以下の3つの事例を紹介している。
ケース1:インフォスティーラー型マルウェアの作成
アンダーグラウンドのハッキングフォーラムで、ChatGPTで作成されたPythonをベースとしたインフォスティーラー型マルウェアのコードが公開された。このマルウェアは、「Microsoft Office」文書やPDF、画像ファイルなどをシステム全体から探し、目的のファイルが見つかると、そのファイルをtempディレクトリにコピーし、zipファイルに圧縮してWeb上に送信する。
CPRはマルウェアの開発者について、技術志向の脅威アクターであり、技術力の低いサイバー犯罪者に対し、即座に使用可能な実例を挙げながらChatGPTの悪用方法を紹介することが目的だとみている。
ケース2:暗号化ツールの作成
“USDoD”と名乗る脅威アクターがOpenAIを活用したPythonスクリプトを公開した。USDoDはOpenAIが「明確なスコープでスクリプトを仕上げるため手を貸してくれた」と発言している。
同スクリプトには暗号処理を実行するPythonスクリプトで署名や暗号化、復号などの関数が混在している。CPRは「現時点で犯罪利用されてはいないが、このスクリプトは、ユーザーの操作なしで完全にマシンを暗号化するよう、容易に書き換え可能だ。スクリプトや構文を変更すれば、ランサムウェアに転用できる可能性を秘めている」と指摘した。
ケース3:不正行為を目的とするChatGPTの利用促進
CPRによれば、ChatGPTを利用した不正行為をどう実現するかについて、アンダーグラウンドのハッキングコミュニティーでは議論が進んでいる。
「Abusing ChatGPT to create Dark Web Marketplaces scripts.」(ChatGPTを悪用しダークWebマーケットのスクリプトを作成する)というスレッドでは、サイバー犯罪者が、ChatGPTを使用していかに容易にダークWeb上にマーケットを作成できるかについて投稿されている。
ダークWebマーケットの主な役割は、盗まれた口座やクレジットカード、マルウェア、麻薬、弾薬など、さまざまな違法品や盗品を自動取引し、それらを全て暗号通貨で支払えるプラットフォームを提供することだ。この目的でChatGPTを使用する方法を説明するために、あるサイバー犯罪者は、ダークWebマーケットの決済システムの一部として、サードパーティー製のAPIを利用してBitcoinやEthereumなどの暗号通貨の価格を取得するコードの一部を公開している。
その他、アンダーグラウンドのフォーラム内では、ChatGPTを利用した詐欺の手法などについても盛んに議論が交わされている。
今回紹介した事例の中には、サイバー犯罪者の多くが全く開発スキルを持っていないものも複数存在した。しかしCPRは「より高度なスキルを持つ脅威アクターがAIをベースとしたツールの悪用方法を拡大するのは時間の問題だ」と指摘している。
関連記事
- MicrosoftがAzure OpenAI Serviceの一般提供を開始 ChatGPT含め複数のAIモデルが利用可能に
Microsoftは「Azure OpenAI Service」の一般提供を開始した。同社にとってもマイルストーンとなる発表であり、今後のサービス展開が注目される。 - サティア・ナデラ氏が提唱 デジタルの活用に欠かせない6つのポイントと日本のDX事例
日本マイクロソフトは「Empowering Japan’s Future」を開催し、同社のCEO(最高経営責任者)を務めるサティア・ナデラ氏が講演を行った。同氏はデジタルの活用におけるポイントを6つ紹介する中で、日本国内におけるDX事例を紹介した。 - イーロン・マスクが絶賛した「ChatGPT」、コミュニティーサイトで利用禁止のなぜ【訂正あり】
AIが生成する言語モデル「ChatGPT」は、公開から1週間もたたずにコミュニティーサイト「Stack Overflow」において利用禁止の暫定措置が発表された。何が問題だったのだろうか。 - 元祖ファイアウォール企業が語る「境界型防御時代の終焉」と「セキュリティ人材不足の根源」
ファイアウォール企業の元祖でもあるチェック・ポイント・ソフトウェア・テクノロジーズの青葉雅和氏がサイバー攻撃の実態とセキュリティ人材不足の背景にある根本的な問題を大いに語った。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.