OpenAIとMicrosoft、AIを攻撃に悪用するロシアや中国のアカウント停止

公開 2024年02月15日 09時12分

更新 2024年02月15日 09時10分

[ITmedia]

印刷する

　米Microsoftと米OpenAIは2月14日（現地時間）、LLMなどのAIツールが国家関連の攻撃者に悪用されているという調査結果と、複数の関連アカウントを停止したことを発表した。

　両社は情報を共有して協力し、5つの国家関連の悪意ある攻撃者、脅威アクターを阻止したという。「OpenAIのLLMとユーザーを攻撃や悪用から保護し、モデルにガードレールと安全メカニズムを構築するための措置を講じている」。

　アカウントを停止したのは、ロシア政府とつながるForest Blizzard（APT28、Fancy Bearとも呼ばれる）、イラン政府関連のCrimson Sandstorm、中国政府のCharcoal TyphoonとSalmon Typhoon、北朝鮮政府のEmerald Sleet。これらの脅威アクターに関連付けられているすべてのアカウントと資産を無効にした。

　例えば、ロシアの外交政策と軍事目標に対して重要な支援的役割を果たしているForest Blizzardは、LLMを使って衛星通信プロトコルやレーダー画像技術を研究し、ウクライナでの軍事作戦に利用していたという。

　Crimson Sandstormは、LLMと対話してフィッシングメールの原稿を生成していた。中には、国際開発機関を装うものや、著名なフェミニストを偽のフェミニズムサイトに誘い込もうとするものなどがあった。

　両社は、LLMを悪用した致命的な攻撃はまだ検出していないが、こうした初期段階の動きを報告することで、政府を含む防御者コミュニティと協力していくことが重要だとしている。

印刷する