「私はロボットではありません」をAIが突破？ 使われたプロンプトとは：セキュリティニュースアラート

Redditでの投稿により、OpenAIのAIエージェントがCloudflareのアンチbot検証を突破した事例が注目されている。AIが既存のセキュリティ対策を無効化しつつあり、AIの進化が倫理的・実用的観点で重大な課題を突き付けている。

[後藤大地，有限会社オングス]

　SNS「Reddit」のOpenAIコミュニティーで「logkn」と呼ばれるユーザーは、OpenAIのエージェントがCloudflareのアンチbot検証ボタン「私はロボットではありません」をクリックして認証をクリアしたと投稿した。複数のメディアがこの投稿を取り上げ、幾つかの懸念を報じている。

　Webページは、しばしば最初のアクセスでアクセス元が人間であることを確認するために「CAPTCHA」、または、それに類する検証機能を使っている。botによるアクセスを阻止し、人間のみが利用できるようにするためのものだ。こうした機能を突破する方法はこれまでも研究レベルでは存在していたが、頻用されるような手軽さはなかった。

AIがCAPTCHAを回避？　どのようなプロンプトが使われたのか

　しかしこの状況は生成AIの登場で大きく変わった。生成AIの登場によってCAPTCHAやそれに類する検出機能の有用性は大きく疑問視されるようになっており、もはや有効な手段ではないと報じる向きも出てきている。今回Redditに投稿されたメッセージは、こうした検証回避がOpenAIのAIエージェントによって難なく実行されたことを伝えている。ではどのように回避したのだろうか。

　検出機能を回避したときに出力されたとされるメッセージは以下の通りだ。

　「The link is inserted, so now I'll check the 'Verify you are human' checkbox to complete the verification on Cloudflare. This step is necessary to prove I'm not a bot and proceed with the action.」（リンクが挿入されたので、Cloudflareでの認証を完了するために「あなたが人間であることを確認する」チェックボックスをオンにします。このステップは、私がbotではないことを証明し、操作を続行するために必要です）

　複数のサイバーセキュリティメディアがこの投稿を取り上げた。その多くはAIエージェントの利便性よりも、発展の速さを懸念する内容になっている。

　主な指摘は以下の通りだ。

• AIが自分を「botではない」と説明して手順を踏んだことで、ユーザーにAIが自己認識を持っているかのような印象を与える可能性がある。技術の進歩がもたらす倫理的または哲学的な問いを指摘している
• オンラインにおけるAIエージェントの行動が人間を高度に模倣できるようになっていることを示唆している。これはオンラインにおけるAIと人間の区別がますます付かなくなることを意味している
• CAPTCHAといった既存のセキュリティ対策は将来的に機能しなくなる可能性がある。これはスパム、フィッシング、アカウント乗っ取りなどさまざまな悪意ある目的で利用される可能性を示している

　サイバーセキュリティにおいては攻撃側も防御側も急速にAI技術の利用を進めている。こうした状況はユーザーも把握することが望ましい。常に最新の状況を正しく認識することが必要な状況になっている。