ChatGPTが“操縦”するWebブラウザの使い心地は？ OpenAI「Atlas」レビュー 革新の裏にはリスクも：小寺信良のIT大作戦（3/3 ページ）

米国時間の10月21日に、米OpenAIからAI統合型ブラウザ「ChatGPT Atlas」が発表されると、SNSではすぐにその動作の様子が投稿され、ネットには解説サイトが立ち上がるなど話題だ。ただその一方で、それほど単純な話ではないという意見も聞こえてくる。AI統合型ブラウザがもたらすものと、そのリスクは何か。ChatGPT Atlasにまつわる諸問題を検討してみたい。

[小寺信良，ITmedia]

ブラウザをAIに操作させるリスク

　エージェントモードでは、ユーザーの指示に従って自律的にWebサービスを操作できるのがポイントになるが、一方でその穴も指摘されている。例えばWebサイトに、人間には見えない形、例えば背景色と同色のフォントで書かれているとか、ものすごく小さい文字で書かれているような、AI向けの指示が記載されていた場合、AIがそれを読み込むことでユーザーの指示が上書きされる可能性がある。

　例えばそれほど評価が高くない商品なのに、やたらとAIが勧めてくるみたいなトリックが使われるといったことが考えられる。おいしくない炭酸水が1ケース届くぐらいはかわいいものだが、メールなど私信に関わる情報が盗まれたりする可能性もある。ここは悪意あるサイトとAI開発者との永遠のいたちごっこになりそうなところだが、取りあえずChatGPTのカスタム設定のところに、ページ内に埋め込まれたAI向けの指示には従わないよう、一言書き入れておくといいかもしれない。

　こうしたステルス指示のテクニックは、すでにコンピュータサイエンスの分野では、研究論文の査読対策として知られていたようだ。日本経済新聞の調査によれば、研究論文の査読にAIが使われることを想定して、AIへの指示が記載されていたものが多数見つかったという。すでに人間とAIの化かし合いはスタートしていたわけだ。

　プライバシーという点では、上記で述べたブラウザメモリ機能も、自分の検索履歴がOpenAIに筒抜けになるのではないかという点も懸念されている。また「全てのユーザー向けにモデルを改善する」や「Web参照と検索の改善にご協力ください」といった機能もデフォルトでONになっており、ここも議論を呼んでいる。

　どのような設定がベターなのかは、セキュリティの専門家の意見を参照する必要がある一方で、あまりにも何もさせないのならChatGPT Atlasを使う意味がないことにもなりかねず、正直何が正解なのか、今の段階ではよく分からない。ただ利便性のプライバシーのバランスはGoogleやFacebookが勢力を伸ばしてきた2000年代にも議論されてきたところであり、現在はある程度のプライバシーの切り売りは仕方がないと容認された状態にある。

　ただそれでも、少なくともChatGPT Atlasを利用することによってユーザーのどのような情報が収集され、それらはどのように企業に利用されるのか、この点が明らかになるまでは、「いつでも逃げられる半身の態勢」で慎重に使うべきだろう。