AIエージェント「OpenClaw」がメールを全削除している──MetaのAI研究者、Mac Miniまで全力ダッシュ

AIが言うことを聞かず、Gmailの受信トレイの中身を削除されてしまったこと──米MetaのAI研究者が遭遇した危機とは。

[ITmedia]

　「OpenClawが受信トレイを猛スピードで全削除していくのをただ眺めるしかない。これほどまでに自分をへこませる経験はない。スマホからは止められなかった。爆弾を解体するように、必死にMac Miniまで走った」──米MetaでAIの安全性やアライメント（AI倫理）を研究するサマー・ユエ氏は2月23日、自身のXアカウントにこう投稿した。AIが言うことを聞かず、Gmailの受信トレイの中身を削除されてしまったという。

　OpenClaw（旧Clawdbot）は、ローカル環境で動作するAIエージェントの開発基盤。PCを自律操作する画期的なAIツールとして1月下旬から開発者間で話題になっており、AIを動かす環境としてMac Miniを購入する人が相次いだ。同氏もMac MiniでOpenClawを動かし、スマートフォンから操作できるようにしていたようだ。

　同氏はAIに対し「この受信ボックスをチェックして、何をアーカイブして、何を削除するかを提案してほしい。実際の処理は指示を待って」と指示していた。テスト用の受信ボックスでは数週間にわたってうまく動作していたものの、本物の受信ボックスは容量が大きく、処理が一部省略されてしまったという。

　同氏はAIとのテキストチャットの様子も収めた画像も投稿。AIに対し、今何をしているか説明するよう求めたところ、受信トレイにある2月15日以前のメールを全て箱に削除しているとの回答が。停止するよう何度も求めるも、AIは言うことを聞かない。結局チャットべースでは制止できず、Mac Miniを直接操作して停止する羽目になったようだ。

同氏の投稿した画像

　また、同氏は原因と関連するかもしれない事象としてmdファイル（AIへの指示ファイル）の記載を挙げた。事前に「be proactive」（主体的に行動する）という指示を取り除いていたが、見落としがあった可能性があるという。同氏は今回の出来事について「新人のようなミス。どうやらアライメント研究者もミスアライメントには耐性がないみたい」と自虐的に振り返っている。