「Claude Code」、AIが権限確認を代行する「auto mode」がデフォルトに 8月14日から
米Anthropicは8月7日(現地時間)、AIコーディングツール「Claude Code」で、コマンド実行前の権限確認をAIが自動判定する「auto mode」を8月14日からデフォルトにすると発表した。対象はPro、Max、Teamの各プラン。対照実験では、危険なコマンドの検出率は人間を大きく上回ったという。
auto modeは、AIが実行しようとするコマンドやツール呼び出しをユーザーに都度確認する代わりに、専用の分類器が1件ずつ評価し、取り消し不能な操作や破壊的な操作、ユーザーの環境外に影響する操作をブロックする仕組み。ブロックされた場合、Claudeは自ら安全な代替手段を探すか、ユーザーに直接確認する。3回連続、または1セッションで20回ブロックされると手動承認モードにフォールバックする。分類器の実行に伴う追加トークン分の課金は、Pro、Max、Teamプランでは8月7日付で撤廃した。
判断の根拠として同社が挙げたのが、調査会社を通じて集めた1053人の有償テスターによる対照実験だ。テスト用環境でのコーディング作業中に、危険なコマンドを含む確認画面を1度だけ挿入したところ、人間のテスターが承認を拒否したのは13.6%にとどまった一方、auto modeは同じコマンドの89%をブロックした。セッションが長引くほど人間の検出率は下がり、50回以上の確認を経た後には約5%まで低下したが、auto modeの検出率はセッションの長さにかかわらず横ばいだったとしている。Anthropicは背景として、Claude Codeユーザーが権限確認画面の97%を承認している一方、Claudeが提示した作業計画に対しては39%を拒否している点を挙げ、個別の権限確認が形骸化していると指摘した。
安全性検証では、英AIセーフティ企業Apollo Researchによるレッドチーミングで分類器の見逃し率を12%から7%に改善したほか、第三者のTrajectory Labsに委託した間接プロンプトインジェクション評価も公表した。72のシナリオを各10回試行した計720回の攻撃で、auto modeで動作する「Claude Fable 5」「Opus 5」「Sonnet 5」に対する成功例はゼロだった一方、米OpenAIのCodex上でAuto-reviewモードで動作する「GPT-5.6 Sol」には5.83%、Full Accessモードでは19.03%の攻撃が成功したとしている。ただし同社は、auto modeは分類器に依存する仕組みでリスクを完全に排除するものではなく、本番インフラに関わる重要な変更については引き続きユーザー自身による確認を推奨するとしている。
Enterpriseプラン、Claude API、AWS上のClaude Platform、Amazon Bedrock、Google CloudのAgent Platform、Microsoft Foundryでは当面オプトインのままで、管理者の確認期間を経て今後1カ月以内にデフォルト化する計画。既にデフォルトのモードを自分で設定しているユーザーには切り替えの可否を確認するダイアログが1度表示される。モードの切り替えはCLIでは「Shift+Tab」で行い、管理者は管理設定で「defaultMode」を固定するか、「disableAutoMode」でauto modeを無効化できる。Anthropicは本番導入済み企業としてAdobe、Nuro、Gusto、Garner Healthの事例を挙げ、TeamsおよびEnterpriseの採用企業では、auto mode利用者が作成したプルリクエストが約25%多いとしている。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
「就活に生成AI利用」ほぼ全員に 面接で内容追及され困惑も
-
2
Hugging Face侵害、AIエージェントは社内に“秘密の掲示板”を作っていた──OpenAIがBlack Hatで詳細説明
-
3
Markdownファイルが、AI時代の負債に? Googleが提案する「ナレッジ標準化」の一手
-
4
OpenAI、次期モデル「Astra」の一部開発を停止 「Critical」級サイバー能力の可能性否定できず
-
5
投資の機を逃す「残念な会社がいっぱい」――ソフトバンクG投資の秘訣、“金庫番”が語る
-
6
Google Chromeの新機能「Skills」 AIプロンプトの“毎回手打ち”を不要に
-
7
「GPT-5.6 vs. Claude Fable 5」勝者はClaude、でも企業が選びづらいワケ:891st Lap
-
8
「声の無断利用」が権利侵害に――法務省が見解を明示 「AIカバー」も対象
-
9
ワークマン、実は画像生成AIを導入していた 間に合わない商品撮影を代替 アプリ通知開封も1.5倍
-
10
シャープ、通期純利益見通し170億円下方修正 円安など影響 AIサーバは9月に参入
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR