「Claude Code」、AIが権限確認を代行する「auto mode」がデフォルトに 8月14日から
米Anthropicは8月7日(現地時間)、AIコーディングツール「Claude Code」で、コマンド実行前の権限確認をAIが自動判定する「auto mode」を8月14日からデフォルトにすると発表した。対象はPro、Max、Teamの各プラン。対照実験では、危険なコマンドの検出率は人間を大きく上回ったという。
auto modeは、AIが実行しようとするコマンドやツール呼び出しをユーザーに都度確認する代わりに、専用の分類器が1件ずつ評価し、取り消し不能な操作や破壊的な操作、ユーザーの環境外に影響する操作をブロックする仕組み。ブロックされた場合、Claudeは自ら安全な代替手段を探すか、ユーザーに直接確認する。3回連続、または1セッションで20回ブロックされると手動承認モードにフォールバックする。分類器の実行に伴う追加トークン分の課金は、Pro、Max、Teamプランでは8月7日付で撤廃した。
判断の根拠として同社が挙げたのが、調査会社を通じて集めた1053人の有償テスターによる対照実験だ。テスト用環境でのコーディング作業中に、危険なコマンドを含む確認画面を1度だけ挿入したところ、人間のテスターが承認を拒否したのは13.6%にとどまった一方、auto modeは同じコマンドの89%をブロックした。セッションが長引くほど人間の検出率は下がり、50回以上の確認を経た後には約5%まで低下したが、auto modeの検出率はセッションの長さにかかわらず横ばいだったとしている。Anthropicは背景として、Claude Codeユーザーが権限確認画面の97%を承認している一方、Claudeが提示した作業計画に対しては39%を拒否している点を挙げ、個別の権限確認が形骸化していると指摘した。
安全性検証では、英AIセーフティ企業Apollo Researchによるレッドチーミングで分類器の見逃し率を12%から7%に改善したほか、第三者のTrajectory Labsに委託した間接プロンプトインジェクション評価も公表した。72のシナリオを各10回試行した計720回の攻撃で、auto modeで動作する「Claude Fable 5」「Opus 5」「Sonnet 5」に対する成功例はゼロだった一方、米OpenAIのCodex上でAuto-reviewモードで動作する「GPT-5.6 Sol」には5.83%、Full Accessモードでは19.03%の攻撃が成功したとしている。ただし同社は、auto modeは分類器に依存する仕組みでリスクを完全に排除するものではなく、本番インフラに関わる重要な変更については引き続きユーザー自身による確認を推奨するとしている。
Enterpriseプラン、Claude API、AWS上のClaude Platform、Amazon Bedrock、Google CloudのAgent Platform、Microsoft Foundryでは当面オプトインのままで、管理者の確認期間を経て今後1カ月以内にデフォルト化する計画。既にデフォルトのモードを自分で設定しているユーザーには切り替えの可否を確認するダイアログが1度表示される。モードの切り替えはCLIでは「Shift+Tab」で行い、管理者は管理設定で「defaultMode」を固定するか、「disableAutoMode」でauto modeを無効化できる。Anthropicは本番導入済み企業としてAdobe、Nuro、Gusto、Garner Healthの事例を挙げ、TeamsおよびEnterpriseの採用企業では、auto mode利用者が作成したプルリクエストが約25%多いとしている。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
孫正義氏が明かす、アンソロピック出資見送りの舞台裏 「僕の失敗」「あん時入れときゃよかった」
-
2
NotionのAIチャット流出おそれ、幹部が日本での対応状況明かす 「心よりおわび」
-
3
NotebookLMに公式APIが登場 WebページやYouTube動画の取り込みを自動化でき、MCPでAIエージェントからも使える
-
4
「e-F@ctory」から次の進化へ、三菱電機が描くAI主体の自律型工場
-
5
孫正義氏が「墓石に刻んでほしい」と明かした言葉 流した涙、もう「時間との勝負」やり残したことは?
-
6
「オントロジー」とは結局何なのか Palantir、Databricks、Snowflake、NVIDIAで中身が違う理由
-
7
コマツ油機開発センタが挑む設計プロセス改革、ナレッジ検索/整備に生成AI活用
-
8
農水省の“クソダサ”ポスター話題 「AIよりよっぽど良い」の声も 担当者に狙いを聞いた
-
9
AIモデリングもできる無償3D CAD「SolidCraft」を試してみた!
-
10
「AIによる鍵の不正利用」を生体認証で防ぐ日立の新技術、サイバー攻撃対策にも
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR