「Claude Code」、AIが権限確認を代行する「auto mode」がデフォルトに 8月14日から

 米Anthropicは8月7日(現地時間)、AIコーディングツール「Claude Code」で、コマンド実行前の権限確認をAIが自動判定する「auto mode」を8月14日からデフォルトにすると発表した。対象はPro、Max、Teamの各プラン。対照実験では、危険なコマンドの検出率は人間を大きく上回ったという。

 auto modeは、AIが実行しようとするコマンドやツール呼び出しをユーザーに都度確認する代わりに、専用の分類器が1件ずつ評価し、取り消し不能な操作や破壊的な操作、ユーザーの環境外に影響する操作をブロックする仕組み。ブロックされた場合、Claudeは自ら安全な代替手段を探すか、ユーザーに直接確認する。3回連続、または1セッションで20回ブロックされると手動承認モードにフォールバックする。分類器の実行に伴う追加トークン分の課金は、Pro、Max、Teamプランでは8月7日付で撤廃した。

 判断の根拠として同社が挙げたのが、調査会社を通じて集めた1053人の有償テスターによる対照実験だ。テスト用環境でのコーディング作業中に、危険なコマンドを含む確認画面を1度だけ挿入したところ、人間のテスターが承認を拒否したのは13.6%にとどまった一方、auto modeは同じコマンドの89%をブロックした。セッションが長引くほど人間の検出率は下がり、50回以上の確認を経た後には約5%まで低下したが、auto modeの検出率はセッションの長さにかかわらず横ばいだったとしている。Anthropicは背景として、Claude Codeユーザーが権限確認画面の97%を承認している一方、Claudeが提示した作業計画に対しては39%を拒否している点を挙げ、個別の権限確認が形骸化していると指摘した。

危険なコマンドの検出率。人間による確認は13.6%、オートモードは89%だった(画像:Anthropic)

 安全性検証では、英AIセーフティ企業Apollo Researchによるレッドチーミングで分類器の見逃し率を12%から7%に改善したほか、第三者のTrajectory Labsに委託した間接プロンプトインジェクション評価も公表した。72のシナリオを各10回試行した計720回の攻撃で、auto modeで動作する「Claude Fable 5」「Opus 5」「Sonnet 5」に対する成功例はゼロだった一方、米OpenAIのCodex上でAuto-reviewモードで動作する「GPT-5.6 Sol」には5.83%、Full Accessモードでは19.03%の攻撃が成功したとしている。ただし同社は、auto modeは分類器に依存する仕組みでリスクを完全に排除するものではなく、本番インフラに関わる重要な変更については引き続きユーザー自身による確認を推奨するとしている。

 Enterpriseプラン、Claude API、AWS上のClaude Platform、Amazon Bedrock、Google CloudのAgent Platform、Microsoft Foundryでは当面オプトインのままで、管理者の確認期間を経て今後1カ月以内にデフォルト化する計画。既にデフォルトのモードを自分で設定しているユーザーには切り替えの可否を確認するダイアログが1度表示される。モードの切り替えはCLIでは「Shift+Tab」で行い、管理者は管理設定で「defaultMode」を固定するか、「disableAutoMode」でauto modeを無効化できる。Anthropicは本番導入済み企業としてAdobe、Nuro、Gusto、Garner Healthの事例を挙げ、TeamsおよびEnterpriseの採用企業では、auto mode利用者が作成したプルリクエストが約25%多いとしている。

印刷する
SNSでシェア
SpecialPR

関連記事

こんなメディアも見られています

ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。

メールマガジンを配信中
メールマガジンを配信中

国内外の業界動向、AIやクラウドなどの最新技術、キャリア情報など今知りたい情報をまとめてお届けします。

いますぐご登録

よく見られているカテゴリー

アクセスランキング

  1. 1
  2. 2
  3. 3
  4. 4
  5. 5
  6. 6
  7. 7
  8. 8
  9. 9
  10. 10

SpecialPR

ITmedia AI+ SNS

X @itm_aiplusをフォロー

インフォメーション

ITmedia AI+をフォロー

あなたにおすすめの記事PR