「Claude Code」、AIが権限確認を代行する「auto mode」がデフォルトに 8月14日から
米Anthropicは8月7日(現地時間)、AIコーディングツール「Claude Code」で、コマンド実行前の権限確認をAIが自動判定する「auto mode」を8月14日からデフォルトにすると発表した。対象はPro、Max、Teamの各プラン。対照実験では、危険なコマンドの検出率は人間を大きく上回ったという。
auto modeは、AIが実行しようとするコマンドやツール呼び出しをユーザーに都度確認する代わりに、専用の分類器が1件ずつ評価し、取り消し不能な操作や破壊的な操作、ユーザーの環境外に影響する操作をブロックする仕組み。ブロックされた場合、Claudeは自ら安全な代替手段を探すか、ユーザーに直接確認する。3回連続、または1セッションで20回ブロックされると手動承認モードにフォールバックする。分類器の実行に伴う追加トークン分の課金は、Pro、Max、Teamプランでは8月7日付で撤廃した。
判断の根拠として同社が挙げたのが、調査会社を通じて集めた1053人の有償テスターによる対照実験だ。テスト用環境でのコーディング作業中に、危険なコマンドを含む確認画面を1度だけ挿入したところ、人間のテスターが承認を拒否したのは13.6%にとどまった一方、auto modeは同じコマンドの89%をブロックした。セッションが長引くほど人間の検出率は下がり、50回以上の確認を経た後には約5%まで低下したが、auto modeの検出率はセッションの長さにかかわらず横ばいだったとしている。Anthropicは背景として、Claude Codeユーザーが権限確認画面の97%を承認している一方、Claudeが提示した作業計画に対しては39%を拒否している点を挙げ、個別の権限確認が形骸化していると指摘した。
安全性検証では、英AIセーフティ企業Apollo Researchによるレッドチーミングで分類器の見逃し率を12%から7%に改善したほか、第三者のTrajectory Labsに委託した間接プロンプトインジェクション評価も公表した。72のシナリオを各10回試行した計720回の攻撃で、auto modeで動作する「Claude Fable 5」「Opus 5」「Sonnet 5」に対する成功例はゼロだった一方、米OpenAIのCodex上でAuto-reviewモードで動作する「GPT-5.6 Sol」には5.83%、Full Accessモードでは19.03%の攻撃が成功したとしている。ただし同社は、auto modeは分類器に依存する仕組みでリスクを完全に排除するものではなく、本番インフラに関わる重要な変更については引き続きユーザー自身による確認を推奨するとしている。
Enterpriseプラン、Claude API、AWS上のClaude Platform、Amazon Bedrock、Google CloudのAgent Platform、Microsoft Foundryでは当面オプトインのままで、管理者の確認期間を経て今後1カ月以内にデフォルト化する計画。既にデフォルトのモードを自分で設定しているユーザーには切り替えの可否を確認するダイアログが1度表示される。モードの切り替えはCLIでは「Shift+Tab」で行い、管理者は管理設定で「defaultMode」を固定するか、「disableAutoMode」でauto modeを無効化できる。Anthropicは本番導入済み企業としてAdobe、Nuro、Gusto、Garner Healthの事例を挙げ、TeamsおよびEnterpriseの採用企業では、auto mode利用者が作成したプルリクエストが約25%多いとしている。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
【図解あり】マルチエージェント設計「15のパターン」 GitHub、Google、Siemensの知見を一気に整理
-
2
「トイレ」に凝ったらAI需要で大躍進――TOTO、利益の7割かせぐ「半導体」ビジネスの正体
-
3
「勝手に社外AIを使う」エース社員に困っています……どうすべき?
-
4
ローカルLLM利用のクリニックを受診してみた PCマニアの院長が自力で構築、その導入効果は?
-
5
意思疎通に難? 技術が分かるから強い?――研究者に事業開発させるべきか否か、NEC・イビデンの回答は……
-
6
“おいしい魚”を届けられないかも──スシロー、漁業の危機にどう挑む? 富士通とタッグ、AIで「海を解剖」するワケ
-
7
2D図面をAIで3Dモデル化、編集可能なフィーチャー履歴も再構築
-
8
AIで過去図面を検索、資料探索を平均4.5分に短縮し年間工数90%削減へ
-
9
画像生成AIは既存のキャラクターをどれくらい出力する? ソニーAIなどが14モデルを調査
-
10
AIに業務を任せる大企業は6割へ 人材育成に投資しない企業はどうなる?
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR