Anthropic、「Claude」の使用ポリシーを更新 エージェント機能の悪用規制を明示

Anthropicは、AI「Claude」の使用ポリシーを9月15日付で更新すると発表した。エージェント機能の進化を受け、マルウェア作成やサイバー攻撃などの悪用を具体的に禁止。一方、政治的コンテンツに関する制限は一部緩和する。

[ITmedia]

　米Anthropicは8月15日（現地時間）、Claudeの「Usage Policy」（日本では「使用ポリシー」）を更新したと発表した。使用ポリシーは、Claudeがどのように使用されるべきか、また使用されるべきでないかを示す枠組みとして機能し、Anthropic製品のすべてのユーザーに明確なガイダンスを提供することを目的としている。今回の更新は、9月15日より施行される。

　今回の使用ポリシー更新の主な目的は、製品の機能向上と利用方法の多様化を反映させることという。特に、ユーザーからのフィードバック、製品自体の変更、規制の進展、Anthropicのポリシー適用における優先事項に基づいて、より明確かつ詳細なガイダンスを提供することを目指している。

　過去1年間でエージェント機能が急速に進化し、Anthropic自身も「Claude Code」や「Computer Use」といったエージェントツールをリリースし、多くの主要なコーディングエージェントがAnthropicのモデルを基盤としていることから、これらの強力な機能がもたらす新たなリスク、例えば大規模な悪用、マルウェアの作成、サイバー攻撃といった脅威に対処するため、今回のポリシー更新が特に必要だと判断したとしている。

　また、エージェント機能の利用に特化した補助的なガイダンスもヘルプセンターに公開しており、エージェントの文脈で禁止される活動の具体的な例を示している。

エージェント利用に関するガイダンス

　現行ポリシーとの主な違いの一部を紹介する。

サイバーセキュリティとエージェント機能関連

　セキュリティ侵害に関する記述で、コンピュータ、ネットワーク、インフラへの悪意ある侵害活動に対する具体的な禁止事項が詳細に追加された。脆弱性の発見や悪用、マルウェアの作成と配布、ボットネット管理ツールの開発、不正なアクセスツールの作成、セキュリティコントロールの回避などが含まれる。

　また、エージェント機能の利用に関する詳細なガイダンスが新設された。監視、不正なデータ収集、有害なコンテンツの生成・配布、大規模な悪用（DDoS攻撃、ハラスメントキャンペーン、オンライン投票の操作など）、不正なシステムアクセスなどが禁止事項として具体例とともに示されている。旧ポリシーには、エージェント機能に関する明確な記述はなかった。

政治的コンテンツに関する制限の見直し

　旧ポリシーではあらゆる種類のロビー活動やキャンペーンコンテンツが広範に禁止されていたが、新ポリシーでは、禁止するのは民主的プロセスを欺瞞したり妨害したりするような利用、または有権者やキャンペーンのターゲティングに限定された。

　旧ポリシーでは、正当な政策研究、市民教育、政治的執筆活動までもが制限されるというフィードバックを受けての更新だ。

その他の汎用利用基準の具体的な変更

• 知的財産権の侵害などの法規制の違反を禁止事項として明示的に追加
• 児童の安全に関する禁止事項で「AIが生成した児童性的虐待資料（CSAM）」に明示的に言及
• 詐欺、乱用、略奪的行為の禁止に、偽造文書作成、AI生成物の帰属表示なしに提出することなどを追加
• プラットフォームの悪用の事項で、スクレイピングや蒸留を事前の許可なく行うことを明確に禁止