Anthropic、「Fable 5」の生物学の制限を緩和　誤検知によるフォールバックを約85％削減

公開 2026年08月08日 07時57分

[ITmedia]

印刷する

　米Anthropicは8月7日（現地時間）、最上位級のAIモデル「Claude Fable 5」に組み込んだ生物学分野のセーフガード（保護機能）を緩和したと発表した。無害なリクエストを誤って検知する「フォールバック」（応答が下位モデルに切り替わる現象）が、社内テストで生物学関連は約85％減ったとしている。フォールバック全体でも、Claude.aiで約67％、Claude Coworkで55％、Claude Codeで17％、Claude Platformで7％それぞれ減る見込みだという。

　同社は、日常的な健康や教育に関する質問（検査結果の解釈、症状の理解、教育目的で生物学を学ぶ用途など）でフォールバックが大幅に減ると説明。医療従事者も臨床業務でFable 5の支援をより受けやすくなるとしている。

　Fable 5は6月9日に一般提供が始まったモデルで、本体とは別の小型AI「分類器」がサイバーセキュリティや生物・化学に関するリクエストを検知すると、応答を下位モデルに引き継ぐ仕組みを備える。生物学については、公開当初はほぼ全ての質問をブロックする保守的な設定としていた。同社は、Fable 5が一部の複雑な生物学タスクで専門家を上回る能力を持ち、悪意ある人物に他では得られない「アップリフト」（能力の底上げ）を与え得ると判断していたためと説明する。

　生物学は有益な用途と有害な用途の線引きが難しい点も、保守的な設定の理由に挙げる。例えば、生ワクチンの開発では、予防対象の病原体そのものを増殖させる必要がある。医薬品でも同様で、降圧薬「カプトプリル」は、ヘビ毒の有毒成分を単離する過程から生まれた。悪意ある利用者はこのあいまいさを突き、危険な作業を通常の研究に見せかけることができると説明。米Intelligence Communityの2026年版年次脅威評価（PDF）が、合成生物学やゲノム編集の進展により、新たな生物学的脅威が生じ得ると指摘している点にも言及した。誤検知が多発することを承知の上で広くブロックする設計を選んだのは、悪用された場合の被害が破滅的になり得るためだとしている。

　もっとも、公開直後には「DNAとは何か」といった基本的な質問まで切り替えられるとして、研究者を中心に不満が出ていた。

　今回の緩和にあたり同社は、数週間かけて分類器のconstitution（何を保護対象とするかを定めた規則群）を書き直し、無害な用途を細かく切り分けた。社内外の専門家から意見を集めた上で新たな学習データを作成して分類器を再訓練し、有害な内容とデュアルユース研究には従来通り反応する一方、無害な用途はより広く通ることを検証したという。

公開当初（A）と今回の更新後（B）の分類器の境界。左側が許可、右側がブロック対象で、境界が右に移動した（画像：Anthropic）

　一方で例外も残る。ウイルス学、毒性学、分子設計などデュアルユースとみなす要求は、引き続き「Claude Opus 5」へフォールバックする。このためFable 5は、プロの生物学研究や創薬にはまだ使えない状態だとし、信頼できる相手に限って提供する「トラステッドアクセス」の経路を通じてこの差を埋めていくとしている。セーフティマージンの範囲内でリスクの低いリクエストが弾かれる誤検知も今後残るとし、利用者からのフィードバックを引き続き求めている。

印刷する