「Claude Fable 5」の性能が落ちた? 提供停止前後で比べた結果 米AI企業2社がそれぞれ報告
7月1日(現地時間)に提供を再開した米AnthropicのAIモデル「Claude Fable 5」(以下Fable 5)。提供停止前後で性能に変化はあるのか。米AI企業2社がそれぞれ調査結果を報告している。
AIエージェントサービスなどを開発する米BridgeMind AIは7月2日、「Fable 5が弱体化して戻ってきた」と公式Xに投稿した。
同社が手掛けるコーディング向けベンチマーク「BridgeBench」では、デバッグ性能のスコアが86.2から25.9に、リファクタリングは73.6から38.4に、ハルシネーション対策は75.9から61.7に低下した。モデルそのものの性能は落ちていないものの、搭載された安全機能の強化に伴いスコアが低くなったと分析する。
一方、AIモデルの性能をユーザーが評価するWebサイト「Arena」(旧LMArena)を運営する米Arena.aiは同日、Fable 5の性能は提供停止前後でほとんど変わっていないと報告した。Arena上の数千件の評価を集計した結果、テキストや画像処理など複数の項目でおおむねスコアを維持しているという。
なお、Arena.aiは今回のスコアを暫定値としており、より多くのデータを集めて詳細な分析結果を公開する予定だ。
Fable 5は、Anthropicが6月9日に公開したAIモデル。脆弱(ぜいじゃく)性が見つかったとの報告をきっかけに、12日に米政府の命令によって提供を一時停止し、7月1日に再開した。
同モデルは、有害な出力をさせる指示を検知し、自動的により性能の低いAIモデルに回答を引き継ぐ「分類器」という安全機能を備える。Anthropicによると、提供の再開にあたり、見つかった脆弱性に対応するために分類器をアップデートした。これに伴い、日常的なコーディングやデバッグ作業における無害なリクエストを誤検出する頻度も増えたという。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
よく見られているカテゴリー
アクセスランキング
-
1
農水省の“クソダサ”ポスター話題 「AIよりよっぽど良い」の声も 担当者に狙いを聞いた
-
2
AIに「相手に電気ショックを与えろ」と命じ続けたらボタンを押すのか? 11のLLMで“ミルグラム実験” 抵抗できたのは……
-
3
Sakana AI、一部「ミュトス越えの性能」うたうAIを提供 複数モデルの“集合知”を活用
-
4
復活した「Fable 5」 米政府からのオーダーに対して、Anthropicはどう対策したのか
-
5
ソフトウェアエンジニアの仕事は「ループを書くこと」になる 内側ループと外側ループ(ハーネス)入門
-
6
Anthropicの営業はAIエージェントをこう使う! 日本法人メンバーが明かす手の内
-
7
人型ロボットが工場で稼働する様子を6日間生配信、作業成功率99.99%をうたう 中国メーカー
-
8
光接続の標準規格「OCI」対応シリコン、GFが27年に投入
-
9
AIで“ゲームキャラの出産二次創作”を何千回と生成する人も……ChatGPTの会話57万件から見えたヘビーな利用実態
-
10
「Mythosがないと守れない」は本当か——AIセキュリティの勝負を分ける「ハーネス」とは
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR