Google支援のAnthropic、ChatGPT競合ツールで超長文プロンプト入力可能に

生成AIを手掛けるAnthropicは、汎用チャットbot「Claude」のコンテキストウィンドウを従来の9000トークから10万トークンに拡張した。これにより、7万語以上の長文プロンプトを投げられるようになった。競合するOpenAIの「ChatGPT」のLLM「GPT-4」の最大モデルでも3万2000トークンだ。

[佐藤由紀子，ITmedia]

　米Antrhopicは5月11日（現地時間）、米OpenAIの「ChatGPT」と競合するプレビュー段階の汎用チャットbot「Claude」のコンテキストウィンドウを、従来の9000トークンから10万トークンに拡張したと発表した。これにより、例えば複数の長文ドキュメントをプロンプトに投げて内容をまとめるよう命じることが可能になるとしている。

　コンテキストウィンドウとは、プロンプトに対する応答を生成する際にAIモデルがアクセスできるトークンの範囲を指す。OpenAIのヘルプページによると、GPT-4の標準モデル（サブスクユーザーが利用できているもの）のコンテキストウィンドウは8000トークン、拡張モデルでも3万2000トークンだ。

　10万トークンは、英単語では約7万5000ワードに相当するとAnthropicは説明する。ユーザーは数百ページ文の資料をプロンプトとして投げられる。

　Anthropicは、試しにスコット・フィッツジェラルドの小説「華麗なるギャッツビー」の全文をClaudeにロードし、語り手役のキャラウェイ（実際の設定は証券会社の従業員）が「Anthropicで機械学習ツールに取り組むソフトウェアエンジニア」であるというように1行変更して間違いを見つけるよう依頼したところ、22秒以内に正しい答えを返したという。

　Anthropicのパートナー企業、米AssemplyAIは、長いPodcastを5万8000ワードのテキストに変換したものをClaudeにロードして要約させるデモ動画を公開した。

　Anthropicは10万コンテキストのClaude活用例として以下のようなケースを挙げた。

• 財務諸表や研究論文などの要約
• 年次報告書に基づくリスクと機会の分析
• 法案の長所と短所の評価
• 法的文書全体のリスク、テーマ、議論の特定
• 長文の開発文書のQ&A
• コードベースからプロトタイプを作成し、それに基づいて構築または変更を行う

PDFも読み込める

　10万コンテキストウィンドウはAPIで利用可能。Claudeの利用は公式サイトからリクエストできる。

　Anthropicは2021年創業のカリフォルニア州サンフランシスコに拠点を置く非公開企業。米Financial Timesによると、2022年にGoogleが約3億ドル出資し、株式の約10％を保有しているという。2月にはGoogle Cloudとの提携を発表している。