Google支援のAnthropic、ChatGPT競合ツールで超長文プロンプト入力可能に

公開 2023年05月12日 11時33分

[ITmedia]

印刷する

　米Antrhopicは5月11日（現地時間）、米OpenAIの「ChatGPT」と競合するプレビュー段階の汎用チャットbot「Claude」のコンテキストウィンドウを、従来の9000トークンから10万トークンに拡張したと発表した。これにより、例えば複数の長文ドキュメントをプロンプトに投げて内容をまとめるよう命じることが可能になるとしている。

　コンテキストウィンドウとは、プロンプトに対する応答を生成する際にAIモデルがアクセスできるトークンの範囲を指す。OpenAIのヘルプページによると、GPT-4の標準モデル（サブスクユーザーが利用できているもの）のコンテキストウィンドウは8000トークン、拡張モデルでも3万2000トークンだ。

　10万トークンは、英単語では約7万5000ワードに相当するとAnthropicは説明する。ユーザーは数百ページ文の資料をプロンプトとして投げられる。

　Anthropicは、試しにスコット・フィッツジェラルドの小説「華麗なるギャッツビー」の全文をClaudeにロードし、語り手役のキャラウェイ（実際の設定は証券会社の従業員）が「Anthropicで機械学習ツールに取り組むソフトウェアエンジニア」であるというように1行変更して間違いを見つけるよう依頼したところ、22秒以内に正しい答えを返したという。

　Anthropicのパートナー企業、米AssemplyAIは、長いPodcastを5万8000ワードのテキストに変換したものをClaudeにロードして要約させるデモ動画を公開した。

　Anthropicは10万コンテキストのClaude活用例として以下のようなケースを挙げた。