ChatGPT、Gemini、Claude Sonnet 5の応答が速いのは？ 初回トークン到達時間や完全応答時間を比較、ICT総研調べ

ICT総研は、主要3大AIチャットサービスを対象としたAPI経由での応答速度実測調査を実施。昼帯と深夜帯の2時間帯に、各サービス計30試行の速度計測を行い、初回トークン到達時間と完全応答時間を比較した。

[エースラッシュ，ITmedia]

　ICT総研は、7月21日にAIチャットサービス「ChatGPT（OpenAI）」「Gemini（Google）」「Claude Sonnet 5（Anthropic）」の応答速度実測調査を発表した。

　昼帯（12時台）と深夜帯（2時台）の2時間帯に、各サービス計30試行の速度計測を行い、初回トークン到達時間（TTFT／Time to First Token）と完全応答時間（E2E／End-to-End Latency）を比較した。TTFTは質問を送信してから回答の最初の文字が表示され始めるまでの時間、E2Eは回答の表示が全て完了するまでの時間を指す。「トークン」とはAIが文章を生成する際の最小単位で、日本語ではおおむね1〜2文字に相当する。

　TTFTの中央値には、ChatGPT（gpt-5-chat-latest）が昼帯0.70秒、深夜帯0.73秒と3サービス中最速になった。昼夜ともに大きな変化がなく、時間帯を問わず安定した速度を維持している。2番目に速いClaude Sonnet 5（昼帯0.94秒）と比較しても約1.3倍の差があり、初回応答時間は3サービス中最速だと示された。

　平均値は昼帯0.80秒、深夜帯0.83秒と中央値との乖離（かいり）が小さく、分布の偏りが少ない。標準偏差は昼帯0.43秒、深夜帯0.44秒で昼夜ともに安定した速度特性となる。通常ケースの応答は非常に速い一方、まれに大幅遅延も発生することが今回の計測で確認された。

TTFT 中央値比較

　Gemini（gemini-3.5-flash）のTTFT中央値は昼帯1.79秒、深夜帯2.05秒と3サービス中最も遅い。しかし標準偏差は昼帯、深夜帯ともに0.20秒と一定で、ChatGPTの昼帯0.43秒の約半分と3サービスの中で最も小さい変動幅を示している。

　中央値と平均値の差も最大0.34秒（深夜帯：中央値2.05秒／平均2.09秒）と小さく、安定した応答特性が確認された。昼帯と深夜帯の速度差は0.26秒（昼1.79秒→深夜2.05秒）で、いずれの時間帯でも同水準の応答速度が計測された。

　Claude Sonnet 5のTTFTは昼帯中央値0.94秒、標準偏差0.30秒。平均値（1.05秒）と中央値（0.94秒）の乖離は0.11秒で、分布が整っている。深夜帯ではTTFT中央値1.05秒、標準偏差0.45秒と昼帯と比較してわずかに変動幅が広がった。

　日本の深夜帯は米国／欧州の利用集中時間帯と重なり、グローバルサービスでは必ずしも深夜帯のサーバ負荷が低下するとは限らないことが要因として考えられる。時間帯により応答速度が変動することが今回の計測から示された。

安定性比較

　テキスト生成完了までの完全応答時間（E2E）は、サービスごとに特性が異なる結果になった。ChatGPTは昼帯中央値1.29秒、深夜帯1.27秒と最速を維持した。GeminiはE2E中央値が昼帯1.79秒、深夜帯2.05秒で、TTFTとほぼ同値となった。これは短文回答の生成時間がほぼ0であり、回答開始後に実質的な追加待機が発生しない特性を持つ。

　Claude Sonnet 5のE2E中央値は昼帯3.28秒、深夜帯3.41秒とTTFTの約3倍。ChatGPTのE2E（昼帯1.29秒）と比較すると最大2.5倍の差となった。各サービスのTTFTとE2Eの比率には明確な違いがあり、初回トークン到達後の生成時間にもサービスごとの特性の差が確認された。

E2E レイテンシー内訳