API遅延を12秒から0.15秒へ TBSが「ラヴィット！」6万人配信で挑んだ高速化とAI活用：AWS Summit Japan 2026
TBSは「ラヴィット！ 忘年会」への6万人規模のアクセス集中という巨大な壁を、いかにして克服し安定した双方向体験を実現したのか。API応答を0.15秒へ爆速化させたサーバレス設計と、生成AIによる高速チャット監視の裏側を紹介する。
TBSテレビのバラエティ番組「ラヴィット！」が2025年12月末に開催した生配信イベント「ラヴィット！忘年会 ‘25」。同イベントの基盤として採用されたのが、TBSが独自に研究・開発を進める双方向型配信プラットフォーム「Kustamie」（カスタミー）だ。
しかし、想定視聴者数6万人という同プラットフォーム過去最大規模のアクセスに対し、事前検証ではスパイクアクセスによるリクエスト制限やAPI応答の遅延といった深刻な課題が浮き彫りとなった。
TBSはいかにしてこの巨大なトラフィックの壁を乗り越え、安定した双方向体験を実現したのか。本稿では「AWS Summit Japan 2026」における亀田 遼氏（メディアテクノロジー局 未来技術革新事業部 テクニカルプロダクトリード）の講演内容を基に、数万人規模のアクセスに耐え得るサーバレス設計の鉄則と、リアルタイムAIモデレーションを解説する。
双方向型配信プラットフォーム「Kustamie」
Kustamieは、単方向になりがちな生放送やライブイベントにおいて、出演者と参加者の双方向のやりとりを充実させ、臨場感や一体感をもたらすためのプラットフォームだ。
イベントのコンセプトに合わせて画面デザインや機能を自由にカスタマイズできる柔軟な設計が特徴で、絵文字によるリアクション機能や、進行と連動するクイズ・アンケート機能、視聴者が好みのカメラアングルを選択・配置できるマルチアングル機能などが備わっている。
また、徹底した低遅延設計により、実際のステージと画面上の情報にほとんどタイムラグが生じない。そのため、オンラインイベントや会場参加型イベント、ハイブリッド型イベントなどで利用でき、eスポーツイベントや社員集会、現地観戦型スポーツフェスティバルなどでの活用実績がある。
大規模配信に向けたサーバレス設計
6万人規模のアクセスに耐え得る基盤を築くため、開発チームはAWSのサーバレスサービスを軸にアーキテクチャを構築し、事前に洗い出した課題に対して段階的な最適化を図った。
基本アーキテクチャ
Kustamieのバックエンドシステムは、AWSのサーバレスコンポーネントを中心に設計されている。
バックエンドの通信は、主にイベント情報を扱う「API通信」と、映像音声やリアルタイムデータを扱う「リアルタイム通信」の2つに大別される。
API通信では、「Amazon API Gateway」（以下、API Gateway）と「AWS Lambda」（以下、Lambda）がリクエストの受付と処理をし、アプリケーションの実行基盤である「Amazon ECS」（以下、ECS）およびデータベースである「Amazon Aurora Serverless v2」がデータの処理・管理を担っている。
リアルタイム通信には、「Amazon IVS」（以下、IVS）のWebRTCによるリアルタイムストリーミングとIVSチャットを採用している。
2つの課題
大規模配信の決定を受け、開発チームが検証したところ、クライアントAPIの従来構成には2つの問題点があることが明らかになった。
1つ目は、キャッシュを前提としていないAPI構造だ。API Gatewayにトラフィックが直撃するリージョンタイプを選択していたため、負荷を逃がす仕組みが不十分だった。
2つ目は、APIレスポンスの深刻な遅延と負荷耐性の不透明さだ。内部APIコールの重複によって応答に最大12秒を要する遅延が発生していた他、本格的な負荷試験が未実施であり、高負荷状態の挙動が予測できず、運用上の不安要素となっていた。
負荷試験による最適化
AWSのサーバレス構成における負荷のメカニズム上、計算上の同時実行数が上限以下であっても、実行時間の短い処理が一瞬で爆発的にスパイクすると、Lambdaの拡張速度が追い付かずにリクエスト制限がかかる「サーバレス特有の罠」が存在する。
開発チームはこの事態を防ぐため、事前に同時実行数の上限を引き上げる緩和申請をし、一瞬の爆発的なスパイクアクセスをエラーなく制御できる環境を整えた。
適切な上限緩和数の見極めに当たっては、オープンソースの負荷試験ツール「k6」を採用し、イベントの本編開始直前にアクセスが急増するといった実際のトラフィック変化を忠実に再現した。
「負荷試験において、API Gatewayへのリクエストが毎分60万件（秒間平均1万件）を超えた瞬間に400番台エラーが急増し、この時、Lambda側にはエラーが出ていなかったことから、API Gatewayのリクエスト制限がボトルネックだと特定し、上限緩和をリクエストしました」
パフォーマンス改善の具体策
開発チームは、「多段キャッシュの徹底」と「ボトルネック処理の非同期化・最適化」の2つのアプローチでAPIの改修をした。
キャッシュ戦略では、システム全体の負荷を引き下げ、後段の処理実行数を極限まで抑制するために、ユーザー起点で3つの層を配置した。第1層のAPI Gatewayで5秒程度の短期キャッシュを設定してGETリクエストの99.8％をヒットさせ、後段のLambda起動を抑制した。さらに第2層のLambda内のグローバル変数キャッシュや、第3層のECSとAmazon ElastiCache for Valkeyの併用により、データベースへの読み込み負荷を最小限に抑えた。
処理に関しては、最大12秒を要していた重い処理を即時返却分と「Amazon SQS」による非同期処理に分離した。また、IVSのトークン発行における秒間50件という緩和不可能な制限を、Lambda内に独自の高速発行・独自管理ロジックを実装することで回避した。
これらの構造改革の結果、APIのレスポンス時間は平均0.15秒へと劇的に短縮され、大規模アクセス下でも遅延を感じさせない強固な配信基盤の実現に成功した。
Kustamieにおける生成AIの活用
6万人規模の双方向体験を安全に提供すべく、Kustamieではテキストチャットの自動モデレーションを導入した他、将来的な映像監視を見据えた技術検証も進められている。
チャットモデレーションの自動化
大規模なライブ配信において、コミュニティーの安全性と健全性の確保は重要な課題だ。特に、数万人が同時にリアクションするライブ環境下では、人手による有害投稿の監視は不可能なため、効率的な自動検知システムの構築が求められていた。
この課題に対し、開発チームはAWSの生成AIマネージドサービス「Amazon Bedrock」（以下、Bedrock）の「Amazon Nova Micro」（以下、Nova Micro）モデルをシステムに組み込み、リアルタイムの自動検知を実現した。
処理フローでは、送信されたチャットテキストは全て、IVSチャット経由で「Amazon DynamoDB」に集約される。この書き込みを「DynamoDB Streams」が検知して専用のLambda関数を自律的に駆動させ、Bedrockの軽量LLMであるNova Microを呼び出して内容を評価する。判定基準に基づいてAIが不適切と判定した投稿は、後段の処理で即座に自動削除されるか管理者レビューへ回される。
この一連の仕組みは、システム全体の応答速度を約1.6秒に抑えており、配信のスピード感を損なわずに大量のチャットを処理できるようになった。
なお、モデル選定では複数の手法が比較検証された。応答速度に優れる「Amazon Comprehend」は検討時点で日本語非対応のため見送られ、高性能なAnthropicの「Claude」などのサードパーティー製LLMも判定に時間を要し、要件を満たせなかった。その結果、日本語の理解力と処理スピード、柔軟性の面から、Nova Microが最適であると判断された。
将来的な構想：配信映像の自動チェック
開発チームは、テキストチャットのモデレーションで培ったノウハウを、将来的に「配信映像そのものの自動監視」に拡張する構想を描いている。
具体的には、IVSから配信されているライブ映像のスナップショットを一定の間隔で自動取得し、それをBedrockのマルチモーダルモデル「Amazon Nova Lite」に入力する手法が想定されている。「映像配信サービスの内容に有害な内容が含まれていないことを確認してください」といったシステムプロンプトを与えることで、AIが配信映像の健全性を自律的に判定する仕組みだ。
問題があると判断された場合は、即座に配信主催者へ通知が送られ、特に悪質なケースにおいてはシステムが自動的に配信を強制停止させるなど、プラットフォームとしての信頼性を向上させる技術検証が進められている。
2026年秋にβ版の提供開始を予定
Kustamieは、AWSのサーバレスサービスや生成AI技術によって、6万人規模の大規模配信においても、安定した低遅延配信とリアルタイムでの双方向コミュニケーションの実現に成功した。
今回のプロジェクトで確立された、「IVSによる安定した映像配信や機能提供」や「API Gatewayレベルのキャッシュ、Lambda関数内のグローバル変数を使ったキャッシュ、Valkeyキャッシュによる多段キャッシュ構成」「時間的なコストが高い処理の非同期化」は、今後の大規模サーバレス設計において再現性の高いモデルケースと言える。また、生成AIを活用したコンテンツモデレーションは、プラットフォームの安全性と健全性の確保に貢献している。
亀田氏によると、Kustamieは、2026年秋にβ版の提供開始を予定しているという。双方向エンターテインメントを支える新たな基盤として、Kustamieは今後どのような進化を遂げていくのか。
Copyright © ITmedia, Inc. All Rights Reserved.
