AWS re:Invent 2024 Day2 AI関連発表まとめ【Amazon Bedrock編】：AWS re:Invent 2024まとめ

AWS re:Invent 2024のDay2は「Amazon Bedrock」関連で11もの発表があった。マルチモーダルなAIの実務での運用を想定した機能強化が目立つ。

[後藤大地，有限会社オングス]

　Amazon Web Services（以下、AWS）は2024年12月2〜6日（現地時間）にかけて、米ラスベガスで年次イベント「AWS re:Invent 2024」を開催した。Day2の基調講演では、同社でAIおよびデータ担当バイスプレジデントを務めるスワミ・シヴァスブラマニアン氏が登壇し、AWSにおけるAI関連の取り組みと、18個の新サービスについて発表した。本稿は18の発表の中でももっとも情報が多かった「Amazon Bedrock」のアップデートをまとめる。

関連記事

• AWS re:Invent 2024 Day1の発表8つ総まとめ　「データ＆AI」時代へのAWSの答え
• AWS re:Invent 2024 Day2 AI関連発表まとめ【Amazon SageMaker編】
• AWS re:Invent 2024 Day2 AI関連発表まとめ【Amazon Q編】

マルチモーダルなAIの実務での運用を想定した機能強化

　Amazon Bedrockはサーバレスで生成AIアプリを構築できる生成AIサービスだ。さまざまなAIモデルをAPIを通じて利用できる点が大きな魅力であり、シヴァスブラマニアン氏は「想像し得るほぼ全てのタスクに対応するモデルを提供している」と語った。2024年12月3日の基調講演では、AWS独自の最先端のAIモデル「Amazon Nova」がBedrockで利用可能になることが明らかにされた他、11もの新情報が更改された。以降で詳細を見ていく。

スワミ・シヴァスブラマニアン氏（AWSの公式動画より）

発表1：開発支援のためのAIアシスタントサービス「poolside」が利用可能に

　「poolside」は大企業のソフトウェアエンジニアリングを支援するAIアシスタントサービスだ。

　コード生成やテスト作成、リファクタリング、ドキュメント作成などを支援する「malibu」と、低レイテンシでコード補完が可能な「point」という2つの生成AIモデルで構成されており、統合開発環境に組み込んで利用できる。

　AWSは今回このpoolsideがBedrock内で利用できるようにすると発表した。

Bedlockでpoolsideが利用可能に（AWSの公式動画より）

発表2：画像生成AI「Stable Diffusion」の最新版が利用可能に

　BedrockはStability AIが提供する画像生成AIモデル「Stable Diffusion」もにも対応しているが、今回新たに最新版「Stable Diffusion 3.5」が利用可能になった。

　最大で80億のパラメーターを持つこのモデルは、効率的なパフォーマンスと、特定のニーズを満たすための優れたカスタマイズ性、多彩な出力が大きな強みとされている。

最新の画像生成AIモデル Stable Diffusion 3.5をサポート（AWSの公式動画より）

発表3：動画・3Dモデル生成AI「Luma AI」最新版が利用可能に

　「Luma AI」はテキストや画像を基にして3Dモデルや動画を生成する生成AIモデルだ。

　AWSはLuma AIとのパートナーシップを締結し、Bedrockから利用できるようにすると発表した。

　Luma AIは最新のビデオ生成AI「Luma AI Ray 2」を近日中にリリースすると発表しており、この最新モデルもBedrockで利用できるようになる。

Bedrockが動画生成AIのLuma AIをサポート（AWSの公式動画より）

発表4：AIモデルマーケットプレース「Amazon Bedrock Marketplace」

　生成AIアプリケーションにおいては、さまざまな用途やニーズに対して基盤モデルを適切に選択することが重要になる。

　このモデル選択に対する革新的なサービスとしてAWSは「Amazon Bedrock Marketplace」を発表した。これは大手プロバイダーが提供する100以上の基盤モデルにアクセス可能なマーケットプレイスで、開発者はBedrockのコンソールから任意のモデルを選択して、統合APIやナレッジベース、ガードレールといった機能と組み合わせて利用できる。

Amazon Bedrock Marketplace（AWSの公式動画より）

発表5：プロンプトキャッシュによるコスト削減、レイテンシ軽減

　Bedrockで「プロンプトキャッシュ」が利用可能になる。

　プロンプトキャッシュは、生成AIモデルに対して繰り返し使用されるプロンプトのコンテキストをキャッシュすることで送信量を削減する技術だ。プロンプトを削減できれば、AIサービスの利用コストとレイテンシを大幅に低減できる。

　Bedrockのプロンプトキャッシュは最大5分間有効で、複数のモデルに対して適用できる。例えば1つのコードやドキュメントに対して繰り返して質問するような場合には、キャッシュされた内容を再利用することによって、最大で90％のコスト削減と85％のレイテンシ短縮が期待できる。

Bedrockがプロンプトキャッシュをサポート（AWSの公式動画より）

発表6：基盤モデルの自動ルーティング「Amazon Bedrock Intelligent Prompt Routing」

　「Amazon Bedrock Intelligent Prompt Routing」は、プロンプトをさまざまな基盤モデルに自動的にルーティングする新サービスだ。

　1つのアプリケーション内でも、ユースケースに応じて複数の基盤モデルを使い分けたい場合がある。そのようなときに、それぞれの基盤モデルの応答をチェックして最適なものを選択するのは、過剰なコストとレイテンシの増加につながる。

　Bedrock Intelligent Prompt Routingを使えば、単一のエンドポイントに対するクエリを自動でルーティングして最適な基盤モデルにつなぐため、応答品質の最適化とコスト削減を実現できる。

Amazon Bedrock Intelligent Prompt Routing（AWSの公式動画より）

発表7：エンタープライズサーチエンジンに生成AI機能を追加「Amazon Kendra Generative AI Index」

　ML（機械学習）を活用したインテリジェントなエンタープライズ検索エンジンである「Amazon Kendra」にも、生成AI機能が統合される。Amazon Kendraを使用することで企業が持つ非構造データをインデックス化して高速に検索できるようになる。

　AWSは今回新たに生成AIに特化した「Amazon Kendra Generative AI Index」を発表した。これは生成AIのために最適化されたインデックスを付与することで、生成AIソリューションのための検索システムを強化するものだ。

　Kendra Generative AI indexは「Amazon Bedrock Knowledge Bases」や「Amazon Q Business」にも組み込まれるため、アプリケーション内の検索精度が向上すると考えられる。

Amazon Kendra Generative AI index（AWSの公式動画より）

発表8：「Amazon Bedrock Knowledge Bases」で構造化データの扱いが可能に

　Amazon Bedrock Knowledge BasesはRAG（検索拡張生成）ワークフローのためのエンドツーエンドのフルマネージドサービスだ。

　RAGは企業の独自のデータソースを使用してプロンプトを強化することで、より正確で関連性の高い応答を実現する手法だ。RAGを効果的に導入するには専門性の高い知識が必要だが、Bedrock Knowledge Basesはそれをフルマネージドでサポートする。

　なお、AWSはBedrock Knowledge Basesで構造化データを取り扱えるようにすると発表した。このアップデートで、「Amazon Redshift」や、Day1で発表された「S3 Tables」「SageMaker Lakehouse」といった構造化されたデータソースに保存されたデータをRAGワークフローでそのまま活用できるようになる。

Amazon Bedrock Knowledge Basesが構造化データをサポート（AWSの公式動画より）

発表9：「Amazon Bedrock Knowledge Bases」が「GraphRAG」をサポート

　Amazon Bedrock Knowledge Basesのもう一つの強化ポイントが「GraphRAG」をサポートしたことにある。

　GraphRAGは、ナレッジグラフと大規模言語モデル（LLM）を組み合わせることでデータの関係性をより深く理解し、関連性の高い情報を効率的に検索できるようにするモデルだ。

　Bedrock Knowledge BasesがGraphRAGをサポートしたことで、開発者はナレッジグラフの作成と使用のプロセスを簡素化して、より簡単に生成AIアプリケーションに取り込める。これによって生成AIの応答精度の大幅な向上につながる。

Amazon Bedrock Knowledge BasesがGraphRAGをサポート（AWSの公式動画より）

発表10：非構造データの構造化を自動化する「Amazon Bedrock Data Automation」

　生成AIによるデータ活用においては、ドキュメントや画像、音声、動画などの非構造化データから、いかに意味のある洞察を効率的に得るかが課題となる。

　AWSはこのプロセスを強力にサポートする「Amazon Bedrock Data Automation」を発表した。これは非構造化データから自動で意味のある部分を抽出し、構造化データに変換するサービスだ。

　例えば画像内にある情報を活用するケースを考えた場合、従来はまずOCRでテキストを抽出し、そのテキストを理解するためのプロンプトを設計、実行するといった処理が必要だった。Bedrock Data Automationを使えばこのプロセスを自動化して簡単にアプリケーションで非構造化データを活用できる。

Amazon Bedrock Data Automation（AWSの公式動画より）

発表11：マルチモーダルなガードレール機能「Amazon Bedrock Guardrails Multimodal toxicity detection」

　Amazon Bedrock Guardrailsを使用すれば、不適切なコンテンツや個人情報を含んだコンテンツなど、危険性の高い内容を生成AIが出力しないようにフィルタリングできる。しかし、従来この機能はテキストのみを対象としていた。

　「Amazon Bedrock Guardrails Multimodal toxicity detection」は、画像や動画などのマルチモーダルなコンテンツに対してもガードレール機能を適用できるようになる。これは広告などのクリエイティブなシーンで、不適切なコンテンツの出力を防止するのに極めて大きな威力を発揮することになる。

Amazon Bedrock Guardrails Multimodal toxicity （AWSの公式動画より）