OpenAI、Promptfoo買収 AIエージェント構築プラットフォーム「Frontier」のセキュリティ強化へ

[ITmedia]

　米OpenAIは3月9日（現地時間）、LLM向けセキュリティサービスを手掛ける米新興企業Promptfooを買収したと発表した。買収総額などの取引の詳細は公表されていない。

　Promptfooは2024年に創業されたサンフランシスコに拠点を置く非公開企業。企業がAIシステムを開発する際に脆弱性を特定し、修正するのを支援するプラットフォームを提供している。具体的には、LLMアプリケーションの評価やレッドチーミング（疑似攻撃による脆弱性診断）を行うためのオープンソースのCLIやライブラリのほか、リアルタイムの保護機能やコードスキャンなどのツールを開発している。これらのツールは急速に普及しており、これまでに35万人以上の開発者に利用され、月間アクティブユーザー数は13万人に上るという。また、Fortune 500企業の25％以上が同社の製品を導入している。

　この買収の主な目的は、AIコワーカー構築・運用プラットフォームである「OpenAI Frontier」のセキュリティテストおよび評価機能の強化だ。独立してデジタルタスクをこなすAIエージェントの開発は生産性向上が期待される一方で、悪意ある攻撃者に機密データを狙われるリスクも増大させており、重要なビジネス環境で安全に利用できることを証明することが急務となっている。

　買収完了後、Promptfooの技術はFrontierに直接統合され、プロンプトインジェクション、ジェイルブレイク、データ漏えいといったリスクを特定する自動セキュリティテストやレッドチーミング機能がプラットフォームにネイティブに組み込まれる予定だ。Promptfooの23人の従業員はOpenAIに合流し、既存顧客へのサポートやサービスを継続していく。さらに、同社が提供してきたオープンソースのプロジェクトについても、Frontierへの統合と並行して引き続き開発、維持していくとしている。