Meta、責任ある安全な生成AI開発を促す「Purple Llama」を発表

[ITmedia]

　米Metaは12月7日（現地時間）、生成AIモデルを使って責任ある安全なシステム構築を行えるよう支援する、オープンなツールと評価を備える包括的プロジェクト「Purple Llama」を発表した。

　現在広く使われているAIチャットボット、画像ジェネレーター、文書要約ツールなどの多くには、Metaがオープンソースで公開しているLLM（大規模言語モデル）の「Llama」が使われている。

　そのため、MetaはAIの安全性に関する協力を推進する必要があると考えたという。「AIシステムを構築する人々は、単独では課題に対処することはできない。だからこそ、競争の場を平等にし、オープンな信頼と安全のための中心地を作りたい」と同社は説明する。

　Purple Llamaではまず、「CyberSec Eval」という、LLM向けのサイバーセキュリティ評価ベンチマークセットをリリースした。Metaは、このツールはサイバー攻撃者によるLLMの悪用を防ぐのに役立つとしている。

　また、入出力フィルタリングの安全分類子「Llama Guard」も発表した。これは、生成AIモデルが潜在的に危険な出力を生成しないよう設計された事前にトレーニングされたモデルという。

　Metaは5日に、米IBMと共同で「オープンで安全で責任あるAI」の推進に焦点を当てたコミュニティ「AI Alliance」を立ち上げたばかりだ。同社はPurple Llamaでは、このアライアンスに参加していないAWS、Google、Microsoft、NVIDIAなどとも提携して改善と開発を行うことを楽しみにしていると語った。

　なお、Purple Llamaのネーミングの由来は、生成AIリスクを軽減するために必要な「レッドチーム」（一般に、セキュリティの脆弱性を検証するために設置されるチームのこと）、と「ブルーチーム」（一般に、サイバー攻撃からシステムを守る役割を担うチームのこと）の両方の要素を持つことにあるという。赤と青を混ぜると紫になる。