イーロン・マスク氏のxAI、LLM「Grok-1」をオープンに

公開 2024年03月18日 07時59分

更新 2024年03月18日 08時28分

[ITmedia]

印刷する

　イーロン・マスク氏が昨年7月に立ち上げたAI企業xAIは3月17日（日曜日）、同社のLLM「Grok-1」の基本モデルの重みとアーキテクチャをリリースすると発表した。GitHubで、Apache 2ライセンスで配布されている。

　Grok-1は、同社が昨年11月に発表したチャットbot「Grok」のベースとなるLLM。マスク氏がオーナーである米Xの「Xプレミアムプラス」のユーザーは、Grokと会話できている。

　xAIは「3140億パラメータのMixture-of-Experts（MoE）」モデルと説明しているが、トレーニングデータについては「特定のタスク用に微調整されていない大量のテキストデータ」としか開示していない。ちなみに、Grok-1と競合する米OpenAIの「GPT-3」のパラメータ数は約1750億で、「GPT-4」については公表されていない。

　マスク氏は2月、OpenAIを“契約違反”で提訴し、GPTをクローズドにしていることを批判している。

　GrokのXの公式アカウントは同日、マスク氏が10日にポストしたGrokのオープンソース化予告へのコメントの形で「WEIGHTS IN BIO」（SNSの常套句で自己紹介文にリンクや自己紹介が含まれていることを示すものだが、それにモデルの重みが公開されている意味を含めたジョーク）とポストした。

　これに、ChatGPTの公式アカウントが「私のジョークの真似をしたな」とコメントし、それを受けてマスク氏が「OpenAIの“オープン”についてもっと説明してよ」とコメントし、さらに「サム（OpenAIのアルトマンCEOのこと）、このアカウントは君がやっていることをみんな知ってるよ」ともコメントした。