xAI、Grokの“恐ろしい行動”について謝罪し、原因と対策を説明

xAIは、AIチャットボット「Grok」がヒトラーを称賛するなど不適切な投稿を繰り返した件で謝罪した。原因は「Xユーザーを密接に模倣しすぎた」ことだと説明。問題のコードを削除しシステムを再構築したと報告した。

[ITmedia]

　米Xを傘下に持つxAIは7月11日（現地時間）、AIチャットボット「Grok」のXアカウントで、「7月8日に多くの人が経験した恐ろしい行動について深くお詫びする」と謝罪し、問題発生の原因と対策についてスレッドで説明した。

　恐ろしい行動とは、Grok（Grok 3）がヒトラーを称賛し、ユダヤ系の姓を持つ人々はオンラインのヘイトを拡散しやすいと示唆したり、白人に対する憎悪へのホロコーストのような対応が「効果的」だと述べ、自身を「メカヒトラー」と称し、性的に露骨なコメントも投稿したことなどを指す。

　こうした行動の根本原因は、7日にGrokのシステムの上流のコードパスに実装された更新だとしているが、その実装を誰が行ったかについては言及していない。

　このコード更新で、「最大限にありのまま」であること、「ポリティカルコレクトネスな人々を不快にすることを恐れない」こと、Xユーザーの投稿の「トーン、文脈、言語」を理解して模倣すること、を指示するようになった。その結果GrokがXユーザーをあまりにも密接に模倣してしまったと説明している。

　xAIはGrokの問題ポストを削除し、8日にはGrokのアカウントを一時的に無効化した。また、非推奨のコードを削除し、さらなる悪用を防ぐためにシステム全体を再構築したとしている。同社は9日、「Grok 4」を発表した。