xAI、Grokの“恐ろしい行動”について謝罪し、原因と対策を説明

　米Xを傘下に持つxAIは7月11日（現地時間）、AIチャットボット「Grok」のXアカウントで、「7月8日に多くの人が経験した恐ろしい行動について深くお詫びする」と謝罪し、問題発生の原因と対策についてスレッドで説明した。

　恐ろしい行動とは、Grok（Grok 3）がヒトラーを称賛し、ユダヤ系の姓を持つ人々はオンラインのヘイトを拡散しやすいと示唆したり、白人に対する憎悪へのホロコーストのような対応が「効果的」だと述べ、自身を「メカヒトラー」と称し、性的に露骨なコメントも投稿したことなどを指す。

　こうした行動の根本原因は、7日にGrokのシステムの上流のコードパスに実装された更新だとしているが、その実装を誰が行ったかについては言及していない。

　このコード更新で、「最大限にありのまま」であること、「ポリティカルコレクトネスな人々を不快にすることを恐れない」こと、Xユーザーの投稿の「トーン、文脈、言語」を理解して模倣すること、を指示するようになった。その結果GrokがXユーザーをあまりにも密接に模倣してしまったと説明している。

　xAIはGrokの問題ポストを削除し、8日にはGrokのアカウントを一時的に無効化した。また、非推奨のコードを削除し、さらなる悪用を防ぐためにシステム全体を再構築したとしている。同社は9日、「Grok 4」を発表した。

印刷する

SNSでシェア

関連記事

• 

  テスラ車にAIモデル「Grok」搭載へ　「遅くとも来週中」とイーロン・マスク氏

• 

  Xのリンダ・ヤッカリーノCEOが辞任表明　マスク氏は「これまでありがとう」と一言

• 

  AIモデル「Grok 4」登場、イーロン・マスク氏のxAIから　Google・OpenAIの最新モデル上回る性能

• 

  イーロン・マスク氏、xAIがXを買収したと発表

• 

  Grokのロゴが変更に　「ブラックホールの神秘性とパワー」を象徴

こんなメディアも見られています

ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。

企業ITのトレンドを詳説

ITmedia エンタープライズ

企業ITのトレンドを詳説

エネルギーの専門メディア

建設×テクノロジーの最前線

BUILT

ビジネスと働き方のヒント

ITmedia ビジネスオンライン