OpenAI、高性能なAI生成テキスト検出ツールのリリースを保留中との報道

OpenAIは、テキストがChatGPTを使って生成したものかどうかを検出する高性能なツールを1年前にほぼ完成させているのに公開していないとWall Street Journalが報じた。この報道後、OpenAIは公式ブログで理由を説明した。

[ITmedia]

　米OpenAIは、テキストがChatGPTを使って生成したものかどうかを検出する高性能なツールを1年前にほぼ完成させているが、そのリリースを巡って社内で論争になっていると、米Wall Street Journalが8月4日（現地時間）、事情に詳しい人々や独自に入手した内部文書に基づいてそう報じた。

　こうしたツールは、学生が課題の論文をChatGPTに代筆させるといった不正行為を取り締まるためなどで求められている。

　OopenAIは、テキストが人間によるものかどうか判定するツールを1月に無料公開したが、精度が低いとして7月に公開を停止した。

　報じられたツールはこれとは別のもので、ChatGPTによるトークン選択方法を少し変更することで、透かしのようなパターンを残す技術を使う。Wall Street Journalが入手した内部文書によると、OpenAIの検出ツールを使えば、この透かしを99.99％検出できるという。

　公開に反対しているスタッフは、テキストを一旦別の言語にAI翻訳させて戻したり、絵文字を挿入して削除するだけで透かしを消去できる可能性があると主張しているという。

　OpenAIはこの記事が出た後、5月に発表したディープフェイク対策に関する公式ブログを更新し、テキスト透かしによる検出ツールは「グローバルな改ざんに対しては弱く、悪意ある人による回避が可能になる」ことと、「英語を母国語としない人々にとって、AIを便利なツールとして使うことに不名誉を与える可能性がある」と説明した。後者は、母国語で自力で書いたテキストを英語に翻訳しただけでAIを使ったとみなされてしまうことを指すようだ。

　Wall Street Journalによると、OpneAIは社内調査でChatGPTユーザーの3分の1がこうした検出器に嫌悪感を抱くことが分かったため、ビジネスモデルへの懸念からリリースに消極的になっている。

　この問題に関する社内計画は秋までに決定される見込みという。