AIが書いたレポートを見破る？ OpenAIがテキスト判断ツールを公開

OpenAIは「AI分類器」を公開した。生成されたテキストがAIによるものか、それとも人の手によるものかを判断する。教育機関などでの利用が期待されるという。

[後藤大地，有限会社オングス]

　OpenAIは2023年1月31日（現地時間）、AI（人工知能）技術を使って作成されたテキストと人間が書いたテキストを区別するようにトレーニングされた「AI分類器」を公開したと伝えた。

　一部の教育機関は課題解決に向けたAI利用を制限する動きがある。OpenAIはこうしたケースで補完的に利用できるツールとしてAI分類器を公開したと説明している。

OpenAIはAIと人間が書いたテキストを見分けるAI分類器を公開した（出典：OpenAIのWebサイト）

OpenAIの分類器はAIテキストをどれだけ見破るか？

　米国のK-12組織（幼稚園から高校までの教育機関）の幾つかは急速に発展するAI技術が学生の教育を阻害する一因になるとして使用禁止に取り組み始めている。この動きは米国だけでなく他国の教育機関においても同様だ。特に「ChatGPT」の登場以降、その技術が生成する自然な文章は教育機関関係者にとって頭痛の種にもなりはじめている。

　OpenAIがトレーニングしたAI分類器はこうした教育機関の懸念に応えるものだが、現段階での信頼度はそれほど高くない。英語テキストのチャレンジセットに関する評価において、分類器はAIで作成されたテキストの26％を正しく識別したが、人間が書いたテキストの9％についても誤ってAIによって生成されたものだと判断した。

　本稿執筆時点では、公開された分類器はツールとして意思決定に利用できるほどの信頼度はない。OpenAIも「補完するツール」としての使用を推奨している他、こうした不完全なツールが役に立つかどうかのフィードバックを得るための公開であるといったように模索段階にあることを説明している。

　最近注目度が高まっているChatGPTをはじめとするAI技術は今後さまざまな分野での応用が期待されている。教育分野はこうした技術と今後どのように折り合いを付けていくのか現在議論や模索を行っている段階にある。