OpenAI、テキストが人間によるものかどうか判定するツールを無料公開
「ChatGPT」などを手掛ける米AI研究企業OpenAIは1月31日（現地時間）、テキストが人間が書いたものかAIが書いたものかを判定するツールを無料公開した。英語で書かれたテキストでのテストでは、人が書いたテキストを誤ってAI生成テキストと判定したのは全体の9％だったという。
ChatGPTが生成したテキストでのテスト
同社は2019年にも同様の判定ツールを公開しているが、新ツールの信頼性は大幅に向上したとしている。
不完全ながらもこのツールを公開したのは、フィードバックを得るため。フィードバックも反映させつつ、AI生成テキスト検出ツールの改善を続けていく。
ツールはまだ不完全で制限事項も多く、OpenAIはこのツールを「主要な意思決定ツールとしてではなく、（AI生成かどうかを判定する）他の方法を補完するものとして」使うよう求めている。
1000文字以上ないと判定できない。また、英語以外の言語では精度が大幅に下がる。コード（プログラム）についての判定結果は信用できない。人間が書いたテキストをAI生成だと自信を持って判定することがある。判定は、AI生成の可能性が非常に低い、低い、不明確、可能性がある、可能性が高いの5段階。
人間が書いたと確認済みの1000文字以上の日本語テキスト（アイティメディアの記事）で試したところ、判定は中間の「不明確」だった。
日本語のテキストでも判定はするが、結果の精度は低いという
ChatGPT公開以来、スパムメール作成や学生による論文作成への利用が問題になっている。米国の教育機関の中には、ChatGPTの利用を禁止したところもある。
OpenAIは、「われわれは米国の教育者と協力し、ChatGPTの機能と制限について話し合って」おり、AI関連の問題の影響を受けている教育者に対し、フィードバックを送るよう求めた。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
「侵入経路塞いだが、バックドアから……」不正アクセス105時間の攻防、分単位で報告 防災メールのアルカディア
-
2
NECの委託先にサイバー攻撃 正規アカウント悪用し顧客のサーバ暗号化、個人情報の漏えいも
-
3
ソースネクスト、パスワードなぜ平文で流出 「暗号化していたが、鍵にアクセスできるシステムに侵入された」
-
4
スクエニアカウントに不正ログイン、他社で流出の情報使用か 全アカウントのパスワード強制リセットも視野に
-
5
ふるさと納税の「ふるさとチョイス」、会員情報445万件流出 寄附控除試算額も
-
6
メドレー、不正アクセスで停止中のサービスを作り直して再開へ 従来システムは再稼働させず
-
7
デジタル庁、政府職員18万人にAIエージェント環境を展開──「源内」で提供開始、独自の安全基準も
-
8
「お名前.com デスクトップクラウド」不正プログラム設置で全プラン停止 FX用VPS、2万6739サーバに影響か
-
9
栃木県警、全職員の情報流出か アルカディア不正アクセス、他県警でも被害判明相次ぐ 報道
-
10
SpaceX、純利益44億ドルで黒字転換 売上高161％増、AIから改称の「SI」事業が830％増
ITmedia NEWS SNS
@itmedia_newsをフォロー
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR