速報
OpenAI、テキスト生成主が人間かAIかを判定するツールを取り下げ 「精度が低いため」
OpenAIは、1月に公開したテキスト生成主が人間かAIかを判定するツールを利用できないようにした。精度が低いためとしている。現在、オーディオとビジュアルの生成物がAIによるものかどうかを判別するためのメカニズムを開発中。
米OpenAIは7月22日(現地時間)、1月に公開した“AI分類器”を20日付で利用できないようにしたと発表した。「精度が低いため」としている。
AI分類器は、テキストを人間が書いたものかAIが書いたものかを判定するツールとして無料で公開されていた。公開時、英語で書かれたテキストでのテストでは、AI生成テキストをAI生成物と認識できた割合は26%だった一方、9%の割合で人間のテキストを誤ってAI生成物と判定していた。これは「これまで公開されてきた分類器と比較して、AIシステムからのテキストに対する信頼性が大幅に向上している」としていた。
OpenAIは1月に公開した公式ブログへの追記で「フィードバックの導入に取り組んでいる」と説明した。精度が改善されれば再公開するのかもしれない。
また、「オーディオまたはビジュアルのコンテンツがAIによって生成されたものであるかどうかをユーザーが理解できるようにするメカニズムの開発と導入に取り組んでいる」とも説明した。
OpenAIは21日、米MicrosoftなどAIを手掛ける他の数社とともにホワイトハウスに招集され、コンテンツがAIによって生成されたことをユーザーに示すことなどについて“約束”させられた。
【修正履歴:2023年7月26日午前11時50分 AI分類器の判定について加筆修正しました】
関連記事
- OpenAIやMetaなどAI大手7社、米連邦政府に「責任あるAI開発」を“自主的に”約束
米連邦政府はAIを手掛ける7社の代表をホワイトハウスに招集し、AIの安全性、セキュリティ、透明性の高い開発に向けた取り組みを支援するため、これらの企業から自主的な取り組みを確保したと発表した。 - OpenAI、テキストが人間によるものかどうか判定するツールを無料公開
ChatGPTを手掛けるOpenAIは、テキストがAI生成かどうかを判定するツールを無料公開した。1000文字以上の英文であれば、比較的高い精度で判定できるとしている。特に教育関係者からのフィードバックを求めている。 - OpenAI、予め自分の設定をChatGPTに覚えておいてもらえる「カスタム指示」機能を追加
ChatGPT Plusに、質問するたびに自分の設定を説明することが不要になる「カスタム指示」機能が追加された。3000字以内で設定を保存すると、その設定を前提に回答を提示してくれるようになる。 - ChatGPT PlusのWebブラウジングが一時停止に 有料記事を読めてしまうとの報告を受け
OpenAIは、ChatGPT Plusでβ版として提供している「Browse with Bing」を無効にした。ペイウォールで制限されている記事を表示してしまう問題を修正するまでの一時的な停止だ。これにより、GPT-4の情報は2021年9月までのものに戻ってしまった。 - 「ChatGPTに入力した内容、学習されたくない」オプトアウト申請可能 DALL-Eも
「ChatGPT」と「DALL-E」のWeb版で、ユーザーが入力した内容をAIに学習させない「オプトアウト」を受け付けている。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.