自分の文章がAIに学習されているか調べるツール　米国チームが開発

公開 2023年11月20日 08時02分

更新 2024年04月02日 11時03分

著者

山下裕毅

[ITmedia]

印刷する連載新着通知を受け取る Googleで優先するソースとして追加

Innovative Tech：

このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。

Twitter: ＠shiropen2

　米ワシントン大学と米プリンストン大学に所属する研究者らが発表した論文「Detecting Pretraining Data from Large Language Models」は、任意の文章が大規模言語モデル（LLM）で事前学習されているかを検出できるツールを提案した研究報告である。

任意のテキストがモデルに事前学習されているかを確かめる「MIN-K% PROB」の概要

　LLMの訓練に用いられるデータの多くは非公開であり、その中には著作権で保護された文書や個人識別情報、ベンチマークのテストデータなど、問題を引き起こす可能性のあるテキストが含まれている場合がある。

　過去の研究によれば、LLMが著作権で保護された書籍の一部を生成したり、個人のメールを生成したりしたことが示されている。これは元のコンテンツの作成者の法的権利を侵害し、プライバシーを侵す可能性がある。しかし、現時点では、どのような種類のデータがどれだけの割合で含まれているかを知る方法はない。

　この研究では、どの事前学習データが使用されたか不明な状況で、特定のテキストがその言語モデルの事前学習データに含まれているか否かを判断できるかを評価する。この課題に取り組む基準として「WIKIMIA」というベンチマークを、また検出手法として「MIN-K% PROB」というアプローチを提案する。

　WIKIMIAは、正確なベンチマークとして機能させるために、モデル訓練前後のデータを利用している。具体的には、モデルの公開日付とWikipediaのデータに基づいて、事前学習に使用されたと考えられる旧データと、事前学習後の新しいデータをWikipediaから収集している。このデータ収集は自動化されており、継続的に新しいデータをWikipediaから取り込むことで、ベンチマークを常に最新の状態に保っている。

　MIN-K% PROBでは、あるテキストがモデルによって学習されたかどうかを判断するために、シンプルな仮定に基づいている。モデルが未知のテキストを処理する際、低い確率で出現する単語（外れ値）が含まれる傾向があるが、既知のテキストではそうした単語が含まれることは少ないと仮定している。MIN-K% PROBはこれらの予期せぬトークンの平均確率を計算し、モデルが特定のテキストを知っているかどうかを推測する。

　実験結果によれば、提案された手法であるMIN-K% PROBは、従来の最も優れた方法よりも高い性能を示した。特に、WIKIMIAでの評価において、性能指標の一つであるAUCスコアが7.4％向上したことを確認した。加えて、検出性能はモデルの大きさや分析対象のテキストの長さと正の相関関係があることが明らかになった。

　MIN-K% PROBの実用性を実際の環境で検証するために、「著作権のある書籍の検出」「プライバシー監査」「データセットの汚染検出」を含む3つのケーススタディーが行われた。これらのケーススタディーにおいて、MIN-K% PROBは従来の基準となる手法に比べて顕著に優れた性能を発揮した。

　注目すべきケーススタディーは、「著作権のある書籍の検出」と「プライバシー監査」である。著作権のある書籍の検出に関する実験では、GPT-3がBooks3データセットに含まれる著作権で保護された書籍を使用して事前学習された可能性が高いことを示唆する強力な証拠が見つかった。

GPT-3の事前学習データに含まれているだろう著作権があるトップ20の書籍

　プライバシー監査のケーススタディーでは、著作権で保護された書籍の情報を忘れさせるように訓練されたLLMをMIN-K% PROBを用いて再検証した。その結果、当該モデルが依然として著作権で保護されたコンテンツを生成する可能性があることを示した。

プライバシー調査を示した図

Source and Image Credits: Shi, Weijia, et al. “Detecting Pretraining Data from Large Language Models.” arXiv preprint arXiv:2310.16789（2023）.

この連載新着通知をメールで受け取る

印刷する

SpecialPR

Innovative Tech

2019年にスタートした本連載「Innovative Tech」は、世界中の幅広い分野から最先端の研究論文を独自視点で厳選、解説している。執筆は研究論文メディア「Seamless」（シームレス）を主宰し、日課として数多くの論文に目を通す山下氏が担当。イラストや漫画は、同メディア所属のアーティスト・おね氏が手掛けている。

連載新着通知を受け取る

この連載の記事をもっと見る