自筆した論文が勝手に解説動画にされた？→実は存在しない“フェイク論文”　著者名を無断利用、生成AIを悪用か

公開 2025年04月09日 12時01分

著者

山下裕毅

[ITmedia]

印刷する連載新着通知を受け取る

Innovative Tech（AI+）：

このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高いAI分野の科学論文を山下氏がピックアップし、解説する。

X：＠shiropen2

　福岡大学に所属する縄田健悟准教授がXで興味深い投稿を行った。あるYouTubeチャンネルが“縄田准教授が執筆したとする論文”を参照した解説動画を投稿。概要欄には出典として論文の著者名とタイトルを明記し、第一著者は「縄田健悟」と記載していたが、この引用元の論文そのものが完全な偽物であり、実際には存在していないという。

縄田健悟准教授のXの投稿から引用

　フェイク論文を元に作成したという解説動画の内容も架空のもの。つまり“存在しない論文を参照したという体裁の動画”を制作し、投稿しているということだ。なお、第二著者と第三著者は架空の人物の名前だったが、第三著者の姓は近接テーマで研究している実在の人物と同じものだった。

　縄田准教授は、動画の概要欄に記載がある論文タイトルなどから、生成AIによって出力した文章ではないかと推測。また他の掲載済み動画も確認した上で、日本の論文プラットフォーム「J-stage」に載る、2024年度の心理学研究優秀論文賞の情報を流用している可能性を指摘している。

4月7日時点での該当チャンネルの投稿動画

2024年度心理学研究優秀論文賞を受賞した論文（日本心理学会の公式Webサイトから引用）

　近年、AI技術の飛躍的発展により、生成コンテンツの質は著しく向上し、真偽の判別が困難になっている。複数の学術論文をAIに学習させることで、専門的な装いを持つ偽の論文を生成することも技術的に可能だ。今回の事例のように出典元の論文を明記している場合、一見すると学術的根拠のある信頼性の高いコンテンツと誤認してしまう恐れがある。

　このような状況は、視聴者に対して誤った情報を提供するだけでなく、研究者の名誉や学術的信頼性を著しく損なう問題でもある。

　視聴回数増加を目的として、こうした偽の学術的コンテンツが今後さらに量産される可能性は高い。AIによる生成コンテンツの精度は今後一層向上すると予想できるため、プラットフォーム運営者による厳格な監視体制の構築と、視聴者側の情報リテラシーの向上が求められる。

この連載新着通知をメールで受け取る

印刷する

Innovative Tech（AI+）

2019年の開始以来、多様な最新論文を取り上げている連載「Innovative Tech」。ここではその“AI編”として、人工知能に特化し、世界中の興味深い論文を独自視点で厳選、解説する。執筆は研究論文メディア「Seamless」（シームレス）を主宰し、日課として数多くの論文に目を通す山下氏が担当。イラストや漫画は、同メディア所属のアーティスト・おね氏が手掛けている。

連載新着通知を受け取る

この連載の記事をもっと見る