Innovative Tech(AI+)
自筆した論文が勝手に解説動画にされた?→実は存在しない“フェイク論文” 著者名を無断利用、生成AIを悪用か
Innovative Tech(AI+):
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」(シームレス)を主宰する山下裕毅氏が執筆。新規性の高いAI分野の科学論文を山下氏がピックアップし、解説する。
X: @shiropen2
福岡大学に所属する縄田健悟准教授がXで興味深い投稿を行った。あるYouTubeチャンネルが“縄田准教授が執筆したとする論文”を参照した解説動画を投稿。概要欄には出典として論文の著者名とタイトルを明記し、第一著者は「縄田健悟」と記載していたが、この引用元の論文そのものが完全な偽物であり、実際には存在していないという。
フェイク論文を元に作成したという解説動画の内容も架空のもの。つまり“存在しない論文を参照したという体裁の動画”を制作し、投稿しているということだ。なお、第二著者と第三著者は架空の人物の名前だったが、第三著者の姓は近接テーマで研究している実在の人物と同じものだった。
縄田准教授は、動画の概要欄に記載がある論文タイトルなどから、生成AIによって出力した文章ではないかと推測。また他の掲載済み動画も確認した上で、日本の論文プラットフォーム「J-stage」に載る、2024年度の心理学研究優秀論文賞の情報を流用している可能性を指摘している。
近年、AI技術の飛躍的発展により、生成コンテンツの質は著しく向上し、真偽の判別が困難になっている。複数の学術論文をAIに学習させることで、専門的な装いを持つ偽の論文を生成することも技術的に可能だ。今回の事例のように出典元の論文を明記している場合、一見すると学術的根拠のある信頼性の高いコンテンツと誤認してしまう恐れがある。
このような状況は、視聴者に対して誤った情報を提供するだけでなく、研究者の名誉や学術的信頼性を著しく損なう問題でもある。
視聴回数増加を目的として、こうした偽の学術的コンテンツが今後さらに量産される可能性は高い。AIによる生成コンテンツの精度は今後一層向上すると予想できるため、プラットフォーム運営者による厳格な監視体制の構築と、視聴者側の情報リテラシーの向上が求められる。
Copyright © ITmedia, Inc. All Rights Reserved.
Innovative Tech(AI+)
2019年の開始以来、多様な最新論文を取り上げている連載「Innovative Tech」。ここではその“AI編”として、人工知能に特化し、世界中の興味深い論文を独自視点で厳選、解説する。執筆は研究論文メディア「Seamless」(シームレス)を主宰し、日課として数多くの論文に目を通す山下氏が担当。イラストや漫画は、同メディア所属のアーティスト・おね氏が手掛けている。
この記事の著者
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
AIモデリングもできる無償3D CAD「SolidCraft」を試してみた!
-
2
メルカリ、アプリ開発「2日→数十分」へ 直面したAI時代の“意外な課題”とは?
-
3
Googleの“人気AI講座”、先着1万人に無料提供 リスキリング推進団体
-
4
ジェンスン・フアン氏退任は「NVIDIAバブル崩壊」の序章か? どうなる今後の半導体業界
-
5
「Gemini 4 Hydrogen」とは 性能とユースケースまとめ Googleの「誰でも使える」最新モデル
-
6
総務省が新しい無料オンライン講座「統計解析プログラミング」を1月に開講 Pythonでのデータ分析が4週間で学べる
-
7
AIが設計データの分析からCAD操作まで支援する「SOLIDWORKS 2027」
-
8
アクセンチュアが説く「業務そのものの創り直し」とは? AI活用が事業成果に結びつかない企業に向けた2つのポイント
-
9
ガートナーが考えるフィジカルAI実装のロードマップと人の役割
-
10
OpenAI、AIエージェントが代わりに支払う「ChatGPT Wallet」 カード番号は渡さず、購入ごとに生体認証
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR