AIに課題を書かせると資料にない内容を出力――慶應大のAI対策が話題に　狙いを聞いた

　慶應義塾大学が授業資料に“見えないプロンプト”を仕込んでAI対策をしている――4月21日にXに投稿されたこんなポストが話題を呼んだ。一連のポストによると、授業資料を生成AIに入力して要約などを作成すると、AIが授業と関係ない内容を出力する仕組みになっていたという。この取り組みの狙いなどを慶應大に聞いた。

　きっかけは、慶應大の「湘南藤沢キャンパス」（SFC）に通っているというXユーザーの一連の投稿だ。それによると、SFCの総合政策学部で開講している授業「総合政策学」の第1回では、総合政策学への導入と、生成AIが誤った情報を正しいかのように出力する「ハルシネーション」について話し、その際にPDF資料を配布した。

　しかしこの資料には、授業や資料で触れていない福澤諭吉の本「文明論之概略」に関する要約文や指示文が見えない形で仕込まれていた。そのため、この資料をAIに入力して要約や感想を生成すると、「文明論之概略」を扱ったかのように誤って回答する仕組みだったという。

　課題では「自分なりの言葉」で説明するよう指示していたが、同じく一連の投稿によると、授業の課題として提出されたコメントの中に「文明論之概略」に関するものを一定数確認。こうしたコメントを評価の対象から外し、生成AIについて学んで適切に利用するよう学生に注意喚起したとみられる。

　なお慶應大は、授業の担当教員が生成AIの利用を許可する場合は課題などでAIを活用できるが、「独力で取り組むことが求められている場合には、生成AIを利用することは認められない」との方針を公式サイトで示している。

　この慶應大のAI対策に対し、X上では「いい勉強になる」など肯定的な声が続出した一方、問題性を指摘する声も複数上がった。例えば、東京学芸大学で生成AIに関する研究をしている江原遥准教授は、「『利用者（学生）の許可なく利用者が使うAIを意図的に誤動作させるデータを配布した』と捉えると、授業資料にコンピュータウイルス仕込むのと何が違うという話になり問題があるのでは」などと自身のXに投稿した。

　この件について慶應大に確認したところ、授業「総合政策学」は「総合政策学部1年生を対象とした必修科目」であり、同学部で扱う学問の基礎知識に加え「生成AIをはじめとする最新テクノロジーにより急速に変化する教育環境の中で、不用意な技術利用がもたらすリスクについて学生自身が深く理解することを目指している」と説明。「生成AIの信頼性を見直し、出力を批判的に考察する力を養うこと」を目的に、今回のような取り組みを実施したという。

　一方で取り組みの詳細については「学生の学びを大切にする観点から、教育効果を考慮して説明は差し控える」との回答だった。またX上で行為の問題性が指摘されている件について聞くと、「（指摘が出ていることは）確認している」「（指摘について）総合政策学部に伝えている」として、問題性の有無などの明言は避けた。

この記事の著者

関連記事

• 

  慶大、生成AI研究機関「慶應AIセンター」設立　KDDIやNECなど9社が参加　米カーネギーメロン大とも連携

• 

  声優の声を“無断学習した生成AI”問題、「事案によって違反になる」――山田議員が経産省の見解引き出す

• 

  ChatGPTユーザーのほとんどが大学生、日本も18～24歳の利用が最多──教育現場の利用動向も明らかに

• 

  Geminiの記憶を「汚染」　生成AIの弱点を突くハッキングの手口、海外の研究者が報告

• 

  「私はOpenAIのAIアシスタント」――中国産AI「DeepSeek R1」の“疑惑の返答”がSNSで物議に