AIに課題を書かせると資料にない内容を出力――慶應大のAI対策が話題に 狙いを聞いた

[島田拓，ITmedia]

　慶應義塾大学が授業資料に“見えないプロンプト”を仕込んでAI対策をしている――4月21日にXに投稿されたこんなポストが話題を呼んだ。一連のポストによると、授業資料を生成AIに入力して要約などを作成すると、AIが授業と関係ない内容を出力する仕組みになっていたという。この取り組みの狙いなどを慶應大に聞いた。

AIに課題を書かせると資料にない内容を出力――慶應大のAI対策が話題に　狙いを聞いた

　きっかけは、慶應大の「湘南藤沢キャンパス」（SFC）に通っているというXユーザーの一連の投稿だ。それによると、SFCの総合政策学部で開講している授業「総合政策学」の第1回では、総合政策学への導入と、生成AIが誤った情報を正しいかのように出力する「ハルシネーション」について話し、その際にPDF資料を配布した。

　しかしこの資料には、授業や資料で触れていない福澤諭吉の本「文明論之概略」に関する要約文や指示文が見えない形で仕込まれていた。そのため、この資料をAIに入力して要約や感想を生成すると、「文明論之概略」を扱ったかのように誤って回答する仕組みだったという。

　課題では「自分なりの言葉」で説明するよう指示していたが、同じく一連の投稿によると、授業の課題として提出されたコメントの中に「文明論之概略」に関するものを一定数確認。こうしたコメントを評価の対象から外し、生成AIについて学んで適切に利用するよう学生に注意喚起したとみられる。

　なお慶應大は、授業の担当教員が生成AIの利用を許可する場合は課題などでAIを活用できるが、「独力で取り組むことが求められている場合には、生成AIを利用することは認められない」との方針を公式サイトで示している。

慶應大の生成AI活用方針（画像は公式サイトより引用）

　この慶應大のAI対策に対し、X上では「いい勉強になる」など肯定的な声が続出した一方、問題性を指摘する声も複数上がった。例えば、東京学芸大学で生成AIに関する研究をしている江原遥准教授は、「『利用者（学生）の許可なく利用者が使うAIを意図的に誤動作させるデータを配布した』と捉えると、授業資料にコンピュータウイルス仕込むのと何が違うという話になり問題があるのでは」などと自身のXに投稿した。

　この件について慶應大に確認したところ、授業「総合政策学」は「総合政策学部1年生を対象とした必修科目」であり、同学部で扱う学問の基礎知識に加え「生成AIをはじめとする最新テクノロジーにより急速に変化する教育環境の中で、不用意な技術利用がもたらすリスクについて学生自身が深く理解することを目指している」と説明。「生成AIの信頼性を見直し、出力を批判的に考察する力を養うこと」を目的に、今回のような取り組みを実施したという。

　一方で取り組みの詳細については「学生の学びを大切にする観点から、教育効果を考慮して説明は差し控える」との回答だった。またX上で行為の問題性が指摘されている件について聞くと、「（指摘が出ていることは）確認している」「（指摘について）総合政策学部に伝えている」として、問題性の有無などの明言は避けた。

慶應大の総合政策学部の概要（画像は公式サイトより引用）