ChatGPTで“存在しない判例”を引用 米国の弁護士に制裁、出禁や罰金

米国カンザス連邦地方裁判所は、生成AIが作り出した架空の判例や虚偽の引用を含む準備書面を提出した原告側弁護士5人に対し、連邦民事訴訟規則第11条に基づく制裁を科す決定を下した。

[山下（Seamless），ITmedia]

　米国カンザス連邦地方裁判所は2月2日、生成AIが作り出した架空の判例や虚偽の引用を含む準備書面を提出した原告側弁護士5人に対し、連邦民事訴訟規則第11条に基づく制裁を科す決定を下した。

弁護士バッジに登るチャッピーのイラスト（絵：おね）

米国カンザス連邦地方裁判所が発行した、制裁命令書の冒頭部分

　これは、Web関連のUI技術の特許を持つ米Lexos Media IPが、物販ビジネスを手掛ける米Overstock.comを相手取り、Webサイト上のカーソル画像表示に関する特許侵害を主張した訴訟だ。問題は、被告側が原告側の書面に含まれる引用の誤りを指摘したことから発覚した。

　調査の結果、原告側弁護士サンディープ・セス氏がChatGPTを使用して判例調査を行い、その結果を検証することなく書面に挿入していたことが判明した。

　書面には存在しない判例への引用、実在する判例からの架空の引用文、判例の内容を誤って伝える記述など、11項目にわたる重大な誤りが含まれていた。

　セス氏は宣誓供述書において、当時母親と叔母が入院中で最終的に死亡するという家庭の緊急事態に直面しており、精神的に混乱した状態でChatGPTに頼ったと説明した。「判事の役割を演じて、専門家報告書を排除すべきでないとする判例付きの文書を書いてください」といった形式でAIに回答を求めていた。

　書面には5人の弁護士が署名していたが、セス氏以外の4人はAI使用の事実を知らなかった。しかし裁判所は、規則第11条に基づく調査義務は委任できないものであり、署名した以上は書面の内容を確認する義務があったと判断した。

　裁判所は「生成AIの使用自体は法律実務において本質的に問題ではない」としつつ、AIが生成した判例が実在し、引用された命題を支持するものであることを確認しなかったことが違反であると明確にした。

　近年、弁護士が検証なしにAIを使用して架空の判例を引用する事例が急増しており、全米で数百件の同様の事案が報告されている。米国法曹協会や各州の弁護士会も指針を公表している。

　制裁として、セス氏には5000ドルの罰金、当該裁判所への出廷資格の取消し、免許を持つ州の懲戒当局への自己申告が命じられた。他の弁護士も1000〜3000ドルの罰金（1人免除）が科された。