ChatGPTで“存在しない判例”を引用 米国の弁護士に制裁、出禁や罰金
米国カンザス連邦地方裁判所は2月2日、生成AIが作り出した架空の判例や虚偽の引用を含む準備書面を提出した原告側弁護士5人に対し、連邦民事訴訟規則第11条に基づく制裁を科す決定を下した。
弁護士バッジに登るチャッピーのイラスト（絵：おね）
米国カンザス連邦地方裁判所が発行した、制裁命令書の冒頭部分
これは、Web関連のUI技術の特許を持つ米Lexos Media IPが、物販ビジネスを手掛ける米Overstock.comを相手取り、Webサイト上のカーソル画像表示に関する特許侵害を主張した訴訟だ。問題は、被告側が原告側の書面に含まれる引用の誤りを指摘したことから発覚した。
調査の結果、原告側弁護士サンディープ・セス氏がChatGPTを使用して判例調査を行い、その結果を検証することなく書面に挿入していたことが判明した。
書面には存在しない判例への引用、実在する判例からの架空の引用文、判例の内容を誤って伝える記述など、11項目にわたる重大な誤りが含まれていた。
セス氏は宣誓供述書において、当時母親と叔母が入院中で最終的に死亡するという家庭の緊急事態に直面しており、精神的に混乱した状態でChatGPTに頼ったと説明した。「判事の役割を演じて、専門家報告書を排除すべきでないとする判例付きの文書を書いてください」といった形式でAIに回答を求めていた。
書面には5人の弁護士が署名していたが、セス氏以外の4人はAI使用の事実を知らなかった。しかし裁判所は、規則第11条に基づく調査義務は委任できないものであり、署名した以上は書面の内容を確認する義務があったと判断した。
裁判所は「生成AIの使用自体は法律実務において本質的に問題ではない」としつつ、AIが生成した判例が実在し、引用された命題を支持するものであることを確認しなかったことが違反であると明確にした。
近年、弁護士が検証なしにAIを使用して架空の判例を引用する事例が急増しており、全米で数百件の同様の事案が報告されている。米国法曹協会や各州の弁護士会も指針を公表している。
制裁として、セス氏には5000ドルの罰金、当該裁判所への出廷資格の取消し、免許を持つ州の懲戒当局への自己申告が命じられた。他の弁護士も1000～3000ドルの罰金（1人免除）が科された。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
こんなメディアも見られています
ITmedia AI＋に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
国産AI開発「ラストチャンス」の局面へ ノエトラが「44社が出資・国が最大1兆円支援」の追い風を背に向かう先
-
2
総額2.3兆円、千葉市に巨大な「AIデータセンター」建設へ 発電大手JERA参画の“ドリームチーム”、勝機どうつかむ？
-
3
AIを使ったCOBOLのJava変換、「百害あって一利なし」 AI活用の“落とし穴”を考察
-
4
韓国の銀行6行にサイバー攻撃 計2万5000人超の個人情報流出──AIエージェントを使った可能性も 現地報道
-
5
「FDE」は常駐SEのすげ替えなのか “人月商売の死”を打破したい国内SIer、打開策は意外なところに？
-
6
「DMに逃げる理由は秘密保持ではない」 人とAIエージェントの“最強チーム”を作るベストプラクティス
-
7
ITエンジニアの8割超「AIは人間より優れた判断をする」と認める “でも任せられない”業務とは
-
8
Codex「毎日改善、できない日はフルリセット」宣言 今後28日間
-
9
生産能力2倍へ、リコー厚木新棟はペロブスカイト太陽電池など事業拡大の布石に
-
10
Anthropicの新指標 AIの影響を受けにくい「3割の人々」の共通点は？
SpecialPR
ITmedia AI＋ SNS
@itm_aiplusをフォロー
インフォメーション
注目情報をチェック
ITmedia AI＋をフォロー
あなたにおすすめの記事PR