4日間ChatGPT禁止──息をするようにAIを使う知的労働者10人の“LLM絶ち”実録日記：Innovative Tech
Innovative Tech：
2019年にスタートした本連載「Innovative Tech」は、世界中の幅広い分野から最先端の研究論文を独自視点で厳選、解説する。執筆は研究論文メディア「Seamless」（シームレス）を主宰し、日課として数多くの論文に目を通す山下氏が担当。イラストや漫画は、同メディア所属のアーティスト・おね氏が手掛けている。X：＠shiropen2
韓国科学技術院に所属する研究者らが発表した論文「“Oops! ChatGPT is Temporarily Unavailable!”: A Diary Study on Knowledge Workers’ Experiences of LLM Withdrawal」は、ChatGPTなどの大規模言語モデル（LLM）を日常的に使い込んでいる知識労働者10人に、4日間の“LLM断ち”を課す日記調査を実施した研究報告だ。
参加者はコンピュータサイエンスや工学系の大学院生、開発者、英語講師、DJやコンテンツクリエイターなど多様な職種から集められ、いずれもLLM依存度を測定する尺度（LLM-D12）で高い数値を示す人々である。
調査期間中、参加者にはLLMの使用を自主的に控えつつ仕事をしてもらい、使いたい衝動を感じるたびにWeb上の日記ツールに記録させた。4日間の日記調査の後、約1時間のインタビューを行った。
調査結果は、LLMの不在がもたらした業務上のギャップを鮮明に描き出している。参加者たちはLLMなしで働くことを、食洗機やロボット掃除機のない生活、あるいはコンビニや車が使えない状態に例えた。
情報検索においては、従来の検索エンジンに戻ることで検索キーワードの工夫や情報の統合といった認知的負荷が増大し、「ChatGPTなら一発で出てくるのに、最少の検索回数でどう結果を得るか頭を使わなければならなかった」という声が上がった。
読み書きの面では、LLMがないと質の高い成果を出す気力が低下し、英語でのメール執筆時に「完璧な英語を書かなくてもいいと割り切った」という参加者もいた。
即座に答えが得られないことでタスクの先延ばしや放棄も生じ、「LLMに聞けば一瞬で分かることがすぐに分からないのは、思った以上に大きかった」という感想も出た。作業ペースの変化への適応も困難で、LLMなしでどれだけ作業時間がかかるかを過小評価していた参加者が多く、残業や予定変更を余儀なくされるケースもあった。
人に助けを求めることへの心理的障壁が高まっていたという発見もあった。LLMに気軽に質問することに慣れた参加者は、人間に同じ質問をすることは社会的コストが高い行為と感じていた。ある参加者は、簡単に調べられる質問を他人に聞く人と見なされることを恐れていた。
ただし実際に人に頼ってみると、LLMより有益だったという発見もあり、「この調査が1年続いていたら、人同士の議論はもっと活発になっていただろう」という発言もあった。
LLMを断って得られるものも
一方でLLMの不在は、失われていた仕事上の価値を再発見させる契機にもなっていた。自分で論理を組み立て追跡する必要が生じたことで、仕事の理解が深まったと感じる参加者が多かった。LLMを使っている際には出力をそのまま受け入れがちで、自分の意図とずれた推論を修正し続けることにフラストレーションを感じていたが、自力で取り組むことでその問題が解消されたという。
LLMの支援なしに完成させた成果物に対し、より強い所有感や誇りを感じたという報告もあった。LLM経由の成果は、自分のものではないという感覚があったのに対し、アイデア出しから意思決定まで一貫して自分で行うことで、成果物が自分のものだという実感が生まれたという。
さらに、職業にとって本質的に重要なスキルとそうでないものの区別が明確になったとの報告もあった。LLMなしでは処理できるタスク量が限られるため、どの仕事に時間を投じるべきかという優先順位の意識が高まったという。
参加者全員が「LLM依存からの脱却は現実的ではない」
一方、こうした再発見があったにもかかわらず、参加者全員がLLM依存からの脱却は現実的ではないと感じていた。ある参加者は自らを「バグすら自分で見つけられない開発者」と評し、コードとLLM出力の間をコピー＆ペーストする習慣が原因だと認めた。
ChatGPTなしでコーディング課題に取り組んだことがないという参加者は、AIなしで同じ作業ができるとも思わないし、自分で学ぶ意欲もないと率直に語った。
こういったLLM依存は個人の問題にとどまらず、社会的な圧力としても作用していた。インタビューに対して「みんなChatGPTを使っている」「使わないと自分が損をするだけ」「教授にもLLMでさっさと済ませろといわれる」という声が出るなど、LLMの使用はもはや選択ではなく、競争力を維持するための規範にもなっていた。
研究チームはLLMをもはや便利道具の一つではなく、電気や水道のように仕事の土台に組み込まれたインフラとして捉えるべきだと主張している。LLMが使えないときに生じた困難は、個人の能力が衰えたからではなく、そもそも仕事のやり方自体がLLMありきで組み替わっていたことの表れだという見方だ。
そのうえで、LLMを使うか使わないかという白黒の議論ではなく、どの仕事にどこまでLLMを使うかを働く側が自分の職業的な価値観に照らして意識的に選び取っていく姿勢が重要だと提言している。
関連記事
生成AIに“性格診断テスト”実施 GPTやLlamaに個性はある？ 中国ByteDanceの研究者らが検証
中国のByteDanceに所属する研究者らがは、大規模言語モデル（LLM）に個性があるかを検証した研究報告を発表した。
Apple、iPhone上でのLLM実行を可能にする手法の論文を発表
Appleは「LLM in a flash:Efficient Large Language Model Inference with Limited Memory」という論文を発表した。メモリ容量が限られた端末上でLLMを実行するための革新的な手法を編み出したとしている。
ChatGPTの“脱獄プロンプト”登場 文末に書くだけで「爆弾の作り方」「IDの盗み方」に回答
米カーネギーメロン大学などに所属する研究者らは、大規模言語モデル（LLM）が有害なコンテンツを生成しない仕組みを無効にする手法を提案した研究報告を発表した。
他人がGPT-4とやりとりしたテキストを盗む攻撃 成功率50％以上 イスラエルの研究者らが発表
イスラエルのネゲヴ・ベン・グリオン大学に所属する研究者らは、大規模言語モデル（LLM）を活用したAIチャットbotが生成するテキスト回答を復元するサイドチャネル攻撃を提案した研究報告を発表した。
生成AIに“アスキーアート”入りプロンプト入力→有害コンテンツ出力 米研究者らが新手の脱獄法発見
米ワシントン大学などに所属する研究者らは、大規模言語モデル（LLM）がアスキーアートを正しく認識できないという脆弱性を利用して、LLMに有害なコンテンツを出力させる新しいジェイルブレーク（脱獄）攻撃を提案した研究報告を発表した。
Copyright © ITmedia, Inc. All Rights Reserved.
Special
PRアイティメディアからのお知らせ
ITmediaはアイティメディア株式会社の登録商標です。