AI社会はクレーム対応社会？ 東浩紀と山田胡瓜が語る、AIが見せるユートピアとディストピア（1/4 ページ）

[井上輝一，ITmedia]

　「今の社会の方向とAI的な処理ってすごく親和性が高くて、それはそれで幸福度高いのかもしれない。ただ全体がこれでいいのかっていうと僕はそこには少しハテナもある」──。

　「Midjourney」や「Stable Diffusion」といった画像生成AIが登場してから1年が立ち、チャット生成AI「ChatGPT」登場からも間もなく1年が過ぎようとしている。その間には「GPT-4」の登場はもちろん、モデルを公開したLLM、Stable Diffusion派生のAIモデルやその周辺技術などが勃興し、今も進化を続けている。

　この連載「AIの遺電子と探る未来」で取り上げてきた、TVアニメ「AIの遺電子」も9月末で一旦のフィナーレを迎え、主人公の須堂は「母のコピー」というヒューマノイドAI特有の難事件へ今後立ち向かうことになる。

　AIの遺電子は近未来SFとして描かれているが、現実世界もそれに追いつかんとする勢いだ。果たして我々の社会はAIでどうなっていくのだろうか。本連載の最終回では、哲学者の東浩紀さんと「AIの遺電子」原作者の山田胡瓜さんの対談を3編に分けてお送りする。

• 前編（この記事）：AI社会はクレーム対応社会？　東浩紀と山田胡瓜が語る、AIが見せるユートピアとディストピア
• 中編：なぜ僕らは画像生成AIよりも人のイラストに惹かれるのか　改めて問われる「自分は何がしたかったのか」問題
• 後編：データサイエンティストは預言者だった？　AI時代の社会の回し方

（聞き手・執筆：井上輝一）

連載：「AIの遺電子」と探る未来

AIが発達した近未来を描くTVアニメ「AIの遺電子」と連動し、同作の原作者・山田胡瓜さんとさまざまな有識者がテクノロジーの発達した未来について語り合います。

• これまでの記事一覧

AIで生活は便利になる　でも社会全体は？

山田　最近、東さんってAIの意見で世の中を動かしていくような「AI民主主義」的な考え方に批判的なのかなと思っていました。一種の限界のようなものを感じているのかなと。

東　　僕の考えは山田さんとあまり変わらないのかなと思っています。AIの遺電子に描かれているのも、結局は人間ドラマじゃないですか。シンギュラリティが来ても人間ドラマは残る。

　漫画版の作中にも「ナイル社」が運営している「新世界」という特区が出てきますよね。新世界のようにAIが良きに計らってくれる世界が生まれても、AIの遺電子では「それで大丈夫なの？」という問いかけをしている。そういう意味では考え方は同じなのかなと思います。

東浩紀さん

山田　そうですね。AIの遺電子の問いかけの一つは「AIが人間に思想や考え方を与える側になり、それがAIから人間へ一方通行になってしまうと価値観が固定されて人間同士のダイナミズムがなくなるんじゃないか」という発想で、それを描いたのが「レッドクイーン」（AIの遺電子の続編）だったんですよね。

　一方で、社会が大きすぎて複雑過ぎて、人間の意志がそれに対応できなくなっている問題もあると思っています。それをAIが手助けする仕組みはあってもいいんじゃないかと思っています。

東　　AIの支援で僕たちの意思決定がどんどん効率的になって、産業も効率的になって、生活が良くなるっていう点に関しては僕は全く疑ってないんです。それはそうなんだと思うんですよ。

　だから大きい話と小さい話を分けなきゃいけなくて、たぶん小さいところではAIって僕たちの生活をすごく良くしてくれるんですよね。

　ただ大きなところで、それが例えば社会全体の意思決定になると、結局のところAIではできないことが多いと思っているんですよね。それは人間の本質と関係していて。つまり、社会全体をいくらAIが最適化しようとしても、「AIが言ってくるだけで嫌だ」とかっていう人はいるわけです。

　人間のそういう性質を完全になくすことはできない。僕たちが人間である限り、AIから与えられたもので完全に満足というのはできないと思うんですよ。人間の脳そのものをいじっちゃうんだったらできるかもしれないけど。

限界はAIよりまず人間の方にある

山田　社会の最適化に対する期待ってどんな時代にもあって、そしてすべからく失敗してきたって問題があると思うんですよ。共産主義とかもその一つだと思うんですけど、その限界ってやっぱり人間の限界だったっていう発想もあるじゃないですか。

山田胡瓜さん

　結局、人間が部分最適と全体最適、いろんなレイヤーの最適化がある中で、それをリアルタイムに汲み取って、全てを適切にやるっていうことは、人間のキャパシティを超えていると。

　だから全部失敗してきた中、一番マシなものとしてある種の資本主義的な市場原理に慣らされたっていうか、勝手にバランスを取るっていうところの方がいいよねっていうのがこれまでだったと思うんです。

　一方で人工知能は例えば24時間365日動けるとか、いろんな人間以上の特性を持っているじゃないですか。

　それで何かをしたときに、その前提は変わりはしないかっていうふうにもちょっと思ったりするんですけど、それはどう思います？