AI社会はクレーム対応社会？　東浩紀と山田胡瓜が語る、AIが見せるユートピアとディストピア（2/4 ページ）

東　　それはシンプルな問題で、人間が人間じゃなくなるんだったら、むろんそういう世界に対応していくと思うんですよ。社会も大きく変わると思う。ただ、人類の多くがそういう選択をしたとしても、それでも人間であり続けたい人間は残るだろうし、そういう点では地球上から今のような非効率な人間社会が完全に消えるっていうことは考えにくい。人間全体が人間以外のものにアップデートするっていうのは、それこそ人間が同意しない気がします。

　人間社会の非効率性って、最終的には私有財産性とか家族の問題なんですよ。人間がどっかの領域を作って、その領域だけで最適化しようとして、全体の最適化を見ないことに尽きてるんですよね。

　だから全体を最適化するためには、私有財産や家族を廃止しなければいけない。実はこれは昔から繰り返されている議論で、プラトンの時代まで遡る。プラトンの国家論ですでに家族と私有財産の廃止がすでに提案されていて、そのときから変わってないんですよね。そういう意味では解は出てるんだけど、でも人類はやる気ないってことだと思うんですよ。

　僕はこの件では哲学的な検討は終わってると思っています。ある意味で答えは出てる。でも人類は毎回新しい個体として生まれてくるので、新しい個体である僕たちは25歳とか30歳のときに「これ私有財産廃止した方が良くね」って何回も何回も再発見してる。

　だから変えるとしたら人類を生物学的にいじるしかない。

人間はそのままでも超AIがうまく調停する未来は？

山田　なるほど。僕的にもう一個可能性があるんじゃないかって思ってるのが、要するに人類は変わらないけど、全体最適化みたいな視点を常に持ち続けている超AIみたいな存在が、人々がそのまま生きることを許容しながらうまく全体を最適化できるかどうか、というところにちょっと興味があるんです。

　人間では「合成の誤謬」（局所的な視点では正しくても大局的には必ずしも意図した結果にならないこと）みたいなのは解決できないけど、超AIが取り持ってくれるような。

東　　僕はそれもできないんじゃないかと最近思ってるんですよね。

　それができるときって、AIが世界全体の公共財みたいなものになって、超AIは誰の人間にも奉仕しない、全体を見るってことですよね。

　でも具体的には、結局はどっかの企業がそのAIを開発してるはずで、そいつらが手放さないんじゃないかな。そいつらに手放させようとしたら、それこそ革命を起こしてGoogleとかOpenAIを解体して超AIを委員会でコントロールするとかになるんだろうけど、今度はその委員会が所有権を主張するんだろうし。

　だから僕は、社会全体の最適化という話は、たとえ技術的にできたとしても肝心の人間にやる気がないという話だと思ってるんですよね。

　もし人類が宇宙とか進出するんだったら、人類を送るのではなく、人類のエッセンスとかを入れたAIを送って、彼らによって発展していただくのがいいと思う。

山田　レッドクイーンの最後みたいな。

東　　僕たち人間について考えると、この「圧倒的なやる気の無さ」がすごいっていうのが、人文系の人間として思うことなんですよね。

　むしろ問題は、この人類の、断固手放そうとしない妄執というか我執をどういうふうに騙し騙しやっていくかっていう話だと思うんですよ。AIを使うとしたら、そこの部分に何か可能性はあるのかもしれないけど。

山田　本当はAIがやっているのは全体最適化なんだけど、一人一人には局所最適化であるように思わせる工夫ですよね。

その未来は結局ディストピア

山田　それはある種の洗脳に近いものなんですけど、そうなってしまう気はするんですよね。

東　　とはいえ、洗脳って言ったら、例えば啓蒙とかは全部洗脳ですからね。なぜ字を習った方がいいのか。なんとなくその方がいい感じだぜってことでみんな習うんですけど、その結果現実には、労働力としてスタンダード化されて搾取されてしまう、そういうことも起きるわけで。

山田　そういう洗脳ゲームが人間の営み、そのものだとして、そこにAIという新しいプレイヤーが加わることはどう思いますか？

「AIの遺電子」と探る未来

7月開始のテレビアニメで注目を集める、人とヒューマノイドの共存を描いた近未来SF「AIの遺電子」。作者とAI専門家との連続対談がここに実現。

この連載の記事をもっと見る

この記事の著者