東　　どうなんでしょう。そもそも何が良くて何が悪いのかが最近すっかり分からなくなっていて、例えば寿命は伸びた、乳幼児は死ななくなった、飢餓もすごく減った、そういう点では現代はすごく進歩していて本当にいいし、AIもそういう進歩を進めるとは思うんだけど、厄介なのはそれで幸せ度や充実度が飛躍的に上がったというようには誰も思っていないことですね。

山田　良さって一人一人違うし、時代によっても変わっていく。だから最適化って難しいんじゃないかとも思います。

東　　AIの方向性をいい感じにする「アライメント」もありますけど、あれをAIに教える人たちがいるっていうこと自体がすでに弱点ですよね。

山田　それは本当に今のAIの限界ですよね。人間がただ単にパターナリスティックに教えるんじゃなくて、自律して価値観を決めていくようになって知能や知性と言えると思います。

東　　時代によって変わっていく部分はすごく難しいと思っていて、例えば現代は同性愛が異性愛と同等に認められていますけど、1960年代に今のようなAIが作られていたらそこはアライメントされないはず。

　一方で資源の最適配分だけを考えても現代でも違う意見は出てくる。トロッコ問題も助かる人間が5人か1人だったら5人を選ぶのが良いに決まっているとなりそうなもんですが、いろいろ理屈をつけてそうじゃないという議論を展開する。

　そういう、功利主義的な論理を選びたくないって言い続ける。それが人間という種族のある種の固有性。だから人間をやめる、人間を捨てようっていうのは、本気で捨てるんだったらそれでもいいと思うけど、でもそれはいろんな良いところも一緒に捨てることになる。都合の悪いところだけ捨てられないっていうかね。

　それに、社会がいくら進化してもトランプみたいな人間が出てくるのは阻止できない。なんだかんだ今でもトランプはすごく人気だし、プーチンだって人気がある。ロシアの場合にはメディアによる情報管理もあるけど、プーチンが良い人間であると思わされているというよりは、結局はみんなああいうマッチョが好きなんですよ。それもまた人間。

　そういう問題に関わるので、その部分が変わらない限りは全体最適化はできないんじゃないかな。

山田　逆に言うと、そこが変わるのはAIによる人類への統制が相当効いている状態ですよね。それって結局ディストピアで、僕の漫画でもちょくちょくその問題を出してます。

東　　中学生がいろいろ本とか読んで「なんか世界おかしいぞ」とかネットに呟いたら誰かがやってきて薬物打たれちゃうみたいな、そこまで極端なことをやれば、世界は統制できる。

　でもそういう世界に向かいつつあることも確かだと思いますよ。今のテロリズムって個人が鬱屈と抱えた思いの結果であることも多いから、ああいうのを治療の対象だと考えることもできる。テロリストは事前に治療しようみたいな。でもそれってディストピアそのものですよね。

山田　それで言うと、テロリストが口で言っている思想とその人が持っている問題が実は異なる可能性は高いんじゃないかと思ってるんですよ。

　親の問題や孤独・孤立の問題、金銭の問題とかいろんなものが積み重なった結果ある種の思想に落ちていく部分がある。それを事前に察知してしかるべき手を打てる存在がいて、それが人間だったら非常に良い存在としてみんな受け止めますよね。

　でも人間だけでそのセーフティーネットを賄うのは限界がある。それをAIがサポートできてほしいなって。