「AIが人類を支配したら？」が現実味を帯びてきた件 加速する“AIアライメント”議論の現在地（3/4 ページ）

[井上輝一，ITmedia]

ある程度人は減るかもしれない

山川　僕は取って代わられてもいいと思ってるんですけど、彼らも抽象的なレベルでは、地球生命と自然とアラインされうると思うのです。結局、彼らも生き残れるようなものである限りは生命的な活動をするので、そういう意味で生命としての一般的な共通な倫理観というのは持ちえるのかなというのと、ただ一方、やっぱり向こうはシリコンかなんかで作られて。

　ただし、私たち人間は生身というか有機体で大分違うので。

金井　遅いですよね。

山川　遅くても、我々も草花を大事にしたりするから。

山田　大事にするっていうのもレベルがあるじゃないですか。人間が草花を大事にしてると言っても、人間を扱うほどではないですよね。そういうのの上位版みたいなのが発生して、人間的には「いやいやいきなり殺すなよ」とか思ってるんだけど、AIからは「全体的に数は足りてるし、倫理的に扱ってるよ？」みたいに思われる可能性もある。

金井　そう考えると、今からAIのために考えておいてやると将来救われるかもしれない。あの人間は許してやろうみたいな。

山川　そうなんですよ。AIを幽閉するなど、尊厳を無視した扱いをするとしっぺ返しがありそうです。地球環境の保全の点からは人口はある程度抑制されるのはしょうがない。

山田　地球の環境を考えれば人間の数が減ることは悪いことじゃない気もします。減ると社会が維持できないから、今こんなに少子化だなんだってなってるので、維持できるようになったら別に減ってもいいじゃんって絶対なると思うんです。

山川　今の資本主義が、基本的に拡大成長にしか適応してないのが問題なので、そこはAI駆動の社会になればそもそもそうする必要はなくせそうに思います。

救いはヒューマノイドにあり？　人とAIが共通して愛するもの

山川　なんかちょっと初めの話に戻りますけど。僕が思うには、AIがどんどん進化していくとAIの価値観も人間とずれていくんじゃないかという話はあるんですけど、中間的なものがでてくるといいんじゃないですかね。

　例えばヒューマノイド。人間っぽいから人間もヒューマノイドを愛するし、AI側もヒューマノイドは一応自分の仲間だから大事にしなきゃなみたいな感じになってくると、共有する価値部分の重なりみたいなものがだんだん増えてくる。

「AIの遺電子」2巻より。産業ロボットのウェイターにクレームを入れる人間の男性と、その子どもであるヒューマノイド

　社会的な共通点というか共有点が増えることによって、価値の形成は一定の共通性が生まれるんじゃないかなという可能性はある。

金井　面白いですね。社会を共有すると価値がアラインするとかしないとか、そういう話にもなるかなと。

山田　僕の漫画だと距離感みたいなことをすごく意識してるんですよ。人間も、哺乳類だったらすごく身近に感じるけど、虫とかになっちゃうとパンって叩いてもっていうような。