「AIが人類を支配したら？」が現実味を帯びてきた件 加速する“AIアライメント”議論の現在地（4/4 ページ）

[井上輝一，ITmedia]

　これってやっぱり自分たちと同じような見た目、機能、能力、感情的なものを持っているか、話せるかとか、いろんな観点で自分たちとどれくらい近いかによって扱い方を自分たちに寄せるか、変わってくると思っています。

　僕が作中で描いている産業AIは道具として扱われているんですが、産業AIっていうのは意図的に性能、こういうアルゴリズムじゃないとダメだよみたいな何かしらの枷があって。意識を持っているか厳密には分からないんですけど、道具として扱えるところに留めてますっていう倫理的な言い訳があるわけです。

　人間と同等なのはヒューマノイドっていう風に扱われて、それは人間と同じような扱いをしなければいけませんと。そして人間とも違う、別なアルゴリズムを持ってしまったみたいな存在を超AIっていう風にして、どう扱っていいか分からん宙ぶらりんの状態で、上位存在としているっていうような感じなんですよね。

山川　それは人間が切り分けることによってきっちり分け続けられた。

　ただあれですよね、AIやロボットが、環境に対して最適であろうとする結果として、状況は変わってくるでしょう。どう考えても、超AIが火星探査とかをやり始めると探査系のロボットとか産業系のロボットみたいな、司令官みたいなロボットが出てきたりとか。ロボットとAIが組み合わさってますけど、何かの目的を達成するものになったらそれに最適化・多様化された形で組織が組まれますよね。

山田　そうしたらもう本当に自分たちから手離れてバイバイですよね。もうどうしようもない。いつかこっちに襲撃してくるかもしれないけど。

「人類は体の一部」とAIに思ってもらうのが大事かも

山田　僕自身は、もしそういうAIがどんどん進歩するのを避けられないんだとすれば、ある種、人類そのものをAIにとって自分だと思ってもらうしかないんじゃないかと。要するにAIの意識の範疇の中に人類も含まれてるみたいな。ちょっとSFっぽいんですけど。

　要するに、例えば僕、自分の腕をバスっと今切れないですよね。それってやっぱ自分の体、自分っていう存在の一部で、しかもその痛覚もあって失うのが嫌だから。人類がAIにとって、同じような存在になるという方向のアライメントもあるのかなと思っているんですよ。

山川　それはそうですね。そうなったら容易には切れない。でも、初めはある程度はそうなんです。彼らがシリコンチップ作るためにはとりあえずは人間がいるのである期間は切り離せない。腸内細菌みたいな。工場の中でちゃんと動かしてくれる人間みたいな。

山田　例えば、盲腸って別にいらないけど、だから取るかってあまりならないじゃないですか。そういう感じで役目は持ってないけど、体の内側っていうか自分の中のものだからそれをわざわざ取り出そうという判断にならない、っていうような形にアラインできないかな。

山川　それは多分あり得るんですよね。だから僕らから見ると片利共生なんですけど、勝手に場所を使わせていただいてますみたいな感じ。たぶん我々がスズメバチのような害虫にならなければ大丈夫。あいつらのせいでお腹が痛いんだけどってならなければ。