AIの遺電子の根底にある「2つのやばさ」と「3つのAI」　ChatGPT到来を予言した世界観を作者本人が解剖（2/2 ページ）

松尾　そうなんですよ。シンギュラリティは来ないとかっていう話あったじゃないですか。そんなものは幻想だと。でも、それに対して今の動きって特に2020年あたりから急激に動き始めていて、それはAIの遺電子が出ただいぶ後の話（編注：AIの遺電子の初掲載は2015年）じゃないですか。そこでこういう展開を予想していたのか、と恐ろしくなりました。

山田　ありがとうございます。こう、シンギュラリティを意識した作品はいっぱいあると思うんですが、どちらかというと壮大な話が多い気がします。人間の暮らしや世の中がどう変わるかみたいなことは結構詳しく描いている方かもしれません。

松尾　AIの遺電子の無印の方では、初めはAI社会が確立した経緯みたいなものはあまり出てこなくて、産業AIや超高度AIといった区別はあったけれど、それが一体何を意味しているかはあまり伝えていなかった。でも読んでいける。AIのすごいところとそうでもないところと、それでいろんなドラマが生まれて、というのが面白いんですが、その背景にはリアルな設定があったなって。

AIの遺電子の根底にある「2つのやばさ」と「3つのAI」

山田　いきなりめちゃめちゃ宣伝してくれましたねｗ　そうですね、AIは普通に発達しちゃうし、発達したら世の中大変なことになるなというのは、僕が記者をやっている頃からAIの進展を見て思っていたことでした。それが大体2012年くらいで、ディープラーニングという言葉がITmediaみたいなテック系のメディアで出てきた時期。画像認識で既存の技術を上回る、頭一つ飛び抜けたというニュースが出たときですね。そのしばらく後にGoogleの「猫を猫と認識したAI」のニュースも出てきました。

　その辺りから、昔のエキスパートシステムのような、人間が作ったルールに従って動くものとは違うAIができるんじゃないかっていう印象を勝手に受けたんですよ。

　そういうのがどんどん高度になったら人間みたいな情報処理ができちゃう。それが道具として動いたら世の中どうなるんだろうという感じで順々に考えた結果、本当にやばいなって思うようになった。

　そのやばさを考えたときに、大きく2つのやばさがあるなと思って、一つはそれが人間の生活そのものを脅かす可能性。もちろん仕事を失うという話もあるけれど、安全保障の問題とか、そういうものを悪用して人を傷つけたりテロを起こしたりとか、思いもよらないリスクがAIによって出てくるなと。

　そう考えるとやっぱりAIはクルマや銃と同じように、国によっていろんな規制を受けるようになる。それで勝手になんでも作れたり、勝手に野良AIみたいなものを使えなくなるという、そういう制限がある世界になるんじゃないかと思って描いています。

　もう一つのやばさは、どんどん賢くなってしまったら人間と一緒じゃんということ。人間と一緒になったら道具として扱っていいのか。それを考えたときに僕は、じゃあいろんな知的な生き物を人間はどうやって扱っているんだろうと考えて、それは自分との距離感みたいなところで線引して生き物の扱いを変えているなと。ほ乳類くらいだとまあまあで、ペットならより大事にみたいな。

　そういう線引が人工知能にも起きるんじゃないかと思っていて、それで「道具として扱えるAI」と、「人権を持って他者として扱わないといけないヒューマノイド」という線引ができました。

　その上で、そういう次元を超えてしまった「超AI」もいる。この3つの枠組みが始まりの世界観ということですね。そこにちょっとずつ肉付けしていって今のAIの遺電子ワールドがある気がします。

松尾　これ無限にストーリー作れますよね？

山田　結構最近ネタなくなって困っているんですけどねｗ

（次の記事：“AIグラビア”でよくない？　生成AI時代に現実はどこまで必要か）

「AIの遺電子」と探る未来

7月開始のテレビアニメで注目を集める、人とヒューマノイドの共存を描いた近未来SF「AIの遺電子」。作者とAI専門家との連続対談がここに実現。

この連載の記事をもっと見る

この記事の著者

関連記事

• 

  ぼくらはなぜ「AIの遺電子」にこんなにも惹かれるのか

• 

  AIと人の関係、鋭く表現　SFマンガ「AIの遺電子」などが人工知能学会で表彰

• 

  近未来SFマンガ「AIの遺電子」出張掲載　第11話「寡黙な彼女」