池澤夏樹が『2001年宇宙の旅』からひもとく「AI脅威論」の真実：池澤夏樹は「科学する」【前編】（3/4 ページ）

[服部良祐, 今野大一，ITmedia]

※本記事はアフィリエイトプログラムによる収益を得ています

「AIで仕事がなくなる論」への回答

――「AIのせいで仕事がなくなる」という話をビジネス誌で見ない日はありません。しかし、AI自体に何か意思があるのではなく、AIで得するのは人を雇う側だけで、AIの先には結局、人間がいるのですね。

池澤：　産業革命と全く一緒でしょう。あれで人間は肉体労働からほぼ解放された。今回は単純頭脳労働から解放される。足し算や割り算をしなくていい。たくさんのデータを並べて最適なものを選ぶということもしなくていい。銀行の融資審査などの仕事は無くなる。

　ただ、それでみんなが少し働いて遊んで暮らせるかというと‥‥…。あらかた失業者にした上で、残った人を「失業するぞ」と言って無理やり働かせる。つまり、公平に（労働が）負担されないことになってくる。（AIの恩恵が）一部に集中した上で、巨大資本の利益になるように全部が動いていくのです。

――本書でも出てきた映画『ブレードランナー』のようなSFの世界に、私たちは勝手に憧れたり、期待したり、恐れたりもします。でも今の話だと、「理解していない科学を使い、実は使われてもいる私たち」という図式は、原爆が落ちた時や、原発問題の時などとも変わっていないようにも思えます。

池澤：　結局、政治が変わっていないし、人間の倫理観も変わっていない。裁量することのサイズが大きくなっただけで、判断する能力は変わっていません。しかも資本主義が進んだ分だけ、向こう（資本家側）はあこぎになる。事実上、日本には労働組合なんて無いでしょう。

――本書で池澤さんは、AIは「考えている」けれど「思っていない」と論じています。ただ、例として挙げられたSF映画『2001年宇宙の旅』では、宇宙船の中で乗組員を抹殺して最後は消されてしまうコンピュータ「HAL 9000」が、最後に「私は怖い」と言いました。発達したAIが人と同じように恐怖できるのであれば、それは「ヒト」ではないでしょうか？

池澤：　HALの話はよく分からないんですよ。あれは自律的に物事を判断するプログラムが入っていて、その場その場で合理的に判断できる。彼の判断によると、（作中の宇宙での）プロジェクトに人間は邪魔、リスクであると。人間を排除した方が最終的な効率は上がるので、「要らない」と殺してしまう。

　そこは単純に効率を追っているだけ。意思ではないのです。でも、HALは合成音声でしゃべる。それで、映画の中で意思があるように見えるのです。僕は、あれは非常にトリッキーだなと思います。「怖い」というのは自己保存本能ですが、その本能があるとは思えないんですよね。映画を見た時は気付かなくて最近考えていたのですが、「そこはずるいよ（スタンリー・）キューブリックさん、（アーサー・C）クラークさん（2人とも脚本を担当）」という気がする。　

　映画『ターミネーター』で、（ターミネーターを現代に送り込む）スカイネットが人工知能化して人間と対立する。あれもウソですよ。コンピュータのネットワークである限り、そういうことはしないはずです。一方で、『ブレードランナー』のレプリカント（本作に出てくる人造人間）は違いますよ。あれは人間で、個体としての生命だから。しかし、コンピュータに個体という意識は無いです。他のコンピュータと競争もしない。協力はするけれど、（ネットワークで）つながりがあるという、それだけのことです。

――メディアで強調されている「AI脅威論」ですが、結局は人間自身への問題に跳ね返ってくるのですね。

池澤：　そういうことです。それによって社会がドラスチックに変わるというシンギュラリティの話がありますが、（実際は）ドラスチックには変わらないでしょう。だんだん悪くなるだけですよ。