ITmedia NEWS > セキュリティ >
ニュース
» 2018年08月06日 08時00分 公開

「個別の11人事件」は現実に起こせるか 「攻殻機動隊S.A.C. 2nd GIG」のゾクっとする話アニメに潜むサイバー攻撃(6/7 ページ)

[文月涼,ITmedia]

F: おそらく、ある程度決まった質問に関しては、チャットbotのように用意した内容を返答しているのかもしれません。

 それでも新規の質問には考えて答えなければなりません。その他の手段として考えられるとしたら何か。劇中では草薙素子が内閣情報庁に忍び込んで、外部記憶に保存されているゴーダの模擬人格(※)と対話したシーンがありました。こうした模擬人格を活用して対話しているのかなと思いました。

(※)模擬人格……本人の電脳内情報のバックアップとAI(人工知能)などを活用した、対話可能な人格のこと

K: そういえば劇中のリアルで、難民の青年と問答していましたね。

F: そう。あれと同じことを仮想空間で模擬人格を使ってやるわけです。手法としては深層学習をさせるAIを使います。1人の難民と本人の対話を横でAIが学ぶ。これを繰り返せば繰り返すほどAIの精度は上がり、やがて本人としか思えないものに仕上がっていく。後はなるべく模擬人格に対話を任せます。広く公開しているチャットルームでなければネタを使い回せるので不可能ではないでしょう。

photo (c)士郎正宗・Production I.G/講談社・攻殻機動隊製作委員会

 これらを考えつつさらに怖いなと思ったのは、現実世界で、政治的知見、説得能力、タフネスさ、卓越したIT知識、そしてカリスマを備えた人物が、実際に現れ、こういったIT技術を駆使して人々に語り始めた場合です。

K: でも、それは政治家が街頭演説を行うのと同じで、表現の自由や思想信条の自由の範囲なのでは?

F: 政治家の街頭演説というのは、ある意味テレビの広告と同じで、不特定多数に同じ内容を流します。不特定多数に対して一度に話すということは、つまり1つの方向性しかしゃべれないということで、受け取る側には内容に高く共感する者もいればあまり共感しない者もいる。結果として周囲の人間とやりとりをしてバランスが取れるので、よほどの集団ヒステリー状態になければ、極端にその考えに入れ込むことは少ないといえます。しかし、クローズドなトークルームで政治家本人だと思う者と一対一で会話し、内容も個々人向けの関心事や考え方にカスタマイズされていたら、説得力は格段に高くなります。このAIを使った本人の模擬人格式ならば、遠くない未来、極めて実現性が高いと考えます。映像付きで。既にフェイク映像の方は先行していますし。

 こういった手法を実現しようとすると政治家個人のIT資質によって差が生まれます。そして現状の法律では、こうした事態を想定していない以上、やることに対してYesともNoともいえない。従って活用できる者が圧倒的有利となります。事実、ネット選挙運動が解禁され、SNSをうまく活用している人もいますが、そこは問題にはなっていません。

 しかし、例えばこれが「個人であるように見えて個人でない場合」はどうでしょう。個に見えて、実はITに詳しい企業が行っている。あるいはAI研究者を活用して受け取る側によりマッチするようにカスタマイズした内容にしている。はたまた、広告制作会社がその宣伝手法をフル活用している。本人のふりをして実はシステムだった場合、あるいは候補者の名前にbotと付けていても、聞く側がその意味を理解せず本人だと思っていた場合……。大衆は「一人」に熱狂しているが、その実態は、もはや個人の政治活動ではなくプロパガンダシステムに等しい。政治家個人の資質ではありません。しかし、そのギャップは認識されにくく、見えないところで影響力の大きな差を生むと思います。

 いわゆる「独裁者」と呼ばれる者は、この例に当てはまるでしょう。独裁者は一人の人間に見えて「独裁者システム」の出力インタフェースであり、もはや個人の活動ではなくシステムの活動です。活動がシステムになった段階で個の意志とは別の意志が介在し始め、それは転がれば転がるほど、個の意志とはかけ離れた方向に行きがちで、転がり出すと止めることも叶わない。しかし見ている側はずっと「○○さんが言っていることは素晴らしい」「私は○○さんを信じる」と個への崇拝を高めていく。その結果、個の姿に扮したシステムに絡め取られて、ハックされていいように操られる可能性があり得るわけです。そして、もしその運用の母体に外国の意志が介在していたら?

K: ゾクっとしますね。ITの時代に彗星のように、そういうリーダーやカリスマが突然現れたら、「簡単に熱狂せずに落ち着いて、姿を見定めなさい」ということですか?

F: そうです。人のポテンシャルとはそれほど高くなく、現在の多様な社会ではその全てにおいて万能で完璧であることは不可能に近いのです。故に、完璧に見える場合は、そのからくりを見抜く必要があります。またリアルからサイバーに移行したものは、ほぼ全て省コストで大きな効果を上げることも付け加えましょう。小売業などでも同じで、現実の店舗とそれに関わる人員を維持する必要が無いが故であり、また人の目が少ないことはその内側も見通し難いのです。

 最後に1つ。草薙素子がクゼに関してこのようなことをいっています。

 「常時接続の難民達は、(中略)奴の行動のライブ中継に酔っている」

 これ、何か思い当たりませんか?

Copyright © ITmedia, Inc. All Rights Reserved.