“人を動かすAI”は賢くなくてもいい 親しすぎるのは危険だから規制するべき? 専門家と漫画家で議論してみた:AIの遺電子と探る未来(3/3 ページ)
今回の記事は、感情に訴えるふるまいをするロボットやAIの可能性について。日本SF作家クラブ会長でもあり、人とエージェントの関係性を研究する慶應義塾大学准教授の大澤博隆さんと、AIの遺電子原作者・山田胡瓜さんの対談でお届けする。
これは反論も結構あって、というか僕も反論しましたが、少なくとも規制という形でやるべきではなくて、リスクの説明をしてあとはユーザーに任せるのがいいと。なぜなら、かなり強い形の表現規制とも捉えられかねないからですね。
ただ、すごくリスクを感じている人たちはいました。普通のビデオゲームと比べても、親密なエージェントの場合は従ってしまう率が高いのではとか、子どもに接したらどうするのかとか結構あって、そのリスクは真面目に向き合う必要があります。
山田 僕の漫画だと規制されているんですよね。「産業AIは過度に人間と親密な関係を持って、依存関係になるようなリスクを与えてはならない」みたいな世の中の考え方があって。
ものすごい知的で素敵なロボットなんだけど、次アップデートするときはちょっと素っ気ないロボットにせざるを得ない、みたいな話もあったりして、僕自身は描いているときに、そういうリスクが今後議題として上がるだろうというのは思っていたんですよね。
萌えキャラによる“ずるい”引き止め
山田 それを感じた原体験は、中国Baiduが作っていた日本語IMEで、それをアンインストールするときにかわいいメイドさんみたいな萌えキャラが出てきて「本当に消すんですか?」みたいなことを言ったんですよ。これはずるいぞと思って。
そこで思いとどまらせたいというのは分かるんですけど、これがもっと巧妙になったら人間の消費行動が結構変わってしまうんじゃないか、というのを思いました。
大澤 それは反論しづらいところも正直あって、確かに影響を受ける方は受けるので、やばいAIの使われ方は当然あり得るし、そのリスクをちゃんとお前は説明しているのかと言われると、そんなできていないかもしれないですねという話には当時なりました。
AI依存はアルコール依存と似ている?
山田 アルコール依存とかの依存症ってあるじゃないですか。僕的にはあの手の問題に近いと思っています。
普通に付き合っている分には、ほとんどの人には問題ないかもしれないけど、そこを乗り越えちゃった一部の人には外部からの介入やサポートがないとひどいことになる、みたいなフェーズは多分どこかである。
その先に行くと、SF的に言っちゃうと「誰も逆らえないAI」みたいな事態になる可能性もありはしそうです。
ただ、やっぱりそういうものを今の段階から一律に良くないと言ってしまうのも、さっきおっしゃったように表現の幅を狭めるし、いろんな可能性の芽を積んでしまう可能性はあるなと。
SF作品が議論の補助線に
大澤 研究者たちも議論はしていますが、議論ってやはり補助線が必要というか、単純に決められる問題ばかりじゃないですよね。
SF小説でもおっしゃるような話が増えていますが、今までと解像度が違うというか、実際に触れるようになってあらためて、単なるディストピアの道具としてのAIだけでなく、普通に社会に入れなきゃいけない前提なんだけどやっぱりこういう問題は起きるよね、っていうのを書かなきゃって意識は強くなっています。
悩んでいる人もいるし、見落とされがちな繊細さもある、ということをキャラクターのドラマで見せられると研究者でもそうだなとなるので、漫画などのエンタメで描かれる良さってあると思います。
山田 ありがとうございます。リスクの周知も必要だし、でもうまく使える可能性もあるよっていう、両方をみんなに伝えていくことが大事なんだろうなと思ってます。
関連記事
- 人は4本の手を扱える?体は何個まで?→「体もう1つは余裕」 身体拡張の可能性を東大・稲見教授に聞く
「猫の手も借りたい」「体がもう一つ欲しい」とはよく言ったもの。1つの体、2本の腕と2本の足ではできることにも限界がある。そんな限界を取り払おうとしているのが、東京大学先端科学技術研究センターの稲見昌彦教授だ。人間は果たしてどこまで拡張できるのか。アニメ「AIの遺電子」原作者の山田胡瓜さんと対談した。 - 人格コピーAIは21世紀の写真? “亡き妻のAI再現”で受賞の松尾Pと「AIの遺電子」山田胡瓜が考える「デジタル人格」のこれから
技術進歩の加速が著しいAI。実在する人物の特徴あるいは人格をAIで再現できるようになる将来も近そうだ。そうしたときにどんなことが起こりうるのか。アニメ「AIの遺電子」原作者の山田胡瓜さんと、亡き妻の面影をAIを駆使して再現する取り組みで「第1回 AIアートグランプリ」の最優秀賞を受賞した松尾公也さんが議論した。 - “AIグラビア”でよくない? 生成AI時代に現実はどこまで必要か
集英社のAIグラビアは1週間でお蔵入りになったが、AmazonやYoutubeには大量の「AI生成グラビア」コンテンツが登録され、存在感を示し始めている。こうした非実在のデジタル人物はビジネスや世の中をどう変えるのか。アニメ「AIの遺電子」の原作者である山田胡瓜さんと、亡き妻の面影をAIを駆使して再現する取り組みで「第1回 AIアートグランプリ」の最優秀賞を受賞した「松尾P」こと松尾公也さんが語り合った。 - AIの遺電子の根底にある「2つのやばさ」と「3つのAI」 ChatGPT到来を予言した世界観を作者本人が解剖
7月開始のテレビアニメで注目を集める、人とヒューマノイドの共存を描いた近未来SF「AIの遺電子」。作者とAI専門家との連続対談がここに実現。初回は「第1回 AIアートグランプリ」の最優秀作を受賞した「松尾P」こと松尾公也さんと、「人格のデジタルコピー」の話などあれやこれやを語り合う。
Copyright © ITmedia, Inc. All Rights Reserved.