山田 AIの遺電子1話の話にもなりますが、やはり人格のバックアップがあるといっても、それは自分の意識の継続ではなく分岐じゃないですか、というのが一つの問いかけになっている。
1週間前にバックアップしたから大丈夫っていう考え方に対して、それは自分とは別の存在であって、もうすぐバグって停止しちゃうからバックアップを適用せざるを得ないとしても、自分は今ここでバグって死ぬとしか思えない。
バックアップを起動して1週間前と瓜二つのお母さんが復活するんですが、それに対して子供は同じお母さんとして扱っていいのか、あのとき停止してしまったお母さんはどこに行ったのかとか、そういうしこり、割り切れないものを子供は抱えてしまったのが第1話。
デジタル人格はポジティブに捉えられるところもたくさんあるんですけど、思いもよらなかった倫理的混乱を生み出す余地はすごくある。故人そのものではやっぱりない、というところは技術の過渡期であればあるほどありそう。
だから「異世界だから」という捉え方はすごく面白かった。それを完全に同一視して「継続した本人なんだ」っていう風に思うと何か不都合が生まれる可能性はあるんだろうなって思います。
(デジタル人格が)永遠に残り続けるってなったときに、永遠に残り続けてほしいと思うのか、あるいは形見のように自分と一緒に停止してほしいと思うのか。そういうジレンマとかありそう。あるいは親戚が遺したデジタル人格どうしようかとか、そんなに親しくはないけど遺っててどうしようみたいな。
松尾 遺言で「自分のデジタル人格残してくれ」と言われてどうしようみたいな話もありそうですよね。
山田 全然知らないところから相続したデジタル人格とかw あ、一個ネタができたかも。ありがとうございます。
井上 それで言うと今まさにあるのが、長期間動いていないTwitterアカウント消しますという話じゃないですか? そういったアカウントを持っていた故人が結構多くいるわけで、「あの人のアカウントが消されてしまうのは嫌だ」っていう声は多いと思います。
松尾 僕も妻のアカウントは持っていて、そこには常にアクセスできるようにはしているので、見ることはできる。アクセスしているから消されることはないと思うんですが、みんながみんなそうできるわけではない。
山田 デジタル人格ってタダではなくて、コストが継続してかかり続ける。それがどんどん増えていったときに誰がそのコストを背負うのか。それはこれから問題になると思っていて、それは四十九日じゃないけれど、だんだん地球意識的なものに吸収されて、最終的には「地球意識にはいるんだけど」っていう建前で、個としての人格は薄れて消えていくみたいな形もあるのかな。
松尾 そういう意味で面白いと思ったのは、大規模言語モデルにしろ、画像生成AIにしろ、学習するじゃないですか。学習した元のデータセットがあって、人の言葉なり姿なりがそういうところに吸収されて、学習されて残っていけば、それは「アカシックレコード」的なものになる。そこから生成されるときにはその人の要素が少しだけ入っていて、うまくすればその人が再構成される、というとSFっぽいけれど、実際それに近い形なんじゃないかなと思いました。
山田 何をもって残るというのか。何かしらその人が存在したことがAIに影響を与える、そのAIが人を変えるような相互関係があると、デジタル人格が消えた場合にも、その人の存在が確かにそこにいたんだと思えるポイントかも。
松尾 自分が残したものを全て学習していいと許諾を与えるような、「ジェネレーティブコモンズ」のようなものがあっても面白いですね。
山田 それをもって自分はこの世から去ります、という残し方はありかもしれませんね。
(前の記事:“AIグラビア”でよくない? 生成AI時代に現実はどこまで必要か)
Copyright © ITmedia, Inc. All Rights Reserved.
Special
PR