データサイエンティストは預言者だった？　AI時代の社会の回し方（2/3 ページ）

東　　ルソーはそこまでは書いてないです。ただ結局、その解釈を今やっているのがデータサイエンティストですよね。

　今後、さらにその解釈自体もAIがやるようになると、AIが「お前らこういうことが好きなんだろうからこういうことやったら」っていう提案をしてきて、それがそのまま通る世界になりますよね。

　そういう世界が理想だと思っている人もいるみたいだけど、僕は素朴に考えてそれは結構危険だと思っていて、人間って熱しやすく冷めやすくて適当でしょう。例えば戦争が起きたら「よし俺たちも戦争だ」となるかもしれないけど、いざ時間をかけて準備したら「戦争なんて誰が言い出したんだ」みたいな。

　そういうことがあるので、無意識のビッグデータをそのまま統治に反映させるのはすごく危険だと思います。

　あとルソーのもうひとつ悪名高い記述に「一般意志をつかめる統治者が必要」っていうのがあって、独裁みたいなものが必要だって書いちゃってるんですよね。これを、ナチスを支援していたカール・シュミットという法学者が引用して議会主義はダメだとか言ったりもしているんですが、その一般意志をつかむ統治者という構図は今も似たことが起きてるなと。

　ビッグデータという神がいて、そのビッグデータという神から一般意志を引きずり出してくるのが一部のデータサイエンティストになってますよね。

誰もがデータサイエンティストにはなれない　やはりクレーム対応設計が大事

山田　引き出し方が、限られた人たちの価値観に偏ってしまう問題がありますよね。これを限られた人たちに閉じないように開く方法があればいいなって思うんですよ。

東　　現実的に考えれば、データサイエンティストの集団の周りに、一般市民からの質問対応というか、いっぱいクレーム対応係がいて、一般市民から来た質問やら要望やらに丁寧に答える。ひとつはそういう方向でしょうね。

　みんながリテラシーを高めてデータサイエンティストになるみたいな理想を言う人もいるけど、それは非現実的だと思う。

　だからやっぱり、一部のデータエリートみたいな人たちが社会を仕切っていく方向に向かっていくんじゃないかな。これに対して、一般市民がどのようにクレームを付けられるかの制度設計が大事ですね。

山田　抵抗できることが大事っていうことですね。

東　　そうですね。ただ、それってかなりトンチンカンなものも来るわけですよ。「とにかく気持ち悪い」とか。でもそういうクレームにいかに対応するかにこそ民主主義の本質が現れるんじゃないかな。

山田　でもクレーム対応もやっぱりAIが得意で、市民の声が反映されないような……。

東　　AIにアシストさせつつ、人間も後で参照するようにしないとね。市民のクレームとAIの対応記録から情報が抽出されて、それが何かの形で運営にフィードバックされるような。

もしもソクラテスが女だったら

山田　さっき訂正可能性のお話もちょっとありましたが、AI社会に訂正可能性みたいなものを埋め込めるのか、ちょっと気になってるんですよ。

東　　それは非常に重要な問いです。詳しくは本を読んでほしいんですが、僕の言う「訂正可能性」をひとことで言うと、「人間は言葉を定義してもその定義を後から変えられる」ってことを指す言葉です。

　例えば、ソクラテスはギリシャ人の男性だってことになってますよね。ところが新たなに「ソクラテスは女だった」ということが発見されたとする。そうしたら、そうか、ソクラテスは女だったのかと思いますよね。

この記事の著者