AIに従うことの危険性 「正しい意思決定」という幻想から抜け出すには？：これからのAIの話をしよう（データリテラシー編）（2/4 ページ）

[松本健太郎，ITmedia]

――例えばアパレル商品を扱うECサイトなら、時代遅れの服やユーザーからの評価が低い服などをお勧めすることが考えられます。

　なるほど。今ちょうどZOZOテクノロジーズの社員がオフィスを歩いているのが見えますが、彼らが着ている服を「間違っている」といえるでしょうか。変わった服を着ている場合、その人に道徳的な責任はあるのでしょうか。

　それよりも、ある意思決定が人々にどのような影響を与えるかを考えたほうがいいでしょう。財務、健康、そして政治といった分野で間違った意思決定をすると大変なことになります。フェイクニュースは人々に多大な影響を与えますよね。ファッションについては、仮に間違えたとしてもそれがどのような影響を人に与えるかには疑問が残ります。

――意思決定が与える影響を考えるのは重要ですね。しかし、どんな影響があるにせよ、AIの指示に従うことで私たちが不利益を被ってはいけないと思うんです。

　そもそも「私たちは良い意思決定をしている」と考えること自体が幻想ではないでしょうか。例えば医療の領域では、機械が人間より良い判断をしているのではないかといわれはじめています。（AIを使うことで）医師が事実に基づいて正しい判断をしているという幻想から覚めたんです。

　私たちはこの先、誰を信頼すれば良いでしょうか。Yahoo!やGoogleで検索した結果にどこまで信頼性がありますか。世界はたった30年ほどで劇的に変わりました。私が幼いころに学校で学んだことと、Wikipediaに載っている内容には乖離（かいり）があるんです。こうした問題は、誰もが考えなければならないでしょう。

――インターネットがなかった時代は、風邪を引いたら病院に行って医者の言うことを信用していれば安心でした。今は医者が言ったことが正しいかをネットで調べて裏付けを取ることもできます。しかし、そうした情報が正しいのかどうか、素人の私には分かりません。

　良い例ですね。まさにその通りだと思います。人間の役割が変わってきているのです。コンピュータが私たちよりスマートにできる仕事はたくさんあるので、私たちは人間がやる意味のある仕事に就かなければならないでしょう。共産圏では道路の穴を掘っては埋めるような意味のない仕事が与えられてきたこともありましたが、資本主義社会では意味のない仕事をする必要はありません。

「データは漏えいするもの」　規制やルールで対策すべき

――データの管理や所有についても教えてください。Facebookを始め、日々さまざまなサービスで私たちの個人情報が漏えいされて問題になっています。これにどう向き合うべきでしょうか。