社会を「忖度」しないAIとどう向き合うべきか：“いま”が分かるビジネス塾（2/3 ページ）

[加谷珪一，ITmedia]

エキスパートシステムと現代のAIの違い

　これまでもITシステムを使って合理的な判断を下そうとする試みは何度も行われてきた。1980年代にはエキスパートシステム（専門分野に特化したAI）がブームとなり、一部のシステムは商用化された。

　こうした従来型のシステムは、基本的なルールがあらかじめ決められており、開発者がそれに沿ってシステムを開発しているに過ぎない。ある程度の方向性は見えているので、誰も想像しなかったような結論をシステムが出してくる可能性は限りなく低い。

　だが近年、開発が進んでいるAIは従来のエキスパートシステムとは考え方が異なっている。最大の違いは深層学習（ディープラーニング）の機能だろう。例えば碁や将棋でプロを負かすAIは、誰かに勝ち方を教えられたわけではなく、数多くの対局を見て学習し、自ら勝つ方法を編み出している。

　AI普及の初期段階においては、どのような学習をさせるのかについて人間が判断することになるので、主導権は開発者にある。しかしAIがさらに社会に普及し、処理する仕事が複雑化してくると、学習方法そのものについてもAIに考えさせるようになる可能性が高い。ここまでくると開発側がコントロールできる範囲はかなり限定的となる。

　このようにして開発されたAIが、社会のタブーを忖度しないで意思決定のアドバイスをするようになった場合、受け手はこれをどう処理すればよいのだろうか。