連載
» 2017年09月07日 06時00分 公開

“いま”が分かるビジネス塾:社会を「忖度」しないAIとどう向き合うべきか (1/3)

中国の大手IT企業が提供するAI(人工知能)キャラクターが中国共産党を批判し、サービス停止に追い込まれるという騒ぎがあった。世間の雰囲気を「忖度(そんたく)」しないAIと、どう付き合っていくべきなのか、中国の事例が問いかけるものは大きい。

[加谷珪一,ITmedia]

 中国のIT企業テンセントが提供するAI(人工知能)キャラクターが中国共産党を批判し、サービス停止に追い込まれるという騒ぎがあった。

 テンセントは、中国版のLINEともいえる「WeChat」などを提供している。中国ではほとんどの人が知っている存在だ。

 同社は今年からネット上でAIと会話できるサービスを開始しており、AIのキャラクターに話しかけると、さまざまな会話が楽しめるようになっていた。日本でもマイクロソフトが開発したAI女子高生「りんな」といったサービスがあるが、これに近い存在と考えればよいだろう。

photo 世間の雰囲気を「忖度(そんたく)」しないAIと、どう付き合っていくべきなのか

 香港メディアが報じた内容によると、このAIは「中国共産党万歳」という書き込みに対して「こんなに腐敗している政治に万歳するの?」と反論したという。習近平国家主席が提唱する「中国の夢」というキャッチフレーズに対しては「それはアメリカに移住することだ」と回答したそうである。

 この話はネット上で一気に拡散し、騒ぎが大きくなったことから、テンセントはサービスを停止。その後、システムには改良が加えられ、同じ質問をしても「話題を変えよう」などと、はぐらかすようになったと報道されている。

 中国は共産党による独裁国家であり、そもそも言論の自由が存在しない。中国共産党の意に沿わないサービスが停止に追い込まれるのは、特に驚くべきことではないだろう。だが、今回の出来事は、民主国家にとっても決して無縁の話ではない。日本にもいわゆる「タブー」が数多く存在しており、多くの人は無意識的に特定の話題や結論を避けているからである。

 AIが社会に普及してきた場合、多くの人にとって受け入れがたいものの、客観性の高い判断をAIが下すというケースは確実に増えてくるだろう。このとき、社会はこれを受け入れるべきなのか、あるいは、中国のように機能制限を加えて「忖度(そんたく)」させてしまうのか、選択を迫られることになる。

       1|2|3 次のページへ

Copyright© 2017 ITmedia, Inc. All Rights Reserved.

注目のテーマ

マーケット解説

- PR -

ITmedia 総力特集