中国のIT企業テンセントが提供するAI(人工知能)キャラクターが中国共産党を批判し、サービス停止に追い込まれるという騒ぎがあった。
テンセントは、中国版のLINEともいえる「WeChat」などを提供している。中国ではほとんどの人が知っている存在だ。
同社は今年からネット上でAIと会話できるサービスを開始しており、AIのキャラクターに話しかけると、さまざまな会話が楽しめるようになっていた。日本でもマイクロソフトが開発したAI女子高生「りんな」といったサービスがあるが、これに近い存在と考えればよいだろう。
香港メディアが報じた内容によると、このAIは「中国共産党万歳」という書き込みに対して「こんなに腐敗している政治に万歳するの?」と反論したという。習近平国家主席が提唱する「中国の夢」というキャッチフレーズに対しては「それはアメリカに移住することだ」と回答したそうである。
この話はネット上で一気に拡散し、騒ぎが大きくなったことから、テンセントはサービスを停止。その後、システムには改良が加えられ、同じ質問をしても「話題を変えよう」などと、はぐらかすようになったと報道されている。
中国は共産党による独裁国家であり、そもそも言論の自由が存在しない。中国共産党の意に沿わないサービスが停止に追い込まれるのは、特に驚くべきことではないだろう。だが、今回の出来事は、民主国家にとっても決して無縁の話ではない。日本にもいわゆる「タブー」が数多く存在しており、多くの人は無意識的に特定の話題や結論を避けているからである。
AIが社会に普及してきた場合、多くの人にとって受け入れがたいものの、客観性の高い判断をAIが下すというケースは確実に増えてくるだろう。このとき、社会はこれを受け入れるべきなのか、あるいは、中国のように機能制限を加えて「忖度(そんたく)」させてしまうのか、選択を迫られることになる。
Copyright © ITmedia, Inc. All Rights Reserved.
Special
PR注目記事ランキング