“AIが人間を査定”は差別につながる? 米保険会社の炎上事例から考える「AIガバナンス」:【新連載】事例で学ぶAIガバナンス(3/3 ページ)
AIを本格的に業務に取り入れ、大きな効果を得たいと考える企業の数は日本でも着実に増えている。一方、コンサルティング会社のPwC Japanの調査では、日本企業がAIガバナンス(管理・統制)の点で、米国企業に後れを取っているという結果が出た。
想像できなかったユーザーの不安
いまやAIの偏見(バイアス)は有名な問題であり、AI導入の際には必ず検討されるテーマだ。立ち上げ当初からAIを業務に活用してきたレモネードが、偏見問題を一切無視してAIを開発していたとは考えにくく、先ほどの釈明ツイートにうそはないだろう。そもそも発端となった投稿でも、肌の色や性別などで判断するとは言っていない。にもかかわらず、なぜレモネードは炎上してしまったのだろうか。
テクノロジーの適切な利用を訴えている団体「Fight for the Future」のケイトリン・シーリー・ジョージ氏は、この炎上事件に関して「保険金請求をAIが査定するという発想を、人々は好んでいないことを示している」とコメントしている。
保険金をもらえるかどうかという判断は、場合によっては契約者のその後の人生を左右しかねない。例えば保険金が支払われなかったことで、もらえるはずのお金がもらえず適切な手術が受けられなかったら、後遺症が残るリスクがあるだろう。そんな重要な判断を、AIが勝手に(実際は人間が最終判断を下すというのがレモネード側の釈明だが)下すとしたら、それは倫理的に正しいことなのだろうか――というわけである。
シュライバーCEOを筆頭に、レモネードは自社のAI活用を積極的にアピールしている。この炎上事件後も、レモネードの公式Twitterでは、自分たちのAIがいかに素晴らしいかを説明するツイートをたびたび投稿している。
それは契約者や潜在的契約者に安心感を与え、ユーザーを拡大するという意図もあるだろうが、AIに対する過信もあるのではないだろうか。それが一般の人々がAIに対して抱く感情を読み違えることにつながり、炎上の発端となったツイートのような、端折った説明を許してしまったのかもしれない。
AIに限った話ではないが、システムの企画者や開発者は、得てしてそのプラス面だけに注目してしまい、それがどのような不安感を一般の人々に与える可能性があるのかという点を考慮するのを忘れがちだ。
特に今回のようなアピールをソーシャルメディアなどで行う場合には、ユーザーや世論の視点に立った考察を行う担当者、もしくはプロセスが必要になるだろう。近年ChatGPTのような、人間が書いたとしか思えない文章を生成するAIが登場していることを思えば、そうしたユーザー視点のPR文を書くことすらAIが担当するようになるのかもしれないが。
関連記事
- ChatGPTは弁護士の代わりになるか? 「カタツムリ混入ビール事件」の判例で検証 香港チームが発表
香港の法律事務所Albert Luk Chambersと香港中文大学に所属する研究者らは、実際の判例を題材にChatGPTに法律文書の作成と法的調査を複数出力させ考察した研究報告を発表した。 - ChatGPTは舎弟気質? 「高圧的な命令でマルウェア作成など悪用可能」との指摘 犯罪目的の利用に懸念
多彩さと便利さで話題に事欠かない対話型AIの「ChatGPT」だが、マルウェアの作成やフィッシング詐欺といった犯罪目的で利用される恐れもあると、米国のサイバーセキュリティ企業が警鐘を鳴らしている。 - AIは食糧危機を救えるか? 農作物収穫のメリットと、サイバー攻撃などによる新たなリスク
コロナ禍は食糧供給にも大きな影響を与えている。そこで期待されているのが、AIによる農業の後押しが期待されている。農作物収穫の効率化を目指す一方、サイバー攻撃などによる新たなリスクが発生すると指摘する声もある。 - フランスで増える“脱税プール” 国税局が導入した「マルサAI」活躍の裏側
コロナ禍による外出制限でフランスでは自宅にプールを設置する人が増えているという。プールを増設することで、固定資産税など各種の税金額も上がることになるが、中には税金逃れを図ろうとする人もいる。これを検知するための「マルサAI」が導入されている。 - AIで「パニック買い」を乗り越える 繰り返される“買いだめの歴史”に終止符を
新型コロナウイルスによるパンデミックは当初、パニックと呼べるほどの反応が人々の間で見られた。その代表的な例に「パニック買い」と呼ばれる、買いだめや買い占めが起きる現象がある。これに対して、AIを使ってを抑制しようとする動きが、世界中で進んでいる。
Copyright © ITmedia, Inc. All Rights Reserved.