ITmedia NEWS > 社会とIT >
連載
» 2019年04月07日 10時21分 公開

Googleさん:GoogleはAI倫理の多様性のために「多様性の敵」を取り入れるべきか

AIの先端を行くGoogleが、自社のAIの取り組みについて監視・アドバイスしてもらう第三者諮問委員会を立ち上げ、わずか10日後に解散。何があったのか。

[佐藤由紀子,ITmedia]

 Googleさんが3月26日に立ち上げたAI倫理原則について考える外部専門家による諮問委員会ATEACが、従業員やメンバーの反対にあって、わずか10日後の4月5日に解散になりました。

 ateac Googleが紹介したATEACの8人のメンバー

 AIは原子力と同じくらい、というか原子力以上に、使い方次第で破壊的な武器にもなるということで、AIの最先端をいくGoogle、MicrosoftAmazonはそれぞれに批判されたりその対策を提示したりしています。

 GoogleがATEACを立ち上げることになったきっかけは、同社が米国防総省(DoD)とAI開発プロジェクト「Project Maven」に関する契約を結んだことに対して社内で批判が高まったことでした。

 Project Mavenはおおまかに言うと、戦場で敵兵をピンポイントで検出するためのツールを開発するプロジェクト。無駄なく確実に敵だけを殺せるので結果的に多くの命を救うことになると説明していましたが、かなりの違和感が。というわけで、従業員が請願書を出し、スンダー・ピチャイCEOは「契約はもう更新しない」と約束し、Googleが守るべきAI原則を発表しました。

 pichai AI倫理原則についてのピチャイさんのツイート

 ATEACは、GoogleがこのAI原則をちゃんと守って行動しているかを見守り、サポートするためのものになるはずでした。

 だから、従業員は立ち上げに反対したのではなく、問題はそのメンバーだったのです。8人のメンバーの1人、ケイ・コールズ・ジェームズさんが、ドナルド・トランプ大統領への影響も大きい保守系シンクタンクHeritage Foundationの所長で、日頃からLGBTQや移民に対する理解のない発言を繰り返しているので、この人をメンバーにするのは絶対反対!ということでした。

 james Heritage Foundationのケイ・コールズ・ジェームズ所長

 Googleはこの反対に対し、ジェームズさんをメンバーにしたのは「思考の多様性(ダイバーシティ)のため」と説明しましたが、従業員有志は「これはダイバーシティという言葉の武器化だ」と批判。ジェームズさんをメンバーにするということは、彼女の(アンチ弱者な)意見を支持しているということで、それは受け入れられない、としています。

 メンバーに選ばれた英バース大学のジョアンナ・ブライソン准教授は、あるメンバー(ジェームズさんのことでしょう)についてGoogleに疑問を呈したら、例えば共和党を含む社会を広く納得させるために多様性が必要だと説明されたとツイートしました。

 Googleさんの本心はよく分かりません。本当にダイバーシティを重視した結果だったのかもしれません。いずれにしても、1回くらい会合をもってみてほしかった(予定では年に4回やる予定でした)です。超一流の専門家の意見を聞いて、もしかしたらジェームズさんの考えが変わったかもしれないので。

 それから、少し前までGoogleでGoogle Cloud AI担当チーフサイエンティストをやってたスタンフォード大のフェイ・フェイ・リー博士が、Googleを離れて人間中心のAI研究所「Human-Centered AI Institute(HAI)」を立ち上げたことも気になります。

 hai HAI立ち上げについて語るフェイ・フェイ・リー博士

 リーさんはHAI立ち上げに当たり、Googleにいる間、IT業界がAIに多大な投資をしているのを目の当たりにして、人間中心のAI研究所の設立が非常に重要だと考えたと語りました。これって、Googleのやり方を見ていたら、人間中心の研究所を別に作らないと危険だと思ったということかな、と。

 AI倫理については、GoogleやAppleが所属する非営利団体Partnership on Artificial Intelligence to Benefit People and SocietyやTeslaのイーロン・マスクCEOや元Y CombinatorのCEO、サム・アルトマン氏が立ち上げた非営利のAI研究企業OpenAIなどの、企業が当事者となっている団体や、もちろん大学の研究所などが活発に議論しています。

 難しすぎるテーマではありますが、議論の行方については関心を持ち続けていたいところです。

Copyright © ITmedia, Inc. All Rights Reserved.