Googleの文章提案AI、「性別ある代名詞」が消えた訳：AI時代のバイアス（1/2 ページ）

[ロイター]

11月27日、Gmail作成時に文章の一部を入力すると、続く文章を自動作成して提案する、グーグルの「スマート・コンポーズ」文章提案機能は、ジェンダー属性のある代名詞を提案しなくなった。ロンドンで1日撮影（2018年　ロイター/Toby Melville）

［サンフランシスコ　27日　ロイター］ - 米アルファベット傘下のグーグルは5月、電子メールサービス「Gmail（Gメール）」において、ユーザーが入力する際に自動的に文を補完する言葉を提案する画期的な機能を追加した。

「I love（私は好きだ）」とキーを叩けば、「you（あなたを）」または「it（それを）」を自動的に提案する。愛情の対象が「him（彼）」や「her（彼女）」の場合はうまく行かない。

メール作成時に文章の一部を入力すると、続く文章を自動作成して提案する、グーグルの「スマート・コンポーズ」文章提案機能は、ジェンダー属性のある代名詞は提案しない。

なぜなら、性別やジェンダーに関わるアイデンティティーを誤って予測することでユーザーを傷つけてしまうリスクがあまりにも高いからだ、と製品開発担当者はロイターに語る。

製品開発マネジャーを務めるポール・ランバート氏によれば、社内研究員がこの問題を発見したのは1月だった。「投資家と来週ミーティングします」と彼が打ち込むと、スマート・コンポーズ機能はそれに続く質問の候補として「あなたは彼に会いたいですか」を提案した。「彼女」ではなく「彼」だったのである。

ユーザーはスマートフォンの自動修正機能による面倒なミスには慣れている。だがグーグルは、ジェンダーの問題が政治や社会に影響を与えつつある時代、そして人工知能に潜むバイアス（偏見）に対する批判的な検証が進んでいる時代において、運任せにすることを拒んだ。

「あらゆる失敗が同じ重みを持つわけではない」とランバート氏。ジェンダーに関して犯す過ちは「非常に大きなこと」だと語る。

スマート・コンポーズ機能の修正はビジネス面でもプラスに働く可能性がある。グーグルが競合他社よりも人工知能（AI）の微妙さについて理解が深いことを示すことは、同社ブランドへの好感を高め、同社のAIを駆使したクラウド・コンピューティングツールや広告サービス、ハードウェアに顧客を集める戦略の一環となる。

Gメールには15億人のユーザーがいる。ランバート氏によれば、スマート・コンポーズ機能は、それが最初に実装されたGmail.comから世界中に発信されるメッセージの11％を支援しているという。

同機能は、AI開発者が「自然言語生成（NLG）」と呼ぶものの1例で、コンピューターが文献や電子メール、ウェブページに含まれる言葉のパターンを調べることによって文章を書くことを学んでいる。

人間が書いた何十億もの文章を提供されたシステムは、ありふれたフレーズであれば巧みに完成させるが、あくまで一般論という制約の下でだ。例えば、金融や科学といった分野では長らく男性優位が続いていたため、投資家やエンジニアは「彼」だと結論づけてしまうだろう。

大手テクノロジー企業のほとんどすべてが、この問題に引っかかっている。

ランバート氏によれば、15人ほどのエンジニアやデザイナーで構成されるスマート・コンポーズ担当チームは複数の回避方法を試したが、どれもこのバイアスから逃れられないか有意義なものにはならなかった。彼らは、最も厳しい方法、つまり「対象を限定すること」が最善のソリューションだという結論に達した。

ジェンダー属性のある代名詞を禁止したことによる影響は、同機能で提示される候補の1％にも満たないとランバート氏は言う。

「信頼できる唯一の手法は、保守的になることだった」と、最近昇進するまでGメールや他のサービスエンジニアリングを監督していたPrabhakar Raghavan氏は語る。