事例で学ぶAIガバナンス

もはや必須？　企業の「AIを使いました」報告　米国では“明示なし”フェイク音声が物議に（1/3 ページ）

　企業がAIを利活用する際、どのような原理原則に従うべきか。世の中でいくつかの共通認識が生まれようとしているが、その一つが「AI利用の公表」だ。これは「AI利用が隠されたままだと社会や個人に対して不利益が生じる可能性がある」という懸念を多くの人が感じているためだ。

　実際、AIの判断が完璧ではなかった事例もある。米Amazonが採用した「履歴書審査AI」では、AIが応募してきた女性エンジニアを不当に低く評価してしまっていた。これは、過去Amazonのエンジニア採用が男性中心だったことをAIが学習してしまったためで、別に同社が女性を差別するAIを開発していたわけではない。だが求職者側には大問題であり、AIによる自動判断が行われるのであれば、事前にそれを知っておきたいと思うだろう。

ニューヨーク市で施行された「人事AI規制」

　そんな中、米ニューヨーク市は、企業が採用活動や人事評価においてAIを利用する際のルールを定めた条例（Local Law 144）を7月から施行している。これは、AIを利用した「自動雇用決定ツール」の導入企業に対し、その土台のAIモデルに対するバイアス監査（モデルが行う判断に偏見が含まれていないかのチェック）や、監査結果の公表などを義務付けており、そうした義務の一つに「AI利用の通知」がある。

　実際、米国では人事系の業務をサポートするAIの普及が進んでいる。ある調査では、2022年時点で、採用担当者の65％が「採用プロセスにAIを活用している」との結果が出ている。73％の企業は「採用の自動化に投資している」とも回答しており、21年の67％から増加傾向にある。

　大手企業ではこの割合はさらに大きく、米国の就活生や転職志望者の大半が、既に何らかの形で“AIによる判断”に接しているといえるだろう。

ニューヨーク市長が流ちょうな中国語を話す？

　採用という人生を左右するような局面だからこそ、そこにAIが関与しているのであれば、その事実を明らかにすべき。この考え方は理解しやすいものだろう。同じように重要なユースケースである「AIに各種ローンを審査させる」場合も、AI利用を公表するべきだという声が高まっている。

　しかし公表すべきかどうか、判断が分かれるケースもある。例えば最近、同じニューヨーク市において、市長が取っていたある行動が物議をかもしている。

事例で学ぶAIガバナンス

AIを本格的に業務に取り入れ、大きな効果を得たいと考える企業の数は日本でも着実に増えている。一方、米国企業に比べて「AIガバナンス」の導入は遅れていると指摘する声もある。AIを開発・利用するに当たり、どのようなガバナンスが必要になるのか。実際の事例を基に考える。

この連載の記事をもっと見る

この記事の著者

関連記事

• 

  AI悪用で巧妙化する性的恐喝　存在しないわいせつ画像をでっち上げ　米国では自殺者も

• 

  AIブームで声で人をだます犯罪も増加か　闇サイトでは音声クローンサービス「VCaaS」が台頭

• 

  AIが生成した“偽音声”を見抜く技術　99％以上の精度で検出

• 

  「AI安倍晋三」ネットで物議　合成音声のYouTube動画、“東京大学AI研究会”が公開

• 

  生成AIの「フェイク画像」も見分けられる？　「コンテンツクレデンシャル」を実際に試して見えた“死角”