もはや必須？ 企業の「AIを使いました」報告 米国では“明示なし”フェイク音声が物議に：事例で学ぶAIガバナンス（1/3 ページ）

[小林啓倫，ITmedia]

　企業がAIを利活用する際、どのような原理原則に従うべきか。世の中でいくつかの共通認識が生まれようとしているが、その一つが「AI利用の公表」だ。これは「AI利用が隠されたままだと社会や個人に対して不利益が生じる可能性がある」という懸念を多くの人が感じているためだ。

　実際、AIの判断が完璧ではなかった事例もある。米Amazonが採用した「履歴書審査AI」では、AIが応募してきた女性エンジニアを不当に低く評価してしまっていた。これは、過去Amazonのエンジニア採用が男性中心だったことをAIが学習してしまったためで、別に同社が女性を差別するAIを開発していたわけではない。だが求職者側には大問題であり、AIによる自動判断が行われるのであれば、事前にそれを知っておきたいと思うだろう。

ニューヨーク市で施行された「人事AI規制」

　そんな中、米ニューヨーク市は、企業が採用活動や人事評価においてAIを利用する際のルールを定めた条例（Local Law 144）を7月から施行している。これは、AIを利用した「自動雇用決定ツール」の導入企業に対し、その土台のAIモデルに対するバイアス監査（モデルが行う判断に偏見が含まれていないかのチェック）や、監査結果の公表などを義務付けており、そうした義務の一つに「AI利用の通知」がある。

　実際、米国では人事系の業務をサポートするAIの普及が進んでいる。ある調査では、2022年時点で、採用担当者の65％が「採用プロセスにAIを活用している」との結果が出ている。73％の企業は「採用の自動化に投資している」とも回答しており、21年の67％から増加傾向にある。

米国の採用担当者の65％が「採用プロセスにAIを活用している」と回答

　大手企業ではこの割合はさらに大きく、米国の就活生や転職志望者の大半が、既に何らかの形で“AIによる判断”に接しているといえるだろう。

ニューヨーク市長が流ちょうな中国語を話す？

　採用という人生を左右するような局面だからこそ、そこにAIが関与しているのであれば、その事実を明らかにすべき。この考え方は理解しやすいものだろう。同じように重要なユースケースである「AIに各種ローンを審査させる」場合も、AI利用を公表するべきだという声が高まっている。

　しかし公表すべきかどうか、判断が分かれるケースもある。例えば最近、同じニューヨーク市において、市長が取っていたある行動が物議をかもしている。