勃興するAI版“車検制度”　差別しないAIをどう作る？　海外では「品質保証」が産業に（2/3 ページ）

公開 2022年02月07日 08時00分

更新 2024年04月02日 11時31分

著者

小林啓倫

[ITmedia]

印刷する連載新着通知を受け取る Googleで優先するソースとして追加

　一方で、限定的ではあるが、さまざまな形で強制力のあるAI品質保証を求める事例も登場している。

　興味深いのは、米ニューヨーク市で2021年末に可決された条例案「Int 1894-2020」だ。この法案は、AIを使った雇用判断ツール（対象となった応募者を採用すべきか、あるいは特定の社員を昇進させるべきかといった判断を自動で行うアプリケーション）について、それを使用する雇用主などに対して「バイアス（偏見）監査」を求める内容となっている。

　同法案の定義によれば、バイアス監査とは、独立した監査人による公正な評価で、AIが人種や性別といった要因によって、差別的な判断を行っていないかどうかを判断するものとしている。AI雇用判断ツールを使う事業者は、こうしたバイアス監査を年1回行い、その結果を一般に公表しなければならない。

　法案では、ツールの対象となる候補者や社員へ使用を事前告知することや、彼らが求めた場合にはAIツール以外の評価方法（つまり従来型の人間による判断）を用意するなどを義務化していた。

　この法案は議会を通過したものの、残念ながら2021年12月13日、当時のニューヨーク市長だったビル・デブラシオの署名を得られず発効には至らなかった。発効されていたとしても「独立した監査人による公正なバイアス評価」を実現できるのかどうか、実現できたとして大きなコストがかかるものであれば、AIツールの導入を妨げるものになったのではないかという批判もある。

　とはいえこのようなルールが一度は立法府で可決されたという事実は、今後同様の規制が広がってゆく可能性を示したものといえるだろう。

次ページへ「AI品質保証」が新たな産業になる？