もはや必須？ 企業の「AIを使いました」報告 米国では“明示なし”フェイク音声が物議に：事例で学ぶAIガバナンス（3/3 ページ）

企業がAIを利活用する際、どのような原理原則に従うべきか。世の中でいくつかの共通認識が生まれようとしているが、その一つが「AI利用の公表」だ。米国では、市長がAIによるフェイク音声を利用し、それを明示しなかったことが物議を醸した。

[小林啓倫，ITmedia]

　米国にはヒスパニック系、つまりスペイン語を話す住民が数多く存在しており、ニューヨーク市も例外ではない。各種の調査によれば、市民の3割弱がヒスパニック系であるという。彼らが「新しい市長はスペイン語が話せるんだ」と思い、親近感を抱くようになれば、選挙戦で有利になるのは間違いない。それを市の予算で、しかも「この音声はAIによって加工したものです」の報告無しに行ってしまって良いのか、というわけである。

　実はインドでも、同じような問題が持ち上がったケースがある。20年、マノジ・ティワリという政治家が、対立候補を攻撃するスピーチを話す動画をさまざまな言語に変換して流したのだ。動画を作成したのは、政治キャンペーンを手掛けるインドの企業のThe Ideaz Factory。彼らはティワリ氏の口の部分までディープフェイク技術で加工し、唇が話している言葉の通り動くように見せる工夫まで行っている。

　この動画の中で、ティワリ氏は「ハリヤーンウィー語」というインドの言葉で話しているが、実際には彼はハリヤーンウィー語を話せないそうだ。しかしこの動画だけ見た人、特にハリヤーンウィー語を母語とする人々は、少なくとも彼のスピーチに耳を傾けようと思うだろう。その際に「これはディープフェイク技術で加工したものです」と伝えないことは、倫理的に許されるのだろうか。

EUでは“AI製”の明示を義務化へ

　いまEUのAI法（AI Act）を始めとして、各国においてこうしたディープフェイク技術や生成AIに規制をかけ、少なくともAIが生成・加工したコンテンツはそれを明示させようというルールが設けられようとしている。しかし現時点では、企業や政治家はそうした明示を行う義務はない。ニューヨーク市のアダムス市長のように「これは市民のためを思っての行動だ」といえる行為であれば、大きな問題ではないという意見もあるだろう。

　しかしAI技術が急速に発展し、思いもよらぬ形でAIが活用されるケースが増える中で「AI利用を公表しない」というのは倫理的な糾弾を受ける可能性が高い。特に新しいAI利用ケースにおいて、その事実を意図的に公表しないというのは、企業の姿勢として大きな問題だと捉えられても仕方ないだろう。少なくともそれは、企業の評判リスクという観点からは避けるべき事態だ。

　自社が導入した新しいテクノロジーによって、直接的・間接的に影響を受ける人々に対して、積極的にその事実を伝えること。この姿勢はAI時代の企業にとって、ますます大きな意味を持つようになっている。