ITmedia NEWS > 社会とIT >
セキュリティ・ホットトピックス

もはや必須? 企業の「AIを使いました」報告 米国では“明示なし”フェイク音声が物議に事例で学ぶAIガバナンス(3/3 ページ)

» 2023年10月27日 08時00分 公開
[小林啓倫ITmedia]
前のページへ 1|2|3       

 米国にはヒスパニック系、つまりスペイン語を話す住民が数多く存在しており、ニューヨーク市も例外ではない。各種の調査によれば、市民の3割弱がヒスパニック系であるという。彼らが「新しい市長はスペイン語が話せるんだ」と思い、親近感を抱くようになれば、選挙戦で有利になるのは間違いない。それを市の予算で、しかも「この音声はAIによって加工したものです」の報告無しに行ってしまって良いのか、というわけである。

 実はインドでも、同じような問題が持ち上がったケースがある。20年、マノジ・ティワリという政治家が、対立候補を攻撃するスピーチを話す動画をさまざまな言語に変換して流したのだ。動画を作成したのは、政治キャンペーンを手掛けるインドの企業のThe Ideaz Factory。彼らはティワリ氏の口の部分までディープフェイク技術で加工し、唇が話している言葉の通り動くように見せる工夫まで行っている。

 この動画の中で、ティワリ氏は「ハリヤーンウィー語」というインドの言葉で話しているが、実際には彼はハリヤーンウィー語を話せないそうだ。しかしこの動画だけ見た人、特にハリヤーンウィー語を母語とする人々は、少なくとも彼のスピーチに耳を傾けようと思うだろう。その際に「これはディープフェイク技術で加工したものです」と伝えないことは、倫理的に許されるのだろうか。

EUでは“AI製”の明示を義務化へ

 いまEUのAI法(AI Act)を始めとして、各国においてこうしたディープフェイク技術や生成AIに規制をかけ、少なくともAIが生成・加工したコンテンツはそれを明示させようというルールが設けられようとしている。しかし現時点では、企業や政治家はそうした明示を行う義務はない。ニューヨーク市のアダムス市長のように「これは市民のためを思っての行動だ」といえる行為であれば、大きな問題ではないという意見もあるだろう。

 しかしAI技術が急速に発展し、思いもよらぬ形でAIが活用されるケースが増える中で「AI利用を公表しない」というのは倫理的な糾弾を受ける可能性が高い。特に新しいAI利用ケースにおいて、その事実を意図的に公表しないというのは、企業の姿勢として大きな問題だと捉えられても仕方ないだろう。少なくともそれは、企業の評判リスクという観点からは避けるべき事態だ。

 自社が導入した新しいテクノロジーによって、直接的・間接的に影響を受ける人々に対して、積極的にその事実を伝えること。この姿勢はAI時代の企業にとって、ますます大きな意味を持つようになっている。

前のページへ 1|2|3       

Copyright © ITmedia, Inc. All Rights Reserved.