事例で学ぶAIガバナンス

もはや必須？　企業の「AIを使いました」報告　米国では“明示なし”フェイク音声が物議に（3/3 ページ）

　米国にはヒスパニック系、つまりスペイン語を話す住民が数多く存在しており、ニューヨーク市も例外ではない。各種の調査によれば、市民の3割弱がヒスパニック系であるという。彼らが「新しい市長はスペイン語が話せるんだ」と思い、親近感を抱くようになれば、選挙戦で有利になるのは間違いない。それを市の予算で、しかも「この音声はAIによって加工したものです」の報告無しに行ってしまって良いのか、というわけである。

　実はインドでも、同じような問題が持ち上がったケースがある。20年、マノジ・ティワリという政治家が、対立候補を攻撃するスピーチを話す動画をさまざまな言語に変換して流したのだ。動画を作成したのは、政治キャンペーンを手掛けるインドの企業のThe Ideaz Factory。彼らはティワリ氏の口の部分までディープフェイク技術で加工し、唇が話している言葉の通り動くように見せる工夫まで行っている。

　この動画の中で、ティワリ氏は「ハリヤーンウィー語」というインドの言葉で話しているが、実際には彼はハリヤーンウィー語を話せないそうだ。しかしこの動画だけ見た人、特にハリヤーンウィー語を母語とする人々は、少なくとも彼のスピーチに耳を傾けようと思うだろう。その際に「これはディープフェイク技術で加工したものです」と伝えないことは、倫理的に許されるのだろうか。

EUでは“AI製”の明示を義務化へ

　いまEUのAI法（AI Act）を始めとして、各国においてこうしたディープフェイク技術や生成AIに規制をかけ、少なくともAIが生成・加工したコンテンツはそれを明示させようというルールが設けられようとしている。しかし現時点では、企業や政治家はそうした明示を行う義務はない。ニューヨーク市のアダムス市長のように「これは市民のためを思っての行動だ」といえる行為であれば、大きな問題ではないという意見もあるだろう。

　しかしAI技術が急速に発展し、思いもよらぬ形でAIが活用されるケースが増える中で「AI利用を公表しない」というのは倫理的な糾弾を受ける可能性が高い。特に新しいAI利用ケースにおいて、その事実を意図的に公表しないというのは、企業の姿勢として大きな問題だと捉えられても仕方ないだろう。少なくともそれは、企業の評判リスクという観点からは避けるべき事態だ。

　自社が導入した新しいテクノロジーによって、直接的・間接的に影響を受ける人々に対して、積極的にその事実を伝えること。この姿勢はAI時代の企業にとって、ますます大きな意味を持つようになっている。

事例で学ぶAIガバナンス

AIを本格的に業務に取り入れ、大きな効果を得たいと考える企業の数は日本でも着実に増えている。一方、米国企業に比べて「AIガバナンス」の導入は遅れていると指摘する声もある。AIを開発・利用するに当たり、どのようなガバナンスが必要になるのか。実際の事例を基に考える。

この連載の記事をもっと見る

この記事の著者

関連記事

• 

  AI悪用で巧妙化する性的恐喝　存在しないわいせつ画像をでっち上げ　米国では自殺者も

• 

  AIブームで声で人をだます犯罪も増加か　闇サイトでは音声クローンサービス「VCaaS」が台頭

• 

  AIが生成した“偽音声”を見抜く技術　99％以上の精度で検出

• 

  「AI安倍晋三」ネットで物議　合成音声のYouTube動画、“東京大学AI研究会”が公開

• 

  生成AIの「フェイク画像」も見分けられる？　「コンテンツクレデンシャル」を実際に試して見えた“死角”