　米国にはヒスパニック系、つまりスペイン語を話す住民が数多く存在しており、ニューヨーク市も例外ではない。各種の調査によれば、市民の3割弱がヒスパニック系であるという。彼らが「新しい市長はスペイン語が話せるんだ」と思い、親近感を抱くようになれば、選挙戦で有利になるのは間違いない。それを市の予算で、しかも「この音声はAIによって加工したものです」の報告無しに行ってしまって良いのか、というわけである。

　実はインドでも、同じような問題が持ち上がったケースがある。20年、マノジ・ティワリという政治家が、対立候補を攻撃するスピーチを話す動画をさまざまな言語に変換して流したのだ。動画を作成したのは、政治キャンペーンを手掛けるインドの企業のThe Ideaz Factory。彼らはティワリ氏の口の部分までディープフェイク技術で加工し、唇が話している言葉の通り動くように見せる工夫まで行っている。

　この動画の中で、ティワリ氏は「ハリヤーンウィー語」というインドの言葉で話しているが、実際には彼はハリヤーンウィー語を話せないそうだ。しかしこの動画だけ見た人、特にハリヤーンウィー語を母語とする人々は、少なくとも彼のスピーチに耳を傾けようと思うだろう。その際に「これはディープフェイク技術で加工したものです」と伝えないことは、倫理的に許されるのだろうか。

EUでは“AI製”の明示を義務化へ

　いまEUのAI法（AI Act）を始めとして、各国においてこうしたディープフェイク技術や生成AIに規制をかけ、少なくともAIが生成・加工したコンテンツはそれを明示させようというルールが設けられようとしている。しかし現時点では、企業や政治家はそうした明示を行う義務はない。ニューヨーク市のアダムス市長のように「これは市民のためを思っての行動だ」といえる行為であれば、大きな問題ではないという意見もあるだろう。

　しかしAI技術が急速に発展し、思いもよらぬ形でAIが活用されるケースが増える中で「AI利用を公表しない」というのは倫理的な糾弾を受ける可能性が高い。特に新しいAI利用ケースにおいて、その事実を意図的に公表しないというのは、企業の姿勢として大きな問題だと捉えられても仕方ないだろう。少なくともそれは、企業の評判リスクという観点からは避けるべき事態だ。

　自社が導入した新しいテクノロジーによって、直接的・間接的に影響を受ける人々に対して、積極的にその事実を伝えること。この姿勢はAI時代の企業にとって、ますます大きな意味を持つようになっている。

AI悪用で巧妙化する性的恐喝　存在しないわいせつ画像をでっち上げ　米国では自殺者も
AIを使って本物と見分けがつかないような偽コンテンツが簡単に作成できるようになり、一部の犯罪が悪質化している。SNS上の写真からディープフェイクのわいせつ画像をでっち上げ、脅迫に使う手口が横行していると米FBIが注意喚起している。
AIブームで声で人をだます犯罪も増加か　闇サイトでは音声クローンサービス「VCaaS」が台頭
AIを使って音声を合成する音声クローン技術が悪用される危険が強まっている。闇サイトでは、そうした悪用に手を貸す「VCaaS」と呼ばれるサービスも台頭しているという。
AIが生成した“偽音声”を見抜く技術　99％以上の精度で検出
米フロリダ大学の研究チームは、音声生成モデルで作成された合成音声を見抜く検出器を開発し検証した研究報告を発表した。音声から声の通り道「声道」を作成して、その声道から人の音声か偽物の音声かを識別する。精度は99％以上だという。
「AI安倍晋三」ネットで物議　合成音声のYouTube動画、“東京大学AI研究会”が公開
「故安倍晋三元総理追悼AIプロジェクト」がネット上で物議を醸している。東京大学の学生有志が立ち上げたという「東京大学AI研究会（東京大学人工知能研究会）」を名乗る団体が安倍晋三元首相の肉声を再現した合成音声動画を公開した。
生成AIの「フェイク画像」も見分けられる？　「コンテンツクレデンシャル」を実際に試して見えた“死角”
生成AIの登場で、画像・写真の世界は大きな転換期を迎えた。その一方で、真実に見せかけた画像や写真、すなわちフェイク画像による社会的混乱が問題視されるようになった。1500社以上が加盟する「CAI」は、データの由来を保証するための立ち上げられた組織だが、実際にどのように動くのか、機能が実装された「Photoshop」で試してみた。