生成AIの「フェイク画像」も見分けられる？　「コンテンツクレデンシャル」を実際に試して見えた“死角”（1/5 ページ）

公開 2023年10月25日 12時55分

[ITmedia]

印刷する連載新着通知を受け取る Googleで優先するソースとして追加

　画像生成AIが誰でも使えるサービスとして登場してきたことで、画像・写真の世界は大きな転換期を迎えた。コンピュータの進化により「画材を持たない画家」が登場したが、今後は「手で絵を描かない画家」や、「カメラを持たない写真家」が登場する事になる。

Adobeが提供を開始した「Firefly」。プロンプトだけでさまざまな画像を生成できる

　その一方で、真実に見せかけた画像や写真、すなわちフェイク画像による社会的混乱が問題視されるようになった。海外では選挙時に相手候補の架空のスキャンダル画像を流布させたりといった例もある。一方日本では、2022年9月に静岡県の水害とされたフェイク画像が拡散し、騒動となった。

　これを受けて、一部の画像生成AIでは独自に表現のガイドラインを設け、社会に悪影響を与えそうな画像生成は自ら規制するようになっている。とはいえ、AIの画像生成に頼らなくても、画像合成や加工技術によってフェイク画像を作り出す手法もある。「切り抜き」といった作業にもAIが用いられているが、そうした部分作業のAIにガイドラインを設けることは難しい。エンタテイメントやシミュレーションの為に、架空の火災や洪水シーンを作らなければならないプロもいるからだ。特に報道業界からすれば、写真の信憑性を保証する仕組みが必要になる。

　AIをはじめとする加工技術による「ディープフェイク」に対抗するため、米Adobeは米X（当時はTwitter）、米The New York Timesとパートナー組み、2019年に「コンテンツ認証イニシアチブ」（Content Authenticity Initiative／CAI）を立ち上げた。2023年現在では、加入企業や団体は1500以上に登り、カメラメーカーではキヤノン、ニコン、独ライカが、チップメーカーとしては米NVIDIAや米Qualcommが、ソフトベンダーとしては米Microsoftが、ストックフォトサービスでは米Getty Imagesが参画している。