生成AIの「フェイク画像」も見分けられる？ 「コンテンツクレデンシャル」を実際に試して見えた“死角”：小寺信良の「プロフェッショナル×DX」（5/5 ページ）

生成AIの登場で、画像・写真の世界は大きな転換期を迎えた。その一方で、真実に見せかけた画像や写真、すなわちフェイク画像による社会的混乱が問題視されるようになった。1500社以上が加盟する「CAI」は、データの由来を保証するための立ち上げられた組織だが、実際にどのように動くのか、機能が実装された「Photoshop」で試してみた。

[小寺信良，ITmedia]

生成AIで作った画像のタグも簡単に消える

　CAIの活用としては、画像生成AIに最初から実装するというスタイルもある。実際Adobe FlreFlyはCAIに対応しており、生成した画像を保存すれば、特に何もしなくても自動的にCAIが付けられた状態となる。

FireFlyで生成した画像にはCAIが付けられている

　画像生成AIサービスがCAIに対応していけば、単純なフェイク画像は見破れそうではある。一方でCAI情報は、削除することができるのだろうか。そこで「PhotoScapeX」という画像管理ツールを使って別名保存してみたところ、CAI情報のない画像が簡単に作れてしまった。CAI情報を書き換えるなどの偽装は困難を伴うが、消すだけなら簡単にできるようだ。

CAI非対応ツールで保存し直せばCAI情報は消える

　CAIは現状で調べた限りでは、筆者でも気がつく程度の穴が豪快に空いており、なかなか前途多難であるように思う。

　とはいえ、この技術がダメだと言いたいのではない。どのようにすればこれがちゃんとワークするのか、多くの人が知恵を絞る必要がある。また現時点では静止画のみだが、すでにAIは動画生成を可能にしつつある。フェイク動画やフェイク音声への対応もまた同様に、必要になってくるだろう。