Microsoft、AI時代のメディア信頼性レポート公開 多層的な「高信頼性認証」を提唱
米Microsoftは2月19日(現地時間)、AIの進歩によって急増するデジタルコンテンツの信頼性をどう担保し、ディープフェイクなどの脅威にどう対抗するかを調査したレポート「Media Integrity and Authentication: Status, Directions, and Futures」を公開した。
現在、著名人のあり得ない発言や現実離れした風景画像などが日常的に拡散され、情報の信頼性が大きく揺らいでいる。また、政治や国家間のプロパガンダにおけるAIの悪用も深刻化している。
Microsoftは、単一の技術だけではデジタル上の偽造を防ぐことはできないと結論づけた。例えば、誰が作成、編集したかを示す現行の出所情報は、簡単に削除できてしまう。 また、目に見える「可視透かし」も、安全な出所情報の裏付けなしに単独で用いると、かえって偽造による混乱を招く恐れがある。さらに、従来のカメラで撮影されたメディアも、ハードウェア層に「セキュアエンクレーブ」が実装されていなければ、容易に改ざんの標的となってしまうおそれがある。
同社が新たな脅威として強く警告しているのが「Sociotechnical Attacks」(社会技術的攻撃)だ。 これは、緊迫した政治的イベントなどの「完全に本物の写真」に対し、悪意のある者が意味のないごく一部のピクセルだけをAIで改変して拡散する手口だ。単一のAI検知ツールのみに依存していると、この画像全体を「AIによるフェイク」と誤判定してしまい、結果として本物の出来事そのものを人々に疑わせてしまう(あるいは意図的にフェイクだというナラティブを補強してしまう)危険性がある。
Microsoftの研究チームは、出所情報(C2PA)、目に見えない透かし、デジタル指紋といった既存の手法を60通り組み合わせて、メタデータが削除されたり画像が部分的に改変されたりする様々な失敗シナリオにおいて、どの組み合わせが最も機能するかを検証した。
その検証の結果として、単一の透かしツールを普及させることよりも、C2PAの暗号化された出所情報と目に見えない透かしを強固にリンクさせて使用することが、高い信頼性を得るための最適なアプローチであると結論づけ、複数の技術を多層的に組み合わせる「High-Confidence Authentication」(高信頼性の認証)を提唱している。
これにより、メタデータが削除されても透かしから元の出所情報の復元が可能になり、前述の社会技術的攻撃を受けた際も「画像全体ではなく、どこが部分的にAIで変更されたか」をピンポイントで示すことができるようになるとしている。
なお、エリック・ホロヴィッツCSO(最高科学責任者)は「これらのツールはコンテンツが操作されたかどうかを示すものであり、そのコンテンツが真実かどうかを判定・決定するものではない」としている。
同社はこの基準を業界の設計図として提示している。社内では現在は各製品のエンジニアリングチームが報告書の知見をもとに、今後の製品ロードマップやインフラへの実装を検討している段階という。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
なぜ中国はヒューマノイドを量産するのか 突き動かす「焦り」と足踏みの正体
-
2
「オントロジー」とは結局何なのか Palantir、Databricks、Snowflake、NVIDIAで中身が違う理由
-
3
ChatGPT「Plus」プラン一部ユーザーに「dots」解禁 「Business Standard」全ユーザーにも
-
4
孫正義氏が明かす、アンソロピック出資見送りの舞台裏 「僕の失敗」「あん時入れときゃよかった」
-
5
孫正義氏が「墓石に刻んでほしい」と明かした言葉 流した涙、もう「時間との勝負」やり残したことは?
-
6
農水省の“クソダサ”ポスター話題 「AIよりよっぽど良い」の声も 担当者に狙いを聞いた
-
7
さよなら「Claude Code」 人気AIに愛想を尽かしたエンジニアの意外な移行先:906th Lap
-
8
伊藤忠が月1.3万時間削減、数千件の「二重業務」解消へ AI推進で経営陣を動かした「定量の匂い」とは?
-
9
「e-F@ctory」から次の進化へ、三菱電機が描くAI主体の自律型工場
-
10
コマツ油機開発センタが挑む設計プロセス改革、ナレッジ検索/整備に生成AI活用
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR