生成AI時代、「信頼なき世界」を生き残るには？ Gartnerが示す次の一手：AIニュースピックアップ

生成AIの進化で虚偽情報が拡大し、企業は信頼管理を中核とする体系的対策が急務である。Gartnerは、偽情報対策支出が2028年に300億ドルを超えると予測し、対策を提言した。

[後藤大地，有限会社オングス]

　ガートナージャパン（以下、Gartner）は2025年10月30日、企業による誤情報および偽情報対策への支出が2028年までに300億ドルを超えるとの見通しを発表した。マーケティングおよびサイバーセキュリティ予算の約10％が、複合的な情報脅威への対応に充てられると予想している。

　この支出増加は、生成AIの進化がもたらした「信頼なき世界」という新たな危機を示唆する。Gartnerが提言する、企業が信頼を能動的に管理する方法とは。

コンテンツの透明性が問われる今、未対策の企業が失うもの

　この展望は、Gartnerの新刊『World Without Truth』（真実なき世界）において示されており、共著者のデーブ・アロン氏（ハイテク・リーダー／プロバイダー担当ディスティングイッシュト バイス プレジデント アナリスト 兼 Gartnerフェロー）と、アンドリュー・フランク氏（マーケティング・リーダー担当ディスティングイッシュト バイス プレジデント アナリスト）、リチャード・ハンター氏（元Gartnerアナリスト）が、偽情報が企業にもたらす財務的・評判的なリスクを指摘している。虚偽情報の拡散は、経営層が優先的に取り組むべき課題になっているとしている。

　2024年12月にGartnerが実施した経営幹部200人を対象とする調査において、回答者の72％が誤情報や偽情報、悪意ある情報を「極めて重要」または「優先度の高い課題」として認識していた。しかし、それを経営上の最重要課題の上位5位に挙げた割合は30％にとどまっている。組織全体の意識と実際の優先度の間に差が存在することがうかがえる。

　アロン氏は、虚偽情報の影響を「メタ課題」として捉える必要性を強調している。信頼できる情報が欠如すると、個人や組織が他の問題を正しく理解し対応する能力が損なわれるという見方を示している。合成現実や行動科学、デジタルメディアの発展に伴い、偽情報の拡散力は今後も拡大すると分析している。企業は新たな脅威ベクトルを追跡し、被害を最小限に抑えるための具体的な対策を講じる必要があると指摘している。

　同書において、偽情報拡大を促進する要因として3つの現象を挙げている。（1）インターネットやソーシャルメディア、モバイルアプリの普及により、低コストで大量の情報を発信できるようになったこと、（2）生成AIの進化によって、真実と見分けがつかない偽の画像や音声、動画が容易に作成できるようになったこと、（3）AIやビッグデータを使った行動科学的アプローチによって、個人の意思決定に影響を与える精緻なメッセージ作成が可能となったことだ。

　Gartnerは、こうした環境の中で「信頼」を組織運営の中心的要素として位置付けるべきだと提言している。AIの進展によってコンテンツの透明性が問われる時代において、「TrustOps」と呼ばれる能動的かつ統合的な信頼管理の枠組みが、誤情報対策の中核を担うとされる。信頼をマーケティングやコンプライアンスの副次的成果として扱うのではなく、運用上の明確な目標として設定し、コンテンツの完全性と消費者の信頼を維持する姿勢が求められると述べている。

　この考え方に基づき、経営幹部が主導して「信頼評議会」を設けることを推奨している。これは、コミュニケーションやIT、財務、法務、人事、マーケティングなどの分野から代表者が参加し、組織横断的に信頼構築を議論する仕組みだ。企業やテクノロジーを結び付けた「TrustNet」の構築を通じて、インターネットに検証性や透明性、セキュリティを備えた「信頼のトンネル」を形成できるとしている。

　Gartnerは、偽情報対策において活用すべき手段として、ルール／ガバナンス／プロセス、教育、ナッジ／インセンティブ、テクノロジー／ツールの4分野を示している。

偽情報に対抗するための4つの主要な手段（出典：Gartnerのプレスリリース）

　組織は信頼原則に基づくポリシーを整備し、継続的に外部知見を取り入れて適応することが求められる。教育面ではAIとTrustOpsを連携させ、従業員の意識向上や対応力の強化を図ることが有効とされている。ナッジを活用した行動科学的手法により、疑わしい情報に対し健全な懐疑心を養う環境を整備することも重要としている。ナラティブ・インテリジェンス、ツールなどを使って虚偽コンテンツの検知、追跡をする技術的対応も推奨されている。

　Gartnerは、誤情報対策を単なるリスク管理ではなく、組織の信頼性維持と社会的責任の一環として体系的に取り組む必要があると位置付けている。虚偽情報の影響が拡大する中で、企業は信頼の枠組みを強化し、透明性と説明責任を持った情報発信体制を構築することが不可欠と結論付けている。