世界の筆頭リスクは「虚偽情報」、世界経済フォーラムが発表 AI台頭で危険増大か “AI×核兵器”にも警告：この頃、セキュリティ界隈で

[鈴木聖子，ITmedia]

　世界経済フォーラムがまとめた「グローバルリスクレポート2024」で、「虚偽情報」（misinformation and disinformation）が初めて今後2年の10大リスクの第1位に浮上した。背景にあるのはAIの台頭で、選挙介入からサイバー犯罪、軍事目的に至るまで、あらゆる場面でAIが利用される危険性を指摘している。

世界経済フォーラムが「グローバルリスクレポート2024」を発表

　2024年版のレポートは、世界の学会や実業界、政府機関、国際団体などの専門家約1500人を対象に実施した調査に基づき、今後2年間と10年間のリスク展望についてまとめた。

　異常気象や国家間の武力衝突がエスカレートし、AIの台頭に伴うサイバーセキュリティ不安が高まる中、専門家の大多数は「世界的大惨事」のリスクがあるとの認識を示している。特に今後10年の予想では17％が「差し迫ったリスク」、46％が「増大するリスク」を予想した。

今後2年間と10年間のリスク展望

　今後2年の短期的リスクの筆頭に虚偽情報が挙げられたのは、AIが悪用されて誤った情報が世界中で氾濫する懸念が強まった影響が大きい。

　報告書によれば「誤情報や虚偽情報は国内外の社会的・政治的分断を拡大させる目的で利用される可能性がある」。特に24〜25年にかけては、米国やインド、英国など主要国で選挙が行われ、30億人あまりが投票を予定していることからリスクが大きいとした。

　例えば、AI生成のキャンペーン動画が拡散すれば、有権者の投票行動にも影響を与え得る。たとえSNSで捏造コンテンツの警告が表示されたとしても暴動や過激化を引き起こしかねず、民主主義を脅かす恐れもある。

　そうした虚偽情報が拡散すれば、選挙で選ばれた政府の正当性が揺らぎ、暴動や衝突、ヘイトクライム、テロを招く事態も予想される。さらには虚偽情報への対応として、政府が「真実」と決めた内容に基づいて情報を統制する姿勢を強める可能性もある。

「AIはサイバー戦争能力を増大させる」

　長期的に見ても、今後10年の10大リスクで虚偽情報は5位、6位には「AIテクノロジーの有害事象」が急浮上した。特にAIが軍事目的で利用されれば、世界の安定を脅かしかねないと警鐘を鳴らしている。

　「AIはサイバー戦争能力を増大させ、自律的に行動できる攻撃システムと防衛システムを実現させて、予想不可能な影響をネットワークやインフラに与える」。報告書はそう指摘し、そうしたシステムが自律的に目標設定や標的の選択といった殺人行動を決定する可能性に言及。そうなれば誤算の可能性も大きく、例えばAIが敵対勢力の領空や軍事施設近くで戦闘機を飛行させるなどして衝突を発生させることもあり得るとした。

　さらに、AIが核兵器に利用される事態を最も重大なリスクと位置付け「もしも国家がAIを核兵器に組み込んだ場合、偶発的あるいは意図的に事態がエスカレートするリスクは大幅に増大し、存亡にかかわる結果をもたらす可能性がある」と警告している。

　AIの普及に関連して「サイバーセキュリティ不安」も今後2年間のリスク予想で4位、10年間の予想では8位に入った。専門家はAIが犯罪やサイバー攻撃に利用されるリスクや、マルウェアや生物兵器の開発に使われるリスク、差別や偏見を助長するリスク、技術力が特定の国や企業に集中するリスクなどを指摘している。

　サイバー犯罪集団にとっては、技術の進歩によって国境や言語、スキルといった参入障壁がなくなり、低リスクかつ低コストで利益を上げることが可能になる。そうした破壊的な影響力によって、さらに多くの一般市民が危険にさらされるだろうと報告書は予想している。