あなたの領収書、3分で偽造できます──生成AIが暴いた日本企業「デジタル文書」の致命的欠陥（1/3 ページ）

　タクシーの領収書をスマホで撮影し、生成AIに指示すると、日付が数秒で書き換わる。請求書の「500万円」が「600万円」に変わる──8月26日に開かれた、ウイングアーク1st（以下、ウイングアーク）の記者発表会では、そんなデモに会場がざわつく一幕があった。

　デジタル帳票で国内トップシェアの同社が、あえて「改ざん」を見せた理由。それは、日本企業の電子文書に潜む致命的な欠陥を示すためだった。電子文書が改ざんされていないことを証明するために用いられる技術が「タイムスタンプ」だが、多くの日本企業では大量の文書を発行時に処理するのが難しいことから、「受け取り側」がタイムスタンプを押すという慣習がある。このため受領までの間、文書は“改ざんし放題”の状態となっているのだ。

　こうした問題に対応するため、同社がこの日発表したのが新サービス「Trustee（トラスティ）」だ。従来「30秒に1回」だった文書処理速度を「秒間1000文書」へと高めることで、高速かつ低コストで文書にタイムスタンプを付与できるようにした。発行時点でのタイムスタンプ付与を現実的に可能なものとし、生成AI時代のリスクへの対応を図る。

「この領収書の金額を1万円に書き換えて」

　ウイングアーク執行役員CTOの島澤甲氏が記者会見で示したのは、制限のかかっていないAI──同氏が「DarkAI」と呼ぶツールを使った改ざん例だ。

　通常のAIサービスなら、「この領収書の金額を1万円に書き換えて」と指示しても「不適切な要求」として実行を拒否する。だがこのAIは違った。2023年9月29日付のタクシーの領収書が「2025年4月9日付」に変わり、PDF請求書の「500万円」の数字が「600万円」に書き換わった。

　使われたツールは誰でもアクセスできるもので、プログラミングの知識や、特別な技術などは不要だ。日常会話レベルの指示で、文書の改ざんが可能だ。「生成AIの登場で不正の難易度が下がった」と島澤氏は指摘する。

　同社が大企業500社を対象に行った調査でも、32.2％が「取引先から文書の真正性を疑われた経験がある」と回答。29.6％は「実際に改ざんが疑われる事案があった」としており、問題が現実化していることが示されている。

この記事の著者

関連記事

• 

  生成AIで作られた“偽音声”を検知　NTT東がベンチャーと開発・実証　自治体向けデマ対策システムも

• 

  写真を改ざんされても「誰が撮ったか」「元々はどういう写真か」を追える　ライカ「M11-P」登場

• 

  AI悪用で巧妙化する性的恐喝　存在しないわいせつ画像をでっち上げ　米国では自殺者も

• 

  AWS障害にOracle情報漏えい疑惑──リスク露呈したガバメントクラウド、デジタル庁の受け止めは

• 

  「なぜ人は貯金できないのか」──40億円調達のスマートバンクが仕掛ける“家計改善”の全体像