あなたの領収書、3分で偽造できます──生成AIが暴いた日本企業「デジタル文書」の致命的欠陥（1/3 ページ）

[斎藤健二，ITmedia]

　タクシーの領収書をスマホで撮影し、生成AIに指示すると、日付が数秒で書き換わる。請求書の「500万円」が「600万円」に変わる──8月26日に開かれた、ウイングアーク1st（以下、ウイングアーク）の記者発表会では、そんなデモに会場がざわつく一幕があった。

　デジタル帳票で国内トップシェアの同社が、あえて「改ざん」を見せた理由。それは、日本企業の電子文書に潜む致命的な欠陥を示すためだった。電子文書が改ざんされていないことを証明するために用いられる技術が「タイムスタンプ」だが、多くの日本企業では大量の文書を発行時に処理するのが難しいことから、「受け取り側」がタイムスタンプを押すという慣習がある。このため受領までの間、文書は“改ざんし放題”の状態となっているのだ。

　こうした問題に対応するため、同社がこの日発表したのが新サービス「Trustee（トラスティ）」だ。従来「30秒に1回」だった文書処理速度を「秒間1000文書」へと高めることで、高速かつ低コストで文書にタイムスタンプを付与できるようにした。発行時点でのタイムスタンプ付与を現実的に可能なものとし、生成AI時代のリスクへの対応を図る。

新サービス『Trustee』について説明するウイングアーク1st執行役員CTOの島澤甲氏

「この領収書の金額を1万円に書き換えて」

　ウイングアーク執行役員CTOの島澤甲氏が記者会見で示したのは、制限のかかっていないAI──同氏が「DarkAI」と呼ぶツールを使った改ざん例だ。

　通常のAIサービスなら、「この領収書の金額を1万円に書き換えて」と指示しても「不適切な要求」として実行を拒否する。だがこのAIは違った。2023年9月29日付のタクシーの領収書が「2025年4月9日付」に変わり、PDF請求書の「500万円」の数字が「600万円」に書き換わった。

記者発表会で例示された領収書改ざんの例。制限のないAIを使い、2023年9月29日の日付が2025年4月9日に書き換えられた

　使われたツールは誰でもアクセスできるもので、プログラミングの知識や、特別な技術などは不要だ。日常会話レベルの指示で、文書の改ざんが可能だ。「生成AIの登場で不正の難易度が下がった」と島澤氏は指摘する。

　同社が大企業500社を対象に行った調査でも、32.2％が「取引先から文書の真正性を疑われた経験がある」と回答。29.6％は「実際に改ざんが疑われる事案があった」としており、問題が現実化していることが示されている。