フェイクが止まらない　漫画「15日間、生成AIでやらかし続ける中小企業」【残り3日】：漫画「15日間、生成AIで失敗し続ける中小企業」（1/12 ページ）

» 2025年07月23日 07時00分公開

　ビジネスに広がる生成AIの波。AIによる強力な自動化・効率化により、プログラミングやデザイン、果ては科学研究など、既存の業務や事業が大きく変わる可能性があるとして、世界規模で注目が集まっています。

　一方、利用に当たっては注意点も多数。本連載では、生成AIに関する“失敗あるある”を繰り返す架空の中小企業を舞台に、生成AI活用の基礎的な注意点を漫画形式で紹介します。更新は毎営業日（原作：ITmedia AI＋編集部吉川大貴　画：庶務課）。

12日目：フェイクが止まらない

※漫画としての分かりやすさを重視し固定電話を登場させています

　愛する孫から電話がかかってきた社長。なんと、交通事故を起こしてしまい今すぐお金が必要とのこと。慌てる社長でしたが……発信者は、AIで声を偽装した詐欺師でした。

解説

　生成AIの中には、音声や画像、映像を生成するものもあり、これらを悪用した詐欺も存在します。例えばAIで音声を他人そっくりに変換し、機密情報を聞き出したり、金銭を要求する手法など。AIを使って他人になりすまし、ビデオ通話で相手をだます手口もあり、投資詐欺やロマンス詐欺でも用いられています。警察庁は同様の手口に対し、投資に誘導されたり、金銭を要求されたりしたらすぐに警察に相談するよう呼び掛けています。

　一方で個人だけでなく、企業やその人員を狙った手口も。米セキュリティ企業Palo Alto Networksは、Web会議での採用面接で他人になりすまし、内部に侵入しようとする手法を確認したとして注意を呼び掛けています。北朝鮮の技術者が外国企業に入り込んで活動する際、別人として何度も面接に挑んだり、指名手配されるのを避けたりするために行われるとのこと。

　Palo Alto Networksは同様の手口に対し、AIによるリアルタイムでの画像・動画変換がしにくい「顔の近くで手を振る」「頭を素早く動かす」といった動きを候補者にしてもらうよう頼むなど、複数の対策を提案しています。

漫画を1話目から全部読む

漫画を最初から読む

漫画「16日後に大規模インシデントを起こすルカワくん」【完結＆種明かし編】
大規模なセキュリティ訓練で知られるfreeeが、社内での注意喚起用に作成した漫画を翻案して連載。とある会計ソフトベンダーで働く「ルカワくん」が、大規模インシデントを起こすまでの出来事を、カウントダウン形式で描きます（原作：freee CSIRT　画：立枯なろ）
「AIは仕事を奪うのか？」に対する元マイクロソフト澤円さんの回答　企業経営の中で“絶対に置き換わらないもの”とは
ここは絶対にAIに置き換わらない」──。元日本マイクロソフトの業務執行役員で、現在は日立製作所のエヴァンジェリストなどさまざまなシーンで活躍している澤円さん。講演依頼などを受ける中で、最近よく来る質問が「AIは仕事を奪うんですか」だという。イベントで澤さんが講演した内容から、一部を抜粋して紹介する。
ドヤ顔の代償、それは──漫画「16日後に大規模インシデントを起こすルカワくん」【残り15日】
大規模なセキュリティ訓練で知られるfreeeが、社内での注意喚起用に作成した漫画を翻案して掲載。とある会計ソフトベンダーで働く「ルカワくん」が、大規模インシデントを起こすまでの出来事を、カウントダウン形式で描きます。
要注意？　「ChatGTP」がApp Storeのランキング上位に　AI版「gmeil」か
「ChatGTP」（GPTではない）というスマートフォンアプリが、App Storeにおける日本の無料アプリ総合ランキングで上位になった。人気ゆえか、誤認を狙ったとみられるアプリにも注目が集まってしまっているようだ。