漫画「15日間、生成AIで失敗し続ける中小企業」

フェイクが止まらない　漫画「15日間、生成AIでやらかし続ける中小企業」【残り3日】（1/12 ページ）

公開 2025年07月23日 07時03分

著者

吉川大貴

庶務課

[ITmedia]

印刷する連載新着通知を受け取る Googleで優先するソースとして追加

　ビジネスに広がる生成AIの波。AIによる強力な自動化・効率化により、プログラミングやデザイン、果ては科学研究など、既存の業務や事業が大きく変わる可能性があるとして、世界規模で注目が集まっています。

　一方、利用に当たっては注意点も多数。本連載では、生成AIに関する“失敗あるある”を繰り返す架空の中小企業を舞台に、生成AI活用の基礎的な注意点を漫画形式で紹介します。更新は毎営業日（原作：ITmedia AI＋編集部吉川大貴　画：庶務課）。

12日目：フェイクが止まらない

※漫画としての分かりやすさを重視し固定電話を登場させています

　愛する孫から電話がかかってきた社長。なんと、交通事故を起こしてしまい今すぐお金が必要とのこと。慌てる社長でしたが……発信者は、AIで声を偽装した詐欺師でした。

解説

　生成AIの中には、音声や画像、映像を生成するものもあり、これらを悪用した詐欺も存在します。例えばAIで音声を他人そっくりに変換し、機密情報を聞き出したり、金銭を要求する手法など。AIを使って他人になりすまし、ビデオ通話で相手をだます手口もあり、投資詐欺やロマンス詐欺でも用いられています。警察庁は同様の手口に対し、投資に誘導されたり、金銭を要求されたりしたらすぐに警察に相談するよう呼び掛けています。

　一方で個人だけでなく、企業やその人員を狙った手口も。米セキュリティ企業Palo Alto Networksは、Web会議での採用面接で他人になりすまし、内部に侵入しようとする手法を確認したとして注意を呼び掛けています。北朝鮮の技術者が外国企業に入り込んで活動する際、別人として何度も面接に挑んだり、指名手配されるのを避けたりするために行われるとのこと。

　Palo Alto Networksは同様の手口に対し、AIによるリアルタイムでの画像・動画変換がしにくい「顔の近くで手を振る」「頭を素早く動かす」といった動きを候補者にしてもらうよう頼むなど、複数の対策を提案しています。

漫画を1話目から全部読む

次ページへ漫画を最初から読む