「一時停止」は「進め」？ AIを騙す近未来：連載：ITの過去から紡ぐIoTセキュリティ（3/3 ページ）

「攻撃と防御はいたちごっこ」といわれるセキュリティの世界。多くのセキュリティ製品が採用している機械学習や人工知能もまた、いたちごっこの歴史の1ページになるかもしれません。

[高橋睦美，ITmedia]

合成音声で認証システムをだます

　米国で開催されたセキュリティ会議「Black Hat」やハッカーカンファレンス「DEF CON 26」でも、ML／AIは重要なトピックの1つでした。Salesforceのジョン・シーモア氏（シニアデータサイエンティスト）とアゼム・アキル氏（セキュリティエンジニア）は、深層学習（ディープラーニング）技術を用いて高品質の合成音声を生成し、スマートフォンなどでも使われ始めた音声認識・音声認証システムをだます手法について紹介していました。

ハッカーカンファレンス「DEF CON 26」でも機械学習と人工知能（ML／AI）は重要なトピックだった

　両氏が採用したのは、まずオープンソースの音声合成モデルを活用し、大量のトレーニング用データで学習させて適正なモデルを生成した後、ターゲットの音声のデータセットに差し替えることで、狙いの人物に似せた音声を合成するというアプローチです。このとき、学習用音声データの再生速度を変えてデータ・オーギュメンテーション（データ拡張）を加えることで、ターゲットの声に似せた合成音声をより効率よく生成でき、音声認証システムをかいくぐれるといいます。

　当然ながらデモンストレーションは英語によるものでした。ただ「ごく基本的な可能性を示しただけだし、他の言語ではまだ試していないけれど、原理的には日本語、中国語など他の言語でも可能だろう」とシーモア氏は述べています。

　同じように、ML／AI技術を悪用することで、フィッシングやソーシャルエンジニアリングがより巧妙化する可能性も考えられるといいます。過去の便利で強力な技術がそうだったように、ML／ALも、私たちを守ってくれる手段になると同時に、新たな攻撃手法に用いられる恐れもあるのです。