ITmedia NEWS > AI+ >
ITmedia AI+ AI活用のいまが分かる

「一時停止」は「進め」? AIを騙す近未来連載:ITの過去から紡ぐIoTセキュリティ(3/3 ページ)

» 2018年11月22日 07時00分 公開
[高橋睦美ITmedia]
前のページへ 1|2|3       

合成音声で認証システムをだます

 米国で開催されたセキュリティ会議「Black Hat」やハッカーカンファレンス「DEF CON 26」でも、ML/AIは重要なトピックの1つでした。Salesforceのジョン・シーモア氏(シニアデータサイエンティスト)とアゼム・アキル氏(セキュリティエンジニア)は、深層学習(ディープラーニング)技術を用いて高品質の合成音声を生成し、スマートフォンなどでも使われ始めた音声認識・音声認証システムをだます手法について紹介していました。

photo ハッカーカンファレンス「DEF CON 26」でも機械学習と人工知能(ML/AI)は重要なトピックだった

 両氏が採用したのは、まずオープンソースの音声合成モデルを活用し、大量のトレーニング用データで学習させて適正なモデルを生成した後、ターゲットの音声のデータセットに差し替えることで、狙いの人物に似せた音声を合成するというアプローチです。このとき、学習用音声データの再生速度を変えてデータ・オーギュメンテーション(データ拡張)を加えることで、ターゲットの声に似せた合成音声をより効率よく生成でき、音声認証システムをかいくぐれるといいます。

 当然ながらデモンストレーションは英語によるものでした。ただ「ごく基本的な可能性を示しただけだし、他の言語ではまだ試していないけれど、原理的には日本語、中国語など他の言語でも可能だろう」とシーモア氏は述べています。

 同じように、ML/AI技術を悪用することで、フィッシングやソーシャルエンジニアリングがより巧妙化する可能性も考えられるといいます。過去の便利で強力な技術がそうだったように、ML/ALも、私たちを守ってくれる手段になると同時に、新たな攻撃手法に用いられる恐れもあるのです。

前のページへ 1|2|3       

Copyright © ITmedia, Inc. All Rights Reserved.