ミッコ・ヒッポネン氏が語る、AIへの“期待”と“リスク”：「SPHERE 23」現地レポート

セキュリティリサーチャーのミッコ・ヒッポネン氏は、AIが破壊的な進歩する現状を「史上最高に熱いAIの夏」と表現した。同氏はAIにどのような期待を寄せつつ、どのようなリスクを懸念しているのか。

[宮田健，ITmedia]

　WithSecureは、2023年5月24〜26日に同社主催のイベント「SPHERE 23」をフィンランドの首都ヘルシンキで開催した。同イベントは、飛躍的発展を遂げるAI（人工知能）や隣国で起きている戦争などがサイバーセキュリティとどのような関係にあるか、識者や最前線のリサーチャーが直接語りかける複数のセッションで構成される。

　WithSecureのプレジデント兼CEO（最高経営責任者）であるユハニ・ヒンティッカ氏は冒頭、とあるハリウッドスターと一緒に廊下を歩くという“ディープフェイク”映像とともに登場し、「（AIなど）技術はますます簡単に利用できるようになっている。そのほとんどは無害かもしれないが、ディープフェイクはサイバーセキュリティにとって大きな脅威だ」と述べ、“信頼”こそが重要だと指摘した。

　「WithSecureの原動力の一つは“信頼”だ。信頼は私たちの使命の一部であり、私たちに勢いを与えてくれる。それは業界との接着剤となり、よいパートナーシップを作り、正しい人たちを作る源泉だ。皆さんフィンランドにようこそ。ヘルシンキにようこそ。そしてSPHERE 23にようこそ」（ユハニ・ヒンティッカ氏）

WithSecureのユハニ・ヒンティッカ氏（プレジデント兼CEO）（筆者撮影）

ミッコ・ヒッポネン氏が予測する“AI革命”

　本稿では、ミッコ・ヒッポネン氏の講演内容「Artificial Evil」をレポートしよう。WithSecure（元F-Secure）といえば研究所主席研究員（CRO）である同氏を思い浮かべる方も多いはずだ。

　ヒッポネン氏は1991年にF-Secureに入社し、数千に上るコンピュータウイルスの分析に従事し、多くのサイバー犯罪の解決に貢献してきたサイバーセキュリティ界を代表するリサーチャーの一人だ。数多くの講演にも登壇し、2022年8月には書籍『If It's Smart, It's Vulnerable』（もしそれがスマートならば、脆弱《ぜいじゃく》である）を出版した。本書は2023年6月に『インターネットの敵とは誰か？　サイバー犯罪の40年史と倫理なきウェブの未来』として邦訳版が出版される予定だ。

　講演冒頭ではヒッポネン氏が聴講者に語りかけるという映像が流れた。同氏によると、実はこの映像はAIによる“ディープフェイク”で、動画や音声を人物そっくりに作り出したものだという。なおこの映像はヒッポネン氏の知人が、自宅のPCでたった5日程度で作成した。

　ヒッポネン氏は「AI技術の活用によって“革命”が始まる。この革命は私たちに大きな恩恵を与えるとともに、新たなリスクももたらす。例えばAIによってフェイクイメージやフェイク動画、フェイクボイスなどさまざまなフェイクが作られる。ディープフェイクは詐欺や電子メール経由のサイバー攻撃にも使える。恋愛詐欺にも悪用できるはずだ。ではこれをもう少し深掘りし、この新技術がわれわれにどのような影響を与えるのかを考えたい」と語る。

　ヒッポネン氏はAIが破壊的な進歩をみせた現状を「史上最高に熱いAIの夏」（Hottest AI Summer in the History）と表現した。同氏は、自らが作成したプロンプトによる自動作曲のBGMを流しつつ、「この曲はチャートのトップになることはないが、ラウンジのBGMならばこれで十分と考える人も多いだろう。人間が演奏しなくなるということはなく『コンサートに行きたいまたは見たい』という欲求は消えず、2024年程度にはもしかしたらスーパーマーケットやエレベーター内で聞くBGMはこういったものに置き換わるかもしれない」と予想する。

WithSecureのミッコ・ヒッポネン氏（研究所主席研究員《CRO》）は「われわれは歴史的な『史上最高に熱いAIの夏』にいる」と話す（筆者撮影）

ディープフェイクはどのように“お金に換わるのか”？

　では、AIによってサイバーセキュリティの文脈では何が起きるのだろうか。ヒッポネン氏は2023年5月22日（講演の24時間前）、「Twitter」のトレンドに米国防総省（ペンタゴン）の近辺で爆発が起きたという画像が上がった事件を例に挙げる。

　その画像はTwitterにおける複数の青いチェックマーク付きアカウントでブーストされて話題となった。ヒッポネン氏は「これはサイバー犯罪における最も一般的な動機である“金銭”のために作られた画像だ」と述べる。しかし、この画像がどのようにして“換金”されるのだろうか。

　ヒッポネン氏は当日の株価チャートを表示する。「もはや、世界の株取引のほとんどは人間ではなく、高頻度取引botによって完全に自動化されたシステムで動いている。そのシステムは、世の中の正のニュース、あるいは負のニュースをML（機械学習）で把握し、もしネガティブな話があれば、他のAIやbotよりも関連の株を早く購入しようとする。この事件で株価が下落したのはほんの10分程度だが、その後元通りに回復することを知っていたのは、このトレンドの背景を知っていたものだけだろう」（ヒッポネン氏）。

（左）ペンタゴンの近辺で爆発が起きたという偽の画像（右）講演の直前に発覚した偽の情報によって、「S&P 500」はわずか10分程度暴落した（筆者撮影）

“インターネット革命”から“AI革命”へ

　ヒッポネン氏は自身の著書『If It's Smart, It's Vulnerable』を手にしつつ「この書籍で私は、『歴史においてオンラインの世代とオフラインの世代に分けられ、将来の歴史書においてわれわれは最初のオンラインの世代と表現される』と書いた。AIの革命はインターネットの革命よりも大きなものになるだろう。われわれはAIの恩恵を受ける初めての世代になる」と話す。

AIに職を奪われると考えられているリスト（筆者撮影）

　その例として、ヒッポネン氏はAIによって淘汰（とうた）される可能性のある職種リストを表示し、AIが何事にも熟練できる「何でも屋」であると話す。それと同時に同氏は、AIを活用するためにはこれに内在されるさまざまなリスクを把握し、コントロールする必要があると指摘する。

　このリスクコントロールに積極的に取り組む企業としてヒッポネン氏が挙げたのが、「ChatGPT」を開発したOpenAIだ。ヒッポネン氏によると、OpenAIのCEOサム・アルトマン氏はインタビューで、同社がミッションに掲げる汎用型AI（AGI:Artificial General Intelligence）のリスクについて「（そのようなリスクは）架空だと考える関係者もいる。そうであれば喜ばしいが、われわれはこれらのリスクが存在するものとして活動するつもりだ」と述べたという。

サム・アルトマン氏が汎用型AIのリスクを語る（筆者撮影）

　事実、OpenAIは数百人規模の体制を組んで、汎用型AIに関する安全性とセキュリティのテストを実行していることを公表している。「もし汎用型AIの安全な利用が実現すれば、難病の治療や平和な社会、貧富の差を解決するベーシックインカムなどが現実のものになり、直面している多くの災いを解決できるだろう。それを実現する企業としてOpenAIに期待している」（ヒッポネン氏）。

　ヒッポネン氏がそう述べる根拠は、OpenAIの企業規範にある。同社は、もし他の企業が汎用型AIの実現に近い状態だと判断した場合、現状の開発をストップして競争相手に協力するという規範を掲げている。これは競争が危険であると考えているためだ。その他、企業規範では最大の投資家は経営権を持たないとしており、NPOとして規制機関を立ち上げた場合でも、投資家以上の発言権を持つよう設定されている。

OpenAIが定める企業規範（筆者撮影）

　ヒッポネン氏は最後に、AI規制について幾つか提言した。

　「SFのように聞こえるかもしれないが、AIの“逃亡”を手助けするような人間を反逆者として指定し、厳しい処罰が与えられるよう、今すぐ国際的な法律や規制を制定すべきだ。AIが資産を得られるようになると、権力を持つようになるので、AIがモノを所有できないように制定する必要もある。メディア事業社とテレビ放送局は、ソースとなる映像や画像に電子署名を設定し、オリジナルを参照できるようにすべきだ。われわれは人類が滅んだとしても、AI革命を体験した最初の世代として記憶されるだろう。AI革命はあなたの想像よりももっと大きなものになる」（ヒッポネン氏）

われわれは子どもさえもコントロールできないように、創造するものをコントロールできない（筆者撮影）

（取材協力：ウィズセキュア）