生成AIで死者を“復活”させるビジネスは人を救うのか 指摘される懸念とは?:世界を読み解くニュース・サロン(2/4 ページ)
生成AIに画像や声などを学習させることで亡くなった人と対話できる、中国発のサービスが話題になっている。このようなサービスは世界各国で登場している。人々の心を癒やす効果がある一方、精神に害を及ぼす可能性や倫理的な問題も指摘されている。
亡くなった創業者の「スピーチ」を公開した例も
AI動画をめぐっては、こんな例もある。2024年3月、中国のAI関連企業であるセンスタイム(商湯集団)が年次総会を行った。その総会では、共同創業者の湯暁鴎氏がスピーチをしたのだが、実は湯氏は前年の12月に亡くなっており、スピーチは言語モデルの機械学習プログラムを使って作られた湯氏のデジタルクローンによるものだった。
現在、先に紹介した死者と対話できるサービスも、こうしたデジタルクローンも同様に、生成AIで動画を作るのは技術的にも非常に簡単だ。筆者も先日、オンライン上の詐欺広告について取材をしていた際に、自分が話している動画を使って、AIで自分の顔を別人に変えてみたところ、あっという間にできてしまった。今では、動画の顔を入れ替えてしまう生成AIのサービスや、音声サンプルからAIで人の声を再現できてしまうサービスがインターネットですぐに見つかる。
こうしたデジタルクローンは、「ディープフェイク」という言葉でも知られている。そもそも、AIを使って人の顔を動画に埋め込む技術は2017年に米国で初めて問題視され、当時からディープフェイクと名付けられて注目されてきた。当時、「ディープフェイク」という名のネットユーザーがAIを使ってセレブの顔をポルノ動画にはめ込み米人気オンライン掲示板で公開したことで、大きな問題になり、論争になってきた。
以降、そのようなAIで顔を入れ替える動画は、一般的に「ディープフェイク」と呼ばれてきた。また、作成アプリなども登場し、一般ユーザーが手軽に動画を作るようになった。多くの人が使うようになって、クオリティーもますます高くなっている。
関連記事
- 「死者との対話」も可能に? ビジネス規模も拡大する「チャットボット」の現在
死者と再び対話ができるチャットボットがあるという。最近のチャットボットはどこまで進化しているのか、私たちの生活に与える影響とは。 - 中国出張でPCは“肌身離さず”でなければいけない、なぜ?
昨年、中央省庁の職員3人が中国出張中、PCに不審なマルウェアを埋め込まれていたことが分かった。わずかな時間でホテルの部屋に侵入されたという。特に海外出張では、PCを常に携行するなど、警戒を強めて行動することが必要だ。 - 中国系企業が日本の“再エネビジネス”に食い込む 「透かし騒動」から見る実態
政府の再生可能エネルギー関係の会議資料に、中国企業のロゴマークの透かしが入っていたことで騒ぎとなった。これはミスだったようだが、中国系の企業が日本の太陽光発電事業に入り込んでいることは事実。FIT制度を利用して多額の収入を得ることが狙いだ。 - ようやく制度化「セキュリティ・クリアランス」とは? 民間企業にどう影響するのか
閣議決定されたセキュリティ・クリアランス法案は、民間企業の従業員も無関係ではない。先端技術分野も機密情報となり、情報を扱うための適性評価の対象が民間にも広がるからだ。プライバシーの懸念も出ているが、国の安全と発展のために不可欠な制度だといえる。 - 欧米で警戒されるロシア製ソフト、日本政府が使用していた どんなリスクがあるのか
日本の中央省庁などの公的機関が、欧米で警戒されているロシア製ソフトウェアを使用していることが分かった。日本各地の国土情報や、港湾などの施設情報が国外に漏れる可能性もある。リスクを放置せずにしっかりと対応するべきだ。
Copyright © ITmedia, Inc. All Rights Reserved.