よくわかる人工知能の基礎知識

「AIのリスク」を理解してる？　世界でいま何が起こっているのか（3/5 ページ）

減災：害の発生を把握し、それを減らす

　次に、AIが生み出した害を軽減する減災だが、そもそもAIの存在に人間が気づかない場合も多い。

　例えば、AIが動画に登場する人物の表情や音声を勝手に加工していたらどうだろう。本人は発言していないことを「発言した」ことにされてしまったら――少なくとも視聴者は気づかないのではないだろうか。

話題の「ディープフェイク」

　これは決して絵空事ではない。いま多くのメディアで「ディープフェイク」と呼ばれる行為への懸念が取りざたされている。BuzzFeedが制作・公開した次の映像をご覧になった人も多いだろう。これは、AIを活用してつくったオバマ前大統領の「フェイク動画」だ。

　ディープラーニングのような高度なAI技術を使い、非常にリアルなフェイク動画をつくるのがディープフェイクだ。

　上の映像のように、警告やジョークとして作成される場合もあれば、「アダルト映像とセレブの顔を組み合わせる」「攻撃したい政治家の失態を装う」など、より悪意が込められている場合もある。それらは非常に精巧につくられ、一見すると人間でも見分けがつかない。

　最近は、AI自体にこうした画像・映像の加工を判定させる研究が行われている。米Adobeと米カリフォルニア大学は「Photoshopで加工された人間の顔」を検知するツールを共同開発した。深層学習の一種である「畳み込みニューラルネットワーク」（CNN）を活用しており、人間に比べて2倍の精度で「加工された顔」を見分けられるという。

　フェイクニュースの世界では、「1つのフェイクニュースをまるまるAIで作成する」技術も開発されている。AIを研究する非営利団体のOpenAIは今年2月、非常に精巧な文章を生成する言語モデル「GPT-2」を発表した。

　もともとはフェイクニュースの作成を目的とした技術ではないが、ニュース冒頭のテキストを与えるだけで、残りの部分を勝手に補完して自然な文章を作成できてしまう。OpenAIは技術の悪用を恐れ、GPT-2のオープンソース化はせず論文の発表のみにとどめている（つまり自主規制）。

　こうしたテキスト系のフェイクについても、AIに自動検知させる取り組みが進んでいる。例えば、MIT-IBM Watson AIラボとハーバード大の自然言語処理研究チームが行った実験では、GPT-2が作成した文章と人間が作成した文章をAIに比較させた。実験では、GPT-2が作成した文章について、AIはある程度まで「機械によって生成された可能性がある」と指摘できたという。

第三者の調査を頼るしかない現状

　しかし、こうした検知ツールを持っていなかったり、そもそもAIを使ったアプリケーションの情報が外部に公開されていなかったりする場合は、どうすればいいのだろうか。

よくわかる人工知能の基礎知識

いまや毎日のようにAI（人工知能）の話題が飛び交っている。しかし、どれほどの人がAIについて正しく理解し、他人に説明できるほどの知識を持っているだろうか。本連載では「AIとは何か」といった根本的な問いから最新のAI活用事例まで、主にビジネスパーソン向けに“いまさら聞けないAIに関する話”を解説していく。

この連載の記事をもっと見る

この記事の著者

関連記事

• 

  それは人類にとって脅威なのか　「強いAI」について考える

• 

  「AIが仕事を奪う」への疑問　いま、“本当に怖がるべきこと”は

• 

  ディープラーニングは何ができる？　エンジニア以外も知っておきたい注意点

• 

  エンジニア以外も「AIの仕組み」を学ぶべき理由　機械学習とディープラーニングの違いは？

• 

  文系でも分かる「機械学習」のススメ　教師あり／なし、強化学習を解説

• 

  「機械学習に50年の歴史あり」　人工知能が歩んできた道

• 

  あなたは人工知能が何なのか、人に説明できるだろうか？