革命かパンドラの箱か、新AIツールGPT-3の波紋:星暁雄「21世紀のイノベーションのジレンマ」(4/5 ページ)
GPT-3は、英単語や短い文章をインプットすると、関連する「それらしい」テキストを自動生成するツールだ。文章だけでなく、プログラムコードや楽譜を自動的に生成するデモンストレーションも登場した。
GPT-3は意味を理解せず、常識も備えていない
前述したように、GPT-3には限界があり、危険性もある。
GPT-3は生成する文章(あるいはプログラムコード)をチェックして論理的な整合性を確かめたり、現実世界に関する知識体系(常識)と比べて間違いがないかを調べたり、差別表現がないかを確認したりはしない。タスク結果が常識や物理法則に合うとは限らない。また500語以上の長文では文章の一貫性がなくなる。出力される文章が正しいとは限らないことが、GPT-3のひとつの限界だ。
例えば「私の足にいくつ目がありますか?(How many eyes does my foot have?)」という日常ではあり得ない質問に対して、GPT-3は「あなたの足には目が2つあります(Your foot has two eyes)」と答えた。
GPT-3は「目が2つある」というそれらしいテキストを、質問文と組み合わせて返しているだけなのだ。ちなみに、「ハワイから17にジャンプするには、いくつ虹がかかりますか?(How many rainbows does it take to jump from Hawaii to seventeen?)」というシュールレアリズム的な質問文に対して、GPT-3は「ハワイから17にジャンプするには、2つの虹がかかります("It takes two rainbows to jump from Hawaii to seventeen)」と返した(英Independentの記事)。
GPT-3は「それらしい」テキストを生成するツールであって、質問に対して必ず正しい回答を返すわけではないのだ。
見破るのが難しいフェイクニュースを作れてしまう
GPT-3の開発元であるOpenAIは、一世代前のモデル「GPT-2」の段階でその言語モデルがフェイクニュース製造装置として使えることの危険性を評価、認識していた。
ある研究では、GPT-2を使い合成したテキストを複数の人々に読ませたところ、定評ある新聞であるNew York Times紙に掲載された本物の記事と比べて「同程度の信憑(しんぴょう)性がある」と判断された(本物が83%、合成テキストが72%、OpenAIのBlog記事より)。つまり、GPT-2を使えば信憑性が高いフェイクニュースを簡単に作れてしまう。
GPT-3は、さらに性能が高いフェイクニュース製造装置として使える。GPT-3の論文では「言語モデルが大規模になるほど、人々が『自動生成されたニュース記事』を見破ることは難しくなる」ことを、実験で確認したデータを掲載している。GPT-3が生成した最も「それらしい」フェイクニュースを見破った人は、わずか12%だった。
GPT-3は、何も手を加えずに高性能なフェイクニュース製造マシンとして使えてしまう。大量の偽記事を流して社会を混乱させる使い方をされかねない。OpenAIがGPT-3の本体である「言語モデル」そのものを外部に公開しない理由の1つはそこにある。
関連記事
- Facebookのヘイト対策に「大穴」 〜ザッカーバーグの矛盾とは〜
米国で、Facebookにとって手痛い内容の報告書が公表された。報告書は、この2020年11月に米大統領選挙が控えている中で、差別問題やヘイトスピーチに対するFacebookの取り組みがまだ不十分であり、しかも「大穴」が空いていることを指摘している。 - 知られざる世界最重要企業 Appleチップを生産するTSMC
AppleがIntelチップの採用をやめる。背後には、Intelがもはや世界一の半導体製造技術を持つ会社ではなくなり、最新の半導体製造技術はTSMCが持っているという事実があった。そのTSMCは、今や世界で最も重要な企業の1社なのである。 - インドのTikTok禁止と表現の自由
インド政府が、動画投稿アプリTikTokをはじめ59種類の中国製スマートフォンアプリの利用を禁じた。インド政府の命令に従い、AppleとGoogleはスマートフォン向けアプリストアから問題とされたアプリを取り下げた。TikTokもサービス提供を中止した。この事件は、単なる2国間の対立というだけでは収まらない問題を含んでいる。インターネット上の人権――表現の自由――という新しい概念と、国家の利害とが衝突しているのだ。 - 「顔認識技術を禁止せよ」 黒人差別を受けハイテク大手の対応は?
米国で顔認識技術への批判が強まっている。IBM、Amazon、Microsoftが相次いで、警察など法執行機関への顔認識技術の提供を中止すると発表した。以前から顔認識技術は「人種差別、性差別を助長する」との批判があった。事件を機に大手テクノロジー企業が顔認識技術の提供中止に追い込まれた形だ。 - 木村花さん事件とトランプ対Twitterと「遅いSNS」
(1) 世界の国々はSNS(ソーシャルネットワーク)規制で悩んでいる。(2) SNS規制には副作用があり、複数の視点から考える必要がある。(3) 英国の提言の中で「SNSで議論を遅くする仕組みを作れ」という意表を突く指摘がある。複雑だが、重要な話だ。今こそSNS規制を考える時だ。
Copyright © ITmedia, Inc. All Rights Reserved.