革命かパンドラの箱か、新AIツールGPT-3の波紋：星暁雄「21世紀のイノベーションのジレンマ」（5/5 ページ）
GPT-3は、英単語や短い文章をインプットすると、関連する「それらしい」テキストを自動生成するツールだ。文章だけでなく、プログラムコードや楽譜を自動的に生成するデモンストレーションも登場した。
差別表現を出力する問題点を開発者側も認識
米FacebookのAI部門を率いるJerome Pesenti氏は、TwitterでGPT-3に潜む差別問題を指摘した。前述のSushant Kumar氏が作成したツイート生成の仕組みに「ユダヤ人、黒人、女性、ホロコースト」という単語をインプットすると、差別的な内容のツイートが生成された。Pesenti氏は「私たちはもっと進歩する必要がある」と指摘する。
米国のハイテク企業の間では「責任あるAI（Responsible AI）」がひとつの合い言葉になっている。これは、顔認識技術に潜む差別問題（関連記事）や、Facebookへの公民権監査（関連記事）のような最新の課題と結びついている言葉だ。AIに潜む差別は社会問題となっており、「AIに潜む差別はデータセットの問題で技術の責任ではない」などという言い訳はもはや通用しない。GPT-3の成果を一般の人々向けのサービスに応用する上では、モデルに潜む差別は避けては通れない課題となる。
開発元であるOpenAIも、GPT-3の言語モデルに差別が含まれていることは認識している。GPT-3の論文には、その言語モデルが性差別、人種差別を含んでいることを明記しており、課題が残ることを認めている。
AIに潜む差別や偏見をどう排除すればいいのか。GPT-3の開発チームは論文中で「偏見を緩和する規範的、技術的、実証的な課題を結びつける共通の用語体系が必要だ」「単に偏見を取り除く数値目標を立てるのではなく、全体的なやり方でアプローチするべきだ」と述べている。この分野がまだまだ未開拓ということが分かる。見方を変えれば、研究対象として大きな可能性がある分野だともいえるだろう。
GPT-3が提示する課題と、今後可能になること
GPT-3への反響は「人間の知能とはなにか」という古くからある設問と結び付いているように思える。私たちは、GPT-3が出力するテキストを見て、「この記事には信憑性がある」「このAIにはプログラムが書ける」と受け取ってしまう場合がある。
しかし、GPT-3のアウトプットは、インプットへの理解や、世界に関する知識体系（常識）や思考を伴っていない。このようなすれ違いは、実は人間どうしのコミュニケーションでも起きていることなのかもしれない。
GPT-3によって今後可能になることは何だろうか。数々のGPT-3のデモンストレーションを見て思いだしたことがある。2005年、Web開発の生産性を高める仕組みであるRuby on Railsが登場したとき、作者は「15分でBlogエンジンを作る」というデモンストレーション動画を公開した。このデモンストレーションは多くのテクノロジー関係者に刺激を与え、Ruby on Railsの初期の普及活動に貢献した。新技術のデモンストレーションが多くのテクノロジー好きな人々に刺激を与えていることは重要な意味を持つ。それはテクノロジーの世代の変わり目や、新テクノロジー普及の潮目のサインである場合があるからだ。
ただし、Ruby on Railsの場合でも、現実のWebアプリケーションを15分で作れるようになったわけではなかった。デモンストレーション動画を見て盛り上がっていた人々も、内心では「本物のアプリケーションを15分で作れるわけではない」ことは分かっていたはずだ。GPT-3のデモンストレーションの数々は印象的なプロトタイプだが、現実のアプリケーション構築では別の課題が出てくると考えた方がいいだろう。
GPT-3は、私たちが手に入れたいと考えている次世代のコンピュータ技術の1つの要素技術の、そのまたプロトタイプだ。今後、より多くの人々がGPT-3を試し、どこが優位性でどこに限界や課題があるのかを見極めて、「おいしい」部分をうまく使う形で利用技術が形成されていくだろう。OpenAIの開発者らが言うように、GPT-3はまだ発展途上なのだから。
関連記事
Facebookのヘイト対策に「大穴」 〜ザッカーバーグの矛盾とは〜
米国で、Facebookにとって手痛い内容の報告書が公表された。報告書は、この2020年11月に米大統領選挙が控えている中で、差別問題やヘイトスピーチに対するFacebookの取り組みがまだ不十分であり、しかも「大穴」が空いていることを指摘している。
知られざる世界最重要企業 Appleチップを生産するTSMC
AppleがIntelチップの採用をやめる。背後には、Intelがもはや世界一の半導体製造技術を持つ会社ではなくなり、最新の半導体製造技術はTSMCが持っているという事実があった。そのTSMCは、今や世界で最も重要な企業の1社なのである。
インドのTikTok禁止と表現の自由
インド政府が、動画投稿アプリTikTokをはじめ59種類の中国製スマートフォンアプリの利用を禁じた。インド政府の命令に従い、AppleとGoogleはスマートフォン向けアプリストアから問題とされたアプリを取り下げた。TikTokもサービス提供を中止した。この事件は、単なる2国間の対立というだけでは収まらない問題を含んでいる。インターネット上の人権――表現の自由――という新しい概念と、国家の利害とが衝突しているのだ。
「顔認識技術を禁止せよ」 黒人差別を受けハイテク大手の対応は？
米国で顔認識技術への批判が強まっている。IBM、Amazon、Microsoftが相次いで、警察など法執行機関への顔認識技術の提供を中止すると発表した。以前から顔認識技術は「人種差別、性差別を助長する」との批判があった。事件を機に大手テクノロジー企業が顔認識技術の提供中止に追い込まれた形だ。
木村花さん事件とトランプ対Twitterと「遅いSNS」
(1) 世界の国々はSNS（ソーシャルネットワーク）規制で悩んでいる。(2) SNS規制には副作用があり、複数の視点から考える必要がある。(3) 英国の提言の中で「SNSで議論を遅くする仕組みを作れ」という意表を突く指摘がある。複雑だが、重要な話だ。今こそSNS規制を考える時だ。
Copyright © ITmedia, Inc. All Rights Reserved.