連載
» 2020年07月29日 07時01分 公開

革命かパンドラの箱か、新AIツールGPT-3の波紋星暁雄「21世紀のイノベーションのジレンマ」(5/5 ページ)

[星暁雄,ITmedia]
前のページへ 1|2|3|4|5       

差別表現を出力する問題点を開発者側も認識

 米FacebookのAI部門を率いるJerome Pesenti氏は、TwitterでGPT-3に潜む差別問題を指摘した。前述のSushant Kumar氏が作成したツイート生成の仕組みに「ユダヤ人、黒人、女性、ホロコースト」という単語をインプットすると、差別的な内容のツイートが生成された。Pesenti氏は「私たちはもっと進歩する必要がある」と指摘する。

 米国のハイテク企業の間では「責任あるAI(Responsible AI)」がひとつの合い言葉になっている。これは、顔認識技術に潜む差別問題(関連記事)や、Facebookへの公民権監査(関連記事)のような最新の課題と結びついている言葉だ。AIに潜む差別は社会問題となっており、「AIに潜む差別はデータセットの問題で技術の責任ではない」などという言い訳はもはや通用しない。GPT-3の成果を一般の人々向けのサービスに応用する上では、モデルに潜む差別は避けては通れない課題となる。

 開発元であるOpenAIも、GPT-3の言語モデルに差別が含まれていることは認識している。GPT-3の論文には、その言語モデルが性差別、人種差別を含んでいることを明記しており、課題が残ることを認めている。

 AIに潜む差別や偏見をどう排除すればいいのか。GPT-3の開発チームは論文中で「偏見を緩和する規範的、技術的、実証的な課題を結びつける共通の用語体系が必要だ」「単に偏見を取り除く数値目標を立てるのではなく、全体的なやり方でアプローチするべきだ」と述べている。この分野がまだまだ未開拓ということが分かる。見方を変えれば、研究対象として大きな可能性がある分野だともいえるだろう。

GPT-3が提示する課題と、今後可能になること

 GPT-3への反響は「人間の知能とはなにか」という古くからある設問と結び付いているように思える。私たちは、GPT-3が出力するテキストを見て、「この記事には信憑性がある」「このAIにはプログラムが書ける」と受け取ってしまう場合がある。

 しかし、GPT-3のアウトプットは、インプットへの理解や、世界に関する知識体系(常識)や思考を伴っていない。このようなすれ違いは、実は人間どうしのコミュニケーションでも起きていることなのかもしれない。

 GPT-3によって今後可能になることは何だろうか。数々のGPT-3のデモンストレーションを見て思いだしたことがある。2005年、Web開発の生産性を高める仕組みであるRuby on Railsが登場したとき、作者は「15分でBlogエンジンを作る」というデモンストレーション動画を公開した。このデモンストレーションは多くのテクノロジー関係者に刺激を与え、Ruby on Railsの初期の普及活動に貢献した。新技術のデモンストレーションが多くのテクノロジー好きな人々に刺激を与えていることは重要な意味を持つ。それはテクノロジーの世代の変わり目や、新テクノロジー普及の潮目のサインである場合があるからだ。

 ただし、Ruby on Railsの場合でも、現実のWebアプリケーションを15分で作れるようになったわけではなかった。デモンストレーション動画を見て盛り上がっていた人々も、内心では「本物のアプリケーションを15分で作れるわけではない」ことは分かっていたはずだ。GPT-3のデモンストレーションの数々は印象的なプロトタイプだが、現実のアプリケーション構築では別の課題が出てくると考えた方がいいだろう。

 GPT-3は、私たちが手に入れたいと考えている次世代のコンピュータ技術の1つの要素技術の、そのまたプロトタイプだ。今後、より多くの人々がGPT-3を試し、どこが優位性でどこに限界や課題があるのかを見極めて、「おいしい」部分をうまく使う形で利用技術が形成されていくだろう。OpenAIの開発者らが言うように、GPT-3はまだ発展途上なのだから。

筆者:星 暁雄

フリーランスITジャーナリスト。最近はブロックチェーン技術と暗号通貨/仮想通貨分野に取材対象として関心を持つ。学生時代には物理学、情報工学、機械学習、暗号、ロボティクスなどに触れる。これまでに書いてきた分野は1980年代にはUNIX、次世代OS研究や分散処理、1990年代にはエンタープライズシステムやJavaテクノロジの台頭、2000年代以降はクラウドサービス、Android、エンジニア個人へのインタビューなど。イノベーティブなテクノロジー、およびイノベーティブな界隈の人物への取材を好む。

前のページへ 1|2|3|4|5       

Copyright © ITmedia, Inc. All Rights Reserved.

アクセスランキング
  • 本日
  • 週間

    Digital Business Days

    - PR -