生成AIが互いに議論? 国立法人NICTが目指す「フェイクを見破る術」とは:生成AI 動き始めた企業たち(4/4 ページ)
連載「生成AI 動き始めた企業たち」第8回は、日本語に特化した独自の対話型生成AIの試作モデルを開発し、7月に発表した国立研究開発法人「情報通信研究機構」(NICT)を紹介する。
Q. 生成AIがもたらすリスクと対処法をどう考えるか
近々で最も重大な問題は偽情報であると考えています。生成AIが出力した偽情報に意思決定が左右された場合、深刻なダメージとなることが考えられます。また、悪意を持って生成AIが出力した偽情報をSNSなどに書き込まれるケースもあるでしょう。
いずれにせよ、社会に大きな混乱をもたらす可能性があります。少なくとも現在の大規模言語モデルはそのアーキテクチャからして、「ハルシネーション」と呼ばれる不正確な回答はゼロにはならず、こうした問題が、生成AI単体での改良で解決する可能性は、少なくとも当面の間は小さいと考えます。
一方、偽情報を抑制する方法としては、WISDOM Xのような、大量のWebページに対する検索をベースとする、質問応答システムを使った情報の裏取りが有効だと考えています。ここでいう情報の裏取りとは、生成AIが生成したテキストを質問に変換してWISDOM Xに入力し、その質問に対して出力された回答を含むWebページを、生成テキストの根拠として確認するということです。
Webページ自体にも偽情報はありますが、少なくとも根拠となるWebページが報道機関など、一定の信頼がおけるサイトのものであれば、根拠としての有用性は高まるでしょうし、今後、オリジネータプロファイル(OP)のような技術が完成、普及すれば、その有用性はさらに高まるものと思います。また、将来的には、そもそも根拠となるWebページがまったく存在しない生成テキストについては、そのことが分かるような形でユーザに生成テキストを表示すべきだとも感じます。
加えて、多数の異なる生成AIに互いに議論をさせて、その議論をもとに最終的な情報を生成させるといった枠組みを検討しています。つまり、多様な生成AIが互いに異なる視点から他の生成AIの生成物をチェック、批判することで、偽情報など不適切な情報を排除できるかもしれないと考えているわけです。
これまでわれわれが経験したケースでは、生成AIにテキストを生成させても、視野の狭い記述になったり、重要な視点が欠落するといったケースが見受けられました。WISDOM Xは、上記のような情報の裏取りだけではなく、生成AI自体が見落としている視点を提供し、生成AIの議論を補強するのにも使えるものと考えています。
また、米国の政治家が使って有名になった”unknown unknowns”(未知なる未知)、つまり、われわれが現時点でその朧(おぼろ)げなイメージすら全く思いつきもしないようなリスクや、あるいは、それに触発されて各所で言われるようになった”unknown knowns”(未知なる既知)とでもいうべきリスク、つまり、薄々認識はされているものの重大だとは考えられていない、あるいは意図的に無視されているリスクが、大きなインパクトを持って顕在化する可能性も高いと思います。
産業革命の初期においては、地球温暖化などという副作用に想像力が及んだ人はほとんどいないでしょう。それと同様に、生成AIの副作用で、長時間経過したのちに顕在化するものはあり得ると考えています。今後、そうした副作用の抑制に柔軟に対応できる体制、技術の整備が重要だと考えます。
Q. 生成AI開発に関するルール整備をしているか
当機構では、研究開発におけるデータ利活用やクラウドサービスの利用などについては、規程に定められた手続きに則って、研究者や利用者が申請を行い、承認を得て研究開発や利活用をしています。生成系AIの開発及び利活用についても、リスクを認識し、同様の手続きに基づいて研究開発や利活用を行っているところです。
【注目】Digital Business Days -SaaS EXPO- 2023 Summer開催中!
【開催期間】2023年8月22日(火)〜9月10日(日)
【視聴】無料
【視聴方法】こちらより登録
【概要】ChatGPTが登場直後から注目を集め、業務利用や自社サービスへの応用など活用が広がっている。ChatGPTはビジネスをどこまで変えるのか――AI研究の第一人者・松尾豊氏と、ChatGPT活用術の発信で話題の深津貴之氏が語る。
関連記事
- 分析作業、9時間→6分に パナソニック流、生成AIの活用法
「生成AI 動き始めた企業たち」第6回はパナソニック コネクトを取り上げる。これまで9時間かかったアンケート分析業務を6分に短縮できたと発表し、話題を呼んだ同社。いかにして生成AIの業務活用を進めているのか。 - IBMが描く「ビジネス×生成AI」の未来像
企業は、生成AIがビジネス活動や社会にどんな変化をもたらすと考えているのか。連載「生成AI 動き始めた企業たち」第1回は法人顧客向けの新基盤「watsonx」(ワトソンエックス)を5月9日発表した米IBMを紹介する。 - 日立が描く「熟練技術も伝承できる生成AI」の未来図
企業は、生成AIがビジネス活動や社会にどんな変化をもたらすと考えているのか。連載「生成AI 動き始めた企業たち」第3回は生成AIを手掛ける専門組織「Generative AIセンター」を設立した日立製作所を紹介する。 - サイバーエージェントが目指す、日本独自の生成AI
連載「生成AI 動き始めた企業たち」第2回は、サイバーエージェントを取り上げる。大規模言語モデル「OpenCALM」(オープンカーム)を5月に発表した同社は、生成AIの利活用にどのような構想を持っているのか。 - 生成AI開発、富士通の強みは? スパコン「富岳」をどう生かすのか
生成AIはビジネスや社会にどんな変化をもたらすのか。連載「生成AI 動き始めた企業たち」第4回は、スーパーコンピュータ「富岳」を活用し大規模言語モデル(LLM)を開発すると発表した富士通を紹介する。
Copyright © ITmedia, Inc. All Rights Reserved.