生成AIが互いに議論？ 国立法人NICTが目指す「フェイクを見破る術」とは：生成AI 動き始めた企業たち（4/4 ページ）

[濱川太一，ITmedia]

Q. 生成AIがもたらすリスクと対処法をどう考えるか

　近々で最も重大な問題は偽情報であると考えています。生成AIが出力した偽情報に意思決定が左右された場合、深刻なダメージとなることが考えられます。また、悪意を持って生成AIが出力した偽情報をSNSなどに書き込まれるケースもあるでしょう。

　いずれにせよ、社会に大きな混乱をもたらす可能性があります。少なくとも現在の大規模言語モデルはそのアーキテクチャからして、「ハルシネーション」と呼ばれる不正確な回答はゼロにはならず、こうした問題が、生成AI単体での改良で解決する可能性は、少なくとも当面の間は小さいと考えます。

　一方、偽情報を抑制する方法としては、WISDOM Xのような、大量のWebページに対する検索をベースとする、質問応答システムを使った情報の裏取りが有効だと考えています。ここでいう情報の裏取りとは、生成AIが生成したテキストを質問に変換してWISDOM Xに入力し、その質問に対して出力された回答を含むWebページを、生成テキストの根拠として確認するということです。

　Webページ自体にも偽情報はありますが、少なくとも根拠となるWebページが報道機関など、一定の信頼がおけるサイトのものであれば、根拠としての有用性は高まるでしょうし、今後、オリジネータプロファイル（OP）のような技術が完成、普及すれば、その有用性はさらに高まるものと思います。また、将来的には、そもそも根拠となるWebページがまったく存在しない生成テキストについては、そのことが分かるような形でユーザに生成テキストを表示すべきだとも感じます。

NICT本部の外観

　加えて、多数の異なる生成AIに互いに議論をさせて、その議論をもとに最終的な情報を生成させるといった枠組みを検討しています。つまり、多様な生成AIが互いに異なる視点から他の生成AIの生成物をチェック、批判することで、偽情報など不適切な情報を排除できるかもしれないと考えているわけです。

　これまでわれわれが経験したケースでは、生成AIにテキストを生成させても、視野の狭い記述になったり、重要な視点が欠落するといったケースが見受けられました。WISDOM Xは、上記のような情報の裏取りだけではなく、生成AI自体が見落としている視点を提供し、生成AIの議論を補強するのにも使えるものと考えています。

　また、米国の政治家が使って有名になった”unknown unknowns”（未知なる未知）、つまり、われわれが現時点でその朧（おぼろ）げなイメージすら全く思いつきもしないようなリスクや、あるいは、それに触発されて各所で言われるようになった”unknown knowns”（未知なる既知）とでもいうべきリスク、つまり、薄々認識はされているものの重大だとは考えられていない、あるいは意図的に無視されているリスクが、大きなインパクトを持って顕在化する可能性も高いと思います。

　産業革命の初期においては、地球温暖化などという副作用に想像力が及んだ人はほとんどいないでしょう。それと同様に、生成AIの副作用で、長時間経過したのちに顕在化するものはあり得ると考えています。今後、そうした副作用の抑制に柔軟に対応できる体制、技術の整備が重要だと考えます。

Q. 生成AI開発に関するルール整備をしているか

　当機構では、研究開発におけるデータ利活用やクラウドサービスの利用などについては、規程に定められた手続きに則って、研究者や利用者が申請を行い、承認を得て研究開発や利活用をしています。生成系AIの開発及び利活用についても、リスクを認識し、同様の手続きに基づいて研究開発や利活用を行っているところです。

【注目】Digital Business Days -SaaS EXPO- 2023 Summer開催中！

「ChatGPT」が変える“ビジネスの未来”

【開催期間】2023年8月22日（火）〜9月10日（日）

【視聴】無料

【視聴方法】こちらより登録

【概要】ChatGPTが登場直後から注目を集め、業務利用や自社サービスへの応用など活用が広がっている。ChatGPTはビジネスをどこまで変えるのか――AI研究の第一人者・松尾豊氏と、ChatGPT活用術の発信で話題の深津貴之氏が語る。