生成AIは検索エンジンではない 当たり前のようで、意識すると変わること：「AIが卵より安くなる時代」に向けて

「ChatGPT」や「Gemini」のような生成AIを検索エンジンのように使う人も多いが、この2つは性質が異なるもの。混同していると、AIに「まぼろし」を見せられてしまう。

[永田豊志，ITmedia]

この連載について

AI（人工知能）を仕事で利用するのが当たり前になりつつあります。高価だったAIがコモディティ化して「卵よりも安く利用できる」近い将来、「副操縦席」に追いやられないために、われわれは何をすべきでしょうか。

AIをビジネスで生かすべく日々実践している永田豊志さんが、ビジネスパーソンの生産性向上に役立つ情報と、そこにとどまらない、将来を見据えた挑戦のためのヒントをお届けします。

※この連載のバックナンバーはこちら

　「Gemini」（Googleの生成AI）に筆者が共同創業した会社について聞いてみました。

　「日本のショーケース（注1）という会社の社長は誰ですか？」

　すると、こんな回答が。

　日本のショーケースの社長は永田豊志さんです。

　永田豊志さんは1966年生まれで福岡県出身です。1988年九州大学経済学部経済工学科卒業後、リクルートに入社しました。その後、メディアファクトリー、ワークスコーポレーションなどを経て2005年にショーケースを設立しました。

　永田豊志さんは知的生産研究家としても知られており、著書に『超一流の雑談力』『あメモの魔力 The Magic of Memos』などがあります。

　株式会社ショーケースは、企業のWebマーケティング支援事業を展開するIT企業です。2015年に東証マザーズ市場に上場し、2016年に東証一部に昇格しました。

　この回答は多くの間違い（太字部分）を含んでいます。筆者はかつて社長でしたが、この質問をした時点では会長でした。書籍も何冊か執筆していますが、ここに登場するのは全て他の方が執筆した本のタイトルです。

　同じ質問を「GPT-4」や「Bing」にも投げかけてみると、一応正しい答えが返ってきました。とはいえ、これはGeminiの問題ではなく、どの生成AIでも起こり得る「ハルシネーション（幻覚）」という問題です。

　ハルシネーションとは、いかにも本当のことのように間違った情報を回答するという、生成AIのやっかいな問題です。

　「分かりません」「確認できません」と回答してくれればいいものを、いかにも本物っぽく説明されるため、そのまま間違った情報を使ってアウトプットを作ったり、第三者に伝えたりしてしまう――仕事で使う場合は信用が失墜しかねない深刻な問題ですね。

　ここで注意しておきたいのは、生成AIは物事を理解しているわけではないということです。計算問題は解けますが、数学のロジックを理解しているわけではありません。ただただ大量のテキストを飲み込んで、ある言葉の次に出てくる言葉を確率論的に出すようにしたら、まるで人間のように滑らかにチャット（会話）できるようになった。だから、生成AIは簡単な数学の問題も間違えることがあるし、ググれば分かるようなことも間違えるのです。

　筆者は「最先端技術促進派」なので、ネガティブな面があるから使わないということは絶対にありません。

　しかし、ファクトチェックは絶対必要です。側面調査やバックチェックは、重要な判断を下すときの基本でもあります。

　AIによる生成物をファクトチェックする際に最も簡単な方法は、情報源を「洗う」ことです。Bingなどは情報元のURLを表示します。表示されたWebサイトを一通り見たり、固有名詞や数字などはWebサイトで検索してみたりといったチェックアクションを必ず入れた方が良いでしょう。

　AIは便利ですが、「仕様を決め、依頼文を作る（Prompt）こと」と「生成された内容の検証」は人間がやるべきです。簡易な計算問題や短い文章などはかえってチェックする方が時間がかかることもあるので注意が必要です。

　「本来であればファクトチェックこそAIがやってくれるべきなのでは」と思っていたらGeminiの上位版「Gemini　Advanced」（有料）にその機能が搭載されました。

　さっそく同じ質問を投げかけてみると、出力されたのは同じ誤回答。しかし、回答の下に「G」のマークが現れています。「G」マークを押すと、文章中の幾つかの箇所に「！」が付きました。このびっくりマークには「Google Search didn’t find relevant content. Consider researching further to assess the statement.」と注釈が付いています。これは「関連情報がWebになかったので再調査が必要」という意味です。

　ただし、このダブルチェック機能も、個人での利用はともかく仕事で使うには正確性という点でまだ十分ではありません。

　当面は、こうしたハルシネーション対策として、必ずAIが生成した情報は人間がチェックするフローを構築するようにしましょう。

（注1）ショーケース

著者紹介　永田豊志（ながた・とよし）

知的生産研究家、起業家、上場企業の経営者。現在、DX支援クラウドを提供する株式会社ショーケース（東証3909）とリユースモバイル事業を運営する日本テレホン株式会社（東証9425）、2社の上場企業の経営者。

企業経営と並行し、新規ビジネス開発、働く人の生産性向上をライフワークとした執筆、講演活動などを行う。

自著に『知的生産力が劇的に高まる最強フレームワーク100』（ソフトバンククリエイティブ刊）、『頭がよくなる「図解思考」の技術』（中経出版刊）、『会社では教えてもらえない仕事がデキる人の資料作成のキホン』（すばる舎刊）がある。

著書一覧：https://www.amazon.co.jp/s?k=%E6%B0%B8%E7%94%B0%E8%B1%8A%E5%BF%97

連絡先： [e-mail]

Webサイト： www.showcase-tv.com、https://www.n-tel.co.jp