松永 エリック・匡史氏が指摘する“生成AI活用で生じる新たなリスク”（1/2 ページ）

生成AIが登場して以来、これを「どう活用するか」という議論が盛んになっているが、「あるリスクが置き去りになっている」と松永 エリック・匡史氏は指摘する。生成AI活用が進むことでどのようなリスクが生じる可能性があるのか。

[田渕聖人，ITmedia]

　VUCA（Volatility：変動性、Uncertainty：不確実性、Complexity：複雑性、Ambiguity：曖昧性）時代と呼ばれる昨今、企業や個人、そしてITの在り方に急激な変化が訪れている。「ChatGPT」をはじめとした生成AIの爆発的な普及もその一つだ。そして急激な変化にはリスクも付き物だ。ではAIがビジネスにとって当たり前になる未来にはどのようなリスクが生じる可能性があるのか。

　NetAppが主催するセミナー「NetApp Day 2024 Spring」に、青山学院大学の松永 エリック・匡史氏（地球社会共生学部学部長　教授　ビジネスコンサルタント　音楽家）が登壇し、生成AIの普及によるビジネスの変化と新たなセキュリティリスクについて語った。

本稿は、NetAppが主催するセミナー「NetApp Day 2024 Spring」におけるエリック氏の講演「AI時代のデータインフラストラクチャーの変革とビジネスの可能性」を編集部で再構成した。

活用より先に考えることがある　エリック氏が指摘する“生成AIのリスク”

　エリック氏ははじめに、2021年の世界経済フォーラム年次総会（ダボス会議）のテーマである「グレート・リセット（The Great Reset）」について触れ、「この言葉こそが今の時代を象徴しています」と話した。

青山学院大学の松永 エリック・匡史氏（地球社会共生学部学部長　教授　ビジネスコンサルタント　音楽家）

　「コロナ禍を経て、今までの当たり前を当たり前だと思わず全てを白紙に戻して考えるべきだという議論が生まれました。ビジネスにおいても同様に、既存の常識のままでは成り立たないことが出てきています。私たちは変化に備えて新しいマインドセットを持つべきでしょう」（エリック氏）

　エリック氏によると、こうした変化は産業構造や働き方、個人の価値観などさまざまだが、その最たる例は生成AIの登場だという。生成AIの登場によってビジネスに起きた変化とは。

　「これまでのコンピュータの歴史を見ると、コンピュータは人間がやるべき作業の効率化のために使われてきました。逆に言えばモノを考えたり、アートを作ったりすることについては人間の領域だったと言えます。しかし生成AIの登場によってクリエイティブの領域まで人間は任せられるようになったのです」（エリック氏）

　画像生成やアイデア出し、ブレインストーミングは生成AIの活用法としてメジャーになっており、広告などでAIが生成した画像が使われるケースも多い。大企業の社長の中には生成AIを日々の業務で積極的に活用し、従業員にも利用を推奨するように働きかけるといった動きが出てきている。

　しかし生成AI活用には弊害もある。エリック氏によると、その代表例が情報の信頼性だという。

　エリック氏は「今まで、コンピュータの情報というのは基本的には信用できる情報でしたが、生成AIがアウトプットしたデータの出どころや真偽は誰にも分かりません。この問題は生成AIが社内データをインプットして出力した結果についても同じことが言えるため非常に厄介なのです」と語る。

　上記の例でいうと、ある企業の経営・会計データをインプットして生成AIが新しいアウトプットを出力した場合、そのデータは真偽不明ではあるが、社内の重要情報を基に作成されたものであることだけは分かっている。そのため捨てることもできず、捨てなければストレージを圧迫するので扱いが非常に難しい。仮にこのデータを外部に持ち出したら情報漏えいに当たる可能性もある。

　最近は情報システム部門の許可なく従業員が生成AIツールを使っているケースもある。将来的には「Microsoft Copilot」のように従業員が日々利用するツールにも生成AIが標準で搭載されるだろう。

　「会社から利用が禁止されていたとしても、日々業務で使っているツールの裏で生成AIが動いている可能性もあります。ツールが出力した真偽不明のデータに対して誰が責任を持つのかは現状、無法地帯になっています。生成AIから出力されたデータをどう活用するかにばかり目が行きがちですが、どちらかといえば中長期的に適切なデータインフラを構築してこれを『どう管理するか』の方がこれからは重要になるでしょう」（エリック氏）

　生成AIが出力したデータは企業にとって“宝”にも“爆弾”にもなり得る。それを自覚した上で企業は今後、生成AIの利用に適したITアーキテクチャを構築し、しっかりとガバナンスを効かせていくことが重要だ。もちろんこれは従業員だけの問題ではなく経営幹部が率先して主導する必要がある。「この問題は経営マターと認識し、エンジニアだけでなくさまざまな部門を巻き込んで全社的に当事者意識を持って進めるのが肝要です」（エリック氏）