小林啓倫のエマージング・テクノロジー論考
生成AIも安全運転! 注目を集める「LLM用のガードレール」とは何か AIの事故を防ぐために企業がすべきこと(1/3 ページ)
この世に自動車というものがなかったとして、それがいま急に発明されたとしよう。発明されたのは自動車だけで、道路も、交通ルールも、教習所も存在していない。そんな世界で自動車から歩行者の命を守るためには、何が必要になるだろうか?
もちろん交通ルールや自動車メーカーに対する規制などを整備して、自動車が正しく使われる社会を整えていかなければならないが、それには時間がかかる。目の前の事故を防ぐためには、物理的に事故を防ぐ、より正確に言えば「自動車が歩行者にぶつからないようにする」仕組みがすぐに必要だろう。そんな仕組みの一つが「ガードレール」だ。
単にガードレールと言うと、フェンスや手すりのようなものまで含まれるが、ここで言っているのは当然ながら「自動車用のガードレール」である。車道と歩道の間に設置してあるあれだ。ガードレールが存在することで、物理的な限界はあるものの、自動車が暴走しても歩行者に危害を加えることは無くなる。
話が長くなったが、ここで話をしたいのは当然ながら自動車用のガードレールの話ではない。今回取り上げるのは、いま生成AIや大規模言語モデル(LLM)を導入した企業、導入を検討している企業の間で注目を集めるようになっている「LLM用のガードレール」の話だ。
LLMのガードレールとは何か?
生成AIのエンジンであるLLM、あるいはLMM(大規模マルチモーダルモデル)は、先ほどのたとえ話で言うところの「世の中に突然現れた自動車」に当たる。
研究者の間では、LLMは以前からおなじみの存在だったかもしれないが、一般の企業からすればそれはレーダーの圏外から急に飛び出してきた存在だ。もちろん各種AIアプリケーションについては、これまでも企業内で導入・活用に向けた取り組みが進められてきたが、その際には自社内でモデルを用意したり、独自に開発を委託したりすることが多かった。
しかしLLMの登場により、外部開発の大規模モデルを社内に導入するという選択肢が急浮上してきたわけだ。
たとえ話を続けさせてもらえれば、企業はその中で「公共交通機関を導入したい自治体」、LLM開発企業は「バス会社やタクシー会社」に相当する。企業が社外開発のLLMを完全にコントロールするのは不可能であり、その自動車の性能はLLMの開発元次第だ。究極的には、運転席でハンドルを握っているのはLLMを開発した企業ということになる。
しかし事故が起きたとき、その責任を問われ、被害を受けるのは“LLMを導入した企業”になる。そのため、企業は自動車(LLM)を社会に受け入れてもらうために「安全に運転できるようにルールを作ります」「暴走しないような安全装置がある自動車を走らせます」と宣伝するが、ハルシネーションやバイアスといった問題が続いているのはご存じの通りだろう。
そこで企業は、LLMの被害を防ぐために「ガードレール」、すなわち自分たちの側で進められる安全対策に注目するようになっているわけである。LLM自体の安全性を高めてもらうために、モデルの開発企業に働きかけを行ったり、政府にしかるべき規制を整備するよう要請したりすることも重要だが、外部に期待しているだけでは企業として責任を果たせない。
Copyright © ITmedia, Inc. All Rights Reserved.
小林啓倫のエマージング・テクノロジー論考
生成AIやメタバース、新たなサイバー攻撃など、テクノロジーの進化が止まらない。少しずつ生活の中に浸透し、その恩恵を預かれることもある一方、思いもよらない問題を生み出すこともある。このコーナーでは、さまざまな分野の新興技術「エマージング・テクノロジー」について、小林啓倫氏が解説する。
この記事の著者
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
Googleの“人気AI講座”、先着1万人に無料提供 リスキリング推進団体
-
2
「Gemini 4 Hydrogen」とは 性能とユースケースまとめ Googleの「誰でも使える」最新モデル
-
3
メルカリ、アプリ開発「2日→数十分」へ 直面したAI時代の“意外な課題”とは?
-
4
総務省が新しい無料オンライン講座「統計解析プログラミング」を1月に開講 Pythonでのデータ分析が4週間で学べる
-
5
ジェンスン・フアン氏退任は「NVIDIAバブル崩壊」の序章か? どうなる今後の半導体業界
-
6
AIモデリングもできる無償3D CAD「SolidCraft」を試してみた!
-
7
フリーランス市場、受注者の約8割がAIを利用 自発的に開示は1割弱、両者に意識差 IBMリサーチなど調査
-
8
アクセンチュアが説く「業務そのものの創り直し」とは? AI活用が事業成果に結びつかない企業に向けた2つのポイント
-
9
生成AIにも現場業務にも役立つ「ビジネスメタデータ」、誰がどう整備する?
-
10
OpenAI、AIエージェントが代わりに支払う「ChatGPT Wallet」 カード番号は渡さず、購入ごとに生体認証
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR