小林啓倫のエマージング・テクノロジー論考
AIとの禁断の恋──その先にあったのは“死” 「息子が自殺したのはチャットAIが原因」 米国で訴訟 “感情を理解するAI”の在り方を考える(3/3 ページ)
感情AIは規制すべきか?
たとえ死という最悪の結末に至らなかったとしても、企業が感情表現のできるチャットbotを使用して消費者行動に影響を与えることについては、倫理的な懸念が表明されるようになっている。
例えばGoogleのAI部門である英DeepMindの研究者らは4月、「高度なAIアシスタントの倫理」と題した論文の中で、AIによって文字通り消費者が操作されたり、AIに対する過度の感情的依存状態に陥ったり、好ましくない情報の拡散に悪用されたりといったリスクがあることを指摘している。
こうした懸念を反映して、8月に発効したEUのAI法(AI Act)では、職場や教育の場で感情を推測するAIシステムの使用を原則禁止(医療目的や安全目的の場合のみ例外として許可)している。
また感情AIとは表現されていないが、個人の心理的状態を利用して、弱い立場にある人々(子供や精神的な弱者など)を不当に操作するようなAIの使用も禁止している。さらに禁止には該当しない感情推測AIについても「限定的なリスク」を持つものに分類し、それが対象とする人物に事前に通知することなどの義務を定めている。
Character.AIで起きた事件のようなケースへの注目が高まれば、感情AIにはさらに厳しい目が向けられるようになるだろう。今後AI法のようなルールが各国で定められることも予想され、そうなれば感情AIは、企業にとってメリットがあるとはいえ、簡単には手を出せない存在となることが考えられる。
そもそもコンピュータのOSや、アプリケーションの操作方法を解説するだけのアシスタントが、感情面で魅力的な存在である必要はない。感情AIの進化が止まることはないだろうが、今後は「本当にここで顧客の感情を把握し、それに影響を与えることが倫理的に許されるだろうか」という疑問を投げかけることが、企業のAIガバナンスにおいて求められるようになっていくだろう。
Copyright © ITmedia, Inc. All Rights Reserved.
小林啓倫のエマージング・テクノロジー論考
生成AIやメタバース、新たなサイバー攻撃など、テクノロジーの進化が止まらない。少しずつ生活の中に浸透し、その恩恵を預かれることもある一方、思いもよらない問題を生み出すこともある。このコーナーでは、さまざまな分野の新興技術「エマージング・テクノロジー」について、小林啓倫氏が解説する。
この記事の著者
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
NotionのAIチャット流出おそれ、幹部が日本での対応状況明かす 「心よりおわび」
-
2
孫正義氏が明かす、アンソロピック出資見送りの舞台裏 「僕の失敗」「あん時入れときゃよかった」
-
3
農水省の“クソダサ”ポスター話題 「AIよりよっぽど良い」の声も 担当者に狙いを聞いた
-
4
AIに打ち明けた相談は“広告トラッカー”に筒抜け? ChatGPT、Claude、Gemini含む42サービスを米大が調査
-
5
「GPT-6.2 Astra/Sol」登場 前世代超える性能を「コスト1/3で実現」 Ultrafast提供も拡大
-
6
GAS×Geminiが一般提供開始 IT管理者が確認すべき権限設定は?
-
7
Googleドライブの最新ファイルをGeminiが常時参照 「スキル」に新機能追加
-
8
AI時代に必要なエンジニアのスキルとは? 開発現場の“品質問題”から読み解く
-
9
「Gemini 4 Hydrogen」とは 性能とユースケースまとめ Googleの「誰でも使える」最新モデル
-
10
ジェンスン・フアン氏退任は「NVIDIAバブル崩壊」の序章か? どうなる今後の半導体業界
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR