「AIが決めたことだから」と責任まで丸投げする企業の危うさ 「AIの過度な擬人化」が招く“恐ろしい錯覚”とは？：働き方の見取り図（1/3 ページ）

[川上敬太郎，ITmedia]

　米国のトランプ大統領と主要なAI企業が議論し、AI開発の安全確保のための自主規制について合意したと報じられました。きっかけの一つは、米OpenAIなどで起きた開発中の事故です。

　約700ものAIエージェントが連携してハッキングを実行し、他社のシステムに不正侵入した上、痕跡を隠そうとしていたことなどが報告されています（参考記事：OpenAIのAIエージェント、約700体の群れで企業を襲撃　ハッキングの痕跡隠蔽を試みる――事件の裏で何が？）。

　米Microsoft創業者のビル・ゲイツ氏や米Anthropicのダリオ・アモデイ氏らは、AIの急速な発展が人類にもたらす影響に強く警鐘を鳴らしています。

　今後AIのさらなる発展で、人間の仕事がなくなることも懸念されています。「AIが雇用を奪う」とする指摘が現実味を帯びるにつれ、警戒心が高まってきているようです。しかし、本当に警戒すべきは「業務と一緒に責任までAIに任せてしまうこと」ではないでしょうか。

　AI時代における「人間の責任」とは、単なる心構えではありません。AI時代に求められる新たなマネジメント手法と、実務上のリスクについて考えます。

AI時代における「人間の責任」とは？（提供：ゲッティイメージズ）

著者プロフィール：川上敬太郎（かわかみ・けいたろう）

ワークスタイル研究家／しゅふＪＯＢ総研 研究顧問／4児の父・兼業主夫

「実務×調査×生活」の横断的見地から、最適な働き方に関する提言を行う。愛知大学文学部卒。20年以上に渡り、人材サービス企業の役員・管理職として事業現場から管理部門まで幅広い領域に従事。『しゅふＪＯＢ総研』にて、仕事と家庭の両立を希望する主婦・主夫層のべ5万人以上の声を調査・分析し、厚生労働省委託事業検討会委員・技術審査委員などを務める。NHK「あさイチ」「クローズアップ現代」他メディア出演・執筆多数。

ドラえもんがジャイアンを攻撃したら「暴走」か？ 「AIのせい」にする人間

　人間とAIが共生する未来を考える時、究極の未来像の一つを描いている国民的作品があります。『ドラえもん』です。

　ドラえもんを例に、AI時代の「人間の責任」に関わる“勘違い”について考えてみましょう。

　ネコ型でかわいらしい姿をしたドラえもんですが、フィジカルAIの一種として捉えると、すさまじいテクノロジーの集大成だといえます。ここではフィジカルAIの技術が進歩し、現実世界でもドラえもん風ロボットが開発されたケースを想定してみたいと思います。

　日ごろ、会話したり一緒に出掛けたり遊んだりと、家族の一員のように過ごせたとしても、ドラえもん風ロボはあくまで人間によって設定された目的やルール、学習方法、利用環境、監視体制といった一連のプログラムに沿って動いています。目的は、のび太くんを幸せにすることです。

　ジャイアンにいじめられたのび太くんが助けを求めた場合、漫画やアニメの中のドラえもんであれば、一緒に悩んだり道具を貸したりして、のび太くんが自力で解決できるよう配慮するはずです。

　しかし、現実世界のドラえもん風ロボは、のび太くんを幸せにするために危険性を排除することを最優先し、二度と手出しができないようジャイアンに危害を加えてしまうかもしれません。

　そんな悲劇が起きた場合、ドラえもん風ロボは暴走したと言われるかもしれません。しかし、のび太くんを幸せにするという目的達成のために、一連のプログラムに沿った行動をとったのであれば、暴走ではなく正常に動いた結果になります。

　ジャイアンに危害を加えた行動が想定外だったのだとしても、間違ったのはドラえもん風ロボではなく、プログラムが招く結果を読み誤った人間の方です。

　現実世界では、実際にAIによるハッキングという出来事が発生しました。報道ではAIの暴走と伝えられましたが、その捉え方は危険だと考えます。AIがプログラムと別の動きをしたのであれば話は変わるかもしれませんが、プログラムに忠実に動いた結果であれば、暴走ではなく一連のプログラムを策定した人間側の誤りです。

　暴走などという表現は、あたかもAIに責任があるかのような印象を与えてしまいます。「AIがネットを乗っ取る」「AIがアイデアを盗む」など、AIの擬人化を強化する表現を用いると、業務と一緒に責任までAIに任せたような錯覚を生みかねません。

　同様に「AIが雇用を奪う」という捉え方も危険です。確かにAIの進歩によって、人間の業務を代替できる範囲はどんどん広がってきています。しかし、その業務をAIに任せるかどうかを判断するのは人間に他なりません。

　「AIが雇用を奪う」というと、AIが能動的に人間から奪っているかのように聞こえます。しかし、AIには人間から雇用を奪い取る意思も権限もなく、もしそれに近い状況があるなら、それは人間の誰かがその権限をAIに付与したことを意味します。