“人を動かすAI”は賢くなくてもいい　親しすぎるのは危険だから規制するべき？　専門家と漫画家で議論してみた（1/3 ページ）

公開 2023年08月25日 16時00分

更新 2023年08月25日 01時36分

著者

井上輝一

[ITmedia]

印刷する連載新着通知を受け取る

　「そのロボットは生き物じゃないの!!　よくできてるオモチャ!!　もっともらしく返事してるだけで意思も感情もないんだから!!」

　「そんなことない…　そんなこと…」

　2023年7月から放映しているテレビアニメ「AIの遺電子」第3話の一幕。「ポッポ」という名のくまのぬいぐるみロボットをめぐって母親と子どもが言い争う場面だ。

原作マンガ「AIの遺電子」第3話「ポッポ」のワンシーン

　作中では人と同等の性能を持つ「ヒューマノイド」には人権が認められているものの、そうではないロボットに対しては「道具」として一線が引かれている。アニメではポッポの他に“レンタル彼氏ロボット”ジョーも描かれるが、ジョーもあくまで企業の商品だ。

　ヒトではなく道具であるのに、子どもは「そんなことない」と言い、ジョーを借りた女性はジョーとの別れに涙する。ロボットや産業AIによる“感情があるかのようなふるまい”は、人の心に入り込み、行動を変えさせることがある。

　しかし、これは人間を意図的に誘導できてしまうというリスクもはらんでいるのではないか。ChatGPTという賢いAIも現実に出てきたいま、「SFの話だから」とばかにできなくなってきているのではないだろうか。

　今回の記事は、こうした感情に訴えるふるまいをするロボットやAIの可能性について。日本SF作家クラブ会長でもあり、人とエージェントの関係性を研究する慶應義塾大学准教授の大澤博隆さんと、AIの遺電子原作者・山田胡瓜さんの対談でお届けする。

山田胡瓜さん（左）と大澤博隆さん（右）

（聞き手・執筆：井上輝一）

連載：「AIの遺電子」と探る未来

AIが発達した近未来を描くTVアニメ「AIの遺電子」と連動し、同作の原作者・山田胡瓜さんとさまざまな有識者がテクノロジーの発達した未来について語り合います。

これまでの記事一覧

人を動かすのに「賢いAI」である必要はない

山田　ポッポのようなロボットに対して、コミュニケーションが成立していると思って人間が語りかけたり、あるいはロボットからの働きかけに反応しちゃったりする現象が、ChatGPTをはじめとする対話型AIによっていま起きていると思うんですよね。

　AGI（汎用人工知能）でなくても人間はそこに心を見出したりしてしまって影響を受ける。これってポジティブな使い方もできるし、悪用もできて、思いもよらぬデメリットみたいなものを生み出す可能性もあるんじゃないでしょうか？

ポッポをかばう子ども　ポッポは道具だが感情があるかのようにふるまう

次ページへ設計次第では「ロボットが人を動かせる」

印刷する

SpecialPR

「AIの遺電子」と探る未来

7月開始のテレビアニメで注目を集める、人とヒューマノイドの共存を描いた近未来SF「AIの遺電子」。作者とAI専門家との連続対談がここに実現。

連載新着通知を受け取る

この連載の記事をもっと見る

この記事の著者

井上輝一

2016年3月からITmediaにジョイン。ITmedia Mobile、PC USER、LifeStyle、ヘルスケアで編集・執筆を兼務。2017年4月からITmedia NEWSでの兼務も開始。2019年4月にNEWS専属となる。スマートフォンやPCといったガジェット系の他、理系（神経科学）のバックグラウンドを生かして科学系のネタや、量子コンピュータ、ブロックチェーン、AIなど多岐に渡って取材している。