“人を動かすAI”は賢くなくてもいい 親しすぎるのは危険だから規制するべき？ 専門家と漫画家で議論してみた：AIの遺電子と探る未来（1/3 ページ）

[井上輝一，ITmedia]

　「そのロボットは生き物じゃないの!!　よくできてるオモチャ!!　もっともらしく返事してるだけで意思も感情もないんだから!!」

　「そんなことない…　そんなこと…」

　2023年7月から放映しているテレビアニメ「AIの遺電子」第3話の一幕。「ポッポ」という名のくまのぬいぐるみロボットをめぐって母親と子どもが言い争う場面だ。

原作マンガ「AIの遺電子」第3話「ポッポ」のワンシーン

　作中では人と同等の性能を持つ「ヒューマノイド」には人権が認められているものの、そうではないロボットに対しては「道具」として一線が引かれている。アニメではポッポの他に“レンタル彼氏ロボット”ジョーも描かれるが、ジョーもあくまで企業の商品だ。

　ヒトではなく道具であるのに、子どもは「そんなことない」と言い、ジョーを借りた女性はジョーとの別れに涙する。ロボットや産業AIによる“感情があるかのようなふるまい”は、人の心に入り込み、行動を変えさせることがある。

　しかし、これは人間を意図的に誘導できてしまうというリスクもはらんでいるのではないか。ChatGPTという賢いAIも現実に出てきたいま、「SFの話だから」とばかにできなくなってきているのではないだろうか。

　今回の記事は、こうした感情に訴えるふるまいをするロボットやAIの可能性について。日本SF作家クラブ会長でもあり、人とエージェントの関係性を研究する慶應義塾大学准教授の大澤博隆さんと、AIの遺電子原作者・山田胡瓜さんの対談でお届けする。

山田胡瓜さん（左）と大澤博隆さん（右）

（聞き手・執筆：井上輝一）

連載：「AIの遺電子」と探る未来

AIが発達した近未来を描くTVアニメ「AIの遺電子」と連動し、同作の原作者・山田胡瓜さんとさまざまな有識者がテクノロジーの発達した未来について語り合います。

• これまでの記事一覧

人を動かすのに「賢いAI」である必要はない

山田　ポッポのようなロボットに対して、コミュニケーションが成立していると思って人間が語りかけたり、あるいはロボットからの働きかけに反応しちゃったりする現象が、ChatGPTをはじめとする対話型AIによっていま起きていると思うんですよね。

　AGI（汎用人工知能）でなくても人間はそこに心を見出したりしてしまって影響を受ける。これってポジティブな使い方もできるし、悪用もできて、思いもよらぬデメリットみたいなものを生み出す可能性もあるんじゃないでしょうか？

ポッポをかばう子ども　ポッポは道具だが感情があるかのようにふるまう