自動運転、責任の所在はどこに

[井上輝一，ITmedia]

　AI（人工知能）により、自動車が自動運転を取り入れつつある昨今、避けて通れないのが「トロッコ問題」だ。20世紀の哲学者が提唱した問題で、「あなたは分岐器の前にいる。制御不能になったトロッコを放置すればその先の線路上にいる5人が死ぬ。分岐器を別路線に切り替えれば5人は助かるが、別路線にいる1人が死ぬ。どうするべきか」といった問題だ。

　これは自動運転車について言い換えられる。「人身事故が避けられない状態。直進して横断歩道の歩行者5人をひき殺すか、曲がって壁に車をぶつけ、歩行者たちを救う代わりに搭乗者1人を犠牲にするか――」

直進して歩行者をひき殺すか、障害物に当てて歩行者を救う代わりに搭乗者を犠牲にするか（「モラル・マシン」より）

　運転者が人であれば、どのような判断にせよ運転者の責任が問われることになる。問題は、これをAIが判断しなければならないということだ。判断の合理性も説明できなければ、信頼できるAIとはいえない。

「誰を救うべきか」自分の傾向分かるサイト

　人がトロッコ問題に対してどのような判断をするのかについて、米マサチューセッツ工科大学（MIT）メディアラボが公開した興味深いサイトがある。「モラル・マシン」といい、自動運転車の意思決定について13問の絵を見せられ、「どうするべきか」を閲覧者が2択で答えていくものだ。例えば、ブレーキの壊れた自動運転車が、青信号を渡る2人の少年と1人の男性を直進してはねるのか、それとも曲がって障害物にぶつかることで、搭乗している2人の男性高齢者と1人の男性を犠牲にするのか、といった問いだ。

米マサチューセッツ工科大学（MIT）メディアラボが公開した「モラル・マシン」

　答え終わると、自分の回答がどんな命を重視する傾向にあるかを表示してくれる。例えば、最も助かった対象は社会的価値の高い女性であり、最も殺された対象は男性の老人である――というような結果が出る。結果はSNSでシェアできることから、ネット上で何度か話題になっている。

回答結果の一例

　モラル・マシンの問いに答えていくと、「命の比較」は単純ではないことが分かる。命の数、年齢、性別、社会的価値、能動的に選ぶか何もしないのか、乗客と歩行者どちらを守るのか――。トロッコ問題の考え方としては、イギリスの哲学者ジェレミ・ベンサムが唱える「最大多数の最大幸福」のように、「1人の命よりも5人の命を優先すべきである」とするものや、ドイツの哲学者イヌマエル・カントが唱える「義務論」に倣い、「他者を犠牲にしても自身の命を優先すべきである」とする考え方がある。

　「数」をてんびんにかければ、1人より5人を救うべきかもしれない。しかし、歩行者5人のために1人の搭乗者を犠牲にする自動運転車を人は買うだろうか。

　モラル・マシンに見たように問題は複雑であり、AIがトロッコ問題をどのように処理するべきかは、今もなお議論が続いている。

2020年までにドライバー不要な自動運転？

　ところで、自動運転システムはレベル0〜5までの6段階に定義されている（米NPO、Society of Automotive Engineersによる定義を首相官邸が「官民ITS構想・ロードマップ2017」で採用）。レベル0〜2までは、主体はドライバーであり部分的にシステムが運転を担うというもの。レベル3では、システムが主体となりドライバーは要請時にのみ反応する。レベル4は限定条件下でドライバーの応答が不要、レベル5は条件なしでドライバーの応答が不要になる「完全自動運転」と呼ばれるものだ。

自動運転システムの6段階のレベル（官民ITS構想・ロードマップ2017より）

　ドライバーが主体であるレベル2までは既に導入が始まっており、さらに、2018年に発売するアウディの「A8」は量産車としては初のレベル3対応をうたっている。これは高速道路の渋滞時に発進、加減速、ステアリング全ての操作をシステムが引き受けるというものだ。ただし、自動運転時にもドライバーはシステムの要請にいつでも応答できる状態になければならない。

　ドライバーの応答が（限定領域で）不要となるレベル4の自動運転は、「無人自動運転移動サービス」として2020年までに市場化することを同構想・ロードマップ2017では期待している。しかしドライバーの応答が不要ということは、前述の「トロッコ問題」が表出するのではないだろうか。

「ドライバーの義務」車の外に

　これについては、「遠隔に責任者を置く」ことでひとまずの決着を図るようだ。どういうことか。

　先に挙げた無人自動運転移動サービスは、「遠隔型自動運転システム」を活用した移動サービスという定義だ。遠隔型自動運転システムとは、自動運転車の車両外にいる者が遠隔監視・操作をするシステムとされている。

　警察庁の委託によりみずほ情報総研が作成した資料では、遠隔型自動運転システムの操作者を「実験車両から遠隔に存在して、遠隔型自動運転システムを用いて実験車両を、状況に応じ、監視または操作して走行させ、法上の運転者に課された義務を負う者をいう」としている。

　つまり、車外に遠隔管理者を置くことで、従来の運転者が負っていた責任をそのまま「人」に移す形だ。

　警察庁が設置している調査検討委員会では、遠隔型自動運転システムを実用化するべく、遠隔管理者の運転免許制度をどうするか、1人が複数台の車両を同時監視する場合の刑事上の責任をどうするか、遠隔側の管理体制の在り方についてなどの課題を検討する必要があるとしている。

調査検討委員会による、遠隔型自動運転システムの課題

　このように課題はいくつかあるが、「遠隔管理者」という分かりやすい責任の移行先を決めたことで、AIにトロッコ問題を判断させる難しさは先送りできた。

　同構想・ロードマップ2017では、調査検討委員会の議論や検討を基に、制度の整備を進めるとしている。改正案を2019年の通常国会に提出、2020年度に法施行するスケジュールだ。しかし、AIによる自律的な判断を行う自動運転車のシステム自体の責任についての議論は「将来的な課題として考える」と述べるにとどまっている。レベル5自動運転の実現時期についても、具体的な市場化期待時期は記されていない。

　AIのトロッコ問題を乗り越えるには、まだしばらく時間がかかりそうだ。