自動車 歩行者

自動運転車AIが「ドライバー」であるとした米国運輸省の回答の意味(後編)完全自動運転車が問う「人間とテクノロジー」の関係

2016.03.18

Updated by ロボット法研究会 on 3月 18, 2016, 07:30 am JST

前編では、グーグルの質問状に対する米国運輸省の国家道路交通安全局(National Highway Traffic Safety Administration; NHTSA)の回答の一部を紹介した。後編では、その意義について考察する。

安全規則の解釈と他の法律の解釈は別問題

今回のNHTSAの回答は、行政官庁による、自動車の仕様や機能に関する安全規則の解釈を示したものであり、民法や刑法、その他の実体法の解釈に影響を与えるものではない。

例えば、2月14日に、グーグルの自動運転車が自動運転システム(Self-Driving-System; SDS)により運転中、バスと接触事故を起こしたことが報じられている(関連記事:グーグルの自動運転車が自責事故 – 自動走行時では初めて)が、仮にグーグルの自動運転車側に過失または落ち度と評価できる要素があったとしても、直ちに「SDSが運転者だから、SDSが損害賠償責任を負う(あるいはSDSまたは自動車メーカーが責任を負う)」、「SDSが運転者だから、SDSが交通切符を切られる」ということには決してならない。安全規則であるFMVSSの解釈と、市民の権利義務を定める他の法律の解釈は、基本的に全く別の問題である。運転免許を有していない者だけで無人運転車に乗って公道を移動できるのか、完全自動運転車に現行の保険約款の適用はあるのか、といった諸問題についても、同様に何ら解決されるものではない。

こうして見てくると、今回のNHTSAの回答に対する米国の法律業界の反応が今のところあまり大きくない点もうなずける面があるし、「グーグルが完全自動運転の実現に大きな一歩を記した」と言えるかどうかも意見が分かれるかもしれない。

AIに関しては、プログラムされたアルゴリズムに従って作動するとはいえ、生じる結果にはどうしても予測できない部分が残る。したがって、AIによる何らかの権利侵害行為や法律違反があったときに、誰が責任を負うのかという問題は、自動運転車に限らず、AIやロボットその他の新しいテクノロジー全般に関わる、非常にすそ野の広い、残された問題である。

それでは、今回のNHTSAの回答にはどのような意味やインプリケーションがあるだろうか。以下の3点に触れたい。

「完全自動運転車」実現に向けた米国のポジティブな姿勢

まず、NHTSAが、一部とはいえ、初めてAIを現行規則上の「運転者」と認めたことは、自動車製造業者にとって乗り越えるべき1つの要件をクリアしたという意味で、一定の意義があることは間違いないだろう。

また、NHTSAが、回答の随所において、グーグルの完全自動運転車の登場という状況の変化に伴い、FMVSSまたは関連するルールについて、今回新たに判明した「解釈では乗り越えられない壁」を具体的に認識した上で、改訂の手続を進めることを示唆している点も同様である。もちろん完全自動運転車用の新しい規則の制定には時間がかかるだろうが、グーグルその他の自動運転車の開発事業者としては、NHTSAが具体的な規則の改定の必要性を認めて動き出すとすれば、それ自体、進展ととらえることができるだろう。

次に、米国当局の、完全自動運転車に対する曲がりなりにもポジティブな姿勢が垣間見える点である。

例えば、NHTSAは、ほぼ全ての条項の議論の中で、結論としてグーグルの完全自動運転車が現在のFMVSSをクリアしているとはいえないと述べつつも、グーグルに対し、暫定的な解決方法として、「例外手続」の申請ができることを述べている。NHTSAによれば、FMVSSに適合するのと同等の安全性を証明することにより、例外的に認証することが可能であるという。

また、NHTSAは、一定の自動車のデザインにとっては、現在のFMVSSの基準の一部が不必要であることも示唆している。

このNHTSAの回答に先立つ昨年の12月16日、カリフォルニア州では、自動運転車に運転免許を保有するドライバーの乗車を義務付ける(すなわち無人自動運転車の公道走行は容認しない)規制案が公表された。そのリリースの中では、完全自動走行または無人走行車に関する規制はさらに検討を続けることとも表明されていたが、報道によれば、グーグルは、今回のNHTSAの回答の方がよりポジティブであるとして歓迎するコメントを行っているようだ。

実は、今回のグーグルからのレターも、米国政府が、自動車製造業者に対し、自動運転車に関する現行規則の解釈に関するリクエストを促したことが契機となって出されたものである。このような米国政府の積極的かつオープンな姿勢は参考になるというべきである。
米国政府は、1月にも、今後10年間で、自動運転車の開発のために約40億ドルの投資を行うと公表しており、日本も負けるわけにはいかない。

グーグルとNHTSAの見解が大きく異なっている点

3点目は、

自動車に乗っている人間にハンドル、アクセル・ブレーキ、ウィンカー等の操作をさせるのは、人間の判断がSDSの判断に優先してしまうという意味で(SDSによる運転よりも)安全面で劣る

というように、完全自動運転の方が人間の運転し得る場合よりも安全であるとのグーグルの主張に関する。ここにいう安全は、搭乗者のみならず、歩行者や他の自動車の運転者等の安全も含めて考えるべきだろう。また、例えば、上に述べた2月14日のバスとの接触事故に関していえば、グーグルからは、「バス側もAIによる運転であればあの事故は生じなかった」との反論が容易に予想される。

この主張は正しいだろうか。この点に関するNHTSAの回答は、

この問題は、規則の解釈のみによっては対処できない問題だ

というものであり、一つの正しい答えであると考えられる。

この問題は、おそらく、いわゆるレベル4の完全自動運転であっても、人間が操作し得る余地を残すべきか否かという議論につながっている。例えば、NHTSAは、今回の回答の脚注の中で、グーグルに対し、グーグルが不要であると主張するブレーキペダル、ハンドル、その他の搭乗者による操作ツールが本当に不要かどうか、これらを不要とした場合に本当に安全の面でリスクがないか、再検討するよう示唆している。

この点に関する考え方の違いは、今回のやり取りの中で、NHTSAとグーグルの立場が乖離している部分の一つだと思われる。AIの方が人間よりミスが少ない、というのは一般論としては正しいとしても、本当に人間による操作の余地を残さなくてよいのか否かは、広く議論すべき一大論点である。

人間とテクノロジーの関係に対する考え方

さらに、「人間が操作する余地を残すべきか否か」は、より普遍的な問いである可能性がある。

例えば、ロボットに関する議論の中で、「Kill Switch」すなわち、いつでもロボットの電源を切れるような仕様を義務付けるべきではないかとの議論がある。これは、予想外の動きまたは何らかのトラブルによってロボットが人間に対して害悪を行う万一の場合を想定してのことだと考えられるが、これは、人間がAIやロボットをどこまで信頼するか、あるいは、どの程度脅威とみるかという、人間とテクノロジーの基本的な関係性を論じるものだといってよい。完全自動運転車にブレーキペダルやハンドルを残すかどうかの問題は、人間とテクノロジーの関係に関わる、類似の問題だ。私たち一人一人が考えるべき問題だと思う。

自動運転車は、既に、自動車というものを、現行法令・規則の解釈によっては対処できない程度に大きく進化させた。自動運転車に関し、人間が操作する余地を残すべきか否かという問題につき政策上の結論が出るとすれば、それはAIと人間の関係性についての最初のメジャーな答えになる可能性もあり、インパクトは大きいと思われる。

米国政府は、NHTSAに対し、今年の7月半ばまでに、自動運転車に関する州レベルの「モデルポリシー(model state policy)」策定するよう指示している。その後、米国政府は、そのモデルをもとに、連邦レベルでの政策を具体的に検討していく予定のようだ。グーグルの完全自動運転車のような仕様をFMVSSとの関係でどう扱うか、FMVSSをどのように改訂するか、そして、レベル4においても人間の操作する余地を残すべきかどうかといった問題は、今年の後半以降に政府レベルで本格的な議論が始まることが見込まれる。

文:波多江 崇(弁護士)

 

※修正履歴
当初、「米国政府は、1月にも、今後10年間で、自動運転車の開発のために約400億ドルの投資を行うと公表しており、」としておりましたが、正しくは約40億ドルでした。お詫びして訂正いたします。(3/22 15:30 本文修正済み)

WirelessWire Weekly

おすすめ記事と編集部のお知らせをお送りします。(毎週月曜日配信)

登録はこちら

ロボット法研究会

情報ネットワーク法学会の分科会として、人とロボットが共生する社会を実現するための制度上の課題を研究しています。本稿は、ロボット法に関心のある有志によるものです。