大前　新しい技術に対する「ちょっと怖いな」という感覚はどうして起こるのでしょうか。

佐倉　「怖い」とか「不安」という心理的なリスクの感覚と、数理的に客観的に評価したリスクとはズレがあります。飛行機事故なんて確率論としてのリスクはとても小さいのに、自動車に乗るより怖く感じてしまう。実際は自動車事故で死ぬ確率のほうがよほど高いわけです。原発事故も同様で、客観的な評価で言えばリスクは小さいですが、心理的にはとても大きく感じてしまう。

ここには二つの要素が関わっていて、一つは馴染みがあるかどうか。よく知っている人に約束を破られても許せますけど、初めての人だと「なんだあいつは、失礼な」となりますよね。自動車が事故を起こしたら、うっかり事故なのか、テロなのか、故障なのか、すぐに原因が分かります。一方で、自動運転車は未知の領域が大きい。馴染みのなさ、新奇性そのものに社会は忌避感を感じるんです。

もう一つは「自分がコントロールできる範囲がどれくらいあるか」です。自動車は自分でコントロールできるけど、飛行機はできない。だから心理的なリスクが大きく感じられるんです。自動運転は自分でコントロールできる余地が小さいですから、より不安に感じるのかもしれません。

大前　乗っている人には、どんな仕組みで自動化されているのかが分からないんですよね。そういったドライバーの不安を取り除くために、自動運転車が何を考えているのかをドライバーに分かりやすく提示する方法が模索されています。今はハイテク感があるから自動運転はチヤホヤされていますが、社会に馴染んでいくにつれて社会の目は厳しくなるのではないでしょうか。自動技術って、寿司ロボットと同じでコストダウンの手段でしかないじゃないですか。自動運転タクシーの会社も、職人を使わずに寿司ロボットを使うのと同じような営利主義だと捉えられる。事故を起こせば当然「会社が人件費を抑えるために使った自動運転車で、どうしてうちの子が死ななきゃいけなかったんだ」と批判されるわけです。自動運転がありがたがられるのは今だけで、いずれ「自動システムには価値がない。むしろ人間が運転してくれたほうがありがたい」と思うようになるでしょう。革製品も、工場でできのより職人が手縫いでやったほうが価値があるように感じる。人が時間を割いて運転してくれたと思えるほうがありがたくなってくると思いますよ。

佐倉　そうかもしれませんね。ブレインマシンインターフェース[1]の社会受容性の調査をしたことがあるのですが、多くの人が技術の説明だけを聞くと「ヤバイ」「怖い」「危なそう」というリアクションをします。でも「これを使うとこういう病気が治ります」とメリットも併せて提示すると、「いいんじゃない？」という反応になる。新しい技術であることに真新しさを感じているだけだったら、そのうち反応は悪くなりますけど、自動運転のシステムを使うことで社会が得られるメリットが明確になってくれば、受け入れられるようになると思います。

自動運転車は交通ルールを破れるのか？

──自動運転が実用化されるまでには、解決すべき技術的・制度的課題がまだ多く残されている。私たちは車を運転したり街を歩いたりするとき、人間らしい臨機応変さで次の行動を選択している。対向車のドライバーの顔を伺い、横断中の歩行者がいれば好意的な表情やジェスチャーで先を譲り、ときには事故を防ぐために法律を破ることさえある。こういった車と人とのコミュニケーションや交通ルールについての問題は、今後どのように解決されていくのだろうか。

佐倉　先日聞いた話なのですが、一般道から高速道路に合流するときの加速車線って特に表示がなければ法定速度の時速60キロしか出しちゃいけないそうですね。あそこを60キロ以下で走って、高速道路の車線に合流した瞬間にアクセルを踏み込んで100キロにしなくちゃいけない。でも私たちは普通、加速車線で本線と同じくらいの速度になるよう加速しますよね。あれは厳密に言えば道路交通法違反なんです。

大前　そうだったんですか（笑）。法定速度を守っていると他のクルマの邪魔になる状況はよくありますよね。

佐倉　はい。法律で決まっていることと、社会の中で習慣と常識に基づいて運用していることにギャップがあるんですよね。その他にも、より大きな事故を防ぐために、進入禁止の場所に入らなければならないことだってあります。「何を優先すべきか」という重み付けの判断は、機械には非常に難しいですよね。あらかじめプログラムに「法律を破ってもいいぞ、破らなければダメだぞ」というのを入れておいて良いのでしょうか……。

大前　クルマに法律そのものはインプットしませんけど、最適な行動をインプットとすると、法律が蔑ろにされてしまうということは十分ありえます。また、AIで最適な行動を学習させるようなやり方であれば、法律を破って安全を優先させるような選択をAIが学習することもあると思います。以前行った実験で面白い出来事がありました。大学構内の実験施設で自動運転車が決まったコースをぐるぐる回る実験です。実験協力の学生が乗ってはいますが、運転はしていません。

信号のない交差点で左から業務用のトラックが来ました。トラック側が優先道路なので、自動運転車はそれを認識して停止しましたが、一方でトラックの運転手も変なアンテナの付いた不思議なクルマが来たから譲ろうと思って止まった。どちらも止まったまま動かなくなったので、たまりかねた学生が、「どうぞ行ってください」とトラックの運転手にジェスチャーをして先に行かせたのです。トラックがいなくなって、やっと自動運転車は動き出しました。

佐倉　面白いです。厳密に法律を守ることだけをインプットしていると、円滑な走行ができなくなるんですね。人同士でも同じ方向に道を譲り合ってしまうようなことがありますよね。こういったロックイン状態を避けるための判断は、どうすれば自動化することができるのですか？

大前　例えばですが、譲り合った場面で3秒間お互いに動きがなければ、ちょっと頭を出して相手の出方を見るみたいなプログラムにする必要があるかもしれません。停止する前にも、相手側のクルマの速度や、減速行動の有無といった条件を入れて判断させることができます。そうやって数理的な条件をこちらでインプットしても良いですし、学習型のAIにいろんな条件を再現して学習させれば、「ここでは行く」「ここでは行かない」というのを学習して自動的に判断するようになります。

佐倉　ではこの学生がしている「お先にどうぞ」のジェスチャーの部分は、自動運転車だったらどうするんでしょうか。

大前　「お先にどうぞ」をどう伝えるかという実験も、いろいろな研究機関で試みられています。私がやったのは、クルマに『きかんしゃトーマス』みたいな目をつける実験です。文字で「お先にどうぞ」と表示するだけだと、誰に言っているのかわからない上に、日本語がわからないと読めない。そこで優しくその人を見てあげることで、歩行者が「このクルマは私を認識して止まっているんだな。轢き殺されないな」と感じられることを狙いました（笑）。平面のディスプレイに目玉を表示するだけだと、正面以外は自分が見られている気がしないんですね。トーマスみたいなグリッとした半球状の目だと、横のほうでも見られているような感じになります。他の研究者は路面にプロジェクターで矢印を表示するような実験もしています。

佐倉　単純なシグナルでクルマと通行人とがコミュニケーションできるような媒体が必要なんですね。そういえば、クルマを運転しているときの外部とのコミュニケーションの一つにパッシングがありますが、あれも似ていますね。ライトをチカチカさせるだけで「俺が先に行くぞ」や「どけ」のときもあれば「お先にどうぞ」のときもある。ちょっとしたクルマの位置関係やランプを灯す長さの違いでまったく違う意味になります。そういったケースバイケースで臨機応変なコミュニケーションを、機械にとらせるのは難しい。AIは文脈のようなメタメッセージを理解するのが難しいですから。

大前　機械同士なら無線通信を使えばいいけど、機械と人間とのコミュニケーションはより難しいですね。

[1] 脳の情報を直接読み取って解読し、接続した機械を動かす技術。運動性の障がいを持つ人のリハビリや生活復帰に役立つ期待が高まっている一方、他人の脳を外から操作できることにもなり、さまざまな倫理的側面が懸念されている。

佐倉統（さくら・おさむ）
東京大学大学院情報学環教授、理化学研究所革新新知能総合研究センターチームリーダー

大前学（おおまえ・まなぶ）
慶應義塾大学政策・メディア研究科教授

（『モビリティと人の未来』第1章「自動運転は人を幸せにするか」P26-32より抜粋）

『モビリティと人の未来──自動運転は人を幸せにするか』

自動運転が私たちの生活に与える影響は、自動車そのものの登場をはるかに超える規模になる。いったい何が起こるのか、各界の専門家が領域を超えて予測する。

著者：「モビリティと人の未来」編集部（編集）
出版社：平凡社
刊行日：2019年2月12日
頁数：237頁
定価：本体価格2800円＋税
ISBN-10：4582532268
ISBN-13：978-4582532265