想定外の出来事というのは曖昧な表現である。今後は、高性能センサーから得られる膨大な情報が専門家主観からの脱却を促進し、AIの判断とデータは想定のたたき台に代わる。AI成長過程の誤判断、データの分析から得た確率を外れることは、計算外という。自動運転を受け入れる世論の形成には、トロッコ問題で死の選択を議論するよりも、車道に飛び出てくる子供の行動を分析するほうが近道だ。

さて、空港の設置と出発・到着標準経路の設定には、障害物の高さ、飛行機の高度、速度などに制限が付きものだが、地域の騒音対策を除けばそれらは事故を防ぐ安全対策である。航空業界にはテクノロジーの進歩に伴い管制方式を新たに導入する過程で、レギュレータ（国土交通省、航空局）が立案したものを航空サービスのプロバイダ（各官署の航空管制官）が吟味して改正を要求できる、という国家公務員らしくない対等な横関係がある。私は平成23年10月20日に成田空港で運用が開始された平行滑走路からの同時出発方式を適用でき得る条件について、机上の確率論とシミュレーションの整合性を図る役を担ったことがある。

自動車に道路交通法があるように、航空機には「航空保安業務処理規程 第5管制業務処理規程」という言わば空の交通ルールがある。そこでは無線交信で使用する用語、飛行中の航空機間が最低限守る距離（管制間隔）、緊急機発生時の対応手順等が定められている。離陸後の航空機というのは機種や重量で上昇率が異なり、垂直間の管制間隔（1000フィート≒300m）を維持することが現実的でないため、別々の滑走路から出発する場合でも離陸滑走のタイミングを計って水平間の管制間隔（3マイル≒5.5km）を満たさなければならず、成田空港では出発機が多い時間帯の遅延が問題になっていた。そこで、混雑解消の手段として「平行に配置される2本の滑走路から同時期に同方向への離陸及び直線上昇すること」を許容する新規定の作成案が持ち上がったのだ。無線交信で生じる誤認識や操縦ミスといったヒューマンエラー、突発的なエンジン停止など衝突事故につながりかねない事象を洗い出し、国際連合の専門機関で世界190カ国が加盟する国際民間航空機関ICAOが定めるSMM（安全管理マニュアル）に沿ってリスク評価が進められた。

高速道路で並行に走る自動運転車の適正速度はどれくらいだろうか。SMMでは、事故に発展するエラーを発生の頻度と被害の程度で5段階の評価を付けている。時速120km以上で衝突した事故の致死率は100%に近いが、そういった車両の破壊や複数人の死を招く結果は最も被害が大きいCatastrophic（破滅的）に分類され、その場合、頻度は2番目に低いImprobable（起こりそうもない）以下と評価できなければ許容しない。SMMに、各カテゴリーの数値は定められていないが、例えばICAOの定める飛行方式設定基準では、航空機の進入（着陸に向けて滑走路へ降下する）1回あたりの障害物との衝突確率が1x10の-7乗以下を目標安全水準としている。航空機は9.11の崩壊劇とて計算内で今日も運航しているが、自動運転車のAIはまだリスク評価の段階にいない。Googleの「全自動車が走行した総距離に相当するテストが必要」との意見には同意するが、人間の範囲を網羅しただけではやはり想定外が付いて回るだろう。

航空管制では、航空機が飛行コースを外れて他機へ接近するとき、先に回避指示を出すのは正常に飛行する航空機というのが定石だ。人間の運転を知り尽くした自動運転のAIがこれに同意してくれるかどうか、許容した事故の確率と合わせて質問してみたい。

引用：国際民間航空機関「Safety Management Manual（SMM）」Third Edition 2013、2-29