アメリカではすでに裁判で犯罪者が再犯する確率等をビッグデータを使用して推測し、犯罪者自身の社会に対するリスクを計算し、刑期を決めるという試みが実施されています。

コンピューターがが司法判断を行うというのは実は新しい話ではありません。 例えば1963年にC. LawlorがAmerican Bar Association Journal　Vol. 49, No. 4 (APRIL 1963)に発表した「What Computers Can Do: Analysis and Prediction of Judicial Decisions 」という論文では、 司法判断というのは科学的な思考によって行われるのであるから将来はコンピューターがこれを代替することは可能であるということを述べています。

確かに法的な判断というのは客観的な事実やデータを基に、 ルールに沿って結果を決めるという行為でありますから、そこに人間の偏見や思い込みが入らない形で判断ができた方が妥当でしょう。

人間の判断を絶対的なものと考えず 合理性を追求するところは大変アメリカ的な考えではないでしょうか。 これはアメリカで社会科学が発達してきたのと同じように思います。 政治学、 経済学、 経営学、 社会学と言った学問は何も人間の行動や考え方というの科学的に分析しより良い社会をつくるための学問であります。 これらが最も進んでいるのはアメリカです。

アメリカではかなり前からこのように法的な判断に科学の力機械を使うことを想定しています。例えばリスクの高い犯罪者の予測を行う試みは1920年代から 取り組まれています。

ところがこういったツールの使用は、実装されてはいるものの、大変な議論になっています。

最近話題になったのはウィスコンシン州のEric Loomis氏のケースです。

Loomis氏は、 2013年に車から銃撃したという疑いで逮捕されています。 Loomis氏はより軽い刑を望んだため、裁判所は調査報告書作成しましたがその際に犯罪者の最判リスクなどを計算するツールであるNorthpointe社のCOMPAS (Correctional Offender Management Profiling for Alternative Sanctions)の 算定結果も 盛り込みました。 Loomis氏は、 政府に登録された性犯罪者であるため大変リスクの高い犯罪者であると判断され6年間の禁固刑をいい渡されました（「Secret algorithms that predict future criminals get a thumbs up from Wisconsin Supreme Court」）。

Loomis氏は、COMPAS の使用は、法の「due process」（適正な手続き）を無視したものであり、人権侵害だとして裁判のやり直しを要求しています。

これに対して、ウィスコンシン州の最高裁はこの訴えを却下し、 判決を下した地方裁判所は同氏の人権を侵しておらず、このツールだけに沿ってリスクスコアを判断したわけではないので 問題はない、としているのです。

ところが、ProPublicaの調査によれば、このツールは人種的に偏見があるということがわかったのです。COMPASを使用していたフロリダのブロワード郡では、白人と黒人を比較した場合、黒人の方が意図的に高いリスクスコアを適用されているということがわかりました。

このシステムの使用に関して、司法サイドから様々な疑問が出ています。例えばウィスコンシン州の裁判官であるShirley Abrahamson氏は、COMPASの仕組みが理解されていないことは、司法的、技術的な問題であり、このようなツールがどのように機能するのか透明性がないことは問題である、としています。

この例は、司法だけではなく今後AIでが社会で多く使われていく場合に問題になる論点があぶり出されています。次回の記事ではその詳細を考えてみます。