前回、プラットフォーム企業がウェブを中央集権的でクローズドなものにしている話を書きましたが、そうしたプラットフォーム企業が提供するサービスの根幹にある「アルゴリズム」が問題視される事案が最近いくつかありました。

それは例えば、Facebook が人間の編集者を解雇した途端にアルゴリズムがデマをピックアップしてしまった件であったり、ベトナム戦争の有名な報道写真「ナパーム弾の少女」を次々削除した後、批判受け撤回した件であったり、日本でも食べログの点数操作疑惑がありました。

まさに『アルゴリズムが世界を支配する』と言いたくなりますが、それならばドリース・バイテルトが主張するように、「食料品や医薬品について検査や取り締まりを行う食品医薬品局（FDA）にあたる監視組織を、アルゴリズムについても設けるべき」となるのかというと、問題のアルゴリズムが企業の収益性のキモである以上、実現性は薄いだろうと言わざるをえません。

当たり前ですが、企業はなんでもオープンにできるわけではありません。それでも前回の文章で主にやり玉にあがっていた Google と Facebook は、内製したソフトウェアのソースコードを多くオープンソースとして公開しており、その規模だけみれば、この二大巨頭はオープンソース企業としても世界有数の企業です。

しかし、Tumblr の共同創業者であり、Instapaper などの原作者であるマルコ・アーメント（Marco Arment）が指摘するように、大企業が何かをオープンにするのは利他行為ではなく、そのオープンにする何かをコモディティー化しようとしていると思って間違いなく、逆に収益源だったり、競合に対する障壁を維持したり、重要な競争優位をもたらす部分をオープンにすることは基本的にありません。

結局、ネットにおけるプラットフォーム企業のアルゴリズムは「ブラックボックス」であり続けます。その問題をフランク・パスクアーレ（Frank Pasquale）は『The Black Box Society: The Secret Algorithms That Control Money and Information』で既に主題にしていますが、著者が書くように「インターネットはプライバシーも悪と捉えているようだ」となっては困るというのが、ネット利用者として思うことです。

この強大な力を持つブラックボックスとしてのアルゴリズムの問題について、ちょうどティム・オライリーが「21世紀の重要な問題：誰のブラックボックスを信じるか？（The great question of the 21st century: Whose black box do you trust?）」とズバリなタイトルの文章を書いているので、今回はこの文章を紹介したいと思います。

オライリーは数年前に、医療保険会社のカイザー・パーマネンテの要職にある人物から、タイトルにある「誰のブラックボックスを信頼するかが、21世紀の重要な問題になるだろう」と言われた話から文章を始めます。その発言は、医療分野におけるアルゴリズムの重要性の高まりを指したものでしたが、オライリーはそれがもっと幅広い分野に当てはまることに気づきます。

そこでオライリーが持ち出すのは、例によって Facebook と Google なのですが、それらのアルゴリズムによって各人が日常的に目にするニュースの傾向が変わるというのは、イーライ・パリサーが『フィルターバブル──インターネットが隠していること』でも書いていた話です。

検索エンジンとソーシャルメディアからとにかく注目を集めないと成り立たず、そのため報道の質が損なわれるネットメディアの収益構造の問題をオライリーは指摘しますが、それは既に日本でも共通認識になっていることでしょう。オライリーは、特定のアルゴリズムが信頼に値するか評価する指針として、以下の4つを挙げています。

1. アルゴリズムの作者がどんな出力結果を求めているか明確にし、外部の観察者がその出力結果を検証できる。
2. そのアルゴリズムが成功しているか測定可能である。
3. アルゴリズムの作者の目指すものが、そのアルゴリズムの利用者の目指すものと足並みを揃えている。
4. そのアルゴリズムは、その作者と利用者をより良い長期的な意思決定に導くか？

オライリーはまずこの基準を Google 検索と Facebook のニュースフィードに照らし、1から3までは満たしているが、4の意思決定については、短期的には満たしているが、長期的となるとどうだろう、と留保しています。

次にオライリーが引き合いに出しているのは自動運転の乗り物です。「最近では車の自動運転がいろいろ話題になってるけど、もう随分前から飛行機って大方自動運転なの忘れてない？ もちろんパイロットはいるけど、その役割はロボットの管理者でありバックアップなんだよ」とオライリーは書きます。

ワタシなどそれを聞いて連想するのは、ニコラス・カーが書く「自動化は我々をバカにする？」話（邦訳は『オートメーション・バカ 先端技術がわたしたちにしていること』）だったりして不安感がかきたてられるわけですが、それはともかく、飛行機の自動操縦を上記の4つの基準に照らすと、やはり1〜3までは文句なしに合致（利用者の命がかかっているので、逆に余計なことを考慮する余地がなくなる）、しかし4に関しては、長期的に見ると飛行機の所有者やパイロットと社会の間にはちょっと乖離があるかもしれないとオライリーは指摘します。

そこでオライリーが持ち出すのが、ワタシが連想した「自動化は我々をバカにする？」話で苦笑いしてしまいましたが（つまり、あまりに自動操縦に依存すると、操縦士に必要な経験が奪われるので、いざ手動で飛行機を操縦する際に事故の可能性が高まる）、完全に自動操縦にするには飛行機をアップグレードするコストが法外になる可能性も指摘しています。そして、ここでやはり自動操縦が人間の操縦士の職を奪う問題が頭をもたげるわけです。

そしてオライリーは、この分析は自動運転車にもまったく同じことが言えると書きます。自動運転車の導入で問題になるのは、自動運転アルゴリズムの安全性の問題ではなく、既存の車やトラックを置き換えるコストになるというわけです。やはり、現在車の運転で生計を立てている人間の処遇が問題になるわけです（意外に知られていませんが、アメリカの大多数の州でもっとも従事する人が多い職業は「トラック運転手」だったりします）。

もっともオライリーは、この手の「AI が人間の仕事を奪う」式の言説に懐疑的です。先日開かれた O'Reilly Artificial Intelligence Conference の基調講演のタイトルはズバリ「我々の仕事が尽きない理由（Why we'll never run out of jobs）」で、そこで彼は「（どれだけAIが普及しても）われわれが解決すべき問題が尽きることはない」とその根拠を述べています。

面白いのは、オライリーはこの4つの基準を「政府による新技術の規制」にもあてはめ、どれも満たしてないねという話をしていることです。ワタシなど政府による規制なんてだいたいそんなものじゃないかと思ってしまいますし、そもそも政府の規制を「アルゴリズム」と呼んでよいか疑問が残るわけですが、それでもこの話を持ち出すのは、オライリーがかつてぶちあげた「プラットフォームとしての政府」を目指す Gov 2.0 運動が十分に成功しなかった恨みがあるのでは、というのは、うがった見方でしょうか。彼が昨年結婚したジェニファー・パルカ（Jennifer Pahlka）は、シビック・ハッカーが行政の課題を解決するのを目指す非営利組織 Code for America の創始者でもあり、Gov 2.0 を掲げるイベントはもうやってないにしろ、未だオライリーにとってとても身近な話題なのでしょう。

いずれにしろ、彼にとっては、政府による規制こそが「ブラックボックスとしてのアルゴリズム」の分かりやすい失敗例なのは間違いなさそうです。

オライリーが掲げる4つの基準で主に問題になるのは、4の「長期的な信頼」のようです。ここでオライリーは、ジャーナリズムにおけるアルゴリズムの役割の話に立ち返ります。彼の念頭にあるのは、大詰めを迎えている米大統領選挙の報道です。オライリーは、ジャーナリズムは実質的な問題を深堀りすることに失敗しており、競馬レベルの報道に終始している現状を嘆きます。

現在の我々の社会を支配する「最上位のアルゴリズム（master algorithm）」は確かに存在するが、それは『The Master Algorithm』というタイトルの書籍（なお、この本はかのビル・ゲイツも AI 分野の必読書に挙げています）を書いているペドロ・ドミンゴス（Pedro Domingos）には悪いけど、AI の機械学習の強力なアプローチとは似ても似つかぬもので、それはまた政府による規制とも違い、何十年も前から現代のビジネスに埋め込まれた概念なんだとオライリーは書きます。

そして、そのルールを変えるべきときだとオライリーはぶちあげるわけですが、そこから先は、昨年ワタシも取り上げた、未来の経済全般をターゲットとする Next:Economy Summit がちょうど来週のはじめに開催されるので、そちらに来てくださいという感じでしょうか。

オライリーが引き合いに出す、CBS の最高経営責任者であるレスリー・ムーンブスの「ドナルド・トランプの選挙運動はアメリカのためにはならないだろうが、CBS にとってはすこぶるありがたいんだな」という発言の居心地の悪さは、長年に渡り連邦所得税を払ってないのが暴露された後も大してダメージを受けていないドナルド・トランプの現状に重なるわけですが、今回の大統領選挙は既存の報道機関だけでなく、Google や Facebook などのプラットフォーム企業にとっても正念場だと書きます。

既存の報道機関に報いるアルゴリズムが、ユーザに恩恵をもたらすアルゴリズムと相反する場合、Google や Facebook は果たしてそのどちらに与するかということのようです。ここまでくると日本人であるワタシには話の広げすぎにも思えるのですが、オライリーが提唱する、アルゴリズムが信頼に値するか判定する4つの基準は参考にする価値がありそうです。

日本の事例では、食べログが標準検索結果に「広告優先」と明記するようになりましたが、騒動の元である点数操作疑惑は手つかずのままで、そのアルゴリズムは「ブラックボックス」のままです。食べログのアルゴリズムを件の4つの基準にあてはめると、問題が見えやすくなるかもしれません。