AIによる民主主義の巻き返しは可能か

• Tweet
• 

前回の文章を書いた契機が、アメリカ合衆国移民・関税執行局（ICE）職員によるルネー・グッドの射殺だったのは間違いありませんが、その文章公開から10日も経たないうちに、今度は看護師のアレックス・プレッティがやはりICE職員により射殺される事件が起こりました。

米国市民が立て続けに正当性が極めて薄い状況下で銃殺され、しかもICE職員が何ら罪に問われないのを目の当たりにすると、米国が「ポイント・オブ・ノーリターン」を越えてしまったのを再確認させられますが、その有様を目の当たりにして、民主主義国家にとって規範意識や建前といった、平時においては時に退屈に見られるものがいかに重要だったかを思い知らされます。

先月開催された世界経済フォーラムで行った演説で、「ルールに基づく国際秩序は終わった」と言い切ったカナダのマーク・カーニー首相に、そうした「建前」はもはや無効だという厳しい現状認識を見ます。「私たちは「移行期」ではなく「断絶」のただ中にいる」というのは、その通りなのでしょう。ワタシが前回の文章の終わりに書いたように、「我々はいろいろな分野で、アメリカに期待しないでどこまでできるのか真剣に考えるべき時にきている」ということです。

しかし、現実には、例えば日常的なネット利用ひとつとっても、米国企業のサービスなしには成り立たない現実があります。既に我々は「デジタル主権」を米国企業に握られているとも言えるわけです。そして、さらに陰鬱にさせられるのは、少なからぬテック企業のトップが、率先して米国の権威主義化に加担しているように見えることです。

そうしたテクノオリガルヒの実例として、ワシントン・ポストにおける社員の大量解雇のニュースとともに、その社主でもある（第一期トランプ政権の時には、ドナルド・トランプと激しく対立もした）ジェフ・ベゾスが権威主義の手先となった変節が話題になりました。長年テック業界を取材してきたスティーブン・レヴィが、「あなたが知っていたシリコンバレーの終わり」で書くように、それは第二期トランプ政権とともに始まった話ではないのでしょう。

だからだろう。公職経験のなかったトランプが17年にホワイトハウス入りする以前から、わたしの記事の調子は変わり始めていた。以前はダビデとゴリアテの話を喩えに使うことが多かったが、いまわたしが書いているのはイカロス神話だ。テック業界のエリート層には、いつもイカロスと同じ傲慢さを感じている。そしてその傲慢こそが、エリートたちをドナルド・トランプへと近づけたのだ。

また、レヴィの以下の文章の苦々しい筆致には、（『ハッカーズ』に始まる）彼自身の過去の仕事に対する後悔すらにじんでいます。

大物CEOが10人ほどでも、同じことが言えるのかもしれない。膝を屈するのをやめれば、シリコンバレーの魂の一部を取り返すことができる。少なくとも、完全に破壊するのは避けられる。その一方で、政府が容易にAI監視国家を実現できる現状に歯止めをかけることもできるだろう。 わたしが、シリコンバレーについて最も思い違いをしていたのは、おそらくこの点だ。これまで記録してきたダビデたちは、恐れ知らず、できることには何でも挑み、チップとインターネットの力を乗りこなそうという情熱に満ちていた。その情熱を、わたしは人格だと勘違いしていたのだ。

今年に入って『破壊系資本主義』という本が出ていますが、民主主義からの脱出を目論むシリコンバレーの政治哲学の増長は、現実世界における民主主義の後退と歩調を合わせています。フォーリン・アフェアーズに掲載された論文によると、「2025年には45カ国が民主主義から離れて、独裁体制に移行し始めた。いまや完全な民主国家とみなせるのは、世界にわずか29カ国しか残されていないという見方もある」とのことで、そこまで来たのかと暗澹たる気持ちになります。

2020年代を通してテック業界の最重要な話題であり続けるであろう人工知能（AI）についても、民主主義の破壊的脅威になるという見方が根強くあります。最近目にしたもっとも辛辣な言葉に、図書館などでの禁書に反対する作家団体の共同創設者でもある作家のマギー・トクダ＝ホールの「ファシズムとAIは、目的を同じくしているかはともかく、お互いを加速させているのは確かだ」があります。

昨年秋に刊行されたブルース・シュナイアーとネイサン・E・サンダースの共著『Rewiring Democracy』は、「AIが政治、政府、市民権をいかに変革するか」という副題からも分かるように、AIを使って民主主義をより強固で参加型のものに再構築できる、という慎重な楽観主義に貫かれた本です。

著者のブルース・シュナイアーは、この連載でも何度も名前を引き合いにしてきた情報セキュリティ分野の第一人者であり、ネイサン・E・サンダースは、機械学習、天体物理学、公衆衛生、環境正義といった多岐にわたる分野を研究するデータサイエンティストです。

この著者二人とも、特にシュナイアーは、前述の民主主義の破壊的脅威としてのAIという見方、AIのリスクや悪用の事例、AI自体のセキュリティ問題を知り尽くしています。そうしたリスクを強調する本を書くほうが、彼らにはずっと容易だったでしょう。

実際、やはり情報セキュリティ分野の専門家であるベン・ロスキーが本書について、「AIを民主主義のために利用する上で最大の障壁はセキュリティだが、その話が第27章になるまで出てこない」「セキュリティなくして信頼は成立しないのに、著者らは今日のAI開発において、セキュリティは後付けの考慮事項だと言わんばかりだ」と不満げに書いているのを読んで思い至ったのですが、本書はシュナイアーの前著『ハッキング思考』の延長上に間違いなくありながらも、彼の本で初めて「セキュリティ本」ではないと言えるかもしれません。

シュナイアーが『ハッキング思考』に至るまで扱う分野を実社会へと広げてきた流れ、そして以前より「公益に資するテクノロジー」を訴えてきたことを知る者としてはそれほど意外ではありませんでしたが、彼が「民主主義」を書名に掲げた本を書くのを不思議に思う人はいるかもしれません。これは、これまで何度も議会で証言し、政府委員会や公的諮問機関での仕事をしてきたシュナイアーの民主主義に対する危機意識を反映しているのは間違いないでしょう。

『Rewiring Democracy』は、『ハッキング思考』でも論じた、速度、規模、範囲、複雑度という4つの次元でのAIの人間に対する優位性を踏まえながら、行政、立法、司法、そして選挙（に代表される市民の政治参加）などの各分野でどのようにAIが有効活用できるか（そして、どのように悪用もできるか）を豊富な事例とともに解説しています。

ワタシが本書を読んで連想したのは、アーヴィンド・ナラヤナンとサヤッシュ・カプールが提唱する「普通のテクノロジーとしてのAI」論との共通性です。両者とも、AIは我々人間の世界を必然的に破壊する、あるいは無条件で救済するといった過剰な見方をしりぞけた上で、周辺状況や制度次第でAIのもたらすものは変わりうると説きます。

ナラヤナンらの「普通のテクノロジーとしてのAI」論が思考の枠組みとすれば、本書の議論は実際にAIを制度に組み込む事例集、政策提言書と言えます。そして、透明性、説明責任、公共性の観点から、AIがどこで誰にどういうフィードバックを受けて使うべきかを論じています。その背景には、「民主主義は情報システムである」という著者らのスタンスがあります。

当然ながらと言うべきか、米国のビッグテックは、既に民主主義の機能を準インフラとして事実上担っているにも関わらず、透明性、説明責任、公共性の観点で十分な仕事をしておらず、少数の有力企業によるAI技術の掌握は、民主主義に対するそのリスクをさらに悪化させると著者らは見ています。彼らは飽くまで、権力を分散させるAI利用を歓迎し、権力を集中させる利用に抵抗することを指針としています。

本書のはじめのほうで、AIのシステムリスクを最前線に据えた研究を行っている、『AIの仮面を剥いでやる』のジョイ・ブオラムウィニ、『AIには何ができないか』のメレディス・ブルサード、『抑圧のアルゴリズム』のサフィヤ・U・ノーブル、そして先ごろ『「恥」に操られる私たち』の邦訳が出たキャシー・オニールといった人たちを「倫理的で公平かつ公正なAIシステムを提供させるべく、企業権力に説明責任を求める正しいアプローチを取っている」と称賛しますが、名前が挙げられた研究者が全員女性なのは示唆的です。

さて、東浩紀は『訂正可能性の哲学』において、ユヴァル・ノア・ハラリや落合陽一の著書に見られる「あまりにも複雑になった世界においては、もはや人間の貧しい自然知能に統治を任せることのほうが危険で無責任であり、これからは民主主義を守るためにこそ、むしろ政治から人間を追放し、意志決定を人工知能に任せるべきなのではないかと提案する新しい政治思想」を「人工知能民主主義」と呼び、強く批判しました。

『Rewiring Democracy』で著者らは、現代の政治家は既にある種の「集合体」であり、実際には一人の人物を公の顔とする複雑な社会技術システムという意味で「サイボーグ的」だと指摘します。そして、近い将来、政治家が法案の起草、選挙運動や政策決定をAIに頼ることは当然と見ています。一方で、政治家になるために必要なスキルが変わり、リーダーシップの価値は低下し、今日以上に政治の舞台で役者であるカリスマ的な個人が利益を得るようになると見ているのが面白いところですが、彼らの論には人間の能力に対する失望と理工系のシンギュラリティの夢の安易な野合は見られません。

そうした意味で、本書は東浩紀の「人工知能民主主義」批判から逃れられているとワタシは考えますが、『格差の自動化』のヴァージニア・ユーバンクスがNatureに寄稿した書評において、「しかし、今日の世界が直面する厄介な政治的課題を小さく見せたり、歪めて単一の解決策――AI――に収めようとするあまり、著者らは人間として共生する苛立たしくもあるが輝かしい営みを不当に扱っている」と書いているのを見ると、そう考えない人もいるかもしれません。

ユーバンクスは、本書の根本的な前提である「民主主義は情報システムとして理解するのが最適である」という理解を、本書が目指すものを致命的に損なっていると批判します。民主主義はフローチャートでも実行可能なコンピュータコードでもないし、政府を情報システムと捉えるモデルには、民主主義が達成しようとする複雑さと困難さ、あるいは民主主義に求められる基準の余地はない、というわけです。

ユーバンクスの以下の批判は（個人的には少し厳しすぎると思いますが）、東浩紀の「人工知能民主主義」批判にも通じますし、『格差の自動化』の著者らしいと感じました。

民主主義が情報システムであるという前提は、AIが統治に突きつける最も厄介な課題を覆い隠す。それは、誰もが信頼でき、正確で、タイムリーなデータに平等にアクセスできれば、意見の相違は解消されるという前提に基づいている。しかし、私たちは真に整合しない利害が存在する世界に生きているのだ。 シュナイアーとサンダースが示唆するように、政策プロセスは単に好みを集計するものではない。個人にとって、あるいは大多数の個人にとって最善のことが、必ずしも集団にとって最善とは限らない。統計モデルは、いかに洗練されていようとも、平均値に収束する傾向があり、ベル曲線の最も肉厚な部分に属する人に最も効果を発揮する。自動化された意思決定は、外れ値や境界事例に対して非効率であることで悪名高い。

本書を読み終えたユーバンクスは、著者らはある意味、政治という人間的な営みを不快で、汚らしいとすら感じているのではという印象を受けたと漏らしていますが、ともかく本書の評価は、そのユーバンクスも認める、商用ツールに代わる市民主導で公益のために開発される「強固な非企業的代替案」育成のビジョン（の実現）にかかっているでしょう。

その構想を著者らは「公共AI（Public AI）」と呼んでおり、本書において以下のように説明しています。

公共と民間のAI開発における決定的な違いは、インセンティブにある。民主主義社会では、政府機関は公衆に奉仕する義務を負い、利益追求を目指す必要はない。民主的統制のもとで公共の利益のために開発される「公共AI」と呼ばれる新たなカテゴリーの製品は、その構成員がそれを求めており、また開発者がお金の面でなだめる株主を持たないので、民主主義の原則をより容易に遵守できる。 この種のAIは、過去の世代によって築かれた公立学校や高速道路網のように、21世紀における新たな普遍的経済インフラになりうる。民主的統制は、企業AIとは根本的に異なる信頼基盤になるが、万能薬ではない。 公共AIは、ある国家が自らの価値観と欠陥に基づき、自国民のために（あるいは自国民を抑圧するために）構築されるので、国家主義的になりうる。米国人は中国の公共AIを信頼しないし、その逆も然り。あなたは自国政府がAI開発を管理するのを信頼できないかもしれない。他国政府が開発したAIを信頼できないかもしれない。しかし、民主主義は、特に非競争市場において運営方法への発言権を企業よりも国民に与える。政府は、産業プレイヤーが達成できない信頼性のあるAIのユースケースを実現できる。公共AIと民間AIの共存が目標であり、独占に対する防波堤となり、透明性、可用性、応答性に関して競争の基準を設定する。

本書の著者らは、民主主義政府に対して、公共の利益を生み出すためにAIエコシステムを積極的に形成する必要性、つまり企業モデルに代わる選択肢としての「公共AI」の構築を真剣に受け止めるよう強く求めています。

そして、民主主義に資するAIの開発や運用の基盤となる組織化原則として、以下の「民主主義を強化するAIの七原則」を提案します。

　1. AIは広範な能力を備えなければならない
　2. AIツールは広く利用可能でなければならない
　3. AI開発者とツールは透明性がなければならない
　4. AI開発者は意味のある応答性を備えなければならない
　5. AIは積極的にバイアスを除去しなければならない
　6. AIツールは適度にセキュアでなければならない
　7. AIツールとその開発者は搾取的であってはならない

もちろんこれが「公共AI」の要件になるわけですが、面白いのは、国家がAI開発に乗り出せば、国家主義的になりうる可能性を著者らが認めていることです。しかし、それでは透明性やバイアスの除去で問題が出るのが容易に予想できます。そして、どの国もこの七原則を備えるAIを開発できるとは限りません。

ここにいたって、この文章の冒頭に書いた「デジタル主権」の問題が再び頭をもたげるわけですが、その意味で「オープンソースAI」は重要な選択肢になることが分かります。

そして、イタリア人であるオープンソース・イニシアティブのステファノ・マフリが、クラウドとモバイルのプラットフォームを米国企業に握られたのを指して「オープンソースの失われた10年」と呼び、AI分野までそうなってはいけないという危機意識のもと、オープンソースAIの定義の策定に尽力したのはそういうことだったのか、と飲み込みの悪いワタシも納得するわけです。
（yomoyomo／翻訳家）

Tags

• AI
• テクノオリガルヒ
• デジタル主権
• オープンソースAI