公益テクノロジーは国家に奉仕するのか――AI時代のテクノロジーと権力

• 

旧聞に属しますが、先月バーニー・サンダース米上院議員がニューヨーク・タイムズ紙に、人工知能がほぼ間違いなく世界史上最も変革をもたらす技術であり、また生成AIが人類の集合知を学習することで成立していることを踏まえ、AI企業の利益の50％を国民基金に組み入れ、米国民にAI企業への直接的な所有権を与える法案について寄稿しました。

その「米国AI主権国家基金法案」は実際に提出されましたが、そのまま成立する可能性は極めて低いですし、その問題点は財経新聞の記事にある通りです。ただ個人的には、サンダース議員がAI基金の根拠として、アラスカ州が州の石油収入を原資として政府系ファンドを設立し、 数十年にわたりアラスカ州民に毎年配当金を支払ってきた事例を挙げているのに、バラス・ラガヴァンとブルース・シュナイアーがやはりアラスカの石油の配当金に倣った「AIの配当」を推していたのを思い出しました。

案の定、ブルース・シュナイアー（とネイサン・E・サンダース）は我が意を得たりとばかりに、「バーニー・サンダース上院議員のAI主権国家基金法案は良いものだ。しかし、我々にはもっと良い案がある」という文章をガーディアン紙に寄稿しています。

シュナイアーらは、テクノロジーの寡頭支配者たちへの権力、富、支配の集中こそが、AIがもたらす最も差し迫ったリスクであると見ている点でサンダースに同意し、AI企業に対する民主的な統制の確立、そして急騰するAI企業の評価額から生じる経済的利益の国民への還元という法案の二つの目標を全面的に称賛しています。

ただ、彼の法案にあるAI企業の公的所有が、AI利用を促進するために政府の規制撤廃や労働者の搾取が容認されるといった形で、結果的にAI企業が政府に影響力を行使する可能性を高めることにつながる問題を指摘した上で、上に挙げた「AI企業に対する民主的な統制の確立」と「その経済的利益の国民への還元」という二つの目標を切り離したほうが、より良い解決策になると説きます。

具体的には、経済的利益の国民への還元はAI企業への課税（例：エリザベス・ウォーレン上院議員が提案するデータセンターのエネルギー使用に対する物品税、マーク・キューバンが提案するAIトークン税）で賄い、公共の利益のためにAIを再構築するのは、民主的な統制下にある公的機関によって開発運用されるAIモデルを確立することで実現します。

後者は、ワタシも「AIによる民主主義の巻き返しは可能か」で取り上げたシュナイアーらの『Rewiring Democracy』で説かれる「公共AI」論ですが、すべての国が自国のAIインフラに投資してデータ主権と競争力を守る「ソブリンAI（sovereign AI）」の概念と混同してはいけないとも戒めています。

そうしてシュナイアーらは「公共AI」の概念を売り込んでいるわけですが、思えばこの人もかつての暗号学者からかなり離れたところまで来たなと思います。こう書くと批判しているようですが、「日本でも重視されるべき「公益テクノロジー」とそのための人材」でも取り上げたように、シュナイアーは以前より「公益テクノロジー（Public-Interest Technology）」、そして技術者が公共政策に関与することの重要性を訴えてきた流れがあり、彼が変節したわけではありません。

今この「公益に資するテクノロジー」というフレーズだけ聞けば、大変話題となったアレックス・C・カープとニコラス・W・ザミスカの『テクノロジカル・リパブリック 国家、軍事力、テクノロジーの未来』に接続するのもそんなにおかしなことではありません。

『テクノロジカル・リパブリック』の第一章の冒頭における「シリコンバレーは道を見失った」という宣言は、シュナイアーの「インターネットは道を誤った」という嘆きにもつながるはずです。

しかし、『テクノロジカル・リパブリック』と『Rewiring Democracy』を並べて論じている人をワタシは見たことがありません。

現代社会ではテクノロジーと公共政策が深く絡み合い、ソフトウェアが法律以上に人々の行動を制約しうるので、技術者と政策担当者を結びつける必要があるというのがシュナイアーの「公益テクノロジー」論の出発点であり、技術者は市場の要請に従って消費者向けの便利アプリを作るだけでなく、公共の課題に関与すべきというカープらの主張に相当重なります。要は両者とも、技術者は社会から隔絶した無色透明な職人ではありえないし、技術者は自分の書いたコードが誰の利益に奉仕しているのかを意識すべきという認識を共有しているにもかかわらず、です。

それでは、シュナイアーの「公益テクノロジー」論とカープらの『テクノロジカル・リパブリック』を分かつものは何でしょうか？

まずは、「公共」という言葉が指す単位というか粒度の違いが挙げられるでしょう。シュナイアーが指す「公共」はかなり広くとられており、社会正義や共通善といった概念にも、国家にも企業にもNGOにも適用できますし、多元的です。その点で、テクノロジーという武器で社会課題を解決し、社会の役に立ちたいという多くのエンジニアに共通する願望に訴える、オードリー・タンとE・グレン・ワイルの『PLURALITY　対立を創造に変える、協働テクノロジーと民主主義の未来』との親和性が言えます。

一方でカープらの『テクノロジカル・リパブリック』において中心に来るのは、明確に国家であり、それも何より米国です。シュナイアーらの「公共AI」論も、ビッグテックだけにAIを任せず規制機関の必要性を説くなど政府の役割を重視していますが、一方で国家を民主的に統制するために技術者の力が必要と考えているのに対し、カープらはアメリカという国が地政学的競争を勝ち残るために技術者の力が必要と考えているという違いがあります。

暗号学者というシュナイアーの出自を考えれば当然ですが、サイバーセキュリティやプライバシーの観点で、安全の名の下での国家による国民の監視や権力集中に対して彼は敏感です。一方でカープがピーター・ティールらと共同創業したパランティア・テクノロジーズは、監視国家化・権威主義化する米国の主要プレイヤーであり、自由を守るために強い軍事防衛能力とその優位性が必要であり、技術者はもっとそのために国家プロジェクトに関与すべきとみる点で、両者ははっきり距離があります。

カープの志向について、都築正明は「テクノロジストが夢見る国家と奇妙なニューロダイバーシティ」の「第1回 テクノロジストの政治マニフェスト」において、『テクノロジカル・リパブリック』に埋め込まれた「看過できない前提」として、以下のように書いています。

本書は“国家”と“公共”というタームをほぼ同義に扱っている。国家の安全保障を強化することが公共善であるという前提は、本書全体を貫いている。しかし近代民主主義において国家と公共は必ずしも一致しない。国家が監視能力を強化することは、同時に市民の自由を侵食する可能性を含んでいる。国家の利益と個人の権利との緊張関係こそが近代政治の核心であったはずだ。この点はパランティアという企業の歴史とも重なる。同社はテロ対策や軍事作戦、移民管理などに技術を提供してきた。そこで開発されたデータ統合技術は安全保障上の価値を持つ一方で、監視社会のインフラにもなりうる。本書ではその2面性が十分に論じられない。技術の公共性が、国家目的へと回収されているのである。

この後に続く「技術者エリートによる統治への期待」、「AIをめぐり“例外状態”の論理を採用している」点にもワタシは同意しますし、そうした前提がパランティア・テクノロジーズの監視事業の正当化と免責につながる厚顔さも指摘せずにはいられません。以下、「第3回 「愛国心」はだれのものか」から引用します。

カープの『テクノロジカル・リパブリック』はこうした実態の上にある。本書でカープは「信念を失ったシリコンバレー」を批判し、国家的使命へのコミットメントを説く。だがこの語りは根本的な利益相反を抱えている。本書が「本来テクノロジーが向かうべき課題」として挙げる領域は、パランティアが収益を得ている領域と正確に重なる。

さらにパランティアとICEのコミュニケーションは「移民＝侵略・犯罪・テロの脅威」という恐怖のフレームを採用し、ハイテク法執行を「人民の意志」の中立的な実現として正常化する。監視される側は犯罪者として超可視化され、システムの受益者とされる「アメリカ国民」はその内部動作から遮断される。カープが本書で批判する「同調圧力」「信念の喪失」とは別の権力作用──可視性と不可視性を操作することで特定の人々を排除する権力──が、ここで静かに作動している。

カープは「テック企業は愛国心が足りない」と嘆き、米国のビッグテックが政府や軍のプロジェクトに関与したがらないシリコンバレーのエンジニアを批判しています。カープは、マリアナ・マッツカートの研究を引き合いにして、インターネットやGPSをはじめとするデジタル経済の基盤技術の大部分が、防衛研究機関を通じて行われた持続的な公的投資の成果であることを指摘しています（余談ですが、マッツカートをはじめ、デヴィッド・グレーバー、マニュエル・カステル、パウロ・フレイレといった左派の学者の論説を臆面もなく引用して自説を補強しているところにカープらの手強さを感じます）。

一田和樹が指摘するように、米国のビッグテックが政府や軍のプロジェクトに関与したがらなかったというのは端的に事実誤認なわけですが（そうでなければ、アメリカ国家安全保障局による国際的監視網についてのエドワード・スノーデンの暴露はありえなかったわけで！）、カウンターカルチャーの申し子としてのシリコンバレーという神話が大手を振ってきた歴史が確かにあります。

例えば、ジョン・マルコフ『パソコン創世「第３の神話」 カウンターカルチャーが育んだ夢』は、冷戦下における国防産業の軍事研究と1960年代のカウンターカルチャーという、一見相反する二つの世界が交わった結果としてパーソナルコンピュータが生まれたというのをテーゼとする本であり、シリコンバレーの出発点が軍事予算だったことが、それとカウンターカルチャーの両方に関わったダグラス・エンゲルバートという人物を中心にして明確に書かれています。が、読者の印象に残るのは、副題にも入っているカウンターカルチャーのほうでしょう。

起業家のスティーブ・ブランクは、2008年の講演「シリコンバレーの秘史」において、マルコフの『パソコン創世「第３の神話」』を優れた仕事と称えながらも、マルコフが描いた1960年代より前の1940～1950年代に着目し、スタンフォード大学の教授にして工学部長だったフレデリック（フレッド）・ターマンが、大学、民間企業、そして政府（軍）を結びつける現在の「産学軍連携」の仕組みを作り上げたと主張しています（ターマンの仕事については、マーガレット・オメーラ『The CODE シリコンバレー全史 20世紀のフロンティアとアメリカの再興』にも詳しいです）。

これは世界中の政策立案者が問うてきた「シリコンバレー以外でシリコンバレーを作ることは可能か？」にも関わるものです。シリコンバレーの起業家精神、エコシステム、産学連携のシステムそのものが、そもそもは米軍の研究とターマンの戦略によって生み出された一種の軍事システムそのものだったという結論が正しいとすれば、第二次世界大戦中の科学者、技術者、軍との緊密な協力関係を称賛し、今のシリコンバレー人種が享受している平和と自由は、まさにその米軍による武力行使の脅威によって支えられていたと見るカープらの主張は、頭ごなしに否定できないわけです。

『テクノロジカル・リパブリック』と『Rewiring Democracy』を並べ、どちらの主張に妥当性があるかといえば、ワタシ自身は『Rewiring Democracy』寄りですが、書籍としての主張の迫力は、『テクノロジカル・リパブリック』に分があるのを認めざるをえません。

その迫力は、柳澤田実が書くところの「共感せざるを得ない願望」に起因するものでしょう。

本書の根底には、同時代を生きる私たちの多くが共感せざるを得ない願望がある。その願望とは、個人として自由でありたいが、同時にその欲求を社会のために生きることと両立したいという切実なものだ。集団への帰属意識を忌避した結果、金儲け以外の目的を持つことができないという、テックのみならず現代人全般に見いだされる心理的傾向への嫌悪が、本書には何度も顔を出す。

しかし、迫力があるということと、その主張の正当性は明確に分けて考えるべきであり、総体として『テクノロジカル・リパブリック』は主張への偏向や欠点も多く、一田和樹が書くところの「うんちく話」主体となる第3部以降は欠点が特に目につく印象があります。

JS・タンは「私がパランティアの本を読んだんで、あなた方は読む必要はないです」において、シリコンバレーのリベラルな価値観に対する軽蔑に目がくらんでしまい、この業界を単一のイデオロギー的ブロックとしてしか理解できていない著者たちの近視眼的な見方、2010年代にシリコンバレーの起業家が消費者向けビジネスに夢中だったのは、（シリコンバレーのルーツに米軍があるにせよ）インターネットの台頭とゼロ金利時代を背景に、消費者向けプラットフォームこそ手っ取り早く莫大な利益を生み出すビジネスモデルだったこと、逆に言うと2020年代、特に第二期トランプ政権下でGoogleをはじめとするビッグテックは軍との契約に積極的であり、『テクノロジカル・リパブリック』の主張は既に成立しなくなっている点について批判しています。

結局のところ、『テクノロジカル・リパブリック』が描き出すシリコンバレーの失敗は、印象的だし、反論しがたいものだ。しかし、その説明は究極的には誤っており、極めてイデオロギーに偏向している。消費者向けテクノロジーに傾斜し、軍事分野から距離を置いたからといって、アメリカの技術者たちに野心が欠けていたわけではない。彼らの野心は、これまでも現在も、そしてこれからも、利益を最大化することにある。カープとザミスカが、このずっと単純で、はるかに説得力のある説明を認められないのは、それを認めてしまうと、パランティアの事業に何ひとつ崇高なところがないと認めることにもなるからだ。パランティアもまた、金を追い求めるありふれた企業に過ぎない。

面白いのは、タンが「テック右派」は一枚岩でなく、テクノ・インダストリアリズム（techno-industrialism、例：イーロン・マスク）、テクノ恩顧主義（techno-clientelism、例：マーク・アンドリーセン、デヴィッド・サックス）、テクノ・ナショナリズム（techno-nationalism、例：カープやザミスカ、そしてエリック・シュミット）の3つに分類して差異を見出しているところです。

例えば、イーロン・マスクは、宇宙開発や自動車や軍事関連技術など、物理的で防衛にも関連する資本集約的な「ハードテック」を手がけているので、カープらは『テクノロジカル・リパブリック』においてマスクを支持していますが、マスクにとって国家は奉仕する対象ではなく、飽くまで利用の対象でしかないことを、クイン・スロボディアンとベン・ターノフが『マスキズム 新たな独占の時代』において「サービスとしての主権（sovereignty-as-a-service）」と呼んだことを引き合いにしています。

これは重要な指摘であり、これからは「テック右派」を論じるにしろ、「テック右派」ひとからげではなく、きめの細かい批判が必要になるでしょう。

Tags

• 国家安全保障
• デジタル主権
• 公共AI
• テクノロジー政策
• 生成AI