先週、米上院の公聴会に召喚されたOpenAIのサム・アルトマンCEOが、「AIに規制は必要」と発言したことが話題になりました。ディープラーニング分野に多大な貢献をしたAI研究の第一人者であるジェフリー・ヒントンが、Googleを退社して「AIは人類の脅威になる」と警鐘を鳴らすのと合わせ、今のAIを巡る報道には不安をかきたてる浮足立った空気があります。

冷静に考えれば、AI開発を免許制にすべきという規制を求めるサム・アルトマンの発言は、オープンソースによるコモディティ化を牽制しながら、市場で優位性を確保したところで規制を求めるルールメイキング戦略の定石に沿ったもので、要は現状の優位性の定着が目的であり、驚くところはありません。

ただエズラ・クラインによると、リバタリアン気質が強く政府の規制をなにより嫌ってきたテック業界でも多くの人がAIが規制されるのを切望しているようで、彼はそれに驚いています。これについてはダナ・ボイドが面白いことを書いており、昨年から続くテック企業における大量解雇と、それ以前の人材争奪戦のため上がりまくった報酬の固定化は「制度的同型性」と呼べるもので、AIはそのテック業界内のカオスの原因と語られることが多いが、実はAIはテック企業の経営層が漂わせ続ける更なるレイオフの空気と同じく一種の「釣り針」であり、（ハイテク産業がすでに資本主義の文脈で人々を従属させてきたように）自分たちが作ったAIという支配者に従う新しい下層階級になることへの恐れ、つまりはその地位、権力、富が脅かされる不安が、テック業界内でのAI規制論につながっているというのです。

ダナ・ボイドはこうした不安駆動型の社会秩序を肯定していませんが、AIへの執着が現実への対処というより一種の娯楽、気晴らしになってないかと皮肉っぽく書いています。

ただ、これから何かしらの形でAIの規制が検討されるのは間違いないでしょう。今月のはじめには、米連邦取引委員会のリナ・カーン委員長が、「我々はAIを規制しなければならない」と名乗りを上げる文章をNew York Timesに寄稿しています。

リナ・カーン委員長は、急速に進歩する生成AIを「革命的な可能性を秘めた技術」、「非常に大きな破壊力を持つことは間違いない」と認めた上で、「テクノロジーによってこれほど広範囲な社会変化に直面したのは2000年代半ばのWeb 2.0時代の到来が最後」であり、Web 2.0の革新的な無料サービスには、監視資本主義というビジネスモデルと一握りのビッグテックによる寡占という代償があったことを振り返ります。

しかし、Web 2.0時代の軌跡は必然的なものではなく、いろいろな選択によって形作られたものであり、そして今また選択の時を迎えている我々には、歴史が繰り返されないようにする責任があるし、連邦取引委員会はオープンで公正かつ競争的な市場を維持する、と宣言します。

その上で、AIにより既存のビッグテックの市場支配がさらに固定化される危険性、そして不正行為を加速させる危険性を指摘した上で、反トラスト法の監視の成果としてIBMやAT＆Tを挙げたうえで、規制当局は上記の危険性に対する監視と支配的な企業に対する警戒を怠らず、正しい政策選択を行えば、米国が世界をリードする技術の本拠地であり続けることが可能と訴えています。

しかし、「（ビッグテックに）いま最も恐れられる女」と言われたのも過去の話、今年もMetaの買収差し止めを求める訴えを却下され、Wall Street Journalに「リナ・カーン委員長が裁判に勝つことはあるのだろうか」と呆れられる不甲斐ない現状があり、彼女とともにバイデン政権入りした『巨大企業の呪い ビッグテックは世界をどう支配してきたか』の著者であるティム・ウーも今年はじめにホワイトハウスを去っており、彼女の手腕にはあまり期待できないのが正直なところです。

そこで、最近読んだ文章の中で、今後のAIに対する規制の在り方を考える上で参考になりそうな文章を二つ紹介したいと思います。

＊ ＊ ＊ ＊ ＊

一つ目は、寡作ながら当代最高のSF作家のひとりであるテッド・チャンがNew Yorkerに寄稿した「AIは新たなマッキンゼーになるのか？」です。

テッド・チャンは以前にも、シリコンバレーが警告するAIの恐怖は、テック企業の洞察の欠如の写し鏡であり、AIに対する恐れの大半は資本主義に対する恐れであることを指摘してきましたが、この文章は彼のAI批評と資本主義批判の総決算とも言えるものです。

テッド・チャンは、人工知能について語るとき我々は比喩に頼りがちだが、比喩は慎重に選ぶ必要があると作家らしく前置きしたうえで、表題にあるように、AIをマッキンゼーのような経営コンサルティング会社として考えてみてはどうだろうと提案します。

その意図はなんでしょうか？ 実は、テッド・チャンが書くより前にズバリ書いている人がいるのを偶然知ったので、その新山祐介氏の文章を引用します。

これをさらに一般化して、「これからの AI (←これどういう意味?) の主要な使い道は、人間が責任逃れするため」というのは、じつに説得力がある。さらにいうと、ここでいう「人間」というのは実際には個々人ではなく「企業」である。いずれ AI は世界制服するだろうが、それは AI の決定が人間より優れているからではなく 「AI が決定したことにすれば誰も文句を言えない」社会になるからだ。というか、AI がなくても、すでに現代の企業はそうなっているように思う。

テッド・チャンは、説明責任逃れを可能にすることこそ経営コンサルタントが提供する最も価値のあるサービスの一つと書きます。なにか目標があり、それを達成するためにやるべきことは分かっているが、手を汚したくないし、それで非難もされたくない。コンサルタントを雇えば、第三者の専門家のアドバイスに従っただけだと経営者は言い訳できます。そもそもコンサルタントを依頼したのは企業であるにもかかわらず、その経営層が責任を回避する手段になっているわけです。

思えばシャノン・マターンも、ソフトウエアの指示に従うのは政治的な選択だが、政治家は倫理的に問題があったり、政治的に複雑な問題をソフトウエアにアウトソースできるのに安心感を覚えている、と政治家に苦言を呈していましたが、ここでの「政治家」を「企業」、「ソフトウエア」を「AI」や「アルゴリズム」に置き換えれば、同じ心性を読み取れます。

そしてテッド・チャンは、AIは資本主義の刃を研ぐ以外にできることはないのかと問いかけます。彼がここで問題とする「資本主義の刃」とは、企業経営層の労働者に対する権力の行使による、より少数の人々への富の集中を指します。

彼の資本主義批判に対し、資本主義に反対するのがAIの仕事ではないという声もあるでしょうが、それを言うのなら資本主義を強化するのだってAIの仕事ではないでしょう。AIが富の集中を抑える方法を考えつかないのなら、AIは中立的な技術でもないし、有益な技術とさえ言えないとテッド・チャンは言い切ります。

AIが加速する富の集中への対策としてユニバーサル・ベーシックインカムを挙げる人は、それこそOpenAIのサム・アルトマンをはじめ多くいますが、それについてもテッド・チャンは、資本主義が生み出す問題が深刻化したら、政府が介入せざるを得なくなるのを期待するという、AI開発者が政府にツケを回すようなものだと先回りして批判します。

AIについてもそうですが、新しい技術を批判する人は、時にラッダイトと呼ばれます。テッド・チャンは、機械をうちこわした労働者の抗議には、工場主の利益が増えているのに自分たち労働者の賃金が下がっており、労働条件や児童労働や粗悪品の量産といった問題があったことを指摘します。つまり、彼らは反テクノロジーではなく、経済的な正義を求めていたのです。

今日、ラッダイトという言葉は、非合理で無知な人の蔑称として使われますが、これは資本勢力による中傷キャンペーンの成果とテッド・チャンは書きます。つまり、テクノロジーが資本主義と混同され、資本主義が進歩という概念と混同される状況では、資本主義を批判したら、テクノロジーにも進歩にも背を向けていると非難されてしまう。しかし、働く人の生活を向上させるものでなければ、いったいその何が進歩なのでしょう？

新しい技術は長期的には生活水準を向上させ、短期的には失業を補うという議論もあるものの、一人あたりのGDPはほぼ倍増したのに、世帯所得の中央値が大きく低下した1980年以降の米国では説得力はありません。テクノロジーが生活水準を向上させるのは、テクノロジーの恩恵を適切に分配する経済政策が存在する場合だけだが、過去40年間、そんな政策はなかったとテッド・チャンは断じます。AIは確かに人件費を削減し、企業の利益を増やすだろうが、それが我々の生活水準を向上させることとまったく別の話であり、より良い技術が人々の生活水準を向上させるという主張自体、テッド・チャンにはもはや信用できないのです。

AIが世界を変える技術ならば、世界を悪くすることではなく、より良くする方法を見つける義務がある。つまりは、資本の冷酷さを強化する以外の使い道を見つけられるはずであり、AIは魔法のように問題を解決してくれると考え、より良い世界を築くために必要な苦労を避けるのではなく、AIに携わる人たちがシステムの中での自分の役割を冷静に見つめる姿勢に、AIがより良い世界をもたらすか、より悪い世界をもたらすかがかかっているととテッド・チャンは訴えます。

最後がAI技術者への訴えになるところに弱さを感じますが、「そこで解決策をChatGPTに聞いてみました」みたいなクソな逃げを絶対にしない誠実さも感じます。

＊ ＊ ＊ ＊ ＊

そしてもう一つの文章は、情報セキュリティ分野の大家であるブルース・シュナイアーがRSA Conferenceで先月行った基調講演「AI時代の民主主義を再考する」です。

テクノロジーが民主主義を脅かす話はよく言われるが、もっと一般的な話をしたいとシュナイアーは前置きし、民主共和制という18世紀半ばに作られた政治的・経済的統治システムが21世紀には適していないとまず宣言します。

具体的には、インセンティブをうまく調整できないし、あまりにも効果的にハッキングされてしまうのが問題であり、これに対応する新しいガバナンスのシステムを構築する必要があるとシュナイアーは言います。

民主主義と資本主義をともに社会技術的な情報システム、集団で意思決定をするためのプロトコルとして考えてみれば、これらのシステムはハッキングに弱く、ハッキングから保護される必要があるというわけです。

政治的な問題を解決するために集合知を活用する情報システムとしての民主主義は、奇説が武器化されたときのガードレールがなく、それが偽情報のターゲットになるという弱点があります。代表者が大衆の意見をろ過し、過激さを抑える役割を果たし、また地理的に分散することで極端な意見を持つ人が参加しにくく、組織化するのが難しいという代議制の利点は、ソーシャルメディアが突破してしまっています。

21世紀の民主主義を偏見、偽情報、バイアスで汚染しないためにはどうすればいいのか？ シュナイアーは、偽情報の拡散を有効な戦略にしてしまうインセンティブ構造を問題に挙げます。現在の統治システムは、実は意思決定を行うのに対立を活用し、個人の利己心が局所的な最適化をもたらし、その結果、最適な集団の意思決定が行われるコストがかかる仕組みだったりします。

この資本主義や民主主義のコストを受け入れてきたのは、非効率な計画経済や中央集権よりはマシという認識があったからですが、ビッグテックに代表される企業がここまで大規模な経済単位になると（Appleは地球上で8番目に大きな「国」）、対立と協調のためのコストが馬鹿らしく思えても不思議ではありません。

民主主義は社会技術的なシステムであり、すべての社会技術システムはハッキングされる可能性があります。それはルールが不完全であったり、一貫性がなかったり、時代遅れであったりで、何かしらの抜け穴があり、それを利用してルールを覆すことができるからです。

そして、AIはそのハッキングを加速させると予言します。それは税金の抜け道の発見や金融規制の回避、特定集団に密かに利益をもたらす「マイクロ立法」、そしてロビー活動などによる民意のハッキングが考えられますが、このいよいよ大規模になり、セキュリティシステムを圧倒する民主主義のハッキングの問題は、シュナイアーの新刊『Hacker's Mind』の大きなテーマでもあります。

現代社会では富裕層や権力者のハッキングがあまりにも巧みで、しかも彼らはその権力を行使して脆弱性にパッチを当てさせないようにする問題があるわけですが、いずれにせよ、あらゆるスケールで、個人と集団のインセンティブをよりよく調整する、ハッキングや壊滅的なリスクに強いシステムが必要だとシュナイアーは訴えます。

それはゼロサムではない、協力を促しながら争いを少なくするシステムであるべきです。信頼と協力がどのように機能するかを論じた『信頼と裏切りの社会』では、「道徳」「評判」「法律」「セキュリティ技術」の4つを信頼を可能にするシステムとして書いていますが、「道徳」「評判」という非公式なシステムと「法律」「セキュリティ技術」という公的で社会技術的な信頼システムの違いをよく理解していなかったとシュナイアーは振り返ります。

ガバナンスのシステムは往々にしてローカルレベルではうまく機能しても、大集団にはスケールしないものですが、テクノロジーが発達したおかげで民主主義のシステムもスケールアップできるようになったとシュナイアーは書きます。しかし、それはそのハッキングについても同様では？ という疑問も湧きますが、シュナイアーが強調したいのは、18世紀の民主主義システムも当時のテクノロジーに対応したスケールアップだったのだから、21世紀の民主主義も現在のテクノロジーに応じたスケールアップが可能なはずということでしょう。

そして、そのスケールアップは国家主権に関する歴史的な規範に真っ向からぶつかってしまうのですが、気候変動やAIといった破滅的な技術リスクが地球規模であることを考えるなら、もはやそうした問題への決定を国家で区切ることに意味はないとシュナイアーは説きます。

民主主義に関するアイデアとしてシュナイアーは、「くじ引き民主主義」と「リキッド・デモクラシー（液体民主主義）」の二つを、個人の信念や嗜好を政策決定に結びつけるアルゴリズムであり、いずれも21世紀のテクノロジーにより実現が容易になったとして紹介しています。

テクノロジーがインセンティブの調整を含め、ソリューションの重要な要素とシュナイアーは考えており、AIによる民主主義のハッキングだけでなく、AIはハッキングの防御にも使え、情報システムとしての民主主義を考えるなら、AI技術は我々の政治的嗜好を政策に変え、フィードバックを踏まえて改良していくのに使えると前向きに考えているようです（が、エフゲニー・モロゾフが批判した「技術的解決主義」に陥るのを戒めてもいます）。

ここで問うべきは、アルゴリズムが人間のために意思決定を行うのをどれだけ認めるかとシュナイアーは論じます。サーモスタットが自動的に暖房をつけるのも、AIが自動車を運転したり、信号を最適化するのは喜んで受け入れるでしょう。しかし、税率、企業規制、外交政策を決定するAIとなると怪しくなります。ましてや「理由は説明できませんが、今すぐ宣戦布告してください」と迫ってくるAIはダメでしょう。AIはあくまで人間の代理であり、独占的な大企業によってコントロールされるのは受け入れられません。

つまり、AIがより良い政策という成果を生み出すとしても、成果を生み出すメカニズムも重要であり、AIシステムは民主主義のプロセスに人間を参加させるべきであり、人間を置き換えるものではありません。たとえ効率が悪くても、人間中心の政治システムには社会的価値があるという結論に至ります。

ここでシュナイアーの有名な「セキュリティはプロセスであって成果ではない」という言葉を思い出し、「民主主義はプロセスであって成果ではない」というパラフレーズが浮かびますが、民主主義のプロセスには協力的なものもあれば競争的なものもあり、その両方が民主主義という情報システムには必要とシュナイアーは言います。人間の意見の相違は根源的なものであり、政治や経済のシステムから対立や競争を取り除くことは決してできないのです。そして、それを踏まえて社会を機能させるプロセスこそが、民主主義を可能にするのです。

工業化時代の始まりに設計した統治システムは、情報化時代にそぐわず、インセンティブ構造が完全に間違っており、安全性に欠け、無駄が多く、最適な結果を生み出すことができません。この統治システムを現代のテクノロジーをもって見直す必要があるが、これは（セキュアなシステム設計とハッキングの両方について多くの専門知識を持つ）セキュリティの専門家にふさわしい挑戦だと講演を締めくくっています。

シュナイアーは、講演のはじめでこれが「“blue sky” thinking」（既成概念にとらわれない発想、時に非現実的な考え）と前置きしていますし、彼が挙げる「くじ引き民主主義」と「リキッド・デモクラシー（液体民主主義）」が、現在どこまで有効なアイデアか訝しくも思いますが、彼が以前より公益に資するテクノロジーを重視していることを考えると、その民主主義の再考にもいくらか厚みを感じられます。