「棒や石で骨が折れるかもしれないが、言葉は決して私を傷つけない」

ライス大学のモシェ・バルディ教授が、Communications of the ACMの2024年1月号に寄稿した「コンピューティング、お前の手は血まみれだ」は、この古いことわざの引用から始まります。

このことわざは、言葉で実際に傷がつくことはないのだから、他人に嫌なことを言われてもいちいち気にすることはないという意味らしいのですが、当然ながらというべきか、言葉が人を傷つけないわけはないとすかさず否定されています。続けて語られるのは、イーロン・マスク買収後のTwitterあらためXにおけるヘイトスピーチの拡散の問題ですが、言論の場のカオスを語るのに現状のXを話の枕にするのは、昨年末New York Timesに掲載されたジェニファー・サライの「信頼なき時代における偽情報の問題」にも共通します。早い話、そうした語り口が一種の「クリシェ化」したのが2023年といえるでしょう。

言葉が人をひどく傷つけた実例を、2024年の年明け早々に我々は見てしまったわけですが、モシェ・バルディの文章に話を戻すと、彼が続けて論じるのは、若者のメンタルヘルスの問題です。バルディは、その原因にスマートフォンとソーシャルメディア、特にMetaの責任を示唆します。「米国の何十もの州が、若者のメンタルヘルス危機を助長しているとしてMeta社を提訴しているのも不思議ではない」というわけです。

スティーヴン・レヴィの「Facebook誕生から20年。「子どもの安全」の問題はまだ解決できていない」では、本来なら祝うべきFacebook誕生20周年を迎えた今月、上院司法委員会の公聴会にマーク・ザッカーバーグが引き立てられた際の様子が描かれています。そこで上院司法委員会の重鎮リンジー・グラハム議員が、ザッカーバーグに叩きつけた「あなたの手は血まみれだ」という言葉は、奇しくもモシェ・バルディの文章のタイトルと重なります。

バルディは、どうしてこんなことになったのかと問いかけます。ほんの10年前まで「クール」だと思われていたテクノロジーが、どうして弱い立場の人々を傷つけ、トラウマを植え付け、殺しさえする凶器になってしまったのか？

バルディは、その要因に「効率性への執着」、そして効率の名のもとに「素早く動き、破壊せよ」（初期のFacebook社のモットー）を良しとするシリコンバレー的価値観を挙げたうえで、「すべてのコンピューティング専門家が、現状に対する責任を引き受ける時」だと訴えます。スターウォーズに喩えるなら、自分たちを「反乱軍」だと思いたがるが、もはや我々は「帝国」側なのだと。

自分たちを被害者的に捉え、もはや主流側にいるのを認めたがらないシリコンバレーのおたくカルチャーへの戒めを最初に見たのは、10年近く前に書かれたピート・ワーデンの「おたくカルチャーが死すべき理由」だったと記憶しますが、スターウォーズの「反乱軍」と「帝国」の喩えが人口に膾炙したのは、SF作家のリンカーン・ミシェルが2018年末に行った投稿が大きかったと思います。

そのリンカーン・ミシェルが、昨年末にNew Republicに「AIが文化を求めてやってきた年」という文章を寄稿しています。ChatGPT公開から1年経ち、彼は生成AIについて「印象的であると同時にかなり間抜け」と評します。要は玉石混交ということですが、「無思考でミスを犯しやすいアルゴリズムを「人工知能」とブランド化したのは、見事なマーケティング戦略だった」と皮肉をかましています。

ChatGPTの公開時、自分たちの職業は終わりかと絶望したが、その限界が明らかになるにつれ、自分たちの作品が生成AIの学習に使われているのを知ったアーティストたちの絶望は怒りに変わり、それがストライキや訴訟につながったというのがミシェルの見立てです。「こういう話は「盗作」だの「独創性」だの意味論的な議論にはまり込みがちだが、世界最大の企業が何世代ものアーティストから許可も補償もなしに搾取し、さらに我々から金をむしり取るのを意図したプログラムを作ったというのがAIに関する紛れもない事実だ」という辛辣な評価が正当かはともかく、いち作家としての率直な感想なのでしょう。

続けて「AIの擁護者は、それが非倫理的なのを分かっているからこそ、未来についてのファンフィクションで目くらましをするのだろう。AIこそ、きらびやかなユートピアの鍵であり、さもなければ人間はロボットによって絶滅させられるなら、その過程で詩人や画家が少しばかり騙されたからって、だからどうしたというわけだろう」とミシェルの舌鋒は飽くまで鋭く、テッド・チャンの「AIは新たなマッキンゼー」論を引き合いに出しながら、AIが富裕層をさらに富ませる一方で、残りの人たちを不幸にする道具として機能する恐れを表明します。

問題は人間の貪欲さと資本主義であり、それは以前からあった問題で、AIは最新の言い訳に過ぎないというわけですが、もはやこうした言説もクリシェに感じます。この後でミシェルが「パイプライン問題」として書く、AIを使えば1年で100冊の本を書けるけど、だからといってAIが今の100倍の読者を生み出すわけはなく、人間がコンテンツを絞り込み、読者が作品を発見できるようにするパイプラインの仕組みをAIが生み出すゴミが詰まらせる問題により、指数関数的に増加するコンテンツに人間の編集者が音を上げる実例が続きます。このテクノロジーは民主的で誰をもアーティストにするという宣伝文句と裏腹に、人間のゲートキーパーは処理が追い付かないパイプラインを単に閉じてしまい、今以上にコネが重要になるというというミシェルの指摘は、いろいろな分野に当てはまりそうです。

ただ、AIに生成された無限のコンテンツは誰にも享受されず、あらゆるものを詰まらせ、すべての人の時間を浪費する未来の話は、ワタシが「ウェブをますます暗い森にし、人間の能力を増強する新しい仲間としての生成AI」で書いた話がウェブに留まらないのを確認できましたが、勝手ながらワタシ自身そうした言説に既に飽きており、だからどうしたと言いたくなるところもあります。

しかし、そこまで極端な「パイプライン問題」は起きないという見方もあります。それはAIの性能の問題ではなく、実はリンカーン・ミシェルも示唆しているのですが、AI加速派のイケイケな期待に反し、莫大なコストがかかるAIに対する投資が鈍る可能性です。例えば、『the four GAFA 四騎士が創り変えた世界』などの著書で知られるスコット・ギャロウェイも2024年の年頭に、「今年、AIバブルは弾けはしないが、縮むだろう。これは過剰投資によるもので、避けられない」「AIが2024年に莫大な価値を生まないと言っているわけではない、むしろ生むだろう。だが、その価値は既に、2023年の株価上昇の大部分を牽引した7社（マイクロソフト、アルファベット、アップル、テスラ、アマゾン、メタ、そして新規参入のエヌビディア）の株価に反映されている」と予測しています。

昨年にはAIの利用を争点として全米脚本家組合のストライキが起こり、昨年末にはNew York Timesが著作権侵害でOpenAIとマイクロソフトを提訴していますが、このあたりを含めた「落としどころ」を考える上で、ジョージ・ワシントン大学准教授のデヴィッド・カープがForeign Policyに昨年末に寄稿した「AIの未来はあなたが考えているよりずっと儚い」が興味深かったです。

カープは、2024年が「Napsterの亡霊」という失敗したかつての「デジタルの未来」を思い起こす年になるのではないか、といきなり宣言します。えっ、ナ、ナップスター？

読者が35歳以下か60歳以上なら、Napsterが何かはご存じないだろうが、一時はNapsterこそが未来だったのだ、とカープは書きます。P2P音楽ファイル共有サービスのNapsterは、1999年から2002年にかけて数年ほど、未来的なオーラを放っていました。一方で、音楽業界から見れば、P2Pの音楽ファイル共有は窃盗にも等しい行為でした。

音楽業界がNapsterに震えあがったのも仕方ありません。デジタル音楽の配信や再生のコストがゼロになり、あらゆる音楽が無料になってしまったら、プロの音楽家はどうやって生計を立てれば良いのか。クリエイティブ産業は著作権法によって保護されるはずでしたが、21世紀の通信技術は、それを無意味にしかねない勢いでした。

当時よく言われたのは、Napsterのような新しいコミュニケーション技術は避けられないという言説です。古い著作権法と新しいメディアの間に軋轢があるなら、著作権の方を曲げるしかないじゃないか。

アメリカレコード協会（RIAA）はその意見に同意しませんでした。RIAAは、Napsterはもちろん、同様のサービス、さらには個々のユーザーに対してまで、数えきれないほどの訴訟を起こしました。そうした訴訟は、テクノロジーについていけない業界の最後のあがきのように見られていました。古い音楽産業はじきに死に、代わりに新しい音楽産業が生まれ、誰もが音楽を無料で共有できる未来がくる、と。

ここまで読んで極端に思われる方もいるかもしれません。ここで話題になっている2000年前後からそれなりに経過した2008年ですら、ミュージシャンへの適切な報酬を求めるビリー・ブラッグに対し、TechCrunchのマイケル・アーリントンは、「この頭のおかしいミュージシャンどもは録音された音楽にお金が支払われるべきと未だ思ってやがる」と、罵倒の言葉を投げつけています。

しかし現実には、RIAAの訴訟は音楽ファイル共有を根絶はしなかったものの、確かにデジタルの未来の軌跡を変えました。RIAAは世間の目には悪役に映ったかもしれませんが、その訴訟により音楽ファイル共有が収益性の高いビジネスモデルを確立するのは事実不可能になったのです。その時間稼ぎに間に、スティーブ・ジョブズがiPod＋iTunesモデルを確立し、その後Spotifyがストリーミング音楽配信を収益化する方法を見つけた歴史については、皆さんご存じの通りです。

つまり、現実世界はNapster全盛期には必然的に思えた世界とまったく違ったわけです。著作権法が新しいテクノロジーに対応すべく曲げられたのではなく、新しいテクノロジーの上に築かれた産業のほうが著作権法に合わせて曲がったのです。ただその過程で、ミュージシャンは交渉のテーブルに呼ばれることはなく、未だ報酬の問題がくすぶっているのは、今年に入って欧州議会がストリーミング配信サービスにおけるミュージシャンへの支払増額を決議したことからも明らかです。

カープは、かつての音楽業界と今日のAIが似ていると考えます。かつてのNapsterと同じく、ChatGPTが若い世代を中心に急速に広まったのもそうですし、著作権で保護された膨大な作品を学習し、著作権者に補償することなく、それと競合する作品を生み出すという法的なグレーゾーンが存在するところも似ています（上記の通り、既に訴訟がいくつも起こされています）。

そして、ここでもAIの伝道者が、ChatGPTのようなテクノロジーは不可避だと主張しているところも、Napsterのときと似ているとカープは指摘します。もはや生成AIをなかったことにはできないのだから、時代遅れの著作権法が大規模な言語モデルのスクレイピングと対立するなら、著作権法のほうが曲げられるべきというわけです。

それに対しカープは、Napsterの亡霊を思い出せと強調します。Napsterの全盛期には確実に思えた未来に我々は生きていないし、AIの伝道者が確信している未来に生きる必要だって実はないのです。さらにカープは、音楽やアートの必然的な未来が、Web3と強力なブロックチェーンにあると喧伝されていたのだって、ほんの1、2年前の話だったこともカープは指摘します。その未来では、NFTがアーティストに資金を提供する新たな支払いメカニズムになるはずでしたが、クリプトバブルが崩壊した途端、そんな言説は雲散霧消しました。「デジタルの未来」とは、かくも薄っぺらなものらしい。

「Napsterの亡霊」は、どんなテクノロジーも逃れられない軌跡を示唆するとカープは考えます。新たなテクノロジーは古い法律から免除されないのです。もっとも、何年もかけて既存の規制を回避したギグエコノミーの例もありますが、著作権法は労働規制よりも素早く現実に追いつきます。

著作権法がデジタルの未来に合わせて曲がるのではなく、デジタルの未来のほうが著作権法に合わせて曲がるとカープは繰り返した上で、クリエイティブ産業の境界線を再交渉するテーブルの席に、今度こそアーティスト自身が呼ばれることを期待しています。

New York Timesなど既に起こっている訴訟の争点は、AIシステムがフェアユースの原則のもとで保護されるべきかどうかですが、ワタシ自身は法律の専門家ではないのでどのような形に落ち着くのかは分かりません。

そうした意味で2024年は、AIに関する包括的な補償制度を考える良い機会かもしれません。AIが引き起こす失業に対処するためにAI企業に課税する案を警戒する向きが既にありますが、それよりもう少し突飛なアイデアとして、バラス・ラガヴァンとブルース・シュナイアーがPOLITICOに寄稿した「我々のデータなくして人工知能は機能しえない」は、かつてアラスカ州の住人がもれなく受け取っていた石油の配当金に倣った「AIの配当」を推しています。

ラガヴァンとシュナイアーの提案は実にシンプルで、大企業が公開データで学習させた生成AIの出力を作成したら、データ単位でわずかなライセンス料を支払い、その手数料がAI配当基金に入ります。そして、数か月に一度、商務省が基金にある全額を全国の国民に均等に送る。それだけです。

つまりこの提案では、新聞社や出版社、プロのアーティストだけでなく、アメリカ国民全員がAI配当基金からの支払い対象になります。AI配当基金への支払いは、個人の開発者や中小企業は免除され、大手のハイテク企業、つまり大きな収益を上げている企業だけが求められます。逆に言うと、この基金への支払いに同意することは、そのビッグテックは公開データを利用できるライセンスを得る、一種の強制ライセンスの仕組みを果たすわけです。

これは好むと好まざるとにかかわらず、AI企業は我々全員からのデータを利用すること、またビッグテックでもゼロから我々が生み出すデータと同等の合成データを作ろうとすれば莫大な費用がかかり、また合成データでは公開データほどの品質を保てないという性質を利用した仕組みと言えます。

ラガヴァンとシュナイアーは、この配当金の提案が、黎明期のテクノロジーを締め付けを意図したものでないのを強調します。このAI配当基金により国民1人が受け取る配当金は年間数百ドルを想定しており、残念ながらベーシックインカムの役割を担うのは無理ですが、確かにそれくらいなら配当金の手数料を考慮しても生成AIは安価なままであり、AIの開発にマイナス面がないことを保証することはできないが、すべてのアメリカ人がプラス面を共有できるようになるという売り込みは理解できます。

包括的な制度を作るなら、これくらいシンプルな基金が妥当な落としどころなのかもと納得しそうになりますが、現実的にはNew York Timesなどの訴訟を契機に、新聞社などがAI企業とライセンス契約を締結するのが現時点では有力な落としどころのようです。