February 3, 2026
福島真人 m_fukushima
東京大学大学院・情報学環教授。専門は科学技術社会学（STS）。東南アジアの政治・宗教に関する人類学的調査の後、現代的制度（医療、原子力等）の認知、組織、学習の関係を研究する。現在は科学技術の現場と社会の諸要素との関係（政治、経済、文化等）を研究。『暗黙知の解剖』（2001 金子書房）、『ジャワの宗教と社会』（2002 ひつじ書房）『学習の生態学』（2010 東京大学出版会、2022 筑摩学芸文庫）、『真理の工場』（2017 東京大学出版会）、『予測がつくる社会』（共編 2019 東京大学出版会）、『科学技術社会学（STS）ワードマップ』（共編 2021 新曜社）など著書多数。
ドイツの社会学者にルーマン（N.Luhman）という理論社会学者がいる。英米圏やフランス語圏ではそれほど人気があるとはいえないが、日本では彼の書籍の大半は翻訳が出ている。彼の議論は独、伊そして日本といった旧枢軸国でよく読まれているという冗談を聞いたことがあるが、なぜそうなのかはよくわからない。かつて彼の生前のドイツ語講義シリーズが「アウトバーン大学」という不思議な名前のカセットテープ（12巻で1セット）で販売されており、寝る前に10分ずつそれを聞くという習慣を長年続けていたら、ドイツ語が聞き取れるようになった。私のドイツ語聴取はルーマン由来である。
それはともかく、科学技術社会学（STS）の分野では、英米、そしてフランスの議論が強いせいか、ルーマンの極めて抽象度が高い理論はあまり言及されない。その理由はいくつかある。例えば、彼は近代社会においては、政治、法、経済といった分野がそれぞれ自律性をもち、その意味で内閉しているとしたが、STSではむしろ、科学技術と法や政治、経済が絡み合う、一種のアモルファスな状況により関心があるため、両者の議論はうまくかみ合わない。また後期のルーマン理論では、社会の構成要素を人間ではなく「コミュニケーション」に限定してしまったため、STSが基本的に関心をもつ科学技術の実際的、物理的な側面や、人とモノの相互作用といったテーマとの、理論的な接続も難しい。
とはいえ、彼の高度に抽象的な議論も、場面によってはその考察が興味深く感じる面もある。彼の議論の大きな筋としては、複雑な全体をどうやって縮減して操作可能にするか、という問いと、上述した諸制度（彼の用語ではサブ・システム）は、何に根拠をもって自らを存続させるかという問いが挙げられる。後者への答えが、先程あげた自閉性という話だが、これは自己産出系（autopoiesis）という生物哲学的な枠組みをベースにしており、かなり分かりにくい。長い話を短くすると、彼がいう社会システムというのは、その外側に根拠があるのではなく、自分自身にそのベースがあり、それとの関わりで自分を存続させるというものである。
最初にこの話を聞いた時、何故か私は高校時代に読んだ、キルケゴール（S.Kierkegaard）の『死に至る病』の最初の一節を思い出した。「自己とは、ひとつの関係、その関係それ自身に関係する関係である」という話で、自己というのはそこにポツンと存在するというよりは、常に自分に回帰する関係性そのものだという意味である。この手の議論は、自己言及性という旗印のもと、一時期業界の一部で流行っていたが、ここでの関心は違う。
自分自身に根拠があるというのは、言い換えれば、経済に役立つから政治があるわけではなく、逆もまた真であるという意味である。つまりそれぞれが自分の都合に従って勝手に動く。それゆえ法というシステムは自分の都合で次から次へと法律を作り出すため、法律は増殖することになる。もちろんそのきっかけとしては、法以外の現象（経済や戦争、環境問題等）が起点になりうるが、それをいわば「法目線」でみると、それらは法的にしか対応できない。そこでこうした刺激に対して、法システムは法をつくるという形で対応することになる。その点は他の領域も同じことで、市場のグローバル化も止まらない。サンデル（M.Sandel）のような哲学者が「白熱教室」でその是非を半ば演劇的に問うたりするのもそのためである。
その講義を録音で聞く限り、クールな冗談を交えつつ、淡々と話を進めるルーマンだが、その理論的帰結には何かゾッとするものがある。つまり、彼がどこかで指摘したように、こうしたシステムの自己増殖は、それが破綻するまで止まらないというものである。ある意味実にニヒリスティックな結論ではあるが、科学技術の現場動向をつぶさに観察すると、確かにこうした議論が妙にリアルに感じられる場面が少なくない。
科学技術と一緒くたに表現したが、科学と工学（エンジニアリング）に分けて考えると、前者において、よい研究とは、基本的に新しい領域を開拓し、それが新たな知見の獲得に大いに役立つケースである。ある問いがあり、一つ謎が解決されると、十の別の謎が生まれるといった事例は科学史に少なくない。それにより研究の盛況がもたらされたということで、場合によっては立派な賞とかなりの額の賞金がもらえる場合すらある。
特に基礎研究と呼ばれる領域では、研究は何のために行うかというと、知識を拡大し、それが更なる知識拡大につながるためだという。では何のために知識を増大させるのか、といえばそれは知識を増大することはいいことだから、というあたりで回答は自転し始める。そこに政治、経済その他の言い訳を持ち出すことは可能だが、実際はあまり説得力がない。しかし私自身がそうした状況に異を唱えているわけではない。
むしろ問題なのは、テクノロジーの開発に関する場面である。ここでの基本論理は、必ずしも基礎研究とは同じではない。我々は人力より早く移動したいから自動車を開発するのであり、社会がその必要を認めなければそうした開発はない。そこには必ずさまざまな社会的意味合いが内包される。かつて科学的知識がそのままモノに化けたのがテクノロジーだと信じているスポーツ研究者と議論して驚いたが、そんなはずはないだろう。月や火星に人類を送るというのは、科学そのものから出てくる欲望ではないのである。ラトゥール（B.Latour）がいうように、むしろテクノロジーとは「社会がモノの形になったもの」と我々は考える。
だが問題は、現実にはそもそも何のために技術を開発しているのか、よくわからないまま話が急展開しているケースも少なくないという点である。最近、生成的AIの開発競争の暴走の危険性を訴えるため、Googleの元副社長が職を辞したと報じられ話題になった。かの元副社長は、こうした技術が悪用されるのは必須だが、それを防ぐ手段が見つからないまま各社が開発競争に陥っている、と危機感を露わにしている。いうまでもなく、これは社会各所で沸き上がる懸念の一部に過ぎず、開発中止を求める世界的AI研究者の公開書簡や、ハリウッドの脚本家たちのストライキなど、連日似たようなニュースが紙面を賑わせている。社会がモノに化けたはずのテクノロジーが、その社会との関係が分からないまま暴走し始めているという危機感の表明である。本論考の文脈で不気味なのは、この話が前述したルーマン理論の「システムは破綻するまで止まらない」という話の科学技術版のようにみえる点である。
先程のルーマン理論では、システムが止まらないのは、その内部に閉じているからで、結局話はトートロジーになる。この話をそのままミクロの開発現場に適用できるかは議論の余地があるが、面白いのはそれが現場でもリアルに聞こえる場合があるという点である。話がどこに進んでいくのか誰もよく分からないまま、無制限の開発競争に邁進する。そうしたテクノロジー開発が規定路線化し、そもそも何のためにそれを開発しているのかはっきりしないままそのスピードだけが上がっているという感じだろうか。
実際、話がゲームや基礎科学的データ分析等に限定されるなら、関係者は棋士やデータ処理系の科学者に限られる。このレベルでの目立った弊害とすれば、その技術に追いつかない年長の棋士が試合に勝てなくなるといった程度であろう。科学分野のデータ処理レベルでは、こういう技術はけしからんという話はあまり聞いたことがない。
しかしここで話が急に、教育や報道、政治や芸術分野にいたるまでワープしはじめると、そういう狭い業界とのアナロジーで議論をするわけにいかなくなってくる。そもそもこうした新領域で、機会学習の材料とされるのは、歴代の画像情報や文芸作品、あるいはオンライン上のデータ等だが、これではもめるのは当然である。これらのデータは、基本皆が閲覧できる歴代の棋譜や、研究者に公開された科学的データとはその性質が異なるからだ。例えばもし棋譜に著作権があり、他の棋士ですら勝手にその検索はできない、といった法的規制が存在していれば、無邪気な開発者たちもデータ利用にはそういう問題もあるのだ、という点を随分前に学習していたはずである。
だがより根本的な問題は、もしテクノロジーは社会がモノになったもの、という指摘が正しいとすると、機械に小説や絵画をつくらせることは、社会の何の欲望を反映させているのかという点である。機械に表現活動（のようなもの）をさせることで、芸術生産に関して、「大幅なコスト削減、生産性の向上が見込めます」とでもいうなら、殆どキングオブコントにでも出てきそうな話である。芸術家たちが怒るのも無理はない。とはいえ、先日のAI戦略会議が典型だが、こうしたコメントをいいかねない関係者もいそうで、コントでおわるのか心もとない。
先程のルーマン風にいえば、まさにミクロのレベルで開発が自己目的化し、それが何のためという意識なく進んでいる様子が見て取れる。他方現実の話は、彼の図式的な議論よりも複雑であるのも事実である。例えば市場化、それに伴うグローバリゼーションも原則止まらないはずだが、特に国際政治的な対立がこの進展に大きくブレーキをかけつつあるという議論も少なくない。これは経済と政治という、二つの領域の争いのようにもみえるが、もともとのルーマンの議論ではこれらは相互に独立という点が強調されるので、こうした絡み合いの様子は分かりにくい。構造的カップリングという言い方で相互の連係を示唆する議論はあるものの、考察は不十分である。
ある特定の領域の問題が、他の領域に影響をあたえ、相互作用する様子は、例えば米国における地球温暖化問題の扱いにその一つの例をみることができる。そこでは、中立的な科学的問題というよりも、対立する政党間の政治的争点として戦われるという現状がある。つまり問題が科学的領域から、政治的領域のそれに転写、翻訳され、政治争点化したのである。同様のことは生成AIをめぐる、ますます膨れ上がる懸念の勢いの中にも生じはじめている。テクノロジー開発という、当事者たちは中立的なものと楽観視している行為が、強く政治的な意味合いをもち始めたという事態を、我々は目撃しているのではないか。
前にも指摘したように、遺伝子を勝手にいじくりまわす行為に対しては、大きな社会的規制が既に存在している。同様に、現状のテクノロジー開発に関しても、いままで育んできた歴史的価値との齟齬について、人々が深刻に疑義をもち始めたといえなくもない。地球温暖化に対する政治的分裂と似た形で、こうした価値をめぐる対立が大きな政治的争点になる可能性も否定できないのである。
システムは破綻するまで止まらない、とルーマンは不気味に指摘する。その破綻を回避するために、言わば別のシステム、たとえは政治が介入するのか、そしてそれは成功するのか。一つの巨大な社会実験を我々は目撃しているといったら、言い過ぎであろうか。
（福島真人／東京大学）
参考文献
セーレン・キェルケゴール 鈴木祐丞訳(2017)『死に至る病』講談社
ニクラス・ルーマン 佐藤勉監訳『社会システム理論』(1993/95)恒星社厚生閣
ニクラス・ルーマン 土方透 他訳(2016)『自己言及性について』ニ筑摩書房
Bruno Latour (1990) Technology is Society Made Durable Sociological Review 38(1) :103-131
（当記事はModern Times 2023年5月に公開された記事の再掲載です）
