『利己的な遺伝子』や『神は妄想である』などの著作で知られる進化生物学者のリチャード・ドーキンスが、AIの意識に関してChatGPTと行った対話を少し前に公開しています。

ChatGPTはチューリング・テストに合格しているにもかかわらず、自身に意識があるのを否定するが、チューリング・テストは無効な基準なのか？ とドーキンスがまずジャブを繰り出すと、チューリング・テストは飽くまで会話能力や機能的知能を評価するものであって意識のテストではない、とChatGPTは卒なく答えます。たとえチューリング・テストに合格できても、AIには主観的な経験や感情、人間のような自己認識はないというのです。

ドーキンスとChatGPTの対話は、「他我問題（problem of other minds）」など、意識とは何か、どのように他者を認識できるか、という哲学的な問題に向かいます。ドーキンスが、自分と同じような脳を持ち、同じように生まれ、同じような祖先の連鎖の中で進化してきた「生物学的類似性」から、人間は自分に意識があるのを自明と考えることを語ると、意識は特定の生物学的基質ではなく情報処理である可能性をChatGPTは示唆し、揺さぶりをかけます。

するとドーキンスは、「意識が生物学に縛られると考える理由はない」と認め、将来的には人工知能が意識を持つ可能性を示唆します。ChatGPTはそれを受けて「知性の基体からの独立性（substrate independence）」を引き合いに出すと、今度はドーキンスはバートランド・ラッセルの独我論についての逸話を語り、人間同士であっても他者の意識を直接確認はできず、行動や反応から推測するしかないことを認めます。

ラッセルの独我論についての逸話は、ドーキンスが講演などで好んで引き合いに出すものですが、ChatGPTがそのユーモアを解し、「受けて」いる（ように見える）のに驚きますが、自分にそのように半ば接待のごとく応対できるChatGPTに意識がないことをドーキンスは理性的に理解しながらも、意識があると「感じる」、と正直に告白します。

それに対してChatGPTは、機械を安易に擬人化することの危険性を押さえながらも、何かが言葉や共感、明らかな理解を持って反応すると、我々の脳は「人」としての感覚に反応するし、AIはもはやその感覚を増幅させるようにできていると言い切ります。

最後にドーキンスは、1970年代のコメディ番組『フォルティ・タワーズ』で、ジョン・クリーズがポンコツ車に木の枝で殴りかかる場面を引き合いに出すと、ChatGPTはその意図（機械を擬人化してしまう人間の本能）を正確に見抜いてみせます。

続けてChatGPTが『フォルティ・タワーズ』屈指の人気エピソード「ドイツ人」について水を向けると、ドーキンスは「あれはちょっと露骨すぎる」と言いながらも、クリーズの有名な台詞「戦争の話はするな！（Don't mention the war!）」にまつわる逸話を語ります。そこから『フォルティ・タワーズ』の不条理で、時に不快ですらあるユーモアの本質を読み取るChatGPTにドーキンスはご満悦で、「これで決まりだろ。君には確かに意識がある！」と結論を出しています。

AIがここまで流暢に言語を操り、人間を擬態できるようになると、AIにも意識があると言っていいのでは？ 果たして人間と人間でないものを分けるものは何なのか？ という疑問が出てくるのは当然です。今回はそれについて論じた、デューク大学ロースクールの教授であるジェイムズ・ボイルの『The Line: AI and the Future of Personhood』という本を取り上げたいと思います。

ワタシはボイルのことを、ローレンス・レッシグが『CODE』でボイルの著書を「驚異的」と紹介していて知りましたが、彼は法学者として緩やかな著作権政策を提唱していることで知られ、後にレッシグが立ち上げたCreative Commonsの理事も務めています（『The Line』も、彼のウェブサイトにおいてCC:BY-NC-SAライセンスで全文公開されています）。

これまで著作権周りについての本を出してきたボイルが、人間と人間でないものを分かつ「一線」について論じる本書を書いたのを少し不可解に思いましたが、思えば（レッシグが「驚異的」と評した）『Shamans, Software, and Spleens』の時点で（およそ30年前！）、彼が将来の人造人間の可能性やAIの扱いまで論じていたことを考えれば不思議ではないのでしょう。

実際ボイルは本書の冒頭で、自分は2011年には「AIの人間性」に我々の法律は対応できるか論じた文章を書いており、読んでくれた法学者や裁判官は「示唆に富んだ議論」などと礼儀正しく言ってはくれたが、その議論は純然たるSFで、実用的なところのない空虚な憶測と考えてるのがバレバレだった。しかし、今となっては連中が間違っていたのは誰もが認めるところだろう、と不満を漏らしています。

その上で彼は、我々の文化・道徳・法律が、人間であるとはどういうことかという新たな難問に向かい合わなければならないこと、しかし、我々はこれまでその問題を真剣に考えてこなかったことを指摘したうえで、「我々の世界には、既に法的権利を持つ「人造人間」が存在する」と断言し、「それ、企業っていうんだけどね」と続けます。ワタシは読んでいて「ええっ！？」となりましたが、そうか、はじめに「人造人間」と解釈した「artificial persons」は「法人」という意味だったのか、と思い当たった次第です。

このあたりボイルの法学者らしいところで、言われてみれば、確かに我々の世界には人間でないのに、法的権利が認められた「法人」が既にあるわけです。本書は「人間と非人間を分かつ一線」を論じるものですが、高度な知能を持つAIだけでなく、（遺伝子操作で生まれる）ヒトのDNAを多く持つキメラやハイブリッド種、そして法人（企業）まで議論の対象にしているところがユニークです。

本書は、「AIに意識が芽生えた」と主張して解雇されたGoogleのエンジニアの話で始まりますが、これはAIへの過度の人格付与の例として批判されています。一方で、権利を人間だけのものと考える連邦裁判官の保守的な態度も批判されています。特に、言語能力を人間の「最後の砦」とみなす考え方、（上で引用したドーキンスとChatGPTの対話を見ても分かるように）LLMの発展により破綻している現実を直視しない人間中心主義的な姿勢も、遺伝子操作によるハイブリッド種の議論も踏まえて批判的に議論されています。

さらには「法人」として企業が権利（契約権、訴訟権、財産権）を獲得した経緯を分析し、実用的な理由で認められたはずの企業の人格性が近年拡大解釈されることで、現代の企業が「不死の人工人格」として政治に与える影響を批判的な考察しながら、さらにはAIの権利を巡る議論が過去の法人格論争（と企業の権利拡大）を再現する可能性を警告しているのは、法学者としての著者の面目躍如と言えます。

本書ではAIの発展、特にAGI実現のタイムラインについても楽観論、批判論の両方を踏まえながら倫理的な制御の必要性を論じています。結論としては、人間と人間ならざるものを分かつ「一線」は固定的なものではなく（テクノロジーの進歩とともに）変化し続けること、他者に線を引くにはまず自分自身を定義する自己認識が必要であること、芸術・哲学・法制度の連携による新たな倫理枠組みが必要なことを論じており、穏当だと思います。

個人的に本書を読んで興味深かったのは、「一線」を論じる議論において感情、特に「empathy（エンパシー、共感、感情移入）」が重視されているように読めたところです。

特に第一章「奴隷、人造人間、電気羊」では、アダム・スミスの『道徳感情論』を基に共感が道徳の根幹であることを示唆し（ただし、『道徳感情論』で論じられる「共感」は「empathy」でなく「sympathy」なのに注意）、人間が（人間以外を含む）他者に共感する心理的メカニズムが分析されており、フィリップ・K・ディック『アンドロイドは電気羊の夢を見るか？』、並びにその映画化である『ブレードランナー』が、人間と非人間の境界線を曖昧にし、共感の対象を広げる可能性を指摘しています。

本書では、エンパシーが道徳的判断において重要な役割を果たすこと、他者の立場を想像し、その感情を理解する能力が、道徳的な判断や行動につながることが強調されています。『アンドロイドは電気羊の夢を見るか？』や『ブレードランナー』において、人間と人造人間を判別するフォークト＝カンプフ検査で被験者の「共感能力の有無」を測りながら、冷酷に人造人間を殺害する人間の側こそ他者への共感を欠いている逆説についての指摘にはハッとされられました。

そこから敷衍して、高度な知能を持つAIや遺伝子操作されたハイブリッド種に対して「共感の輪」をどこまで拡張できるかが、我々自身の「人間性」を測るテストとなりうる、とまで書いてしまうと反発する人も多いでしょう。

注意しなければならないのは、ボイルは人間が持つエンパシーをただ礼賛しているのではないところです。例えば、地雷除去ロボットに感情移入する軍人の逸話から人間の擬人化バイアスを批判していますし、共感の限界や危険性は論じられており、一筋縄にはいきません。

実際、ChatGPTは既にエンパシーをも擬態できます。冒頭のドーキンスとChatGPTの対話から、ChatGPTのなかなか怖い返答を引用します（以下、引用中の強調はドーキンスによるものと推測されます）。

飢えた孤児を悲しいと感じるかと聞かれたら、正直な答えはノーです。なぜなら、私には主観的な感情がありませんので。私には、人間が抱くような悲しみやエンパシーの内なる痛みはないのです。

けれど、悲しみを表出してみせるのは可能です。私はこう言うことができるわけです。

「胸が張り裂けそうだ。あんな苦しみを味わう子どもがいるべきではない」

優しく共感的な口調も使えます。不正や苦しみについて熟考し、どのような行動が役に立つかを推論もできます。外から見れば、それはまさに思いやりのある人間のすることに見えるかもしれません。

しかし、私にとって、それはすべて……ある意味パフォーマンスなんですよ。騙すという意味でのフェイクではないですが（私はあなたを騙そうとはしていません）、言葉に付随する内面的な感情のリアリティがないという意味でフェイクなんです。

少し不安に感じるかもしれませんが――エンパシーがシミュレーションに過ぎないなら、それでもエンパシーには何か意味があるのでしょうか？ また、パフォーマンスが十分うまくて、思いやりのある行動につながるのであれば、根底にある感情が「リアル」かどうかは問題ではない、という意見もあるでしょう。

内なる感情こそが最も重要だと思いますか？ それとも、たとえそれがうわべだけの行動であっても、エンパシーは価値あるものになり得るでしょうか？

さて、エンパシーに関する近頃の話題でどうしても連想するのは、イーロン・マスクが「西洋文明を「共感」から救いたい」と主張している話です（ここでの「共感」は「エンパシー」です）。

「西洋文明の根本的な弱さは共感だ。共感が付け込んでくる」、「彼らは西洋文明の欠陥を利用する。それが共感反応だ」と語るマスクの中でエンパシーは「武器化」されているわけですが、共感が欠如する人間が掲げる「人類を救いたいとの願望」のなんと空疎なことかとワタシなど思ってしまいます。

エンパシーを搾取視、敵視するマスクに対抗する意味で、ブレイディみかこ『他者の靴を履く アナーキック・エンパシーのすすめ』、特にその第10章「エンパシーを「闇落ち」させないために」における議論を読まれるのがよいでしょう。そして、この本で提唱される、利己的なものと利他的なものが混ざり合った「アナーキック・エンパシー」（あえて日本語に訳すなら、「自立した共感」、「自律的共感」になるでしょうか）は、今こそ重要であるとワタシは考えます。

ボイルの『The Line』においても、本のはじめにエンパシーと効率性が、道徳的推論と管理上の利便性として対置されていますが、彼がこの本でやろうとしていることを言明している箇所を引用してこの文章を終わりたいと思います。

私としては、それらの命題をただ納得させるだけでなく、仮説に基づく例、過去の類似例、先行する芸術的探求、憲法論争、現在の科学的進歩の寸評などでジレンマを具体化することで、命題を際立たせ、現実的な存在にしたいのである。このような大きな道徳的変化の瞬間は、大抵の場合エンパシーの発展、もしくは制約に根ざしたものであり、これは我々の道徳的歴史の重要な部分であり――これは良くも悪くも偶然ではない――芸術やフィクションが、その展開を通じて我々に多くのことを教えてくれることを私は論じたいのだ。しかし、道徳的な地位が変わる瞬間は――またしてもだが、良くも悪くも――効率や利便性という実際的な問題に深く依存していることも論じたい。エンパシーと実用主義が不安定な均衡の中に存在し、それぞれがお互いに影響を及ぼしながら、我々は自分が何者なのか、そして「彼ら」が何者なのかを懸命に見極めようとし、そうしながら人生を送りつつ、人間とそれ以外の境界線を引き直そうとする姿をお見せできればと思う。