WirelessWire News Philosophy of Safety and Security

by Category

変化する「知性の価値」

2022.12.03

Updated by Ryo Shimizu on December 3, 2022, 08:34 am JST

OpenAIが会話に特化して学習させた「ChatGPT」を公開した。
すでにたくさんの人が試してみているが、タイムラインに流れてくるスクショを見て「すごい」と思うのはもちろんだが、同時に、「なんてつまらないんだ」と冷めていく自分がいることに気づいて驚いた。

筆者は16歳で商業誌に寝言を書き始めてから30年経つ。
言葉を紡ぐことで糊口を凌いできたプロの売文屋としてのプライドもある。
そういう気持ちが、言葉を紡ぐAIに対する敵意を産んでいるのかと考えてみたが、いや、そうではない。
AIの出す答えはやはり明らかに「つまらない」のである。

GPT-3を使っても、お金を出してもいいと思えるほどの文章はなかなか出てこないのである。
「AIからプロ並みの文章が出てきたら困る」というほど筆者は収入を売文に頼っているわけではない。

好きだから書くし、むしろ書く場所を求めて複数の媒体を同時に使っているくらいだ。
今や、原稿料として媒体からもらうよりもnoteで直接読者に売った方が収入面では遥かに効率的だ。
ある月はnoteの記事の売り上げだけで100万円を超えた。基本的にはどんな媒体に書いても、そんな原稿料にはならない。

なぜAIの書く文章がつまらないと感じるかというと、そこに正しさ、本当らしさはあっても(未だにAIは間違った答えをさも正しいかのように語る欠点がある)、真実味が感じられないのである。

これは、筆者がもうひとつ個人的にやっている作画AIサービスにも言える。
作画AIから出てくる絵は実に「それっぽい」が、そこに真実味やフェティシズムは感じられない。

それが気持ち悪いのだ、という人もいる。
でも人間は、もっと自分に自信を持っていいと僕は思う。

AIは決して真実を語ることができない。真実とは何かを根本的に理解していないからだ。
AIが語るのはあくまでもネットや書物に書かれた情報を組み合わせたものであり、そこに「主観」は含まれない。

それでも便利に使えるケースはあるだろうが、その内容の正しさが保証されないのであれば、それは単なる寝言になってしまう。そういうAIはメディアアートの一種としては成立したとしても、実用的な道具と呼ぶには程遠いだろう。

そして現状のAIというのはほとんどメディアアートの領域から出ていない。残念ながら、この先も単体でそこを飛び出していくとは考えられない。

たとえば1970年までの漫画のデータだけをAIに学習させたとき、手塚治虫風の絵は描けるかもしれないが、そこから宮崎駿や富野由悠季には発展していかない。二人とも明らかに手塚治虫の影響を多かれ少なかれ受けているが、作り出すものはまるで違う。手塚治虫の絵を描くAIにガンダムは作れないし、トトロも作れない。

これが本稿で筆者が「人間の知性とAIの知性の明確な違い」として指摘したい「真実」である。

「真実」とは何か、という定義もしておかなければならないが、ここでは「ある人物にとって本当らしいと感じられる認識」を「真実」と呼ぶことにする。つまり、「事実」と「真実」は違う、という立場における「真実」である。

そうすると、手塚も、宮崎も富野も、それぞれが異なる人間観を持っている。
異なる人間観があるから、あるテーマを与えられた時に、それぞれ表現したいことが違ってくる。

もちろん状況もそれぞれ異なり、異なるからこそ独自の表現にたどり着いていく。
注意しなければいけないのは、「独自の表現」というのは消去法で「今までにない」ものを求めるのではなく、「まだ誰にも語れていない(自分の)真実」を語るために積極的に新しい表現を求めていくということだ。

文章でも動きでもアニメーションでも、プログラムでもイベント企画でもいい、全ての創作物はそれぞれの作家の真実へたどり着くための道程にすぎない。

ところがAIにそういう要素は一切ない。
そもそも人間にしてからが、「自分は何を真実と思うのか」ということについて、生涯かけて考え続けたとしても決して明確な答えが得られないのが普通である。

そんなものをたかがプログラムで再現できると考えるのは思い上がりだと思う。
AIといっても所詮はプログラムに過ぎず、それに過度な期待や恐怖を抱くのは、ロマンチストに過ぎる、とプログラマーとしては思う。

鏡や写真を見て「おれの容貌が模倣されている!」と騒ぐようなもので、AIは所詮は人間の作り出したものの影を追うだけにすぎない。一流のクリエイターにとっては、不必要なものかもしれない。しかし、これからクリエイターになろうとする人にとっては、味方にすれば頼もしい道具になるかもしれない。

ブローニーのフィルム式カメラが登場した時、当時の絵描きたちは恐怖に慄いた。
その恐怖がむしろ創作と正面から向き合うことになり、写真ではできない表現、キュビズムやシュルレアリスムといった抽象的な表現に画家たちを駆り立てた。または、マンガやアニメーションという表現を作り出すものも居た。もしも絵描きが写真を憎み続けていたら、アニメーションという新しい絵画表現には永久に辿り着くことはなかっただろう。ウォルト・ディズニーも、最初は実写映画に手書きの絵によるアニメーションを組み合わせるところから始めている。

たとえば、「任天堂の倒し方を教えてくれ」という質問に対して「不可能」と返したとChatGPTが言ったという。
なんとつまらない答えだろうか。

つまらないだけでなく間違っている。世の中に不可能なことなどないからだ。
人間ならばトンチのひとつも考えてみるものである。

不可能に思えることを実現することで人類は進歩してきた。難しいことをすぐ不可能と言ってしまうような人生の一体何が面白いのか。

でもAIに罪はない。最大公約数的な答えを集約すれば、任天堂を倒すのは不可能。それが普通の考え方である。
しかし普通の考え方をするようなAIの助言など、何の意味があるのか。

人間はもっと複雑で、もっと間抜けである。
たとえば「任天堂の倒し方」を聞いたら、「42」という答えが返ってくるとする。

人間にはこの「42」の意味がわからない。
もしもそれが本当の答えだとしても、なぜそうなのかはわからないのだ。

AIの良さ、すごさというのは人知を越えることにある。
しかしそれは、人間社会におけるものとは全く異なる。

あくまでもルールが決められているもので、その系の中で完結することに関して、AIは常に人知を越える。たとえば囲碁や将棋、ポーカーや麻雀で人類はもう二度と本気を出したAIに勝てない。この領域においてはAIは人知を超えているからだ。

だが、「面白い話」ができるAIは、これからも作られることはないのかもしれない。
少なくとも、僕如きのか弱き知性では、「面白い話」ができるAIどころか、ある話を面白いと判定できるAIの作り方すら思いつかない。面白さを数値化できれば、それは微分可能な問題となり、AIは学習できる。しかし、「面白い話とはなにか」ということが数理モデル的に定義できない限り、永久に無理だろう。

どんな物語も、作家の個人的な経験や思い、人間観や人生観、作家の思う真実に基づいている。
AIは悔しい思いをしないし、辛い思いも寂しい思いも、怒りも喜びも感じない。

反対に、世の中にある本や論文をあらゆる言語で全部読む、ということはAIにはできる。
でも、マンガ本を1万冊読もうとも、漫画家になることはできない。

読者と作家の間には絶対に越えられない壁がある。

僕がいただいている原稿料というのは、実にささやかなものである。
もちろん、この出版不況の中、原稿料をいただけるだけでもありがたいのだが、原稿料がなければ死ぬというわけではない。
UberEats配達員の仕事よりも原稿を書く仕事が楽かというと、そんなことはない。

一本の原稿を書くために何百冊も本を読む必要があるし、読むだけでなく実践する必要がある。
本に書かれていることを読み解くのだって本来は恐ろしく難しい。教科書を読んだだけで内容が全て理解できるなら、誰でも東大に行けるはずである。

つまり、「読む」ということはほとんど何も理解していないのと同じで、理解しようと思ったら本に書かれていないことを体験しなければならない。

実践を伴わない単なる知識は雑学でしかなく、知識は実践して再現して始めて本当の価値を持つ。

僕が文章を書くとき、本を書くときというのは、世の中にないことに気づいた時である。
AIはそれができない。なぜならこの差異は、人間社会と深くかからわないと決して気づくことができないからである。

たとえば人間そっくりのロボットで、人間と同じように振る舞い、泣き、笑い、食事をし、酔っ払うロボットが人間社会の中に入ったとしても、内在する感情や渇望がないので決して人間社会のことを理解することはできないだろう。

数学が苦手に人に数式を見せるのと同じで、見ただけでわかるなら苦労しない。見ただけで得られるのは「わかったつもり」になることだけである。

これまでの世界では、「知識を持っていることが知性の価値」だと長らく信じられてきた。

「本をたくさん読んでいれば、知識がある」

と信じている人もまだ多い。
しかし、実践できない知識は道具としての価値を持たない。
理論上の「泳ぎ方」を知っていても実際に泳ぐことができなければ、意味がない。

「ビッグバンセオリー」というアメリカのシットコムがあって、カルテックの物理学者たちが毎回ああでもないこうでもないという話をする。

主人公は実験物理学者のレナードで、レナードの同居人であり親友でもあるシェルドンは、理論物理学者だ。

シェルドンは理論物理学こそが高級なものだと信じて疑わず、理論物理学を実験によって確かめる実験物理学者のレナードをバカにする。レナードの母も高名な精神科医で、レナードの研究が他の誰かがやった実験の再現実験だと知ると興味を失う。

レナードが気の毒になるくらいに周囲からバカにされるという、こうして言葉で書くと非常に不愉快な内容のシットコムなのだが、たぶん「オリジナルの理論を考える」ということが重要視されたり、「オリジナルの実験を考える」ことが重要視される世界観というのは、ここ百年の科学アカデミズムの考え方を象徴しているだろう。

ところが、AIの時代になると、理論物理学者のシェルドンの役割はほとんど意味がなくなる。
なぜならば、閉じられた系の中で人知を越えるのはAIの得意分野であり、人間程度の想像の及ぶ範囲をはるかに越える次元でAIは理論化し、仮説を立てることができる。

ただしこうした理論を示されても人間は理解することができない。
人間がAIの提唱した理論を理解するためには、何度も実験して真実を確かめるしかない。

まさに、実験物理学者こそが人間らしい最後の科学者になり得るのだ。

実験の裏付けのない理論は単なる仮説であり、それを提唱するのが人間ではなくAIになるとすれば益々、理論だけを考えることの意味は薄れていく。

数学者のやっているような数式の操作は、むしろ論理実験のような性質を持っている。その意味では理論物理学者のやっていることも似ているが、実際には矛盾しそうな複数の理論で示される数式の折り合いをつける方法を考えるのが仕事だ。いわばパズルのピースを埋めるようなもので、「ピースを埋める」という仕事は、それが数学的体系という「閉じられた系」にある限りは、AIが常に人知を越える。

どこかで人間が自分の頭でこの世で起きる現象を理解することを諦めるポイントがあって、今だって普通に人類の大半の人々はこの世がどのようにして成立しているか、物(もの)の理(ことわり)についてほとんど考えることを諦めている。筆者だって例外ではない。

この世が量子的な現象の連続であるらしい、ということはなんとなく知識として聞いたことがあったとしても、それを利用してどうこうというところまでは実践できない。実践しようと思えば、実験物理学や工学の出番である。「ビッグバンセオリー」ではエンジニア(工学者)も嘲笑される対象で、国際宇宙ステーションのエンジニアであるハワードは主要メンバーの四人の中でもっとも蔑まれている。でも、実際には、理論は実験で確かめるまで役に立たず、実験は工学的に応用されて始めて人の役に立つ。

我々は量子力学を理解していなくても、光合成で育った植物を食べ、量子重ね合わせ状態のDNAから細胞を生産して生きている。

これまでの人類はAIを持たなかったため、より高度な仮説については人間が考えるしかなかった。
しかし、仮説の自動探索と検証、自動的な数学的証明ができるようになると(そしてそれはもはやそう遠くない未来である)、重要なのは有望そうな仮説を見つけて実験を実際に行う仕事になるだろう。しかも一回だけではダメで、再現実験を色々な形で何度も色々な場所でやって理論の確らしさを確かめ、最後に工学的に応用して人々の生活に浸透させていく。

一方で、書かれた本にある知識を読むことそのものの価値は減っていき、人間は益々、自分の中の真実の追求という、人間として生まれてこなければ決して取り組むことがなかったであろうテーマに取り組む。人間が真実の追求をする過程で生まれるのが創作物であるのだから、つまりAIが面倒な理論の体系化や仮説の発見といった仕事をしている間、人間はよりクリエイティブなことに時間を使うことができるようになる。

こうした時代の売文屋の果たすべき役割は、プレスリリースのリライトや広告的な「コミュニケーション」といった単調なものではなく(それはAIにやらせてももはや問題はあるまい)、真実の追求の過程としての考えの表出、そしてそれを表出させることによって読者が読者自身の人生の真実を追求する糧となるような作品を提供することが主軸になっていく。

つまり、それは全ての人の表現がエンターテインメントへと昇華するということでもある。
そして売文に限らず、マンガ、イラスト、アニメ、音楽、映画はもちろんのこと、数学、物理、化学、人文科学、外国語などの「お勉強」と思われていたものも、根本的にエンターテインメントとして再構築されることになるだろう。

なぜなら「知ってること」そのものには価値がなくなるからだ。
「その人が知ってること」ではなく、「その人の表現がどれだけ他の人のクリエイティビティに影響を与えるか」が価値になるのである。そしてそれはAIよりも人間の方が得な分野だ。なぜならば、表現という系は、閉じていないからだ。

それは文章でもいいし、映像でもいいし、音楽でもいいし料理でも酒でもお店でも学校でもいい。
閉じていないというのはそういうことだし、ここで例としてあげられない全く聞いたこともないような新業態だってあり得る。

想像してみて欲しい。10年前にUberEatsのようなサービスは存在しなかった。
あったのは出前だけで、出前というのはお店が責任をもってやることだった。調理と宣伝、配達は垂直統合されていた。
UberEatsは配達と調理を分業化し、その間に立つ仲介業を成立させ、水平分業をもたらした。

イノベーションは「開いた系」をいかに認識し、誰にとっても価値のある世界を生み出すか、「価値の真実」を追求した人のひとつの表現だ。

AIが面倒なことを全部やってくれる時代、人間はより人間らしく生きる、新しい知性の価値を創り出す存在になっていくだろう。

WirelessWire Weekly

おすすめ記事と編集部のお知らせをお送りします。(毎週月曜日配信)

登録はこちら

清水 亮(しみず・りょう)

新潟県長岡市生まれ。1990年代よりプログラマーとしてゲーム業界、モバイル業界などで数社の立ち上げに関わる。現在も現役のプログラマーとして日夜AI開発に情熱を捧げている。

RELATED TAG