WirelessWire News Philosophy of Safety and Security

by Category

知性の錯覚 ChatGPTの先にある「すべての人々が賢くなった世界」でおきること

2023.01.05

Updated by Ryo Shimizu on January 5, 2023, 16:02 pm JST

会話するように知識を引き出せるChatGPTと、言葉を支持するだけでプロ並みの絵を描くStableDiffusionは、これまでAIに直接触れることができなかった人たちも直接AIに触れることができ、その威力を実感できるというターニングポイントとなった。

筆者が長年追いかけてきた「コンシューマAI」の実現に端緒がつけられたわけである。

とはいえ、まだまだという部分もある。

先日、某大学院に通う知人が「ChatGPTで授業のレポートとか論文とか書けちゃいますね」とポロリとこぼした。
実際、筑波大学の落合陽一特任教授は、既に「ChatGPTが書いた文章か否か」を問うアンケートを配布し、ChatGPTによる文章が社会からどのように許容されるか、または拒絶されるかを注意深く観察しようとしているようだ。

あくまで筆者の本業はUber Eats配達員だが、大学にも籍がある。そうした大学教員の末席にある筆者の立場から言えば、「ChatGPTが書いたレポートか否か、見抜けないとすればそれはその程度の課題しか出してない教員の落ち度」でしかないと思う。おそらく落合さんも同じように考えていると思うが、レポートを文字で書けとは誰も言ってないのである。

たとえば「レポートをビデオとして提出しなさい」と言えば、ChatGPTはほとんど内容に貢献しないし、レポートを出す学生の労力は増えていく。しかも、今は昔と違って、誰もがビデオ撮影と編集が可能な装置、すなわちスマートフォンを持ち歩いている。

スマートフォンを持ち歩かない学生はいったん忘れて良いとすれば、レポートをビデオとして提出させればいいのである。
ただ、これもその場凌ぎの対策にすぎない。

ChatGPTが炙り出すのは、これまで見過ごされてきた「実は何も学ばず、何も考えてない大卒資格者」である。
「レポートっぽい」文章をつくり、「テストっぽい」ものをパスし、「なんとなく卒業」した学生。まあ、大学と大学院をそれぞれドロップアウトしてUber Eats配達員となった筆者からすれば、大学だろうが専門学校だろうが卒業できるまで通ったのがすごいと思うが、ChatGPTのようなものが普及していくと、大卒資格がいよいよ「知性の品質保証」ではなくなってくる。実はこっちのほうが困るという人もいるだろう。

しかし、世の中の大半の人は「知性の品質保証」に値するほどの大学の卒業資格を持っているわけではない。
だから、結局、得をするのは一部の一流大学に通っているわけではない、その他大勢の人々ということになる。

(マクルーハンが言うところの)メディアは、新しく効果的なものであればあるほど、常に高い山や深い川を平坦な地形に変えてしまう。

知性を直接的に増強するメディアであるAIの登場が、同時に卒業資格の表面的な無価値化を生み出すのはごく自然な流れだ。
要は「大学を卒業したことが自慢にならない」時代が来るということである。

筆者がかつて所属していたゲーム業界では、20世紀から大卒資格はあっても邪魔なものだった。まあゲーム業界にも色々な階層あるが、少なくとも「ゲームを作る」という場面において大卒であるかどうかは全く関係ない。

ゲーム業界においては、「面白いゲーム」か「売れるゲーム」を作ったという実績だけが「知性の品質保証」の役割を担っていた。おそらくこうした価値観がゲーム・エンタメ業界以外の世界に伝播していくのにAIの進歩が大きく貢献するはずだ。

ゲーム業界では、たとえ売れなくても、「面白いゲーム」を作ってさえいれば、次の打席が用意される。
業界の誰かが見ていて、かならず手を差し伸べてくれるのだ。「あのゲームは売れなかったが、オレは好きだった。今度は一緒に成功させよう」となるのである。

学生にしても、大学の単位のひとつくらいで、「とても優れたレポート」を書いたところで、そこから何か人生が変わるようなことが起きるわけでもない。少なくともそう信じられているし、企業だって新卒で採用する人間が学生時代に「とても優れたレポート」を書いたかどうかなんてほとんどの場合はどうでもいい。

ただ、本当に「とても優れたレポート」を書いた学生がいるとすれば、それはもう、提出先は教授ではなくインターネットであるべきだ。

教授は課題として提出された「とても優れたレポート」を読んで、それを本にしたり商品化したり、プロデュースしたり宣伝したり資金提供をしてくれるわけではない。

点数をつけるだけだ。

これでは学生が真面目にレポートを書きたい気持ちにならないというのもわからないでもない。
筆者が大学院を受験したときに書いた小論文はそのまま出版したいくらいの内容だったが、もちろん誰にもそんなことはできない。

そもそもレポートはなんのために提出させるのか?
ひとつの目的は、「ちゃんと話が伝わったか」を確認することだ。もしもそれが確認できるなら、レポートにChatGPTを使おうが全くどうでもいい。「ちゃんと伝わってなかった」ら、ChatGPTの返す答えは想像できる。そんな学生は落第させていい。

論文のようなものをChatGPTに書かせることができるかというのも愚問だ。ChatGPTは今のところは過去に向かってしか情報を辿れない。これから何が起きるか予想できないし、たいていの未来に対する質問には、素直に「わたしにはわかりません」と返すようプログラミングされている。

もしもChatGPTが、筆者の代わりに筆者が未来に書くような文章を書いてくれるとしたら、それは非常に便利だし今すぐ欲しいと思う。そもそも筆者が筆をとる理由は常に、「自分がそのとき読みたい文章が世の中にない」からだ。

原稿料をもらえないのは困るが、もらえなくてもUberEats配達で死なない程度には生きることができる。

そんなことを考えながらお正月に来たダイレクトメールを整理していると、とんでもない広告が入っていた。
大手金融機関からのダイレクトメールで、投資用ワンルームマンションの勧誘だった。

そこに書いてある文言がすごい。
初期費用19万円で、毎月9万円を払ってどこかの田舎の新築投資マンションを買うと、なんと家賃5万円で貸し出せるのだそうだ。

書き間違いではない。9万円を払って、5万円の家賃収入である。差額は4万円のマイナスとまで、ハッキリ書かれている。
「でも、これは単に損をするのではなく、完済後は自分で住んでもいい」と但し書きがある。当たり前だ。自分で借金して買ったんだから。

あまりに衝撃を受けてそのチラシをすぐ捨ててしまったのでもしかしたら「家賃保証」だったかもしれないが、それにしてもローンの半分が真空へ消えていくというのはなかなか衝撃的なオファーである。

試しにその近辺のワンルームの賃貸価格を調べてみたが、たしかに5万円前後だった。
これが悪質な商売であるかどうか、得なのか損なのか、筆者は混乱して理解できなかった。

もしもChatGPTがもっとより良いものへ正常進化していくとしたら、こうした混乱を招くような商品を見たときにも丁寧に説明してくれるはずだ。それがAIによって「ごく普通の人々」の知能が強化されることの意味だ。

大手企業の看板があっても常に誠実な商売をしているとは限らない。むしろその逆で、大手がその規模を維持するために不誠実なことを堂々としているような例はいくつもある。表面化しているのはほんの一部に過ぎない。

もしもChatGPTが正常進化していくとすれば(そして必ずそうなる)、世に蔓延る「わけのわかんない説明でとりあえずケムに巻いておく商売」は成立しなくなっていくとしたら、AIはたいしたやつである。

実際には、それもまあ残念ながら実現しそうになくて、なぜならば、仮にChatGPTの延長上にあるAIが「お客さんそれ詐欺でっせ」と言ったとしても、「ある程度損するのはわかっているけどつきあいがあるから・・・」とか、「どうしても断れなくて・・・」と契約してしまう人は決していなくならないだろう。

実際のところ、世の中は、おどろくほど堂々と、公然と、まったく悪びれもせずに無茶苦茶な条件の契約書を出してきたり、そもそも契約書にかいてあることを平気で無視する会社や組織や個人というのが呆れるほど多い。

結局のところそうしたこともすべて錯覚なのである。正しそうに見せる錯覚。正しいのだと思い込む錯覚。悪質な金融商品を売っている当人も実際には理解していないケースが多い。売ってる当人が「いい商品である」と「錯覚」させられているのである。

AIが賢そうに振る舞うのも錯覚なら、ほとんど損しかしないように思える投資マンションや金融商品を買ってみたくなるのも、錯覚のなせる技と言えるだろう。

相手が錯覚というのは厄介だ。
というのも、「錯覚」というのは、知識さえあれば惑わされないという類のものではないからだ。
人間の本能にプログラミングされた、抗い難い作用なのである。人間が錯覚を全く感じなかったとしたら、コンピュータは生まれていない。

人類は今、「知性の錯覚」という非常に厄介な問題に直面している。
「レポートがちゃんと書けていれば知性がある」と判断するのも錯覚だし、「大卒資格があれば知性に保証がついている」のも錯覚に過ぎないことは大半の人がよく知っている。

ここまで書いても「それでも知性の最低保証くらいはあるはずだ」と考えたい人もいるだろう。でも筆者の考えるに、そこにそれほどまでに大きな差はないと思う。ただ、人は自分の信じたいことしか信じることができない。まさにそれが、錯覚のなせる技なのだ。

WirelessWire Weekly

おすすめ記事と編集部のお知らせをお送りします。(毎週月曜日配信)

登録はこちら

清水 亮(しみず・りょう)

新潟県長岡市生まれ。1990年代よりプログラマーとしてゲーム業界、モバイル業界などで数社の立ち上げに関わる。現在も現役のプログラマーとして日夜AI開発に情熱を捧げている。

RELATED TAG