WirelessWire News The Technology and Ecosystem of the IoT.

Productivity Future Vision (2011)(Office Videos)

ユートピアのキモさと人工知能がもたらす不気味の谷

Creepy utopia and uncanny valley which artificial intelligence triggers

2016.06.28

Updated by yomoyomo on 6月 28, 2016, 12:29 pm JST

伊藤計劃『ハーモニー』

伊藤計劃の『ハーモニー』を少し前に読み終えたのですが……と書くと、今頃かよ! と言われそうですが、そう、今更です。随分前に何かのセールのときに Kindle 版を安価で購入しておいたままになっていて、昨年秋の台湾出張時に高速鉄道で台南から板橋まで戻る間に第一章を読んだものの、続きを読むにいたったのは最近だったりします。

(ところでこういう読書のディティールを書くのは、この後の文章の伏線でもなんでもなく、「台湾出張時に」とさらっと書いておくことで、さも自分ができるビジネスマンであるかのように見せかけるこけおどしの演出でしかありません。)

伊藤計劃のほぼ遺作にして日本SF大賞受賞作であり、また昨年劇場アニメ化もされており、既にこの作品に触れた方も多いと思いますので説明の必要はないかもしれませんが、『ハーモニー』は、従来の国家政府が崩壊し、代わりに「生府」という生命至上主義の統治機構の下で高度な医療経済社会が築かれ、人々の体内に医療監視システム WatchMe がインストールされて恒常的な健康状態が保たれる近未来が作品の舞台となっています。

病気が駆逐された世界というのはある種のユートピアに違いありませんが、その代償として人間自身が公共のリソースとみなされ、WatchMe という監視システムを体内に受け入れなければならないのは、反面ディストピアと見ることもできます。

そうした意味でのセキュリティ意識というか、この作品世界の人間が WatchMe を疑いなく受け入れているように見えるのに疑問を感じるわけですが、核戦争とその後の深刻な健康被害が引き起こされた「大災禍(ザ・メイルストロム)」と呼ばれる世界的な騒乱の後遺症というかバックラッシュという理由付けが本作ではなされています。

しかし、やはり少し前に検索クエリーから癌が分かるというマイクロソフト研究者らの発表のニュースを知り、現実世界の WatchMe は、抵抗感のある体内へのナノマシンのインストールという形を採らなくても、飽くまで人間の外部で徐々に実現していくかもしれないと思ったりしました。

マイクロソフトの研究は膵臓がんの早期発見を対象にしており、それは膵臓がんの早期発見がとても難しく、5年生存率が恐ろしく低いという背景があります。

(ワタシがこういうニュースや、他にもローラ・インドルフィの TED 講演「膵臓がん患者への吉報」にどうしても目がいくのは、ワタシ自身の近しい人が2人も膵臓がんの患者だからです。マイクロソフトの研究もローラ・インドルフィの「吉報」も、ワタシの大切な人たちにとっての「吉報」でないのは残念ながら認めなくてはなりませんが。)

膵臓がんの患者を医者の所見でなくその人の検索クエリーから突き止めるという発想はユニークですが、そんな都合良く患者が検索を(しかも Bing で)してはくれないだろうというので、この研究を甘く見るのは間違っています。

Amazon のハードウェア史上最大のヒット商品になったスピーカー型音声アシスタント「Amazon Echo」の成功、つまりはそれに搭載された人工知能(AI)アシスタント Alexa の成功を受け、現在 Apple も Google も Facebook も AI アシスタントの開発に躍起になっています

マイクロソフトもこの分野で Cortana を開発しており、ユーザとの自然な会話の中でその健康をチェックし、重大な病気の兆候を見抜く機能で、AI アシスタント分野における優位性を得ようとするのは容易に想像できる話です。

(……と思ったら、体の症状を告げると可能性のある病気を表示するよう Google アプリ検索が強化されるというニュースを知りました。まったく、この分野におけるビッグプレイヤーの競争は熾烈ですね。)

今回のマイクロソフトの研究を主導したのが、マイクロソフトリサーチのトップというだけでなく、米人工知能学会の元会長にして人工知能分野のエキスパートとして著名なエリック・ホーヴィッツ博士(Eric Horvitz)であることも、その推測の後押しになります。

エリック・ホーヴィッツ博士の名前は、今年のはじめにも一般向けのニュース記事で話題になりました。

それは例えば、【ビジネス解読】人工知能=AI開発 ゲイツ氏も「危険」 過熱する「AIは人類を滅ぼすか」論争というタイトル付けの感覚がどこかおかしい記事ですが、要は、世界的に有名な物理学者のスティーヴン・ホーキング博士が AI は人類の脅威になると警告したのに対し、件のエリック・ホーヴィッツ博士が異議を唱えたところ、彼の勤務先であるマイクロソフトの創業者ビル・ゲイツ御大が、それに真っ向から反対する、つまり人類にとっての AI の危険性を強調する論陣を張ったというものです。

ビル・ゲイツは6月のはじめに登壇した Code Conference 2016 において、やはり AI がもたらす二つの問題について論じています。二つの問題とは、一つは AI が多くの人間の職を奪うであろうという問題、そしてもう一つは AI の能力が人間を凌駕した後も AI は人間の管理下のままにとどまるだろうかという問題です。

ペドロ・ドミンゴス『The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World』

メリンダ・ゲイツ夫人によると、ビルのカバンの中を見て、読んでる本を見れば彼の関心は分かるそうです。今彼のカバンは AI の本でいっぱいとのことで、ペドロ・ドミンゴス(Pedro Domingos)の『The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World』を必読書として挙げています。

(昨年9月に刊行されたこの本の邦訳の話を未だ聞かないのは残念ですが、現在その作業が進んでいることを祈ります。なお、この本の著者はワシントン大学の教授で、「10年後の未来、面接やデートはオンライン分身がこなす」という予言をしていたりします。)

ゲイツはこの二つの問題を深く懸念しながらも、同時に AI がもたらす未来に興奮も隠せないようで、AI のことを「聖杯(holy grail)」と呼んでいます……とここまで書いて、あれ? 彼は昔もそういうことを言ってなかったかと調べたところ、お懐かしや梅田望夫氏の2004年のブログ記事にいきあたりました。

2004年の時点で、コンピュータサイエンスに残されたイノベーションの領域として AI を挙げているのはゲイツの卓見と言えるでしょう。

AI がもてはやされている現在から見れば何の不思議もなさそうですが、ゲイツも語る通り、2004年当時 AI をめぐる空気はかなり冷え込んでおり、1980年代の二度目の AI ブームの頃と比べると研究者が不足していました。それをゲイツは AI こそコンピュータサイエンスの聖杯、つまり見果てぬ夢なのだからと、マイクロソフトリサーチに巨額の研究予算を投じて AI の研究グループを維持したというのです。

それが現在では、ゲイツの言葉を借りれば、AI 分野は「最近五年で歴史上かつてないほどの進歩があった」とのことで、その勢いゆえにかつて AI 楽観主義者を標榜した彼も上記の懸念を感じずにはいられないのでしょう。

著名なロボット工学者である石黒浩大阪大学教授が語るように、今は AI ブームで言葉が独り歩きし、なんでも AI の範疇に含まれるようになったきらいがあり、音声や画像の認識から自然言語処理からデータマイニングからロボット工学にいたるまで、すべて AI の旗のもとに語られています。

とはいえ現在の AI ブームのコアにあるのは機械学習であり、その一手法であるディープラーニング(深層学習)のめざましい成果を享受できる環境(大量のデータとそれを処理する計算能力)が近年整ったのが大きいのは言うまでもありません。

またそのめざましい成果が、元々お膳立てをしたはずの人間を超えるように見える印象があります。「新しい世代がデータプライバシーを切り拓く(3)AI時代のデータプライバシーを考えよう」におけるクロサカタツヤさんの発言を引用します。

一方、人工知能ベースのプロファイリングが厄介なのは、そこで扱っている情報は一体何なのか、ということ。しかも処理系は、設計者が意図せずともブラックボックス化してしまいがちなのが、深層学習の特徴でもあります。誰かが書いたアルゴリズムを、機械が超えていってしまうんですね。

「ブラックボックス化」というのがポイントでしょうか。もはや元の作者であるはずの人間にも深層学習に導かれる回答が正しいか決められない、そもそもなぜ上手くいくのか理由が分からない。これについては清水亮氏が書くように、深層学習(ディープラーニング)は自然現象であると考えると捉えやすいのかもしれませんが、その文章にもある「なんとなく気持ち悪い」感じがどうしても残るのです。

先ごろ、総務省がAIネットワーク化検討会議の報告書を公表しました。報告書の中で、AI ネットワーク化がもたらすリスクが分析されており、徒党を組んだ「野良ロボット」の参政権要求や人間への反乱といった人目をひく内容がニュース記事になりました。

個人的には「ロボット(AI)が人間に反旗を翻し、人間を抹殺する」的な筋立て、それとセットで語られることの多い技術的特異点(シンギュラリティ)については、(「人工知能に対する楽観的な妄想」とまで言ってよいかは門外漢のワタシには分からないものの)懐疑的なのは確かです。ただ一方で、今のうちから実現性と想定されるリスクを見極めるのは重要で、総務省の報告書は意味ある仕事だと思います。

ただ最近の AI 関連のニュースを見ていて感じる不安は、単に AI に人間が支配される恐怖だけによるものではなく、同時にそれを何かうまく言語化できないもどかしさがずっとありました。

* * * * *

ニコラス・カー『Utopia Is Creepy: And Other Provocations』

一昨年に「自動化は我々をバカにする? ニコラス・カーの新刊が再び突く現代人の不安」で取り上げた『The Glass Cage』(邦訳は『オートメーション・バカ -先端技術がわたしたちにしていること-』)に続くニコラス・カーの新刊『Utopia Is Creepy: And Other Provocations』が9月に出るのを知りました。

新刊は純粋な書き下ろしではなく、過去彼のブログや雑誌に寄稿した文章からの選集のようです。その書名は2011年のブログ投稿が元になっているはずで、これを機会に久しぶりに読み直してみました。

SF 小説、特に優れたものは、たいてい常にディストピアものだ、という話から件のエントリは始まります。その理由をカーは、地獄にはたくさんのドラマがありそうなものだが、天国というのは定義上、何の衝突もないところだからと書きます。トーキング・ヘッズの曲ではありませんが、天国とは何も起こらないところ、なのです。幸福というのは体験してる分にはいいものだが、それを傍から見るのは実に退屈というわけです。

しかし、他にもユートピアを描くのがうまくいかない理由があるとカーは指摘します。彼が理由として挙げるのは、ロボットが人間に近づくにつれ、ある段階で突然激しい嫌悪感を覚えるという「不気味の谷現象」です。未来の楽園を描こうとすると、やはり「不気味の谷」に行き当たるとカーは主張します。つまり、ユートピアはキモい、と。その理由としてカーは、ユートピアでは人間が、我々の堕落した世界を悩ます怒りや嫉妬や敵意といったなんとも厄介な感情を示すことのない、まるでそんな感情自体ないかのようなロボットみたく振舞うことが求められるからではないかと書きます。

次にカーがやり玉に挙げるのは、テック企業が5〜10年後にテクノロジーが実現する未来を予測してつくった YouTube 動画です。その製作意図を考えれば、そこに登場する人間は楽しそうでないといけないのに、そこに登場する身なりのよい人たちが生きる未来は、寒々しくて、機械的で、不快に見えて、実にキモいとカーは吐き捨てます。

その実例としてカーが挙げるのは、2011年当時マイクロソフトが製作した Productivity Future Vision というビデオです。カーは、スタンリー・キューブリックとデヴィッド・リンチのコラボみたいと、おそらくは悪口のつもりで書いていますが、それだけ聞くと映画好きならそんなコラボ是非見てみたいとなるので逆効果かもしれません(個人的には、ちょっとデヴィッド・フィンチャーっぽく感じました)。また映像のバックに流れる音楽も実にキモいとカーは書いていて、それは言いすぎですが、確かに少し不安をかきたてるサウンドだとワタシも感じます。

カーは、Productivity Future Vision というこのビデオのタイトルが素敵で、これは実に示唆的だと皮肉っぽくブログの文章を締めています。

マイクロソフトの Productivity Future Vision シリーズは、2009年、(上で紹介した)2011年に続き、昨年2015年にも新作が作られています

2009年版と2011年版でフィーチャーされていたスマートフォン(のように見える端末)がほぼ廃され、タブレットとウェアラブル端末に置き換えられているところに、マイクロソフトのスマホ戦略の失敗の後遺症を見るのは意地悪でしょうが、3Dプリンターなど新たに加わった要素も見ることができます。

カーの批判を踏まえたのかは知りませんが、2015年版は以前のよりも人間的な要素を加えようとしているのが分かります。しかし、やはりどこか寒々と感じられるのです。2015年版を見てワタシの印象に残ったのは、休暇で田舎にきてもやはり仕事が気になって空き時間で仕事を進めてしまう女性であり、彼女は海外での休暇中、友人たちと楽しく遊んでいるところに上司から突然呼び出しが入り、すぐさま仕事モードに移るため、友人たちと別れて街中のコワーキングスペースを探さなくてはなりません。

これを「生産性の未来のヴィジョン」と受け入れることができず、若干引いてしまうワタシのような怠け者は、グローバル経済における競争についていけない負け犬に違いありません。しかし、テクノロジーによって高められた生産性だけでなく、人間がテクノロジーに振り回されているようにも見えるのです。

ワタシが最近の AI 周りの成果に感じる不安も、この「不気味の谷現象」が関係しているのかもしれません。ただ進化した AI がキモいと言いたいのではありません。直感に反した、不合理にすら感じられる結論がディープラーニングによって導き出されても、よく分からんがどうせこれが正しいのだろうから、とそれに盲従する人間を想像してキモく思うのです。そうした人間が、カーが書くように感情のないロボットのように見えるかはともかくとして、この場合「不気味の谷」は、AI ではなくむしろ人間の側にあるのです。

伊藤計劃の『ハーモニー』が、機械可読の架空のマークアップ言語「etml1.2」で記述されているという設定は、そうした意味で示唆的に思えます。

「自動化」に依存し、いざというとき問題に対処する能力を失った現代人を問題視するニコラス・カーの問題意識はそうした状況まで射程にとらえていますし、冷や水をぶっかけることにおいては並ぶ人のいない彼が、現在の AI ブームを見逃すはずはありません。『ネット・バカ』、『オートメーション・バカ』と、青土社がカーの本につける邦題には以前より苦々しく思っていましたが、『Utopia Is Creepy』に続いて一、二年後に出るであろう彼の新刊は、『AIバカ』という邦題がつくにふさわしい本になるような気がします。

WirelessWire Weekly

おすすめ記事と編集部のお知らせをお送りします。(毎週月曜日配信)

登録はこちら

yomoyomo

雑文書き/翻訳者。1973年生まれ。著書に『情報共有の未来』(達人出版会)、訳書に『デジタル音楽の行方』(翔泳社)、『Wiki Way』(ソフトバンク クリエイティブ)、『ウェブログ・ハンドブック』(毎日コミュニケーションズ)がある。ネットを中心にコラムから翻訳まで横断的に執筆活動を続ける。