神経情報回路のトップカンファレンスであるNeurIPS2019がカナダのバンクーバーで開催された。
当社も昨年からスポンサーを継続している。

NeurIPSは、近年急速に発展してきたディープラーニングを始めとする人工ニューラルネットワークの国際学会であり、ディープラーニングの勃興とともに急速に活発化した学会でもある。あまりの人気の過熱ぶりに昨年は10万円のチケットがわずか12分で売り切れるという異常事態にまで発展した。

会場が大幅に拡大された結果、今年の参加者は倍増の約13000人に達し、最高潮の盛り上がりを見せている。
とはいえ、NeurIPSの論文の多くはインターネットで公開されており、70%の論文は実装(実際のプログラムのソースコード)までもがオンラインで公開されているという充実ぶりで、なおかつ多くのセッションはオンライン中継で視聴することもできる。

という中では、論文だけをサーベイしたり、セッションだけを聞くのであれば、わざわざ参加する意味は薄い。

NeurIPSの特徴は、なんといってもポスター発表が多いこと。
ポスター発表を通じて実際の研究者と直にコミュニケーションをとれることが参加者の最大の目的と言ってもいい。

そもそも投稿される論文が膨大であるNeurIPSでは、発表されるすべての論文を読むだけで一年以上の時間がかかると言われている。

その中で、ポスター発表は論文を一瞥するいいチャンスだ。また、人だかりのでき方を見て、遠くからでもどの論文が文字通り「注目」されているのかがよくわかる。

視覚情報というのは非常に強力な手がかりであり、論文がポスターになっていると、瞬時にそれが自分にとって有益なものか、それともあまり興味のないものかがわかる。

研究者としての立場でこの学会に参加するのであれば、自分の専門分野のポスターだけを慎重に読めばいいのだが、当然ポスターよりも論文の方が詳しく書いてあるので、発表者とのコミュニケーションをとる以外にあまり意味がない。

ところが経営者としてディープラーニングを始めとするニューラルネットワーク技術の動向を見極めるには、これ以上ないほど有益な場でもある。

先端科学を実用化する仕事では、技術動向の見極めが重要である。いま、世界のなかで人工知能に関する重要なカンファレンスは3〜5つほどあり、人工知能を専門分野としてなくても人工知能が積極的に活用されているカンファレンスをあわせるとさらに倍くらいになる。

全てに出席しようとすれば、ほとんど毎月海外出張をすることになるが、その価値はある。
どの分野でどのようにAIが活用されているのか知り、同時にAIがどのような方向性に進もうとしているのか知る。その２つの視点を持つことで初めてAIの社会実装の方向性を見極められる。

視野の広さは、OODAループの最初のO(Obseve)であり、経営トップが最も重視するべき観点・視点である。

本職が研究者であったならば、これだけ多くの学会に参加していたら肝心の研究をする時間がなくなってしまうが、経営者はできるだけ幅広く、同時に分野分野ではときには深い洞察を持つ必要がある。

その意味では、偶然ではあるが、自分自身がコンピュータグラフィックスの、しかもGPUを扱う専門職を経験していたことは今の論文を理解するのに大いに役立っている。コンピュータグラフィックスはAIと真逆で、人間を視覚的なトリックで意図的に騙すためのものだが、そこで用いられる計算処理はAIと共通項が多い。

たとえばこの論文は「クォータニオンを使うことで従来手法よりも劇的に性能が上がった」というものだが、そもそもクォータニオンが何であるか、おそらく会場の参加者の大半は知らないだろう。なぜならクォータニオン(四元数)は、数学の専門家でもない限りまず触れることがない概念だからだ(故に、このポスターの中央部分にはわざわざクォータニオンが何であるかという初歩的な説明が書かれている)。クォータニオンは相異なる3つの虚数単位からなる特殊な複素数で、これを実用的に使っているのは宇宙開発とコンピュータグラフィックスくらいだろう。

非常に幸運な偶然ではあるが、コンピュータグラフィックス(特にゲームグラフィックス)で用いられる数学はAIの分野でもほとんど共通して用いられる。もし自分に確たる専門分野がないままに論文だけを眺めていたら、この論文で論じられていることが、その他の論文とは根本的に異なっていることを直感的に理解できる。クォータニオンを導入する以前のコンピュータグラフィックスというのは、致命的な欠点を持っていたからだ。

クォータニオンが表現できるのは4次元のベクトルであり、この4次元のベクトルを使うことによって、ベクトルの長さを維持したままなめらかに３次元空間上で補完することができるのが特徴だ。

この論文では、それを知識グラフニューラルネットワークに応用することで劇的な改善ができることが示された。だとすれば、相異なる4つ以上の虚数単位を持つ概念へ拡張できる可能性がある。

そもそもニューラルネットワークが扱うものはベクトルであり、ベクトルである以上は、理論的には複素数で表現できるはずだ。

ただし、ここが重要なところだが、私は数学の専門家ではないので、本当にそんなことが可能なのかはわからないし、自分で研究するつもりもない。ただ、この論文の示す事実だけから多元数がいつの日かニューラルネットワークに応用可能であろうという予測を得ることはできる。

こういう気づきや準備は、研究者ではなく、経営者だからこそ必要な知見だと僕は考える。
他の分野ならともかく、AI企業の経営者にとって将来の研究の方向性を探ることは死活問題であり、会社がどのような技術分野を強みにしていくかという方向性にも直結する。

技術企業のトップが研究開発の方向性を見誤ると、貴重な経営リソースの投資に失敗する可能性が高まる。
たとえば、成功する見込みのない半導体に大量の資金を投資したり、成長する余地のない枯れた技術にエンジニアを投入することで競合企業に遅れを取るおそれがある。

例えば、私自身はAIチップと呼ばれるような半導体に投資するのは時期尚早であると考えている。

なぜなら、今まさに紹介した論文で示されたように、ニューラルネットワークで必要とされる計算手法そのものが固まっていないからだ。つまり、今開発されているとされるAIチップと呼ばれるものは、数年後には陳腐化する可能性が高い。

今、世の中で作られているとされるAI用チップというのは、畳込みニューラルネットワークに最適化したものがほとんどである。

しかし、そもそも畳み込みニューラルネットワークの提唱者として高名なヒントン教授自身が２年前に畳込みニューラルネットワークは誤りであったという論文を発表していて、新たにベクトルを中心としたカプセルネットワークを提唱している。昨年のNeurIPSではカプセルネットワークについての論文は少なかったが、今回はカプセルネットワークの多段化を実現し、精度の向上に成功したという論文が発表されていた。

研究そのものが行き詰まりつつある畳み込みニューラルネットワークに比べてカプセルネットワークが将来有望なのはある程度は明らかであり、必要とされる計算が違うため、最適化された回路は全く異なる。

今の所もっとも実用的なAIチップの実装は、中国のKendryte210のような、非常に限定した畳み込み専用命令を用意したものだと言えるだろう。

これは奇しくもGPUそのものの進化の歴史を振り返ればわかる。
たとえば1994年の初代PlayStationにおけるGPUは、一切の三次元的計算を行わないものだった。二次元の三角形を描画することに特化し、テクスチャマッピングは二次元的な変形のみによってサポートされた。

これは、この時点では研究の最先端分野では別の方式を使っていたが、民生機に落とすための手法が確立されていなかったためである。

初期の民生用GPUのアーキテクチャに大きな影響を与えたDirectX(Direct3D)のバージョンアップの歴史を振り返れば明らかで、当時のDirect3Dはバージョンが上がるごとにほとんどゼロからアーキテクチャが見直された。数多くの半導体メーカーが独自のGPU開発に挑戦し、淘汰され、最終的にはATI(現AMD)とNVIDIAとイマージョンテクノロジー(PowerVR)が生き残った。

そのほかにインテルやARMといったCPUメーカーが、それぞれ独自のGPUを実装している。

初期のGPUはカンブリア大爆発のごとくさまざまな描画方式が乱立し、最終的にはピクセルシェーダーとバーテックスシェーダーを用いる現在のGPUアーキテクチャとして落ち着いたが、ここに至るまでかなりの紆余曲折があった。

AIチップも必ず同じ道程をたどるはずである。
ただ、GPUの頃と違い、民生機でのAI活用というのがまだ具体的な用途が見えていないため、半導体の方がやや前のめりで投資対象になっている状態だ。

実際のAIチップの動向はどうなっているか、NeurIPSと同時期にシリコンバレーで開催されたRISC-V Summitで見えてきた。

RISC-V Summitは、昨年と比べると規模が拡大し、いかにも「Summit」然とした内容になった。
ところが昨年はほとんどの企業ブースがAIチップ(畳込みニューラルネットワークに最適化している)の実演展示を行っていたのに対し、今年はRISC-Vチップの開発ツール類が中心の展示に様変わりしていた。

これはRISC-Vチップが単なる物珍しさだけから使われている時代から、実用的なスペックを期待して使われるフェーズに移ったことと、やはり畳み込みニューラルネットワークの最適化機能だけでは差別化が難しいことが理解されたからと考えられる。

ニューラルネットワークの研究シーンにおいても、畳込みそのものの研究というのはもはや誰もやっておらず、それをどのような分野へと応用するかに興味の中心が移っている。

コンピュータグラフィックスの計算の複雑さに比べると、ニューラルネットワークの計算はまだまだ単純すぎる。したがって半導体に投資するほどの効果が得られにくい。

海外の学会では、日本ではなかなか会えない人との情報交換をするというのも経営者にとって貴重な機会となる。

日本は、特に東京は忙しすぎる。一日10件のアポが入ってる人というのも珍しくない。

そういう人を都内で捕まえるのはものすごく困難だが、海外の学会では意外と時間があいてることが多い。どんな優れた人間でも移動はしなければならないし、時差ボケと戦わなくてはならないし、ご飯は食べなくてはならない。

したがって、海外の学会でランチなどで出会う有識者との会話も非常に重要なヒントがある。

たとえば今回のシリコンバレーでは半導体に強いジャーナリストの後藤弘茂さんからIEDM(半導体のトップカンファレンス)での最新情報を直に聞いたり、PS3のCELLチップの開発者の一人であり、現在はエスペラントテクノロジー社で新しいCPUの設計に関わる笠原栄二さんから、開発の状況を聞いたりできる。

地球上のどこにいても、生の情報というのは、結局のところ人からしか聞くことができない。
そして同時に情報化されない生の非情報(exformation)に触れることも重要だ。そのためにはそういう人たちが集まっている「場」に自ら出向いていくことが欠かせない。

こうして得られた知見や人とのつながりというのは、自分だけのものなので、これを自分の強みとして経営判断に反映させることが、実際の経営者にとって最も重要なことだと私は考えている。

正直に言えば、経営者なんて誰でもできる仕事だ。
とりあえず自分を社長にして、税理士事務所にいって相談すればいい。その手間はほとんどかからないし、今は資本金も1円でいい。

しかし、社員を雇い、資本家を説得し、会社の方向性を定めるには、その判断に至った確固たる理由や根拠が必要になる。

もちろん経営者のキャラクターによっては、「勘で決めた」で許されることもなくはない。
それに私だって実際にはほとんど勘で決めることも決してなくはない。勘だって大事な非情報である。

ただ、その「勘」を高めるためにどれだけの努力をしたか、その「勘」を裏付けるにたる証拠はあるか、特にAIの場合、世界の動向を無視して決めることはできない。世界中のあらゆる分野の人々がAIに注目しつつあり、複数の学会やコミュニティがAIを大なり小なりあるときは中心テーマとして、あるときは便利な道具として、話題にしている以上は、そこを見に行かずに業界の将来を見極めることは不可能だ。

特にAIに関しては、学会の動向が直近のビジネスに影響しなければおかしい。それくらい変化が激しい世界だ。

そしてなぜだか知らないがAIの学会は寒い時期に寒い場所でやることが多い。例外は8月のマカオで開かれたIJCAIくらいで、他には8月のメルボルン(南半球なので真冬)、12月のモントリオールやバンクーバー、2月のニューヨークなど。寒いところは苦手だが、仕事のためには行くしかない。再来年のNeurIPSは12月のシドニーでやるらしい。やっと暖かいところでNeurIPSに参加できる。それを励みにするしかない。