AIのニュースが溢れすぎていて、いったいどれをフィーチャーしたらいいのやらと目移りしているうちに六月が過ぎていった。
まずい。さすがに何も書かないと編集長になにか言われる。

直近のでかいニュースは、ついにNVIDIA以外の半導体で目覚ましい成果が出た、というもの。

MosaicMLとAMD、ようやくNVIDIA並みの速度で大規模言語モデルの学習に成功

これまで、AMDを含めてApple Siliconもそうなのだが、「AI対応」と自称する半導体は、「確かに対応しているが常にベストではない」というのが副音声で流れていた。
これに騙されるエンジニアを見つけることで、自動的に「こいつは素人」という判定ができて便利だったのだが、Appleの誇大広告に慣れている昭和生まれの我々と、物心ついた頃からAppleが世界でもっともイケてる会社だった世代を比べては酷かもしれない。君の応援するアイドルの裏には、とんでもない巨悪がいるんだよ、と指摘してもすぐには目が覚めないだろう。

そもそもAppleは昔から、かなり無理筋なグラフで「高性能」を主張してきた。そのほとんどは誇大広告と言われても仕方ないものだったが、2000年代に入ると誇大とも言えなくなってきた。
IntelMacの世代に入ると、普通に高性能になったし、AppleSiliconも普通に高性能だ。普通のCPUとして見れば。

しかし、これが「AIパワー」を有しているとなると途端に疑問符が点灯する。それは完全な嘘とは言えないが、誇大広告気味ではある。
要は、ほとんどの場合、この「AIパワー」は使えない。それを使うソフトウェアがほぼ皆無だからだ。

もっと悪いのは、Apple Silicon対応のPytorchで、CPUとApple Siliconのニューラルエンジンを使ってベンチマークテストをすると、大抵の場合、CPUより遅いということだ。
どういうことなんだ、と世界中のプログラマは困惑する。ちょっと調べればわかることなのに、これすらやらないエンジニアとも呼べないエンジニアが増えているのだ。
ただ、最近はようやくApple Siliconの「有用な」使い方も分かられつつあるようだ。要はソフトウェアがこなれていないのである。

言うなれば、12気筒のうち4気筒くらい死んでるスーパーカーのようなものであり、これで公道時速300km出るのかという話でもある。

Intelのライバルであり、NVIDIAのライバルでもあるAMDも長いことAI分野に関しては地道な戦いを挑み続けていた。
AMDに好感が持てるのは、決して「ベストのAIチップ」とは主張しないことだ。そう見せることもしない。それは紛れもない嘘だからだ。

NVIDIAのCUDAに対抗するROCmという仕組みがAMDにはある。これもソフトウェアだ。
NVIDIAは半導体メーカーでありながら、ソフトウェアエンジニアを大量に雇用してきた。それは、ハードウェアの潜在能力を引き出すのはソフトウェアエンジニア、それも本物のソフトウェアエンジニアだけだと考えていたからだ。

ところがIntelとAMDは半導体メーカーで、ソフトウェアエンジニアの募集や育成に力を入れて来なかったと関係者に聞いたことがある。
それがROCmで頑張って巻き返しを図り、NVIDIA製GPUの1/3くらいの速度は出せるようになってきた。

「1/3とか冗談だろ」と思うかもしれないが、ここが涙ぐましいところなのだ。
それでも地道かつ果敢に戦いを挑む。オープンソースで。

今回、MosaicMLとAMDが達成したスピードは、NVIDIA製GPUの70%くらいの性能だ。従来の二倍くらい、NVIDIAに追いついたと言える。
これを「AI半導体の独立記念日だ」とお祭り騒ぎにしようとする人もいる。たしかに、3割落ちの性能で値段が半額なら買うかもしれない。

特にAMDのビデオカードはメモリを多めに積んでいる。NVIDIAが最大80GBのところをMI250は128GB積んでいるので、大規模言語モデルには有利である。
でも価格競争力があるかどうかはわからない。

とはいえディープラーニングがCUDAの可能性を広げてから10年。これまでこれといった強敵が現れなかったNVIDIAにようやく挑戦できるチャレンジャーが続々と生まれつつあるのは好ましい事態だ。

AMDは単純な性能だけでなく、価格競争力でNVIDIAの牙城を崩すことができる可能性がある。

もうひとつ、NVIDIAの牙城を脅かしているのが非ノイマン型コンピュータアーキテクチャを採用するSambaNovaだ。
NVIDIAやAMDのように半導体そのものを売るのではなくてソフトウェアを含めた全体をソリューションスイートとして販売している。

筆者は来週火曜日にSambaNovaのエンジニアを招いたイベントも企画している。
SamvaNovaはNVIDIAと直接は競合しないが、640GBという広大なRAM空間と再配置可能データフローアーキテクチャという画期的な仕組みによって米国ローレンス・リバモア研究所などに導入されている。

AI半導体の未来を占う上でAMDとSambaNovaがダークフォースとなり、さらにそこにジム・ケラーのテンストレントをはじめとするRISC-V軍団が加わってくる。
そうなるといよいよAI半導体をめぐる攻防戦は面白味を増してくる。

何より我々はもっと安く、もっと高性能な生成AIを手にできる日が近づいてくる。
何兆円という巨額で殴り合う半導体テックたちは、いわば巨大怪獣だ。

巨大怪獣たちが大決戦しているのを我々ソフト屋は遠くから見物しているような気分である。
その戦いには加われない(加わりたくない)が、成果はどうせ我々のところに落ちてくるからだ。

どっちも頑張って欲しい。