「次のNVIDIA」候補をどう見るか:中島聡が語るAIチップベンチャー4社

YouTubeで開く ↗
概要

NVIDIAが圧倒的な地位にあるAI半導体市場で、その牙城に挑むスタートアップは数多い。この動画では、ソフトウェアエンジニアで起業家の中島聡が、Groq、Cerebras、Tenstorrent、FuriosaAIの4社を取り上げ、それぞれの技術とビジネス上の立ち位置を論じている。

10分で読めます

進行は少し変わっている。中島は事前に4社について調べた情報をChatGPTに渡し、ChatGPTにインタビュアーを任せた。ChatGPTが各社の概要を紹介し、それに中島が答える形で話が進む。冒頭ではChatGPTが4社の紹介をしないまま意見を求めてきたため、中島が「YouTubeを見ている人には分からない」と指摘し、まず1社ずつ概要をまとめさせる流れに改めている。

中島の評価軸は一貫している。実際に動くものを見せているか、その会社の設計思想が筋の通ったものか、そしてチップをどう売ってどう稼ぐのか、という点である。

1:48

Groq:実演で速度を示している唯一の会社

ChatGPTの紹介によれば、Groqは2016年設立のスタートアップで、生成AIの推論処理に特化したチップを開発している。中核製品は「LPU(Language Processing Unit)」と呼ぶチップで、従来のGPUを大きく上回る性能をうたっている。

中島がGroqを最も高く評価するのは、実績を示している点だ。AIチップベンチャーを名乗って資金を集めるだけでなく、自社チップでサーバーを立ち上げ、大規模言語モデルの処理がどれだけ速いかを実際に見せている。他のチップベンチャーも自社の優位点を口では語るが、デモで具体的に示しているのは中島が知る限りGroqだけだという。この意味で「本当に実績がある」と中島は述べる。

ビジネスモデルについても中島は納得している。Groqはチップを作って売るのではなく、AIサービス、あるいは計算能力そのものをサービスとして提供している。Llamaなどのオープンな大規模言語モデルが増えているので、それを自社チップで組んだサーバーに載せて提供する。Groqが手がけるのは推論だけだが、推論ではそれなりのシェアを取れる可能性があると中島は見ている。期待というより、純粋に実績から見た評価だという。

3:54

Cerebras:ウェハ1枚を丸ごと使う巨大チップ

Cerebrasは2015年創業のアメリカ企業で、「ウェハースケールエンジン」と呼ぶ巨大なAIチップを開発している。ChatGPTの紹介では、このチップは通常の数十倍の大きさがあり、非常に大規模なAIモデルの学習を高速に実行できる。

中島はまず、技術者として「とっても面白い」と評価する。ウェハースケールのチップは30cmほどの大きさがある。チップは大きいほど多くのトランジスタやメモリを載せられるので有利な点が多い。ただし、大きくすると欠陥が入りやすくなり、歩留まりが下がる。

中島は歩留まりを次のように説明する。ウェハからチップを100個切り出したとき、そのうち実際に正しく動くのが何個かという割合が歩留まりである。ビジネスとして成り立たせるには80%程度は欲しい。それが30%や20%まで下がると、1枚のウェハから取れる良品が減り、1個あたりのコストが上がって商売にならない。このため、従来はチップをあまり大きくしたくなかった。

最近の技術では、チップを大きくしても多少の欠陥に耐えられるよう設計しておく、という考え方が取られている。中島はAppleがiPhoneやMac向けに作っているチップを分かりやすい例として挙げる。たとえば1つのチップにGPUが8個載っていて、まれに8個のうち1個に欠陥があるものが出る。それを捨てずに、1,200ドルのMacBookには8個すべてが動くチップを、1,000ドルのモデルには7個しか動かないチップを載せる。客から見れば8個でも7個でも性能はそれほど変わらず、200ドル安く買えるならそちらでいいという考えもある。従来なら廃棄していたチップを、ローエンドのMacに回しているわけだ。

中島によれば、Cerebrasのウェハースケールチップはこの考え方の応用版である。1枚のウェハに多数の計算モジュールが並んでおり、これだけ大きいといくつかは欠陥で動かなくなる。しかし、一定の割合が動かなくてもそれを回避して全体として性能が出るように設計されている。当然の流れといえば当然だが、この大きさのチップでそれを実現しているのは賢く、興味深いと中島は言う。

7:32

Cerebrasの上場問題

ビジネス面で中島が注目しているのは上場の行方だ。Cerebrasは今年上場すると宣言し、中島の記憶では目論見書も提出したかもしれないという。しかし、実際には売上の大半がたった1社の顧客から来ており、しかもその顧客が投資家でもある。上場するにはこうした情報をすべて開示しなければならず、それがネックになって上場が延びている。中島は、このまま上場できなくなるのか、単に延期しているだけなのかはよく分からないと留保している。それでも、AIチップベンチャーの中で最初に上場しそうな(あるいは、しそうだった)会社として注目しているという。

Tenstorrent:ジム・ケラーへの敬意

ChatGPTの紹介によれば、Tenstorrentは2016年にカナダのトロントで設立された企業で、AIアクセラレーターとRISC-Vプロセッサの開発に力を入れている。CEOは、半導体業界で数々の実績を残してきたエンジニアとして知られるジム・ケラーである。

中島はまず、ジム・ケラーを非常に尊敬していると語る。Teslaの自動運転チップを含めて多くのチップを設計してきた実績もすごいが、中島が特に面白いと感じたのはケラーのYouTube動画だ。中島は現在ソフトウェアエンジニアだが、もともと電子工学を学んでいたため、半導体やチップ設計に関心がある。ケラーは、最近のチップが非常に長いパイプラインを持ち、分岐の先の処理を先回りしてどう効率よく実行しているか、コンパイラではできない部分をチップ内部のソフトウェアでいかに高度に処理しているか、といった話をしてくれるので面白いという。

RISC-Vコアを並べるという選択

中島が「結構面白いアプローチ」と見ているのは、ケラーがRISC-Vのコアを複数並べてAIチップを作ったことだ。

比較のために、中島は他社の方式を整理する。NVIDIAはGPUである。Groqなどは、GPUとは少し違うものの、基本的にはニューラルネットの行列計算を効率よく処理する専用計算機に近い。汎用CPUでも汎用GPUでもなく、AI計算向けに細かく作り込んだ専用コンピュータにデータをスムーズに流す設計だ。これに対し、ケラーが選んだのは汎用のRISC-Vである。

中島はRISC-Vの背景も説明する。チップの世界ではIntelが王者だったが、ARMがIntelから市場を奪い始め、今ではAppleをはじめ、世の中のスマートフォンの多くにARMチップが載っている。ただしARMはライセンスが必要なので、それをオープンな形で実現しようとして始まったのがRISC-Vだという。ケラーはこれまでARMベースの設計を多く手がけてきたが、今回はオープンなRISC-Vで新しいチップを設計した。

Tenstorrentのチップは、AIに特化したGPUやGroqのような方式ではなく、汎用CPUのコアを1チップに複数置き、メモリをその近くに配置し、データフロー的にパイプラインでデータを流して計算する。中島は、これまで特にCPU側のチップを設計してきたケラーらしいアプローチだと強く感じたという。ただし、Groqほどの速度が実際に出るのかといった実績はまだ表にきちんと出てきていないので、どうなるかは分からないとしたうえで、注目していると述べている。

12:34

北海道の半導体製造ベンチャーとの提携報道

中島は日本との関わりにも触れる。北海道に作られた新しい半導体製造ベンチャーがTenstorrentと組んだという報道があった。ただ中島の見方では、提携というより、ケラーが設計した新しいチップをそこで製造する、新しいプロセス(中島は「2ナノだっけ」と確認しながら話している)で設計する、という話が決まった程度だという。おそらく試作だろうと中島は推測する。それでも、そこで実際に動くチップができれば良いデモにはなるのではないか、と見ている。

13:24

FuriosaAI:電力あたりの性能で勝負する韓国企業

最後はFuriosaAIである。ChatGPTの紹介によれば、FuriosaAIは2017年設立の韓国のAI半導体スタートアップで、高性能かつ省電力なAI推論チップを掲げている。最新チップの「RNGD(レネゲード)」はTSMCの5nmプロセスを使い、高い電力効率と処理能力を備えるという。

ChatGPTは、新興企業がNVIDIAやAMDのような大手と競うにはどんな強みが必要かを尋ねた。中島は、当然ながら何らかの部分、おそらくは推論に特化する必要があると答える。FuriosaAIの場合は電力あたりの性能が高く、同じ計算能力のサーバーを少ない電力で動かせる点を特徴にしている。中島はこれを戦略として「すごく正しい」と評価する。

14:47

Metaによる買収交渉と決裂

中島はFuriosaAIをあまり追いかけていなかったが、最近になってMetaによる買収の報道で注目したという。中島によれば、Metaが買いたいと申し出て、価格はおよそ8億ドルで話がついていた。しかし買収後のビジネスモデルで意見が食い違い、結局FuriosaAI側が買収を断ったらしい。

中島は、Metaがこの会社を欲しがった理由を次のように説明する。MetaはAIで勝負する会社で、特に推論では膨大な量を処理しなければならない。NVIDIAのGPUを使うとそれが高くつく。NVIDIAの財務資料を見ると分かるように、利益率が非常に高いからだ。中島の例では、AIインフラに1兆円を投資すると、そのうち4,000億〜5,000億円がNVIDIAの利益として流れてしまう。自社でチップを作れれば、NVIDIAのGPUを使えば1兆円かかるAIインフラが半分の5,000億円で済むかもしれない。それほど大きな話だという。

Meta自身もチップを作ろうとしている。その中で電力性能の良いFuriosaAIを買い、推論用のAIデータセンターをそれで構築すれば、NVIDIAに払う利益分も電力も節約できる。自前で作れないなら、こうした会社を買うのは理にかなっていると中島は見る。

一方、FuriosaAIがなぜ断ったのかについて、中島は推測として語る。Metaの一部になり、単にMetaのコスト削減のための部門になるのは嫌だったのではないか。自分たちのチップでGroqのようなサービスを展開するか、あるいはMetaだけでなくAmazonやMicrosoftにもチップやサーバーをライセンス・販売する会社になりたかったのだろう、というのが中島の見立てである。

中島は、韓国にこうしたAIチップベンチャーがあることを一連の報道を見るまで知らなかったと認める。そのうえで、ここまでできているのは素晴らしいと評価し、突然レーダー上に現れたAIチップベンチャーとして今後注目したいと話を締めくくった。

4社の評価を並べると

中島の見方を整理すると、4社への評価の根拠はそれぞれ異なる。Groqは実演とサービス提供という「実績」で評価され、推論市場でのシェア獲得の可能性が指摘された。Cerebrasは欠陥を許容する巨大チップの設計が技術的に面白いとされたが、売上が単一の顧客に偏っていることが上場の障害になっている。Tenstorrentは、ジム・ケラーらしい汎用RISC-Vコアによるアプローチが注目点だが、速度の実績はまだ見えていない。FuriosaAIは、電力効率に特化する戦略が正しいとされ、Metaとの買収交渉の決裂からは、独立したチップ供給者を目指す姿勢が読み取れると中島は推測している。

中島自身がまだ答えを持っていないと明言した点もある。Cerebrasの上場が単なる延期なのか、上場そのものが難しくなったのか。そして、Tenstorrentの方式がGroq並みの速度を実際に出せるのか。この2点は、今後の結果を待つ問いとして残されている。