GoogleはなぜTPUを外部のデータセンターに置き始めたのか：中島聡がNVIDIA依存とTPU経済圏の狙いを読み解く

なお中島は冒頭で、今回は新しい形式を試すと述べている。記事内容を読み上げる音声と問いかけが入り、それに中島が答える構成になっている。

報道の内容：初めて自社施設の外にTPUを配置

動画の前半では、The Informationの報道内容が紹介される。Googleは自社のTPUチップを、初めてサードパーティーのクラウドプロバイダーのデータセンターに配置する。契約相手はロンドンに拠点を置くFluidstackで、TPUはニューヨークのデータセンターでホストされる。Googleにとっては自社施設の外にチップを置く初の試みとなり、Fluidstackの拡大を支えるために32億ドル規模の財政支援も行うと伝えられている。報道はこの動きを、NVIDIAの優位性に直接挑む戦略として位置づけている。

報道部分の説明によれば、TPU(テンソル・プロセッシング・ユニット)は、Googleが機械学習タスク専用に設計したカスタムAIチップである。さまざまな計算をこなすNVIDIAの汎用的なGPUとは違い、TPUはAIのワークロードに特化している。そのため、大規模言語モデルの学習ではより高い性能と効率を出せる可能性がある、と紹介された。

1:27

GPUの「流用」から、最初からAI用に作ったチップへ

中島はTPUの位置づけを自分の言葉で補足する。「テンソル」は行列のことで、AIのニューラルネットの計算では大量の行列計算が必要になる。現在ほとんどの事業者はこの計算にGPUを使っている。GPUはもともとゲームの3D画面を描くために作られたチップだが、同じような計算を並列に処理するのが得意なので、AIにも使われるようになった。

中島はこれを、ゲーム用だったものをAIに「ある意味流用している」状態だと表現する。AIの処理は行列計算が中心なのだから、最初からそのためのチップを作った方が効率がよいはずだ。この発想で作られたのがGoogleのTPUである。これまでGoogleはTPUを社内でだけ使ってきたが、外部にも提供し始めた。中島はそこが今回の面白い点だと話す。

2:33

NVIDIAの粗利70%は「競争原理が働いていない」から

なぜGoogleは他のクラウド事業者にTPUを置き始めたのか。この問いに対して中島はまず、GoogleだけでなくAI業界全体がNVIDIAだけに頼っている状況を、Googleは好ましくないと考えている、と答える。

その理由として中島が挙げるのが、競争原理が働いていないことだ。中島によれば、NVIDIAはGPUを粗利70%といった水準で売ることができる。中島は競争がある場合の例で説明する。同じようなものを粗利70%で売る会社と30%で売る会社が並んでいれば、製造原価はほぼ同じなので、買い手は安い方を選ぶ。そうなると粗利を高くしている会社は売れなくなり、値下げせざるを得ない。競争が起きれば粗利はどんどん下がっていく。

ところが現状はほぼNVIDIAの一人勝ちなので、粗利が高いまま維持されている。GoogleもAmazonも、NVIDIAから高い値段でGPUを買わざるを得ない。中島はこれを、Googleが自社チップに力を入れる背景として説明している。

自作で安くするだけでなく、NVIDIAから値引きを引き出す

中島の見方では、Googleの狙いは二つある。一つは自分でチップを作って安く済ませること。もう一つは、「自分で作れば安くできる」と示すことで、NVIDIAから値引きを引き出すことだ。

ただし、自分で作れば自動的に安くなるわけではない。チップのコストを下げるには量を作る必要があり、Googleとしてはたくさん作りたい。中島はここに、外部パートナーと組む理由があると見ている。

自前でデータセンターを増やすのは難しく、リスクも高い

大量のTPUをすべて自社のデータセンターだけで使おうとすると、問題が多いと中島は指摘する。データセンターを作るにはコストがかかり、土地を見つける必要があり、電気も引いてこなければならない。TPUもGPUも膨大な電力を使う。地元の電力会社に何百メガワットも欲しいと頼んでも、近隣住民に迷惑がかかるので簡単にはもらえない。

そのため、Googleがいきなり自前でデータセンターを増やすのは難しい。お金がかかるのでリスクも高く、スピードも遅くなる、というのが中島の説明だ。

中堅のAIインフラ企業にTPUを「下ろす」

そこで出てくるのが、今回のようなサードパーティーである。中島によれば、MicrosoftやAmazonのような大手ではない中堅どころで、データセンター用の土地を買収し、電力を用意し、データセンターを建てる会社が今増えてきている。こうした「AIインフラ」だけを提供する会社の一社に、GoogleはTPUを供給する。

中島の見立てでは、Googleにとっての意味はTPUの売上そのものよりも、まずTPUの大量生産が始まることにある。量産によってTPUのコストを下げられる。さらに、TPUを載せたデータセンターができれば、Google自身がそこを使っていろいろなサービスを提供できる。TPUはGoogleが自分で設計して作っているので、使い方を一番よく知っているのはGoogleだ。だからそのデータセンターの主な顧客はGoogle自身になる、と中島は見る。

資金はGoogleが貸し、TPUを買わせ、計算資源を買い戻す

中島が「面白い」と言い、同時に「ちょっと分かりにくい」とも認めるのが、お金の流れである。データセンターを建て、GoogleからTPUを買うには多額の資金がいる。その資金もGoogleが出すという。

中島はこう整理する。Googleはパートナーに初期資金を出す。ただしこれは与えるのではなく貸すものだ。パートナーはその資金でデータセンターを建て、GoogleからTPUを買う。そして完成したAIデータセンターの計算能力を、Googleがサービスとして買って使う。お金がGoogleとパートナーの間を行ったり来たりする構図になる。

中島はこの仕組みについて、Googleが「TPUの経済圏」のようなものを作ろうとしているのではないか、という見方を示して解説を締めくくっている。