OpenAIはなぜBroadcomとAIチップを作るのか：中島聡が見るNVIDIA依存とGoogleとの競争

NVIDIA一社に頼る限界

中島はまず、OpenAIがNVIDIA一社にチップを頼る状況は「かなり耐えられない」と述べる。理由として挙げたのは、チップの供給不足と価格の高さの二つだ。

価格について、中島はNVIDIAが独占状態にあり、粗利益率がおよそ75%に達していると説明する。自社でチップを作れば、その75%分を節約できる計算になる、というのが中島の見積もりである。

学習ではCUDAが強いが、推論には余地がある

中島によれば、NVIDIAのチップは汎用性が高く、開発環境であるCUDAのおかげで、学習(トレーニング)プロセスでは圧倒的な力を持っている。中島はこの部分を崩すのは「かなり難しい」と見ている。

一方で、推論についてはまだ他のチップメーカーやカスタムチップにチャンスがあると話す。推論では、特定の形のニューラルネットを処理することに最適化したチップを作ればよいからだ。こうしたチップを使えば、NVIDIAから買わずに済んで安くなるだけでなく、推論の速度を上げたり、消費電力あたりの計算能力を高めたりできる可能性がある、と中島は説明する。

この方向はGoogleがすでにTPUで積極的に進めており、Microsoftも取り組み始めている、と中島は指摘する。推論の需要はすでに増えており、今後さらに爆発的に増えることを考えると、OpenAIが自社チップ開発に乗り出すのは理にかなっている、というのが中島の評価である。

独自の強みというより「Googleと肩を並べたい」

インタビュアーは、GoogleなどとくらべてOpenAIの自社チップにどんな独自の強みがあるのかを尋ねた。中島は、独自の強みというより、Googleがやっていることと肩を並べたいのではないか、と答えている。

その根拠として中島が挙げたのが、Googleが前の週に発表した画像生成AI「Nano Banana」だ。中島によると、Nano Bananaは非常に速く、性能が高く、しかも安い。特に速さが際立っているという。

開発の現場で感じた速度の差

中島は自身の体験も話した。マルモキャストの開発では、これまで基本的にOpenAIの最新の画像生成AIを使っていた。性能には十分満足していたが、とにかく遅く、1枚作るのに1分ほどかかることもあった。

Nano Bananaに切り替えると、画像は数秒で出てくる。中島はこれで開発のテンポがまったく変わったと話す。生成を待つ間に別の作業をするのではなく、その場で待てるようになり、生産性が根本的に大きく上がったという。性能も明らかにOpenAIのものより良いと中島は評価しており、現在はNano Bananaを使っている。

TPUを推論に使いこなし始めたという推測

Googleは、どのチップをどこで使っているかを発表していない。そのうえで中島は、Nano Bananaが桁違いに速くなったこと自体を一つのサインだと見ている。GoogleはついにTPUを推論でうまく使う方法を見いだしたのではないか、その結果がこの速度と性能の向上ではないか、というのが中島の推測である。

中島は、もしそうだとすれば、OpenAIはNVIDIAのチップを使い続けていてはGoogleと戦えないことになる、と続ける。

カスタムチップでの高速化はすでに示されている

さらに中島は、汎用ではないカスタムのAIチップで推論を高速化できることは、ベンチャー企業のグロック(Groq)がすでに証明していると述べる。グロックやGoogleがカスタムチップで成果を上げている状況を見ると、OpenAIもそれをやらざるを得ないところまで追い込まれていると見たほうがよいのではないか。中島はこう結論づけた。

なお、収録の最後にはAIインタビュアー側の応答がおかしくなり、中島は「ChatGPTの調子が悪かった」と述べている。ネット回線に問題はなかったため、サーバー側の不調なのか、それとも話題がOpenAIだったから嫌がったのかは分からない、と冗談まじりに締めくくった。