「AIの限界」をメモリと先端ロジックで越えられるか:Rapidus東会長と東北大・遠藤教授が語るNAND、MRAM、電力、人材

YouTubeで開く ↗
概要

ものづくり太郎チャンネルによるRapidus対談の後半である。Rapidusの東会長に、スピントロニクス研究で知られる東北大学の遠藤教授が加わった。前半で扱われなかった話題として、ホストのものづくり太郎が最初に投げかけたのは、キオクシアの株価がなぜ急騰し、その後急落したのかという問いだった。議論はそこから、AIの性能を決めるボトルネックがどこにあるか、国家戦略としての半導体、データセンターの電力問題、設計人材の不足、そして「産業を作る」ことの意味へ広がっていく。

15分で読めます

二人に共通しているのは、AIの需要はこれからも移り変わるので、市場が変わる前に次の技術と作り方を用意しておかなければならない、という考え方である。

なぜいまNANDメモリが必要とされるのか:KVキャッシュの肥大化

ホストはまず、半導体企業が時価総額で国内1位になったことと、キオクシアの株価が大きく動いていることに触れた。そのうえで、なぜ今NANDメモリがこれほど求められるのかを遠藤教授に尋ねた。

遠藤教授は、2年ほど前にNVIDIAのCEOが「KVキャッシュ」の問題を指摘したことが発端だと説明する。従来の機械学習では、隣り合うデータ同士を計算して比較すれば、そのデータはもう使わない。一方、大規模言語モデル(LLM)では、あるデータを他のすべてのデータと比較するため、同じデータを何度も使う。そのたびに計算し直すとGPUが発熱し、エネルギーの無駄も大きい。そこで、あるレイヤーで一度計算した結果をKVキャッシュとして保存し、あとは読み出して比較するだけにすれば、消費エネルギーを下げられる。

問題はその容量である。遠藤教授によれば、トークン数を長くするほど生成の精度は上がる。モデル本体の大きさは世代ごとにほぼ固定されているが、トークン数を2倍にすればKVキャッシュも2倍、4倍、8倍と増えていく。その結果、いまはモデル本体よりもKVキャッシュのほうが多くのメモリを使っているという。推論時にはこのKVキャッシュを読み出すので、KVキャッシュが大きいほど推論性能が上がる、という関係になる。

HBMからHBFへ:DRAMの容量の伸びが鈍るなかで

遠藤教授の説明では、NVIDIAのCEOは、DRAMの容量の伸びが鈍っているため、数年後にはKVキャッシュがHBM(DRAMを積層して帯域幅を広げたメモリ)に収まりきらなくなると述べた。DRAMの次に容量が大きいのはNANDなので、NANDメーカーに何とかしてほしい、という趣旨だったという。

そこで出てきたのが「ハイバンドフラッシュ(HBF)」である。フラッシュを積層し、HBMと同じ仕組みで同じ帯域幅を出す。容量の面では、DRAMが現在32GB程度なのに対してNANDは桁が違い、メモリ空間が一気に100倍以上に広がる。それだけトークン数を伸ばせ、質の高い生成ができるという。

レイテンシの点ではDRAMのほうが速い。しかし遠藤教授によると、この用途ではレイテンシが効くのは1%から数%程度にとどまる。それよりもメモリ空間を確保してトークン数を伸ばすほうがユーザーにとって有益なので、HBMが丸ごとHBFに置き換わるのではないかという噂もあり、NANDメーカーはそこを狙っているという。

遠藤教授は、これをビジネスの構図としても説明した。パソコン向けのように利益率が抑えめのSSD事業から、データセンター向けSSDへ、さらにKVキャッシュ向けの「超ゴージャスなフラッシュ」へ移れば、利益率は非常に高くなる。汎用DRAMとHBMでは同じDRAMでも利益率が大きく違うのと同じ論理だという。NANDメーカーが急に「AI銘柄」になったのはそのためだ、という流れである。

遠藤教授はさらに、ボトルネックは移り変わるとも付け加えた。今はGPUの演算性能よりもメモリの性能がシステム全体の性能を左右しているが、メモリが大きく進化すれば、今度は演算側が足を引っ張るようになる。そうなれば、10年ほど先にはロジックが再び重要になり、Rapidusが手がける2nmや1.4nmのロジックが求められる、という見立てだ。

エージェントAIではレイテンシが効く:SOT-MRAMの位置づけ

では、遠藤教授が開発するMRAMはこの流れのどこに入るのか。遠藤教授は、機械学習の時代にはHBMが使われ、それがHBFになるかもしれないという段階に来ていると整理する。そのうえで、エージェントAIへの移行とともに「GPUからCPUへ」と言われている点を挙げた。エージェントAIの処理は細かく、ここではレイテンシが大きく効くという。ホストも、東京の利用者にすぐ応答するには米国だけでなく東京にもデータセンターが必要だという話を聞いた、と応じた。

遠藤教授によれば、これまでのAI向けメモリはメモリ空間と帯域幅を最優先してきた。しかしエージェントAIではレイテンシが大きなボトルネックになる。レイテンシが最も短いのはSRAMだが、SRAMはエネルギーを多く消費するうえ、容量がまったく足りない。遠藤教授のグループが開発している新しいタイプのSOT-MRAMは0.3ナノ秒で動作し、3GHz相当、つまりメモリでありながら二次キャッシュ並みの速度で動くという。SRAM並みのレイテンシを持ちながら、SRAMの10倍以上の容量を実現でき、しかも不揮発性なのでパッケージの放熱の問題にも対応できる、というのが遠藤教授の説明である。

市場が変わる前に動く:「嗅覚」と一次情報

遠藤教授は、半導体の歴史をこうまとめた。大量生産のバッチ型の時代があり、今はRapidusのようにアジャイルに作る時代になった。演算はGPUからテンソルプロセッサ、ニューラルネットワーク向けへ、そしてまたCPUへと移り、メモリもDRAMからフラッシュへ、できればMRAMへと進んでほしい。市場が変わるにつれて、作るものも作り方も変わっていかなければならない。そして、変化が起きてから始めたのでは間に合わない。それを見極めるのが「嗅覚」であり、将来こうなるというイメージを持つことが重要だという。

ホストは、日本の展示会にはもう意味がないと感じており、ドイツやアメリカのGTC、最近では中国の展示会から次の世代を読み取っていると話した。AIは二次情報は知っていても一次情報は知らないので、一次情報の優先度が高まっている、という見方である。遠藤教授も、ニュースやウェブに書かれていることをやっても仕方がないと同意した。そのうえで、いろいろ読み、知っている人と会話を重ねるなかで、東会長の頭の中でどんな未来像ができたのかを尋ねた。東会長は大げさなものではないとしつつ、聞いたときに引っかかるものがあり、それはあまりロジックの世界の話ではない、と答えている。

国家戦略としての半導体:中国の動きとRapidusの立ち位置

話題は国家戦略に移る。ホストは、国同士がブロック化するなかでRapidusの重要性が日増しに高まっていると見ている。その根拠として、中国の国家半導体ファンドが1兆円規模の出資をしたこと、金融系の事業で余った計算資源から生まれたDeepSeekがこれまで中国政府と距離があったのに、国家ファンドの出資を受けたことを挙げた。さらに、米国でもトランプ大統領がAI企業の株式を国が取得すべきではないかと考え、AnthropicのMythosも米国政府の管理下に置かれている、とホストは述べる。半導体をどうするかは安全保障の問題になりつつある、というのがホストの認識である。

ホストはさらに、中国を侮れないと強調した。2015年の「中国製造2025」ではロボット、ドローン、フラットパネルディスプレイ、太陽光パネル、ゼロエミッション車でかなり成功した。2015年のクラウド戦略、2017年のAI戦略から10年あまりが経ち、その多くが的中し、対米構想も具体化している、とホストは見る。そのうえで、日本がフィジカルAIを軸に据えるなら、半導体のポテンシャルは今よりも大きくなると考えている、と二人に問いかけた。

東会長は、国家戦略と経済が非常に密接になったことをパラダイムシフトと表現した。半導体そのものが国家戦略になり、国がRapidusにも投資している。その中で、どれだけ早く最先端に進めるかが勝負の分かれ目になるという。東会長は、今回の取り組みが有利な点として、日本だけで固まるのではなく、アメリカやヨーロッパと連合しながら道を切り開けることを挙げた。一つの頂点からすべてを指示されて進める開発ではなく、多極的に進めながら、それが国家戦略として動いている点が従来とは違う、というのが東会長の見方である。

人材と応用分野:Tenstorrentへの派遣設計プログラム

ホストは、最先端半導体の設計・製造をやりたい人を求めているという点に話をつなげた。走りながら考える進め方には、そうした人材が不足しており、仲間作りが必要なのではないかという問いである。東会長はまさにその通りだと答え、アメリカやアカデミアと連携しながら人材を育てていると説明した。製造と設計とアプリケーションを、立体的にすべて進めていかなければならないという。

アプリケーションの例として、東会長はロボット向けのSoCを挙げた。ホストが、遠藤教授のMRAMもキーアプリケーションになりうるかと確認すると、東会長は同意した。さらに、遠藤教授が前半で触れた宇宙産業向けの半導体や、日本にとって重要だと考える医療分野として、画像処理や新薬開発を挙げた。そうした分野で品質の良いものを出していき、製造、設計、開発がうまく絡み合いながら動いているという。

具体的なプログラムとして東会長が挙げたのは、Tenstorrentへの派遣設計プログラムである。東会長自身も翌日Tenstorrentに行く予定だと話していた。

なぜ設計が重要なのかと問われると、東会長ははっきりと、日本で設計できる人材が不足しているからだと答えた。アメリカは先へ進んでいるが、日本の会社がアメリカに設計を依頼しても後回しにされてしまう。だから、将来どんなアプリケーションが必要になるかを予測し、その設計を自分たちで始めておかなければならない、という説明だった。

AIが電力を使い尽くす:SRCレポートと「ご飯も炊けない」未来

終盤では、AI普及に伴うエネルギー問題が取り上げられた。ホストは、MRAMの低消費電力や、変種変量生産に対応するRapidusの先端ファウンドリーの意義については、会話の中でほぼ答えが出ていると前置きしつつ、二人の見方を尋ねた。

東会長は、データセンターの消費電力は2020年と2030年で10数倍違うと述べ、圧倒的に電力を消費する時代が目の前に来ているので、エネルギーの枯渇は本当に重要な問題だとした。

遠藤教授は、米国のSemiconductor Research Corporation(SRC)のレポートを紹介した。データセンターやICTが使うエネルギーは指数関数的に増えている。発電量も増やしてはいるが、増え方の傾きがまったく違うため、2042年には世界中の全エネルギーをデータセンターだけに注ぎ込んでも足りなくなる、という内容だという。遠藤教授は「そのときにはご飯を炊くエネルギーも、遊びに行くエネルギーも残っていない」と冗談めかし、データセンターだけが動いて人間はエネルギーを使わずにいる映画『マトリックス』のような世界になると例えた。

実際には、人間はエアコンなどのヒートポンプや車にもエネルギーを使って生活しなければならない。遠藤教授によると、半導体業界の側から見れば、AI半導体に100兆円以上を使いたいという絵になる。しかし、地球上のエネルギーを誰がどう使うかという配分から見れば、半導体・ICTが使えるのはせいぜい3分の1程度だという。そう考えると、2032年ごろにはエネルギー律速でデータセンターの稼働率を上げられなくなり、作っても動かせないはずだ、と遠藤教授は見積もる。エネルギーや水が足りないという話はすでに現実に起きている、とも話した。

取れる手は二つ:AIを止めるか、10分の1の電力で動かすか

遠藤教授は、取れる手は二つしかないと言う。エネルギーがないのだからAIの拡大はここで終わりにするか、2nm、1.4nm、MRAMといった新しい技術を取り入れて消費電力を10分の1にし、同じエネルギーで10倍のデータセンターを動かせるようにするかである。

AIをめぐる競争は、どれだけ計算資源を持っているかの競争である。今はどの国の機器も1台あたりのエネルギー消費は同じなので、エネルギーを多く持つほうが勝つ。日本はエネルギーの8〜8.5割を輸入しており、必ずしもエネルギーリッチな国ではない。だから、同じエネルギーで10台、100台を動かす技術を作っていくほうが良いのではないか、というのが遠藤教授の考えである。東会長も、日本で現在作っている40nm程度の半導体に比べ、ナノレベルの先端品では消費電力が大きく下がると述べ、技術でエネルギー問題に取り組むべきで、我慢しているだけではだめだと応じた。

MRAMの市場について遠藤教授は、当たればという前置きをしたうえで、2032年には3兆円産業になるという予想があると紹介した。そこまでに主要なメモリの一つになれるかどうか、という思いを語っている。遠藤教授が関わるパワースピンはまだ上場していない。遠藤教授は、そうした取り組みもすべて、2011年に東会長が最初に「井戸を掘ってくれた」おかげだと述べた。

産業を作る:IBMアルバニーと東北

最後のメッセージとして東会長が強調したのは「産業を作る」ことである。技術を買ってくるだけでは国民は豊かにならない、というのが東会長の考えだ。

東会長は、Rapidusが技術を導入したIBMのニューヨーク州アルバニーの経緯を紹介した。その技術はアルバニーのナノテクノロジーセンターで開発されたもので、センターができたのは2002年である。2001年の9.11の後、ニューヨークを復興させるために技術と産業の集積をアルバニーに作ると、当時のニューヨーク州知事とIBMが決めたという。一方で遠藤教授の拠点は、東北の震災の後、ゼロから産業をもう一度立ち上げるという挑戦だった。どちらも災害の後に最大の挑戦をした例だが、今はそうした災害がない中で新しく産業を作る時期であり、それはむしろ良いことだと東会長は話した。タイミングとしても同じくらいの時期に当たり、今回はAIがまさにその契機になるだろう、というやりとりが続いた。

遠藤教授は、論文を書くだけではだめで、できれば新産業を生むようにと言われ、今もそれを実現するために頑張っていると語った。TSMCなど業界とも組み、会社も作ってきたという。

設計者は市場と製造をつなぐ

締めくくりに遠藤教授は、言い足りないことが二つあるとして話を続けた。

一つ目は設計の重要性である。半導体を作るだけでは「部品屋」になってしまい、市場とつながらなければならない。市場とものづくりの技術をつなぐのが設計者だ、と遠藤教授は言う。アプリケーションに合わせて設計する必要があり、アプリケーション、半導体のものづくり、製造というエコシステムがある。ただし、設計だけが大事なのではなく、いくら設計できても作れなければ以前に戻ってしまう。ようやくものづくりが復活し始めた中で、「作れるようになりました」で終われば受託工場になるだけなので、三位一体で進めるという意味で設計者が非常に大事だ、というのが遠藤教授の主張だった。

二つ目は、RapidusはIBMから技術を持ってきただけだ、という批判への反論である。遠藤教授は、この批判には苛立つと率直に語った。データをもらってくるだけなら簡単だが、それを自分で作れるようになるのは別の話だ。オリンピック選手に1年間トレーニングを受けても、同じように100mを9秒台で走れるかといえば無理である。Rapidusは教わった相手への敬意からIBMに教わったと言っているが、実際にはそれを短期間で自分の血肉にし、実際に物を作り、ファブが動き始めている。遠藤教授はこれを、選手にトレーニングを受けて4年後のオリンピックに出場しているような世界だと例え、そこをすごいと思ってほしいと話した。

続けて、IBMの側も、自分たちは製造が得意ではなく、製造とアプリケーションは日本が強いと考えている、という指摘があった。IBMは先端技術の開発を担い、製造やアプリケーションは日本が担う。互いに持っていないものを補い合う組み合わせだからうまくいく、という見方である。話者の一人は、東芝でNANDに携わっていた当時も、NANDの生産は東芝が強かったが、SDカードやUSBメモリのようにコンピューターとのインターフェースを通じて普及させる窓口は東芝だけでは作れず、IBMの力を借りて一緒に進めたと振り返った。昔も今もその関係は変わらない、という結びである。

最後にホストは、半導体業界で働きたいならRapidus、大学で半導体を学びたいなら東北大学だとまとめた。遠藤教授は、自分たちのセンターは設計もし、実際に物も作り、材料開発やシステム開発も行う、つまり全部をやっていると説明した。対談は、次の産業を作り、半導体の変革を起こしたい、とりわけ設計をやりたい人を求めているというメッセージで終わった。