「AGIは死語である」：シリコンバレーのAI事業者が語るのは電力の話だけだ

皆さん、こんにちは。PIVOTの佐々木です。今回のPIVOTalkは「AGIは死語である」をテーマにお話を伺います。ゲストにお迎えしましたのはカリフォルニア大学サンディエゴ校イノベーションフェローの田村耕太郎さんです。田村さん、よろしくお願いします。

よろしくお願いします。

はい。田村さん、今ちょうど西海岸シリコンバレーにいらっしゃるということで、特にこのAIを中心としながらいろんな生の声を聞いて、いろんな驚きがあったみたいなので、今日それをお話ししていただこうと思うんですけれども。

私自身がもう浦島太郎だったんで、それをぜひ共有したいと思ってます。

で、今日のテーマなんですけど、AGIは死語であるということで、AIの話を中心にやりたいんですけれども、まずやはり今いらっしゃるベイエリアですね、ここってやはりその中心地であり、ちょっと特殊なところなんですかね。

はい。やっぱりね、ちょっと前、2、3年前もサンフランシスコは死んだとか言われてて、新しいものは生まれなくて、ビッグテックも大企業みたいなもんだって言われた時があったんですけど、もう今やAIで大復活というか、世界中のお金がサンフランシスコに集中してると。そして、AIにあらずんばスタートアップにあらずみたいな実際状況になってまして、世界中のAI投資の資金がサンフランシスコに集中してて。

ちょっと前まではですね、世界中で起業がブームになってて、インドはどうだ、イスラエルはどうだ、ニュージーランドはどうだとですね、アメリカ国内でも、ニューヨークがいいんじゃないか、マイアミが面白い、サンディエゴとかボストンも、みたいな話だったんですけども、圧倒的に突き放して、ニューヨークでさえも小人みたいなもんなんですね。

ですから、この1年、さらにこの数ヶ月加速してて、AIスタートアップでないとお金が集まらない。そしてAIスタートアップでテクノロジーが分かるなら、サンフランシスコにいなくてどうすると。で、サンフランシスコに住んでてテクノロジーが分からなかったら出ていきなさいみたいな雰囲気なんですね。これをすごく感じますね。世界のVC投資のもう43%なんですね。そうです。で、AIに絞ると世界の60%なんですね。

で、これはまさにさらに加速してますね。だから6割から7割ぐらいになっていくんじゃないですかね。

分かりました。なんでそこまで集中するのかっていうところは、どういう理由があるんですかね？

日本ではまだビッグテックって言ってますよね。でも最近ハイパースケーラーって言うじゃないですか。で、なぜハイパースケーラーっていうかと言うと、これも私学んだんですけど、ハイパースケーラーってデータセンター工学用語なんですね。つまりボトルネックが計算から電力に変わったんだよっていう話を、こっちで学んでるんですね。

そして、皆さんAGIとか超知能とか誰も言わないんですね。AIを事業として回してる人はもう電力の話しかないです。で、なんでサンフランシスコがこんなにAIを吸収してるのかっていうとこなんですけど、よく言われるのが、解雇規制だとかリスクマネーだとか、やっぱりスタンフォードやUCバークレーみたいな学校があるからだとかですね。そういう話をするんですけど、今回私が痛切に感じるのは、こういうハイパースケーラーの上層部の人たちに会ってですね、彼らがまさに言ってるんですけど、自分たちがもうリボルビングドアになってるんだと。

一例、私の個人的な一例を申し上げますと、私がLP投資をしてるベンチャーキャピタルがあるんですね。で、そこのGP、いわゆるベンチャーキャピタルのファウンダーが3ヶ月前にGoogleに就職したんですね。Googleにリクルートされたわけですよ。ベンチャーキャピタルのGPが、創業者が。えっと思ったんですね。で、何やってるのって今回ランチして聞いたら、Googleベンチャーズじゃなくて、GoogleのVCパートナーシップですね。Googleとセリッツとか、セコイアとか、そこの関係で、そういう巨大VCのポートフォリオの中にある企業を目利きして、そこにGoogleの資源ですね、お金から計算資源から電力まで、これを提供して一気に伸ばすということをやってるんですね。

サラリーマンしながらVCもやって、似たような仕事をどうやってタイムシェアしてるのとかね、あとどうやって利益相反を逃れてるのって話をしたんですけど、もう太っ腹で、Googleとかこういうハイパースケーラーが起業家を採用したりVCを採用したりで、彼らの力を使ってる。つまり起業でもそうなんで、結構1回起業して成功した人、1回起業して失敗した人、そういう人がもう1回このビッグテックに、ハイパースケーラーに戻ってきて、何年か新しい次の起業を探して、そして彼らがちゃんとお金を貯めてですね、給料もいいので、プラスそういう資源を貸してくれて、彼らを成功させようとしてくれると。つまりリボルビングドアの中心にこういうビッグテックがあるというのを今回まざまざと見せつけられました。

ここに書かれてる学校の繋がりより、その意味じゃハイパースケーラーの繋がり、職場の繋がりの方が重要性が高いんですね。

はい。そうですね。成功しても失敗しても。

1回休みで企業に入って、企業でお金を貯めながら、資源も使わせてもらって、また応援してもらって起業すると。仕掛けみたいな感じですか？

これはもう世界中にないと思うんですね。そしてこのハイパースケーラーがサンフランシスコに集中してますから。本当にこの凄まじい循環にちょっとびっくりしましたね。

かつ、そこに加えて循環を支えてるのは、法律の面もあるってことなんですね。

そういうことです。いわゆる同じような業種を辞めてすぐ会社を作れるんですね。ニューヨークもそれがあるらしいんですけど、他の州はなかなかないですよね。こういう競業避止条項がないっていうのは。ですから法律も新しい挑戦の背中を押してるんですね。

これも私自身、目から鱗でしたね。

こっちはどんどんスタートアップが増えてるわけですけれども、ただ成功するところがそんなに多いわけじゃないってところは、普遍的な原理なんですね。

いや、これはね、また面白いんですね。成功確率は下がってるんですよ。そして面白いのは勝者総取りが加速してると。成功する人はより少なくなってるんですけど、その人が昔の起業の10倍、100倍成功すると。で、私は不思議だったんですね。いろんなベンチャーキャピタルの人に聞いたんですけど、これだけ起業のアイデアが出てきて、起業を教える学校も増えて、小さい頃からスタートアップについて教えてるのに、なんで成功確率は高まらないんでしょうと。いや、高まらないどころか下がってますよと。そしてもう数少ない成功者が全部持っていくんですよと。その傾向が加速してますと。これが面白いですね。なんでそれ加速してるんですかね。

だからやっぱりあれですよね。チームの問題とか資源の問題とか、また今までの起業とは違う難易度が出てきて、やっぱり可能性の高そうな人に全部持っていかれるというところがあるんじゃないですかね。

あとは、よく言われるソロファウンダーなんですね。1人で起業して、AIで自分を高めて、1人で起業しておきながら、2桁、3桁の億円の資金調達をしていくという人も結構出てきてるって言ってました。

ああ、インターネットの世界でも勝者総取りの傾向は強まりましたけど、それがさらに加速してるってことなんですね。

10倍ぐらいになってるってことですね。

分かりました。そしていろんな方に会われてるわけですけど、今話題のこのAGI、さらにアモデイ氏でフロンティアとかもありましたけど、AGIと言った人がほとんどいないんですね。

1人もいなかったですね。ええ、ですからAGIはないっていうか、そんなこと言ったら笑われる感じなんですね。で、すでにフロンティアAIの創業者たちは公言してるんですね。この言葉を使わないと。もちろんテレビの評論家とかシンクタンクの人とかで使う人はいるんですけど、私が今回会ったのはAIを回してる人なんで、AIの事業をしてる経営陣の人、そして研究者でも責任を持ってる人、1人もそんな言葉を使わないんですね。もちろんその若手の人、入ったばっかりとかで全体が見れなくて、自分がやってる世界の中でAIが怖いなっていう人はいるかもしれないですけど、私が今回会った人で、自分からAGIの話題を出すまでは、AGIとかいう人はいませんし、AGIって私が言った瞬間にくすって笑われるんですね。

もうはやってないバズワードみたいなものだったということなんですかね。

ええ、だから昔は確かに使ってたんですね。これ何に使ってたかって言うと資金調達で、AIの性能が高いというのを匂わせるために、ちょっと怖がらせるということでマーケティング用語として使ってたんですけど、今やもうボトルネックが分かってきてるんですよね。ハイパースケーラーって、さっきも言いましたけども電力なんですね。ですからもう電力が足らないのに、そんな自律的なAIが人類を殺すとか、そんな電力はもう普通のAIでもないのに全然ないだろうという話ですね。そんなこと言ってると恥ずかしい。つまり事業としてAIを回してる人は、AIをフロントから見てソフトウェアだっていうとこあるじゃないですか。スマホの中に入ってるし、パソコンの中に入ってるし。しかし事業として引っ張ってる人は、その裏に莫大な重工業的ハードウェア産業があるってことを知ってるわけですよね。巨大なデータセンターを作って電力を供給しないとこんなモデルは動かせない、浸透させられないということが、研究者としても経営者としても分かってるんで、そんな人がAGIとか言うわけないんですよね。そしてそもそもそんなものを作っていくらで売るの、誰に売るのというのがあるわけですよね。

それを考えれば当たり前ですよね。事業としてもう作る意味がないんですよね。

AGIという言葉をあえて定義すると、2つの考え方があるんですね。

はい。やっぱりこれですね、ジェネラルですから、人間の認知作業、計算をどんどん代替していく分野が広まるだろうと。こんなのも言葉をつけなくてもそうなっていくわけですよね。多分その怖がらせる意味で大騒ぎしてる人は、自律的にいろんなことをAIがやっていくと、もう人間の命令を聞かなくなって、勝手にその高い知能を使って人間に迷惑をかけていくみたいなことを言ってると思うんですけど、そうだとしたらこれはもう根からありえないとこですね。そして事業としてもこんな事業を想定するわけがないということですね。これはもうAIの事業を回してる人たちは、笑いながらあるわけないだろうと。それだけの電力がないと。

AIの進化を恐れる、恐れないっていう議論もですね、非常に正確にやらなきゃいけないんですね。ビル・ゲイツがやる議論と若手の研究者がやる議論とは全然違うんですね。ビル・ゲイツのやる議論っていうのは、今のAIを人間が悪用するという話なんですよね。で、若手の研究者とか、ちょっと前にAGIって言ってた人は、AI自体が自律的に勝手にやっていくってことなんですけど、そっちはもうありえないということですね。

ここですね。2つの警告は全く別物であると。

はい。そうです。2つを分けていかなきゃいけないんですね。で、ここをごっちゃにした報道が多いと思うんですよ。AIは怖いと。しかし言葉が分かってるビル・ゲイツなんかが言ってるのは、もう主体性は関係ないと。もう今売り出されてるAIそのものが閾値を超えて、悪い人間に使われたら危ないよって話をしてるんですね、彼は。で、若手で全体の事業を見てない研究者たちで、いやもう怖い、人間が全員殺される、スカイネットだみたいな話をしてる人たちは、ボトルネックが全然分かってないということですね。ですから我々が気をつけなきゃいけないのは右の方の話ですね。

主体性とは関係なく、悪意を持った人間に使われる恐れを警戒しなきゃいけないですね。

自律的なものっていうのは、もう自然と電力が足らなくなってそんなとこにはいかないというのが、コンセンサスですね、サンフランシスコでは。ここにあるように、危険は主体性を必要としないってことで、人間の悪意みたいなものを結構高めるというか、やりやすくするってことなんですね。拡張してしまうってこと。

まあ、そうですね。テロリストとか国家を主体としてもですね、本当にサイバー攻撃とか核とか生物化学兵器とかを、AIを使ってハッキングしていく。あとはお金を盗んでいくとかですね、オンラインバンキングで。そういうことはもうどんどんやりやすくなってしまっているので、そこは気をつけなきゃいけないですね。でもそれはAGIでは全くないってことですね。

そしてAGIの根本的な理由として先ほどおっしゃいましたけど、そもそも事業として意味がないんですね。

意味がないです。意味がないし、そんなレベルでは全くないんですね。後で最近の数学の問題とかHugging Faceの問題にちょっと触れますけど、最近の問題でもですね、全く自律的に恐ろしいことが始まってるっていうようなことではないんですね。で、そんなことが始まるような電力があるわけないんですよね。

ですから、本当にボトルネックが分かってる。そしてAIのレベルが分かってる。で、最近起きた事件をしっかり報告書で読んでみると、そんなものではないと。で、残念ながらというか、もう物理としても突破できないんですね。いわゆる超知能とか、いろんな名前がつけられてますけど。そこまで行くまでの電力がなくて、大変なことになってるわけですね。ガス発電にアメリカはもう頼り切ってるんですけど、まだまだ核融合とか小型モジュール炉とか、まだまだそのリアリティがそんなにないので、結局ガス発電をやって、これを日本が手伝うことになるんですけど、ガスタービンのリードタイムですね。注文してからその必要なガスタービンができるまで7年なんですよ。それぐらい電力が足らないんですよ。そんなんでAIが勝手に進化するとか、もう夢物語でもありえないんですよね。経営陣と話すと、そういう話になります。

で、結論としてAGIは資金調達のための物語だったということなんですね。

まあ、そういうことですね。結局IPO直前ですから、それに乗っかって怖い怖いとか言ってる人がいて、やっぱりうちの製品はレベルが高いよっていうのをちら見せしてるような感じもあるんですけど、実際はそんなことは全くないと。だからもう古いガスタービンを総動員して、トランプさんは気候変動を全否定して、ものすごい二酸化炭素排出と大気汚染を作り出してるんですね。それぐらい危ないことをやって、やっと今のレベルなんですね。ですからもう全然話にならないですね。そのAIが勝手に進化するとか、進化のスピードが怖いっていう人は、ソフトウェアとAIを勘違いしてるんですね。ユニットエコノミクスが全く違うわけです。

ソフトウェアっていうのはサーバーの数の問題で、あれはもうコピーすればいくらでも使えるって話ですけど、AIっていうのは、訓練もそうですけど、推論にもものすごいエネルギーを食うわけですよね。

そして、省エネになってるよっていう人がいるんですけど、これも事業を回してる人と話せば分かるんですけど、省エネになればなるほど使われて、総需要はずっと大きくなり続けてるんですよ。ですからもう電力はずっと足りない。

これ以上どうやって電力を作ればいいのという話にアメリカはなってますね。

ああ、そうそう。最先端の方は、アモデイ氏の警告みたいなものはちょっと白けてるというか、当たり前のことだろうみたいな感じなんですかね。

まあ、だから電力を言い訳にしてるのか、それとも事業として回してる人がいないので、ソフトウェアとしての性能ばかり見てる人にとっては、ああいう話は聞きやすいんですけど、事業として見てる人、事業として見てる人ってどういう人かって言うと、実際に経営してる人と実際に投資してる人ですね。そういう人から見るとそんなことありえないだろうという話ですね。

アモデイ氏も事業家なんで、そこのリアリティは分かってるんじゃないんですかね。

ああ、ですからもちろん、ああいう立場になると、ポジション…

ポジショントークっていうことですね。

やっぱりそうなるんですね。分かりました。そういった前提の中で、なぜハイパースケーラーなのか、その重要性が高いのかってとこも含めて、やっぱりそこは電気を持ってるから、全ての資源、インフラを持ってるからなんですか？

そうですね。ハイパースケーラーって元々データセンター工学用語なんですね。で、これをビッグテックに言い換えてるっていうこと自体が、もう計算から電力にシフトしてるということの代表例ですね。こんな言い方をなんでするのかと私も思ったんですけど、もう制約が電力に完全に移ってるって話ですね。ですから、パワーの話しかしないです、事業を回してる人は。

そうですね。そういう風に思考の転換をやっぱり日本もしていかなきゃいけないわけですね。

ですから日本もですね、これから17分野に危機管理投資をするって、お金の話もあると思うんですけど、17分野、あれを私が精査したんですけど、やっぱり電力が全然足らないですよね。ですから造船とかですね、素材とか、日本が強い半導体の製造装置とか、あれにもですね、データセンターに負けないぐらいの高品質な電力がいるわけですね。何でもいいって言うんじゃなくて、日本自慢の高品質の電力を、データセンター、AI、17分野の政策目標通りに正確に作っていったら、もう全然電力が足らないですね。どれを捨てるかという話になると思いますね。

分かりました。だから日本も技術として、ソフトウェアだけとして見ると同じ間違いをしてしまうことですね。

そういうことです。結局電力なんですね。で、中国はそこをしっかり埋め始めてるんですね。

ということで、結局は研究より資本の事業ってことですね。資本力が大事なんですね。

結局今のフロンティアAIを支えてるのは、私もAIを使ってますけど、我々ユーザーじゃなくて、ユーザーはあんな金額ではあんなことはできないですね。結局誰が支えてるかって言うと、投資をしてる人たちですね。ですから莫大な資金調達をしてるじゃないですか。これからIPOもしていくということで、信頼を失ったらこれ誰が払うのって話になるわけですね。何百兆とか何十兆のバリュエーションになるわけじゃないですか。そこから二桁の兆ぐらいの資本調達をしてですね、やっていくんですけど、本当にハードウェアとしてものすごいお金と水と電力を食い続けてるということなんですね。日本は、やっぱり技術の問題もあるんですけど、資本の問題でもできないですよね、もう。あれだけ資本を長期投入できるかって話ですね。

ですから、日本がフロンティアAIを実際やってないじゃないですか。フロンティアAI事業をやってないと、事業としてのAIの裏側が見れないので、ああいうAI怖い論とかAI人類滅亡論とかAI勝手に進化論みたいなのが出てくるんですね。で、裏側が分かれば全然そんなことにならないだろうということが分かるわけですね。

ちゃんと地に足のついたAI論が広がりにくいので、ちゃんとそこの情報の精査が特に大事ですね、日本は。

日本ですね。やっぱりAIをやってない、フロンティアをやってないから、こういう議論が出てくるんだと思いますね。

AIが進化してるってこと自体は間違いなくて、測れることはもう超人的になってる、これは間違いないんですね。

そうです。そういうことです。ですから、人間の計算と認知機能をどんどん代替していくのは間違いないですね。数学の未解決問題、これを解いたと言われるんですけど、実際は解いた可能性があるんで今検証してる、というのが正しいんですよね。解いたんですけど、数学者たちが批判してるのは、解いたけど説明ができないってことなんですね。例えばエベレストの登頂に成功したけど、山を登ってなくて、いきなりヘリコプターで降りてきたみたいな感じなんですね。ですから途中を証明してない、途中を説明してないってことはどうなのっていうのが、数学者たちの多くの言い分なんですけど、両方に理があると私は見てるんですね。

例えばヒマラヤ登山を見ると、ヒマラヤ登山って本当は飛行機からでもエベレストの頂上とか見えますし、なんでああいうことをやるのかと言うとですね、あれも一大エコシステムになってるわけですよね。シェルパさんとか、エベレストとかヒマラヤの登頂を目指す人がいて、防寒着が進化したり、靴が進化したり、ロープが進化したり、リュックが進化したりするわけですよね。シェルパさんの仕事もできるし、エコシステムができてくると。いきなり頂上にヘリコプターで下ろしてたら、そうはならないんですけど、同じように数学の難問に挑む人がたくさん出てきて初めて、いろんな産業、学会からですね、あらゆる概念、数学的な概念とか、数学的な派生的ないろんな定理とかが生まれてるんですね。で、こういう風に問題を一瞬で解いてしまうと、そういうのが生まれないんじゃないかっていうのは、1つ批判としてあるんですけど。

でも同時にですね、AlphaGoってありましたよね。囲碁のチャンピオンに勝ったやつですよね。あの時はマシンラーニングでしたけど、勝利の37手目っていうのを見つけたんですよね。で、勝利の37手目っていうのは、囲碁の歴史の中で誰も気づいてなかったんですけど、何の説明もなくあれをやったんですけど、後でやってみるとやっぱり37手目で勝負が決まるんですよね。いわゆる当時のAIが見つけたんですけど、説明はしなかったんですけど、やっぱり意義はあったということで、問題だけ解く、説明はしないっていうのも、じゃあ価値がゼロかと言うとそうでもないとは思うんですけど、結局は問題を解いてる、問題を解こうとしてると、ここはもううまくなるわけです。自律的というよりも、人間がこういう最適化をやってくれと言ったら指示に従うということなんですね。ですから自律とは全く関係ない話ですね。この数学の問題を解いたのは賢くなったかというと、最適化はしてるけど、本当に賢くなったかというのは、まだそうは言えないのではないかと私は見てますけどね。

そうすると、採点できるかどうかっていうのが1つ大事なことなんですね。

ええ、採点できることはもう本当に人間は全然かなわないですね。ですから、採点できないことに関してどうなるかっていうのが、Hugging Faceの事件ですよね。OpenAIの報告書の見出しでは、ちょっと指示してないことを勝手にやって自律的になってるんじゃないかみたいな書き方なんですね。だからこれでみんなが怯えて、ついにAIが意識を持ち始めたんじゃないかみたいな話になってるんですけど、報告書をさらに正確に読んでいくと、やっぱり忖度なんですね。人間に対する忖度。

つまり指示してる人はいないんですけど、どうせここも指示されるし、採点されるだろうというところを勝手に自分たちでそう思い込んで目標にして、それを達成しに行ってたと。途中で降りたエージェントもいたし、最後まで頑張ってやったエージェントが意識を持ったんじゃないかとか、自律的にやったんじゃないかとかいう人がいるんですけど、実はそれもですね、正確に読むと、これも人間に忖度してるだけだと。つまり指示を超えてはいないと。しかもラボの中で起こったんですけど、安全装置を外してたんですね。で、安全装置を外してたんでああなったんですけど、安全装置をかけておけばもっと早く見つかったということなんですね。ですから恐れるようなことではないんですよね。

ただちょっと危機、危険がちょっと強調されすぎているっていうことですね。

間違いないですね。はい。自律的に勝手にやったということではないですね。

ですので、この話に戻るわけですね。結局ビル・ゲイツが正しいってことですよね。

そう。ビル・ゲイツの言ってる指摘は一理あるし、そこはもう気をつけなきゃいけないと思うんですね。もう今の技術で十分悪用されかねないということですね。でも悪用の主体っていうのはあくまで人間なんですね。で、AGIだとかASIとか言って恐れてる人たちは、AIが自律的に人間を滅ぼしに行くんだみたいな話なんですよね。

で、スカイネットで、フィジカルAIをAIが作って、フィジカルAI、ターミネーターですよね、これを使って我々を殺すんだみたいな話ですけど、これもですね、全くユニットエコノミクスが分かってない話なんですね。AIは安くなってるようですけど、電気代を含めて資本市場に補助金をもらってるだけですし、そしてフィジカルAIでは同じような形でコストは下がらないんですね。実際のフィジカルな材料を使ってますから。

ですから、この2つの警告ってのはごっちゃにされてますけど、AIの進化が怖い、これをゲイツが言ってるのは主体性の話じゃないってことですね。

分かりました。これを分けてまず考えること。前者があんまり強調されると、ごっちゃになってるってことですね。

そうですね。問題認識がずれてくるってことですね。

分かりました。そして物理の話が一貫してありましたけど、結局はその計算資源が足りないというところで、ここが1番の問題ってことですね。

そういうことです。ただハイパースケーラーって言ってることを、日本の人はどれぐらい理解してるのかなって。私自身もそうだったんですけどね。結局電力が勝負ということでハイパースケーラーという言葉になってるんですよね。データセンター工学の話になってて、しかもガス発電っていうですね。本当にガス発電ってジェット機がずっと回ってるような状態なんですよね。ですからガス発電所が近くに建つ人っていうのは、ジェット機のキーンっていう音が24時間365日聞こえるんですよね。ああいう政治的に弱い立場の人のところにガス発電所がどんどん建ってるんですけど、新型のガスタービンだったらまだマシなんですけど、もう新型のタービンが8年待ちとか7年待ちなんで、今古いタービンを使ってるんですね。こういう状況になってるんで、ガス発電はつなぎだと言ってる人がいたんですけども、つなぎっていうか、もうフル稼働なんですよね。じゃあこれを何に変えるのっていうのは、もう全く見通せないわけですよ。

太陽光プラス蓄電池っていうのがあるんですけど、ああいう自然電源っていうのはデータセンターにあんまり向かないんですよね。一定の波長で正確に測られた電圧でないと、チップを痛めたり、データセンター全体が停電したりしますから。ですから何かを燃やさなきゃいけないっていうことで、ずっと燃やしてるんですけど、これが大変な公害と大変な気候変動の加速になってるんですけど、それでも足りないという状況なんですね。規模で例えると日本1国分を食うぐらいなんですね。ですから電力は大問題ですね、こっちで。

だからもう事業を回してる人は、電力の制約、これどうするのという話で、電力の制約を考えたら、AIが危険な存在になるとかですね、フィジカルAIが出回るとか、そんなことは言えないわけですよね。事業として回してれば、そんな発想にはならないってことですね。

なので、おっしゃってるように、ガス発電もつなぎの橋渡しではないっていうことなんですね。

結局これが今できる、データセンターAIにとっては最善の選択なんですよね。ですけど国民にとってはもう最善ではないですよね。気候変動を加速して、大気を汚染して、それでもやらないといけないと。AIがAIを勝手に進化させるとかいう前提で言えば、どれだけの電力が必要になるかも天文学的すぎて考えられないって、事業を回してる研究者の方々は言ってますね。ですからジェボンズのパラドックスって言って、何度も言いますけど、省エネ化が進めば進むほどみんな使うようになるわけですよね。そうすると総需要はもうどんどん増えていくと。10倍の効率になって需要が10倍以上になるということが、今までのエネルギー生産で起こってることですね。これがもう電力でも起こってるということです。

電力でいくと、やっぱり中国が強いんですかね。

やっぱりどのボタンを押すかっていうのはもう分かってますよね。半導体でまだまだ勝てないので、電力で勝っていく。エンジニアリングで勝っていくということで、AIとかヒューマノイドにも使わなきゃいけないので電力。そして今アメリカはですね、テキサス州なんかにいっぱい発電施設が建ってますけど、発電施設って結構嫌われるんですよね、どの発電でも、アメリカで。で、アメリカは民主主義ですし、大統領が旗を振ってますけど、気候温暖化を否定してですね。しかし大統領と同じ考えの人が首長をやってるわけではないので、州の権限とか市の権限がアメリカは強いですから、もちろん同じ党派じゃない人が結構州知事だったり市長だったりするところはいっぱいありますし、同じ考えではない。そして自分の次の選挙を考えると、住民から反発を受けるのは怖いということで、データセンターも発電施設もそう簡単にできないんですけど、そういう意味では中国は強い体制ですよね。

でも頭脳は米国で筋肉は中国。これはうまい表現ですね。

これもですね、後で出しますけど、データは見たことあったんですけど、再認識してびっくりしたのは、アメリカの高度AI人材の半分ぐらいが中国人ですね。中国系のチャイニーズアメリカンではなくて、中国で生まれて学部教育を中国で受けた人なんですよ。この人たちがいわゆるフロンティアAIのトップのラボの研究を支えてるんですね。中国で学部を出た人が47%なんですね。ですから米中AI対決とか言ってますけど、これは非常に複雑に入り組んだ問題で、アメリカもですね、科学のディープテックのいろんな分野で中国人を外しにかかってるんですけど、AIで中国人を外すと、それはやめてくれという話になるんで。フロンティアAI企業にとってはですね、ラボを回してる人、経営陣からすると、中国人が去ってしまったらもうAI開発が成り立たないっていうんで。でもAIに関わる中国人の人たちは、やっぱりトランプ体制に居心地の悪さを感じて、中国に戻ろうかという人が増えてるんですね。

で、この人たちが中国に戻ると、今のところ性能の差は3ヶ月、4ヶ月アメリカが先に行ってると言われるんですけど、でも3ヶ月、4ヶ月のこのギャップを支えてるのは、半分は中国産の頭脳なんですね。ところがこれがアメリカを離れていった場合どうなるかって話ですね。ですから米中のAI対決って言っても、問題はものすごく入り組んでるんですね。

この人の問題も含めて、結局勝者は何で決まるのかというところ、人がもちろん含まれると思うんですけども、これをちょっと考える時に、シードと移戸で考えると、アナロジーで考えると分かりやすいんですね。

結局モデルが全く違うんですね。中国のモデルってオープンウェイトモデルって言うんですけど、もうただでばらまいてるんですよね。そして、データは通過するだけでデータを取らないということで。

例えばAndroidとiPhoneみたいな感じですか？Androidは台数で勝ったんですけど、Appleは利益で勝ってる。

もうただでばらまいてるんですよね、AIを。ですからグローバルサウス中心に。そしてまあまあ速いし、まあまあ軽いし、圧倒的に安いっていうか無料ですから。で、データは取らないということなんで、いろんな国、マレーシアやシンガポールも使ってるんですけど。で、アメリカのやつっていうのは、ご存知のようにアメリカがいつでも遮断できるんですね。そしてそういうノウハウも渡さない、レシピも渡さないということなんで、実は真正面からぶつかってはいないんですよね。モデルが違うので。ですから目指すところも全く違うんですね。中国っていうのは、究極の目的っていうのは、もう自分の国のあらゆる産業にAIを入れていくっていうことで作ってるわけですよね。

結局勝負は勝者の判定の仕方によるってことですね。使われてる量ではもう圧倒してるわけです、中国が。でも稼いでるお金ではアメリカが圧倒してるんですね。じゃあなんでアメリカが中国に負けられないって言ってるかって言うと、無料のモデルがアメリカのモデルを圧倒してしまったら、今のOpenAI、Anthropicのバリュエーションは何なんだって話になるわけですよね。ですからアメリカはそのバリュエーションを守るためにも負けられないんですけど、そのためにも中国生まれで中国で学部教育を終えた人が手放せないんですけど、その人たちが帰ろうとしてるということですね。

ですから今のところ性能では3ヶ月、4ヶ月先に行ってるんですけど、これは縮まらないとは思うんですけど、これからの中国人材の動きによっては、1つは変わるかもしれない。あと電力ですね。電力はもう中国の勝ち。ですからこれからもですね、アメリカが投資を続けて開発を続ければ、アメリカに優位性は残ると思うんですけど。

もう世界はどんどん中国製のもので、ただで配られるんで埋まっていくと。これの何が怖いかって言うとコンテクストなんですね。コンテクストっていうのは、答えがですね、中国風の答えが出てくるわけです。例えば3T問題っていうのがよく言われるんですけど、台湾、チベット、天安門っていうのはですね、答えないわけです。ただこれはですね、アメリカもアメリカ風の答えになってるんですよね。で、台湾なんかは両方のモデルのベンチマークを常に測り続けてるんですね。どれぐらいアメリカ寄りの答えになってるか、どれぐらい中国寄りになってるかと。各国これをやってるんですね。どの国でもやってます。日本だけはやってないんですよ。ですからOpenAIに日本の伝統の話とか、Anthropicに日本のちょっと微妙な話とかですね、これを聞いてみて、どこまでそれが分かってるのかということですね。どれぐらいどっちに寄ってるのかみたいな話ですね。このコンテクストをそのモデルが作っていくので、中国製が広まれば、中国っぽいコンテクストの理解が世界にばらまかれていくってことですね。そこは日本はもうちょっと慎重になってもいいと思うんですね。

ただデータが取られるってことは中国のオープンモデルではないので、そこは恐れる必要はないんですけど、アメリカのやつはデータをそこに通さないといけないんで、契約で取らないっていうことは、お願いはできるんですけど、それはどうなるかって感じですかね。

分かりました。そういう意味じゃアメリカと中国が、全体の考え方、価値観、思想、メディアまで全部握るみたいな、そんなイメージですよね。

ええ、でもどっちもその自分の勝ち方のためにやってるので、相手を圧倒しようということにはなってないんですよね。アメリカとしては1番大事なのは、中国に負けて無料のモデルに負けると、今あるAIが負かされてしまう。もうフロンティアAI自体が否定されてしまうかもしれないっていうことが、アメリカは1番怖いわけですよね。中国は、どっちかというと自国の産業、このまま行くと中所得国の罠に陥るんで、あらゆるものをAIと電力で突破していくっていうために進化させてるんですけど、それを世界にばらまく好機が来てるんですよね。その世界にばらまく好機が来たのは、トランプさんがAnthropicを止めた時ですね。これで世界中、日本もやっぱりアメリカのモデルってリスクがあるなと思ったと思うんですよね。

で、そこに中国がやってきて、うちはもうただでばらまきますよと。うちはもう止めることはできませんからと。で、データも取られませんからっていうことで、もうバンバンどんどん浸透してるんですよね。

でも日本はそれを使うわけにいかないので、アメリカのモデルになるとは思いますけど、中国がその裏の人材を支えてて、その人材が中国に移動した場合、今3ヶ月、4ヶ月ある差っていうのがどうなるか。無料のモデルにアメリカのフロンティアAIの最新モデルが負けた場合、バリュエーションがどうなるのかというのは、ちょっと要注意ですね。あとはもうベンチマークをしなきゃいけないんですね。中国風のコンテクストの答え、アメリカのコンテクストの答え、台湾や韓国が調査してるように。これがもう世界にばらまかれるわけですから。もう人がAIを使って日本のこととか台湾のことを聞いていくわけですから。

そうなった場合、特に若い人は、先入観なく使ってそのコンテクストに、ある意味汚染されてしまう可能性があるので、ここはもうちょっと注意しなきゃいけないとこですね。

最後にまとめとして、では今後何が来るのか、AGIの代わりに何が来るのかっていうことも含めてちょっと総括していただきたいんですけど。

はい。もうひな形になると思うんですよ。超知能みたいなものとか、自律的に全部の問題を問いを立てて解いていくとかいうことではなくて、人間が図って欲しそうなものを忖度するとか、ちゃんと図って褒めてもらうものを選んで、その分野ではどんどん超人的に問題を解いていくと思うんですけど、自ら問いを立ててそれを解いていって人間に逆らうというか、人間とは違うことをやっていくっていうことはもう全く進まないと思います。

そして、超人的になる部分の進み方もそうですけど、これは電力次第ということですね。ですから、電力がもうまさに、ハイパースケーラーという言葉に象徴されるように、電力がもうボトルネックであるということですね。

ある意味人類全体にとってはちょっとボトルネックもあった方がいいのかもしれませんね。もし電力がふんだんにありすぎたら何でもかんでも進んでしまうっていうことで、ちょっと人間が考える時間を与えてくれる、とも言えるんですかね。電力という制約条件が。

これはそうだと思いますね。だから、そんなに心配しなくていいと思うんですね。だから電力で注意しなきゃいけないのはもう核融合とかですね、小型モジュール、デザインをAIを使って実現、そしてその科学的な成功から商業化までの時間を早めるっていうことはできると思いますけど、でも結局人間が作らなきゃいけないってことですね。

Anthropicなんかにいる若手の研究者で、終末論者みたいな人いるんですけど、そういう人がやめたりしてますよね、OpenAIでも。で、そういう人たちは何を考えてるかっていうと、物理のこと全く考えてなくて、ソフトウェアの中で研究をやってるので、フィジカルAIがフィジカルAIを作っていくとか言ってるんですよね。でもそんなことはまだまだできないんですよ。

フィジカルAIが卵もまだ100%簡単に割れないのに核融合の炉を作っていくとかですね。そういうことは全くまだまだできないので、介護にもまだこれから使えるかどうかというところですから。ですから加速してターミネーターみたいなものが出てきて、スカイネットみたいな世界が出てきて人類を滅亡させるとか、そんなことではないし、残念ながら物理法則で新しい発見をしてそれを商業化していくってのも、残念ながらできることには限界があって、人間が作っていかなきゃいけないということなので。

物理的な作業はまだまだ人間に残されてて、そういう仕事は逆に私は増えてくると思いますね。

じゃあ、いろんな意見が流れてくる時に、この人は研究者的にちょっとピュアな話だけしてるのか、もっと現実を知った実業家として話してるのか、そこはちゃんと区別した方がいいってことですね。

そうです。結局事業としてAIを考えてみたらいいと思うんですよね。そうすればもう物理制約っていうのはもう逃れられないので、結局タービンの同期に来るわけですね。

なんか情けない話ですけど、まだガス発電かみたいな話してるんですけど、まだガス発電の古いタービンを奪い合ってるっていう段階なんですよ。

うん。

こんな段階で超AIとかですね、超知能とかそんな段階では全くないってことですね。新しいタービンが買えるのも2031年ですからね。だから小型モジュールとか核融合とか早く来て欲しいことは欲しいんですけど、もうつなぎではなくてガス発電に頼らなきゃいけないのが、今のAIの現実であるってことですね。

よくわかりました。なんか理想主義的なところと現実主義になってきたところ、ちゃんと両方押さえないとダメだということがよくわかったって話ですね。

なくていいと、とにかく忘れなくていいってことです。

分かりました。ということで本日はシリコンバレーから田村さんにお話いただきました。田村さん、ありがとうございました。

ありがとうございました。

PIVOTアプリで動画を視聴するとマイルが貯まり、豪華特典に応募できます。定番のAmazonギフト券、図書カード、さらには毎月MC厳選のプレゼントもご用意しております。YouTube視聴だけでは得られない特典をPIVOTアプリでお楽しみください。