対話型AIの次に来る危機と日本の戦略：安野貴博が語るサイバー防衛、三正面作戦、AI失業への備え

今井さん。はい。ちょっとね、今日、画角ですよ。いつもと同じスタジオにいるんですけど、空気がちょっと違う。机も違うんですよ。

というのもですね、今年2月に始まったAI QUESTですが、初めてゲストの方に来ていただきました。本当に第1回にふさわしいゲストを。このゲストを呼ぶためだけにどれだけ時間をかけたかっていうぐらい。そうですね。というわけでご紹介いたします。チームみらいで参議院の安野さんです。よろしくお願いします。よろしくお願いします。

第1回目のゲストなんですか？ これは一応裏話をするとですね、もう1人、実は候補がいました。安野さんと僕の共通の、上の。あ、M先生。そんなイニシャルトークしなくても。もちろん呼びたいって話はあったんですけども、呼んだらですね、僕、なっちゃうじゃないですか。もう何も言えないので、呼ぶとしたらラスボスということで、番組が終了する時に。終了するのはよくないので、それじゃあその人を除いたら1番は誰かっていう。それはもう安野さんしかいないということで、安野さんをお待ちしておりました。ありがとうございます。光栄です。

同じ松尾出身の。最近、ペアにされることが多い。そう。私がいたのが2011から14くらいなんで、ちょうど10年ぐらいずれてるという。ディープラーニングの時代、ディープラーニングが始まった時の、ディープラーニングに行くぞっていう。僕がChatGPT出た時は。象徴的ですね。

本当に2人でも親交はもう結構ある。今はありますけども、意外と初めて会ったのは24の。そう、動画メディアが実は初めて。もちろんTwitterとかで、お互いAIの世界で活動してたので知ってましたけども、意外に直接しゃべったのはその時で、それから普通に多いです。なるほど。話させてもらって。なんか僕と安野さん、ペアにして話させたらいいのか分かんないですけど、同じ出身者で、AI界隈で発言力が大きいっていう。さすがに安野さんは別格ですけども。いや、そんなことないですけどね、本当に。

前回、セミゲスト的な感じで、我々が衆院選の時に初めてライブ配信をやって、まだAI QUESTが始まる前だったんです、これ。その時に中継で安野さんに。ありがとうございます。衆議院選挙の時、開票速報みたいな感じでしたね。開票特番みたいな。そうなんです。でも開票特番なんですけど、選挙情勢よりもAIの話について聞くっていう、ちょっと異例なことをしてみました。僕、呼び出され。

そうなんですよ。この前後にもすごいいろんな会社さんから連続で入ってるんですけど、この時間だけほっと、AIの話ができるみたいな、そんな時間でしたね。ソブリンAIどうする、みたいな話とかさせていただきましたけど。

でもそこから、もう早8ヶ月とか、もう半年以上。そうですね。半年以上経ちました。激動でしたよね、きっと。安野さんも。そうですね。去年の5月に政党を作って、7月に1議席で、今年の2月に11議席だから、全部で12議席になって。そうですよね。

AIの世界だって、もう激動でしたよね。やばいですね。だって、こうやって話してる今も、ニュースとか見たらやべえのがいっぱい出てきますから。本当にね。毎日追いきれなくないですか？ 本当ですよね。

今日、今撮ってるのは10月6日なんですけど、さっきちょうど安野さんもXにポストされてましたけど、サイバー攻撃は結構大変なこと。いや、本当大変ですね。いよいよ今、見てます。この番組、実は始まる前に僕と安野さん、めっちゃそういうことでしゃべったんですけども、僕とかはセキュリティの専門家と3日前ぐらいか、どう思う、みたいな話してて、AI、無関係じゃないだろうという結論になってますが、実際、本当に使われてるかとか、モデルがどうとかまでは把握できてないという状況です。なるほど。正確には。

そうですね。4月にClaude Mythos Previewが発表された時から、その当時からですね、オープンウェイトモデルとプライベートモデルの時間差って半年くらいだよねと思ってたので、このクラスの脆弱性を大量に発見できるオープンウェイトモデルが拡散するまで、早ければもう3ヶ月くらいしかないかもしれないし、遅くても1年以内には絶対来るぞと。だから今のうちに守りを固めないといけないっていうのは、4月頃から言ってたんですけど、本当に5ヶ月くらいでやってきたなと。

そうですよね。最近、Anthropicが出したレポートで、GLM-5.3っていうモデルのサイバー攻撃能力がほぼほぼClaude Mythos級であると、Mythos Preview級であるっていうことが出ましたけれども、まさにやってきたなと。

ただ一方で、この9月、10月の頭に公表された案件って、中には9月末にあるものが混じってるかもしれないですけど、結構数ヶ月前に起きたことが社内で議論されて出されたものが多かったりするんで、多分今はまだ、そういうMythos級以前のAIでこれだけ出てるんじゃないかなと思ってます。

それって結構恐ろしい話ですよね。だって、オープンウェイトモデルでここまで来たよって言われてる中で、まだそれは使われてない。使われてるものがこれから出てくるって考えると、結構地獄ですよね。普通に考えると、今年の末くらいから来年の初めくらいに、このGLM-5.3が実際に実戦に配備されてて、より状況が悪化してもおかしくないので、これ本当に待ったなしで対策していかないとまずいと思いますね。

国でもそういう議論をしなきゃって。そう、しなきゃと思ってます。国会でも投げ込もうと思ってます。これは安野さんが日本にいてよかったと思います。日本国民にとっても大変ありがたいことだと思います。多分AIに関していろいろと騒がれていても、国民の人たちは、言うてそんなに我々の日常生活に関係あるのかっていうのは、割と最近はほとんどだと思うんですよ。9月の後半からサイバー攻撃が始まって、今、多分みんな震え上がってる。さすがにこれは自分事だと思い始めたと思うんですね。このタイミングで、政府をつつける立場で安野さんみたいなガチで技術に詳しい人がいるのは、これ日本の宝ですよ。

家庭教師。そうです。夏の閉会中に高市総理に家庭教師をさせていただきましたが、やっぱりトップがAIをどれだけ体感してるかって、国だけじゃなくて企業とかでも、ものすごい舵取りに大きな役割を果たすんで、経営レイヤーとかマネジメントレイヤーのAI理解ってめっちゃ重要だと思うんですけど、それは国も変わらんやろと。総理にちゃんと体感してもらうのが大事だと思うんで、バイブコーディングをしていただきました。

伝わったんですか？ 総理には。そのAIの威力みたいな。やっていただいて、キーボードで打つのもあれだと思ったんで、最近、音声入力できる。マイクに向かって。そう、マイクに向かってやってるので、音声入力で指示出ししてもらって、バイブコーディングして、出てきたものについて「ここ、もうちょっとこうやって」って言って、「本当にそうなるんだ」っていう話をされてましたね。

分かりました。もうね、話したいことは多分たくさんあると思うんですが。というわけで、今井翔太さんと探求するAI QUEST。今日のテーマは、チームみらい・安野さんに聞く、AI時代の日本の生きる道です。

3つのトピックを用意してます。まず、AIで人類滅亡の現実味。直近、安野さんも囲みのところで発信をされたりとか、9月以来、この辺すごい話題です。急に盛り上がってきましたね。そうなので、ぜひ掘り下げていきたいと思います。

2つ目が米中AI戦争と日本の生きる道ということで、国会閉会中、安野さんは海外、フランスとかアメリカとかいろいろ行かれてきたというところで、ソブリンAIとは、みたいなところもかなりということなので、伺っていきたいと思います。

最後がAI失業の脅威と政策の未来ということで、以前から、さっきの選挙の中継をつないだ時もAI失業の話、確か今井さんが安野さんに質問されました。あの後、僕は安野さんに質問して、安野さんが答えてるのの切り抜きが、なぜかTwitterでめっちゃバズってたんです。そうなんですね。我々がちょくちょく切り抜いてたんですけど。神がここだったのか。なるほど。いろんな話があると思うので、ここも最後までぜひ見ていければと思います。

最初のテーマが人類滅亡の現実味なんですが、いきなりちょっと大きな問いなんですが、このAIが人類を滅亡させるという議論、安野さんご自身、今どう捉えてますか？

私はですね、可能性はあると思います。可能性はあると思うんですけど、AIによるリスクも、緊急度とその確率みたいなのをちょっとカテゴライズして考えてた方がいいんじゃないかなと思ってて。私は大きく3つあると思っててですね、AI自身が人間に反乱をしてきて人類滅亡へっていう、よくあるSF的な話。AI 204とか202レポートの話が1つで、これ、別に私はありうると思います。

けど、それよりももうちょっと確率が高くて、もうちょっと緊迫感があるのは、やっぱり大国ですね。AIを使い倒した大国同士が正面衝突すると。アメリカと中国が正面衝突するみたいなシナリオの方が、よりもうちょっとリアリスティックで、カタストロフィックな、破滅的な事態を及ぼしやすいなと思って。

さらに現実味があって、今すぐ対処しなくちゃいけない話として、テロリストであるとか、ならず者国家であるとか、あるいは反社会的な集団がAIを使って何か反社会的な行為をする。それによって破滅的な事態が起きるっていう。だから大きく3つくらいあると思ってて、私は足元では、もうこっちのリスクをちゃんと潰していくことにフォーカスした方がいいと思ってます。

こっちの、AIが反乱してくるっていうのは、まだ時間があると考えてる理由は、AIは人間に依存してるからですね。つまりデータセンターをメンテするであるとか、あるいはデータセンターに必要な電気を発電してくるとか、それを支えるサプライチェーンをメンテナンスするっていうところに必ず人間が必要なので、現時点でAIが人間を滅ぼそうとすると、ほぼほぼ自殺行為であると思っているので、まだ大丈夫だと思ってます。

ここに関してシリアスに話をしないといけないのは、多分ほとんどの工程がフィジカルAI等によって自動化された後だと思う。そうなると、AI側のオプションとして、選択肢として、人類滅亡をさせるっていうのが出てくるかなと思うので、まだちょっと時間はあると思うし、それまでの間、その時間までの間に私は、やっぱり相互確証破壊しかないんじゃないかと思っていて。技術的にはもちろんアライメントっていうところもしっかりやっていくんですけれども、お互いがお互いのキルスイッチをちゃんと持っているというふうにして、お互いの方向性を合わせていくっていうのは、1つのアプローチかなという。

人間とAIがお互いのキルスイッチを持った状態でということですね。なるほど。かなりフィジカルAIの進化に依存するみたいなところは、その辺のシナリオっていうのはありそうっていうことですよね。

意外と人工知能の研究者、昔からやってきたAI滅亡論とかだと、フィジカルAIは考慮されてないことが多いんですよ。どちらかというと人間の方から、例えば多分安野さんもですけども、我々、今Claude Code、Codexを使うって、昔だったらここは承認しない、ここに承認を挟むとやってたものが、どんどん承認がなくなっていくんですよ。割ともう自動でやってくれ、早いので。昔はエンターキーをたくさん押したんですけども、たくさん押すことすらなくなってですね、割ともう承認抜きにして依存するって起きてるんです。

というのがいろんな分野に波及する。企業としては生産性が上がってもらった方がいいし、企業間競争に負けるので、もうAIに任せてしまったらいいじゃんっていうのがいろんな分野に波及した結果、その分野の1つに、今安野さんがおっしゃったようなデータセンターとか、そういうエネルギーに近いとか、インフラが含まれていて、気づいた時にはっていうシナリオが意外と昔ありました。

ただ、フィジカルAIとどっちが早いかは分からないです。これは普及速度。どっちの方が、こっちでソフトでずぶずぶに入っていくか、あるいはフィジカルAIが意外と早く来てしまって、全部握っちゃうか分からないんですけども。安野さんがおっしゃる通り、自律的に人類滅亡、まだ議論は早いと思います。ただ、Hugging Face事件とかは、実際、自律的に動いてやっちゃった方のやつなので、それがちょっとトリガーになって、いろいろと難しいことになってるのも事実です。

じゃあ、なんで先日、Anthropicにいたジェイコブ・コクソンが辞めるってツイートをしてバズって、あんなにパニックになったんですかね？

どうなんでしょうね。私は、定期的に安全性の観点の懸念を表明して辞めるっていうのは、昔のGoogleの時代から結構たびたび起きていて。ちょうど昔、LaMDA、かなり昔の言語モデルに意識が宿っていると言ったGoogleのエンジニアが、ChatGPT以前のかなり前、2019年とか20年とかそこら辺だと思いますけど、辞めて、危険性。事例があったら報道もされやすいので、結構広がりやすいのかなとは思ってはいますね。

なので、ずっとある話だとは思いますし、懸念としても、別に確率ゼロではないっていうのは私もそこは同意するところで。ただ、こっちよりもより喫緊の安全性リスクっていろいろあるだろうから、そっちからした方がいいんじゃないっていうのが私のスタンスですね。

確かに。そういうのに引っ張られてって、足元をすくわれちゃったら元も子もないよねっていう。そうです。そうです。そういう話なわけですよね。悪者にAIが渡ってしまったらっていうところで、さっきのサイバーセキュリティもそうですし、生物兵器の話だって出ていて。この辺は、でもやっぱり全然まだ対策ができてないってことなんですかね。

対策はできるけどやってないこと、結構たくさんあるなと思ってまして。6月に我々チームみらいでも国会で言ったんですけど、やっぱりRNAとかDNAの危険な配列っていうものを合成、作る力、生成する力っていうのが結構ついてきたと。最近だと、合成生物学のサプライチェーンも結構各国でちゃんと発展してきて、例えばオンラインでデータを送ると、合成したRNA、DNAが試料として届くみたいなサービスってあるんですよね。

そんなに手軽にできるんですか？ そうなんです。Amazonみたいな感じなんですか。はい。そういう仕組みに関しては、やっぱり一定、規制を入れていった方がいいんじゃないかという話とか、できること、足元で別にそんなに、コストもゼロとは言いませんけれども、実現可能で、バイオセキュリティをかなりちゃんと担保できるものっていくつか存在するので、そういうのはマジでやった方がいいと思います。

まさにAIサイエンス的な話で、今井さんの。EvoっていうDNA生成の、神剣生成のモデルがあってですね、それとかもう普通にウイルスを作れるっていうのが確認されて、自然界に存在しないウイルスを、安定して割ともう作れるっていうのは実験的に出ているので。

それは一般に公開されてるモデルなんですか？ Evoは公開されてるんじゃないかな。なので、できます。多分安野さんご存じですけども、そういうの、生物合成業者がスクリーニングせずに出されちゃまずいから、AI企業トップの書簡が連名の、仲、本来なんか悪いはずなのにありましたね。

っていうのがあったりするので、まさに今アモデイとかが言ってるペーシング。人類滅亡はちょっと言いすぎですけども、AI開発をちょっと減速しようか、調整しないかっていうのは、まさにそういう穴が世の中にいっぱい開いてるので、この穴を塞ぐ時間はちゃんとないとまずいよねっていう。

なるほど。彼らはやっぱり単独だと、お金を借りて性能競争をやってて、負けたら終わりのレースをしてるので、自分たちは突き進むのはやばいと思っていても、自分たちだけだと向こうが本当に止まってくれるか分からないので、どうしようもないというので、第三者のアメリカ政府とか、別のところが干渉して、ちょっと遅くしてもらって、競争もそんな激化させずに軟着陸させましょうっていうのが、まさに今安野さんがおっしゃったような、世の中のまだ穴がぼこぼこ開いてるもの。

でもそれで言うと、さっき大国同士の衝突があったらそこはリスクだって安野さんがおっしゃってましたけど、アメリカは中国がいる限り止められないわけじゃないですか。

どうしろって話や、っていうことになってます。私はペーシングの議論は、もちろんAI事業者、特にアメリカのAIの会社はそう言うと思うし、そういうことのインセンティブも複数のレイヤーであると思うんですよ。つまり、今アメリカではアンチAI感情みたいなのもすごい盛り上がっていますし、実際にさまざまな混乱が起きてる中で、ペーシングはした方がいいと思ってるよということ自体は、多分いろんな意味でもプラスだと思うんですよ。

なんですけど、おっしゃるように米中の競争がある中で、なかなか難しいと思いますし、現に習近平さんとトランプさんは両方とも、ペーシングにはかなり後ろ向きということで合致している。そうですね。この前、シリコンバレーと上海に行ってきて、AIの研究者の方とも話してきましたけど、エンジニアの方と話してきましたけど、やっぱり誰に聞いても、あんまり現実的だと思ってる人はいなかったですね。

ペーシングが。ペーシングが、開発を減速するっていうのは、そう言うけど、そういうボタンがあったら押すと思うけど、そんなボタンないと思うよ。できないと思うよ、みたいなことを結構みんな言ってましたね。

これは、多分安野さんの方が国の首脳とかに感覚が近い人間だと思うので聞くんですけども、多分これから1年、2年すると、本当にまずいという、自律的なAIエージェント事件、多分起きると思うんですけど、Hugging Faceレベルじゃない。トランプさんも習近平さんも、どっちも大統領、国家主席というのは、あくまで今、人間社会の仕組みに支えられて権力を持ってるわけなので。

彼らとしても、我々は人間社会最強なのに、AIなるものが突然飛び込んできて社会の仕組みが壊されたら、偉いはずの我々は危ないんじゃないか。多分僕はそう考えて、今言ったように後ろ向きでも、ちょっとこれは規制とか考えていいんじゃないかってなるんじゃないかと思ってるんですけども、ならないんですかね。

私は可能性あると思いますよ。可能性あると思っているのは、やっぱり何らか、今のHugging Face事件だと多分変わんないと思うんですけど、まだ威力が、Hugging Faceってなんだ、みたいな感じだと思うんですよ。そこを攻撃されたから何の損があるんだ、みたいな。

1個、最近の例で言うと、オーストラリア政府か、オーストラリア政府の健康保険のサイトに攻撃してたみたいな話とかは、これも外交問題になってもおかしくないので、1つギアが上がったと思いますし。何らか、よりフィジカルに影響が出る、例えばインフラ企業に対して何か障害が出るとか、本当に機密が漏れていくとかですね。オーストラリア政府のやつも機密だと思いますけど、そういうことがあって、一気にトーンが変わるみたいなのは、私は起きうると思いますね。これは中国においてもアメリカにおいても。なるほど。

ただもう1個あるのが、じゃあペーシングしようと、減速を一緒に頑張っていこうとやった後に、次はもう疑心暗鬼の時代が来ると思ってて。開発を緩めると言ってるんだけど、実は加速してるんじゃないかっていうのが、お互いに多分めっちゃ噂として出てくると思うし。本当に囚人のジレンマの世界ですね。そう。それが観測可能なのかというと。

これはどうですか？ 安野さんも多分見たことあると思いますけども、データセンター監視は多分できるんじゃない仮説。大規模すぎるので、今の。衛星でヒートシグネチャーを見るっていう。そうですよ。っていうので、できるんじゃないか説はあると思うんですが。

でもやっぱり、地下のデータセンターとか作ろうと思えばできるのかもなと思いますし、同じデータセンターで発熱してたとしても、ヒートシグネチャーを変えるような。だから別の計算に使ってるよと。パターン全然違うじゃないかと言えるけれども、実際はそういうふうにカモフラージュするようにやってるとかも、全然できると思うんですよね。

だって建物単位で見れても、ラック1つ1つに何が入ってるかまでは絶対見れない。だし、何の計算をしてるかとか分かんないはずなんで。現状、NVIDIAしか作れなくて、中国が本当に最先端AIを作るには、もう別の特殊なルートを使うしかない場合は、多分それだけ大規模に集めたら、さすがに僕はどこか引っかかると思うんですけども、中国がもうほぼ独立で半導体を作れるようになってしまったら、分かんない可能性もありますね。

もうHuaweiの、Ascendでしたっけ。もうあと数年で広がっていくと思うんで、中国国内。あれはどうなんですかね。5年、僕は2025年の春にそのことを話題に出された時に、5年以上はかかるでしょう。時点とすると2030年ぐらいまでは安泰と思ってるんですけども、どうなんですかね。分かんない。

あれはどうにかなっても、物理チップを作ってるSMICのファウンドリーの方が、そんなに物理的に最新チップを作れる体制と。中国版TSMC的なところですよね。そこの製造技術がどうなのかって話が。そこは確かにあるんですよね。

そのAI自体の発展に関して、安野さん、シリコンバレーでいろんな方に会って、noteも書いてて、その中ですごい興味深かったのが、「AI研究者としての自分の賞味期限はあと1年だ」って言ってる研究者の話で、これはどういう。

これもよく再帰的自己改善だと、RSIだと、AIがAIを賢くすることにより、研究開発が早くなるし、ヒューマンは、イン・ザ・ループというかですね、どんどんオフ・ザ・ループの方に行くよねという話は、論理的には知ってたんですけど。実際に某フロンティアラボの、めちゃめちゃ業績があって、本当にスタープレイヤーだなと思う方が、「俺、あと1年だわ」って言っててですね。それが終わったら世界を旅行しに行くんだって言ってて。

お金はあるでしょうから。お金はあるでしょうからね。あるでしょうけど、もうそういうリアリティなんだと思いましたね。もうAI研究の自動化っていうのが、今すぐそこまで来てるっていう。ちなみに、それ結構悲しそうに言ってました？ いや、本人はケロッと。

やっぱそうですよね。僕もぶっちゃけ、研究の自動化みたいなことをやってるわけですよ。言い換えると、我々を失業させるための何かをやってるわけですよ。確かに。割とみんなケロッとしてるので、むしろ割とやってる研究者ほど、我々は失業して普通だろう、論理的に考えて失業するだろうって空気の方が多い説はあります。

心配じゃないんですか？ 自分の身を案じないんですか？ それは。そういう人ほど、別にもうすでに稼ぎ切ったのか。AI業界は稼ぎ切ってると思うんですよね、リサーチャーのその人たちは。なので、他の業界とはちょっと違う可能性あるんですけど。

ただ私、最近見ててすごい面白かったのは、数学の業界ですね。数学者の業界も、例えばテレンス・タオさんっていうすごく有名な数学者の方がいて、数学の問題を解くのにAIを使うことに対して前のめりだった、すごい楽観的だし積極的だった方がいるんですけど、ナビエ–ストークス方程式が解かれた後に結構急展開してですね。「やっぱAIは何もんでないんじゃないか」みたいな発言とかしていてですね。

自分を追い越されるまではかなり楽観的だけど、追い越された瞬間に、結構恐れ、すごい衝撃みたいなのっていうのは、私、結構あるんじゃないかなと思ってます。

テレンス・タオは正直、僕、意外でした。多分彼に関して言うと、自分が追い越されたことよりも、彼は数学コミュニティに対してだいぶいろいろと責任を負ってる立場でもありますし、思ってるので。コミュニティが実質破壊される。多分安野さんが、後からフランスに行った時の経験を詳しく聞かせてもらいたいと思うんですけども、博士学生どうするんだ、みたいな。

フランスに行った時に、セドリック・ヴィラニさんっていう、フィールズ賞を取った数学者兼国会議員という方が。すごい世界ですね。元国会議員、もう今、数学者に戻ったんですけれども。彼が、フィールズ賞受賞者がですね、公開書簡、オープンレターとして、今の数学とAIはミスアライメントしてると。こういう公開書簡を出す日の朝に朝食を取ったんですけど。

ちょうどあの日、というかフランスに行った後にナビエ–ストークス方程式が解かれて。じゃあマジで急にアポ取った。そう。急にアポ取れてですね、お話ししたんですけど、もうアポカリプスだって言ってました。数学の世界は。

これは何を言ってるかというと、まず数学の最先端の研究を数学者はしたいと。したいんだけど、もうOpenAIの数学の問題の解き方って、パワープレイなんですよね。88時間くらい、想定10億円くらいのトークンを燃やして、ナビエ–ストークス方程式をいきなり解くと。これは数学コミュニティ、アカデミアでは絶対できない話なんですよ。

となると、自分がフロンティアにいるためには、OpenAIとかAnthropicとかの中に入って、一緒に契約してやるしかない。なるほど。もうアカデミアがアドバリューできるところ、付加価値をつけられるところはないという、そういう状態だと。

これ、あともう1つあったのは、博士課程の学生を取って育てていかないといけない。数学コミュニティっていうのは、人材を育成するっていうのもやっぱり重要であると。10年とか20年とか時間をかけて数学者をちゃんと育てていくっていうのが、大事な機能だったわけですけど、今もう博士課程の学生に渡す問題がなくなってしまったと。

なぜなら、以前、数年かけて博士で解いてた問題っていうのは、今3時間でAstraが解いてくるんですと。GPTのAstraが。だからもう本当に渡せる問題もないし、彼らの将来も保証できないので、もうPhD学生を取るのをやめました、みたいな著名な数学者が結構出てきてるっていう話をされてて、大変なことだなと思います。

AI失業、リアルAI失業ですね。だから、そんなところに来ちゃったっていう感じですけど。僕、安野さんのブログを見たんですよ、フランスに行った時の。さっき言ったフィールズ賞を取った学者の人が、どこだったか、割と初期の頃は数学がこの状況になると思ってなかったって書いてあって、僕は意外でした。

僕は今年の春ぐらいに出た『現代化学』っていう雑誌に、AI時代の科学みたいなことを書いたんですよ。そこで僕、明らかにこれがやばいと思われるエリアに数学をちゃんと挙げたんですよ。今みたいになる前ですよ。属性的にどう考えたって、僕、数学っていわゆるゲームAIとかと同じ属性を持ってると思っていて。そうです。あとソフトウェアエンジニアリングもそうですよね。

そう。なので、割とAIをやってる人からすると、数学はそれ来るだろうと思ったんですけども、当の数学者は意外とそうではなかった。数学者がみんなAIに関して解像度が高いかというと、そうでもないんだなと思ったんですよね。やっぱりセドリックさんがおっしゃってたのは、データポイントがめちゃめちゃあるタイプの、データがたくさんある領域は強いけど、論理的なところはそうじゃないと思ってたよって言ってて、そういう認識だったんだなとは思いましたね。

でも強化学習の、何度もQUESTで出てますけど、ベリファイアブルなリワード、報酬を与えられるものだったらいける。それ、数学その最たる。だから普通に考えると、DeepSeekMathかDeepSeek-R1が出たあたりで、多分AI関連のコミュニティにちょっとつかって、あの辺で論文をちらっと読んだら、多分思ったはずです。

その前のパラダイムだったと思うんですね。たくさんデータを集めて、帰納的に考えるっていう、そういうイメージを持たれた。ああ、ってことですね。ただ、数学の問題を解くのに10億も計算資源を使うって、だからもうこれ、全部ついて回るのがやっぱり計算資源の問題だと思うんですよね。

安野さん、noteにも書かれてたんですけど、結構奪い合いが、いろんな社内で。そうなんですよ。そのフロンティアラボの話を聞いてきたら、ある方が言っててめっちゃ面白かったのは、「我々の会社は今、半沢直樹状態にある」って。

それ、日本人じゃない方？ 日本人じゃないんです。日本人じゃない。半沢直樹。聞き間違いかな、みたいな。すごいな。TBS日曜劇場を見るんだなと思って。VIVANT見てるんだな。VIVANT見てるか分かんないですけど。

だからやっぱり構造としては、考えてみればシンプルで、いくら大量にリソースがあったとしても、有限のリソースを社内のチームごとに奪い合ってるわけですよ。この実験がしたい人たちと、こっちの方向に伸ばしていきたい人たちで。となると、やっぱり社内の派閥ができ、社内政治的な計算資源獲得競争が起きて。そのためには、同じ社内であってもデータを隠す、相手のチームにあんまりこれを知られないようにしよう、みたいなことが起きるんだっていう世界です。

ジョン・ジャンパーとかもそれで辞めちゃったのかな。彼は、ジョン・ジャンパーだったかな。Googleの、夏ぐらい、いろいろと辞めるらしいってあったのはそれのせいだという話と。ペーシングの議論だって、計算資源の物理的なボトルネックによってペースされちゃうみたいなことだって全然ありうる。

それはあるじゃないですか。あります。それあります。現実問題。そうですよね。データセンターが建つ速度によって律速するかもしれない。だから建設だって全然遅れてるみたいな話は全然あるので、そんなうまくいくのかなっていう、逆に、っていうところはありますよね。

と思いますね。そういう律速は全然あると思いますが、それを最大限でアクセル踏んでる中でっていうことです。確かに、それでもっていうことですよね。分かりました。というわけで話が尽きませんが、ちょっと次のテーマに行きたいと思います。

米中AI戦争と日本の生きる道ということで、安野さんもいろんなところで、この夏AIの現場を見てこられて、止まらないですと。米中のAI戦争の中で日本はどう生きるべきかという話なんですが、どんなことを今考えてらっしゃいますか？

それに関しては、僕は三正面作戦だなと思う。3つの方向のことを、まだ頑張れるんちゃうかなと思って。まず1つは、アメリカの、欧米のエコシステムの中ですね、フロンティアラボの中で、半導体という、チップを作るという能力においては、日本はすごい交渉力を持ちうるところだと思うんですよ。

TSMCが熊本にも来ている。そしてラピダスも北海道に作られていて、うまくいってほしい。いってほしいと思っているっていう中において、ここは結構交渉力を持ちうるポイントだと思うんで、そこをちゃんと強化していって。もちろんファンデーションモデルとか、基盤モデルのレイヤーでは、我々はあまりそれを作れないかもしれない。フロンティアにはいけないかもしれないが、でもそのエコシステム全体で見ると、一定の交渉力を働かせてるよね。こっちの方向に行くのが、多分1つあると思います。

とはいえ、フロンティアではないんだけれども、一定遅れ、例えば中国が4ヶ月遅れだったとして、さらにその3ヶ月遅れとか、そういうフロンティアとの時差を保ち続けるっていうのは1つあると思っていて。これはいくつかの意味でやっぱり意味があると思っておりまして、自分で全て作ったモデルがあるということもそうだし、多分これから先、まだパラダイムが変わる瞬間が何回かあると思って。

例えば量子コンピューターが実用化された時とかに、既存のプレイヤーの順位が逆転する瞬間っていうのはあるかもしれないので、そういうパラダイムが変わる瞬間に、キャッチアップがぎりぎり可能な、追い越せる位置にちゃんとつけとくっていうことかなと思います。っていうのが方向性2。

3つ目は、やっぱりそれを達成するためにっていうこともあるんですけれども、ミドルパワー連合ができれば、それはよし。つまりこれは何を言ってるかというと、フランスの方がめちゃめちゃ言ってて、それは確かにそうだなと思ったんですけど、米中の大国の投資金はないけれども、一定力がある中堅国があるわけですよね。ミドルパワーの国。

例えば日本もそうだし、カナダ、オーストラリア、フランス、ドイツ、韓国、そういったミドルパワーの国々で共同で投資をして、何かものを作っていくっていうのは、論理的にはこれしかないと。そんなことできるのかと思って、フランスの政策立案者とかに聞いてたんですけど、CERNを見てみろと。

ラージ・ハドロン・コライダーという、めちゃめちゃ大きな加速器があると。これは1箇所にしかないわけですよ。つまりスイスにしかなくて、だけどもそれには日本も出資してるし、フランスも出資してるし、国々で1つの大きな箱、物理的な装置を作って、そこを運用した成果っていうのは各国で分け合っていると。

これのモデルと近いものっていうのは、確かに実現可能性あるよねと。かなり険しい道だと思うけど、これを探るっていうのもやった方がいいんじゃないかなっていう。ざっくりこの3つですね。

これ、CERNの話、安野さんのフランスのやつに書いてあるんですけども、なるほどなと思いました。そういうCERNが成功してる。CERNは成功してる。そういうのあったなと思いました。確かに。でもやっぱりフランスに行かれて、結構その辺の示唆ってかなりあった。

ありましたね。1番私がびっくりしたのは、フランスもすごく日本と状況が似てるわけですよ。フロンティアラボ、Mistralさんはいるんだけど、フロンティアと言えるかというと、今フロンティアではないかなと思いますが。基本的に国産のフロンティアモデルがない中で、でも主権というもの、ソブリニティをやっぱり重視する国だったと。

その中で、じゃあフランスが出した答えは何なのかというと、やっぱりオープンウェイトモデルをめっちゃ使うことだったんですよね。つまり、アメリカのChatGPT、Claude、Geminiは、一切フランス政府は使えませんと。これはすごいよ。割り切りがすごい。割り切りがね、本当そうですよね。

実際、フェイブル5も止まったわけですよ、ホワイトハウスの輸出管理規制によって。だから、いつ止まるか分かんないわけですよね、言ってしまえば。はい。

だし、アメリカとヨーロッパの間にも一定の緊張関係はやっぱりありますので、だからこそオープンウェイトモデルを自前の、自国のクラウドサーバーにホスティングして、なんなら政府が持ってるラックの中で動かして、それで使うんだと。

で、一番使われてるモデルって何なんですかっていう話を聞いたら、DeepSeekだって言って。これも安野さんがDeepSeekって言ったら、みんなびっくりしちゃった。Mistralじゃないんかって。

Mistralも結構使ってたらしいんですけど、ぶっちゃけ何が一番ですかって言ったら、DeepSeek。

やっぱオープンウェイトモデル使おうとすると、中国。実際にDeepSeekの性能、かなり素晴らしいものはあるので、そうなると思いますし。

やっぱり私も結構、日本の企業、政府もそうですけど、企業においても、中国製のモデル、オープンウェイトモデルを使うことに対する、一種のアレルギー反応的なものは感じるなと思っているんですが、これ、アメリカのスタートアップとかでも、別に中国製のオープンウェイトモデルをファインチューニングして自分で使うっていう会社って、結構たくさんあったりもするんですけど。

OpenRouterの統計とかでも、中国モデル、すごいアメリカでね。

すごい。おっしゃる通りです。

多分、トークン赤字の問題が、この先ものすごく顕在化していくと思うんですよ。つまり、フロンティアモデル、かなり高いので。ってなった時に、全てのユースケースでフロンティアの性能が必要なのかというと、多分そうではない。

一定、例えば要約の分野とか翻訳の分野とか、簡単なエージェンティックな、例えばメールの返信ドラフトしといてとか、そういうユースケースって、もうサチってきてるとは思うんですよね。

そういう部分に関して、オープンウェイトモデルで置き換えていって、トークン赤字を減らしていくっていうのは、これはこれでやった方がいいこと。

全てのタスク、アストラである必要ない。

そう。全てのタスク、アストラである必要ないし、より多分、このトークンに対するROIですよね。一定のトークンでどれだけ価値出せたのかっていうことにはセンシティブになっていくと思うので、今後。そういう中で、オープンウェイトモデルをちゃんと織り交ぜながら使って、その効率を最大化していくっていうのは、やった方がいいと思いますね。

これ、安野さんの記事に出てくる、多分、政策担当者ですか、聞いたのは。結構クレバーだと思ったのが、安野さんが今おっしゃったように、サチってる分野はオープンモデルでいいと。ただ一方で、セキュリティとかそうじゃない。というのが政策担当者レベルでちゃんと分かってるのはすごいと思いましたし。他に何か言われてました？ ちなみにセキュリティ以外にも。

どうだろうな。パッと例に出たのはセキュリティですけども、やっぱり最初、ClaudeもChatGPTも使わないっていうのでバサッとやったんだけど、やっぱ最近はセキュリティの分野があるので、ちょっとそこのポリシーとかも見直すかもしれないね。そういうふうになってました。

フランスだからみたいなのあるんですかね、他。

どうなんでしょうね。私もヨーロッパの他の国、見たことはあんまりないですけど。でもやっぱりMistralさんもいるし、ヤン・ルカンさんもいるし、結構、感度はヨーロッパの中ではやっぱり高いとは思いますね。

あれ、マクロン大統領だったかな。結構、EU全体がAI規制に傾いてる時に、マクロン大統領だけはちょっと、あれ、Mistralがいたかも分からないですけども、そんな感じだった。フランスは割と、そうですね。

でも結構、テックそのものに対しては、別に何でも最先端のものじゃなくていいみたいな思想。

めちゃめちゃ懐疑的だったんですよね。僕がびっくりしたのは、やっぱり便利になるということに対して懐疑的な方々で、フランスの方。びっくりしたのは、5Gの導入の時に、これ以上回線が速くなって何の意味があるんだっていう議論で、めっちゃこう……。そんなことあるんだみたいな。

やっぱそこは感性が違いますよね。

なるほど。でも、AIの最適な使い方を知るには、むしろフロンティアレベルのものを知っておかないと、最適な使い分けみたいな発想にもならないわけじゃないですか。そういう意味で、そのリテラシーの高さと、懐疑的なところって、結構。

やっぱり懐疑的であるからこそ、自分たちがコントロールできる度合いを最大限高めたいと思っていて。であるからこそ考え抜いて、オープンウェイトモデルで、オープンウェイトのモデルの中でも今使えるのはDeepSeekだということで、あらゆる手段を取って自分がコントロールできるようにする。ソブリニティを担保する。そういう意味では一貫してるなと思った。

そうですね。

これ、安野さんに聞きたかったんですけど、多分、安野さん、記事にも書かれてなかった気がするんですけども、フランスもいわゆる日本みたいに、これは勝つんだみたいな政策とか走ってたりするんですか？ これは我々でもまだ追いつけるんだみたいな空気感があるところって、あったりするんですか？

追いつけるかどうか分からないんですけど、ただ、データセンターに関しては、フランスは相当、その懐疑的な雰囲気の中では前向きでしたね。というのは、やっぱり電力の状況がいいんですよ、フランスは。

原子力。

原子力の発電所がいっぱいあって、土地で見ても、ヨーロッパ諸国の中で大きなデータセンターを作るのはフランスだねっていうことで。そういう意味では、そこは前向き。あともう一つあるのが、フランスを支えてるのは結構、軍事産業で。実は世界第2位の軍事輸出国がフランスなんですけども、そういう意味でも、AIっていうものに対してデュアルユースで投資していくっていうことはしやすそうな国であり。

へえ、そこはやっぱり日本とちょっと温度感が違います。

違います。そこなんだ。へえ。

NATOがそもそもありますから、ヨーロッパも。

それを踏まえて、日本の政府は、例えばGPTもClaudeも使う。デジタル庁の源内とかそうですけども。さっき半導体、時差をちゃんと保つ、あとミドルパワーでって話がありましたけど、モデルに関してはどういうふうにやっていくか。今、ね、ノイだとかああいうのもありますけど、国にはどういうふうに求めていきたいというか。

国としてはっていうところで言うと、まず一つは、安全性を評価できる機関をちゃんと育てていくということが大事だと思って。AISIですね。フランスもINESIAっていう、フランス版AISIみたいな。

AIセーフティ・インスティテュートですね。

っていうものがあって、そこでオープンウェイトモデルがすごい不審な挙動をしないかどうかは常にチェックしていると。チェックしているからこそ、このオープンウェイトモデルは政府のサーバーの中で使ってよいという判断ができてると思うので、ここのチェックの体制をきちんと整えると、DeepSeekを使うかどうかはさておき、オープンウェイトモデルを使う道っていうのも結構開けてくるなと思うので、それはやった方がいいと思いますし。

フロンティアモデルだけじゃなくて、一定サチってるものは、もうちょっと小さくてコストが安いモデルにどんどん置き換えていかないと、多分予算が足りなくて、AIを配ったんだけども、トークンのキャップに衝突しちゃって、もうほとんど実務では使えませんみたいなことが起きかねないと思うんで、それもやった方がいいと思います。

あとはサイバーセキュリティですね。まさに今起きてる話ですけども、やっぱり守り方のパラダイムを変えないとまずい時代に入ってきてる。テストで脆弱性チェックをかけて、まあオーケーみたいな、そういう世界観だったわけですけど、結構もうコンティニュアスに、ずっと自分たちで自分たちのシステムの穴を探し続けると。言ってみれば、自分たちのシステムを攻撃し続けるようなことをしないと、多分、防げなく、安全性を担保できなくなっていくと思うんで。

まさにさっき言ってたような、攻撃能力が高いモデル、GLM-5.3みたいなモデルも使いながら、ちゃんと演習、穴を見つけ続けるっていうことをしないといけないと思います。

なるほど。こないだ高市さんに家庭教師された時に、いろんな政策提案されていて、この政府予算に1000億円のAI費を計上すべきみたいな話もされていて。これはどういう。

これ、やっぱりAI活用をちゃんとしようと。

それ、政府の中で。

政府の中で。AI活用をちゃんとするとなった時に、多分、今年から企業が直面してる話としては、トークン費用爆発問題ですよね。特にエージェンティックなケースになってくると、いきなりトークンの使用が上がるので。そうなってきて、こんなにお金かかるんだっていうふうな、そういう認識も広がってきたと思うんですけど。

多分政府は1年遅れくらいだと思いますが、まだ実際に質問して応答してくれるタイプのAIの使い方が今の政府の使い方で。ただ多分、デジタル庁はエージェンティックな使い方を今年中くらいにできるようにすると思うんですよね。秋とか冬とかに。

ってなってくると、AIを16万人くらいいる政府職員がちゃんと使い倒せるようにするには、一定、予算は確保しないといけないと。でもやっぱり財務省の、各省庁の概算要求とか見ていても、あんまりその非連続なトークン費用の上昇を織り込んでないんですよ。なので、それを織り込んでないと、その翌年になっちゃうし、もっと言うと翌々年になっちゃうかもしれないと。実際に使い始められるのが。

なので、ちゃんと計上すべきであると。この計上する時にも、AI費用っていうものをシステム費用として見ると、ちょっと計上の仕方が難しいと思っておりまして。システム費用と人件費の中間くらいの性質を持ってると思うんですよね、私は。

っていう中で、これもUber社とかそうやってるんですけど、人件費の、あなたは人件費の5％ですね。Uberの場合は5％くらいなんですけど、をトークン費用として予算計上して、その枠で使っていいよって感じにしてるんで。5％ほどAIを使い倒さなくてもいいかなということで、3％くらいはでも使った方がいいんじゃないかっていうので、ざっくり1000億円くらいは実はAI費用として計上すべきなんじゃないのっていう話をしました。

それだけ政府が使いこなせる状態になったら、国にとってはどんな意味を持つ？

私は官僚として働いたことはないので、又聞きの話ではありますけど、官僚がやっている仕事って、かなりヘビーな情報処理なんですよね。基本的には過去の例をくまなく見た上で、ここでこれ言ってるから、このラインの答弁にしようとか。政策を作る時も大量の資料を見た上で、過去にある自分の省庁の大量の資料とも見比べて、じゃあこうしようっていうのをやると。めちゃめちゃAIの使いどころだと思うんですよ。

一応ちょっと補足すると、僕、結構その省庁の有識者会議に出てるんですけども、情報とかめちゃくちゃ処理してて、官僚ってマジで時間足りてないんですよ。出てくる資料とか、すいません、ここ作りかけで、みたいな。結構、ここはこんなになって、実はこんな感じですとか。これもう絶対作りかけで、もうドタバタで作ったんだなっていうのが結構出てきたりするので。マジで官僚は、スライドとかでやっぱりAI、結構使うじゃないですか。使った方がいいっていうのは感覚的に分かります。

よく画像生成のAIが発展した時に、霞が関……。

ポンチ絵、マンダラですね。いろいろ名前があるけど。

あれとか、ものすごい情報量をここにまとめようとすると、そうなっちゃうみたいな。あれを人間がやってるって。

でもあれは人間がやらないと。あれ、一応言うと、いろんなステークホルダーというか、いろんなところに配慮するとああなっちゃうんですよ。あれはなかなか難しい。

あれはかなりの芸術だと思いますけど、みんなが納得する絵を作り出すっていうのは、まあまあ、あれはね。

でも決して肯定だけされるべきものでもない。

そうね。ってことです。

だと思いますが、ただ、おっしゃる通り、私が国会議員になって思ったのは、国会もそうだし官僚もそうなんですけど、かなりもう時間勝負なんですよ。情報処理能力の律速で、こうなってるとすると、AI活用すると、かなり立法の現場も行政の現場もクオリティが上がると思いますね。

ってことですよね。もっと考えるべきことに、その人たちの脳みそを使えるっていうことですよね。

なので、ぜひ官僚の皆さんはAIを使い倒して、よりいい政策を作って、よりいい実行をしていただきたいなと思っているので、じゃあその予算をちゃんと計上すべきなんじゃないかということです。

もう一つだけ。先ほど、時差の話とかオープンウェイトのモデルの話をしていただいたんですけど、やっぱりここでも計算資源の差配には強いリーダーシップが。

これは私は半沢直樹問題だと思います。

日本政府の中ではやっぱり起きうること？

起きると。日本政府の中というよりかは、今、国産の基盤モデルを作ろうとして、プロジェクトとかがあるわけですけれども、やっぱり国のプロジェクトになると、これも昔のプロジェクトからよくある話ですけど、いろんな会社があの形で関わるようになると。そうすると意思決定にすごい時間がかかったりとか、ある意味、何かが決まりづらくなったりすると。

ただ一方で、やっぱりフロンティアラボ同士の競争力の源泉って何かというと、私がシリコンバレーで聞いた話としては、やっぱり組織文化であり、計算資源の差配のアートなのだと。なので、そこに対して強いリーダーシップがないと、そもそもいいものができないんじゃないかと。だから決められる力をちゃんと一定の人に集めた方がいいんじゃないかっていう、そういう提案です。

優先順位、だから戦略を決めると同義ですよね。計算資源を決めるっていうのは。

これはちなみに、安野さんはどの層にリーダーシップを与えるべきだというふうに言ったんですか？ 国レベル、官僚、現場の研究者とか、あるいは企業、あると思うんですけども。

私は現場の研究者です。

そうですよね。日本は、一応強いリーダーシップを持ったプロジェクト、昔はあったんですけども、あれだったので、やっぱり現場ですよね。それだって国が正しく計算資源を配分できるはずがないんで。

そうですよね。研究者としても。

僕はとりあえず置いといて。ただ、LLMとかに集中投下されるぐらいの資金を強いリーダーシップに任せるって、多分、国は経験ないと思うんですよ。一応、研究者の中にも強いリーダーシップを持つプロジェクトはいっぱいあって、ERATOって言われてるものとかあるんですよ。ERATOなんちゃらっていう名前がつく、本当に当人の名前がつくくらい、めちゃくちゃ資金が出るプロジェクトなんですけども、それでも今のLLM開発と比べると、お話にならないぐらいの予算なんですよ。これ、国の目玉ですよ。なので、これはなかなか過去にないような研究費。

やっぱり参考になるのはDARPAとかのモデルだと思ってまして。プログラムマネージャーとか、相当なお金をかなり個人の権力で動かせるようにしていて。やっぱり過去の事例なんか見てみると、これを協議会形式で合議で決めれば決めるほど、尖ったものっていうのは採用されなくなり、ゆえに尖った研究とか尖った成果を出すものっていうのがどんどんなくなっていくんだよと。

なので、そういうDARPAモデルみたいなものを結構取り入れて、評価の段階でも取り入れていただけるとか、ガバナンスの段階でも取り入れていただけるといいんじゃないかなと思いますね。

ERATOは12億円か。

でも日本にも、日本版DARPAみたいなのを作ろうみたいな話。

グローバル・スタートアップ・キャンパス構想っていうのがあって、その中で日本版DARPAモデルを入れていこうっていう話は進んでいるところがあるので。日本の中でも、ちょっと額の大きさは違うとして、民間ではできないようなハイリスク・ハイリターンな研究をできるようにしようっていうのは、進んでるところはあります。

今で言うと、やっぱり経産のGENIACは。

そうですね。GENIACも、配分を決めてるといえば決めてる。

Aターアライズっていうやつ、あるんですけども、基盤モデルレベルでは、はっきり言ってない。

それはちょっとお話にならない。

事後学習の一部資金になるぐらいな感じなんですかね。

昔の基準だと一応スクラッチから、実際、松尾研で作ったんですよ。松尾研で作って、ブラボリオンって作ったので、2024年くらいの感覚だと、フロンティアとは言わないけども、形だけは整えた。スクラッチから基盤モデル、多分作れたんですけども、今ちょっと進みすぎて、多分GENIACとかの予算だと、前線は難しいぐらい。

なるほど。分かりました。というところで、最後のパートに行ければと思います。AI失業の脅威と政策の未来ということで、先ほど、AI研究者からしたらもう自動化されちゃうので職がないよみたいな話とか、数学の世界でもリアルAI失業って話をしましたが、一般に働く人たちが今後どうなっていくのか。最近、チームみらいの方でも調査を。

これはAIインタビューをしておりまして、身の回りで仕事の働き方とか、AIによって変化ありますか、AI失業って感じたことありますかっていう、そういうインタビューをAIがしてくれるっていうやつがあるんですけど、それをやってます。

自分の仕事を奪われそうなAIに聞くって。

そう。ちょっとやり方と内容が食い違ってるっていうのはあるんですけど。

でも、こういう調査もされるぐらい、チームみらいとしてもかなり意識的に取り組まれてると思うんですけど、安野さんご自身、今、AI失業みたいなところの概念っていうか、起きそうなことって、どんなことだと思う？

私は、これ海外の事例を見ててもそうなんですけど、ジュニアですね。ジュニアというか、新卒だと思います。日本においては、新卒の雇用がぎゅっと絞られることによって始まるのが、まずそこから始まると思います。

やっぱり特に置き換えられやすい職種って、スタンフォード大学の「炭鉱のカナリア」論文。

そう。多分CROSS DIGで一回、僕、出したと思います。

2024年から、2023年から2025年までの2年間くらいで、どれくらいどの職種が影響を受けたのかっていう時に、コールセンターとかソフトウェアエンジニアとかコンサルティング業界とか、そういう業界の特にジュニアのお仕事が減ってたと。大体15％くらいだったかな。ちょっと細かい数字は違うかもしれないですけど、15％くらい減っていて。まずそういうところから、結構顕著に起きてくるだろうなと思いますね。

これ、ちなみに安野さん、アメリカ行かれた時に、これは確かにアンチAIっていう、失業が多分原因のアンチAI団体みたいなムーブ、見ました？ 僕は3月に行った時は、僕の目では見られなかったんですけど、見たりしました？

これ、見たかったんですけど、ちょっとデモが終わってて、時間が合わなかったんですけど。

でも安野さんが行った時、そのデモがあるって話は一個あった。

サンフランシスコで。どれくらい盛り上がってたのか、現地に行きたかったんですけど、分からないです。一応、そのデモの告知みたいなのが流れてきて、やってるんだと思ったんですけど。

告知が流れてきた。

告知というか、調べに行ったんですけどね。そういうのあるって。

でもこないだ、OpenAIのDevDayの外では、結構デモがやってたみたいな話。

そういう時はあるんですね。なるほど。それ、行きたいんですよね。やっぱり行って、話を聞いてみたいなと思って。

そうですよね。

サンフランシスコに、AIが全部経営している雑貨屋さんがあって。

行きたかったんですよ。

アンドンマーケットっていう、Vending-Benchっていうね。

もうAI QUESTで……すいません。

そうですよね。違うんです。安野さんが、ベンチマークに出てるだけで、実態は安野さんの方が多分、まさに。

自販機経営の会社がやっている、もう自販機じゃない、雑貨屋をやるんだっていうことで、サンフランシスコの閑静な住宅街にぽつんと雑貨屋がオープンしてて。そこに行ってインタビューしてきたんですけど。

まずびっくりしたのは、ちゃんと人間のスタッフが雇われていて、Indeedで応募してたら、AIにインタビューされて、面接されて、それで採用されたんだって言ってて。

それ、Indeedにジョブポストを出してるのもAIなんですかね、下手したら。

どこまで自動化してるのか、ちょっと分からないです。当初、時給22ドルくらいだったんだけど、給与交渉をAIにしたら24ドルになったっていう。

お、これ24ドルって結構安い。

アベレージよりちょっと上くらいってことです。その方の感覚で言うと。なんですけど、その方はアンチAIでした。

え。

データセンターとか良くないと思うって言って。

でもあなたの上司はそこで計算されてるんだけど。

そんな感じ。

言ってる間にも、今データセンターでトークンぶんぶん回って、お金かかってるよ。

そう。でもやっぱりAI、データセンター良くない。

へえ、不思議でしたね。

そうですよね。アンチAIだけど、AIに雇われてるようなっていう。

そう。でもどうですか？ 実際、あんまり儲かってないんですよ。

その会社。もうこの時点です。最近のは見てないけど、すごい勢いで銀行残高が減ってて、銀行残高、全部公開されてるんですよ。やっぱりベンチマークの会社だから。

うまいとは言えないですね、経営がね。

だから、まだそこの限界、AIの限界みたいなのは。

フェイブル5.1だとまだ早かったということです。

そうか。フェイブル5.1を使ってるらしいですね、今ね。

でもそこで、AIが経営するとは何ぞやみたいなのが。

そう。どういう問題が起きるのかとか、倫理的にAIは人間のボスになるべきなのかっていうことを考えるためにも、やっぱり自分たちでやってみないといけないんじゃないかということをおっしゃってましたね。

ちなみに銀行残高、今4万2981ドルです。

これ、もともと10万ドルですね。

10万ドルですよね。半分くらいになってますね。

ガンガン減って。

順調に減ってますね、これ。しかもうち3万ドルがトークンコストだから。

結構、自分に食ってる感じですね。

だから、それもうまくモデルをルーティングできてれば、そういうことになってないわけですよね。

まだもうちょっとかかりそうですね。

なるほど。でもどうですか、この失業のシナリオみたいなのは、どこまで現実的なのかっていうのをお二人に伺いたいんですけども。

私はいきなり発生すると思うんですよね。すごい線形に起きるというよりかは、いきなりニーズがなくなるみたいなことがあると思ってて。例えば数学者とかもそうだと思うんですよ。去年までは数学コミュニティがないと発展できなかったけど、今年はもうトークンで全てが行われるようになるっていうのに近いと思うので。

私は兆候をなるべく早く取れるような統計にすると。今の労働統計とか、厚労省がやってるんですけど、それだと本当に何のシグナルもないので、ちょっとの兆候でもいいから、起き始めたらすぐに手を打てるように気づける体制っていうのが、まず必要だろうなと思います。

あともう一つは、起きた後にすぐに対応できるような、例えば今だとリスキリング、アップスキリングって言いますけれども、職業訓練があって、新しいスキルを得て、別の転職を支援するっていうのがあるわけですけど。それのカリキュラムとかも、カリキュラムを申請して、承認されて、それでやっと初めて人を集められるみたいな、そういうモデルだったりするんですけど。

最近の職業訓練だと成果ベースのモデルとかもちょっとずつ出てき始めてはいて、要するに、転職できた人がいたら、その職業訓練には補助金が入りますみたいな。逆転させると、めっちゃアジリティが高くなるわけですよね。今回、アジリティ勝負だと思うので、アジリティを高めるリスキリング、アップスキリングの仕組みは、何層にも入れておいた方がいいと。

最後が、それでも多分、間に合わない方って出てくると思うんですよ。今回のAI失業が起きるとしたら、すごい広範囲にわたるんで。ってなった時の生活保障ですね、一定必要になってくると思います。

それが恒久的な失業になるのかどうかっていうのは、まだ分からないですけど、それこそAIがどんどん失業させる速度が十分に早いと、恒久的な失業になりかねないとは思ってて。そうなると、やっぱりベーシックインカムみたいな仕組みっていうのも、先回りして議論して、考え始めた方がいいなとは思いますね。

もう考え始めた方がいいんだ。

もう考え始めた方がいいと思います。今、給付付き税額控除の仕組みを入れようっていう議論が進んでるんですけど、あれ、すごいいいと思ってて。給付付き税額控除のパラメーターをいくつか変えていくと、ベーシックインカムに近いような形にもなるので。給付付き税額控除の仕組みを整えてるっていうのは、一定、AI失業の大量失業に対する準備にもなってると思うんで、私はあれはすごい進められてよかったなと思ってます。

なるほど。今井さん。

安野さんの話を聞いてると、さすがに解像度が違う。僕ら、この辺やってるので、研究的にこうなってるとかで、こういう結果になるみたいに言えるんですけども、安野さんの場合、こうなった場合はこういう制度が必要ですって、めっちゃ解像度が高い。さすが、そこはもう違う世界に住んでるんだなと思ったので、僕にはそんな話はちょっと難しいよということを前置きして。

僕の展望を言うと、役に立つ仕事の方が、僕は最初に影響を受けると思ってます。ここで言ったか忘れたんですけど、「無人島で役に立つ仕事はまずい」論。

そうなんですか。

要するに無人島で役に立つ仕事っていうのは、生きるために必要な仕事だと。無人島で役に立たない仕事というのは、例えば小説を書くとかゲームを作るとか、漫画家とかみたいな、生きるのに必須じゃない職業だと。あと陸上とか野球みたいな、あと将棋とかみたいな、競技性のあるものと。

でも役に立つ仕事っていうのは、逆に役に立ちすぎるので、生産性とかめちゃくちゃ厳密に管理されなきゃならないですし、しかもそれが高ければ高いほどいいと。役に立ちすぎるので、それを人間がやったかAIがやったかを人は気にしない。絵とかだったら、人間が描いた方がいいみたいなのがあるんですけども、役に立ちすぎるがゆえに、人間がやったかAIがやったか気にしないで、生産性が高い方がいいっていうので。

逆に、無人島で役に立つ、イコール生きるのに必須、社会の維持に必須なものは、多分AIがある程度の性能に行ったら、もうやってしまうだろうと。ただ、競技とか囲碁、将棋とかって、まず現時点で藤井聡太さんですら、その辺のソフトには勝てないわけです。ウサイン・ボルトも、移動するだけだったら車を使えばいいということなので。

そういう純粋な生産性から切り離されたところというのは、まず現時点で、その人をAIが超えてるのに奪われてないので、多分、役に立つ仕事の方が相当影響を受けるだろうなと思ってますっていうのは一つ。

役に立つを除いても、安野さんが最初にも出したように、若い人の雇用というのがだいぶ、最初の新卒を雇う入り口で絞られていくと思います。よく言うのが、さっき安野さんが出したスタンフォードの「炭鉱のカナリア」論文でも、シニアは仕事が増えてるんですよ。なので、よく言うのが、エキスパートになれば大丈夫だよと。でもエキスパートになるための階段がなくなってしまうので。

そうですよね。

これをどうするかって話になります。ここに関しては安野さんほど僕は解像度の高い議論ができないんですけども、いわゆる大学院みたいなものを、職業訓練とはちょっと違うんですけども、いわゆる資本主義の企業競争の圧力から離れたところを作らないと、多分人間を育成できないと思うんですよ。

今までは新人の育成と戦力として扱うことが合体してたので、会社の役に立ちながら育成ってできたんですけども、これから戦力としてはAIを使った方がいいので、育成と戦力が分離しちゃう。

OJTが成り立たなくなるってことですか？

そうです。今までは育成に確かにコストはかかるけども、育成しながらちゃんと戦力にはなってくれてるので、企業にとって良かったんですけども。これからは競争してる中で、育成しようと思ったら、でもAIを使った方が戦力としては強いしなってなっちゃうので、育成するモチベーションが多分ほとんどなくなっちゃうんですね。

となると、大学院みたいに競争から離されて、ある程度一定ラインまで強くなれるところがないと、多分その階段がなくなっちゃってるので、階段を伸ばしてあげないと、ということで。そういうところが必要なんじゃないかという、安野さんほど細かくないんですけども。

面白いですね。

だからゲームですよね。育成のゲームをちゃんと設計しないと。

そうです。

いけないってことなんだ。でもOJTができてた時代、今もまだそうだとは思いますけど、それって給料をもらいながら育成されることができたわけですけど、大学院でしかできないってなったら、学費を払いながらっていう話になって。日本はまだいいですけど、アメリカとかなんて学費、もうバカ高いですから。それはそれで大変なんですね。

OJTができた我々世代っていうのは、幸運だったってことですね。

そうなんですよねって、本当に思います。

なるほど。ただ、日本の場合においては、全体で言うとめちゃめちゃ人が足りてないわけですよね。全産業、人手不足状態から始まってるので。そういう意味では、しばらくはマイナスをプラスにするっていうところから始められるので。

結構すごいモザイク状になると思うんですよね。この職種はめちゃめちゃAI失業してるけど、隣の職種はめちゃめちゃ人が足りてないみたいな。だから日本においては、幸運なことに仕事がないっていう状態はしばらくないんじゃないかなと思ってはいますね。

なるほど。

ちゃんと労働移動ができれば。産業の移動とか職種の移動ができれば。

ただ日本の場合、これ多分アメリカもだと思うんですけども、純粋に人手が足りてないとか、給料がいい以前の問題で、多分これ、SNS文化が僕は問題だと思ってるんですけども。この職業はみんなから尊敬されるみたいな、別レイヤーの何か評価軸があって。それで多分、人が本当に足りてないとか、移動が進んでないところ、多分、東京集中とかもそれの一種だと僕は思ってるんですけども。

これはちょっと、社会、SNSでの承認みたいなのが絡んでくると、ややこしいことが起きるんじゃないかなと思います。職業による承認欲求みたいなものがあると思います。

やっぱりキラキラした仕事に就きたいという話だと思うんですけど、これも私、過渡期をうまく過ぎれば。

いけるもんですか？

どういう職業が憧れの対象になるのかみたいなのって、変わってもおかしくないなとは思うんですよね。

時代によって。

あとは、やっぱり需給が変わると給与で、そういう意味で、給料が高くていいなみたいな方向にみんな行ってくれるといいなと思うんですけど。

ただやっぱり、いきなり何十年やってきた仕事を転職せよと言われても、なかなか難しいっていうのもそうだと思うんで。なので、転職できなかった方に対する生活保障っていうのも考えていかないといけないと思います。

分かりました。大盛り上がりで、もうすっかり1時間を超えてしまいました。ここでちょっと締めたいと思います。というわけで、安野さんに聞くAI時代の日本の生きる道というテーマで、チームみらい党首の安野さん、そして今井翔太さんとAI QUESTをお送りしてまいりました。

本日もご視聴いただきありがとうございます。ぜひチャンネル登録と高評価、そしてCROSS DIGの公式Xのフォローもお願いいたします。ニューズレターの配信も始めてますので、ぜひ概要欄からご登録ください。

いかがでしたか、一言、最後。

めちゃ面白かったです。やっぱり、さすが番組なので、他のところよりも濃いことをしゃべれたと思います。あんまりしゃべらせてくれないんですよ。Vending-Benchの話ができる感じ、ないんですよ。

それだ。

そうですね。Vending-Benchってあれね、みたいな感じになるスタジオないんで。

そう。だから事前知識、やっぱり僕、他でしゃべるところってみんな事前知識がないので、割と事前知識のことをしゃべったら、もうそれだけで終わっちゃうんですよ。

ここの番組、鍛えられてるんで、みんな視聴者が。いろんな事前知識がなしでも、コメントでも、よく分からないよみたいなこともあるんで、ちょっと前から見返して、全部見ていただいて、ついてきていただければと思います。

またぜひこのメンバーでできればと思いますので、じゃあまた次回、AI QUESTでお会いしましょう。今井さん、安野さん、ありがとうございました。

ありがとうございました。