情報漏洩は「まだ序の口」：安野貴博がフランス視察から考える日本の「AI主権」と第三の道

9月、10月に、もうすごい情報の漏洩が相次いでいる。これはやばいですね。攻撃する側が使っているAIを、守る側でも使っていかないと、ほぼ互角には戦えないっていう時代なんですね。そうです。

AI主権って言った時に、それって別に国産のAIモデルをゼロから自分で作れたら、それでいいのかと言うと、別にそれだけではないよねと。ChatGPTとか使おうとすると、アメリカのサーバーにデータを渡さないといけない。そのデータの主権性がなくなってしまう。じゃあ、自分のサーバーの中で動かせるAIモデルって何だろうと。それはやっぱり中国で出てきているオープンウェイトモデルと。

トークン赤字の問題っていうのが、ものすごく将来的には深刻になっていくと思います。チームみらいの党内でも、AIを使ってたら18倍くらいにAI利用量が。すごいですね。

オープンウェイトをもうちょっと日本も使った方がいいんじゃないってなった時に、中国のオープンウェイトというのがやはり性能がいいと。そうなった時に、それを使うという選択肢は日本国としてはありうるのか。

皆さんこんにちは。PIVOTの野嶋です。本日のテーマは「AI主権とは何か、第3の道と日本の現在地」と題しております。最近よく聞くのがAI主権、あとデータ主権というのもよく聞くかと思うんですが、もう本当にアメリカも中国も巨額な投資でAI開発を競っているわけなんですが、日本みたいに自前の巨大なAI、フロンティアモデルみたいなものを持たない国は、AIとどう付き合ったらいいのか。そしてさらには、私たちのデータ、あと仕事で頼っている、まさにこのAIは誰が管理し、誰がちゃんと守っているのか。そこまで考えているのかというところを、ぜひこの方と一緒にお伺いしたいなと思っています。改めて、チームみらい党首の安野さんにお越しいただきました。よろしくお願いいたします。

安野さん、本当に今お忙しいなと思うんですが、2週間くらい前にフランスの視察から帰ってきて、そこでnoteで発信されてるのを拝見しまして、今日はこのAI主権とは何ぞや、そしてAIの利用、そしてデータを守るというところの現在地をお伺いしたいなと思っております。よろしくお願いします。

まずデータの話で言うと、皆さんが一番気になってるのが個人情報の流出。今、簡単にまとめてはいるんですが、9月、10月に、もうすごい情報の漏洩が相次いでいる。

これはやばいですね。9月に出ているもの、数多いなと思うと思うんですけど、私はまだこれ序の口だと思っておりまして、今後より悪化していく可能性の方が高いと思います。あと、これ公表されてるのは、まだ実はいい方かもしれなくて、実は内部的に侵害があった、漏洩があったんだけど公表まで行ってない事案であるとか、漏洩してるんだけれども、それを会社側が気づいてない事案とかもあると思うんで、そういう意味で氷山の一角としてこれくらい。

そうか。ここに出してるのは、本当に氷山の一角であり、多分今、いろんな情報がアップデートするにあたって、もう何十社、何百社と今後出てくる可能性があるということです。毎日のように、もう数時間に1回くらい事故の記事が上がってくる。これ、なんで急にここまで広がったんですか？

これ、やっぱりAIの影響っていうのは私はあると思っております。去年、2025年の夏から、サイバーセキュリティにおける攻撃能力を結構AIが獲得してきて、これまずいんじゃないのっていう話はその頃からあったんですけど、より話題になったのは2026年の4月にClaude Mythosっていうものが公開されて、これが今までの脆弱性のスキャンとかで全く見つかってなかったような脆弱性を大量に発見したというような、そういう報告がありました。

こういうAIが増強されてきてることによって、攻撃のコストっていうのがどんどん下がってきてるんですよね。今までは本当に、訓練された攻撃者じゃないと会社のセキュリティを破るってことができなかったのが、実はAIに頼むと割と脆弱性も見つけられて、脆弱性を組み合わせて実際に攻撃をするところまでできるようになってきちゃって。ということで、こういった様々な事案につながっているのではないかという、そういう観測があります。

それは、じゃあもうMythosレベルのものが市場、つまりは悪い市場に出回っていて、それらで攻撃をしてきているという認識でいいんでしょうか？

今の事案に関してはちゃんと見る必要があって、まず2つあるんですけど、1つ、Mythosレベルの攻撃能力、これが拡散したかと言うと、私は拡散したと思っていて。オープンウェイトモデルと呼ばれる、データが全部公開されてるタイプのAIがあるんですけれども、その中で8月の28日に出たのがGLM 5.3という中国製のAIがあるんですけれども、これの性能評価が、大体4月に出たClaude Mythos Previewと同じくらいだったんですよね。なので、4月に出て、すごい量の脆弱性を発見したぞっていうAIモデルは、今、誰でもアクセスできるようになっているというのがまず1つ。なので、大変な攻撃能力を、多分攻撃アクターは持ってると思います。

2つ目が、この9月に出てるものって、数か月前の事案が調査して公開されてるケースとかが多くて、8月末に公開されたモデルがいきなり使われてっていう意味で言うと、公表まで行くリードタイムで言うと、まだもうちょっとかかると思うんですよね。なので多分、私は年末から年始にかけて、このMythosレベルのものが実際に攻撃アクターによって使われた事例っていうのが、これから出てくるんだと思う。まだそれは出てきてないと思うんですよね、私は。

じゃあ本当に、すごいスピードでできるようになってしまった、脆弱性を見つけるというものは、今後さらに爆発的に広がるっていうことなんですね。私はその可能性が高いと見てます。

もうそこまで行くと、今、正直出していらっしゃる企業さんも、かなり大きい企業さんが多いわけですよね。セキュリティがずさんだったわけではないということなんでしょうか。

この中にはずさんだったケースは、結果を見てみればあるとは思います。現状出てるところで言うと。ただ、1つ間違いないのは、今までのセキュリティの守り方だとやっぱり足りないということだと思ってて。例えば、システムって年に1回、脆弱性チェックと呼ばれる穴を探す作業をして、それをちゃんと塞ぎましょうって、なんとなくそんな感じでやってきてるシステムの会社が多い。

ですよね。年に1回の脆弱性チェックを義務づける。

はい。なんですけど、今のAIって数か月に1回、もう新しいものが出てきて、それが出てくるごとに見つけられる穴の量ってどんどん増えていくので、実は1年に1回の脆弱性チェックでは全然足りないんじゃないかと。もうちょっとコンティニュアスに、連続的にAIに攻撃を、穴探しをさせるっていうのをずっと続けないとまずいんじゃないか。

あともう1つは、よくあるのがセキュリティパッチを当てていこうっていう話があって、これは別に重要性は変わってないんですけど、セキュリティパッチって、脆弱性が見つかりました、その穴を塞ぐためのソフトウェア、パッチですね。くっつけていく、傷口を補修するようなちっちゃいプログラムがあるんですけど、それをちゃんと当てるべきところに当てていきましょうっていう感じでやられてたんですけど、AIが出てくると未知の脆弱性ですね。未知の脆弱性を突かれることが多くなってくるので、実はセキュリティパッチのプログラムが来るのを待ってたら遅いという可能性も出てくるので、本当に根本的に守り方を変えていかないといけない。

逆に言うと、攻撃する側が使っているAIを、自分たちも守る側で使っていかないと、ほぼ互角には戦えないっていう時代なんですね。そうです。

なるほど。そうなると、企業側のセキュリティ対策っていうのは、今までの常識では不可能だし、そういうAIを使えるセキュリティの人たちが今後、人材としてめちゃくちゃ必要ってことです。

はい。人材としても、会社としても、あとは計算資源としても、めちゃくちゃ必要になってくると思いますね。

じゃあ本当に、全ての意味で足りてないというのが現状。はい、だと思います。

なるほど。今のこのデータの危うさ、守るのをどうしたらいいのかという話の延長線上のところで、今回お伺いしたいのがAI主権という言葉。より国としてどう運用していくのかというところの話だと思うんですが、今回改めてフランスで視察をしていた、どんな視察があったのか教えていただけますか？

日本のAIの政策を考える上において、この夏3か国行ったんですけど、アメリカと中国とフランスだったんですよね。アメリカと中国に行って、当然AIの領域ではもう最先端の2か国なので、学ぶことも多いんですけど、もう全く真似できねえなと思いまして。日本と置かれてる状況が違いすぎるんで、学びはあるけど真似できない。でも一方でフランスは、かなり近いところにいるなと思っていて。

つまり、AIの会社はあるんですけれども、いわゆるフロンティアラボと呼ばれるような、ChatGPTとかClaudeとかを作ってる会社はそんなにないと。でも何もできないかというとそうでもなくて、いわゆる中堅国ですよね。ミドルパワーの国って呼ばれたりしますけど、大国ではないけど、それなりの投資力もあるっていう国が、どういうふうに舵取りを考えているのかっていうのは学ぶ価値あるなと思って。フランスに行って、AI関係の会社の人とか、政府の政策立案者とか、そういった方々に話を1週間くらい聞いて回ってたっていう、そんな感じです。

めちゃくちゃ取材の詳細というのがnoteにまとめてあったので、ぜひ皆さんにも見ていただきたいなと思うのですが、まずそもそも、一言で言うと、フランスの視察で一番何が学べたのかっていうのを、一言で表すと何ですか？

フランスって、すごい技術に対して懐疑的な国なんですよね。この技術って人間のためになるんだろうかとか、本当に信じていいんだろうかっていうことを、すごい議論する国で。その国がたどり着いた結論として、フランス政府の中で一番使われてるAIモデルっていうのが、中国製のDeepSeekっていうモデルだったんですよね。

っていう、一見転倒してるような結論なんですけど、よくよく考えてみるとそうだなと思ってて。なんでフランス政府はそうしてるかって言うと、いくつかの割り切りがあって、まずフランス政府が仕事をする中において、政府の中で使うにおいて、実はフロンティアレベルの性能って必須ではないんじゃないかと。フロンティアレベルじゃなくても、例えば半年遅れ、1年遅れのオープンウェイトモデルを使いこなすことの方が大事なんじゃないかっていうのが1つ。

もう1つは、フロンティアのChatGPTとかClaudeって、確かに賢いんだけれども、いつアクセスが遮断されてもおかしくないし、自分たちで取り扱えないわけですよね。実際に事案としてあったのが、6月にあったClaude Fable 5が、ホワイトハウスの輸出管理規制に指定されることによって、1回公開されたんだけど突然アクセス遮断されたっていうことが。

めちゃくちゃいいAIをClaudeが普通に出したんだけど、それは他の人たちに使わせちゃ悪くないっていうのを政府が言ったら、民間の企業が取り返しちゃったっていうことなんですよね。

そうなんです。なので、今普通にアクセスできてると思うモデルであっても、ずっとアクセスし続けられるわけじゃないよ。

めちゃくちゃ不安定ですよね。

めちゃくちゃ不安定なんですよね。本当に政治的にアメリカとの何か摩擦があったら、いつ止められてもおかしくないわけですよ。っていう中において、やっぱりフランス政府はAI主権、ソブリニティと呼ばれたりしますけれども、を非常に大事にしていて。それを一番担保できるためには何をすればいいかと言うと、やっぱり自分たちのフランスの中にあるクラウドサーバーの中で、自分たちでAIモデルを動かす。

こうすれば、別に自分たちで電力も供給できている限りにおいて、AIのアクセスって止まらないですし、あとデータも外に行かないんですよね。つまり、ChatGPTとか使おうとすると、アメリカのサーバーにデータを渡さないといけない、あるいは政府の外のサーバーにデータを渡さないといけないわけです。っていうのはやりたくないと。そのデータの主権性がなくなってしまう。でも自分のサーバーの中で動かしてるんであれば、別にデータは外に行かないわけですよ。

っていうのを突き詰めていった結果、じゃあ自分のサーバーの中で動かせるAIモデルって何だろうと。それはやっぱり中国で出てきているオープンウェイトモデルと。全部AIの中身のデータまで公開されてるものを使うのが一番いいだろうと。その中でも今、割と使い勝手がいいものとしてDeepSeekがあるので。いろんなモデルあります。フランスの国内で作ってるMistralっていうモデルもホスティングされてるし、ChatGPTのOSSのモデル、いわゆるGPT-5とか6 Astraとかではないんですけども、自分でサーバーの中に持ってこれるようなモデルもあったりするんですけど、ここら辺は全部使えるようになっていて。でもその中で、ぶっちゃけ何が一番使われてますかって言ったら、DeepSeek V4ですということでしたね。

ただやっぱり、この中国のオープンウェイトモデルとはいえって言った時の、日本におけるアレルギーというのは非常に強いものがあるというのは、企業さんと話していてもやっぱり強いので、そこら辺も含めて今日お伺いしていきたいなと思うのですが。この話を進める上で、言葉の整理として、そもそもこのAI主権、データ主権っていう言葉が今2回出てきましたけれども、これがそもそもどう別で使われてるのかっていう整理もお願いしてもいいですか？

はい。これ、主権と言うと、自分たちで何か扱えるようにするということなんですけど、AIにおいても主権は大事だって言ったりするんですけど、ちょっと中身をちゃんと分割してみた方がよくて。一言でAI主権って言った時に、それって別に国産のAIモデルをゼロから自分で作れたら、それでいいのかというと、別にそれだけではないよね。ということで、よく言われるのがこちらの4つですね。

まず1つがデータの主権ですね。自分たちのデータを自分たちで管理できるようになっているかどうか。それが1つなので、海外のAIの事業者のサーバーにデータを送ったりすると、全部データが外に出ていってしまうので。

今、例えば私がClaudeをたくさん使ってます。Claudeに入れているデータというのは、基本的にアメリカに本社があるClaude、またはAnthropic社に残っている。

はい、そうですね。これはやっぱり、政府が一定の令状を出したら、多分Anthropic社は一定の情報を政府に公開しなくちゃいけない義務を持ってるんですよね。これ、中国の会社もそうで、そういった中において、本当に自分たちの機微な情報をAIに対して入れられるかっていうと、全くそうではないよねというふうに思います。

なるほど。2つ目がこの計算資源ですね。計算主権。例えばGPUとか、あとはデータセンターとか、そういったものが自分の国の中で確保できてるのかどうかっていうところで、やっぱり日本国内のデータセンターがないと、そもそも国内で計算が完結できなかったりする。

3つ目がモデルのところで、AIモデルというものを自分たちで持てているのかどうか、自分たちの価値観とAIのモデルの価値観っていうのを合わせることができるかどうか。こういったところが3つ目のところで。最後がそれを支える人材ですね。これだけでもないかもしれないですけど、大きく言うとこの4つっていうのにちゃんと分けて、それぞれで一定の主権というものを獲得していくのが大事だと。そういう考え方です。

今の話をまとめた上でフランスの話に戻ると、フランスで今やっていることは、まさにこの③のモデルにおいては、とにかくオープンウェイト中心に使えるものでやっていこうねと。米国のクローズドモデルというのは使わないでやろうねというところで、そのソブリニティというのを確立してるということなんですね。

そうですね。その方がむしろアメリカのクローズドモデルを使うよりも、ソブリニティをちゃんと確保できるってことなんじゃないかということだと思います。

なるほど。じゃあ日本もそれをやらなきゃいけないという話で言いますと、どうしても必要な理由というのが大きく分けて2つあるというのが、noteにも書かれてたと思うんですが、これはなぜでしょうか？

そうですね。まず2つあるところとして、1つはやっぱりお金、トークン赤字の問題っていうのが、ものすごく将来的には深刻になっていくと思います。まだAI活用も使い始めて間もないので、お金の問題、予算の問題って一部の先進的な企業でしか顕在化してないんですけど、一部の企業においては、もう使えば使うほど確かに生産性は上がると。上がるんだけど、同時にトークン費用もめちゃめちゃ上がっていってしまって、これどうするんだっていう問題があると。これ、国全体で見た時にもすごい問題になって、トークン赤字で、すごい量のお金が海外に流れていく可能性があるということなんですけれども。

これ、国内で例えばデータセンターがあって、国内で完結されるとすると、トークン赤字にはならない。海外と比べての赤字にはならないので、一定そこを緩和できるんじゃないかと思います。全てのありとあらゆる作業に対して最先端のモデルが必要かというと、別に例えばメール返信のドラフトを書くとか、割と簡単なユースケースにおいては、今のオープンウェイトモデルでも想像できることっていうのはあったりするので。ROIを見ながら、本当に知能が必要なところはフロンティアで、そうじゃないところはもうちょっと安くて自前でできるオープンウェイトモデルでやるっていう、この切り替えっていうのを考え始めないといけないぞというのが、まず1つです。

もう1つは、やっぱり止められるリスクですよね。Fableもいつ止まってもおかしくないという中において、それでもAIネイティブな業務を継続し続けられるようにするには、やはり自前で物事を進められる体制というのが必要だということです。

AIトークンの話に関しては、正直海外ではもう当たり前に、それをどうしていくのか、だからこそ成果報酬にしなきゃいけないんじゃないかみたいな話まで出ているにもかかわらず、じゃあ日本側でどうかというと、多分先進的な企業というところが、自社でまだ作れてはないんだけど、ある一定入れたところ、かなりみんな使ってくれている。予算がめちゃくちゃそこに割かれてしまっていて、どんどんレベルが高いものが出れば出るほどに、さらに予算が増えていくというのが、今、大きな課題になりつつあるってことです。

なりつつあると思いますね。これ、チームみらいの党内でも、AIを使ってたら、4月から7月までの間に18倍くらいにAI利用量が伸びます。もうこのレベルで伸びるとまずいっていうので、結構頑張ったんですけど、本当によくて、やっぱりそれくらいになるのと。あとこれ、難しいのが、AIってシステム費用の延長線上で捉えられると、やっぱり費用の性質っていうのがちょっと違っちゃうかなと思ってて。今までのクラウドサービスとかシステム投資みたいな感覚、その要素もあるんですけど、その感覚と、あと人件費の、ちょうど間の性質を持ってると思うんですよね。なので、この人件費とシステム予算の間の性質を持つ予算として、ちゃんと枠を取っておかないといけないんだろうなと思います。

ごっちゃになりすぎると、どこかで膨大な数字になってしまったりとか、逆に言うと割けてない可能性もあったりとか。

割けてない可能性で、今の多くの会社は割けてない可能性の方が多いと思ってですね。これ、参考になるのはUber社の事例だと思ってまして、Uber社は人件費の5％くらいっていう形で枠を取ってるんですよね。私はこれは結構合理的だと思っていて、人件費に対してどれくらいAIがいるべきかっていう考えをすると。今の2026年の仕事において、人間100人でAIゼロよりも、AIがちょっと混じっている方が多分よいと。でもAI100で人間ゼロだと何もできないと。だからこの間に、ちょうどいいベストミックスのバランスのところがあって、その比率っていうのが5％くらいっていうのは、私は結構妥当な気がします。

今の段階でということですよね。

はい。これもやっぱり職種別にもうちょっと見ていく必要があって、多分ソフトウェアエンジニアとかリサーチャーとかコンサルタントとか、そういう職業って、AIを変換するレバレッジがより効く職種だと思うので、こういう方々に関しては、例えば15％とか、それくらいの費用を組んで、そんなにAIのレバレッジが効かない職種においては5％も積まなくていいっていう。職種別に見ていって、人件費とAI費用のベストミックスを探るっていう、今一番腹落ちしているやり方だと思います。

なるほど。今、ここまで詳しくAIトークンをどうするかについて持論を持ってらっしゃる人に初めてお話を聞いたので、すごい勉強になりました。

多分これは、もう来年ありとあらゆる会社で課題になると思いますし、ここの予算取りのプランニングのところでミスったら、AI活用できなくなるんで。私が最近言ってるのは、これ国の政府もそうだと。政府もそうで、トークン費用をちゃんとしておかないと、いくら「源内」っていうAIの使える枠組みが整ったところで、今16万人の政府職員が使えるようになってますけれども、すぐにトークンの上限にぶち当たっちゃって、結果としてAI活用が進まなかったねってことになりかねないので。私としては、ちゃんとトークン予算を取るべきであるということは言ってます。

だから本当に、データのいわゆる守り方、基幹システムをどうするかっていう話はさておき、企業としてAIというものに対してどう向き合い、どう設計を社内で組み直していくのかというのが、めちゃくちゃ早急にやらないと手遅れになりつつあるってことなんですね。

そうだと思います。本当に会社にとっての有限なリソースをどう配分するかが、AIが出てきたことによってめちゃめちゃ変わったと。これ、フランスに行った時にもそうなんですけど、数学の業界とかではまさにそれが起きていて。未解決問題ですね。人間の数学者が何年もかけて解けなかった未解決問題が、OpenAIとかAnthropicがバンバン解くようになってきたと。

この時に、今の数学の問題は、例えばナビエ–ストークス方程式、流体力学の方程式の未解決問題が9月に解かれたという話があったんですけど、これ、OpenAIが88時間で解いたんですよね。人間がもう何年もかかって解けなかったやつを、88時間、大体10億円分くらいのトークンを燃やして解いたんですよ。これ、数学における数学者を何人で、トークンをいくら使うかっていう比率がめちゃめちゃ変わる。数学においては、かなりトークンを燃やしまくる比率の方が高くなってきたってことなんですけど、この比率をダイナミックに変えていかないといけないことかなと思います。

なるほど。そうなってくると、先ほど源内という話もありましたけれども、フランスで学んだことを日本のところにアプライすると、何が違ってどこが似てるのかというのを、また一度整理したい。フランスが使っているこのAlbert APIというのに対して、日本には源内というものを自前で作っている。これの似てるところと違うところを、改めて説明いただけますか。

そうですね。まず、政府が政府職員に対して使える基盤を用意するっていうのは同じなんですけれども、よりAlbert APIの方がAPIに特化していて、それを具体的にどういうアプリケーションで使うのかは、各省庁に実は任せられてるんですよ。なので、アプリケーションを全部提供するというよりかは、APIを提供した上で、例えば文部科学省はそれを使って先生向けのウェブサイトを作って提供してたりするんですよね。AIを使って、例えば算数の問題を大量に作れるよとか、そういうアプリケーションを作って、MAUが、月間のアクティブユーザーが100万人って言ってたんですけど、そういう基盤になったりしていますし。各省庁のIT部門が、Albert APIを使って、うちの省ではこういうふうに使えるっていうアプリを作っていってるっていうのが、フランス型のモデル。

なるほど。

日本はデジタル庁がアプリまで作ってくれてるんですよね。そのアプリを各省庁に提供してるっていうのが、どのレイヤーまで基盤を用意して、どこから各省庁でやってるのかっていうのが若干違ってるっていうのが1つ。これは日本とフランスの違いで言うと、多分各省庁側のIT部門がアプリケーションまで作れるのかどうかっていうところが若干違ってると思っていまして。日本、どっちがいいのかっていうのはまだ分からないですけど。

でも正直、現場に近い人たちがAIを作ってないと使えないよねっていうのは、会社でずっと言われてること。

そうですね。現場に近いっていうのは1つ重要なポイントだと思います。

もしそれが人材でネックになってるのであれば、もう本当に早急にそういう人たちをリクルートする。

できたらいいと思いますが、これは結構やるべきだと思うんですけど、やっぱり民間企業の給与レンジが全然違う問題っていうのはありまして。各省庁が自前で今すぐできるかというと、そこの枠組みからまず変えないといけないと思います。

そこから正直、波及できる生産性の向上であったりというところを考えたら、その予算というのが、どうなんでしょうね。

取った方がいいと思いますね、私は。

なるほど。今、似てるところ2つです。他にも何かありますか？

やっぱり使えるモデルのところがもう1つですね。ChatGPT、Claudeとかも使えるし、あとは国産のモデルですね。NTTとか日本のAIベンチャーが作ったようなモデルも、日本の国内で切り替えられるんだけれども、フランスはもうオープンウェイト中心であると。

そうか。だから日本の場合はChatGPT、Claude、アメリカのものを結構ちゃんと使ってるってことなんですね。これはどうなんですか？ やっぱり我々日本としては、同盟国であるアメリカのものを使うっていうのも私は理解できるかなとは思いつつも、そこへの懸念みたいな声というのはどうなんでしょう？

そうですね。まずデータとして出していいもの、出しちゃいけないものっていうのは、やっぱりあるよねと思っていて。なので一部の分野においては、なかなか海外のサーバーに出ていくものであるとか、政府が管理しないサーバーの外に出ていくものっていうのは、使いづらいところはあると思います。ただ私は、フランスはやりすぎなところもあるかなと思っていて。クローズドモデルを全く使えないことまでしなくていいんじゃないかと。クローズドモデルも使えるし、オープンウェイトも使えるし、国産のモデルも使えるっていう、全部選べた方がいいんじゃないのとは僕は思います。

それは、日本では今、後ろで何を回すかというのは、使う人たちが切り替えることができるっていうふうになってるんです。なるほど。

ただこうすると、フランスがそうしたのが理解できるなと思ってしまうのが、結局は使う側のリテラシーがないと、一歩間違えればすごい重要な情報が、っていうことがありうるわけですよね。

ありうると思いますね。難しいですね。確かにそこら辺は1つの課題だと思いますね。

なるほど。ここで1つ疑問に思うのは、でもオープンウェイトをもうちょっと日本も使った方がいいんじゃないってなった時に、中国のオープンウェイトというのがやはり性能がいいと。そうなった時に、それを使うという選択肢は日本国としてはありうるのか。セキュリティの面も含めていかがですか？

私は現段階で言うと、もうちょっと使う可能性に関しては前向きに検討した方がいいと思っていて。まず大事なこととして、中国製もそうだし海外製もそうなんですけれども、自分たちのサーバーの中に持ってきたら全てのリスクがなくなるかというと、そういうことでは実はないです。悪意のある振る舞いっていうものを埋め込むことが論理的にはできる。

例えば、自分のモデルがフランス政府の中で動いてるとモデルが認識したら、いきなり性能を落とすとか、180度別のことを言うとか、そういうふうな工作は論理的には考えられるんですよね。っていうリスクはまず気にしないといけなくて。実際フランスは、このDeepSeekを使う時にも本当に議論になったらしいです。様々議論になったらしいです。イネジアっていうフランスの機関があって、ここがAIのそういった悪意のある振る舞いがないかどうか、安全性をチェックするような機関なんですよね。ここが結構ちゃんと、悪意がある振る舞いをしてるかどうかのチェックをし続けていくと。

なので、現時点においては、そういった性能の変化とか悪意のある振る舞いは観察されてないので、使ってもいいんじゃないか。ただ、そういうのが出てきたらすぐ気づけるっていう体制を、まず作らないといけないと思います。

そういった土台が前提にある中において、そういったオープンウェイトモデル、これが中国製でも他製であっても、活用できる余地っていうのはあるんじゃないかと思いますし。実際、アメリカのサンフランシスコも行ってきたんですけど、結構いろんな会社で、別に中国製のオープンウェイトモデルを使って、自分たちの会社流にちょっとカスタマイズして、ファインチューニングって呼んだりします。ファインチューニングして使うっていうような会社も結構出てきてるので、実はアメリカではめちゃめちゃ使われてたりもするし、フランスでもめちゃめちゃ使われてると。

日本は中国と地理的にも近いとか、緊張関係もあるっていう中で、なかなか難しいところだと思いますけれども、企業としても使い倒せる部分は間違いなくあるし、AI研究とかAI開発においても参考になることっていうのは多々あるので、そこからちゃんと学びを得るとか、リスクが低い領域において検証してから使うっていうのは、アレルギー的に、中国製だから全く触っちゃいけないんだっていうことではないかなというふうに思います。

そう。だから、正直私もいろんな企業さんとお話をしていて、AI開発をする時に、特にやっぱり自社でやっていかなきゃいけないよねっていう話が出た時に、どうしても安くて性能がいいのは、もう中国製のものがやっぱり出てきてしまうと、名前として。その時にどうするかっていう時に、説明をしてもリスクの方ばかりがやっぱり上がってしまうから、そのリスクに対してフランスがやったようにチェックをする機能であったり、そこがどれだけできて、リスクリワードがどうなのかというところまで考えた上での議論ができないと意味がないってことですね。

そうです。これは各会社が安全性をチェックするよりかは、私は日本におけるAIセーフティ・インスティテュートっていうAISIというものがあるんですけれども、日本において価値観がどれくらい違うのか、悪い振る舞いがどれくらい埋め込まれているのかっていうのを、ちゃんと測ってそれを公表して。それに応じて、いろんな会社が、じゃあこの領域でここまでなら別に使ってもいいよね、このリスクは取れるよねっていうので判断していくっていうのが、一番経済合理的にいいと思ってて。なので政府としても、様々なAI、個別のモデルの性能をチェックするっていう機能を持つ、能力を持つっていうのは、もっと投資した方がいいと思います。

なるほど。今、使うモデルの話をしましたけれども、じゃあ今後、規模として今日本では18万人くらいという段階だということなんですけども、今後日本としてどれぐらい広げられるのか、その壁になるのが何なのか。それは中にいらっしゃる身としては、何が壁になると思います？

これ、いくつかあってですね。18万人で使えるようになってると、アカウントを配られてるってことなんですけれども、6月くらいのデータを見ると、課長級以上があんまり使ってないと。よりメンバーレベルの方は結構使ってるんだけど、課長補佐級以上は全然使ってないよねというデータが出て。これ、企業を見られていると分かると思うんですけど、やっぱりトップマネジメントとかマネジメントレイヤーがAIを使って、こういうふうに生産性を上げられるじゃないか、こういうふうに業務改革できるんじゃないかっていうのを、体感してればしてるほどやっぱり早いわけですよね。

だし、AIネイティブなワークフローに変えていく時って、かなりドラスティックに組織の中のいろんな物事の動かし方を変えないといけなかったりするので、やっぱりトップマネジメントのすごい意思が必要なわけですよ。経営資源として。そういう意味において、やっぱりトップにもうちょっと使い倒してもらって、体感してもらうっていうのは必要になってくるかなと思います。

そうか。トップの人たちの気持ちとしても、トップだからこそ使いづらい、つまりは何かミスをしたら怖いというところが1つあるのかもしれませんし、もしかしたら全然AIというものに触れるよりも今までのやり方がいいっていう、ちょっと凝り固まった考え方があるのかもしれないし、そこは私にも分からないところはありますが。じゃあ日本のトップである内閣府であったり高市政権というのが、今後どれぐらいそれを進めていけるのかというところで言うと、中にいていろんな議論もしてきたと思うんですけれども、何かここがまだ足りないんじゃないか、ここはいいと思ってるんだけど、みたいな話があれば、お伺いできれば嬉しいな。

そうですね。まず体感するのは大事だなというところで、8月の末に私がやったのは、高市総理にAIの家庭教師をしに行くっていうのをやりまして。あれ、まさにトップマネジメントというか、日本のトップの総理大臣がちゃんとAIを体感しておくっていうのをやるのは大事だと思いましたし、ああいうものを見ることによって、様々な官僚も様々な大臣も知っていただくって、結構波及効果があるかなと思って、あれはやらせていただきました。

高市政権の話で言うと、まず評価するポイントで言うと、AI・半導体は非常に重要であると。17の戦略分野っていうものがあって、ちょっと17個は多いんじゃないかという話はあるんですけれども、その中でもやっぱりAI・半導体に関しては力を入れるということを示されてるのは、私は評価するポイントです。これ、間違いなくやった方がいいところで、そこの方向性は一致してるかなと思います。

大きな方向性としては一致しつつ、より具体のやり方で言うと、例えばさっき言ったトークン費用みたいなものっていうのは、爆発的に増える性質のものだよという、まだそういう理解っていうのが省庁内でも広がってないと思いますので。やっぱり財務省とかも、そういうタイプの予算と接したことはないと思うんですよ。システム費用と人件費の中間の性質を持ってる費用っていうのは、もっと言っていった方がいいと思いますし。

あとは国産のモデルを作るっていう時にも、今、ノエトラというプロジェクトが走っているところではありますけれども、そこの具体的な運用として、もうちょっと現場の研究者の方に権限を渡した方がいいんじゃないかとか。あと先ほど申し上げたようなオープンウェイトモデルっていうのも、一定使い倒していかないとまずいんじゃないか。そういったところに対する解像度は、もちろんこれ、総理がそのレベルで知ってるべきなのかというと、限界もあるというのは承知の上で、もう少し知っていただけるといいなと思って、提言とかもいろいろやらせていただいてます。

なるほど。正直、もちろん政府としてもっとできることがあるというのは重々理解した上で、じゃあそれを実行する時に、分かった人たちがその中にいるのか、人材としてちゃんとそれが確保できてるのかっていうところで言うと、日本の政権はどうでしょうか？

そうですね。これも省庁のレイヤーと、政府の大臣とか政治家のレイヤーとあると思うんですけど、もちろんAIのことを知ってらっしゃる政治家の方も。

増えてきてると思いますが、やっぱりまだ数は多くないと思いますし、今の政権の中にどれだけ数多くいるのかっていうのは、私はまだちょっと分からないなとは思いますね。

中にいらっしゃる皆さんでも分からないってことは、我々国民も正直分からないじゃないですか。で、そこに今後、今井さんの話とかもどんどん出てますけれども、それが進んでいってしまうっていうのは、ちょっと恐怖感はありますね。

そうですね。だし、このAIの領域って本当に1年っていう時間がもう長すぎるわけです。

長すぎる。確かに。

その数ヶ月で状況がどんどん変わっていくのに対応できるような、例えば予算編成のメカニズムであるとか、ルールの作り方とかしていかないといけないと思うので、このAI時代における立法のやり方自体、国会のやり方自体を結構変えなくちゃいけないんじゃないかというふうには思ってます。

根本からって、それはさっきおっしゃってた企業も同じってことですもんね。

なるほど。もう本当に今日様々聞いてきましたが、改めて、第3の道、その中国でもアメリカでもない我々みたいな国が、どんな勝ち筋と言いますか、どういう道を歩むべきなのか、その提言まで頂いてもよろしいでしょうか？

そうですね。アメリカのやり方、中国のやり方って2つの道があって、そのどっちもできないよねという中で、第3の道を模索しなくちゃいけないんじゃないかっていうのが、フランスの政策立案者と話した時によく話に上がった話で。その中で1つ言われていた、ディスカッションしていた話としては、ミドルパワーの国々同士の連合をして、それでやっていくというのが1つ道としてあるんじゃないかろうかという話です。

アメリカ、中国ほど使える予算はないわけですね、日本とかフランスとか。なんだけれども、とはいえ一定の予算を投資することはできる。なので、例えば中堅国、オーストラリア、フランス、カナダ、日本、韓国みたいな、あとドイツとか、そういった国々同士でお互いにお金を出し合って、いいモデルを作っていくとか、AI競争の中で必要な部品を整えていくのは、これは論理上できなくはない。

でも、とはいえ難しくないですかっていうのを結構ディスカッションしてたんですけど、多くの国々で。

はい。うん。

その時にすごい面白かった話として、実際に過去にもそれができた実例はあるんだっていう話をされてて。それは何かと言うと、CERNという物理の研究所があるんですけど、そこで作ったラージ・ハドロン・コライダーっていう、ものすごい大きな加速器があるんですよ。この加速器、物理の研究に必要なものなんですが、めちゃめちゃお金がかかる。

うん。

しかもこれは別に各国にちょっとずつ作るとかじゃなくて、1つの場所にめちゃめちゃ大きなものを作らないとあんまり意味がないと。これスイスにできたんですけど、これは日本とかフランスとか、そういうミドルパワーの国々でお金を出し合って作ったもので。その成果っていうのは、それらのミドルパワーの国々の研究者が実際に使いながら、その成果をみんなで分け合って享受しているということがあるので、それと同じようなものをデータセンターでも作れるんじゃないかと。

これ、例えばAIの大きなモデルを作る時って、ちっちゃいデータセンターがたくさん各国にあってもあんまり意味がなくて、めちゃめちゃ大きなものが1個ある方がいいんですよね。なので、結構その物理の加速器と似たような構造があるよねと言ってて。そんなこと考えたことなかったんですけど、確かにそう言われればそうだなということは思いまして。なので、もちろんハードルはあるものの、ミドルパワーの国々で連携しながら1つ大きなものを作っていくという枠組みはトライすべきかなと思いましたね。

それが第3の道として、ぜひこの可能性は模索した方がいいと。

私は三正面作戦をした方がいいと思ってて、このミドルパワーの国々同士の話っていうのは当然進めながらも、多分アメリカとの関係においてはチップですね。具体的に半導体を製造する能力において、日本って交渉力を持てると思うんですよ。例えば熊本にはTSMCがある、北海道にはラピダスがある。ラピダス、これからうまくいくかどうかまだ分からないですけれども、私はうまくいってほしいなと思いますけれども。

こういったチップが律速に、研究開発の律速になる中において、ここの能力を持ってることで、基盤モデルはないんだけれども、AIエコシステム全体で言うと一定の交渉力を持つっていうのは、これもトライできることなので、やれるといいと思いますし。あと、中国のオープンウェイトモデルを、リスクはもちろんあるということを認識した上で、適切にリスクテイクして活用していくっていうのは、これはこの2つを進める上においても交渉力になると思うので。アメリカとはチップの交渉力を、中国のモデルは適切に使う、そしてミドルパワーの国々とは連携の道を探るっていう、この三正面をやるといいと思ってます。

なるほど。それらをどれだけできるのかというところは、予算の問題と外交の問題と、さらに言うとそれができる人たちがどれだけいるのかというところで課題があると思うので。ぜひそこには皆さんに託してる一票がありますので、そこをまさに議論していただきたいなと、今後とも思っております。

そうですね。はい。議論していきたいと思います。

本当に本日はありがとうございました。

ありがとうございました。

ここで皆さんにお知らせです。視聴者の皆さんによるPIVOTコンテンツの人気投票、PIVOT VOTEを現在受け付けております。投票者の中から抽選で100名の方々にAmazonギフト券3,000円分をプレゼントいたします。ぜひ奮ってご応募いただければと思います。

おお。