米中AI競争は止まるのか：Sakana AI石井順也氏が語る規制の停滞、防衛AIの現状、「暴走」論の見方

米中AI競争です。アンソロピックの方が開発減速を訴えるっていうの、あったじゃないですか。

そう。政府の介入とか入れないと。あくまでも自主的に企業の考えに委ねるところは変わってないんですね。歯止めをかけるつもりは基本的にない。リスク管理っていうよりは、もうアメリカはAIのチャンピオンになっていくと。

この安全保障におけるAIの利用っていうのの現状を教えていただけますか？

やはりアメリカは一歩、もちろん進んでる。中国もディフェンステックというのが非常に今盛んになってて、その技術そのものを発展させるだけじゃなくて、実装していくところにも積極的。ただ一方で、やっぱり人間のコントロールっていうのをかなり重視してると。

AIで人類は滅亡すると思いますか？

なんかAI自体が化け物みたいになって暴走するっていう世界では全然なってなくて、安全装置をちょっと緩めて踏み込むやり方でやってしまってる。それで最近のいろいろな事故というか、起こっちゃってるんじゃないかと思ってて。

皆さんこんにちは。PIVOTの小手森です。今回のテーマは米中AI競争です。AIが暴走して人類を滅ぼすんじゃないかなんて話も話題に上がる中で、先日行われた米中会談でも、このAIの管理をどうしていくかってことが議題になりました。今日はこのテーマで、Sakana AIで防衛・インテリジェンスを担当している石井順也さんにお話を伺っていきます。よろしくお願いします。

よろしくお願いします。

石井さん、簡単にまず自己紹介をお願いしていいですか？

私は元々外務省に勤務しておりまして、外交官としてアメリカの大使館で勤務したり、10年ほどいたんですけども、その後、総合商社のシンクタンクで、アナリストとして政治経済情勢の分析というのをしておりまして、昨年の10月、1年ぐらい前ですね、Sakana AIに入りました。

そうなんですね。じゃあ元々、外務省はどれぐらいいらっしゃったんですか？

10年ぐらいですね。

でも結構そこで経験積まれて、そこから民間、そしてスタートアップに行って。どうですかっていうのを聞くのもなんですけど。

そうですね。私のバックグラウンドは外交とか安全保障とか、情報分析なんですけども、元々創業者の1人の伊藤錬も外務省出身で、私の2つ下で、2人とも入った時から。

もう知り合いだったんですか？

もうずっと親友と言いますか、25年ぐらいの付き合いで。彼がSakana AIでAIを使って、まさに外交・安全保障とか、防衛とかインテリジェンス、そういうことをやっていきたいってことなので、ぜひ一緒にやりたいということで。私自身もAIには前から強い関心がありましたので、これは面白い仕事ができるのかなというふうに思いました。

なるほど。まさに今のストーリーと直結する話だと思うんですけど、なんで石井さんみたいな人材がAIの企業にいるのか、防衛・インテリジェンス担当っていうのがいるのかっていうと、すごい気になるんですけど。

そうですね。AIというのは元々、おっしゃる通り、民間の使う技術と言いますか、非常に技術中心のものだったわけですけども、今現在は、今の米中の首脳会談とか見て分かる通り、国家戦略とか安全保障にとって極めて重要な役割を果たすようになってきています。なので私たち、特にSakana AIは、防衛・インテリジェンス・安全保障というところでAIの活用を考えてますので、まさに地政学とか国際関係の知識とかないと、これはうまく自分たちが日本の国益に貢献するような仕事はできないんじゃないのかなと。

やはり優れたAIのエンジニアの人間はたくさんいるんですけども、技術の観点から純粋に見てるところがありまして、今の主権とか外交・国際関係、そういうところはまだ十分カバーされてなかったと思います。そこを私のような人間、他にもいろんな多様なバックグラウンドの人間いますけども、皆、一緒に協力してやってるということになります。

なるほど。今までの外務省とかでの経験の、どういう部分が今の仕事に生きてると思いますか？

まずは、今のAIの米中の競争とか、各国の政策がどうなっていくかとか、安全保障とかにどういう意味を持つかとか、こういう分析は私の経験などが生きるところなのかなと、1つ思ってます。全体的なAIの、主権や国際関係との関係でどうなっていくかという方向性ですね。

その中で自分たちが防衛やインテリジェンスの事業で何ができるかと。例えばAIの防衛活用っていうのもありますし、今いろいろな政府機関でインテリジェンス、情報分析をしてるところで何が必要で、それをどう活用していくかっていうデザインから、実際に自分たちが生み出すアウトプット、こういうところの監修と言いますか。あとはネットワークもあると思います。政府や各国の関係者、その人たちとの関係というのも重要なところですね。

なるほど。じゃあまさにその知見を生かして、今回のテーマ、米中のAI競争。これまさにAIと地政学っていう中の一番ホットなトピックですし、後段の方で、安全保障とか防衛・インテリジェンスでのAIの活用っていうのはどういう現状になってるのかっていうところもお聞きしていきたいと思います。よろしくお願いします。

よろしくお願いします。

じゃあ早速なんですが、この米中のAI、管理していこうみたいな話ですかね。先日の米中会談っていうのはどういうふうにご覧になりました？

今回トランプ政権と、習近平さん来られて、1つ注目される成果と言いますか、あったのはコミュニケーションのチャンネルを作って、重大な事態とか起こったら通知メカニズムを作ったというのは、1つ、これまでなかった、トランプ政権になってからなかなか見えてなかったところなんですが。

ただ、これ自体は連絡の枠組みを作っただけなので、技術とか、このAIをどう対処していくかの協力とか、そういうところまではまだ全然ありませんので、それ自体は、そういう協力というか協調はまだまだ今難しい、厳しい状況なんじゃないかとは思っています。

なるほど。その通知する仕組みって、それはないよりはあった方がいいでしょうけど、まだまだ結構入り口かなっていうところですかね。

そうですね。それはアメリカと中国、それぞれの事情があるんですね。まずアメリカに関しては、今トランプ政権になったことが非常に大きい転換点というか。バイデン政権の時は、AIのセーフティとか、そういったものに基本的に非常に気を使ってて、実はバイデン政権の時からも中国との間でAI対話というのは、やるというか、やろうということは言っていまして、どちらかというとリスク管理についてはよく考えていた。それを多国間でもやろうという意思があったんですけども。

トランプ政権は、まずバイデン政権であった開発に関するチェックというものは全然やらないと。バイデン政権の時作った大統領令を撤回して、さらに自分でAI行動計画というのも出して、そこで今言ったリスク管理っていうよりは、もうアメリカがAIのチャンピオンになっていくという国家戦略とか、世界における自分たちの競争の中における地位を、圧倒的な力を持っていくんだっていうような、そういう戦略的な資産のような姿勢を打ち出してきたんですね。それが1つ。それが中国との戦略的競争の1つ重要な部分になってるのかなというのがあります。

なるほど。じゃあバイデン政権で重視していた安全性とかリスクっていうところよりも、もう競争を大事にするっていう、トランプ政権での転換っていうのがまず大きな点ですね。

そうです。さらに最近、これニュースにもよく出てますが、中国の今の生成AIの基盤モデルとかの性能が非常に上がってきて。前は、これバイデン政権の時からもそうなんですが、中国のAIももちろん発展してるんですけども、それをアメリカになかなか追いつかせないようにするために、高度な半導体の規制などをしていまして。それによって、例えば半年とか1年のギャップがあると言われてたんですけど、ところが最近のDeepSeekとか、Kimi 3という優れた中国のモデルの性能が、そんなに差がないって感じになってきて。

この首脳会談の直前にも、アメリカ、トランプ政権の人たちはかなり厳しく批判を始めて、こういう中国のAIモデルの発展はいろいろ違法な手段でやってるんだと。違法な蒸留という技術とか、そういうやり方で自分たちの成果を悪用してやってるんだという批判をしてきて、じゃあ制裁とかやるのかなぐらいの勢いがありました。

会談の直前ぐらい。そんなことあったんですね。結構バチバチしてたと。

そうですね。実はこれ自体は、今回の米中の会談は、さっきも言った通り、一応メカニズムを作って、対話で収めてますけど、その方向性は今はあると思いますが、将来的にはまたこれが火を吹くというか、どうなるか分かんないところはまだあると思います。

じゃあ話し合っていこうっていう、とりあえず第1ステップに乗ってますけど、直前でそういう話もあったんですね。もうおかしいことやってるみたいな。

はい。予測としては私も含めて、今回の習近平さんの訪米っていうのは非常に成功させなきゃいけないんで、そういう火種はあまり悪化させないつもりではあったということは予想されてたんで。なので、さっきの限定された成果はそうだろうなとは思っていましたけど、ただ政権が今非常に中国を警戒してることは間違いないですよね。

ちょっとこのトランプ政権に関して気になるのが、9月の半ばですかね。ダリオさん、アンソロピックの方が開発減速を訴えるっていうの、あったじゃないですか。トランプさんは割と否定的な感じでしたけど、今この収録してるのが9月30日なんですけど、各社と自主規制で合意なんてニュースも出て、これはどう見たらいいですか？

まずトランプ大統領の考えは変わってなくて。トランプ大統領の考えもあるし、ホワイトハウスにいるAIの政策担当者なんかも基本的にそうなんですけど、さっき言った通り、やっぱり開発を推進していくために歯止めをかけるつもりは基本的にない。1つあるのは、アモデイさんとか言ってるのは、外部からチェックする人間を入れるとか、あとAI企業同士で連携してって話ですよね。だから政府の介入とか入れないと。あくまでも自主的に企業の考えに委ねるところは変わってないんですね。

なるほど。

だからそれは、今日おっしゃった食事会とかでもそうだったということ。

じゃあ別に方針が変わったわけではなくてってことなんですね。

はい。それで、あとその天井さんの発言に関して言えば、今ちょっとアメリカの話をしましたけど、中国側としてもこの開発に引けないというか、引くつもりがないというところはあって。まず1つはオープンウェイトのモデル。中国がさっき言った優れたモデルというのは大体オープンウェイトモデルなんですけど、これを世界中に普及させていくという。アメリカのは大体クローズドモデルが、フロンティアのモデルは主流なんですけど、違った戦略を取っていくと。

自分たちのやり方に自信を深めてると多分思うんですね。最近も習近平さんが出てくる、世界AIの開発協力機構のようなものを立ち上げて、そこでも自分たちはいろんな国々にAIの技術を広めていくという戦略を宣言してまして。さっき言った通り、中国のAIは非常に性能も進化してますので、自信を深めてると。

そんな中で、アンソロピックのさっきのアモデイさんの開発のスローダウンの話ですね。彼らは、これはもう冷戦のプレイブックであると。つまりアメリカがまた中国を封じ込めるというか、遅らせるための方便だみたいなことを言ってるんですね。

だから中国もこのような姿勢でいますし、あとは最近も中国の発表では、アンソロピックのMythosとか、OpenAIのGPT-5.5 Cyberとかっていうのがあるんですけど、こういうアメリカのフロンティアAIというのはサイバー攻撃能力が高くて、中国にとって脅威になり得るということをはっきり言ってるんですね。なので、さっきのアメリカの姿勢もあるし、今言ったのは中国の姿勢もあるんで、なかなか米中の何か協力とか協調は、今現状難しいのかなと思ってます。

なるほど。これアメリカの企業側はこの状況どう捉えてるんですかね？例えば、確か最近出てたニュースだと、OpenAIの最上位のモデルが公開中止なんていうニュースも出てたんですけど。

このAIの話に関して1つあるのは、各企業の思惑とか考え、やっぱり全然違うところがあるんですね。さっきのアンソロピックに関しては、そもそも安全性とかいうものに対して、あと倫理的なものとか、他の企業よりはずっと重視してるっていうのもありますし。ちょっと言いたかったのは、アメリカも中国も、さっき言った安全性とかっていう意味では、そんなに気にしないでどんどん開発したいんですけど、自分たちがこのAIの技術をコントロールするっていう気持ちでは、多分両国とも同じようなところがあるんですよね。

それは何かっていうと、AI企業はみんないろいろな思惑があって、複数のアクターがそれぞれ競い合い、競争、技術開発していくので、例えば核兵器とかみたいな、自分だけで独占できる技術じゃないわけですよね。だからそこは両国とも非常に気を使ってるところだと思います。

そうした中でAI企業が基本的に思ってるのは、これはいろいろ推測も入っちゃうので、やっぱり事業とかの見通し、投資を回収するとかって視点もあるので、先に行ってるアンソロピックとかですかね。先に行ってる側は、自分たちの地位を守りたいってところもあるかもしれませんし。

単純な正義っていうよりかはってことですね。

はい。開発を当然遅らせるにしても、さっき言ったように国が介入することはやっぱり望んではいないですよね。企業それぞれの考えでそれはやるっていうことはあると思いますね。

やっぱり先に進んでる方の人は、ちょっと待って、冷静に考えようって思うし、追う方としてはそんなこと言ってる場合じゃないってなりますもんね、普通に考えると。

それもあると思いますね。ただ、あとはアメリカの中で、AIに対する一般社会は脅威論というか、やっぱりデメリットも大きいんじゃないかと思ってる人も、世論調査とかではそっちの方が多いですよね。だから人々に対するイメージとかも考える意味では、アンソロピックが開発をセーフティとかの観点から緩めようって言った時には、OpenAIとかイーロン・マスクさんとかも同調したのは、そういう配慮もあるとは思いますね。

中国も中国で、さっき言ったように、皆さん中国って共産党が自分で独占して何か技術を指導してるような印象もあるかもしれないですが、実はそうでもなくて。こういうAIとか、あとディフェンステックってところもそうですけど、テックをみんな自由っていうか、独自の考えでやってるんですよね。だから最近もDeepSeekとか、MoonshotというKimi 3を作ってるところが、ちょっとClaudeの技術を悪用してたみたいな話があったり、それが本当かまだ分かりませんが、中国当局がそれを捜査してるんですという報道があるんですよね。

じゃあそこは同じと見ない方がいいですね。ちゃんと分かれてそれぞれ動いてる。

動いてて、アメリカも中国も、勝手なっていうか、自由なAI企業の動きをどう制御するのかなってところは、両国ともAI自体の安全性とは別に、国の主権の話として非常に考えてるところですね。重要なところですね。

なるほど。この話、国家が企業をコントロールできないみたいなのってアメリカだけに適用される話で、中国は違うと思ってたんですけど、中国も中国でやっぱりそこは、ある意味同じなんですね、状況は。

そうだと思いますね。実は中国の作ってるAIも、例えば検閲が厳しいとか、元々開発の規制も実は中国っていろいろ厳しいんですけど。ただ中国としては、ビジネスとか、あと軍事分野とかもすごく進めたいっていう考えがあるんで、例外は作ってるんですけど。

ただ、さっき言ったAI企業っていうのは基本的に規制に縛られないで、自分たちのやりたいようにやりたいので、意外と検閲とかも、私なんかもよく試すんですけど、甘い時あるんですよね、思ったより。だから本当はAI企業自体は、別に中国の意のままになってやる、従わなきゃいけないんだけど、ものすごく熱心にそれをやってるわけではなくて、やっぱり開発のスピードの方を優先したい。実は中国もそういう感じがします。

なるほど、企業に関しては。こういう国家の状況とか社会の状況を考えてみると、一言で言うと、この米中のAIの開発競争は減速しないと思っていいってことですかね。

今のところは、ちょっと比喩的に言えば軍拡競争みたいな感じになってしまっていて。さっき言ったような、何か起こった時にチャンネルを作ってとかならいいんですけど、それもどこまで機能するかがまだ分かんないんですけど、お互いを縛り合うかのような抑制をするような、例えば拘束力のあるようなとか、そういうのは今まだまだ見通しがちょっとない。

あと、アメリカ、中国の首脳会談っていうのは、これから今年まだ2回あるんですよね。

そうですね。

もう本当にわずかの間ですけど、今年も。だからそこでもっとこの話を進めるのかなっていうのもちょっとあんまり考えにくいんですが、関係は悪化させたくないので、何らかの最低限の協力をしてるかのようには見せるのかなと。ただ、さっき言ったようにAIの動きは非常に早いので、またさっきのDeepSeekとかが、アメリカのモデルを違法に利用する形でやってたとか、そういうのが起こると。

民間レベルでそういう新しいことが起こる。

起こると、意外とまたちょっと揉めるのかなと、逆に。

なるほど。いずれにしても、拘束力のある枠組みを米中間で作るみたいなのは、かなり可能性は低そうですかね。

少なくとも今のトランプ政権の間、アメリカ側はですね。さっき言ったバイデン政権はちょっと違ったと思います、考えが。ただトランプ政権の間は、そうかなと思いますね。

これそもそも米中に限らずなんですけど、国家でAIの規制みたいなのを作っていく動きっていうのは、今現状どうなってるんです？

基本的には、前のアメリカもそうですし、バイデン政権とか、日本もですし、多国間でAIの危険というか、そういうものを管理していこうっていうのはありまして、グローバルには。それが例えばG7サミットの時に、広島プロセス、広島宣言を出したり、日本が主導して。あとAIサミットというのもあって、これ私も今年インドであって行ってるんですけど、そこではいろんなAI関係者とか政府のトップも集まって、AI規制というか、リスクを管理するための議論っていうのはしてるんですね。

ただ、この2年ぐらい、やっぱりトランプ政権、さっき言った状況になってからは、この議論もちょっと停滞してますね。やっぱり米中がこんな状況ではあまり意味がない、その議論しても。逆に欧州とかですら、去年ぐらいからはアメリカがそうなので、自分たちもAIの主権を確保するためにも、やっぱり今は開発を推進だという方に少し傾いてまして。残念ながら、前と比べると安全性という議論が、なくはないですが、もちろん、ちょっと停滞してる感じですね。

なるほど。これアメリカと中国は、でも同じグループでそういうことをやってるわけではなくて、それぞれ世界で国々と話し合ってるって感じですか？

さっきのグローバルな話し合いの場には、アメリカとかも来てます。中国が来てなかったりはしますが、民主主義の国でやってたりとか、いろいろやってますが、やはり米中以外の国々は、私はミドルパワーとか呼んでますけど、特に日本とかも、なんとかアメリカや中国も入れる形で、きちっと機能するルールを作っていくのが理想だとは思ってると思うんですね。

できれば、例えば今、金融とか、あとIAEAとか、核のあれに例える人もいますが、専門家が集まってちゃんと客観的、中立的に、この技術をグローバルに管理していこうというのは、おそらく多くの国、多くの人たちが思ってますね。

じゃあもし実現したら、事故が起きた時に、ここどうなのかみたいな、査察に入ったりみたいな。

そうですね。今そこまで、なかなか具体的なイメージはまだ遠いですが、必要性は思ってる。ただ、もう1つあるのは、今言ったAI主権ですよね。

はい。

もう1つあるのは、つまりアメリカや中国ばかりが先行して、しかもひたすらですね。かつ、もしかしたら何らかのルールがあるとしても、アメリカと中国だけで決めてしまう恐れがありますよね。あるいは我々も、アメリカの優れたフロンティアモデルというのを普通に使ってますけど、最近MythosとかFableというアンソロピックのモデルの外国での使用を、いきなりアメリカが禁止して。

そうですね。大騒ぎでしたね。

ええ、短期間で終わりましたけど。ああいうリスクが今考えられる時代になってきて。あとは防衛とかでAIが活用されるようになり、それでアメリカの、優れてるとはいえ依存していいのかという中で、各国、特にミドルパワーとか呼ばれる国々は、どうにかしてAIの自分たちの自立的な運用というものを確保するのも、また1つ重要な今の議論になってると思いますね。

なるほど。まさに日本の置かれてる立場なんですけど、例えば今回、米中の間で何か起きたら通知する、そういう仕組みを作りましたって言っても、日本はその中に入ってないわけじゃないですか。でもアメリカのAIモデルが暴走して、日本企業が攻撃されるみたいなこと、不正アクセスを受けるみたいなこともゼロじゃない中で、これ日本の置かれてる立場っていうのはどういうふうにご覧になってますか？

やはりまず、さっきの突然アンソロピックの優れたモデルが使えなくなるような状況が今はあり得るということなので、防御の意味でも優れたAIをいつでもちゃんとずっと使える状況を確保しておく。だからそれも含めてAI主権と呼んでますが、その状況をちゃんと保てるようにしておく。だから1個のモデルだけ使えなくなったらアウトみたいな、依存しすぎな状況は防ぐんですね。

それは、Sakana AIには例えばオーケストレーション技術っていうのがありまして。これはいくつもの、自分で選べるんですけど、すでに出てるフロンティア、あとは国産のAIも含めて、全体をオーケストレートする。それらのモデルを統合する上位モデルのようなものを作って、AIがいろんなモデルを、この状況ではこれを使う、コストを抑えたい時はこれを使うってことをAIに判断させて。Sakana AIはこのオーケストレーションをするモデルを作ってるんですね。だからこれも、我々が思うAI主権の確保の1つですね。

じゃあSakana AIって、特に注力してるのは、ゼロから全部国産、自前のモデルっていうよりかは、いろんな世界中のモデルを統合してっていうのをやってるってことですか？

はい、それは重視してますね。今のオーケストレーション技術、それからすでにあるオープンウェイトモデルというのを自分たちでカスタマイズする、事後学習を使う技術とか。これは非常に先を行ってるというか、他ではない優れた技術が1つあるかなと。

ただ今は、あとは自分たち独自の大規模言語モデルも作ろうとしているところですので、今のオーケストレーションもそうだし、日本の国産モデルと言っていいか分かりませんが、自分たちで自前で作るものもやると。それはそれで、今はそういう取り組みをしてますね。

なるほど。やっぱりAIの話、あとこういう米中の競争の話をする時に、もう切っても切り離せないのが、安全保障にとってAIが大切だからっていう側面だと思うんですよね。この安全保障におけるAIの利用っていうのの現状を教えていただけますか？

そうですね。AIを防衛・軍事とかに使うと言っても、いろんなケースがありますよね。非常に分かりやすいのはドローンとか、自律プラットフォームというのは非常にAIを活用しやすい。元々無人機です。無人でコントロールされてるものですから、それにAIを使っていくというのもあるし、あと情報収集・分析ですね。写真、画像の認識、特定とかは、皆さんも普通に使ってるようなAIの技術ですよね。

あとはサイバー・電子戦ですね。これはロシアとかウクライナとかでもやってる。サイバー攻撃もあるし、防御もあるし、電子戦っていうのはドローンを使えなくするとか、そういうのもある。あとは兵站の管理とか、そういうのもあるんですけど。

そういうのと並行して、今よりAIらしいというか、指揮とかC4ISRって言うんですけど、コマンド、コントロール、コミュニケーションズ、コンピューターズ、インテリジェンス、サーベイランス、レコノサンスっていう、指揮とか偵察とか情報を集めるとか、こういうのに活用しようと。

そうすると、人間の意思決定をかなり支えてくれる感じになってくるんですよね。今までのは、さっき言ったすでに使うツールを強化していくってことでしたけど、もっと軍事作戦とか戦略とかを考える時にAIが提案してくれるような。最近もアメリカがイランとかベネズエラを攻撃する時に、パランティアのメイヴン・スマート・システムというのを使ったのが非常に話題になりましたけど。

なりましたね。

こういう意思決定支援とかですね。これが1つ重要なところになってきてますね。

どうしても米軍とかのイメージがあって、AIの防衛での利用っていうのは指揮に使われる、それだけみたいなイメージがあったんですけども、実際ドローンとか情報の分析だったり、あと兵站で使われると、結構いろんな用途があるんですね。

いろんなことがあって、それはどれほど各国がどの分野で進めてるか、いろんな差があるのが、最初のご質問のお答えに1つなるのかなと思うんですけども。例えばウクライナなんかはいち早く、ロシアに否応なく戦争になってしまったことによって、ドローンから指揮統制から、元々民間企業もハイテクが多かったですから、非常に一体的になって、AIがもたらすいろいろなリスクのようなものはそこまで気にしないで、どんどん突き進んで、豊富な実戦データも、やったのかなというところですよね。

アメリカとか中国も、さっきのベネズエラ、イランの話もあるし、元々アメリカの軍事テック企業というのは、ウクライナがロシアに攻撃された時からいち早く、支援というか、自分たちの実験も兼ねてやってましたし、やはりアメリカは一歩、もちろん進んでるところですね。

そうですね。中国ってどうなんですか？

中国も知能化戦争って言葉があって、かなり前、2017年ぐらいから、もう最初からこのAIは軍事に活用するのが非常に重要であるということを言ってきて。当然、優れたAI技術も発展していますし、あと中国も、さっきもちょっと言ったように、ディフェンステックというのが非常に今盛んになってて、いろんな企業が出てきて、産業の厚みがあるんですよね。

中国共産党、国家が主導するだけじゃなくて、どんどん民間の方からもアイデアとか、いろんな技術が出てきていると。あと中国は、さっきの知能化戦争もそうですが、技術そのものを発展させるだけじゃなくて、実装していくところにも非常に積極的なので、さっきの情報分析なり、ドローンなり、指揮統制なりも、かなり進化、発展はしてると思いますね。

なるほど。

一方で中国がちょっと興味深いのは、やっぱり人間のコントロールっていうのをかなり重視してると思うんですね。それは2つぐらい多分あって。1つはまず中国共産党自体の、自分たちの体制を守るためには、あまりにもAIの技術とか企業が独走してしまうと怖いですよね。ちょっとその、主義体制ってところもあって。だから割と思ったより、実は想像されるよりも開発の規制とかは。

慎重な。

制度上はかなり実は厳しいですね。いろんな抜け穴というか、例外はあるんですけど。もう1つは、軍事的には一応ドクトリンというか、考えは毛沢東の言葉があって、戦争は物より人が大事だみたいなことを言うんですよね。

へえ。

だから最後に決めるのは人間であるべきだっていう考え方もある。それが一応ありまして。だからさっきの指揮統制、意思決定に関して1つ議論があるのは、ヒューマン・イン・ザ・ループと言って、人間がプロセスの中で必ずどこかで決めるのをちゃんと入れると。これは日本ももちろんそれが重要だと思ってるし、多くの国はそう思って、アメリカもそういう建前ですが、どこまでAIに委ねていいかっていうのはあるんですよね。

ヒューマン・オン・ザ・ループって言葉もあって、つまり何もかも人間が関与しないわけじゃないけど、相当AIに決めさせて、ちょっと見るだけみたい、チェックするだけみたい。チェックするだけで、人間は時々介入するみたいな。だからアメリカも、これちょっと分からないんですけど、例えばイランの攻撃とかも、アンソロピックはそういうことを批判してましたよね。殺傷兵器に使うとか、完全に自律的な兵器にAIを使うことはダメだ。それでアメリカ国防総省が怒ったんですけど。

なるほど。この防衛のAIの利用って、いろんな種類があるっていうことを先ほどおっしゃってた中で、Sakana AIはどこに力を入れていくみたいなのがあるんですか？

Sakanaは創業してまだ3年ですけど、防衛分野を始めてまだ2年ぐらいですけども、防衛省との間でもうすでに2件契約があった。

それぞれどういう企画なんですか？

それぞれ、1つは、いろんなマルチモーダルと言ってる情報を、ドローンとかも使って集めたものを集約して、分析するという。それは非常に規模が小さい実証実験のような形でやると。自衛隊の1つの部隊を対象にしてやるというのも1つやってます。

実験的な。マルチモーダルっていうのは、画像だったりテキストだったりのデータをっていうことですか？

そうです。それが非常に局地的ですが、指揮統制にも多分役立っていくのかなというのを今やりながら、現場に行って、現場の自衛官の方が必要とする情報収集と分析のシステムをまず作っていくっていうのが1つ目ですね。

なるほど。じゃあこれは、発展していったら指揮統制とかに活用できるんじゃないかなと。

なり得るかなと。現状そこまで何か具体的に、いろいろ検討してる段階ですね。

実験をしてる段階っていう。夏に発表された方は何だったんですか？

これは情報分析ですね。防衛省の中に情報本部と言って、インテリジェンス、情報分析をする部署がありまして、そこでAIを使って、膨大な情報を整理してまとめて、分析官の人がAIを使って、自分の求めるアウトプットを出させるという、そういうプラットフォームみたいなものを提供していくと。

防衛分野は、今言えるというか、発表されたのはこういうところで。あとはさっき言ったオーケストレーションの技術。これは基盤モデルと、別に防衛に限らず政府機関というか、使える基盤的なものなんですけど、これはこれで非常に力を入れてまして。AI主権、政府機関が使えるための基盤モデルとして、オーケストレーションも利用したものを進めてるのが、もう1つありますね。

なるほど。AIの話を巡って、一般的にちょっと誤解されてるな、あまりまだ知られてないな、みたいな論点って何か思い浮かぶのありますか？

AI一般に言えることかもしれないですけども、AIがやっぱり当然何でもできるわけではないわけですよね。例えば私たちも普段、汎用のAIを使って、チャットのように言うと何らかの答えが来るんで、万能というか、使えるなと思われるかもしれないですけど、やっぱりAIは全然間違えますし、ハルシネーションとかありますし、あと結構ぼんやりした答えだったりするんですよね。つまり自然言語を扱うわけですけど、あまり厳密性とかがなかったりすることもありますから。

だから重要なのは、きちっと人間がちゃんと把握できるタスクというのを分解して、ふわっとしたものを丸投げして何か出させるんじゃなくて、自分の知りたいことや目的をきちっと確定し、1つずつ分解して検証できるように、人間がですね。これは安全保障とかでも非常に重要だと思うんですね。

あと情報分析においてもそうで、例えばさっきの私たちの取り組みの1つにインテリジェンス、例えばソーシャルメディアで日本に対する影響工作とか、こういう分析もしてますけど、これも非常に方法論をきちっと厳格にして、AIにふわっとやらせるんじゃなくて、後から見ていろいろな検証ができる形でやると。

その意味で、だから誤解か分かりませんが、例えば膨大なテキスト、PDFでもいいんですけど、どっと投げて、もしかしたら皆さん、全部読んでると、AIが答えてるというふうに思う方もいるかもしれないですけど、そんなことなかったり。

そうなんですか。

はい。やっぱり自分が聞いてることとか、AIなりに考えることだけのところを見て。それは効率的にやるためのものでもありますね。要は要領よくやる。だから意外と何でもかんでも読んでくれてるんじゃなくて、ちゃんと聞かないとダメです。第何章をちゃんと読んでるかとか、あるいは自分でタスクを緻密に、細かく指示を与えてやらないと、全然見落としてる回答が出てきちゃいますので。

へえ。これそしたら個人的な興味なんですけど、石井さんは地政学とかのメルマガとかもやってるじゃないですか。いろいろ情報発信して、私も実は読んでるんですけど、情報収集とかでAIってどう使ってますかって、ごめんなさい、個人的な興味で。

そうですね。私に限らず、エンジニアじゃなくても今すごくAIを簡単にというか、アプリとか作ったりもできますよね。だから私は例えば、自分の常に知りたいテーマとかに関しては、さっき言ったように結構細かい指示を最初から与えておいて、こういうフォーマットで、こういう要約にして、最後こういう意見もつけ、こういう角度でっていうのを定期的に来るような。例えばニュースというか、いろんな情報のまとめ、配信みたいなのを自分で作ったりとかしてますし、あと資料のまとめとかも。

もちろん、やっぱりできるだけ効率化するために。ただ、さっきも言ったように、やっぱり最後、人がちゃんと判断できる形にしなきゃダメだということですよね。なので、ふわっとしたものを投げるんではなく、きちっと分解してやることが大事かなと。

それ、食わせるソースはニュースとか、どうやってそこをフィルタリングしてるんですか？

その辺はある程度指示を与えますけど、AIに考えさせますね。つまり、そういう意味でAIの面白いというか、使いどころの一つは、自分でさっき言った細かい指示を与えると言いながら、ルールというか、こういう情報を探したいっていう時の、考えられるみたいなのもAIに考えさせたりできますね。

だから、難しく言うとアーキテクチャーというか、全体の仕組みは人間が作るのが重要だと思ってますが、それを作る上でのヒントとか判断はAIに出させてもいいんじゃないかと思うんですね。

なるほど。勉強になります。

あとは、ソーシャルメディアの情報収集の話で言うと、今、昔と違うのは、動画とかも大事なソースなんですけど、メインストリームの新聞や本とかを読むだけじゃなくて、今、本当に専門家とか、あるいはトランプ政権の人がSNSですごいスピードで発信して、しかも、特にトランプ政権の人は、さっきのAI政策を担当しているデビッド・サックスという人、例えばですね、公然と誰かを批判したり、論争したりしてるんですよね。

こういうのは、私も趣味のところもありますが、自分の仕事でも関係してますが、よく見るようにしてて、貴重なソースにはなってるかなと。そのソーシャルメディアの発信もですね。

確かに。むしろ、もう新聞の記事のソースがXだったりしますもんね。トランプ大統領が言ってるから、そっち見た方が早いレベルですもんね。

そうですね。そこから入り口にすることもありますよね。

なるほど。参考にします。

ちょっとこれも個人的な見解をお聞きできたらと思うんですけど、AIで人類は滅亡すると思いますか？

まず、さっきちょっと暴走みたいな話の質問もあったんですけども、いろんなことをいろんな専門家が言っているので、本当に、なかなか本当のところがどこまでかってところはありますけども、私が思ってるのは、今、さっきのAnthropicとかの方とかがいろいろ言ってるのは、ああいうフロンティアの企業って、今まではスケール則と言って、とにかく計算資源、データサイズを増やしていけば、どんどんすごいスピードで性能が伸びる。でも、それが最近、少なくとも目に見える差がちょっと少なくなってきた。

その中でエージェントとか、Sakana AIも得意としてますけど、あとはAI自体に、AI自身が考えてAIを進化させるみたいな、他のやり方をやらないと差がつけられなくなってきた。

もう登るだけじゃなくて、ちょっと横に展開した。

いろんな、スケールだけではない。むしろ逆に、さっき言ったようなスケールに頼らないやり方だったんで、そっちの技術を磨いてきたんですけど、おそらく今、そういうハイパースケーラーというか、フロンティア企業もそういうのをやり始めて、もうすでにすごい資源は持ってるわけですね。

それを、ある意味ちょっと危ないやり方で、人間がガードレールというか安全装置をちょっと緩めて、踏み込むやり方でやってしまってる。それで最近のいろいろな事故というか、起こっちゃってるんじゃないかと思ってて。なので、やっぱり人間のやり方次第なんじゃないのかなと。

AI自体がターミネーターみたいな化け物みたいになって暴走するっていう世界には全然なってなくて、ただ単に人間の管理のやり方が、ちょっとやりすぎというか、危ないことをやってしまってる。

もう完全にブラックボックスみたいな感じで、わけわかんない中で暴走してるっていうふうに一般人としては思ってたんですけど、さすがにそこまでの世界にはまだなってなくて。

私はそういうふうに、勝手に動き出すっていうよりは、単に目的とかの与え方とか、安全装置の部分をちょっと甘くしすぎて、なってしまってる。

なるほど。

だから、エージェントとか、さっきのAI自身に進化させるとかも、さっきの資源が限られてる中で効率性を上げるためにやっていくなら全然いいと思うんですけど、ハイパースケーラーみたいなところが先に行くために、ちょっと危ないやり方をしているんじゃないかなと。

じゃあ、暴走って名前がついてますけど、たどっていくと、人間の欲みたいなところに結局は。

そう。最後はやっぱり人なんじゃないのかなというのは、私は個人的にはそういう印象を持ってますけど。

すごい刺さりました。ありがとうございます。またぜひ、ちょっと別のお話でもお願いできたらと思います。今日はありがとうございました。

ありがとうございました。

PIVOTアプリでは動画視聴でマイルが貯まり、豪華特典に応募できます。Amazonギフト券や図書など、特典は毎月更新しています。さらに、バックグラウンド再生やダウンロード機能により、ながら視聴やオフライン再生にも対応。すべて無料でご利用いただけます。ぜひPIVOTアプリをご活用ください。

お