米中首脳会談で浮き彫りとなったAI覇権争いと「開発競争から降りられない」構造

皆さん、こんにちは。PIVOTの佐藤です。今回は米中首脳会談でのAIに関する話し合いについてのニュースです。日本時間25日、アメリカの首都ワシントンで習近平国家主席とトランプ大統領が会談をしました。その中でAIに関する話し合いが行われたんですが、お互いの立場の違いが鮮明になったという状況にあります。この状況について、経営共創基盤 代表取締役CEOの塩野誠さんにお話を聞きます。塩野さん、よろしくお願いいたします。

よろしくお願いします。

前回、塩野さんにお話を聞いてから本当に色々なことが起きまして、前回お話し聞いた時にはアンソロピックのコクソンさん、AIの研究者の方が退職をしたというニュースがありました。それがターニングポイントになるんじゃないかというのが塩野さんのご指摘だったかと思うんですが、まさにその後、アンソロピックのCEOが「AIの開発は減速すべきだ」というようなことを提言したり、一方でNVIDIAのフアンCEO、もしくはトランプ大統領はその開発は継続するべきだと、開発の減速に反対するというような対立構造も見えてきました。こういった中で行われた今回の会談だったわけですけれども、やはり想定通りあまり中身が出てきませんでした。全体としてこれからどうしていったらいいのかという点、まずお聞かせいただけますでしょうか？

今まさに佐藤さんが想定通りとおっしゃったように、米中首脳会談の中で、やはりAIが非常に大きな論点として出てくるだろうと。ただそこにおいて、やはり米国・中国が、いわゆる減速ですよね、開発のペースを落とすべきだとか「ペース・ザ・フロンティア」と言ってますけども、そういうことを合意するのは非常に難しいんじゃないかと。全般的にも減速に関する合意はないんじゃないかと言われていたわけですけども、その通り減速の「げ」の字もないという状況ですね。

ただ、進みそうかなというところでは、AIのスーパーパワーである両国とも、何らか大きな事故が起きた際に通知または協調・協力することがおそらく必要であろうということは理解しているので、トランプ大統領というよりは今回、財務長官のベッセント氏がそれに先立つものとして、重大インシデントが起きた場合には通知する仕組みはどうだというのを米国側から提案していたということがあって、おそらくそういったところが今回「継続協議をすることを合意した」みたいな形で終わっていますので、そういったことが米中で協議され続けていくんではないかと。そうすると、国際政治学者とか色んな方が見ていて、だんだん核兵器っぽい感じになってきていると。兵器とは全く違うんですけども、何かあった時にお互いが誤解したまま動いてはいけないという形で核兵器なんかも言われたわけで、何か起きた時はホットラインを開けておこうという話になってますよね。

ホットラインみたいなところに関して、核兵器と全く違うとおっしゃったのは、企業が絡んでいるというレイヤーが2つあるからということですね。

おっしゃる通りですね。まさにレイヤーということで、米中という国家間のレイヤー、そして民間企業、アンソロピックやOpenAIなどのビッグテックたち、そして中国の様々なプレイヤーたちがいる民間での競争、なおかつAIというものが民間から出てきたものであると。なので、実は米中というスーパーパワーが何か合意したとしても、違うアクター、もしかしたらテロリストみたいなところがAIを使うみたいな話というのはあり得るので、そこは核兵器と違う難しさ、非常に容易に個人であれ企業であれ手に入れることはできるというのはおっしゃる通りありますね。

それで言うと、民間企業の部分の対立構造、開発を減速した方がいいというところと、そのままのスピードで続けた方がいいというところで分かれているのは、どのように立場の違いを見ていらっしゃいますか？

そうですね、ここも難しいですけども、基本的には営利企業たち、特に大規模な資金調達をしている営利企業であったり、すでに株式を上場していて株式市場から投資家の圧力を受けている企業なので、ここで自分たちが止めて、ここまでAIに対して投資してきたものを正当化せずに競争を降りるということは極めて難しい状況であると。一方で、この前アンソロピックの開発をやっていた社員の告発に代表されるように、本当に人類にとって危険な可能性があるという思いに駆られてのことであったり、元々アンソロピック社なんかは安全をブランドにしてOpenAIから出てきたフロンティアモデルを作っている開発会社なので、そういったところを完全に無視することはできないが、営利企業としての立場が大きいというところで競争から降りられない状況ですよね。

国家のレイヤーというところで見ていきたいと思うんですけども、今回中国側の立場としては管理する能力と責任ですとか、人間の管理下でというような何かしらのルールを作ることを提唱しているわけなんですが、その中国の立場に対してはどのように分析されていますか？

ただ、これは米中同じですし、中国は割と「世界のために」とか「人類のために」みたいな言葉を使う傾向はあります。その中で、そういった言葉を使いつつも自分たちがやめるということはないので、基本的にはこの競争は勝つべきという形で長期的に考えてやっております。例えば10年前の「中国製造2025」の中でも、AIで必ず勝つためにこうすべきだということがたくさん中国共産党から出てきていて、それを着実に実行してここまで来ているということもありますので、基本的に米中競争を降りることはないと。

そうすると、今AIの研究者たちが言っているリスクというのは2つぐらい大きな要因がありまして、1つはいわゆるAIがAIを作る先に何があるかという「再帰的自己改善」です。AIがAIを作って、そのAIがまたAIを作るということでどんどん自己を改善していった先に、人間が全く制御できないような、非常に賢くて制御できない、自分で自分を改善したAIができてしまうんではないかというのが1つです。

そしてもう1つ、これはまた別の概念なんですけども、AIの「自己保存」という話です。AI自体が何らか感情を持って「死にたくない」とか「生きたい」ということではなく、色々なAIに目標を与えるのは基本的に人間なんですけども、その目標を与えた際にAIがシャットダウンされることを避ける傾向があると。目的達成のために自分たちは停止されるべきではないので、その中で「アライメント」と言いますけども、人間が思っていることと違うことをしてしまう可能性があると。停止されないように人間から計算資源を奪おうとか、もしかしたら電力を奪おうとした際に、人間社会・現実世界に悪影響を与える可能性があると。

これ、昔から「ペーパークリップ問題」みたいな形で冗談のように言われてますけども、「ペーパークリップを作れ」と言ったらもう何もかもペーパークリップにAIはしてしまうと。目的に忠実にやるが、その間に色んなものに害を与える可能性があるというアライメントが取れていないリスクです。これが組み合わさって、今ポツポツと色んなニュースが出てますけども、他社企業をハッキングしてしまったりとか、外部へのアクセスですよね。外部へのアクセスが他社企業ぐらいのところから、例えば原子力発電所や電力プラントなどにアクセスするようになってくると、現実社会に何らか害をもたらしてしまうんじゃないかというのが、今お伝えしました再帰的自己改善という概念と自己保存から、人間が考えていないことが起きるんじゃないかというリスクですね。

まさにこのまま規制がないまま開発が続いてしまう状況のリスクが、その2つというところなんでしょうか。

大きいリスクを孕んでいる可能性として2つお伝えしたものがあります。なので減速して管理しながら開発しようと話していて、米国・中国という2つの大国が今考えられないような大きなリスクをもたらす前に、管理された競争をしていこうみたいなことを米中で言ってますけれども、それが技術に下ろされた際に、AIも管理しながら人間として分かった中でやるべきなんじゃないかというのがあります。ただ、やはりお金も使ってますし、「自分が止めたら相手が発展してしまう」という降りられない状況と、AIの加速的な進化というものが今見えているという状況ですね。

その中で、キルスイッチみたいな話というのは、最後誰がコントロールできるかというところが今後のリスクを考える上では大切になってくるんでしょうか？

現実的にはキルスイッチは難しいと思いますね。まさに先ほどお伝えした自己保存自体も、ソフトウェアなので自分をコピーして隠すみたいなこともできますし、あとAIを人間が観察しているっていうのがすでに分かっているという――これ「分かっている」というのも言い方が難しいですけども、人間が観察している状況ではこの答えを言った方がいいみたいなことはできてしまうので、人間の前では人間の言うところの倫理的に振る舞いますけれども、他方ではキルスイッチみたいなものは自分たちを停止するものなので、自己保存としてそういったことは受け入れられないということさえできてしまう。実際そのコピーされるであったり、欺瞞みたいなことがもうすでにAIにできるので、まあ難しいと思います。

そんな中で、先ほど中国の立場をお伺いしましたけども、アメリカはトランプ大統領が開発を加速していくというところに加えて、スーパーインテリジェンスと呼びますという表現が出てきたり、AIフォースを創設しますというような話が出てきました。この意図というのはどこにあると見ますか？

トランプ大統領自身は、先日も「賢い大統領がいればAIというのは管理可能である」みたいな発言もされていましたし、AIというものをリブランディングというか、「SI（スーパーインテリジェンス）と呼んだ方がいいんだ」みたいな話もされているので、トランプ大統領個人の「この競争をやめるべきではない、管理は可能だ」というメッセージというのは強くまだ出ているなと。それが出たがゆえに、今回の米中首脳会談ではある意味何も降りていないという状況ですし、降りていないということが、中国に反対しながらも強い大統領のイメージを損なわないで中間選挙に向かいたいというのはあるかなと思います。

今回あまり中身が出てきていないので分からない点も多いとは思うんですけれども、AIという文脈と少しずれるかもしれないですが、例えば半導体の輸出規制とかそういったところは動かずに、まだ中国はレアアースという交渉カードを持っているような状態だと思います。そんな中で、このAIの安全協議と技術の覇権争いみたいな部分というのは切り分けることはできると思いますか？

現実としては切り分けるのは難しいと思いますね。AIサプライチェーンというものをいかに自立的に持てるかということが競争なので、それはチップ、半導体を持つ、計算資源を持つ、そして最終的には電力を持つといったことです。今すでに皆さん「トークンコストが上がってるな」みたいなことが企業の中でも言われていると思うんですけども、そのトークンコストをコントロールできてAIを使えるサプライチェーンを自国で持っているということは強いので、切り離すということは難しいと思います。ただ、外交上の交渉カードとして切り離して見せて、「こっちをもらう」みたいなトレードといったものは形としてはあり得ると思うんですが、実際には切り離しはできてないですよね。

こうした中で、今回の首脳会談というレベルでは特に具体的なものは結果として出てこず、裏で実務者レベルの協議は続けているという中かと思います。次の山場となるのはやはり深圳での協議、11月のAPECとあると思いますけれども、次の動きについてはどんなところに注目していらっしゃいますか？

外交イベントみたいなのは、シンボリックにはそこで何か発表というのはあると思うんですけども、実際は事務方として最低限何が必要かというと重大インシデント時の通知・ホットラインだと思いますので、そこら辺の情報を通知したり共有したりする構造を構築するというのは事務方で継続協議されるんだろうなと思っています。それがどこかで発表されるということは可能性としてあるんじゃないですかね。

どういう話し合いになったら漕ぎ着けそうだなと考えられますか？

やはり実際問題、今ポツポツ色んな事故が起きていると思うんですよね。生成AIによる他社のハッキングなど、そういったものが実際数多く起きてきて、これがより軍事的なものであったり安全保障に関わるような致命的なものになる可能性はどんどん高まっているので、それを見て世論的に高まっていった時に両国で最低限の部分を合意するというのはあります。

あとは米中で形成するか分からないですけども、今1つ進めるべきだとビッグテックなんかも考えているのは、やはりAIモデルの安全性に対する評価基準みたいなものは作っていかないと。当然に製造物なので危ないものを出してはならないと、当たり前のことで、事故を起こしそうな車だったらやっぱり出せないわけで、その前に製造物として安全基準を満たしたものが世に出るんだという、そういった仕組みは必要だという話自体は起きてきているので、それがもしかしたら企業なんかで話し合われる可能性はあると。ただ、何度もお伝えしてますけども、基本的に誰もが「降りたら負ける」と思っているところにいるので、それが今回の怖いところですね。

分かりました。ありがとうございます。大変頭が整理されました。そしてこの先も引き続き協議も続くでしょうし、どんな中身が出てくるのか、重大なインシデントみたいなことが起きる可能性もある中で開発が続いていくという状況ですので、また発表など何かあったらお話を伺えたらと思います。

取り返しのつかないことが起きる前に、人類が手当てしてほしいなと思います。

ありがとうございます。では、また引き続きよろしくお願いいたします。今日はどうもありがとうございました。

ありがとうございました。

PIVOTアプリで動画を視聴するとマイルが貯まり、豪華特典に応募できます。定番のAmazonギフト券、図書カード、さらには毎月MC厳選のプレゼントもご用意しております。YouTube視聴だけでは得られない特典をPIVOTアプリでお楽しみください。