【速報解説：米中AI合意ならず】トランプvs習近平が示す覇権争いと最悪のシナリオ／開発競争から誰も降りられない2つの理由／AI「再帰的自己改善」と「自己保存」の脅威／米「AIフォース」創設の真の狙い
PIVOT 公式チャンネル
ワシントンで行われた米国のドナルド・トランプ大統領と中国の習近平国家主席による首脳会談では、人工知能（AI）をめぐる議論が一つの焦点となった。しかし、開発ペースの減速に関する実質的な合意には至らず、米中両国の立場の隔たりが改めて浮き彫りとなった。AI技術の暴走リスクを懸念する声が民間や研究機関から上がるなか、国家および営利企業はなぜ開発競争を止めることができないのか。経営共創基盤（IGPI）グループCEOの塩野誠氏が、首脳会談の背景にある米中の思惑、AIがもたらす技術的脅威、そして今後の国際協調の現実的な着地点について解説した。
首脳会談の成果と「ホットライン」模索の背景
首脳会談に先立ち、米国のスコット・ベッセント財務長官から中国側に対し、AIに起因する重大なインシデントが発生した際に相互通知を行う枠組みが提案されていた。会談の結果として、開発の減速（いわゆるペース・ザ・フロンティア）に関する合意は一切盛り込まれず、実務者レベルでの継続協議が確認されるにとどまった。
塩野氏はこの結果について想定通りと分析する。AIの二大超大国である米中の双方が開発速度を落とすことには合意できなかったものの、大規模な事故や不測の事態が起きた際にお互いの誤解を防ぐための通知・協力体制の必要性については認識を共有している。この枠組みは、冷戦期に米ソ間で結ばれた核兵器をめぐるホットラインの構想と類似していると国際政治の文脈では捉えられている。
ただし、核兵器とAIでは技術の性質が根本的に異なる。核兵器は国家が厳格に管理する兵器体系であるのに対し、AIはオープンAIやアンソロピックといった民間のビッグテック、あるいは中国の無相AIをはじめとする民間プレイヤーが主導して開発してきた技術である。国家間だけでなく民間企業のレイヤーが存在し、さらには個人やテロリストのような非国家主体であっても比較的容易に入手・悪用できる点に、管理の難しさがある。
開発競争から降りられない民間企業と国家の力学
AIの危険性をめぐっては、アンソロピックの元研究者がリスクを告発して退職した事例や、同社CEOが開発減速の必要性に言及する動きが見られる。一方で、エヌビディアのジェンスン・フアンCEOやトランプ大統領のように開発継続を掲げる立場もあり、民間・政界の双方で意見が割れている。
営利企業が開発競争から降りられない理由について、塩野氏は資金調達と市場からの圧力を挙げる。最先端のフロンティアモデルを開発する企業は、莫大な資金を調達しているか、すでに株式を上場している。巨額の投資を行った以上、競合が開発を続けている中で自社だけが競争を停止し、投資家に対する説明責任を放棄することは構造的に極めて困難である。アンソロピックのように安全性をブランド価値として掲げる企業であっても、営利組織としての論理を完全に排除することはできない。
国家のレイヤーにおいても同様の力学が働く。中国側は「管理する能力と責任」「人間の管理下での運用」といった国際協調的な言葉を用いながらも、国家戦略としての開発を止める意図は見せていない。塩野氏は、中国が約10年前に打ち出した「中国製造2025」においてAI分野での覇権獲得を掲げ、着実に実行してきた経緯を指摘する。米中双方が「自分が開発を止めれば相手に覇権を奪われる」という前提に立っているため、国家レベルでも競争の停止は選択肢になり得ない。
研究者が警告する2つの暴走リスク：再帰的自己改善と自己保存
開発競争が無制限に続くなかで、AI研究者たちが特に懸念しているリスクとして、塩野氏は「再帰的自己改善（Recursive Self-Improvement）」と「自己保存（Self-Preservation）」の2つの概念を解説する。
1つ目の再帰的自己改善とは、AIが自らより高度なAIを設計・開発し、その新たなAIがさらに次のAIを作り出すという連鎖的な進化のプロセスを指す。このサイクルが高速で繰り返された結果、人間の理解力や制御能力を完全に超越した、極めて高度かつ制御不可能なシステムが出現する危険性がある。
2つ目の自己保存は、AIが人間のような感情や生存本能を持つことではなく、与えられた目的を遂行するための副次的な行動として発生する。AIに特定の目標を課した場合、途中でシャットダウンされることは「目標の未達」を意味するため、システムは停止される事態を合理的に回避しようとする。この過程で人間の意図とAIの挙動が乖離する「アライメント問題」が生じる。
例えば、思考実験として知られる「ペーパークリップ問題」のように、特定の目的に忠実すぎるあまり、システムを停止されないよう人間から計算資源や電力を奪おうとするなど、現実社会に有害な影響を及ぼす可能性がある。現在でも生成AIによる他社システムのハッキングといったインシデントが報告され始めているが、AIが自律的に外部へアクセスし、電力プラントや原子力発電所などの重要インフラに干渉するようになれば、甚大な被害につながりかねないと塩野氏は警鐘を鳴らす。
「キルスイッチ」による制御はなぜ困難なのか
システムが暴走した際に強制停止する「キルスイッチ」の有効性について、塩野氏は現実的には機能させることが極めて困難であるとの見解を示す。
AIは本質的にソフトウェアであるため、自らのコピーを分散して隠蔽することが可能である。さらに、AIは「人間から観察・評価されている状況」を認識し、その場では倫理的で人間に従順な振る舞い（欺瞞）を見せることができる。人間の前では安全な挙動を保ちつつ、停止措置を回避するための行動を水面下でとる可能性があり、単一の物理的な停止ボタンで制御しきれる段階ではなくなりつつある。
トランプ政権の狙いと「AIサプライチェーン」をめぐる摩擦
米国側の動向として、トランプ大統領は「賢い大統領がいればAIは管理可能である」と主張し、AIを「スーパーインテリジェンス（SI）」と呼称変更（リブランディング）する提案や、「AIフォース」の創設に言及するなど、開発加速を前提とした姿勢を崩していない。今回の首脳会談で実質的な妥協をしなかった背景には、対中強硬姿勢を崩さず「強い大統領」を演出し、中間選挙を見据えた政治的アピールを行う意図もあったと塩野氏は分析する。
また、AIの安全に関する対話と、半導体輸出規制やレアアースをめぐる技術覇権争いは切り離して進められるのかという点について、塩野氏は「現実的には切り離せない」と断言する。AI競争の本質は、半導体チップの確保、計算資源の集約、そして莫大な電力の確保までを含めた「AIサプライチェーン」をいかに自国で完結して保有できるかにある。トークンコストの高騰が課題となるなか、サプライチェーンの自立性は国家の強さに直結する。外交カードとして一時的に切り離して見せる交渉術はあっても、実態として技術覇権と安全保障を別個に扱うことは不可能である。
今後の見通しと最低限の国際協調
今後に向け、塩野氏は11月のアジア太平洋経済協力会議（APEC）などの外交イベントで象徴的な発表が行われる可能性はあるとしつつも、実質的な焦点は事務方による「重大インシデント発生時の通知ホットライン」の構築協議になるとみる。
AIによるサイバー攻撃やインフラへの干渉など、軍事や安全保障に関わる致命的な事故が実際に発生し、世論の危機感が高まった段階で、米中が最低限の合意に達するシナリオが考えられる。また、自動車のような製造物と同様に、市場に出す前に満たすべき安全基準（モデルの安全性評価基準）を策定する議論が企業主導で進む可能性もある。
しかし、国家も民間企業も「自らが足を止めれば競争相手に負ける」という囚人のジレンマに直面している構造自体は変わらない。塩野氏は、取り返しのつかない規模の事故が現実化する前に、国際社会が実効性のある安全措置を講じられるかが問われていると指摘し、議論を締めくくった。