「サイバーパンデミックはまだ序盤」　平将明・自民党国家サイバーセキュリティ戦略本部長が語るAI時代の攻防と国の体制

現実問題として、全てを守るっていうのは。サイバーパンデミックと言ってもいい。水が出ない。電気が止まる。金融が止まる。社長が情報システム責任者に丸投げっていうのは、もうちょっとありえなくて。

大規模な不正アクセスやランサムウェア被害の裏で、AI攻撃の超高速化が加速しています。日本は今後どのように対応するべきなのか。自民党の国家サイバーセキュリティ戦略本部のトップ、平将明元デジタル大臣に、日本のサイバー安全保障について詳しく聞きました。

ありがとうございます。本日よろしくお願いいたします。よろしくお願いします。

早速なんですけども、今、不正アクセスが相次いでいます。先日も自衛者が大規模な攻撃を受けて、身代金を要求されるという事態にも陥っています。今、実際、世界で何が起きてるんでしょうか。

攻撃の種類自体は、決して新しいものではないんですが、その攻撃がAIを使うことによって、非常に安価に、安いコストで広範に攻撃を仕掛けられるということが、世界で起きてるんだと思います。なので、企業から攻撃をされて個人情報が流出したという、そういうニュース事案が多発してるというのが、今の現状だと思います。

そのAIを使ってという話でしたけれども、AIが脆弱性を検知して攻撃する、その高速化が進んでるとも言われてますけど、それが実際起きてるっていうこと。

起きてますね。だから脆弱性も、まさに今まで人間が気づかなかった脆弱性。しかも結構広く使われているプログラム言語なんかも、こないだPHPの問題も出ましたけども、その脆弱性はAIが発見してしまうと。さらには、ハッカーが全部カチャカチャカチャカチャやる、最近のテレビのハッカーの時代も終わっていて、自然言語で指示を出すこともできますし、AIが自ら、タスクっていいます、仕事をどんどん進めていくということが起きています。

これ、元々アンソロピック社の新型AI、ミュトスが出てきた時に、こういうような懸念っていうのが言われてましたけれども、今、実際こういう被害が広がっている状況は予測されていたんでしょうか。

去年のおそらく11月だったと思いますが、アンソロピックからレポートが出ていて、もう去年の9月には、AIエージェントを使ったと思われる、AIをフルに活用したサイバー攻撃が出てきたというレポートは既にありましたので、去年の夏からもうだんだん、人間のハッカーが全部やる世界から、かなりの部分、AIが自動的に、自律的に仕事をするという世界になっていて。

さらには、そのAIは進化が早いのもそうですが、広く、例えば中国製のAIはオープンウェイトっていうことで、誰でも使えて、ガードレールも意外と外しやすかったり。アメリカのAIは、かちっと安全装置、ガードレールがはまってるんですが、意外と中国製のやつはこのガードレールを外しやすかったりするので、広く犯罪者とか、ハッカーとかに使われる、利用されるような環境が生まれたっていうのは間違いないと思います。

これが公表された直後に、自民党本部に幹部がいらっしゃって、面会もされてましたけれども、その時もそういう危惧というのは共有されてたんですか。

もちろん、アンソロピック、ミュトスの問題は、そうした最先端のAIの脆弱性発見能力と、あと自律的に攻撃する能力は極めて高いと。なので、このサービスを開始してしまうと攻撃に使われるんで、1回アンソロピックはミュトスのサービスを止めたわけですよね。止めた上で、防御を固めようということで、米国では金融を守るということでプロジェクトグラスウイング。

日本は金融を守るという意味で、日本版のプロジェクトグラスウイングと、基幹インフラ事業者、電気とかガスとか通信を守るプロジェクトヤタシールドを立ち上げたっていうのは、まさにこのAI対AIの世界になるのを想定して作ったプロジェクトチームであります。

面会もきっかけにされたっていうことですか。

米国が、アンソロピック、ミュトスの問題が出てきたので、それで米国が対応した直後に、日本は非常に早かったと思います。対応については、多分世界で190か国、200か国があるんだと思うんですが、アンソロピック社も全部対応できないですよね、正直言って。そういった中で、次にイギリス、日本ぐらいが対応も早かったし、アンソロピックさんにも大変協力的に、いろいろなサポートをしてもらいましたし、アンソロピックのみならず、OpenAI社さんとかGoogle社さんにも協力をいただいてるところであります。

でも今、実際こういう現状が起きてしまってるというのは、やはりその時の対策とか防御が足りてなかったっていうことになってしまう。

その時の守る主な対象は金融ですよね。あとは基幹インフラ事業者で、今出ているのは、その基幹インフラ事業者以外の大企業や中堅企業から、こういった事例が出てるということですね。

じゃあ、想定外のところから出てしまったっていうような。

想定外っていうよりは、これ現実問題として全てを守るっていうのは不可能だし、やり方としては中国みたいにグレートファイアウォールっていって、国中を壁に包んで、その代わり外国から入ってくる通信は全部丸裸。だから政府が見れるっていう、超ハイパー監視社会、サイバー上のみたいなものを作れば別ですが、民主主義の国家においてそういうことはありえない中で、じゃあどこから守っていくのかということに当然なるわけですよね。

そうなれば、政府や自衛隊や在日米軍や、いわゆるライフラインである基幹インフラ事業者、特に金融とか、そういうことで優先をつけてやるっていうことですが、やはりこの大企業とか、今後、中堅、中小企業、サプライチェーン、これを守っていかなきゃいけないのは間違いないと思います。

経済損失でいうと、どれぐらいの規模になるんですか。

これ全くわかんないですが、ただ、こないだも政府の政務三役、この分野に詳しい政務三役の方とお話をしていましたが、今後さらに被害は広がると思います。さらに深刻の度合いが増すと思います。

なので、自民党の提言書でも、AIによる飽和攻撃に備えようとか、サイバー有事っていう言葉は、あれはAIじゃなくて私が作って、タイトルにつけたんですが、ある意味、コロナのパンデミックに似てるなという話をさせていただいて、その彼とはそういう話で。そういった意味では、サイバーパンデミックと言ってもいいと思います。

しかもウイルスと違ってサイバー空間なんで、もっと広がりが早い。さらにいうと、今後の被害拡大っていうのも想定される中で、イメージでいえば2020年の3月だったと思いますが、ダイヤモンド・プリンセス号が横浜に入ってきました。その時にも皆さん不安な気持ちがあったと思いますが、その後の2年から3年にわたる、いわゆるロックアウトって言葉が出てきたり、社会の生活も経済活動もかなり制約を受けたわけでありますが、今のイメージはこのサイバーパンデミックにおいて、ちょうどダイヤモンド・プリンセス号が入ってきたようなタイミングの可能性が高いのかと。

まだまだ序盤って。

だと思います。なので、そうならないように、各国が連携をし、さらにはそのフロンティアAIを作れる能力のある会社と連携をし、守りを固めていかなければいけないと。なので、ダイヤモンド・プリンセス号のニュースを見てみんな不安に思ったと思うんですけど、俺、関係ないやと思った人もいると思うんです、あの時点では。

ただ今回も、誰1人関係ない人はいないっていう事態に発展する可能性が高いというふうに思いますので、政府のみならず、事業者さんもそうだし、利用される方もみんなで守らないと、なかなかこれは防ぎきれない、守りきれないと思います。

コロナでいうと、ちょっと収まっていったと、ピークがあって収まっていったと思うんですけど、これはどこまで行き着いてしまう。

これはもうわからないですね。今の構図は、AIは同じ性能でも防御よりも攻撃のほうが得意なんですね。攻撃側のほうがどんどん、この自律化してくるAIが自動的にやってくる世界にありながら、防御側は、そのパッチを当てるっていう作業、穴を埋めるっていう作業をやりますけども、これ全部AI任せにできないものですから。

専門家によっては、AI任せにすると新たなホール、穴を作ってしまう可能性もあるし、最後は人間が見て、さらにはちゃんと動くかどうかの確認をして、サービスを再開しなければいけないので、どこまで行っても人間が関与をしないと今いけない状態なので、今AIのほうはどんどんスピードが上がってくると。防御のほうもAIを活用するんだけど、最後、人間がかまなきゃいけないんで、これヒューマン・イン・ザ・ループっていいますけど、ヒューマン・イン・ザ・ループの対応なので、このギャップをどう埋めるか。

なので、これをどこまでAIで自律的にできるようにするのかっていうことが、一番大きなテーマですし、併せて従来の対策、例えばID、パスワードを使い回さないとかですね。あとはサービス側は多要素認証とか、生体認証を入れてもらうとかですね。こういった従来の、あとはゼロトラストですね。

侵入を全部防ぐのはもう無理なんで、侵入されても、さらに深刻な深いレイヤーまで侵入を許さないっていうゼロトラスト設計、ゼロトラスト思想みたいな、従来型の防御も依然として有効なので。だからそれもしっかりやりながら、フロンティアAIでどこまで防御が自律化できるかっていう、そこだと思います。

そういう体制を整えるために、今、国としても国家サイバー統括室ですとか設けてると思いますけれども、その国の体制、機能、そして権限、今の国の体制に関して、足りないとお感じになってるところっていうのは、どういったところでしょうか。

本当に、1年前に私、担当閣僚で、担当大臣でサイバー対処能力強化法を作り、法律に基づいてNCO、国家サイバー統括室、ナショナル・サイバーセキュリティ・オフィスを作りましたけども、AI対AIの未来が来るなとは思ってましたが、これだけ急速に来るとは正直、私も思っていませんでした。そういった意味では、1年前に法律を作り、1年前に国家サイバー統括室を作っておいて本当によかったと。これ今からやるとなったら、結構いろんな論点が多い法律、難しい法律でしたので、今からやろうとしたら、もう1年後、2年後の実装になったと思います。

併せて、2年半ぐらい前になると思いますが、AIセーフティ・インスティテュートという組織を岸田政権の時に作ってるんですね。それはOpenAIからChatGPTが出てきて、我々自民党はもう直ちにプロジェクトチームを作って、数次にわたってAIホワイトペーパーを出したわけですが、その頃パリでAIサミットがあったり、ロンドンでAIサミットがあったりしたんですけども、この進化するAIの商品としての安全性も確認しなければいけないし、これも安全保障の問題になりますよね。

ということで、先駆けて英国、イギリスでAISIっていうのが立ち上がったんですね。AIセーフティ・インスティテュート。それで、その情報を聞いて、もう直ちに私は予算委員会でテレビ入りのところで質問し、政府も迅速に対応してもらって、経済産業省の下にあるIPAという組織に、AIセーフティ・インスティテュートを作ってもらったんです。このAISIを作って本当によかった。

AISIって、どういうことをする。

まず、じゃあ政府にAIの専門家がいるかっていうと、いないんですよね、そもそもが。サイバーセキュリティの専門家はいます。デジタルの専門家はいます。ただ、じゃあ本当にAIの専門家がいるのかといえば、以前はそうではなかったので。このAIって全てのところに関係するし、これはもう経済安全保障であり、社会安全保障であると。

だから、国を守る、国民生活を守る、我が国の経済を守るためにとっても、AIはものすごい重要だと。だから専門機関が必要だと。AIの安全性を確認するし、将来的には安全保障をやると。これを作って何がよかったかっていうと、AIを一番わかってる政府の組織はどこって聞いた時に、あっちだこっちだとはならなくて、それは一応AISIだよねということと、英国にもAISIがあるし、各国、先進国にAISIのある国があるんですね。そこと連携がすごい取れるわけですよ。AISIを作っておくと。AISIがないと、じゃあどこが相手かわからない。

さらには秘密を保持する体制、これはセキュリティ・クリアランスっていう仕組みがあるんですけども、セキュリティ・クリアランスも取ってもらって、今回のアンソロピック、ミュトスの対応の時も、やっぱり英国のAISIと日本のAISIっていうのはものすごく連携が取れてて、いろんな情報を入手することもできました。

機能強化における方向性っていうのは、どういう。

AISIは、ほぼ3年前、私が予算委員会で初めて指摘をし、2年6か月ぐらい前にAISIが立ち上がり、今、どんどん、ようやくこないだ初めてAIのモデルの評価みたいなものもXで発信をしてましたけども、徐々に力をつけてきていると思います。それで私のイメージは、やっぱりイギリスのAISIをモデルにして、その予算規模、人員というふうなことを、政府にも提言をしているところです。

しっかり分析して評価して、それを他国とコミュニケーションを取りながら共有していく、そして政策に移していくっていうようなイメージ。

そうですね。やっぱり米国のフロンティア企業と話していても、各国対応するだけのリソースはありませんと。当然ですよね。そういった時に、こないだアンソロピックの創業者とも議論した時にも、やっぱりAISIがあると助かると。しかも各国にAISIがあって、そのAISIコミュニティみたいなものがあると、そこにアクセスすると、わかってる人同士でいろんな話ができるし、情報は共有ができるということで、そういった意味ではAISIはかなり大きな役割を果たしてるというふうに思います。

そういった意味では、今回の対応においては、NCOが司令塔っていうか、司令塔の事務局みたいなものかもしれませんが、司令塔になって。いざとなったら警察、自衛隊が悪いことをするサーバーを見つけることができれば、これは第三者委員会の承認をもらった上ですけども、そのサーバーが世界のどこにあったとしても、自衛隊、警察がアクセスをして無害化できるっていうNCOがあって。

さらにはAIセーフティ・インスティテュートを作って、同盟国、同志国のAISIといろいろな情報交換をしながら、AIがどう展開していくか、今のAIがどういうリスクがあるのかっていったことを評価する機関があるということで、本当にNCOとAISIを作ってよかったんですが、さらには経産省とか総務省とか、いろんな役所に関わりますよね。デジタル庁とか。なので今回は、我々が提案して、政権を挙げて対応すべきだと。

まさに私のイメージは、私、防災担当の副大臣をやっていて、2019年に台風15号、19号って関東を直撃した台風がありましたけども、その際、担当副大臣として防災対策の現場にいましたけども、いろんなことが起きてくるんです。それで、いろんな各省がいろんなことをやるんだけど、それをしっかり官邸がグリップをして、都度指示を出して、それがどうなったかを検証しながら次の展開をしていくという、そういったイメージの官邸の本部が必要だろうなという思いがあったので、今回提言をしたということですね。

今、自民党の提言のお話でしたけれども、先日、総理に申し入れされてました。これは冒頭にサイバー有事という言葉がありました。これ、どのような思いを込められてたんですか。

サイバー有事は何かって、これ多分人によっていろんなイメージがあって、これという定義があるのかわかりませんが、私のイメージは、次々と国民生活にとって重要なインフラのサービスが止まっていく状態が、私はサイバーの有事だと思うんですね。水が出ない、電気が止まる、金融が止まるっていうのが次々に起こってくる事態で、国民生活や日本経済に大きな影響を与えるっていうのがサイバー有事だと思いますので、まだサイバー有事ではないけども、かなり緊迫した状態にあるだろうということは間違いないと思うし。

しかもAIが入って、先ほども言ったように、非常に誰でも高性能のAIを手に入れられて、しかも安いコストで広範に攻撃を仕掛けられるっていう状態が今起きていて、それがこの連日のニュースにつながっていると。しかし先ほども申し上げたように、今のAIの攻撃っていうのは従来型の攻撃をAIで水平展開してるだけ。あと、時間、スピードの時計を早く回してるだけで、まだ未知の攻撃じゃないんですが、これからアンソロピック、ミュトス、さらにはもっと進んだものが、我々が全く想定してない攻撃をしてくる可能性も高いわけですよね。だからそれに対して備える必要があるということです。なので、もう1つ重要なのは。