攻撃サーバーに置かれていた「AIエージェント」：JPCERT/CC佐々木勇人氏が語る、自動化された攻撃と社会全体での防御

こんにちは。クロスディグ1on1、始まります。サイバーセキュリティを取材している福田陽平です。今回のテーマは「AI悪用でサイバー攻撃はどう変わるのか」です。今、情報漏洩がたくさんの会社で相次いでいます。ある攻撃では、わずか40分ほどの間に326のIPアドレスを使って1200件以上の攻撃が確認されたということです。さらに、今回の一連の攻撃にAIが使われていた証拠となるようなものも新たに見つかってきました。今日はここも紹介したいと思います。人間業ではないAIによる攻撃。こうした時代に私たちはどうすればいいのか。今日はサイバー防御の専門であるJPCERTコーディネーションセンターの佐々木勇人さんにお話を伺います。よろしくお願いします。よろしくお願いします。よろしくお願いします。

まず佐々木さん、JPCERTコーディネーションセンターっていう、読み方も大変なんですけど、どんな組織なんですか？

そうですね。まさにほとんどの方が馴染みのない組織だと思いますけれども、ある意味、セキュリティの玄人の皆さんはよくご存じの組織だと思いますが、私ども、いわゆる専門機関ということで、JPCERTというのはジャパン・コンピューター・エマージェンシー・レスポンス・チームという、コンピューター緊急対応部隊という名称なんですけれども、各国に同じ組織がそれぞれありまして、例えば日本は我々、一般社団法人、民間の中立体という形態を取っていて、スポンサーというか予算は、国の内閣官房とか経産省とか、省庁から頂いているんですけれども、外国ですと、アメリカなんかは国土安全保障省の下にチームがありますし、イギリスなんかはいわゆるインテリジェンスの下に、UKのCERTがいるというような、各国それぞれ何かしらの省庁であるとか、研究機関なんかの傘下として、このコンピューター緊急対応チームっていうのが設置されています。

まさにサイバーセキュリティのプロフェッショナルということで、今日は日々インシデント対応ですね、サイバー攻撃対応にあたっている佐々木さんに、今どんな対策が企業や個人に求められるか聞いていきたいと思います。本日3つのトピックで伺います。1つ目、AI悪用でサイバー攻撃の何が変わるのか。2つ目は、流出した個人情報はこう使われる。3つ目、被害企業の8割が原因非公表、社会全体で守る仕組みづくりということでいきたいと思います。

ではセッション1です。AI悪用でサイバー攻撃の何が変わるのかということで、こちらですね。今、ニュースにも毎日なっていますけれども、サイバー攻撃の国内の被害の公表件数推移をまとめたものです。これを見ると、やっぱり2026年、ガッと増えているように、特に8、9、10と増えているように見えますが。

そうですね。これ、セキュリティの専門家の方が丁寧にお調べいただいた情報ですけれども、実はこれ、ブログにも書かれていますけれども、アナリストの方が公開情報ベースでしっかりと情報を集められて分析したものになって、非常に興味深い情報なんですけれども、まさに被害公表だけでも、これだけぐっと上がったのが見えているというような状況になっています。当然、被害公表にまだ至っていないケースとかもあったりとか、あるいは被害には至っていない、攻撃は受けたんだけど被害には至っていないっていうのもあるんですが、これだけ出るっていうのは、この後もご説明する一連の事案の増加を如実に表している指標だと思っていただければと思います。

これ、もっと本当は未公表も含めていっぱいあるかもしれないですよね。これ、やっぱりこれだけ増えているというと、AIが使われているんですかね？

そうですね。この後もお話ししますけれども、まさにAIが使われた攻撃によって、これだけいわゆる爆発的な被害につながっている。さらに言えば、現時点では我々、押され気味になっているっていうような状況。その背景には間違いなくAIによる圧倒的な自動化、計算パワーっていうのがあるというふうにお考えいただければと思います。

ちょっと新たな証拠も見つかったっていう。

そうですね。こちら、JPCERT、我々の方で様々な外部のセキュリティの専門組織、専門家と一緒に調べた結果になっています。こちら、弊センターのブログというかレポートの方で公開をするんですけれども、攻撃に使われたサーバーを調査した結果になっています。この中にあります、これ、サーバーに置かれていたいろんなプログラムのファイル名みたいなものと思っていただければと思います。

調べたところ、1つは一連の攻撃に使われたいろんな脆弱性を探るためのスキャンツールみたいなものですとか、あとは実際に攻撃のプログラムを送り込むようなツールですね。いわゆる道具セットが全部見つかっていまして、まさに被害調査ですとか、先週、我々が注意喚起で仮説として立てた攻撃シナリオ、それを裏付けるものが見つかったという部分です。上の方にあるんですけれども、AIサービスですね。AIエージェントのプログラムがサーバー内にあったということで、他に置かれていた攻撃ツールとセットで、まさにこのサーバー内でAIエージェントが自動で攻撃のプロセスを処理してやっていたんではないかというふうに推察をしています。

いわばサイバー攻撃をしている人が使っているサーバーの中にそういう道具が入って、その道具箱の中にAIのツールが入っていたってことですね。

そうですね。これはもう少し調べる必要はあるんですけれども、様々な外部の専門家と一緒に調べている中では、1つは仮説として、やっぱりこの1つのサーバーである意味完結している。以前ですと、似たようなサーバーがあって、道具も置いてある。ただ、実際にそれを使うのは人間。そこに人が外からサーバーに入って、攻撃者が入っていて、その道具でしかないというのが今までの攻撃だったんですけれども、この道具置き場にその道具を使うエージェント自体も、つまりAI、身代わりですね、これをもう置いてあるということで、場合によっては人間である攻撃者っていうのはそんなに多分触らなくても、自動で一連の攻撃の流れ、攻撃もいろんな工程があるんですけれども、これを全部プロセスとサイクルとして、自動で回しているんじゃないかというところまで今、推定しているところです。

これ、AIの攻撃と今までの従来型の攻撃、どう違うんですかね？

そうですね。その観点でいきますと、こちらにあるんですけれども、ちょっと抽象的な図で恐縮なんですけれども、今申し上げたとおり、これ左側が既存の人間がやっているパターンです。既存の攻撃というのは、攻撃者も人間であるのと、サイバー攻撃といっても段階を踏んでいろんなプロセスを経て攻撃は成功する。よくあるのはターゲットのシステムの偵察と言われる行為ですね。偵察で、どこに穴があるのかなというのを調べていきます。

その次、エクスプロイトということで、実際に例えば脆弱性であれば脆弱性を突くようなプログラムを用意したり、あるいは実際のアクセス、データを送って、脆弱性を突く行為を試します。成功した場合に、その中で不正な操作をして、保存されている個人情報であるとか、そういうデータを抜いていく。これがやっと1組織に対してワンセットですので、これを人間は、中には2、3組織同時にっていうのもありますけれども、それでも限界がありますので、基本的には、1つの組織をやったら次のサイクルです。次のターゲット、終わったら次のターゲットっていう、この順番を繰り返す。ですので、一般的なサイバー攻撃アクターの活動というのは、我々は攻撃キャンペーンって呼んでいますけれども、基本的には順繰りに、何日おき、何週間おきに次々と攻撃していくっていうような、通常はそういうパターンが出てきます。

他方で右がAIを使った場合ですけれども、この攻撃サイクル、これ全部自動で短時間でやるわけですよね。人間だと、偵察して、どこに穴があるかなって探すこの作業だけでも相当時間が、どれだけ手練れなハッカーであっても、ある程度時間がかかるわけですが、これを全部機械的な時間処理でやってしまいますので、圧倒的に早いサイクルで、1組織あたりでも短時間で攻撃ができるとなっています。あとは圧倒的な試行回数ですね。先ほども冒頭に攻撃数がありましたけれども、短時間で大量にトライアルができる。これはさすがに人間ではできない技になりますので、1回あたりのサイクルが短いっていうのと、このスケールと書きましたけれども、同時並行処理が圧倒的にできるわけですよね。

先ほど申し上げたように、人間の攻撃者では1回で2、3とか、数件ぐらいが同時作業の限界だと思うんですけれども、これだと1度に何百っていう単位ができてしまう。このスケール化と呼んでいますけれども、このスケール化と先ほど申し上げた攻撃のテンポ、1回あたりのワンサイクルが短いですので、同じ1か月で取ると、人間であれば10か所ぐらいしか攻撃できなかったものが、AIだと100とか1000とか、そういうものができてしまう。

しかもAIは疲れない。

疲れない。人間、結局ハッカーも人間ですので、疲れたりとか当然休みますし、ハッカーにも人の生活があったりしますので、どこかで休止っていうのは出るんですけど、この休止が出ないっていうところも、非常に特徴的かなというふうに思っています。

よく海外のハッカーだと、海外の祝日、連休とかあったりして、その時はある国、中国とかロシアですけれども、ああいうようなところが挙げられ、ああいう国は祝日があるとこっちの攻撃もやむみたいな、よく聞きますよね。

実際そうですね。特に金銭目的の犯罪者なんか典型例ですけれども、通常の生活を送っているので、そういう生活リズムで変動が起きる。よく攻撃者の特定とか推定、アトリビューションって言われるもので、攻撃者の稼働時間みたいな、これによってどの地域にいるかみたいな推定をすることがありますけれども、AIになればそれはもう全然関係ない世界になると。この攻撃が行われている時間帯っていうもので、その所在地なんかは全く見当がつかないっていう。

24時間休まず。分かりました。それでさらに、こんなことも言えるということで、AIを使うと。

そうですね。今、攻撃テンポの速さっていうのを申し上げたんですけれども、テンポの速さ、スピードが速いっていうのは何となく分かるんですけれども、これが実際、現象としてどう見えるかということで、これ、上はAI関係なく、いつも起きている、平時で起きている、人間の攻撃者がやっている攻撃の発生タイミングというか、発生パターンみたいなものを時間軸で表します。左から右に時間が流れると思っていただければと思います。

この一番左上、ある特定の脆弱性を使って、その脆弱性が使える先のターゲットを次々狙う。これを攻撃キャンペーンと呼んでいますけれども、これが1つあります。こういったものが、さっき申し上げたように、1回攻撃キャンペーンをやると、そこで目的達成するので1回おしまいとか、攻撃者も一旦、休息を取るか分かりませんけれども、一旦終わる。しばらくたつと、また次の攻撃をしようかということで、今度はまた別の脆弱性を使った攻撃キャンペーンを展開する。こういうキャンペーンの繰り返しとか、サイクルの波があります。

キャンペーンみたいになっているんですね。

そうですね。まさにこういうキャンペーンと呼んでいまして、直近で日本でも導入が進んでいる能動的サイバー防御、これの法整備等がありましたけれども、この中でも、あと新しいサイバーセキュリティ戦略でも、この攻撃キャンペーンという言葉、概念が新しく使われるようになりました。

だから、ある製品とかに穴があるっていうのが分かると、これを使っている全組織に漏れなく攻撃しちゃおうっていうことですよね。それが直されるわけですけど、直されるまでに一気にやっちゃおうみたいな。

大体、基本的に攻撃者は、まさにおっしゃったように、今この脆弱性が使えるぞと思った時は、そこに注視するわけなんですよね。なので基本的には、脆弱性が出ましたよっていう前後で、その脆弱性を悪用する攻撃が集中的に起きる。中には同じ脆弱性に、みんな攻撃者が殺到するみたいな感じもあります。関係ないグループなんですけれども、まさに使えそうな脆弱性が出たということで、みんなその悪用を始めるっていうような、みんなそこに集まるっていう傾向がよく度々起きているんですが、下の方は今回の事案ということで。

AIっていうか、今回の事案ですね。

そうですね。今回の事案は非常に短期間、9月前後、9月、10月の頭で、非常に多くの被害事案が出てきている。全部ではない、ほとんどのケースで攻撃が起きたタイミングも被害公表されていますけれども、大体がこの9月、10月頭に、今までのところは集中しているというふうになっているんですが、弊センターの方でこれ、解読をしていっていますけれども、当初は報道とかいろんなところでも、原因がよく分からないという話があったかと思います。まさに様々な攻撃箇所から侵入をしていたということが分かっているのと、いわゆる1つの脆弱性を突いているというものではなかったということで、原因がどれか分からないという混乱が起きていました。

そういう意味では上と全然パターンが違っていまして、この攻撃キャンペーン、短い期間で大量のことをやっているのと、1つの製品に攻撃者が注視して、これを悪用してやろうっていうような、そういう今までの傾向、パターンも実はないというのが、ある意味特徴的だったということです。実はこういう傾向もありましたので、先ほどご紹介したAIを使った証拠っていうのが出る以前から、我々JPCERTであるとか、あとそれ以外の連携して動いていただいている各専門組織、専門家の皆さん方も、これはAIなんじゃないかと。まさにこういうパターンからしてもAIの可能性が高いんじゃないかっていうのを、先週あたりからずっと仮説を立てて、その追跡をしていたということになります。

もう短い間に、いろんな種類の爆弾だったり、ミサイルみたいなものになるし、そういうものが一気にドーンと起きるっていうのは、なかなかなかったことってことですね。

そうですね。基本的には、特定の脆弱性を突くもの、あるいは特定の攻撃手法に特化した1つの攻撃キャンペーンが組まれるっていうのが、今までの定番的なパターンでしたので、そういう今までのパターンからずれているというところも含めて、初動対応でどこの組織も結構苦戦されているんじゃないかなというふうに思っています。

そしてさらにAIならではっていうことでは、人間の攻撃者との違いってことなんですけど、完全合理性と。これどういうことですか？

そうですね。ちょっと経済学的な話を持ち出して恐縮なんですけれども、これ、経済学とか行動経済学みたいなところでよく使われるんですけれども、人間というのは基本的に頭のいい生き物なので、ことは考えられて、理屈的な、理論的なものはすぐ考えられるんですけれども、実際の人間の行動というのは、例えばハッカーであれば、自分が知っている知見の範囲内でしか攻撃はできないわけですよね。

先ほど申し上げたように、ある脆弱性、クリティカルなものが公表されましたとなると、そこに注目がいって、これを悪用してやろうっていうふうに動いてしまう。もしかするとそのタイミングで、別の攻撃方法を使った方が攻撃が成功するかもしれないんだけれども、今注目を集めている脆弱性とか攻撃手段に、攻撃者も人間なのでそっちに偏ってしまうということが起きます。

あとは狙うターゲットも、自分が知っている範囲、調査できた範囲のターゲットを狙う。例えばクレジットカードを狙おうと思った時に、攻撃者はECサイトにクレカ情報がいっぱいあるんじゃないかと思ったりとか、あるいは暗号資産なんかも、じゃあその取引所にいっぱいあるんじゃないかとか、自分の知っている範囲でターゲットをある程度絞り込んでいくということがあります。

そうすると、通常の攻撃はこの左側に書きましたとおり、狙われる対象っていうのは多分2パターンに分かれて、攻撃者が考える範囲で狙われやすい組織というところと、攻撃者が全然思いつかない、本当は別に狙ったら欲しいデータが取れるはずなんだけれども、攻撃者の知っている範囲の限界の外にいるので、単に気づかれていないだけっていう、2パターンがいると考えています。攻撃者にも情報とか知見の限界があるっていうのが、冒頭紹介した限定合理性、限定合理的っていうふうに言っています。これ、いろんな経済学とか行動経済学の範囲で、人間の活動に情報とか知見とか、そういう感じで偏りが出るというのを示す概念になっています。

これが攻撃者側、右側ですけれども、こういったものがないのが、ある意味、機械処理、AIのすごさですので、理屈上できる攻撃を全部やれるっていう部分ですね。なので今回も被害組織さんの中には、何でこんなシステムがばれたんだろうみたいな、例えば従業員向けにしか使っていない、DXか何かで導入した従業員向けのポータルサイトとかポータルアプリなのに、何で狙われたんだろうと、あるんですけれども、そこを見つけ出したのは、AIは全くそういう思い込みも何もないですので、今まで狙われていなかった層も確実に捕まってしまうというふうになったんではないかというふうに考えています。

人間の場合は得意、例えば私はこのハッキングの方法が得意だとか、あるいは今これ、流行りっていうとあれですけど、使えそうだから俺も使おうとかって、あるわけですよね。

人間ですし、あとは犯罪者なんかもコミュニティを持ったりとかしますし、サイバー犯罪者も自分だけで勉強してスキルを磨くっていうよりは、他の犯罪者から何か勉強したりとか、情報交換したりっていうのはどこかであるんですよね。そうすると、基本的には全体で、犯罪グループ全体でも、この限定合理性の罠と言いますか、その網からなかなか逃れられないっていうのが今までの前提ではあったんですけれども、それが今回に限らず、もうこの1年ですかね、AI悪用が増えつつあるので、こういう前提が崩れつつあるというふうに考えられるかと思います。

もう疲れも知らないし、24時間365日、どんなに可能性、普通だったら、これはないだろうからやらないなとかいうのも全部やっちゃうわけですもんね。それはかなりの脅威というような感じが、ターミネーターみたいな。

まさにそうですね。まさにターミネーター、映画に出てくるスカイネットみたいですね。ああいうのを想起される、あるいはそれを示唆するっていう、そういう言及がよく見受けられましたけれども、まさにそういうイメージを、我々だけじゃなくて、いろんなセキュリティの専門企業、アナリストの皆さん方は、みんな多分持たれているんじゃないかなというふうに思います。

分かりました。そして次ですけれども、セッション2に行きます。やっぱり気になる、流出した個人情報はこう使われるっていうことで、これ、情報漏洩の悪用なんかを少しまとめたものを、セキュリティ会社から引用させてもらっているんですけれども、いろんな情報が漏れているんですけれども、例えばどうですか、メールとかいろいろありますね。実際にギフトコードが不正に交換されたとかありますけど、これをご覧になって、何か思われることはありますか？

そうですね。この中に、これ公表情報ベースですので、もしかすると同一の攻撃じゃないもの、平時から、定常時から起きていた事案が混ざっている可能性もあるんですけれども、これ以外の被害公表分も含めて言えるところとしましては、非常に窃取されている情報の種類がバラバラなんですよね。確かにいわゆる個人情報と言われるものに見られるものがあるんですけれども、通常、先ほどご紹介したような人間の攻撃者が攻撃キャンペーンを展開する場合っていうのは2パターンでして、1つは特定の脆弱性の悪用、特定の攻撃手法に依存してターゲットが選定されるパターンですので、これはあくまで手法が共通なだけで、ターゲットは様々、被害も様々というパターンです。

もう1つは、特定の情報を狙うパターンですね。ですので、例えばクレジットカードであれば、クレジットカードが保管されている、あるいはそのデータが通過するECサイト、加盟店、あるいはそれ以外のクレカの取引情報を保有している事業者に基本的に限定されるわけで、被害も、例えばクレカの場合はクレカを狙うキャンペーンなので、漏洩情報としてはクレカ情報、あるいはそれに付随する個人情報っていうぐらいに基本的には限定されるんですけれども、これ、ご覧のとおり非常に様々なところに分かれていまして、これ以外でも画像が漏洩しましたとか、あとは従業員情報、普段あんまり狙われないですけれども、従業員の情報が狙われました、人事の採用情報が取られましたとか、そういったものになっていて、全然統一感が見受けられないというところが非常に特徴的だったかなというふうに思います。

そういう意味でも、多分利用者の皆さん方なんかも非常に戸惑いがあったんではないかなと。どの情報が漏洩するんだろうっていうことで、非常に不安感が急激に増したんではないかなと思います。

人事の情報とかは、よくあるのは、それを公開するから身代金を払えって、サイバー攻撃者側が会社を脅すみたいなのはありますけど、ただそれを引っこ抜いても、それだけ利用価値があるのかなっていう、ちょっと思っちゃうんですけど。

おっしゃったとおりですね。まさに最近増えているランサムウェア攻撃なんかですと、どんな情報であろうと持っていってしまって、あるいは暗号化をして脅迫するっていうのがあるんですが、あの場合ですと、ある意味、攻撃者はその情報に価値は感じていないんですよね。価値を感じているのは盗まれた側でして、攻撃者はその情報を持っていっても何も収益に上がらないんだけれども、被害者からすると、その情報がないと困るっていう情報なので、その対価ですけれども、代わりとして金銭を払うっていう、そういう犯罪メカニズムです。

ですので、それなら分かるんですけれども、これ、ただ抜いているだけっていうか。

そうですね。そこも含めても、まさに被害公表が出始めた段階で、我々もそうですし、他の専門家の方々も、これはちょっと違うと。いわゆる前の、人間がやっている特定の情報窃取を目的とした攻撃キャンペーンとはかなり違うぞというものに気づき始めたのは、まさにこのセキュリティ企業のアナリストの方もまとめられているとおりでして、この情報が何か違うと、非常にバラバラであるっていうところに違和感を、9月の終わりぐらいから皆さん感じたんだと思います。

でも、やっぱり基本的にサイバー犯罪者が一番欲しいのって、お金につながる情報っていうか、クレジットカードとかそういう、基本的に一番それが価値が高いわけですよね。

そうですね。おっしゃるとおりで、基本的には、いわゆる犯罪者と言われるものですね。こういったものについては、換金できる情報っていうものを基本的にやらないと収益に上がりませんし、今回の例の、盗まれた情報がどれだけ金銭に交換できるのかとか、そういったところは、まだ正直言うとあまり分析は進んでいないところではあります。中にはサイバー犯罪者の中には、ある意味、我々は基本的に攻撃者が何をしようとしているのかっていう推定をする時に、何か目的があるんだろうっていうふうに、どうしても考えちゃうわけですね。

そうしますと、攻撃をテストするか、あるいは本番で情報を盗んでいく。盗む理由も、スパイ目的なのか、あるいは金銭目的なのか、脅迫かっていうふうに考えてしまうんですが、今までもよくあるんですけれども、この手のサイバー攻撃について、ある意味、攻撃のテスト、技術的な、こういう攻撃手法が使えるかっていうテストと、これと実際の目的、情報を盗んで換金する目的達成と、両方混ざったような攻撃活動っていうのも実はよく起きていますので、今回もまだちょっと予断を許さないですけれども、これがどちらなのか、あるいは今申し上げたように、我々が普段想定しないミックス型なのかっていうところは、次に備えるためにも、まだこれの攻撃も終わっていない可能性もありますけれども、次の波に備えるためにも、ちょっと分析を進めなければいけないなということで、我々も冒頭ご紹介したように、調査結果とかをなるべく広く開示をして、各国の専門家の皆さんの知恵を借りようかなというふうに思っています。

例えば泥棒が家に入って、金目的で入ったら、普通はたんすを開いて銀行の通帳を取るとか、現金を取るとかってあるじゃないですか。狙いは金だなと。でもAIの場合って、もう端から端までやるわけですよね。全部の引き出し、全部持って帰っちゃうみたいな、そういうことではないんですか？

まさにおっしゃるとおりだと思います。そこも含めて、まさにAI利用の可能性を当初から多くの方が指摘していたのは、そこだと思っていまして、AIの場合、人間はまさに今おっしゃっていただいたとおりで、人間は目的意識があるので、それに合致するものを取っていくっていうのは、かつ人間の場合は侵入にかかる時間も有限ですので、短時間で、ばれない間に必要最小限のものを盗んでいくっていう効率化を考えるわけなんですけれども、AIは、ある意味、効率的にやるんじゃないかと思ってしまうんですけど。

そうですね。何かそんなイメージがありますけど。

そうですね。ある意味、通常の人間がやる効率化と、彼らの効率化、多分考えは別なんですよね。ですので、まさに全部、何も考えずに取っていっているっていう可能性もあるんではないかなとは思っています。

こういうの、特に運転免許が漏洩って今回ありましたけど、例えば運転免許とかが漏れたと。実は私も漏れていたんですけど、どうすればいいんですかっていうのはありますか？

そうですね。運転免許については、一部の道委が再発行をやるという話を出したりですとか、あとは信用情報機関さんでも対応検討っていう話があったりしますけれども、もともと多分、漏洩を想定しなかった情報の被害が出てきたので、非常に混乱が出ていると思います。他方で、それ以外の事業者さんのほとんどは、残念ながら日々ちょっとした漏洩事故とかも起きていたりとか、あるいは業界内でも他社さんの漏洩みたいなのがあったりしていたので、漏洩した時にはこういう対応をしてくださいっていう、ちゃんと事後策みたいなものが用意されていて、今、多分漏洩被害のあった顧客の皆さんに案内が行っていると思います。パスワード変更だとか、IDみたいなものを再発行したりとか。

免許みたいなものとか、マイナンバーとか、そういうのもあったりする。変更できないもの。

少なくとも、間違っていたらすみませんが、多分免許証番号って、これまでは勝手にいきなり再発行できないですよね。ですので、多分公安委員会からの発表等が出ていると思うんですけれども、そういったものが出ていて。ちょっと言葉を選ばずに申し上げると、多分、個人情報の漏洩って多くの方にとっては、年間を通じて結構ちょくちょく遭遇する事案だと思いますので、皆さんの方でも、多要素認証を使うようにしたとか、パスキーを使うようにしたとか、あるいは使い回しのパスワードも変えているとか、メールアドレスも変えているみたいな、結構自己防衛策を比較的取っている方が増えてきていると思うんですけれども、まさに免許証データとか、今まで漏れていなかったような情報っていうのは、多分これまでも慣れていない、初めての遭遇ですし、しかもそこは漏れた時に何をしたらいいかが分からないっていう、多分そういう類いのもの。それが代表例が免許写真みたいな、画像データ系ですね、だったんじゃないかなということで、これは完全に盲点と言ったらちょっと語弊があるかもしれませんけれども、全く想定していなかった被害、今までの攻撃者が盗むっていうイメージがつかなかった被害なのかなというふうには思います。

なかなか、あまり直接は分からないですけど、売れるのか。住所なんかは、例えば変えられないですからね。いくら漏洩といっても、なかなか対応のしようがないっていうところもあるんですけど、再発行も効果限定的っていう話もありますし、今、毎日ニュースがあるので、みんなびっくり、パニックになっているところもあるんですけど、何でもかんでも漏洩、漏洩ってなっちゃっていて、若干私も、普段サイバーセキュリティを取材している人間でもちょっと不安になっちゃうぐらいなんですけど、落ち着いてっていうのも、私なんか自分にも言い聞かせているところなんですけど。

そうですね。免許証も、仮に免許証の、まさに画像データですよね。これだけで例えば他の非常に重要な何か契約とか、既存のやっている契約サービスの重要事項変更を、たった免許証画像だけでされてしまうかっていうと、それはまたちょっと違うかなと思うんですよね。申し込み画像だけで通るような、しかも自分の財産に関わる重大なって、なかなかないと思いますので、単純にこういうようなケースになると、漏洩の悪用みたいなのがセンセーショナルに出てしまうんですけれども、改めて一旦落ち着いて考えていただくっていうのは、少し時間として取っていただく必要があるかなとは思います。多分最近、報道の皆さん方も、漏洩したらどうしたらいいかみたいなところを、たくさんご紹介いただいていると思いますので、一旦ちょっと落ち着くフェーズに。まだちょっと攻撃について予断を許さない残念な状況なんですけれども、一般利用者の皆さんについては、一旦落ち着いて考えていただくっていうような期間なのかなっていうふうには思います。

分かりました。では企業はどうすればいいのか。3つ目のセクションですが、被害企業の8割が原因非公表ということで、次のスライドを見ますと、こちらマクニカさんのデータなんですけど、一連の情報漏洩のところをまとめたもので、どうして入られてしまったのかをまとめてあるものなんです。パスワード攻撃がありましたとか、脆弱性が使われましたっていうのもあるんですけど、実は8割ぐらい以上が、よく分からないって、説明が書いていないとか、あとは実際にまだ調べていて分からないっていうのも、もちろんあると思うんですけども、リリースとかを見てもよく分からないっていうのが現状なんですけど、佐々木さん、これどう思われますかっていうか。

2022年ですかね、JPCERTと、あと内閣官房、警察庁、総務省、経済産業省と、各省庁とJPCERTの連携で、サイバー攻撃被害に係る情報の共有・公表ガイダンスというものを作りました。執筆をさせていただいたんですけれども、その中でまさに情報共有と、今からある意味、攻撃に対処するためのものと同時に、被害公表っていうのを両方セットでガイダンスを書かせていただきました。理由としましては、まさにこの被害において原因とかも説明していく。よく以前ですと、攻撃原因を書いてしまうと模倣が出るから書いちゃ駄目だみたいな、そういうまことしやかな話が出回っていた時期がありまして、今でもそれを理由として、被害公表に原因は書きませんっていう組織さん、結構多いんですね。

取材していても、何で侵入されたんですかって言うと、セキュリティ上のため言えませんとか、ほとんど言えないことばっかりで、これ、せっかく教訓につながり得る情報なのに、なかなか分からないですよね。

そうですね。この後もちょっとご説明しますが、まさにこの原因、こちらにありますけれども、どういうことが起きていたかっていうのを書いています。上は各被害組織が行政機関に報告していく流れを簡単に図示しています。個人情報ですと、今、現行法では個人情報保護法に基づいて、漏洩、あるいはその恐れがある場合、特に72時間でしたかね、速報を含めて報告しなきゃいけないということで、基本的には情報漏洩案件、ほぼ全部は行政側に集まる。あと警察への通報があったりですとか、所管庁とか、あとIPAですね、ああいうところに届け出をする。

全部届け出ると。

はい。義務あるいは任意も含めて、大量に行政機関に報告ルートがありますし、非常に各省庁からも、何かあると報告してくださいって呼びかけ、義務も任意も含めてやっていますので、この手の短時間、大規模の事案になると一気に情報が殺到します。他方で、もうご覧になっているとおり、各省庁からの注意喚起の中には、ほとんど技術的な話は書いていないんですよね。当然それは役所なので、そういう技術的なところまでは踏み込めないっていうのもあるとは思うんですけれども、例えば被害届け出、報告ってなりますと、これ、先ほどご紹介したガイダンスにも書いているんですが、技術的な情報というよりも、つまりどういう攻撃があったかとか、もっと細かく言うと、どのIPアドレスからあったかとか、どういう種類のアクセスがあったかっていう情報よりは、いつ被害を認知して、どういう対応を顧客に対してやっているかみたいな、これ、被害内容情報っていう区分を先ほどご紹介したガイダンスではやっているんですけれども、こういうコンテクスト的な情報、これがもっぱら行政機関に集まるという形になります。

他方で、いち早く冒頭もご紹介したような攻撃手法を明らかにして、不正のアクセスをみんなで知って、各セキュリティサービスですとか、今後狙われるかもしれない企業さんでブロックするためには、やっぱりその攻撃の技術的な情報が必要なわけです。

冒頭でもご紹介した、弊センターが調査をした攻撃のサーバーに関する情報もありますし、どういう種類のアクセスが来るのか、もっとざっくり言うとどういう攻撃手法が使われたのかっていう情報は、非常にこの社会全体で攻撃を跳ね返していくために必要な情報なんですけれども、こういった情報、なかなか今ご紹介した通り、現行のこの報告制度の中にはそういう情報が入ってこないという、これはもう構造的な問題ですね。各行政機関の皆さんも一生懸命やってるんですけれども、なかなかうまく情報を刈り取れてないという状況が背景にあるのかなというふうに考えています。

一方で、我々ですとか、今続々と分析レポートを出している各セキュリティ専門企業の皆さん方については、こういう事案になると、被害組織はもう複数の行政機関への報告だけで手いっぱいになってしまいますので、なかなかこの専門企業にまで相談とか、情報を流そうっていうのが追いつかないところがあります。

ですので、我々ですとか、いろんなセキュリティ企業さんは、被害には至ってないんだけれども、ちゃんと攻撃をブロックできた組織さんがいますので、こういったところはある意味ブロックできたので、ちょっと時間的な余裕もあるということで、ある意味もう善意なんですけれども、我々なんかにたくさんその観測情報をくださっているということで、注意喚起を出していますし、あとセキュリティ企業の皆さん方は、まさにブロックしたよ、自社のサービスでブロックできましたっていうところも含めて、観測情報をたくさん出していただいてると。これ、いずれも同じ攻撃に関する情報ですので、これを積極的に出して、どんどん社会全体での検知率、防御率を上げようという取り組みを今一生懸命やっているところです。

これ要するに、例えば私の解釈ですけど、泥棒が入りました、うちに来ました、空き巣に入られましたと。空き巣に入られた手口は、例えばこんな手口でした。窓ガラスを割ってとか、こういうところを取られましたみたいな。私、被害がありましたと。それを警察がいろんなところに伝えるんだけど、そしたら本来だったら、こんな手口で、例えば夜来ましたとか、ここの窓がやられますとかっていう情報を周囲の人にお伝えしたり、みんなに伝えれば、私も気をつけようと、次の被害を防げるわけですけども、今のままだとあんまりそうなってないってことですか？

そうですね。まさに似たようなことを、多分どの省庁も含めてやってるんですけれども、問題はやっぱりその情報の粒度なんですよね。単純に、物を取られないように注意しましょう、家にちゃんと鍵をかけましょうっていうのは、ある意味当たり前すぎるので、もうちょっと具体的なものが必要。例えば、最近でも連続強盗事件の時なんかにも、警察とか自治体さんも含めて、結構詳細な情報ですよ。

そうですね。見た目とか。

そうですね。見た目とか、何人組なのかとか、何歳ぐらい、身長はとか、あとどういう時間帯に現れるかとか、さらに言うと犯行だけではなくて、事前の犯行現場の下見をしていた様子とかですね、も含めて、かなり情報を出してます。

こういったものを我々なんかはよくインディケーター情報とかですね、やっぱりその具体的な情報、どういうアクセス元から来てるのか。これは別にサーバー1つだけではないですけれども、どういう特徴的なアクセスがあるのかとか、先ほど強盗の例で申し上げたような、事前偵察はどういうものが来るかとかですね。やっぱりこういう情報ぐらいの粒度がないとですね、注意喚起をするにしても。注意喚起だけではなくて、今後我々として防御力を高めるためにも、もうちょっと粒度の高い情報で注意喚起なり情報開示をしないと、やっぱりちょっと抽象的すぎてですね。どうしたらいいのっていうようなものは、皆さん思ってるところではないかなと思います。

そうですよね。うちに入ってきた空き巣のこの指紋を見たら、こういう指紋でしたっていうのが分かってんのに、それをみんなに共有すれば、うちにも実は入られてたかもしれない、この指紋ありましたとかね、分かんないですけど、そういうのがもっと見える世界が、実は同じハッカーがやったかもって、一気に見えるものが違うわけですよね。

今回の特に、当初、攻撃手法がよく分からないって話がありましたけれども、逆に情報が集まって、かなりどういう手法の組み合わせだったのかっていうところも今、絞り込めて。

分かり次第どんどんみんなシェア、シェアって、情報は。

やっぱり原因公表もその1つですし、被害は防げたけれども、ちゃんとブロックできたよという観測情報、いずれも非常に我々にとっても社会全体にとっても大事な情報かなと思います。

今これスライド出してもらってますけど、今こんな感じの現状なわけですよね。

そうですね。これちょっと、やや恣意的なところがあるんですけれども、当然、各省庁の皆さんはこれ以外にも、こういう対策を取ってくださいねっていうのをたくさん書かれていますので、ちょっとそこは割り引いていただければと思うんですが、今申し上げた攻撃の技術情報、まさにその犯行を示す情報、何を防いだらいいのか。あとは今後、様々なセキュリティサービスとか各企業さんのセキュリティ製品でブロックするために必要な、あるいは検知力を上げるために必要な情報が、各機関からの注意喚起に書かれていたかっていうのを整理したものになってます。

我々ですとか、10月7日のマクニカネットワークスの分析レポートなんかもそうですけれども、あとちょっと今入れましたけど、直近でもいくつかセキュリティの専門企業さんから分析レポートを出していただいてますけれども、そういったところには攻撃のケース、まさにとにかくこういう不正アクセスに注意ではなくって、具体的にどの種類の不正アクセスなのかっていうのを書くようにしています。あとは攻撃手法。これまだ暫定的でして、一部の手法についてはNICTさんが詳細なレポートを書いていただきましたけれども、攻撃手法の解説というのをこれからどんどん深めていくという部分。あとはこのインディケーター・オブ・コンプロマイズという、インディケーター情報は攻撃を見つけるための痕跡という部分があります。

これ、攻撃を見つけるための情報でもあるんですけれども、攻撃サーバーの情報を我々、積極的に展開してますが、これをやることによって、冒頭紹介したように、我々ですとか各国のセキュリティ専門家、専門機関の皆さん方が、まだ我々が捕捉できてない攻撃サーバーを探すヒントにもなります。これを先回りして注意を呼びかけられれば、次の攻撃をどんどん牽制していくことが可能ですので、そういった意味でもこのIOC情報提供っていうのは重要になっています。

そういう観点では我々も書きましたし、あと経済産業省からの注意喚起にも、これ、わざわざ注意喚起とともに情報提供の呼びかけっていうのを、経済産業省さんがアナウンスメントで書かれていまして、まさにここまでご紹介いただいた通り、原因に関する情報とか攻撃手法に関する情報、技術的な情報、これはやっぱり共有をもっとやらないと、攻撃サイクルに対する我々のこの防衛サイクルのための情報がちょっと足りないよということで、呼びかけを出していただいています。

やっぱり今、日本のセキュリティ業界とか、ちょっと大きい主語になっちゃいますけど、セキュリティの関係上お答えできないっていうことがすごく多くて、もちろん本当に答えられない部分もあるのは重々分かってるんですけど、あまりにそれが行きすぎると、本当は次の被害を減らせるにもかかわらず、みんなで見せ合ってないのでっていうデメリット、メリットにした方がいいってことですよね。

公表ガイダンスの方にも解説を全て書かせていただいているので、これ関係も含めてアナウンスメントしますけれども、被害の際に、中には確かにあんまり書いちゃうと、模倣犯が出るようなものもあったり、捜査を邪魔するっていうのもありますので、あるいはその企業の弱点をさらしてしまうっていうのもあるので、その書き方の粒度はあります。

これも含めてガイダンスにも解説を書いてますけれども、あとは専門機関などを通じて注意喚起に使ってもらうと。今回も弊センターの注意喚起の際に、各被害企業もそうなんですけども、もっぱら被害には遭ってない企業さんですね。こういったところっていうのは被害が出てませんので、公表できません。この情報は内々にしてほしいという、そういうご意向で情報をいただいていますので、それと同じで被害企業でも同様に、どうしてもちょっとその手口に関する言及が難しいということであれば、我々みたいな専門機関を通じて、ある意味匿名化して情報を出すっていう、そういう間接的な出し方もあります。

できますね。なるほど。そうやってみんなで、もう1人ではAIには、1つの会社や1個人ではなかなか対抗できないですよね、AIによる。だからもうみんなで共有して、レジリエンス、強靱性を高めるっていうことですよね。最後に、個人はどうすればいいのかと、あと各企業、大企業もあります、中小企業もありますけれども、これからのAIによる攻撃が当たり前になる時代にどうすればいいと、佐々木さん思いますか？

これまでも、ここ2、3年ですかね、このゼロトラストっていう言葉であるとか、あと侵入前提の対策を、みたいなスローガン的にあるんですけれども、私も言ってきた立場ではあるんですけれども、多分どの企業、個人の方でもあんまりピンと来てなかったと思うんですよね。あとは、セキュリティ側の放棄というか諦めなんじゃないのと。つまり、守ってくれてるはずなのに、侵入前提でとか、個人で対処してくださいみたいな、それはセキュリティ側の仕事じゃないのっていう印象を持たれていたんじゃないかというふうに思っています。

デジタル庁さんですかね、会見で個人情報をちゃんと自分たちで守ってくれみたいなメッセージを出したところを、そこだけちょっと切り取られちゃって、批判的な反応が出てっていうのを拝見しましたけれども、やっぱりまさに世間の皆さんの反応っていうのはそういうことなんだと思います。本来は守ってほしいのに、行政機関であるとかセキュリティの専門サイドが、漏洩前提でって言うと、やっぱり見放された感じが、ちょっとそんな気もしています。

他方で、とはいえですね、今後残念ながらAI悪用っていうのは、これもう一般化すると。既に一般化し始めていますので、情報漏洩というのが今まで以上に、冒頭もご紹介し、アスタリスクと書きましたけれども、頻繁に起きるのは間違いないと思います。かつ、これを全部、予防で防ぐっていうのはもう現実的ではない。残念ながらそういう世界になってしまっているわけですので、その意味では、そういう前提が確かにそうなんだなと実感いただく、残念な機会ではありますけれども、そういう状況かなと。

他方で、多くのオンラインサービスとかアプリ事業者の皆さん方は、漏洩した時の二次被害防止、拡大防止策ですね。パスワードリセットの方法であるとか、あるいは一部の情報が漏れても大丈夫なように、多要素認証とかパスキーの推奨とかですね。あとアラートメッセージが来るとかですね。そういった策を、この数年でどんどん各事業者さん導入をしてますので、多分個人の皆さん方も、ずっと使ってるオンラインサービスとかアプリで、久々にその利用の設定を見ると、昔なかったセキュリティオプションみたいなのが追加されてるっていうのが、結構あると思います。

昔はこんなのなかったなっていうのが。あるいは最近、連絡とかで、メールとか多分皆さん飛ばすと思いますけれども、そういう案内で、パスキー導入したんで使ってくださいとかですね、そういう案内が来てると思いますので、やっぱりそういうのはほとんど追加料金なしで使えますので、そういうのはとにかくどんどん使っていただくっていうのが、まさにもう漏洩に備えるっていう、一番基本的なところなのかなとは思います。

組織として、企業はもう、特に中小とかですけどね、どうすればいいのかっていうのは難しいんですけど。

これもやっぱり、その話で、漏洩とかって言われてもっていう反応の方が多かったと思う。なかなか言えない。それをまさに実感、残念ながら今回実感された企業さんが多分多数いらっしゃると思うんですけれども、1つは不幸中の幸いにして、少なくともこの直近までの攻撃においては未知の脆弱性は使われてなかったわけですので。API周りについても、各業界が推奨している推奨策で十分防げたものもありますので、まだまだ対策をする手はあったというものですね。

一部では、今回やられた被害企業は基本的な対策を怠ってたんじゃないかみたいな評価もあるんですけれども、私はちょっと違うかなと思ってまして、やっぱり我々が押され負けしてるっていう部分が強いのがあるんですけれども、基本的な対策を取れてるところと、ちょっと手薄になってるところ、必ずあるはずで、今回その手薄になったところが押し込まれたというのを考えますと、全く防御もしてませんでしたっていう企業さんはいらっしゃらないわけです。落ち着いて見直せば対応はできるのかなと。

他のシステムではちゃんと基本的な対策をやっていて、たまたま例えば従業員向けのサイトで、普段からそんなにアクセスがないからっていうことで、ちょっとプライオリティが低かったりとか、予算的なところとか、担当者の割り当てもちょっと低めだったところがやっぱり狙われたとすると、繰り返しますけれども、企業全体で何もしなかったわけではないですので、その見落とし部分の点検をするというのをまずやるということで、やれることはちゃんとまだまだあると思いますし、全く歯が立たないっていうわけではないと思います。

AIって、すごい誰も知らないような脆弱性を見つけてガッと、そういうのもあるんでしょうけど、今のところそういうのがほとんどではないってことですね、実はね。

そうですね。やっぱり当初、今年の5月とかですかね、ミトスの騒動のあたりでは、多分そういうシナリオを皆さん想像して、すごいハッキングがもう、みたいな。

そういう世界ではないですね、まだね。

そうですね。やっぱりある意味、めちゃくちゃ現実的な悪用方法、悪用シナリオが最初に表面化したのが今回の一連の事案なんですけれども。あとは、ミトスの騒動の前後で、プロジェクト・グラスウィングですかね。AI業者、ベンダーとか製品のメーカーさんが連携を組んで、自社製品の積極的なAIによるテストですね、早く脆弱性を見つけてしまおうということの取り組みをやっていて、今年、直近もですけれども、例年に比べてたくさんの脆弱性が公表になってますけれども、あのうちの結構な割合は、機器のメーカーさんとかが自社でまさにAIとか他のものを使って、積極的に探し出した脆弱性の、在庫っていうのも変ですけれども、一気に吐き出してるという状況になってます。

一部は、自社で脆弱性を探してる取り組みと同時並行で、多分攻撃者も脆弱性を探していて、これAIかどうか分かりませんけれども、探していて、悪用タイミングぎりぎりでパッチを出せましたみたいなものもあったりしますので。逆に言うと、一部のソフト製品のメーカーさんでは、攻撃者側がAIを使う、使わないにしても、どんどん脆弱性を探そうという動きに、ちょっと追いつきつつある、追い越せる可能性も含めてですね。今多分そういう瀬戸際みたいな状況ですので、これになんとか競り負けないようにするというと変ですけれども、やっぱり製品メーカー側、そのシステムを使ってる側もAIをどんどん使うことによって、まだまだ攻撃者側と競争できる可能性はあるかなと。その理由としては、攻撃者側も我々と同じAIサービスを使ってますので、能力的にいきなり引き離されてるっていうことは、まだないんじゃないかなとは思います。

やはりAI時代におけるサイバー防御も、私たちもAIをフル活用する必要があるということですね。

はい。

ありがとうございます。今日はJPCERTコーディネーションセンターの佐々木勇人さんにお話を伺いました。ぜひチャンネル登録と高評価をよろしくお願いします。今日はありがとうございました。

ありがとうございました。