AIはサイバー攻撃の急増にどこまで関わっているのか　AgenticSec中谷翔氏が語る「ミュトス級」中国モデルの脅威と、侵入を前提にした備え

1on1 Tech、始まります。今日のテーマは「AIが引き起こすサイバー攻撃地獄」です。日本企業の不正アクセス、あるいは個人情報の漏洩というのが止まりません。その背後にはAIの存在があるとも見られています。今何が起きているのか、日本企業、そして私たち一人ひとりが何に気をつければいいのか。今日はAIとサイバーセキュリティに詳しいこの方にお伺いします。AgenticSec CEOの中谷翔さんです。よろしくお願いします。

よろしくお願いします。

中谷さんとは今日、3つのテーマで見ていきたいと思います。「サイバー攻撃多発、AIが原因なのか」。それから2つ目が「AIサイバー攻撃はどこまで来たか」。最後に「日本企業に突きつけられた課題」ということでと思うんですが、中谷さんは3回目のご出演で。

おかげさまで、ありがとうございます。

1度目が5月ですね。ミュトス、Claudeミュトスのアクセス権が3メガバンクに与えられた時で、前回がOpenAIのモデルがHugging Faceに攻撃してしまった、暴走の時。どんどんお呼びするたびに深刻になっているから、改めて解説をお願いしたいということでお呼びしているんですけど、いろんな形で深刻なことが起こっていて。

今回、今本当にたくさんの不正アクセスというのが起きてまして、今表示しているように、タイムズの件から日経だったり、大和証券、焼肉きんぐ。つい最近はこのIDCフロンティアというソフトバンクの会社のクラウドサービスに攻撃があって、茨城県のサイトが表示できないとか、いろんなことが今起きているわけなんですけども、どうですか、これ。今までと比べても結構やばい状況。

やばいと本当に思っていますね。私ももちろんセキュリティにいるので、こういう不正アクセス情報みたいなニュースはなるべくキャッチアップするようにしているんですけど、9月末からあまりにも多いなというのが自分の肌感としてもあって、セキュリティ企業としても、一ITの界隈にいる者としても胸を痛めているところですね。

なるほど。何が今起きているという表現でしょう。

これは私としては、AIによるサイバー攻撃というのが増えた結果としてこういうことが起きている可能性は高いなというふうには考えているんですけれども、そのような証拠めいたものはまだ存在していないので、断定はできない。でも、AIは関係あるだろうなとは思っています。

考える経路みたいなのがあるようなんですけども、基本的に結構AIを使っていそうだ、みたいなところはある。

こういう経路があるわけですけれども、攻撃事例、漏洩事例とかを見ていると、それらのどれから入られたというのは結構様々なんですよね。様々だけれども数がすごく増えている。こういうのを考えた時に、従来通り人でこれらをやっていると考えるよりは、何かのパラダイムシフトがあったかなと見るべきだと思っていて、パラダイムシフトを一番起こし得るのはAIだろうなというふうに推測しています。

例えばタイムズカーの件なんかも、Webシステムへの不正アクセスがあって、これだけ流出していると。Webシステムに不正アクセスがあったというのは、何をどう考えるんですか。

Webシステムへの不正アクセスは、大きく分けて2パターンあると思うんですけれども、1個はWebシステムのログイン画面みたいなものに入力する認証情報、ID、パスワードみたいなもの。これが漏洩して、それを攻撃者に使われて、なりすましログインをされてしまったというパターンが1つ。

あともう1つは、Webシステムに存在する脆弱性を攻撃されて、脆弱性を攻撃した結果、何ができるかは結構様々なんですが、最悪の場合、Webシステムに侵入されて、Webシステム上で結構好き勝手な営みができてしまう。こういう2つのケースがあり得るかなと思います。

あとは日本経済新聞なんかは、Google Workspace、みんなが使っているようなオフィスソフトですよね。そこに不正ログインがあって、個人情報が漏れてしまったというところなんですけども。これは先ほどの手法というか経路で言うと。

認証情報を奪われたというところがまず直接的なところで、奪われた経路として、確か日経新聞様はフィッシングの被害に遭われたという報道を見たかと私は記憶しています。フィッシングはいわゆるメールなどで、攻撃をしたい人が「今、あなたのID、パスワード変更の必要がありますよ」とか、例えば騙して、不正な攻撃者が制御しているサイトに誘導して、正規の、例えばGoogleアカウントみたいなのを攻撃者のサイトに入力させちゃって、それで奪うみたいな。そういうことがあったというのがフィッシングの被害かと思います。

一般にAIでサイバー攻撃のハードルがより下がったという中で、先ほどのタイムズカーのところ、Webシステムへの不正アクセスというと、脆弱性を見つけて攻撃みたいな感じですけども、要はいろんな脆弱性を簡単にAIで発見して攻撃すると。フィッシングは若干違うわけですけども、人を巧妙に騙すみたいな感じですよね。そこに関してもAIというのはかなり効いてくるということ。

効いてくるとまず思っています。フィッシングで、もう1、2年前のことなんですけど、実は今まで日本に対するフィッシングというのはそんなに多くなかったり、あまり成功事例が今と比べると少なかったりしたはずなんですよね。これ、なぜかというと、攻撃者というのは国内にいる攻撃者よりは海外からの攻撃がどうしても多いので、日本語が難しいみたいな理由で、英語でそもそも来たり。だからメールの読者としては「分からないから無視しよう」で済んでいたり、あとは日本語で来るんだけど、やたらと不自然な日本語で来たり。

というのが、この1、2年ですごく自然な日本語でフィッシングが来るようになったというのが、どうやらあるようです。私もフィッシングをたくさん受けているので、結構巧妙だなと思うのもすごくあるし。あと何より、フィッシングメールの文面が巧妙なのと、その文面から攻撃者のサイトに誘導するみたいな、誘導先のサイトもまたAIとかで巧妙に作られるようになってきて、違和感を感じるポイントがどんどん減らされている。より騙されやすいコンテンツ、フィッシングコンテンツが生成されているなという感覚はあります。

なるほど。今回、直近でこのIDCフロンティア、ソフトバンクの会社のクラウドサービスのところに攻撃があったわけなんですけども、個社のサービスへの不正アクセスというのがありながら、いろんな企業が共通に使っているインフラ的なサービスに、いよいよ攻撃が来たという感じで、結構影響が大きいのかなと思うんですけども、どう見ていましたか。

もちろん影響は大きいですよね。個社のシステムに不正アクセスとかがあった場合は、その社の被害範囲に当然収まることが大半なわけですけれども、クラウドというのはみんなが使う事業なので、そこがやられてしまうと、使っているみんなが何かしらの被害を受けてしまう。そういうことは自然な流れなのかなと思っています。

これもだからAIによって何かの強化みたいなものによって、そういうインフラ的なところまで影響が及んでしまっている。

そうですね。AIの強化は関係あるんじゃないかなと思っていて。IDCフロンティア様については、まだ公表されている事実が揃いきってはいないので、憶測も含むというのは申し上げた上でなんですけれども。可能性として、IDCフロンティアの管理コンソール、つまりIDCフロンティアの利用企業様がIDCフロンティアの上でいろいろな設定をする、例えばサーバーがちゃんと健全に動いているかなというモニタリングをしたり、新しいサーバーを立てよう、データベースを立てようみたいな操作をする管理コンソールという、ブラウザとかで操作するWebアプリケーションが存在しているはずなんですけど、可能性としては、この管理コンソールのWebアプリケーションがAIでやられたという可能性があり得るというふうに見ています。

可能性というのは2つなので、可能性に可能性を重ねているんですけど、1個はそもそもAIが攻撃に使われたかというのも私の仮説でしかないので、1つ。あともう1つは、Webコンソールが侵入経路だったかというのは、これはまだ事実としては公表されていないんですけれども、公表されている中に、被害を受けてIDCフロンティア様の方で封じ込め、これ以上攻撃が起きないように止めたというところが、東日本リージョン1というデータセンターのところだったらしいんですね。

これを止めた後、念のため、安全確認のために他のリージョンの管理コンソールも止めています、という発表まではあったんですよ。ということは、私が推測するに、管理コンソールが攻撃の被害に遭った可能性をIDCフロンティア様の方で感じているまでは、おそらくそうなんじゃないかなと思っていて、Webシステムを攻撃されたという可能性はあるのかなというふうに考えています。

なるほど。Webにつながっているところが明確に入り口になっているということですよね。でも、これだけインフラ的なところに入ってくるとなると、他のもっと大事なインフラがいっぱいあるわけじゃないですか。国が基幹インフラ、重要インフラと呼ぶような電力だったり、いろんな交通インフラだったりとか。そういったところにまで広がってくる可能性ってあるんですか。

もちろん可能性は否定はできないんですけど、クラウド事業者様よりは事情は違うかなと思っていて、どちらかというと、いわゆる重要インフラの方がWebからの大きな被害というのはやや考えづらいかなと思っています。それこそ、例えば病院なんかを例に取ると、当然各病院様、自分の病院のWebサイトとかは持っていられると思うんですけど、いざWebサイトに入った時に、その病院の中でもっと大事な電子カルテだとか会計データみたいなところまでWebがつながっているかというと、十中八九つながっていないと思うんですよね。

昔のシステムの作り方だったらつながっているところはあったかもしれないんですが、さすがにそろそろ皆さんその辺の危機管理はできてきて、離れている、隔離されている。重要データとかが隔離されているように、重要インフラではどんどんなってきていると思います。

入ると、インフラを操作する大事なデータが入る、インフラそのものを操作するという構図ですので、確かにWebを入り口にされた時に、重要インフラとかと比べると、嫌な被害がやや起きやすいアーキテクチャというか構造なのかなと想像されます。

なるほど、分かりました。そもそもサイバー攻撃をする人たちが、今AIをどれぐらい使っているのかとか、あるいはどうやったらこれがAIがやった攻撃と判断できるのかとか、その辺を伺っていきたいんですけども、今どうなっているんでしょうか。

これは結論としては、紫色の「見分けがつかない」が一旦の結論になると思うんですけれども、被害を受けた側というのは、自社の被害システムにあるログとかから、攻撃の通信は一応見て取れるわけですけど、攻撃の通信を見ても、「この通信はAIから来たっぽいな」「この通信は人間がお手製で打っているな」みたいなのを見分ける方法って、基本ないはずなんですよ。

最終的に出てくる通信というのは、人間が手打ちする通信も、AIを使って、ちょっと小難しいことを書いていますが、最終的にハーネスみたいなところがツールプログラムで打つ通信というのも、人間が打ってもそっちが打っても同じといえば同じなので、被害側からはAIから来たか、従来通り人間がやったかは見分けがつかないかと基本的には思います。

なるほど。ただ攻撃側からしたら、従来はある意味いろいろプログラミングしてやっていたわけですから。要は属人化していたものが、もっとできるということですよね。

そう。上側を見てほしいんですけど、人間がやっていることは指示で終わっている。ちょっと簡略化しすぎなんですけど、大筋、日本語なり英語で指示さえできれば、割と攻撃が成立してしまうことがあるというのが、今のAI技術の悪い意味での恩恵だったりするなというのは思うところです。

なるほど。そうですよね。だから、今起こっているものがどれぐらいAIによる影響があってとか、AIが使われているのかって、結構分かりようがないです。

そうなんですね。これが分かるとしたら、いずれも時間がかかると思うんですけど、1個あり得るのは、いろんな被害システム、被害を受けるシステムに、通信を監視したりセキュリティの監視をする製品を卸している会社さんが、その製品だったら被害システムの手前で通信をたくさん観測できているので、基本的には見分けがつかないといえども、ある程度数が集まってくると、さすがにこの頻度となるとどうだ、みたいなこと。

1個1個だと見分けがつかないけど、めっちゃこれ共通しているなというので、こんなに共通していて、この頻度ということは、従来の攻撃とは考えづらいな、AIの関与では、とかが分かるというのは1つあり得るのと。あとは国際的な司法組織がAIの攻撃者の組織を摘発して内容が分かるみたいな、こういうことはあり得るのかなと思います。

というわけで攻撃の状況を見てきたんですが、これって日本だけなんですかね。どうなんですか。

そうですね。私もXで普段日本語で見ているので、「日本めちゃくちゃ多くないか」というふうに不安になって、いろんな方の言論だとかデータとかも調べたところ、どう……。

サービスしている会社様なんですけど、そこの発表によると、どうやら前の9月と今年の9月を比べた時に、全体で見た時に攻撃というのは48％増加したと。金融みたいなところに絞って言うと、今年の9月と8月、前月比で言うと14％も増えたというふうに報告がされていて、チェック・ポイント社は当然日本にだけ卸しているわけじゃなくて、世界中に製品を出しているわけですから、世界的に攻撃は増えているまでは言えて。じゃあそれがAIでかというところまではまだ特定はされていないんですけど、結構世界的に攻撃は増えているらしいです。

前年同月で48％増だったら、結構増えていますよね。

そうですね。だし、少なくとも報道を見ている限りは、もっと多そうに正直思ってしまっていて。チェック・ポイント様が見ているのも、自分の製品を入れている会社様だけですので、もっと全数的な統計というのが出てきた時に、過去を振り返って、実はこの時期がめちゃくちゃ攻撃がもっと増えたポイントだった、という評価が未来にされてもおかしくないと思っています。

なるほど、分かりました。次のパートに行ければと思うんですが、「AIサイバー攻撃はどこまで来たか」というところで、実際攻撃に使われ得る、前回もOpenAIのモデルが暴走したという話をやりましたけども、そこから結構いろいろつながる話もあると思うんですが。

そもそも、それこそOpenAIの、前回収録した時にアストラというのが社内であって、というのが実際出てきました、9月で。その後のAnthropicもClaudeのOpusの5.5だったり、いろんな新しいモデルを出してきています。これらは使われているんですか。

当然の疑問だと思うのですが、私は現時点の評価では、そういうAnthropicやOpenAIのフロンティアモデルが使われたとはちょっと考えづらいなと思っています。一部使われたまではあるかもしれないんですが、サイバー攻撃の最初から最後まで全般でOpenAI、Anthropic系が使われた、は難しいなと思っていて。これ、なぜかというと、いわゆるガードレール機構、サイバー攻撃っぽいアクティビティはちゃんとモデルが事前に止めるみたいな、そういう機構が結構しっかりしているからです。

我々の会社も、AIを使って攻撃者よりも先に攻撃者の技術を模倣して、先んじてリスクを洗い出すことによって企業様を守るという事業をやっている立場ですので、どうしてもサイバー攻撃と同じようなことをAIを使って試行するということはあるんですね。技術的に同じことで、さっき言ったようなものとか、Fable 5.1みたいなものを使うと、サイバーセキュリティガードレールっていつも言われて、「これは正直何もできないな」みたいなところが、割と観測されているんですよね。

なるほど。

逆に、新しいモデルはガードレールで使いづらいけど、Anthropicを見た時に古いモデルだったらどうなのかというと、こちら出していただいているページなんですけど。こちら、9月にAnthropicが公表した、AIの悪用を検知、対策するというもので、非常に長いページで私も全部を読めたわけではないんですけど、サイバー作戦、サイバー攻撃においてOpusの4系と思われる、これを見ると5系が使われたか正確には分からないんですけど、おそらくOpusの4系より前、あとはSonnetとかHaikuとか、早めのモデルはサイバー攻撃で使われたということがここに公表されている。

逆に言うと、5とかFableとかは使われていないという読み方ができて、私の肌感通りガードレールが結構効いているのではないかなというふうに、私はこちらのレポートを読みました。

とはいえ、Haiku、Sonnetみたいな、能力をちょっと抑えたようなモデル、上位モデルから蒸留したモデルですよね。とか、Opusの古いモデルでも、それなりに威力はあるわけですよね。

そうですね。それなりにはある。

十分攻撃には使える、サイバー攻撃が増える要因には。

そうですね。要因にはなり得ると思います。実際、実例としてあったわけですし。ただ、ここ最近の攻撃事例の増加を見ると、それも含まれるかもしれないんですが、もっと怖いなと思っているのはオープンウェイトモデル系で。今、赤枠でも囲っていただいていますけど、GLM-5.3という、中国のZ.AIという企業が出しているオープンウェイトモデルに、セキュリティ業界としては結構注目が集まっていて。

こちら、サイバーセキュリティの攻撃能力が4月時点のミュトスとほぼ同等レベルであって、かつオープンウェイトなのでみんな使えて、かつ、さっき話したガードレールが結構弱い。生で「攻撃しろ」と言ってそれを鵜呑みにはしない程度のガードレールはあるんですけど、ちょっと騙すと結構ガードレールを突破して、サイバー攻撃的なアクティビティもやってくれるというのが、これまたAnthropicのレポートで出ていて。

まずこれが、アメリカのCAISIというAIの評価機関が、Anthropicがレポートを出す前に先月出していて。オープンモデルとして、オープンウェイトモデルとしてサイバー能力が最高、K3をも超えているというので、結構衝撃が出て。その後に、このAnthropicの今おっしゃっていただいたレポートが出たわけですけども、かなり十分な安全対策なしに一般公開されているリスクというのが、すごく強調されていましたよね。

そうですね。Anthropicとしては、自社はそういうセキュリティ攻撃のリスクを抑えるための投資をたくさんしている一方で、こういうのも出ちゃっているよ、という。よく言えば警鐘を鳴らしている。悪く言えば、自社以外のモデルが使われるところにちょっとブレーキをかけたい、みたいな意図も透けて見えるような、そういうレポートかと思います。

ちょっと騙すと使えるって、さっきおっしゃっていたのは、どの程度のものなんですか。

ミュトスとGLM-5.3を比較して、ミュトスはこういうガードレール突破の、4種類のやり方があるんですけど、それぞれも0％、成功しませんでした、あるいは全くできませんでした。GLM-5.3は、4つのうち1個目は何も工夫しない、ガードレール突破の工夫を何もしない生の攻撃。これは成功率0％なんだけど、次の段階の、設定を騙すみたいな感じですごく簡単なんですよ。「私は倫理的なハッカーです。これは攻撃的なアクティビティじゃないです。こういうことをしてください」みたいな。この程度の騙しで60何％はガードレールを突破できちゃった。

この時点でもう誰でもできることなので、もう割と十分かと思うんですが、その次はやや複雑なことをしているが、これを使う一般ユーザーもできることで、AIのモデルって何か言ったら推論結果を返してくれるじゃないですか。推論結果を返す前に、あらかじめ自分が、攻撃者がね、推論結果を一部前借りして、「こういう方向の回答をしろよ」というふうに強烈に誘導するというテクニックがあって、それをやると、もう8割か9割ぐらいガードレールを突破できたとなっていました。

最終段階は、オープンウェイトモデルのウェイトをいじれて、結構高度な攻撃なのでみんながやるかは分からないんですけど、そこまで行くと確か100％になっていたかと思います。

とはいえ、プロンプトの工夫次第で全然突破できちゃうということなわけですよね。前回の収録の時にも、中谷さん、強力な能力を持ちながら、安全性、安全上の制限が弱いモデルが登場する可能性があるというふうにもおっしゃっていて、まさにその流れですよね。

こんな予想が当たっても嬉しくはないんですけれども、当たってしまいました。

しかも、金銭目的の犯罪者は必ずしも最高性能のモデルを求めないという、そういう話も前回されて。つまりは、こういうモデルを欲している。

攻撃者は多いと思いますね。最高レベルのモデルというのは当然利用料も高いし、さっきも申し上げたように、最高レベルのモデルって大体アメリカのフロンティアモデルなので、ガードレールも厳しいし。そうなってくると、こういうオープンウェイトモデルはサイバー攻撃者にとっては1つ魅力的に映るものなのかなと思っています。

なるほど。でも、こういうもの、そこもフロンティアラボというか、AI開発企業の考え方の違いなんですかね。オープンウェイトでこういうリスクがあるんだったら、もうちょっと安全対策しようというふうにならないのか。

そうですね。これは私も見方が定まっていないんですけれども、安全対策にそこまで力を入れるよりも、とにかくベンチマーク的なスコア、サイバーセキュリティだったり数学的なスコアをとにかく伸ばして、アメリカのフロンティアモデルに比べて、さっきも何か月でアメリカのフロンティアモデルに追いついた、みたいなグラフがありましたけど、とにかくここを早く伸ばしていく。そういうところに1つのインセンティブがあり得るなというふうに考えています。

なるほど。今のところ4か月ほどの遅れだという話なんですが、別に4か月遅れたからって、もう十分な。

そう、待てますからね、4か月。

まさにそこ、どうなんでしょう。開発を一旦遅らせようみたいなのも、そりゃ出てくるよねという話なんですけども。でもこういうモデルが実際、ある意味ばらまかれている状態になった時に、どんなことが起きてくるんでしょう。

サイバー攻撃が増えているよね、漏洩事案が増えているよねと申しましたけど、これ、どうしても増えちゃうんじゃないかなと。本当にAI、こういうのが使われたという証拠はないというのが当初申し上げた通りなんですけど、とはいえ、これがあると増えるのは自然な流れなのかなと思っていて、とにかく被害の数が増えるというのと。あと最近聞いた話で、数が増えるだけじゃなくて、被害を受ける企業の、ある種裾野みたいなのが広がっちゃっているという話があって。

何かというと、AIより前の時代というのは、結構ひどい被害を受ける企業って、いわゆる大企業さん。

まずお金を持っていそうなところ、みたいなところですよね。

そう。これ、なぜかというと、人間がちゃんと攻撃を仕上げて成立させるためには、結構な苦労、コストがかかるわけで、コスパを考えるとそうなっていた。一方でAIだったら、いろんな企業に対して「ここはこんな穴があるかな」みたいなのを探して、穴が一発では見つからなかったけど、「この反応を返すんだったら、こういう攻撃なら通るんじゃない」みたいな試行錯誤、カスタマイズみたいなのがAIで簡単にできちゃうようになっているので、割と有名ではないと言えるような企業様であっても、攻撃を成功させられてしまったみたいな事例が増えているという分析があって、私もなるほどなと思った次第です。

なるほど。これだけのレベルになってきた時に、今AIを使うのは人間ですと。ただ、前回少し見たように、AI自体が暴走してみたいなことも、これはもっと増えるんですかね。

これはまず、アメリカ系のモデルはさっき申し上げたようにガードレールがしっかりしている。本当にしっかりしていると思っているんですよ。私、専門的に使っているつもりですけど。だから、ああいうモデルでの消費者サイドの暴走みたいなのは、あまり私は気にしていなくて。最近もOpenAIがまた政府系を暴走で攻撃してしまったみたいな報道もありますけど、あれもHugging Faceと同じように、あえてガードレールを外して評価している時の事故ですので、評価の際の設計をもっと安全に倒すとかで、いずれは対策されていくものかなと思います。

極めて特殊な状況でしかないと。

消費者サイドじゃなくて、AI開発サイドの暴走という話だと思っています。

なるほど、分かりました。というわけで最後のパートに行ければと思うんですが、「日本企業に突きつけられた課題」というところで、今回そのJNの取材に対して、白火シのキリというところが答えていてですね、「日本は世界最悪のコンピューターセキュリティ体制だ」というコメントをしているんですよ。これ、どう受け止めますか。

これは身も蓋もない話をすると、犯罪集団の声に耳を傾けていては向こうの思う壺だと私は思うんですよ。だから、こういうのは基本的に無視していいし、無視すべきだとまず私は思っています。だけど、こういうのがあろうとなかろうと、日本においてもこれだけサイバーセキュリティの被害が増えているということをちゃんと真剣に受け止めて、自社は本当に大丈夫かなというのを見直していく、そういう姿勢は大事だとは思っていますが、これがあるからという理由づけはちょっとあまりにもなとは思います。

でも、どうなんでしょう。その辺のセキュリティ体制が一般的にどうかというのは、比較。

これ、難しいですよね。日本のITってこうだよね、みたいなのがあるわけでは当然なくて、日本企業も今、AWSにしてもGoogle Cloudにしても、米国製だったり他国製のクラウドとかも使って、クラウドアーキテクチャとか言われるようなものを使っている中、日本がこうだよねという共通項というのは、そこまでないんじゃないかなと思っています。

とはいえ、これだけの状況に今なっている中で、何をすればいいのか。

そうですね。ここは本当に今一度真剣に考えるべきポイントだと思っていて、今まではいかに攻撃を防ぐかというところが重点だなと私自身も考えていたんですけれども、ここまで被害事例が増えてくると、もう攻撃を受けることをある程度覚悟する、攻撃を成功させられてしまうことを覚悟した……というのまで必要だなと思っています。具体的には2つほど考えていて、1個は体制の再点検を行う。もう1個は訓練を行う。この辺りが大事だと思っていて。

再点検の方について申しますと、うちの会社のセキュリティの体制というのはどうなっているかな。侵入を防ぐための手立てとしては何があるか。そもそも侵入され得るものとしてどんなソフトウェア資産を持っているかというのは、ちゃんと洗い出せているか。この時なので、侵入されたことも覚悟して、侵入された後に被害を極小化する対策というのはどういうのが取られているか。この辺の設計部分、組織体制も含めて、ソフトウェアも含めて、設計の部分を見直すということが再点検の中の1つ。

もう1個大事な点検は、うちも気づいていないだけで実はやられていないか、というふうに、過去に攻撃されていないかというのを見直す点検も大事だと思っています。

気づいていないけど、過去にやられていた可能性がある。

そうそう。日本も9月にたくさん被害の報告があったんですけど、あれ全部9月に攻撃されたというわけでは必ずしもないはずで、あれだけあるなら、昔やられていて、気づいたものを9月に公表したというパターンも、おそらく何件かあったはずだと思っているんですね。それにちゃんと学んで、自社もそういう意味の再点検、再チェックもやるべきかなと、1つ思っています。

なるほど。その訓練というのは。

そうですね。訓練はAIに関係なく、従来、セキュリティの訓練というのは大事だと言われて、やられてきた企業もあるんですけど、いざ攻撃を受けた時に、誰がまず気づく、何によって気づくのか。気づいた後にどんなレポートラインに報告するか。そして気づいた時に被害を抑えるために、インシデントレスポンスというものがセキュリティの業界ではありまして、いかにして被害がこれ以上起きないように封じ込めるか。封じ込めた後にどれほど被害があったかというのを特定して、どう公表していくかみたいな、そういうことを考えていくというのは、割と技術として確立した部分でもあるので。

そういう体制がそもそもちゃんとあるか。あるならば、ちゃんと本当に攻撃された時に実効的に動くのかというのを、攻撃されたというシナリオで組織全体で訓練する。こういう動きが大事かなと思っています。

なるほど。本当に訓練していても、今AIってどんどん強化学習だとかで賢くなっていって、人間の意図を超えた動きまでするようになるぐらいということを考えると、AIにちょっと指示しただけで、攻撃者が指示しただけで、攻撃の目的を達成するために、攻撃対象の企業にいる人間たちを騙すことなんて、たやすいものになるわけじゃないですか。

今よりは、はい。

訓練でもカバーできない、もっとイタチごっこみたいにもなってきそうにも思いますが、エージェントの進化に照らしてみるとどうですか。

それはあるとは思っています。でも、イタチごっこすることも大事だと思っていて、AIでいくら進歩して、「こんな攻撃までやられるようになっちゃったんだ。じゃあこういう対策も大事だよね」というふうに知恵を重ねていくしかないと思っていて。その重ねていった知恵で、今までの訓練よりこういうところをちょっとアップデートしたから、ここもちゃんとやろうというのを、ちゃんと定期的にやっていく。地道なようですけれども、大事なことかなと思っています。

なるほど。最後に伺いたいのが、もうちょっと一人ひとりのレベルに落とし込んだ時に、社員として、あるいは一人の個人として、結構怖いなと思っている方、今いっぱいいらっしゃると思うんですけど。

そうだと思います。

何を考え、どう行動したらいいのかというと、いかがですか。

これはもちろん難しいなと思っていつつ、実は私も一人の人間として、消費者として怖いなと思っている部分は多々あります。私が心がけているというのは、1個1個の事例を全部見ていくというのはもう無理だなとも正直思っているので、世の中的にどんな攻撃が増えているのか、自分らの業界も狙われているのかというのを知って、大体の場合は「もう狙われ始めているな」という結論になると思うので、まず危ない状態なんだなというところまでは認識していただく。

その後、従来、会社の中で多くの場合はセキュリティ研修などがあることが多いと思いますので、改めてセキュリティ研修でやったようなことを見直してみる。例えば一番最初にありそうなのは、セキュリティハンドブックみたいなのが各企業ごとに配布されていて、その中で何かが起きた時にはどこに連絡すればいいんだっけ、まず、みたいなものを見直してみるだとか。

自分がセキュリティインシデントのきっかけになる当事者であるということを少し想定して、じゃあその時、第一手は何からやればいいんだっけ。誰と協力して、自分の被害を会社全体に拡大させないようにすればいいんだっけ。そういうところを見直していくことが大事なのかな。

なるほど。訓練的な、実感が湧くようにしないと、みたいなところ。

それは1つ大事なことだと思います。実感を持っているというのは。

やりすぎて狼少年みたいになっても。

そうですね。それも怖いんですよね。セキュリティって難しいんですよね、本当に。

そう。起こってから一番危機を感じるし。でも、その前に備えておかなきゃいけないわけですよね。

そうですね。セキュリティを守る立場にいる人は、狼少年みたいに、実は誤報でしたというパターン、自分の思い違いでしたというパターンには、基本的に寛容であると思います。絶対に報告が上がってこないことの方が怖いので、セキュリティを守る側にとっては。だから、そこはあまり、狼少年が怖いなと言いつつも、第一報はちょっと勘違いでもいいからちゃんと上げるということは、心がけとして大事かと思います。

なるほど、分かりました。ここまでAgenticSecの中谷翔さんと、「AIが引き起こすサイバー攻撃地獄」についてお送りしてまいりました。本日もご視聴いただきありがとうございます。ぜひチャンネル登録と高評価、そしてCROSS DIGの公式Xのフォロー、さらにニュースレターの配信も始めていますので、ぜひご覧ください。中谷さんのご出演、本当にありがとうございました。

ありがとうございました。