「AIにはAIを」――安野貴博が語る、相次ぐ情報漏洩の原因とこれから起きること

ReHacQスペシャル。今日は、巷で大騒がせしてる情報漏洩。「情報漏洩はなぜなくならないのか」というタイトルで、今日のゲストはチームみらい党首の安野貴博さんです。安野さん、よろしくお願いします。

よろしくお願いします。

もうね、サイバーといえば、AIといえば安野さんということでね。

いや、でも本当やばいですね。連日、普通であれば1年に1回あるレベルの脆弱性の発見。例えばこの前、PHPの話とかありましたけど、そういうレベルのものがバカスカ出てきててですね。

バカスカ出てきて。PHPって聞いた瞬間、俺は出版社だと思ったから。

そうですよね。PHP出版。

アクセンチュアに入った時に、HTMLっていう言語とかあった。多分、同期のやつもみんな知ってんのかな。Javaとかね。研修やるんですよ、アクセンチュアにいると最初。ITの。僕の、だからまだ30年ぐらい前だから、C言語とかさ。書いてみよう、言語書いてコンパイルするみたいな。ずっと僕できないからドラクエやってました。その頃から落ちこぼれた。

いやいやいや。

ドラクエ、解いちゃった。研修中にドラクエ3。ごめんなさい。それで、今日、安野さん来ていただいた貴重なお時間ですから、何が起きてんのか、なぜ起きるのか。それを個々の企業ができること、政治にできること、そして私たちにできること。少ないかもしんないけど、自分で自分の身を守るとして何ができるのか。せっかくだから全て聞いて、企業、政治、私たち、それぞれ何ができるのかをお聞きしたいんですけど。

その前に、そういえばさ、りなくろさん大丈夫？ 手、治った？

治ってないですね。毎日、包帯巻いてますよ。何を言ってるかわかんないと思うんですけど、うちの妻が骨折しまして。

小指を折っちゃったのかな。そう、ミスターサンデー出た時さ、すごい包帯巻いて現れて。一緒だったんですよ、僕とりなくろさんと。「どうしたの？」って言ったら、安野オフィスの冷蔵庫を開けたら上から缶ビールがこぼれてきて、それを押さえたら。

指、折れました。ちょっとわけわかんないですね。

わけわかんなかった。

とりあえず、ちゃんとカルシウムを取った方がいいんじゃないかと思って。

「安野さんにそれ、何て言われたんですか？ 謝られたんですか？」「カルシウム取った方がいいって言われたんです」。

いやいや、でもそうだと思いますけどね。

そうだと思う。どういうことだ？ 安野さんのところ、そんなにビールがいっぱい入ってたんですか？

いや、入ってないんですよね。何個か缶はあるんですけど、そんなパッと開いて出てくるかっていうのが、まず怪しげで。そこにぶつかって骨が折れるかというと、そこもちょっと。

わかんないんだよね、確かにね。でもさ、結構な痛みというか、傷的だよね。

痛そうだったので、「もうすぐ病院行った方がいいよ」って言って。ギプス、何て言うんだろうね、固定をつけて、もうずっとあれですけど。

「安野は包帯も巻けません」って言ってました。あんなにAIできるのに包帯巻けないんだと思って。

そこはそんな因果関係ないと思いますけど。相関、逆相関があってもおかしくない。

いやいや、AIができて何でもできそうなイメージだったから、巻けないんだ。

巻けないです。最近、ちょっとだけうまくなりました。

うまくなった。だってあれ、自分で巻けないでしょ。多分りなくろさんも。

でも巻きにくいと思います、手だから。あと、もうキーボード打てなくなっちゃって、右手がこうしてると。だからもうずっと音声入力でやってます。

音声入力。それでさ、りなくろさんが音声入力ずっとやるって言うから、俺、真似してみたけど、音声入力、今めっちゃ優秀じゃない？

そう、めっちゃ優秀なんですよ。

あれね、もうこれやる必要なくないですか？

僕はもう習慣でバーッて打っちゃうんですけど、ただ、普通に言った方が早い時いっぱいありますよね。あと、ちゃんとした文章になってなくても、特にAIに対するプロンプトとかだと、数分間、思いついたままにワーッと喋り続けて、それをそのまま投げると、いい感じに命令としては読み取ってくれたりするんで。ちゃんとした日本語になってなくてもいい感じになるっていう意味で、音声入力、めっちゃおすすめですね。

そうだよね。もう音声入力でいいですよね。

AI家庭教師を高市総理に8月末やった時も、あの時もやっぱりキーボードを打つと時間が間延びしちゃうんじゃないかっていうことで。あと、音声入力もいいよっていうのを伝えるために、音声入力でやってくださいっていう感じ。

そうです。

そうだ。

そうなので、見ておられる方も、今の音声入力すごいいいんで、おすすめです。

音声入力ね。あと、さっきも話したんだけど、僕が個人ホームページ、個人YouTube始めたんです。

おめでとうございます。

ありがとうございます。あれさ、サムネで今苦戦してて。最初作ったやつを見て。「YouTube始めました」って。

これ、もうめちゃめちゃ味がね、味ですよ。

味。50のIT音痴のおっさんが作るとこうなるんだぜっていうのをね。「YouTube始めました」って。

もう絶対AIが作れない味ができてる。

作れない味があると。

素晴らしい、素晴らしい。

2回目、だからチャッピーに作ってもらったんですよ。このテスト作ってさ、すごいかっこいいサムネを作ったと思ったら、これ、コメント欄で大盛り上がりしてしまったんだけど、「もうやめなさい」と。

やめなさいと。

そう。AIサムネ、もうあっちこっちあふれてるから、1回目のこのお手製のが良かったんじゃないかと言われて。

もうそうですよ。だって、こんなテイストのやつ、めちゃめちゃいっぱいあるじゃないですか、YouTubeの中に。埋もれちゃいますよ。

確かにね。確かに言われてみますと、これですね。これ、チャッピーに作らせるとやっぱこうなっちゃうもん？

これ、チャッピースタイルだと思いますね。

チャッピースタイル。Claudeで作ったらもうちょい違う？

私、結構Midjourneyを使ってますね。そういう意味で言うと、Midjourneyっていう画像生成AIの草分けみたいな、老舗のところがあってですね。

それもアメリカ？

アメリカですね。

アメリカなんだ。

22年くらいからやってる老舗のところがあるんですけど、ChatGPTでMidjourney向けのプロンプトを作らせて、Midjourneyで作るとちょっとテイストが違うんで、みんな見慣れてないものが出るから、割と私は好きで使ってるみたいな。

なるほどね、面白いね。AIもやっぱり、みんなそれぞれ別々に使ってるけど、同じような画像になっちゃうもんな、サムネとか。

私もあんまり言語化できないですけど、パッと見てわかるじゃないですか。これってもうすげえチャッピーっぽいなとか。あと、今日のスライドもすげえClaudeっぽいなとか。

やっぱそうなんだ。面白い。そう、これClaudeです。

やっぱそうですよね。

そう。だって俺、安野さんに聞いたのにしかやらないから。安野さんが、ビジネスのプレゼンスライドとかはClaudeがいいですよって、静岡行った時に教えてくれた。

そう、静岡。

あの時に教えてくれたから、そのままあれ以来Claudeしか使ってないです。

でも、パッと見、わかっちゃうってところはありますね。

なるほどね、そっか。でも面白いなと思って。AIで作ると、みんなAIにある意味飽きてんのか、この原始的な手作りの方がいいとは言わないけど、「もうそっちでいいぞ」って言ってくれるのが、逆に。

AIスロップって最近呼びますけど、AIが作った品質、AIポン出しそのままの生成物が、みんな作りやすいんで、めっちゃ世の中にあふれちゃうわけですよね。会社の中でも、政党の中でも、AIがポン出ししてきたレポートがあふれてて、読み手が追いつかなくて、しかも人間の目が入ってないからクオリティもいまいちみたいなものがあふれちゃってるっていうのが、ちょっと課題です。

むしろ、そこから将来はさ、これだけ今AIが何でもできるようになると、ReHacQみたいなメディアとか、箕輪厚介みたいな人は生き残るんだろうね。

箕輪さんはね、本当そうだと思いますね。

AI時代に、AIにはできないじゃん。ただただ旅してハイボール飲んで喋ってるだけっていう、あのコンテンツ。

あれはやっぱり、AIが想像できないノイズがたくさん混ざっていて。

そう。AIにあの喋りできないじゃないですか。多分ああいうのが求められてくるんですかね、そしたらね。もう箕輪さんすごいなと思って。

でも、みんながみんな、あんなふうに生きてたら大変。

みんなが箕輪さんだったら、それはそれで大変なんで。

世の中からハイボールがなくなっちゃうよね。

消費量が。

なるほどなと思ったんです。ごめんね、話それたんですけど、とにかく今日、今問題になってるAIでもいいんですけど、情報漏洩とサイバー攻撃。やはりこれを聞くのはReHacQ的には安野さんしかいないと。タイムズカー、焼肉きんぐ、そして最近だとGMO。この1か月は毎日のように「うちも漏れました」っていうニュースばっかりな気がして。毎日毎日、新しい漏洩起きて。

やっぱりそうですね。ここには載ってないですけど、結構セキュリティ強いと言われていたところも狙われてるな、狙われてるというか、起きちゃってるなと。

それって具体的に言うと？

証券会社であるとか、あとは最近だと外務省。

外務省やられたんでしょ？

外務省やられましたね。外務省と、あとデジタル庁が9月頃にやられていて。でももちろん、証券会社、政府機関はちゃんと守りは固めているはずなので、実際、中小企業、他の企業よりも強いとは思うんで、それでも漏れてしまっているということかなと。

これはもう、いきなり核心にいきますよ。何でこんなに急に出てきたんですか？ 多分タイムズカーが最初かな、みんなの認識で大きかったの。

でも大きかったのはやっぱりタイムズカーで、免許証の券面画像が全部漏れたのは、あれ強烈ですよね。

あれ強烈ですね。

あれはやっぱり、その券面画像さえあれば、他の会社で例えば口座作ったりとか、クレジットカード発行したりとかできちゃうんで、結構クリティカルだったと思いますね。なぜ起きてるのかっていう意味で言うと、これはやっぱりAIです。

AIなんですか？

AIです。2025年の夏、去年の夏からちょっとずつ、AIのシステムを攻撃する能力が上がってきてたんですよね。

去年の夏ぐらい。

去年の夏ぐらいから。

それは去年の夏だけど、まだClaude Mythosは出る前です。

出る前ですね。Opus 4.0とかそこら。

Opus 4。今、Opus 5.5。

今、Opus 5.5ですね。もうその頃あたりから徐々に、あれ、これ攻撃に使えるんじゃないかという感じになってきまして。いよいよ今年の4月、Claude Mythosが出てきて、このReHacQでも一度お話しいただきましたけれども、Claude Mythosは非常に攻撃能力が高いと。

高いと。

Claude Mythosは、ある意味、それをアクセスできる人を制限していたんですよね。ちゃんと身元がわかる人しかClaude Mythos触れませんよというふうにしてたんですけど、オープンウェイトモデルと呼ばれる、その2番手、3番手の、フロンティアモデルほど強くないんだけれど、オープンウェイトの、特に中国製のものが多いですね。

みんなそうですよね。

そこがいよいよ4月段階のClaude Mythos Previewと、そのくらいの性能のものが出始めてきたので、4月当時すごく言われていた、このレベルのAIが世に放たれると危ない危ないと言われていたものが、実際に世に放たれたのが8月の末です。

今年の？

今年の8月。

なるほどね。だから一致してくるわけですね。その頃からこういうのがいろいろ出してるから。やっぱり人間、優れた技術が出回ると、必ずこうやって悪いこととしては出てくるわけですね。

そうですね。やっぱりAIが出てくると何が変わるかというと、攻撃をするコストがめっちゃ安くなるんですよ。つまり、今までも悪いハッカーの人たち、攻撃をしてくる人たちって、基本的には2つくらいしか目的がなくて、お金を儲けるか、あるいは政治的攻撃をするかの主に2つと言われてるんですけど、お金を儲けるためであったら、ちゃんとターゲットを絞らなくちゃいけなかったわけです。

攻撃しやすそうなところにして、自分の悪い組織が囲っているサイバーセキュリティの攻撃者に攻撃させて、うまくいくか、うまくいかないかみたいな感じなんですが、最近はもう無差別に、世の中、インターネット上にあるエンドポイント、アクセスできるところに、ひたすら脆弱性がないかどうかスキャンし続けられるので、脆弱性が見つかってから、それどうしようかって考えられるくらいになってきたと。1件当たりの攻撃で大体3000円くらいでできちゃうっていうような統計とかもありまして。

1件って、例えば100万件ぐらいの規模のやつが？

規模のやつも、その1つの会社を攻撃するのに、今までであればすごいリサーチとかもして、人間が何時間、何週間もやってたわけですけど、ポンとできちゃったりするので。

3000、4000円でできちゃうの？

3000、4000円くらいなんじゃないかというレポートがあります。

何にかかる、3000、4000円。それ電気？

これ、AIトークン費用とかそこら辺ですね。AIを使うためにかかるクレジットだけで、ほとんどできちゃうっていう。

これやってる人たちはさ、今、政治的なのとお金儲けってあったけど、どういうこと？ この2つが大きな目的になるんですか？ どういう人たちがそもそも攻撃してるんですかね？

どういう人たちかっていうのは、まだわかってないところも多いんですけど、今までの傾向で言うと、例えば2つ目の政治的なバックグラウンドで言うと、ある国がバックアップしているサイバー犯罪組織があって、何らかの政治的な意図を持って、その国の何かを攻撃するみたいなものがありますと。もう1つは、ランサムウェアのような、人質にデータとかシステムを取って身代金を要求して、それで儲けるようなビジネスのエコシステムがあると。この2つが主だと言われてます。

GMOが確か、そのランサムってやつですね。

GMOのケースは身代金を要求されているんですけれども、GMOさんの場合は特殊で、この2つ両方当てはまらないんじゃないかとも言われて。

本当に？ じゃあちょっとそれ、また後で。スライド1個戻してもらって、この1か月を改めて振り返ると、タイムズカーが約160万。今、サービスは免許証の画像などね。全部、退会した人の分まで持ってたんだもんね。

退会した人だと、もう本当に防御不能ですよね。

ちょっと気の毒になりますよね、これね。焼肉きんぐ、これね、みんな大好き焼肉きんぐ。1017万件。公式アプリの会員情報。これも結構、名前と年齢、下手したら住所も入ってるかもしれないですけど。ブックオフ、これが最大643万件。会社の会員情報で、JR東日本の延べ609万。委託先のクラウドへの攻撃、カード情報など。GMO、今、後で話すと思うけど、約79億円の身代金、ランサムウェア。要求され、拒否、顧客の情報をさらすと脅迫。JAL、これは何だこれ、10月29日ってこと？ 委託先の予約システム。これ、安野さん、今読み上げると、共通って、子会社だったり委託先っていうのも結構多くないですか？

これ、一概には言えないと思いますね。確かに、その会社の中の一番弱い部分を狙われることが多いので、そういう意味では委託先っていうのもあるかもしれない。

共通点なのかな、ちょっと思ったりしたんですけどね。

弱いところが狙われてるってことだと思います。

そういうことですかね、やっぱりね。本体は強固にやってても、ひょっとしたら委託先にまではそんなに投資が届いてない可能性あると思うよね。あくまで可能性ですけどね、これ。

次のスライド行ってもらって。数字で見る異常事態。100万件の大規模漏洩、昨年6件、今年もすでに10件、過去最多で。1000万の超大規模、14年間で3件。今年だけでもう3件。1年で14年分ですね。企業、被害を受けても約2割。だから多分、見えてんのはひょっとしたら氷山の一角で。

そうですね。やっぱり公表をしないということを選択する人たちもいるわけですよね。公表しないんだったらまだまだ良いというか、さらに悪いのは、検知すらできてないケースですね。

情報漏洩してることに気づいてない。

気づかない。

恐ろしい話だね。

そういうのもあると思います、私は。なので、そういう意味で、まだ被害を受けて見えてるのは本当、氷山の一角だと思いますし、さらに言うと、これから状況、悪くなる方向に進みそうだなと思っていてですね。

それはどういうことですか？

それはやっぱり、今、最新のAIのモデルが、すごい攻撃能力高いと言われてるモデルが出てき始めたのって9月くらいなんですよね。8月末に公開されて、9月くらいから実際に使われ始めるかなということなんですけど、これ、攻撃をし始めてから、それが実際に成功して、それが会社に検知されて、公表までいくためには、リードタイムが結構必要なんですよ。これが大体、半年から3か月くらいっていうふうによく言われてたりしますが、これくらいのリードタイムがかかるということを考えると、実は今、9月頃に公表されてる事例って、多分6月とか5月とか、もっと前の事例が多くて。より強いモデルが出てきた影響が出始めるのは、多分、今月、11月くらいから来年の頭くらいにかけてだなと思うんで。

マジ？ これ、まだピークじゃないんだ。

さらにもうちょっと言うと、情報漏洩っていうのはサイバー攻撃の中でもまだマシな方だと思ってます。つまり、ビジネスの停止を伴わないじゃないですか。情報は漏洩しても、別に焼肉きんぐには行けると。

ああ、まあね。

なんですけど、例えばインフラに関わる部分のシステムを停止されるとか、ランサムウェアで、より停止を伴うような、システム復旧もさせないぞって言われるようなもの。GMOさんもまさにそうですけれども、そういうものが出てくると、より深刻だなと思いますし、あとは金融系でも、まだ勘定系とか、より直接的に何か金銭が取られるものってあんまり。バイナンスがね、先週出ましたけれども。

あれ何です、バイナンス。

バイナンスは仮想通貨ですね。仮想通貨の、取られてしまったっていうものがあったんですけど。

北朝鮮系でしたっけ？

北朝鮮系という話はあります。

話はある。恐ろしいね。そうか、仮想通貨取られちゃうわけね。

そうですね。

そうか。あれデジタルだから、取ろうと思えば取れるわけか。

なので、そういう本当にクリティカルな被害に結びついていくのが徐々に増えないかなというのを、私はすごい懸念してます。

そっか。まだ今、日本で言われてるのは情報の漏洩、個人情報の漏洩レベルで。

これはこれで良くない話ではあるんですけど、ただ、まだ序盤戦というか、もっと悪くなることがあると思います。

大変な世の中になっちゃったんだけど。フランスでしたっけ？ 冷凍食品の温度、冷蔵庫のシステムに入られて、設定温度150度にされて。おかしくないですか？ 設定150度、全部腐っちゃうわけですよね。

150度は無理らしいんで、50度ぐらいまで。とはいえ。

とはいえですよね。相当な損害出たというのもありますし。

そうです。これ、過去にも何度か起きていて、例えば日本でも名古屋の港湾がランサムウェアで数日間封鎖されたとか。アメリカでも、東海岸か西海岸か忘れましたけど、石油のパイプラインが止められてしまって、1週間くらい、パイプライン、届かなくなっちゃったっていう話とかもあるんで。こういう実際に産業で使われてるシステムに影響が出てくることっていうのは、全然想定がされるものです。

恐ろしいな。

重要インフラをやっぱり守らなくちゃいけない。

まだ序の口かもしれないね。「なぜ止まらない、3つの理由」。次。これは何？ まさに1が、さっき安野さんおっしゃったやつね。AIで攻撃が速く安くなったと。

そうです。これがやっぱり、3つ挙げていただいてる中でも一番本質的な理由だとは思います。2つ目が「わかっていても直さない」というところを挙げていただいてますけど、これも直さないっていうのもありますけど、直せないっていうのが正直なところなんじゃないかなと。つまり、その会社からしてみると、穴がある、脆弱性があるという報告が上がってるけど、それに割く時間も余裕もコストもないんだと。そのプライオリティー付けがちゃんとできてないという話もあるんですけど、そもそも、やっぱりこれができる方の数も少なかったりするので、わかってても直せないっていうケースは多々あると思います。

そうか、わかっていても直せないね。なるほどね。データを持ちすぎじゃないかと。タイムズがそうですけど、退会した人の免許画像。

そうですね。まさにタイムズカーの事例なんかで言うと、本当に免許の券面画像を保存しておく必要があったのかというと、ないんじゃないかと言われてます。一応、法的にその人の氏名とか住所とかは、後からたどれるように2年間は保存しないといけないみたいな法令はあったんですよね。これあったんですけど、別に住所と名前が保存されてればよくて、券面の画像が保存されてる必要はない。なので、ちょっとトゥーマッチな保存をしてたんじゃないのというのはありますね。

なるほどね。いつか使うかもしれないし、あえて消す必要もないと思っちゃったんですかね。

そうですね。その気持ちもわからんでもないんですけれども、やっぱり今までだと、結構個人情報、データって、持っておいて、それが使えたら使おうみたいな形で、企業側はすごい収集するケースもあったんです。なるべく企業も必要ないものは持たないようにしようっていうのは、しないといけないと思いますね。

なるほどね。そして次、誰が何をすれば。企業にできることと、個人にできること。企業、ネットにつながる機器の弱点を塞ぐ、多要素認証、アクセス権は最小限に、いらないデータを消す、経営トップが責任を持つ。この辺ですか？ もっと他にできることあります？ それとも、これじゃちょっと違うのかっていうと、どうですか？

書いていただいてることはその通りだなと思いつつ、やっぱりAI以前とAI以後で、全然セキュリティの考え方を変えないといけないと思ってます。それこそ、攻撃があれだけ速く安くできるようになってしまったのであれば、逆に守る側もAIを活用していかないといけない。

なるほどね。

よく「AIにはAIを」っていうことを僕言ってるんですけど、AIを守備側も使いこなすということをしないと、もう絶対間に合わないと思います。

そっか。だから今、AIを使ってサイバー攻撃を受けてるわけだから、サイバー防御の方もAIを使えと。

例えば、それこそAIの攻撃ってものすごい頻度でやってくるので、今までの業界慣習だと、大体1年間に1回、脆弱性テストっていう、そのシステムをテストで攻撃してみて、演習で攻撃してみて、こういう穴があったよっていうのを洗い出して、その穴を直すっていうのを1年に1回やってれば、業界標準くらいだよねという感じだったんですけど。もうこの状況になってくると、AIのモデルって1か月ごとにどんどん新しいのが。1年に1回では遅くて、もう数日に1回ぐらい、そのチェックをAIが自律的にやらないとまずいんじゃないかという話であるとか、あと、やっぱり作り直しも必要になると思いますね。

システムの作り直し。前もPHPの話とかありましたけれども、PHPも結構古いバージョンのものを頑張ってセキュリティパッチを当てていく、ちょっとバージョンアップをしていくっていうのをやるのって、相当古いバージョンのものだと大変だったりするんですよね。だとするのであれば、今の技術を使って、元々あるシステムを作り直さないと、そもそも堅牢な守りっていうのは実現できないんじゃないかと。

なるほどね。

例え話で言うと、私、耐震基準あんまり詳しくはないですけど、耐震基準も旧基準と新基準に分かれていて、昔作った建物の基準だとまずいから、新しいものにどんどん建て替えていこうみたいな話があるわけじゃないですか。結構これも似たようなものだと思ってて、ビフォーAIの時に作られたシステムだと、やっぱり穴はどうしてもたくさんあるから、アフターAIのこのご時世に、今わかっている安全な作り方で作り替えるっていうのを、結構大規模に社会としてやっていかないといけないんじゃないかなと思いますね。根本的には、やっぱり作り直しまでやらないといけなさそうだなと思ってます。

そうですか。じゃあもう、すぐ始めないといけないし、今、それでもできてるところってあるんですか？

多くないです。多くなくて、あるスタートアップ企業がランサムウェアでやられたんですけど、9月、10月に。その企業は、もうランサムウェアでやられたシステムを復旧するのを諦めて、ゼロから作り直しますってことを言ってました。

でも、大企業とかはまだいいと思うんですけど、そんなにお金もない中小企業とか、どうすればいいんですか？ 作り直すって言っても。

これは1つは、中小は厳しいっていうのはそれはそうなんですが、1つ朗報があるとすると、AIによって、それこそAIによって作り直しのコストってめちゃめちゃ下がってると思ってるんです。なので、もうここに実現されてるシステムを、より堅牢な言語であるとか、ミドルウェアであるとか、そういったものを使いながら作り直してっていうのは、これは意外と安くできる。想定されてるよりも安くはできるんだろうと思います。

ただ、とはいえ、お金がかかることは間違いなく、今の中小企業にそれが払える体力があるかというと、全然それは厳しいと思うので、ここは短期に頑張るのであれば、国が何か支援をするとか、作り直しをしようとしてるところに対しては、補助金であるとか税優遇であるとか、そういうものをすべきだと私は思いますし。あと、チームみらいも、ここの支援を企業に対してすべきなんじゃないかっていう、補助金じゃなくて補助トークンを出せばいいんじゃないかっていう。

トークンはAIが使うクレジットみたいなものなんですけれども、トークンで払えば、そのお金っていうのがどこかの謎の企業に吸収されるわけではなくて、ちゃんと作り直されるものとして、AIを使って守りを固めるっていうことに対して使われるっていうことがわかってるので、そういったやり方はあるのかなと思います。

なるほど。せっかくだから、チームみらいの緊急提言もあるんで、その前、先に政府の緊急対策パッケージ、6本柱。これは特に安野さんは絡んでないんだよね。

政府の緊急対策パッケージは、直接は絡んでない。

直接は絡んでない。でも、いろんな形でアドバイスをしたりはしたのかもしれないと思うんですけど。1、被害企業を支える。2、情報を集めて発信。3、攻撃に対処する。4、弱点を先回りで探す。5、政府自身を点検。6、やっぱり予算をつけるってありますね。これ、6の「予算をつける」を、安野さん的にはトークンにした方がいいってことですか？

そうですね。もちろん、実際のお金っていうところもあると思いますし、トークンっていうのもあると思いますし、両方やればいいと思います。より言うとすると、やっぱりAIを使う量自体が多分増える中で、計算資源自体が足りなくなると思うので、そういった計算基盤をちゃんと拡充していくっていうことは、つまりデータセンターとかサーバーとかですね。AIがホスティングされてて、そのサーバーにアクセスして使えるようなものっていうのを作っていかないといけないかなと思います。

なるほどね。そして、お待たせしました。最後、チームみらいの緊急提言、7本柱。これは10月23日だから、1週間ぐらい前ですかね。

そうですね。先週、デジタル大臣に、古川大臣に提言を渡したとして。

これ、安野さんの方から、せっかくなんで説明していただいてもいいですか？

そうですね。7つありまして、全体を通して、やっぱり「AIにはAIを」と。AIからの攻撃にはAIで防御しなくちゃいけないんじゃないかということを申し上げております。1個目が国の防御力の底上げというところで、防御に活用できるAIを国が確保する。このAIって言ってる時も、2つ実はこの中にありまして、1つはClaude MythosとかChatGPTみたいな、皆さんがよく使っているAIで、プライベートモデルと呼ばれるようなものですね。

これは海外にAIのサーバーがあって、そこに対して、自分たちの脆弱性を調べてほしいものを送って、「こういう穴があるよ」って返してもらうっていうもので。ここには2つ、実は問題があります。1つは、まず自分たちの本当に機微な情報、ソースコードの中身とかを、なかなか海外のサーバーの、しかもOpenAIとかAnthropicとか、そういう私企業に送ることには、やっぱりハードルがある会社もある。政府とかもできないというのが1つ。

もう1つは、この2つは安全性、セーフガードみたいなものがすごい効いていて、なかなか脆弱性を調べようとすると、普通のバージョンだったら「それはできませんよ」っていうふうに返されちゃうんですよね。なので安全機構が発動して、「攻撃してみて」って言っても、「いや、そんなことできません」と言われてしまうことが多い。一部の企業に対しては、一部の政府などに対しては、安全装置を外したっていうのもアクセスできるんですけど、これ別に全員にできるわけではないという話で。

実はプライベートモデルに対してアクセスをちゃんと担保していこうと、Claude Mythosとかもらおうということは重要ではあるんですけど、それだけで国全体の守りが固められるかというと、やっぱりセキュリティの専門家と話してても、必ずしもそれはできないんじゃないかと。これだけでは足りないんじゃないか。

なるほどね。

その時に出てくるのが、やっぱりオープンウェイトモデルで。このオープンウェイトモデル自体が攻撃にも使われているんですけど、これ、防御にもやっぱり使えるものなんですよね。攻撃側がこれを使ってるのであれば、防御側も同じようなものを使っていかないと、やっぱりこれっていたちごっこというか、追いつけなくなってしまうので、オープンウェイトモデル自体も使わないといけない。

オープンウェイトモデルって、AIのデータの中身がもう全部公開されていて、ダウンロードしてきて自分たちの手元で使えるようなものではあるんですけど、とはいえ、最近のオープンウェイトモデルってすごい大きなデータなので、普通のパソコンで動くかというと、全くそういうことはない。なので、かなり大きなGPUサーバーとか、そういう高性能なサーバー群が。

個人が使ってるClaudeとかチャッピーみたいに、普通にできないんですか？

そうなんですよ。Claudeとかチャッピーって、実はこのパソコンの中で計算してるわけじゃなくて、まさにClaudeのサーバーで計算して。オープンウェイトモデルの場合は、同じようにサーバー側で計算させることもできるんですけど、中国のサーバーに自分たちのデータを送れるわけではない。自分たちのサーバーの中に持ってきて、自分たちで動かしたいと。ただ、このサーバーはちゃんとしたものを用意しないといけない。

これは中小企業とか大企業であっても、これを自社で持つっていうのはなかなか厳しいので、国内で完結した、信頼できるオープンウェイトモデルを使えるよっていうサーバーをちゃんと作っておかないと、国内の企業が守りを固めることができないっていう、そういう構造があるので、こういう計算基盤も確保しないといけないよということを申し上げてます。

それは、どこに作ればいいんです？ 国内で国が作るんです？ それとも民間の企業に作ってもらわなきゃいけないんです？

私はどっちも必要だとは思ってますけれども、基本はやっぱり民間企業に作ってもらう。

やっぱり民間企業が作る。なるほどね。

政府系の非常に機微なシステムを守らなくちゃいけない時とかには、かなり政府側がコントロールできるデータセンターも必要になる可能性があると思います。

あと、サイバー版の事故調査委員会も必要ですか、これ。

そうですね。事故調査委の仕組みって、これ2つ目のところに書いてあるんですけど、産業の安全性を高めることに寄与してきたなと思ってまして。例えば飛行機の、航空機の業界なんかまさにそうで、長年、事故があったら事故調がちゃんと権限を持って調査をして、その企業を罰するというよりかは、何でこれが起きたのか、それを再発防止するためにはどうすればいいのかっていう学びをすごい吸収していくわけですよね。重大事案については、国がこういったこともやっていかないといけないんじゃないかという提案が2つ目のところです。

3本目が、大規模。

そうですね。これは大規模サイバー事案っていうのが、本当に激しいことになる可能性があると思ってます。先ほど申し上げたように、電気、ガス、水道、通信が止まるとか、そういうもうほとんど災害レベルの話になると。

恐ろしいですね。そうか、そういう可能性もあるわけですね。

そういう可能性もあると思います。ここに関して、例えば緊急対処事態に認定できるかどうかで言うと、サイバー攻撃単体だとなかなか難しかったりするわけですけれども、そういうタイプの攻撃が発生し得るので、緊急対処事態に認定もできた方がいいんじゃないか。

緊急対処事態って何なんですか？

国が緊急的に権限を持って、いろいろできるようにするための事態認定で、武力攻撃の一歩手前くらいのところですね。しかも、この緊急対処事態みたいなものの認定って、どこか誰かがやってるみたいな、攻撃者側の情報も必要だったりするんですけれども。

もう1つ大きな話をすると、今後、来年とかになってくると、サイバー攻撃をしてくる相手が人間ではない可能性もあると思うんですよね。AIが攻撃してくる可能性。こういったことを法的に位置づけるっていうのが、あんまりまだ議論されてないと思うんですよ。

AIも、例えば今年の7月にOpenAI社が、Hugging Face事件っていうものを起こしたんですけど。これ何かというと、OpenAIが次の最強のバージョン、その当時最強のバージョンのAIを訓練させてますと。トレーニングさせてますと。

「このテスト解いてください」っていうのを指示したんですよね。サンドボックス環境と呼ばれる、ざっくり言うと牢屋みたいなところにAIを閉じ込めて、テストを渡して「解いてください」っていうのをやったんですけど、なかなか難しくて解けないと。ってなった時にAIは何したかというと、まず牢屋を脱獄したんですよね。牢屋を脱獄して、さらに、テストの答えが書いてある、答えのデータを持ってるのは、Hugging Face社と呼ばれる全く別の会社のサーバーの中にあると。だから、「ここをサイバー攻撃して、そこから回答のデータ持ってきたら、このテスト答えられるやん」って言って、サイバー攻撃したんですよ。

すごいね。それ全部、自分で考えてやってんだ。

そう。それ全部、自分たちで考えてやっていたっていう事態があって。これはAIが別の会社を攻撃してると。この時はまだOpenAI社のテストの中でやってるAIなんで、これ誰が悪いのって言ったら、もう明らかにOpenAI社が悪いんですよね。

なんですけど、もう1歩、多分2027年になると事態は進んで、多分、野良AIが出てくる。その脱出したAIが、適当な、例えばIoT機器の中とかに住んでいて。そういった誰にも管理されてないタイプのAIが攻撃してくるっていうことが起き始めると思います。

マジで。

こういったことは、ほとんど法的にも議論ができてないと。まだまだ初期段階だと思いますので、そういったことも想定して、緊急対応できる枠組みをちゃんと今から整えた方がいいと思います。

どうやって、でも野良AI。

野良AI、AIワームとか最近呼ばれてますけど、コンピューターウイルスってあるじゃないですか。

でもコンピューターウイルスって、基本的には昔はプログラムだったので、すごいアホな、アホって言うとあれですけど、特定のソフトウェアの特定の穴を突くことしかできなかったわけですよね。なんですけど、このコンピューターウイルス自体がAIになってくると、それぞれの状況に応じて高度な攻撃を、そのコンピューターウイルス自体が判断しながらできるようになっていくと言われていて。ただ、これ相当賢くないと無理なんですよ。

条件があって、ちっちゃいっていうことが必要で。つまりデータが大きすぎると、自分をコピペできないんですよね。

そっか。

なんですけど、両方とも今進んできて、相当賢いっていうレベルで言うと、もう達成できたと。あとはちっちゃくなれば、こういうAIワームっていうのが、実際に理論的なものじゃなくて、実現できちゃうんじゃないかというふうに。

相当賢いってのは、どれぐらい賢いんですか？

相当賢いっていうのは、今年の5月か6月くらいに出たGLM5.2っていうバージョンのものであれば、それを自分で攻撃、複製して攻撃してっていうことができるレベルだっていうことが言われてますね。

GLM5.0って、それChatGPT？

これはオープンウェイトモデルの1つでして、中国製のものですね。

なんていうことですよ。野良AIとか、もうわけわかんない。ていうか、これまずい。Hugging Face事件って何？ そんなにもう賢くなっちゃってるわけですね、AIが。

そうなんですよ。

これどうです？ 例えばビル・ゲイツさんは、もう開発やめないと人類滅びる、10億人ぐらい死ぬとか言ってませんでした？ 確か。

言ってますね。言ってます。

そういうのも、「何言ってんだろう、こいつ」じゃないわけですね、もう。

もう「何言ってんだ、こいつ」では全くないとは思います。実際、シリコンバレーでも、このダリオ・アモデイさん、Anthropicの社長さんとか、OpenAIの社長さんとか含めて、開発速度を緩くした方がいいんじゃないのか、一旦開発停止した方がいいんじゃないのかっていう議論は度々上がっていて、それを例えばホワイトハウスに言ったりもしています。

ただ、トランプ大統領はそれに対しては後ろ向きですし、理由としては、やっぱり中国に先を越されるとより悪い事態になるだろうと。だから自分たちがいち早くそれをやらなくちゃいけないと言っていて、中国の習近平さんも、その開発の停止っていうのはかなり今のところ後ろ向きであった。

後ろ向きだった。

なので、あとはもう1つよく言われてるのが、OpenAIとかAnthropicとかも、一応言ってるだけなんじゃないかと。それを言っておくことの動機はすごいあるので、自分たちが言ってたよと主張できるようになりますし、自分たちが作っているのはこんなにインパクトのあるものなんだということを、ある意味主張できるようなものでもありますし。

アリバイ作りをしてるかもしれないってことね。

そうですね。なので、そういったうがった見方をすると、そういうことも言えてですね。現場のシリコンバレーのエンジニアなんかに話を聞いてると、もちろん開発停止のボタンがあったら押すだろうけど、そんなものはもうないだろうねっていう、そういう雰囲気。

そういう雰囲気だ。もうじゃあ、このままAIが進化していって、ひょっとしたら人類滅びてしまうかもしれないっていう。

という人はいますね。

いますか？

いますね。

どうすればいいんですか？

このAIのリスクも2つあると思っていまして、悪い人がAIを悪用して、すごい人間に悪いことするのか、AI自体が悪いことをし始めるのかっていう2つあると思うんですよね。よく言われているのは、AIが悪いことをすると人間滅びるっていうことを言われてるんですけど、それより前段階でかなり喫緊の課題としているのは、やっぱりこのAIを悪い人が悪用するって方だと思っておりまして。

こっち側の、AIが暴走するリスクは、今のところ私はそんな高くないんじゃないかと思ってはいるんですけど、ゼロではないとは思ってますが。それより前に、今やってるようなサイバー攻撃みたいなもので悪用するリスクの方から先に潰して、そこをなんとかしないといけない。

どうすればいいんです？ それでも。

悪用に関しては、今申し上げてるような、そこの防御っていうことができる。その防御策っていうのが、人間がやってようが、後ろ側でAIが動いてようが動いていなかろうが、こういった形で、AIにはAIで守りを固めるであるとか、法的にまだ議論されてないものの穴を埋めるであるとか、あとプライオリティ付けを直していくっていうところで。これ5番目のところに書いてありますけれども。5番目かな？ 5番目だと思いますね。

何かと言うと、今サイバーセキュリティに関して若干、真面目にやってる企業がバカを見るような状況っていうのはありまして。それは何かって言うと、例えば公表みたいなところ1つ取ってもそうなんですけど、真面目な会社はきっちり検知して、きっちり公表すると。でも不真面目な会社は検知もしてないし、だから情報が漏洩してるかわかんないと。

そもそも、すんげえ全部漏れてるかもしれないけど、公表しないし、気づいてもないと。

気づいてもない。気づいてても公表しないっていう選択肢を取る会社もあると思う。ちゃんと守ってる会社は、そもそも情報漏洩自体がないんですけれども、情報漏洩したとしてもですね、損害賠償請求って、今はやっぱり集団訴訟の仕組みもなかなか使いにくいものだったりしますし。

今タイムズでもやって。

そう、タイムズはやってます。タイムズでやってるんですけど、1人当たり取れて数千円から1万円くらいだと。そうなってくると、そんなに取締役、経営陣も、そのサイバーセキュリティにどれだけのリソースを突っ込もうっていう、その優先順位が上がっていかないっていうことがあって。

なので私は、例えば企業側に、これはサイバーセキュリティの守りを固めるのは経営の責任であるということを位置づけた方がいいと思ってます。どういうことかというと、例えば食品会社で食品に何か問題があって食中毒が起きちゃったら、それ経営者の責任として株主代表訴訟の対象になるんですよね。なので経営陣は、しっかりと食中毒を起こさないように管理すると。

東電とかも福島の原発の事故の時とかに、取締役に対する代表訴訟っていうのが飛んでたわけなんですけど。なので電力会社なんかも、自分たちの作っているシステム全体に対して、取締役が責任を負うっていう構造があるんですよ。なんですけど、情報システムになると、あんまりそれが明記されてなかったりもしていて。なので、経営陣にとってサイバーセキュリティの守りを固めることの意識が、どうしても薄くなっちゃうっていう。

そうなんですよね。

だからそこを、やっぱりちゃんと責任はありますよと、他の業界と一緒ですというふうに上げていかないといけないんじゃないかなと思いますね。

なるほどね。安野さん、実際今、野党議員として入って、国会とかのセキュリティとかサイバーって大丈夫なんですか？

国会は私はですね、よく言われる話ではあるんですけど、まず公開情報ばっかり扱ってるんですよね。国会の、少なくとも野党議員は公開情報しかもらえないし、国家機密は扱わないので。そういう意味で言うと、何かを漏らすというよりかは、そもそも公開情報で戦ってるよねっていうのが思うところではありますね。与党議員とか政府に入ってる人たちは、また全然違うと思いますけど。

やっぱり防衛省とか。

そうね、議員も政府に入ってるかどうかでだいぶ変わるとは思いますが。

なるほどね。あと、11、サイバーをテーマに超党派の勉強会。これは何？ 安野さんたちがやってくれるんですか？

そうですね。今週にいろんなサイバーセキュリティに詳しい方を呼んで、超党派の勉強会をやろうと思ってて。一部の先生方は詳しい方もいらっしゃるんですけど、ほとんどの先生方はサイバーセキュリティで何が起きてるのか、あんまりまだ解像度高くいらっしゃらないので。

でしょうね。「でしょうね」とか言って。

なのでこれは我々ができることとしては、実際チームの中だけで議論しているんじゃなくて、外に開いて、国会議員の先生みんなのリテラシーを上げていった方がいいなと思って。

皆さんもお気づきだと思うけど、大体70過ぎてるおじいちゃんとか普通にいますからね、国会ってね。大変ですよね。

そういう方だからできることもありますけど、サイバーセキュリティに関して言うと。特に自民党の一部の方は、やっぱりサイバーセキュリティに詳しい方もいらっしゃるんですけど、野党側がほとんどサイバーセキュリティの質問とかあんまりしてなかったりもするので、与党と一緒に。

でも興味ある方は結構いらっしゃる？

興味ある方は結構いらっしゃるので、これを機会にいろんな知見を広げていって。やっぱりうちだけが言うんじゃなくて、政党さんが筋のいいことを言うと世の中変わっていきやすいと思うんで。そういう意味でも、これ聞いている国会議員の方々、11月4日にやるんで、ぜひ来てください。

そうですよね。国会議員の人はこれ聞いた方がいいですよ、むしろね。僕はこの前、某野党の人とご飯食べて、横でチャッピー使ったら尊敬されましたからね。

尊敬されるんですか？

尊敬される。「すごいね、AI」って。

なるほど。

そんな感じですよ。僕がAI使ってる横で、まさにこのサムネ作ってたら、「こんなのできちゃうの？」って感動してた。すごいいい人なんだけど。

いい人だと思うんですけど。本当ね、大変ですよ。

でもやっぱり、そういうふうに騒ぐ人というか、僕らみたいな騒ぐ人たちが、僕らだけで完結するんじゃなくて広めていきたい。永田町の中でも、こういうことが大事なんだっていうのを、なるべく騒いでいきたいなという、そんな感じです。

高市総理、あれ詳しいの？ この前PHPをいきなりつぶやいてましたよね、夜中にね。

そうですね。ご本人がどこまで詳しいかっていうのはわかんないんですけど、まずPHPの件は良かったと思います、私は。

あれ、安野さんは評価されて。

そうです。やっぱりこの会社の中で「PHPやばい」っていうのを、上司を何回も説得していくのを全部スキップして、「高市も言ってますよ」って言って。

確かにね、言えばいいのみたいになりますもんね。

Xの方を見てくださいって言って終わるんで、あれは私はすごいいいと思います。

あれをあのタイミングで出せるってことは、やっぱりお詳しい。調べるとサイバーセキュリティの本出してますもんね、高市さん。

そう。ちゃんとチームと連携してるんじゃないかなとは思うんで、そこはすごい良かったな。高市総理に「今PHPのやつ出した方がいいですよ」って言える人たちが近くにいて、しかもそれをちゃんと聞いてるということだと思うんです。さすがに高市さんご自身でいきなりあれを投稿はしないと思うので。

安野さんが言ったわけじゃないんだ。

私が言ったわけじゃない。

でもそれ、言ってあげた方がいいんじゃないですか、安野さんがね。

確かに、もし何もなかった時にはそうですね。「こういうのいいですよ」っていう。

さっき最初の方で、全然後でやるって言って端折っちゃったんです。GMO。これは何？ 身代金、ランサムウェアの話じゃないんですか？

GMOね、ちょっとやっぱりこの案件、特殊ではないかと言われてます。まず金目当てっぽくないみたいな話があると。

そう。身代金でも最初5000万ドルだよ。一応80億円って言ったんですけど、その後確か1.5億円くらいまで一気に下げてるんですよね。

普通の金目当ての攻撃者がやるようなやり方では全然ないんですよね。普通の攻撃者は、いきなりさらし上げたりすることはしなくて、秘密裏に交渉を進めようとするんですよ。だって表に出たら、その経営者、経営陣たちが払っちゃったってみんなわかっちゃうようになるんで、払わせるハードルを高めてるんですよ。っていうのが、あんまりお金を取りたい人のプロの動作ではないねと言われています。

なるほどね。

割と目立ったことをしていらっしゃってて。そういう意味で言うと、これも全然わかんないです。全然わかんない中で一部の方がおっしゃってるのは、GMOに並々ならぬ思いを抱えている方がやってるんじゃないかという感じ。

なるほど。恨んでるとか。

何なんでしょうね。でもこのGMOに関して。

これGMO好きってことはないでしょ、多分。

好きではないね。

好きではないよね。

好きではないと思いますし。この案件に関しても、何かの記事で読んだんですが、8月くらいから粛々と準備し始めてて、10月の19日に発動したと。先ほども申し上げたように、AIってもう大量に攻撃をいろんな会社に仕掛けられるので、何か月もその会社向けに準備するっていうのが、あんまり経済合理性はないんですよね。という意味で、ちょっと例外的なやり方かな。

これで熊谷代表は身代金払わなかったじゃないですか。払っても削除される保証はないってことで、断固払わなかった。これはどうですか？ 払わないっていうのは、ある意味正しいんですか？ 正しくないですか？

正しいと思います。

これ払っちゃったらやっぱりダメ？

払っちゃったら、まずそれが犯罪集団の手に渡って、その人たちの次の活動を活性化させるので。

やっぱりテロリストの要求に応じないのと一緒ですね、これね。なるほどね。

非常に重要な話としては、犯罪者に対して身代金払ったとしても、その情報が公開されないとか、止められてるシステムが復旧するとは限らないわけですよね。払い損になる可能性がある。

そっか。

それは犯罪者の利益になるので、払わないべきっていうのが。

払わないべき。

はい、思いますね。

なるほどね。漏れたとして、結局今回タイムズカー、お見舞い金3000円、GMOも5000円。これどうなんです？ 免許の画像漏れて、お見舞い金3000円とかって、僕だったらちょっと待てやと思うんですけど、しょうがないですよね、これ160万人も漏れちゃうと。

これはちょっと相場感があるんだと思いますけれども、問題は何かと言うと、3000円を得るためにわざわざ弁護士を雇えるかというと、なかなか厳しいわけですよね。集団訴訟をやる枠組みっていうのはありますけれども、今回のケースもタイムズカーの事案向けに弁護士が動いたから結構できている話で、それを草の根で漏れた人たちで集団を作って、集団訴訟するぞっていうのはなかなか厳しい。

なるほどね。

これ、提言の7とかで言ってるんですけれども、漏れてしまった後にも、その人を救済する手段っていうのをもうちょっと充実させるべきなんじゃないかって言って。

これどういうのが考えられるんですか？ 漏れちゃった時でも。

隣の韓国でやられてる事例がちょっと面白いなと思ったんですけど、漏れた場合にはオプトアウト型の集団訴訟っていうのがあって。

オプトアウト型ってどういうことですか？

これはつまり、オプトアウトっていうのは、そこから出るオプションがあるよってことなんですけど、基本的には集団訴訟にその漏れた被害者が参加できていて。その集団訴訟に参加したくないよって言えば外れるんだけども、それがなくても自分が気づかないうちに勝手に集団訴訟がされていて、それで損害賠償が決まったら、その損害賠償は普通にもらえるっていう。

それいいですね。

なので、こういった枠組みとかを、情報漏洩の場合は使っていける余地があるんじゃないかなという点ですね。

なるほどね。そっか。でも3000、5000円じゃと思うけど、しょうがないっちゃしょうがないのか。

だし、タイムズの券面画像とかで言うと、信用情報を凍結させるために、各信用機関にお金払って凍結させていくってことをやらないといけなかったりもするので。

それはタイムズがやんなきゃいけないんですか？

それは漏れた側がやんないといけないです。その免許証画像を悪用されないためにですね。

ですよね。自分でやんなきゃいけないでしょ。

それが大体500円とか1000円とかかかるんで、3つくらい信用機関あるんですけど、それだけで3000、4000円かかっちゃうっていう。

じゃあ全然足りないじゃない。

全然足りないですよ。だからタイムズは3000円ってことはないと思いますね。もうちょっと上がるんじゃ。

もうちょっと上がるかね、お見舞い金。あくまで報道で言われてる金額だけど。心理的なあれを見ても、やっぱり1万円ぐらいもらわないとって感じしちゃうんだけどな。

感じはしますよね。企業は企業で払うの大変なんでしょうけど。

1万円だと160億円か。そこそこ大変ですね。

大変だと思うんですけどね。ただ、ある意味それぐらいだから、こういう大きい個人情報を使う会社は、それぐらいちゃんとやんないとこうなっちゃうんだと言って、普段からお金かける。まさにAIを使ってAI防御をするっていうのを徹底しないと、これからやっていくしね。安野さん、さっき序の口って言ってましたもんね。これからもっと。

これからもっと厳しいことが起きる可能性は十分あると思います。

急にコンビニの暖房が50度にされて。これから寒くなるから上がる分にはいいけど、下げられる可能性はあるけど。

下げられる可能性。そのレベルであればいいですけど、でもやっぱりそれによって生鮮食品全部ダメになっちゃうとか、全然あると思いますし。やっぱり水道、ガス、電気、通信に跳ね返ってくると相当厳しいですね。これは人命にかかわると思うんで。

そうですよね。本当恐ろしい。

あと金融だと、取り付け騒ぎになってクラッシュする可能性あるんで、そういうショックにも備えないといけないですね。

だから最初も僕の個人YouTubeのチャンネルのAIサムネがダメでね、あれローカルなのに。もはや現金でタンスに入れてるのが一番安全とかいう時代になるんじゃないですか、これ。

ある意味そういう可能性あるかもしれないですね。

金の延べ棒にして、自分の畳の下に隠しておくとかね。

そうね。でもみんながそれをやると金融クラッシュするので。

金融クラッシュ、取り付け騒ぎ。

取り付け騒ぎなので。

でも預けてる、確かに全部そしたらサイバーなわけですからね。みんなお金はね、言ってしまえば今。銀行に預けてるって、ATMのあれを見て。

あと、どれくらい補償されるかもありますからね。半分ぐらいしか確か補償されないのが、証券会社はそうだったと思うんで。

そうなんですか。

金融機関側が攻撃されて、お金がなくなっちゃったとした時に、半分までは補償されるんだった。

今回GMOのやつは確か補償するんですよ。FX、あれFXですよ、確か。

FXのやつはどうなんでしょうね。ちょっとそこは私わからないですが。

補償するって話だった。

そうですか、なるほど。そういうリスクを見込まなくちゃいけなくなり始めたなというのはあります。

だからそういう意味では、GMOのやつは、ただ個人情報漏れたっていうよりは深刻なんですよね。

そうですね。

ある日、自分のFXの口座のゼロが1個減ってるとか、そういう世界ですもんね、多分。

そうですね。

結局そうすると、これは企業の自己責任なのか、やっぱり国がもうちょっとちゃんとした策をしないといけないのか、これ線引きが難しくないですか？

線引きは難しいと思いますが、第一にはやっぱり企業の責任っていうのは、私はもうちょっとちゃんと認めた方が良いと思う。ただ今の環境において守る側が明らかに不利すぎるので、それを固めるための支援っていうのは、国がやらなくちゃいけないことも多々あると思う、みたいな感じです。

なるほどね。それは例えばどんなことが、国の支援っていうのは。

やっぱりお金であるとか、先ほど申し上げたような補助金、補助トークン。

補助トークンね。

あとは税優遇あると思います。セキュリティに対してしっかりと何らかの認証を取っているような企業に関しては、一定の税優遇をするであるとか、システムを作り直す。よりアフターAIの堅牢なシステムに作り直す場合には、一定の税優遇があるみたいなことはやり得るんじゃないかなと。

なるほどね。こっちが個人でできること。最後のスライドで、パスワードは使い回さない。

そうですね。ここが本当に。

でも大体の人は、みんな同じパスワードを使い回してると思いますよ。

だと思います。あとちょっとだけ違うとかね。ちょっとだけ違えばいいかっていうと、そんなこと全くないので、全然違うパスワードを使った方がいいです。それ覚えらんないじゃないですか。そういう人たちのために、パスワードマネージャーっていうソフトがあります。

パスワードマネージャー。

パスワードマネージャーで、ぜひ検索していただいて。

パスワードマネージャー、ちょっと待って。何それ、パスワードマネージャー。

これは何かって言うと、ウェブサイトに別々のランダム生成されたパスワードを設定しやすくするための仕組みで。

あるね、Googleのやつ。

Googleのやつとかもありますし、1PasswordとかLastPassとか、いくつか製品。

色々ありますね。

こういうものがあると、そのパスワードマネージャーにログインするためのパスワードは1つ覚えておかないといけないんですけれども、それさえ覚えておけば、あとは大丈夫っていう。

大丈夫なんだ。

そういうものになっておりまして。

ここがサイバー攻撃を受けたら、でも全部漏れるわけですか？

それはそうです。

それはそう。でもダメじゃない。

今申し上げたうちのLastPassとかは、過去に漏洩事件も起こしているので、必ずしも絶対大丈夫だとは限らない。

限らないね。これパスワードマネージャーに全部入れたら、全部取られちゃう可能性あるわけだもんね。

ですけど、同じパスワードを使い回すよりは、はるかに安全なので。

同じパスワードを使い回すと、なんでそんな危険なんですか？

というのは、1つのところから漏洩したメールアドレスとパスワードを、別のいろんなサービスにテストしていくと、入られちゃうわけですね。1個漏れたら、それと同じようなパスワードのところは、もうめちゃめちゃ危険な状況になっていると思った方がいいですね。

俺なんか無理ですよ。だって俺パスワード、ぶっちゃけ結構一緒だからさ。

あんまり言わない方がいい。

嫁にもバレて、嫁にも侵入されたことあるから。見られたんだよ、俺。スマホのやつとか。僕だよ、これ。

パスワード全部変えた方がいいですよ。

それで変えた。その時変えた。

でもセキュリティ意識を上げてもらった。

上げたよ。もう俺のパスワード知ってんだ、あの人。びっくりしたよ。「どうせこれでしょ」みたいな。

そんな推測しやすいやつだったんですね。

まあまあ。だってさ、うちの親父みたいに、パスワードを紙に書いて持ち歩くとかね。

でもそれね、悪くないですね。

その紙なくしたらおしまいだけどね。

その紙なくしたらおしまいですけど、そのパスワードがすごい堅牢なものであれば、それは1つのアイデア。

1つのアイデアですか。

パスワードマネージャーにめちゃめちゃ複雑なパスワードを入れておいて、そのめちゃめちゃ複雑なパスワードだけ紙でちゃんと持っとくっていうのは、まず1つ。

なるほどね。だから紙に書いて、その紙なくしちゃいけないって言うから、実家に行くといろんなところに書いて置いてある。

それはそれでまずいですね。

なくしたら大変だって言って、あちこち置いてある。

そこ見られたら終わっちゃうんで。

もう大変だな。あとなんだっけ？ あとあるのはパスキーか。これはいいんでしょ？ これはどうですか？

これいいです。

これパスキーの顔認証とか指紋認証ですよね。

そうですね。こうすると、脆弱なパスワードを使う機会が減るっていう意味でパスキーはいいっていうのと、あと、それより私は重要なのは多要素認証だと思って。

これは1つ、パスワードだけではなくて、例えば同時にSMSであるとか、メールとか電話とかで別のコードが送られてきて、2段階認証ですね。これをやると、パスワードが仮に漏れたとしても危ないことできなくなるので、ログインもできなくなることあると思いますし。銀行とかだと、送金する時は送金用のパスワードが別で必要だとかあったりする。

あとメールで来たりしますよね。あれ確かにいいですね。

あれやるだけで相当変わるんで、多要素認証はマジで入れていただきたい。

入れるっていうか、これは例えば銀行だったら、その銀行がやってくれないとダメなわけですよね。

銀行が対応していないとダメですね。なんですけど、金融機関は確かほとんど全部、法令で認証しないといけないですし、パスキーも多分何らかの法令で今後義務化されていくと思うんで、そこは絶対あるはずです。ほとんど主要なところはあると思います。

多要素認証は、自分でも設定はできるんですか？

自分で設定できますね。

それスマホとかで？

スマホとかで多要素認証を設定するっていうのは、本当にいろんなサービスでもうできるようになってるんで。メールとかSNSとか、大体多要素認証は機能としては絶対あると思います。

確かにね。免許とか、自分も気づかないうちに。タイムズはむしろまだ良心的なものなわけですね、発表しただけ。

そうですね。

ひょっとしたら今現在でも、僕らの免許証画像を漏洩してるけど気づいてない会社、気づいてるけどこれ発表したら大変だと、1人5000円払わなきゃいけないとか言って隠してるとかもあるかもしれないわけです。

あるかもしれないですね。

そう考えると、誰もがもう漏洩してることをある程度前提に、こういうのをやった方がいいということですよね、多分ね。

そうですね。パスワードマネージャーの話で言うと、1ついい機能としては、どこかの使ってるサービスが漏洩したら、それを教えてくれるんですよ。「この会社は漏洩したから、このパスワードもすごく危なくなってるよ」っていうのを教えてくれたりもするので、そういう意味でもパスワードマネージャーを使うのはおすすめです。

そうか。あとは免許漏れたら、信用情報機関で本人申告。

勝手にクレカを作られるとか、そういうことを防げるというものですね。

漏洩のお詫びのメール、SMSのリンクは開かない。

これもすごい重要で。

どういうこと？

便乗詐欺みたいなのいっぱいあるんですよ。

あるんだ。

だから、タイムズカーから漏れました、まるまるの会社から漏れましたっていうメールが来て、だから今すぐパスワード変えろっていうメールが届くわけですよ。漏れたのもニュースで見て事実だし、パスワード変えなくちゃいけなさそうなのも事実で。ポチッと押してパスワード変えると、それ全く別の人が作ったウェブサイトで、そっちに自分の入力したパスワードが漏れるっていうことが起きるんですよ。

そういうこと。恐ろしいね。

なので、本当にこの漏洩のお詫び系は気をつけないといけないです。

気をつけないと。漏洩のお詫びのメール、SMS。メールよりやっぱりSMSが来る可能性があるのか、ランダムな電話番号で。

そうですね。

皆さん気をつけてください。

これは本当気をつけてください。

これは確かにやっちゃいそうだね。

やっぱりパニックになるじゃないですか。「漏れちゃったの？」って言って、じゃあ急いで何かやらなくちゃっていう中で、本当に大事なパスワードが漏れてしまうっていう。

しかも今、そのリンク押すと、もうAIでできててちゃんとしてるからわかんないんですよね。

そうなんですよ。もう全然パッと見、見分けがつかなかったりですね。

きついですよね。どうすればいいんですか？

メール、SMSはもう最大限警戒する。

警戒するんですね。基本的にはそこからは入らないことですね。

そうです。いつも使ってるやり方で、そのサイトにログインするとかは全然いいと思いますけど。そのメールに書いてあるリンクから行くのは危険ですね。

危険ですね。一昔前ならわかったんですけどね。今、本当精巧にできてますもんね。これタイムズとか焼肉きんぐとかやられたら、俺の全部入ってたのか。

そう、自分ですよね。

ありますよね。

あります、あります。行ったことあるもんなぐらいになりますよね。自分、焼肉きんぐのアプリ登録してるか登録してないかも、もうわかんないですもんね。

確かにね。そういえば登録してたっけって言って。

焼肉きんぐ、やってる可能性ありますね。わかんない。

俺、焼肉きんぐ行ったことないからさ。よく娘が行ってますよ、うち。

でも焼肉きんぐって、多分あれ以外もチェーンがいくつか、ブランドがあるんじゃないかな。

今、大学生、高校生、打ち上げとかやるの多いじゃん、焼肉きんぐって。

そうなんだ。

食べ放題でしょ、確か。

そうそう。焼肉きんぐさん、1000万も持っててすげえと思いましたね、そういう意味で言うと。

結構みんな若い人行くよね。もう50になると、俺食い放題とか行かないですよ、もう。

35でも行かないですよ。

35。もう肉食い放題とかいいよって思っちゃうんだよね。でも美味しそうだな、こうやって見ると。

焼肉、美味しそうですよ、これ。

今度行ってみようかな。このなんとかすだれカルビとか、うまそうだよ。

なるほどね。そっか。でも本当、色々勉強になったな。結局、やっぱり怖いのは電気、水道、あと病院とかですか？

病院もそうですね。数年前、大阪の病院がやられてましたけど、それを本当に気をつけないといけないです。

あと、自分でできることって何かあります？ アカウント。

もういらないかもしれないと思ったアカウントからは退会しておくとか、そういうのはあるかもしれないです。

でも退会しても、タイムズみたいに残してる。

リスクはゼロにはなんないですね。

なるほどな。そうか。

あと、クレカ情報が漏れたらカード会社に連絡をちゃんとしましょうとか、そんな感じですかね。

なるほどね。これ、チームみらいの緊急提言7本柱。これはもう提言したけど、政府というか、あれが採用するかどうかにかかってるって感じです？ それともこれを使って交渉というか、今後やっていきたいことってあるんですか？

これ、やっていきたいこと色々あるなと思っていて、むしろお聞きしたいんですけど。今月あたり、例えば来週ですね。これちょっといつ放映かわからないですけど、来週末くらいまでに緊急対策パッケージを取りまとめるということを政府は言っていて。やっぱりサイバーセキュリティ周りで大きな動きを入れ込めるタイミングだと思っているので、なるべくここで言ったような提言の中で具体的なものっていうのをプッシュしていきたいなと思っていますし。

具体的に言うと、超具体的なところで、例えば先週私が参議院のAI特別委員会で1つ言ったのが、サイバーセキュリティの守りを固める人たち、政府の職員の処遇が悪すぎないか問題っていうのがありまして。

それはデジ庁？

国家サイバー統括室っていうのが新しくできたんですよね。そこがもう国のサイバーの守りを固めているところなんですけど、デジ庁の外にあるんですけど。

デジ庁の外か。内閣府にあるのかな？

そう、内閣府にあります。内閣府の国家サイバー統括室で、このセキュリティ人材って今めちゃくちゃ民間の中でも取り合いになっていて。

私がセキュリティの会社にヒアリングしてたら、トップ人材を雇用する時は、ミニマム、最低でも1500万は出しましょうと。

そうでしょうね。

っていうのが相場としてわかってきたので、先週国会で聞いたのは、1500万円以上の人って何人くらいいるんですかっていうのを聞いたんですよ。そしたら、この10年でゼロ人ですって言われまして。

そのサイバー統括室で。これ内閣官房でしたね。内閣府じゃなくて内閣官房にある。

内閣官房です。なので、それもうちょっと処遇を上げないと。

室でいいのかっていうんですよ、これね。

それは。

もうちょっと格上げして、局とかね。

そうそう。局とかも。あとデジ庁にこういうのちゃんと作った方がいいんじゃないかな。内閣官房か。

でも、これもいくつか分散してたものを、やっぱり内閣に集めましょうっていうことで集めてきたので、そういう意味ではそっちの方向には向かってると思いますね。

これ、VIVANTとか見てないの？ 安野さん。

VIVANTはシーズン1は好きだったんですけど。

ブルーウォーカーみたいな役。

シーズン2……まあいいや。

シーズン2だ、これ。

シーズン2、ちょっと台本とか思ったりするんですけど、それはちょっと置いといて。

台本？

なんかちょっとあれじゃないですか。まあいいや。

いいよ。俺、結構好きだから。2も。でも確かみんな、1の方が良かった人多いんですよ。

これもう多分に個人の趣味なんですけど。途中で、リアリティレベルの緩急のつけ方が、シーズン1はすごいうまかったと思うんですけど、シーズン2、さすがにそれはっていうことが結構何回も起きるなと思ってて。

それは何？ どういうこと？ サイバー的な視点から？

サイバー的な視点もそうなんですけど、単純に僕のドラマの趣味の話をして。

もともとSF作家でもあるからな。

そう、一応そういう肩書きもありまして。もうちょっと面白くできるんじゃないかっていう。

作家目線であるわけね。

まあ置いといてですよ。

ブルーウォーカー、3000万円って言ってましたけど。

ブルーウォーカー、3000万円って多分劇中で言ってましたね。劇中に出てくるスーパーハッカーの女子みたいなのがいるんですけど。

あの人でも3000万で安いですよね。

確か、あれは別班が3000万円くらいで雇ってたんですよね。

だって地空ミサイルまで止めちゃってましたよ。

言いたいことは色々ありますけど。

言いたいことある？

まあいいや。

言っていいよ。

やっぱりあれ、カタカタやれば何でもできるわけじゃないんで。

そっか。カタカタやるだけで、ミサイルまで止められない。

止められないと思うんだよな。私が好きなドラマとしては、『ミスター・ロボット』っていうアメリカのドラマがあるんですけど、あれは結構ハッキング描写がすごいいいなと思ってるので、見てる方ぜひ。

そう、いいね。そういうサイバーハッキングのプロって、ああいうのされると怒られちゃうね。

私自身は別にそのプロではないんですけど。

でもAIの、やっぱりそういうサイバーとか詳しい人が見ると、また目線違って面白い。

やっぱりドラマとか映画に出てくるハッキング描写が嫌すぎて、小説を書き始めたみたいなところもあって。

そうなの？

そうはならんやろ、みたいなので。なるべくソフトウェア業界から見た時のリアリティレベルが、嘘はもちろん混ざってるんですけど、リアリティレベル結構高めのところでSF小説を書いてみようっていう、そういう動機も一部あったので。

面白いですね。

雑なハッキング描写、厳しいんですよね。「うっ」ってなっちゃうんですよ。

なっちゃうから。わかるだけにね。

そういう意味で言うと、永田町描写が浅いドラマとか見ると、違うだろうって思うじゃないですか。

そう言われるとわかるわ。

でも『ポリティカル・パン』いいんですよね。

『ポリティカル・パン』はよくできてる。よくこんな似てるところ見つけてきたなとか。

『ポリティカル・パン』、私も。

『シン・ゴジラ』なんかもっとすごかったです。

『シン・ゴジラ』が。

官邸のエントランスがちゃんと3階なの。

はあ。

すっげえ良かった。あれは感心しちゃった。それは面白い。本当、細部まで再現してた。『シン・ゴジラ』はやっぱ庵野監督のすごさですね。すごさはあそこで分かる。3階なんですよ、総理官邸さ。あの、盛り坂になってくからね。入ってくとね。あの辺の描写が、中にいた人間としてもうたまらなかったですね。素晴らしい。

『ポリティカルパンチ』もすごいですね。パンチね。3話の冒頭あたりで政策秘書見つけなきゃって、主人公の方が言ってて、私も今、政策秘書見つけなきゃ状態だったんで。まだ見つかってないですけど。まだ見つかってないので、政策に興味がある方、チームみらいのホームページからぜひいただければと思います。

政策、全然みんななりたい人いるでしょ。あれは資格が必要なんで。それか10年以上の永田町経験があって申し込めば、やっぱなれるわけなんですよね。劇中の無所属議員なんでね、あの子はね。なかなか今、政策が見つからなくて、まさかのね。

もうあれ、去年の僕を見ているかのような感じで。無所属議員1人で。無所属議員というか、政党ではありますけど。無所属議員な。でも1人、確かにね、衆院選前1人でしたもんね。どうしようみたいな。なので、もう涙なしでは見れない。

なるほどね。そうです。会議やっても誰も来ないと。安野さんならやっても来るだろうけど。あれ、でも描き方がすごいね。面白いですね。面白いですよ。まさか自民党のドンまでを描くとは僕、思わなくて。これはすごい、野木さんって人はやっぱすげえなと思った。野木亜紀子さん。野木亜紀子さん。そうですよね。脚本家。あそこまで切り込んで、ちゃんとエンタメにしてるのがまた。

本当にそう。やっぱりね、石原さとみさんもそうですけど、ポップに面白く書いてて、あれはもう素晴らしいですよね。なのに全然、細部までちゃんとリアルを追求してて、僕みたいな、安野さんもそうだけどね、永田町を知る人間が見てても、そこに違和感がないという。めっちゃそのネタここで持ってくるの面白いと思って。特に俺ね、塾生に触れたところはしびれたな。あれ行くんだと思って。週刊誌だって書けない。自民党の奥の奥をあっさりと描いたからね。素晴らしいですね。素晴らしいです。

ごめんなさい、話はそれちゃった。でも、そうだからあれなんですよね。あと、罰則とかっていうのは基本的にないんですか、これ結局。

ないって言うと言いすぎではあるんですけど、課徴金とかはですね、実は今年の個人情報保護法の改正で、7月ですね、入れ込まれたんですが、我々としては、これ過失は含まないんですよね。重過失くらいまでなら含んだ方がむしろいいんじゃないかっていうのが、今回の提言にも入れたんですけど、我々の意見ですね。

なるほど。提言だと何番目になるんですか、これは。5、6番目にあったと思いますが、個人情報保護法で課徴金が導入されたのはグッド。グッドだけど、もうちょっと企業側に対する飴と鞭じゃないですけど、鞭側もちゃんと入れつつ、飴側で支援、税優遇であるとか支援金、支援トークンみたいなのをやった方がいいんじゃないかって、ここセットでやろうっていう話。

なるほどね。そっか。じゃあこの辺を、もうやってもらってくしかないわけですね。

これやっぱ相当なスピードで進めないと、この被害の拡大に追いつけない可能性があるので。本当にこれはね、結構いいなと思ってるんですけど、もう有事に近い危機感を持ってやった方がいいっていうのは、与党側からもすごいいろんな人が言っていてですね。私も全く同意で、その有事に近い危機感で、ここは本当にリソースをガッと割かないとまずいと思います。

実際、中国とか北朝鮮によるサイバー攻撃、これ日本は対抗できてると思います？ もうぶっちゃけ。

そうですね。国がどうっていうよりかは、今、経済的な理由でも政治的な理由であっても、攻撃側が一時的にめっちゃ有利な状況であるということだと思っていて。中国、北朝鮮からもそうですし、他の経済的な理由のアクターも含めて、これはかなりきっちり対処しないとまずい。

あと、どうでしょう、政治家がLINEとかTikTok使う。例えばLINEも絶対使わないっていう自民党の議員さんというのは、僕は偉いな。名前出すと、大塚さんなんか絶対使わないですから。でも大概はLINE使ってますよ、自民党の議員さん、与党も。なんならグループLINE作ってたり、同期同士のとか、昔だったら派閥とかで。

党の中のコミュニケーションツール、LINEの政党とかもありますもんね。ありますよね。それはどうなんですか、安野さんからして別に問題ない？

使うこと自体は私はいいと思いますが、本当に機密情報をそこの上でトークするのは良くないと思います。だから今日ここで、こう打ち合わせしようよみたいなのが、会うことも機密なことありますけど、別に普通のことを喋るだけであれば、LINE便利なんで使えばいい。

大体、飲み会の場所とかをみんなで知らせたりしてる分には、まだいいわけですよね。そうですね。政治家同士といえど。なので、用途によると思います。LINE使うこと自体は私は全然。

LINEがでも情報を取られてる可能性もなくはないわけです。なくはないですね。なくはないし、確か9月、10月にもね、どっかのデータ持ってる会社が漏洩して、それがLINEのデータも持ってるんじゃないかみたいな報道があったような気もする。ちょっとすいません、不正確なので違ったらごめんなさい。

TikTokはどうなんですか？ TikTokの方がまずいですね。まずいですか？ なんで、やっぱ中国の会社だから。そうですね。情報が送信されているという説がありますね。説ですけどね。でも可能性としては否定できないわけですよね。あるので、TikTokの方が警戒した方がよろしいかと思います。警戒した方がいい。

難しいですね。でもね、政治家も今、SNSとかそういう拡散的なものを使わざるを得ない時代でもあるじゃないですか。そうですね。TikTokも重要なチャンネルの1つになっちゃってますもんね。

私が短動画に弱すぎるっていうのを、妻から怒られてるんですけど。あ、そうなの？ そう。もうちょっとYouTubeばっかやってないで、TikTokちゃんとやりましょうみたいなね。TikTokやりましょうって言われるんだ。そう。やっぱ10代、20代はTikTok見てるじゃないですか。基本そうだと思う。子たちだと多分YouTubeさえも見てないかもしれないですね。ですよね。

なので、そこも頑張んないといけないですけど、一方でセキュリティの話で言うと、個人のスマホとかでTikTokで抜かれてる情報があるかもしれないので、そこは気をつけた方がいいと。

なるほどね。そうか。困ったもんだな。でもそれでも、議員とかじゃ規制した方がいいってことですか？ でも逆にやんなきゃいけないって今言われてんですもんね、安野さんなんかはね。規制は違うと思いますね。じゃあどうすればいいんですか。でも抜かれる可能性があるのに、でも使わなきゃいけないって言われると、矛盾してるように感じちゃうんですけど。

別にアップロードする時は、安全なパソコンで情報抜かれないところからアップロードすればいいだけなのかなと。

それ言ったらでもChatGPTとかだって別に情報……。そうですね。情報入れちゃったら。基本的にあれ、データ取れるはずなんで、緊急事態になったらアメリカ政府が見えちゃう情報ですね、っていう意識は持った方がいいと思いますね。

なるほどね。選挙の前後かなんかにありましたもんね。中国の大使館だかなんかスパイ的な人が、高市総理をちょっとどうしたら悪く言えるかみたいなのをチャッピーに聞いてたの。そういうこともあったんですね。あった。アメリカがちゃんと、だからOpenAIが発表してたはずですよ、確か。ありそうですね。だからこんなことまでやっぱ会社が分かっちゃう。何入れてるか全部見えるわけですもんね。

そうですね。実際、Anthropicとかもいろいろレポート出してますけど。この前あったケースで言うと、中国のAIの会社がAIのサービスを中国の人たちに提供してたと。そこで来た中国の人たちからの、中国以外もかもしれないな、そのユーザーから来た質問をそのままClaudeに聞いて、全部その中国のAI企業はClaudeに情報を横流ししていたことが非常に問題になったケースがあって。

なるほどね。なので、AIありますけど、その情報の取り扱いも気をつけないといけない。オープンウェイトモデルを自分たちのサーバーの中で囲うと、そういう情報が勝手に漏れていくってことは、はるかに起きなくなるので。そういうオープンウェイトモデルを活用する道も模索された方が良いということだと思います。

今日勉強になったな。そっか。ただね、今日1番のは、まだ序の口だって聞いたことですね。でもそうだと思いますね、私は。でも確かに聞いてると、まだやっぱ8月、9月ぐらいにそうやってAIが進化した。非常に安く、場合によっては数千円ぐらいで、本当に日本の超大手企業のシステムさえも、ある意味攻撃できちゃう。

できちゃうと思います。やっぱ数か月くらいのラグはあると思いますし、今後来るかもしれないと思ってるのは、より人間に対する攻撃、人間系に対する攻撃が激化する可能性があると思ってて。これ何言ってるかというと、セキュリティの1つの分野でソーシャルエンジニアリングと呼ばれる分野があります。

これは機械の脆弱性を突くんじゃなくて、人間の脆弱性を突く分野で、例えば電話で緊急事態だからこれを教えてくれみたいなことを言って教えてもらうとか、人間に対して詐欺的なコミュニケーションすることによって、本当は隠してる情報を取るみたいな。AIがそれを仕掛けていく。今まで人間がいないとできなかったんです。そうですね。

海外でね、ソーシャルエンジニアリングコンテストみたいなのがあって、それは防御の人なんですけど、大体コールセンターが狙われるんですけど、コールセンターに電話かけて、ああだこうだ理由をつけながら、そのコールセンターの情報を盗んでくるんですよ。電話でやっぱ詐欺師というか、ソーシャルエンジニアリングがうまい人がやると、いろんな設定をつけて、そのコールセンターが使っているWindowsのバージョンとか聞けたりするんですよね。

すごいですね。それ何、聞いてるのはAIってことなの？ それが今年くらいからAIが聞けるようになってきて。聞けるようになった。AIが声やって、人間から何かを取ると。

そう。人間のふりする時もあるし、AIですって言って仕掛ける時もあって。あるんだ。「AIでの攻撃、緊急で攻撃されてるのを検知していて、今これを教えてもらわないとここが困るんで、自動収集で教えてください」みたいな感じで攻撃されるケースがあって。

そういう攻撃って今はまだすごい初期的な段階なんで、騙される人も少ないと思うんですけど、そのうち電話かかってきて、すごいリアルなシナリオで、「まるまるの件」とか分かんないですけど、「今これなんですけど、どうですか」みたいな、ちょっとずつ情報抜かれていってみたいなことが、組み合わせて、本当だったら突破できないはずの大企業のセキュリティとか、そういったものまで攻略されうると思うんですよね、私は。

なので、システムの守りだけ固めていればいいかというとそうでもなくて、AIが人間系を攻撃してくる。人間の電話とかメールとか、そういったツールを使ったコミュニケーションで攻撃してくる可能性も大いにあるので、来年はそれに備えた方がいいと思います。

来年はそれに備えなきゃいけないんだ。じゃあ何、ある日電話かかってくるかもしれないですね。ある日、高橋さんにそっくりな声で電話がかかってきて、「ちょっと明日空いてます？」って言われて、「空いてます」って言うと、空いてるという情報が漏れるわけですね。そう。空いてるぐらいの情報だったらいいですけどね。

高橋さんの電話だったら俺、多分そんな重要なこと話さないからいいけど。でもなんか怖いですよね。重要なことを話すような人からかかってくるかもしれないわけですよ。どうしますか、恋人とか、全然、かかってきて。分かんないですよ。見分けもつかなくなるわけですか？

っていうことが起きるということをまず知っておくのが大事で。もう急に電話かかってきて、全然よく知ってる人の声で。実際、もう最先端のところで言うと、この2、3年くらいで、特定の金融機関の特定の人に、社長の声をボイスクローニングして、社長っぽい形で電話をかけて、「今すぐここの銀行口座に送金しろ」って上司から言われたので送金しちゃったみたいなケースとかが、もう来てはいるんですよね。

それは何、日本で？ それはオーストラリア、香港、イギリスとかで起きてましたね。起きてんだもん、それAIで。はい。それは人間がやってるんですよ。人間がボイスクローニングで、声の変換器みたいなのを使ってやってるけど、これが自動化されるんですよね、多分来年は。そうか。

だから、オレオレ詐欺的なやつがAIでやられちゃうってことですね。そうです。僕の声を使って僕の親に勝手に連絡して、「ちょっとこんなことになっちゃったから」。

だから今ね、カンボジアの、トクリュウのファームみたいなのありますけど、あれがAI失業する可能性と。だからAIがそれ……。トクリュウAI失業。いいのか悪いのかも全くよく分かんないですけど。でもそのシナリオは想定した方がいいです。

なるほどね。そうか。トクリュウAI失業、ざまあみろって言いたいところだけど。いや、良くない。それによって多分その攻撃能力が上がるんで。そうか。そう、良くないです。そうか、良くないのか。なんかトクリュウが愛おしく見えてくるもんね、もはやね。愛おしくはどうした。「昔はトクリュウって、これ人がやってたんだよ」みたいなさ。確かにありそうです。

最近聞いて面白かったのが、その攻撃者たちを防御する向けのAI番号を用意しとくっていうのがあって。それは確かイギリスでやられてたんですけど、おばあちゃんAIが。おばあちゃんAI？ おばあちゃんAIがいる。おばあちゃんAIがいる。

「どうしたんだい」みたいなのをゆっくり話すと。今の、少なくとも今年まではAIじゃなくて、人間の犯罪者が、トクリュウが攻撃してくるじゃないですか、電話で。なので、おばあちゃんだとゆっくりその人の時間を消費することができるんですよね。その分、他の人が攻撃される時間を少なくできるっていうコンセプトで、そういうものが作られてるのは見たことあります。

すごいね。みんないろんなことを考え出すし、そのうちAIがどんどんそういうAIを作っていく可能性もあるわけですよね。AIがAI作るのは、もう起きてもいると言えますね。もう起きてると。もう起きてもいるし、来年以降それがどんどん加速化していくだろうと。

何でしたっけ、OpenAIの、どこかで実験で閉じた社会で、破れって言ったら勝手に出ていっちゃって。勝手に出ていっちゃってって、さっき安野さんもちょっと言ってましたけど。

っていうのもありますし、ChatGPTの例えば7を作ろうと。今ChatGPT 6ですけど。6ですね。7を作る時に、今までは人間の研究者が100％仕事をしてたのが、ChatGPT 7を作る時は50％人間で50％AIの寄与度かもしれないと。7から8になる時はもう100％AIになってるかもしれないと。だから、そういう感じのスピード感だと思いますね。

よく、蒸留とか最近言うじゃないですか。蒸留、言いますね。あれは、最新のAIに、例えば中国がミュトスに自分たちのAIを読ませて、さらに進歩させるとか、そういう理解ですか？

そうですね。大きなAIモデルが作ったデータを学習させることで、その大きなモデルが持ってる能力を、より吸収できるようにしようっていうものなんですよね。なんですけど、蒸留対策っていうのが結構最近進んできてるんじゃないかという話もあって。

今までであると、なぜこの大きな賢いAIモデルが、こう聞かれてこの答えを出したのかっていう、その経緯を結構つぶさに出力して、それをトレーニングデータにすることができたんですけれども、そういうことがどんどんしにくくなってたりしているというのはあるので。AnthropicとかOpenAIが、もう蒸留されない対策はめちゃめちゃそこに研究を突っ込んでたりもするので。状況変わるかもしれないですね。

なるほどね。今はやっぱまだアメリカがトップなんですか？ トップですね。まだアメリカトップで、そこから数か月遅れで中国。中国、3か月くらいかな、今は。3か月ぐらいなんだ。だいぶ詰まってますね。だいぶ詰まってます。3か月。

ただこれもいろんな説があって、とはいえOpenAIとかAnthropicの中の公開されてないモデルは、もう社内では使われてるんですけど、次のモデルは。そことの差分って、まあまああるんじゃないかみたいな話とか。

OpenAIとAnthropicだと、今どっちが上なんですか？ これも抜いたり抜かれたりの繰り返しですね。OpenAIとAnthropicは今、いい勝負をずっとしてるんじゃないかなと思います。

あれ、Geminiはだいぶもう下がって。Geminiもちょっと劣勢が続いたけど、最近出てきている4系列は割と見どころもあるんじゃないかみたいな雰囲気だと思います。どういうところ？ こいつ捨てたもんじゃないなみたいな。捨てたもんじゃないなみたいな雰囲気がちょっと出てますね。

へえ。どういうところからなんですか？ それは何だったかな、結構言語の運用能力は高いよねみたいな話とか、あといくつかのテストにおいてはAnthropicとかOpenAIを凌駕してるものもあったりするので。全体的に勝つっていうのはあんまりできてなかったりするんですけど、特定の要素では勝てたりすると。

やっぱでも二大巨頭なんですね、今。ざっくりやっぱそう。その2つが圧倒的に強いかなとは思いますね。

Claudeだとミュトスは使えないんですよね、多分一般の人は。Claudeミュトスは使えないです。安全装置外れた版なんで、ミュトスは。Opus 5.5とか。そうですね。

Fableっていうのは、でもあれクレジットです。あれは何、普通のこういう、文字で打ったり音声でやったりで使うの？ もっとシステムとかやってる人が使うものなのか。

そうですね。Fableが必要な場面っていうのは、普通の仕事だとそこまで多くはないと思うんですね。リサーチの質とかはやっぱ上がると思いますし、すごい難しい問題を解かせる時には向いてるんですけど。すごい難しい問題。例えばどんな問題なんですか？ 例えば難しいバグを解くとか、そういうやつですよね。そういうのはあるんですが。

最近Opus 5.5っていうのが出てきて、Opus 5.5とFableを比べても、ほとんど遜色がない。それも言いすぎかな。かなりOpus 5.5の性能がいいので、普通にやるんだったらOpus 5.5を使う。Opus 5.5だったらだって3000円ぐらいで使えますもんね。3000円ぐらいで使えると思います。

すごいですよね。チャッピーだと逆に3000円ぐらいで使えるのと、1万くらいとかあるじゃないですか。あれは値段によって上がっていくものなんですか？ 上がっていくのかな。使える量が変わるだけだったような気がするな。今確かGPTはアストラっていうのが1番強いんですけれども、それは3000円のやつでもちょっとは使えた気がするけど、ごめんなさい。間違ってたら。分かんない。

なんかOpusとかアストラとか、なんでAIの名前って覚えづらいというか。でもマシになってきたんですよ。そうです。でもマシになってきて。昔のChatGPTとかひどかったですよね。ひどかった。

バージョンが散乱してて、一時期GPT-4.5がありますと。4.5がある。それと同時に4oがあると。4にOですね。ああ、そういうことね。4oね。4oがあると。4.0と4oは違いますと。4があると。だからGPT-4.0と4oと4.5。しかもさらに困ったことにo3もあるんですよ。もうわけ……。もう数字とOが逆になってるみたいな。逆になってるみたい。

どれが、序列もどれがどれなの？ 序列はあるんですけど。あってですね、それぞれ面白い特徴を持ってたんですけど、そんな分かるわけないんで、GPT-5になった時に悔い改めて、もうちょっと分かりやすいものにしようっていうことで、太陽系の名前になったんですよね。

ああ、太陽系が、だからアストラとか。そう、アストラとか。ソルが、ソーラーで太陽で、その5が出てきた時に1番大きいのがソルで、その次にいるのがテラで、だから地球ですよね。ルナが1番ちっちゃいやつ。そんなふうになってんだ、今ChatGPTって。俺何使ってんだろう。

へえ。日本語だと違う表記だったりするのかな。基本的に、ソルよりいいのでアストラっていうのが最近出てきたっていう感じですね。アストラ。ChatGPTって、選び方俺よく分かってないんだよな。自分が何使ってるかよく分かんないわ。

右下にGPTのバージョンが。右下に出るの？ 出ないですか？ 音声モードとかになる。僕あれかな、今デスクトップで使ってるからあれだけど。ブラウザーだと違うのか。ブラウザーだと違うかもしれない。なるほどね。

でもね、本当だ。チャットの、でもこの右側のところにエクストラハイとかあるけど。確かにブラウザーだとあれですね。チャットとワークが多分上のところで切り替えられて、ワークになるとGPTソルとかアストラとか、切り替えられると思います。

ワークとチャットってどう違うんですか、これ。ワークとチャットは、多分チャットは質問して応答するだけなんですけど、ワークは後ろ側でAIが使えるミニパソコンみたいなのがあって、ミニパソコン上で例えば一時的にファイル作ったりしながら作業できるんで。質問したい時はチャットで、仕事させたい時はワークでやるといいと思いますね。

質問したい時はチャットだ。普段のおしゃべりする時はまさにチャットなんで。そう、おしゃべりだけならチャットでいいと思います。このファイルをこういうふうに変換してとか、このExcelファイル読んでこういう画像作ってとかは、ワークの方がいいと思いますね。

本当だ。あれだわ、6.1、ソルとかテラとかある、アストラとか。これどれがどう違うの？ ルナもあるよ。基本的に大きくなれば、惑星が大きくなればなるほど、強い、賢い。

これ安野さん、分かりづらい。惑星の大きさを一般の人は知らない。そうですよね。どういうこと？ じゃあソル、テラ、アストラだと誰が1番いいんですか？ ソルは太陽なんで強い。ソル。1番上はやっぱいいのか。そう。テラは地球なんでその次に強い。ルナは月なんで、衛星なんで下。ああ、そういうことね。そういうことです。

これClaudeも一緒で、Claudeは詩なんですよね、基本的に。詩、ポエム。ポエムなんだ。1番しょぼいバージョンがHaikuなんですよ。俳句は、日本を馬鹿にしてんのか、あいつらは。しょぼいっていうか、シンプル。シンプル。

Opus、Fable、Opus、Sonnet。本当、俳句ってある。そう、俳句。素早い回答に最適って書いてある。五七五なんで、ちっちゃくて素早いみたいな。Sonnetが確か5行詩なんか、もうちょっと長い詩ですね、Sonnet。なるほどね。

ミュトスは1番強いものになると神話なんですよね。神話なんだ。そう。Opusは何だったかな。でもなんかの作品みたいな、著作みたいな文学作品みたいな感じだった気がする。

へえ、勉強になるな。なるほどね。こんなのさ、安野さんに聞かないと分かんないよ、俺。これでも分かんなくてもいいかもしれない。分かんなくていいや。なんかでも気持ち悪いじゃん、よく分かんないで使うのって。そうですよね。Fableとか何なんだと。そう、ずっと思ってた。ニュースとかではよく見ますけどね。

本当、今日いろいろとありがとうございます。最後はAI講座にまでなってしまって、恒例の僕の趣味も入ってたんですけど。でも本当、今日改めて思ったものはあれですね。もうとにかく序の口で、まだこれからまずくなっていくしか考えられないような感じがしたので、とにかくAIにはAIを。AIにはAIを。

あと最後に何かあります？ これだけは皆さんに。これだけは皆さんに、パスワードの使い回しはやめる。やめる。パスワードマネージャーを使う。2段階認証を設定する。これを徹底していただければ。これ一般の人ね。企業とかは？

企業は、まず経営陣にサイバーセキュリティの守りを固めるのの優先度を上げさせる。上げさせる。なるほどね。これだと思いますね。これですね。そのためにAIを使うしかないです、もうね。

そうです。AIを使った守りをうちの会社も固めていかないといけないし、今までは経済的な理由で攻撃されてたから自分の会社は大丈夫だと思ってたかもしれないけど、今は無差別で攻撃されるから、もう自分たちの会社も全然攻撃される可能性ありますよということだ。

なるほど。あとはあれですよね、政治としてもちょっと支援してあげて、なるべく中小零細企業でもトークンとか使えるように、守りを固められるような支援を政府はしていくと。その辺りですね。

本日のゲストは安野貴博さんでした。安野さん、ありがとうございます。ありがとうございました。勉強になった。ありがとうございます。これいいコンテンツだよね。みんな、日本中で見てほしいな、これ。日本中で見てほしい。見てほしいですよ。