相次ぐ情報流出の背景にAIはあるのか――オープンウェイトモデル「GLM-5.3」の脅威と、流出した免許証画像がeKYCを突破する危険性

皆様、こんにちは。本日は連日報じられている企業を狙ったサイバー攻撃と大規模な情報流出について深掘りします。タイムズカーでの最大およそ660万件の情報流出を始め、ここ数日で企業や団体を狙った被害の発表が相次いでいます。

本日はスタジオにサイバーセキュリティ分野においてのAIの専門家であるAgenticSecの中谷翔さん、そしてテクノロジー分野を取材するテレビ東京の鵜飼さんをお招きしています。お2人ともよろしくお願いいたします。

よろしくお願いします。

以前、クロード・ミトスの説明動画にもご出演いただいたと思いますが、中谷さんはセキュリティ事業を運営されていらっしゃるんですよね。

はい。そうですね。当社AgenticSecでは、サイバーセキュリティ、お客様のセキュリティを守るために、攻撃者がやるような技術を使って攻撃者の先手を打ってリスクを先に洗い出すという、そういう製品を展開している企業です。

その企業のサポートを提供されているということなんですね。AI×セキュリティに詳しいと。

そうです。今の攻撃者ってAIをやっぱり使うので、我々としてもAIでセキュリティの攻撃をされるとこんなことが起こるというところを、模擬的にお見せするような製品をやっております。

なるほど。では裏側でAIがどのように利用されているのかというのを、今日ご説明いただきたいと思います。

はい。

さて、連日報じられている情報流出ですが、その規模と範囲は広がり続けています。ディスカウントストアを運営するミスターマックスでは最大およそ173万人分。GMOのアンケートサイトでは最大およそ95万件、焼肉きんぐでは会員ほぼ全件にあたる1078万件。旭子会社では55万件、シチズン時計では10万件の顧客情報が流出した可能性があると発表されました。さらに大和証券や大阪大学へのランサムウェア攻撃など、業種を問わず甚大な被害が出ています。

こうした事態を受け、古川デジタル大臣は閣議後の会見で、自分の情報は自分で守るという意識を持ってほしいと呼びかけ、官房長官も大変深刻に受け止めていると警戒を強めています。ここ数週間で急増しているように見えるんですが、中谷さんはどうご覧になっていますか？

そうですね。私も普段Xを暇があれば見てるんですけど、9月の終わり頃からどんどんタイムズの事案を始めとして、ほぼ毎日のように数件、漏洩みたいな事案が出てきて、やっぱりセキュリティを守りたいという企業を運営している立場からも、胸を痛めている次第ですね。

これは、この数週間増したと見ていいんですか？ それとも元々あったものが今顕在化してるってイメージなんですか？

そうですね。顕在化ってパターンもあったかと思っていて、やっぱり報告事例が増えたっていうのは、本当に今がかなり増えたなって感じなんですけど、じゃあ攻撃をされたタイミングがいつであるかっていうのは、また別の話としてあると思っていて。

やっぱりたくさんの会社様がやられてるって状況を見て、他の企業様によっては、ちょっと再点検して、うちは食らわなかったのかもう1度見なさいみたいな指示があって、その結果、数ヶ月前にやられてましたっていうことも、おそらくあったかと思うので、事例の中に。ですので、攻撃が今増えているって事実もあるんですけれども、今、我々が見る事件が増えたっていうのは、全部が全部今攻撃されているのか、あるいはちょっと遡って今明らかになったのかっていう、両方あると思います。

この企業の警戒感というのも強まっているように感じられますが、警察庁の発表によりますと、今年上半期に検知されたサイバー攻撃の準備段階とされる不審なアクセス数は、1つのIPアドレスに対して1日に1万3687件に上ったとのことです。これは前年の同じ時期と比べて50％も増加し、過去最多となっています。

中谷さん、個人的にはこの最新のAIっていうのが、今回のサイバー攻撃を増やしているのではないかと見ているんですけど、実際どう思われますか？

まず私もやはり個人的には同じ考えで、AIのモデルの進歩が高まってきて、今やっぱり攻撃が増えているってところ、これには関連をやはり感じております。ただ、とはいえ今、証拠として、増えている攻撃っていうのが新しいモデルによるものなのかどうなのか、これが世の中に証拠が出回っているわけではないので、ちょっと断定はできないっていう状況ではあります。

これ、それこそ最先端のAIモデルを使われているかどうかっていうところで言うと、今私が注目してるのはオープンウェイトモデル。中国とかがよく作っているオープンウェイトモデルなんかで、特に最近セキュリティの界隈で話題なのはGLM-5.3っていうモデルですね。

これが4月にリリースされたアンソロピックのミトスなどと比べても、同等程度のサイバーセキュリティの攻撃能力を持っていて、かつミトス、フェイブル、あとアストラ、GPT-6、ソルみたいな米国のフロンティアモデルには備わってるガードレール、あんまりサイバーセキュリティ的に危険な攻撃はしないようにしようって、そういうガードレールがGLM-5.3の方にはあまりないっていうところが、アンソロピックから詳しいレポートが出て。

やっぱりサイバー攻撃が増えてるのは、GLM-5.3みたいにガードレールはないけれども能力が高いみたいなモデルが出回ってきた。これも関連しているのではないかと個人的には見ております。

GLM-5.3っていうのも、やっぱりそれぐらいすごいですか？

やっぱりすごいですよね。ミトスでまずサイバーセキュリティ能力がガラッと変わった、高まったっていう報道があって、その後、4月がミトスで、今が10月ですから、半年ぐらいでオープンウェイトでそんなものが手に入るようになってしまった。

かつ攻撃者にとってはガードレールもないから攻撃に使いやすいっていうものが出てきたっていうのは、予想はされていたことですけれども、予想されていたペースよりやや早いのと、あとこの攻撃の増え方も相まって、やっぱり来てしまったか。来たら影響は想像通りでかかったけれども、想像以上になんか気になるところでもあるなという、そういうふうに思ってます。

ちょっと補足すると、オープンウェイトっていうのがポイントだというところで言うと、いわゆる皆さんがよくご存じのChatGPTだったり、さっきから言っているミトス、つまりアンソロピックが作ってるクロードシリーズなんかはクローズドモデルに対して、オープンソースというのもあるんですけど、その一方、その間ぐらいになるのがオープンウェイト。

つまりそのウェイトっていうのを少しユーザーがいじれる。ChatGPT自体の設定を変えるっていうのは難しいんですけれども、オープンウェイトだと少しユーザーが自分の好みに合わせたチューニングができると、そういうことですか？

それは合ってます。オープンウェイトモデル、チューニングせずに単に自分の環境にダウンロードして高性能のマシンで使うってことももちろんできるし、あとそのモデルの、おっしゃっていただいたウェイトっていう、モデル同士の結合の重みっていうのを切り替えることで、例えばアラインメントと呼ばれるような、セキュリティ的に危ないことはするなよ、そういう性向みたいな部分をいじることも、技術的には可能なので。

GLM-5.3に対しては、その重みをいじってまでやらないといけないことがあまりなさそうに今は見えてるんですが、今後もしかしたらオープンウェイトモデルもガードレール、アラインメントが厳しくなってきた時には、もしかしたらオープンウェイトを生かしてその辺をいじった上で悪用をすることが、これから出てきても不思議ではないのかなと思ってます。

どれだけのガードレールを設けるかっていうのは、開発企業のモラルに委ねられてるっていう側面なんですかね。

モラルや、あと何を目指して開発しているか、どういうユーザーに使ってもらいたいか、その辺りにやっぱり起因すると思っておりまして。例えばGLM-5.3の提供企業であるZ.aiっていう中国の会社、これがどのような目的であれを出しているか、正確なことは私は知り得てないんですけれども、やっぱり米国のOpenAIやアンソロピックと比べると、何よりまずは性能の方が大事、アメリカに追いつけ、追い越せってところが最も大事になっていて。

一方でアメリカの方は、もうサイバーセキュリティ能力とか数学的な能力については、ベンチマークで分かる範囲、行くところまでもうだいぶ行ってるってところがあるので、これ以上それを伸ばして、またちょっと理解がしがたいベンチマークを増やして、ベンチマーク競争するよりは、やっぱり安全性とかに着目したりとか、サイバー、数学以外の裾を広げるような、AGI的なジェネラルの力を伸ばす方に、今アメリカ企業は行こうとしてるんじゃないかなと私は思ってます。

なるほど。中国は結構まだセキュリティ分野でのその伸びに注力してるようなイメージ。

これはちょっと正確な情報がないので何とも言えないんですけど、GLM-5.3っていうモデルについては、確実にセキュリティ能力にターゲットを少なくとも1つ置いているなっていうレベルの能力の伸びは感じますね。

中谷さんの目から見ると、ミトスが出てから数ヶ月ですよね。中国からこういうGLMのような、フロンティアモデルに匹敵する性能を持つ、しかもそれがオープンウェイトだったというモデルが放たれたっていうことは、ある程度予想されていたことなんですか？

そうですね。予想してました。以前どちらかの取材でも申したんですけど、基本的に今まで、OpenAI、アンソロピックなどの米国フロンティアモデルの数ヶ月遅れ、大体6から10ヶ月と言われてたんですが、数ヶ月遅れでオープンウェイト系のモデルも性能が追いついてくるって傾向が今までずっとあったんですよね。

だからミトスなんかが出た時にも、これはアンソロピックだけができることじゃなくて、OpenAIも追いついてくるだろうし、オープンウェイト系のモデルも半年ちょい経てば追いついてくるでしょうっていう予測をどちらかでお話ししたと思うんですが、実際やっぱりその通りになったなと思ってます。

なるほど。ただ今回の一連のこの事案が全てGLMであったり、AIだったりっていうのを断定できない理由っていうのは、どういうところなんですか？

そうですね。図をお出ししながら説明するんですけれども、こちらの図で書いてあるところでポイントなのは、1番右側の被害システムってところが攻撃通信を2箇所から受けたとして、それらが見分けがつかないってところがポイントなんですけど。この2箇所って書いてあるのがどこから出てるかっていうと、上側がAIによるサイバー攻撃、下側が従来のAIを使わない形のサイバー攻撃。これらが見分けがつかないって申し上げてるのがこちらの絵です。

加えて言うと、AI攻撃と従来の攻撃が見分けがつかないレベルだったら、AI攻撃同士でもどのAIを使ったかなんか、詳細なんかさらに分かりようがないっていうことで、何のモデルが使われたかは正直、識別は被害側では難しいという話をしております。

ハーネスっていうのはどういうものなんですか？

ハーネスっていうのはですね、ハーネスの前にその左側のAIモデルのところを見ていきますと、これは皆様、ChatGPTとかで普段お話しされる時、何か言語で何かを聞いて、そしたら言語が返ってくるっていうのが基本的な挙動かと思いますが、それがAIモデルのやってる、トークンを受けてトークンを吐くという挙動にまずなってます。

言語を吐くだけだったら、じゃあサイバー攻撃をしたりだとか、場合によっては、そうですね、生成したり画像生成したりみたいなことは、やっぱり言語だけでは難しい中で。じゃあ何かコンピューターのプログラムを実行するみたいな能力を持たせる時に、モデルの横に持たせるのがハーネスと呼ばれるもので、ツールとかコード、ソースコードを実行するような能力を持ったものがハーネスです。

AIモデルで指示書を作って、この制御基盤、ハーネスで実行するっていう、今2段階のステップがあるという。

それを今、意識してモデルの出力をハーネスに渡そうってやらなくても、例えばコーディングエージェント、CodexやClaude Codeなどが有名ですけど、そういうものを使えば、ユーザーからしたらとりあえず指示を投げておけば、勝手にモデルに指示が行って、モデルがトークン、言語を出して、モデルが必要に応じてハーネスを呼んで、ユーザーの望む行動までするというのが、今のAIの動きになってますね。

これ、ガードレールが働くとしたら、そもそもAIモデルがそういったコーディングをさせない、出力が出ないってことですか？

これはどちらもあって、モデル側で防いでる部分とハーネス側で防いでる部分が両方あります。モデル側で防ぐ方は、よくアラインメントと呼ばれる技術が今あるんですけど、モデルがトークンを吐く時に、よく事後学習とか言うんだけど、こういうことは言ってくれるなみたいなことがモデルの中に埋め込まれてアラインされていて、あんまりそもそもトークンとして出ないようになってるっていうのが1個。

ただそれだけだったらちょっと保証が弱すぎるので、ハーネス側でブラックリストみたいな感じで、こういうことは絶対にできないようにするみたいなこともできるようになってて、その集合がガードレールと呼ばれるものになりますね。

このGLMに関しては、そのガードレールはあることはあるんだけれども、非常にガードレールでいうところの低いというか。

そういうことになるかと思います。

なるほど。もう1つお伺いしたいのが、このAI側からの攻撃だったり、ハーネスを使った攻撃だったり、人間がやる攻撃だったりっていう、その見分けはつかないとはいえ、例えば簡単に想像すると、AIだったら無限にというか24時間365日出し続けるみたいな量の違いはあるんじゃないかなと思ってしまうんですけど、それはそんなことないんですか？

はい。これはですね、従来の攻撃であっても、攻撃者が1個1個攻撃通信をエンターキーで発射みたいにやるのと比べると、確かに量は違うんですけど、従来であっても攻撃者が自分で攻撃プログラムを作って、ループで攻撃を24時間回し続けるって行動もありましたので、そちらと比較してしまうと、本当に出元がAIなのか、プログラムなのかっていうのが分からなくなってきているということになります。

量でも測れないということですね。

あと最後に1つ伺いたいのが、最近のこの情報流出を見ていると、その業種ですよね。これまでだったらどちらかというとリターンが大きそうな、例えば個人情報を多く持っている、顧客基盤がもう数千万人単位の大規模事業者だったり、もしくはインフラ系の事業者だったり、そういったところが狙われてるケースっていうのが多かった気がするんですけども。

結構最近公表されてるのって、例えば本当、高校だったり、そんなに顧客がものすごい大きいわけではない事業者も狙われているというのは、例えばAIだったら攻撃の質が上がっているとか、人間だったらやらなかったような、狙わなかったような対象でもやっているようなイメージがあるのは、これどういうことなんですかね？

今おっしゃったイメージは基本的に正しいと思ってまして、やっぱりAIだったら幅広い攻撃対象に対して、攻撃対象は共通的なIT基盤を持ってることもあるけど、なんだかんだ各社、各組織違ったIT基盤を持ってる中、通り一遍の攻撃だとみんなを倒せるっていうのはなかなかなかったわけですよ。

一方でAIだったら、試しに攻撃リクエストっぽいのを投げてみて、返ってきた反応を見て、これ、この反応だったら次ここ変えれば通るんじゃないみたいなことを、今までは人間が頭絞って時間かけてやる必要があったのが、AIが勝手に自動的に次のリクエストはこうしようってやってくれるようになったので、裾野広く攻撃をカスタマイズしながら幅広く打てるようになったっていう現状があるのかなと思っております。

これまで狙われなかったような企業がどんどん、本当に顧客数が数十人でも狙われる可能性がある。

そうですね。語弊なきように言うと、今までもやっぱり幅広く狙うような攻撃試行っていうのはあったはあったんですけど、やっぱりカスタマイズそんなにしてる場合じゃないので、刺さる確率が低かったっていうところはある。一方で、大きな企業相手にはカスタマイズしても攻撃成功したらメリットがあるかもしれないから、ある程度刺さる攻撃を作ってきた。だから大手からの流出が多かったみたいなのはあったと思うんですが、AIで別の小さいところも含めてカスタマイズは自動でできるようになったから、やっぱり幅広く漏洩の事案とかが出やすくなったのかなっていう、そういう構図かと思います。

なるほど。今回の国内事件にこのAIが使われたということは示されていないわけですけれども、これ、もしAIを使えたら、攻撃者は具体的にどのようなことができるんでしょうか？

そうですね。次の図にちょっと移ってもらいたいんですけれども、AIがあるから今までと全く違う経路での攻撃がバカスカ生まれてるってわけでは、実はあんまりなくて、現段階においては、今までもこういう公開ウェブサイト、APIを狙った脆弱性を発見して突く攻撃も従来からあった。VPNとかを狙った攻撃なんかも従来からあった。

こういうような攻撃の入り口になるようなところについて、従来、人間がその脆弱性を突いたり、フィッシングメールを仕立て上げてパスワードを奪ったりとか、そういうことをやってたのが、AIでだいぶ自動化かつ高度化するようになってきたっていうのが、今の現状かなと思っております。

じゃあ新しい手段が生まれたわけではないですけれども、突破しやすくなったっていうことなんですね。

そうですね。それこそ本当に、ウェブサイト、APIの例なんかでいくと、いわゆる不正アクセスと言われるものは、ウェブサイトやAPIに備わっている脆弱性、もしかしたら各社が作った固有の脆弱性かもしれないし、各社が共通して使ってるライブラリーと呼ばれるような共通的なものの脆弱性かもしれないし、そういうのをいずれにしても探し出して、それを突く攻撃をして攻撃目的を達成していたっていうところがありますが。

AIになると、その脆弱性を探すだとか、探した脆弱性に基づいて攻撃のプログラムを作るだとか、作って実際に刺さるまで調整するだとか、これも全自動でできるようになってきたし、ミトスの件でもお話ししたんですけど、実はその脆弱性を見つけるところまでできる人はいても、その脆弱性に合わせて攻撃を作れる人っていうのはかなり数が絞られるんですよ。技術的に難しいので。

ただAIはそこがだいぶできるようになってきてしまってるので、かなりその公開ウェブサイトとかへの攻撃っていうのは、楽になってしまっているっていう状況が1つあります。

他にも従業員のアカウント、端末からのこのサイバー攻撃というのも考えられますよね。

そうですね。その通りで、昔から脆弱性を突く攻撃も怖かったけど、長年1番大きかった攻撃経路っていうのは、実は認証情報を奪われて、なりすまされて入られたっていうパターンが1番多かったんですよ。

その認証情報を奪う、いろんな経路がありつつ、典型的な経路はフィッシング。メールとかメッセージアプリで、例えばAppleを装って、あなたのパスワード更新期限来てるから更新してねって言って、AppleっぽいサイトでAppleのID、パスワードを打たせて、実はそれ偽サイトで、知らないサイトにAppleのパスワード教えちゃったみたいな、そういう事案とかが昔からあったんですけど。

じゃあその誘導するためのメッセージを人間らしく作るだとか、誘導先のサイトを極めてリアルに作るとか、そういう数も増やせるし精度も上がるしってところが出てきているっていうのが1個と。

ちょっとこれ過激なので放送でカットかもしれないんですけど、話しますね。あとはリンクをクリックするだけで端末を乗っ取られる攻撃っていうのも、昔からあるにはあったけどそんなに多くなかったんですよ。ただAIで結構リンククリックだけで制御を乗っ取られる系の攻撃の作りやすさが増してしまっているっていうのもあって、フィッシングでただリンククリックしただけなのに乗っ取られちゃったってことが起きやすくなっている。

そうなんですか。そのワンタッチだけで。

そうそう。

これ、コンピューターユースみたいなことなんですか？

コンピューターユースとはまたちょっと違うんですけど、例えばリンクをクリックした時に、そのメールアプリケーションからそのリンク先に飛ぶ時に、いろんなソフトウェアをやっぱり通るんですよ。モバイルアプリだったら、ディープリンクと呼ばれるような、例えばLINEアプリを開くみたいなリンクってあるじゃないですか。

あれクリックした時に、ちょっとOS、Androidみたいに紐づいたところにも制御が行くし、そのいずれかのソフト、最終的に開いたアプリとかブラウザの脆弱性、いずれかを突けたら、どの範囲かは何の脆弱性を突けたかによるんですけど、いずれかの制御を取られてしまうってことが、昔からやっぱり起きたっていうところです。

これ、中谷さんの目から見ると、この一連の攻撃っていうのは、何かものすごく有名なハッカー集団がものすごい革新的な技術を得て、それで仕掛けているのか、それともこの攻撃者自体の数がじわりと増えていて、いろんな人がいろんな攻撃をしてるとか、どういうふうに見えますか？

そうですね。やっぱり攻撃者の数、組織の数っていうのがおそらく増えているだろうなと見込んでいて、2つの観点から話したいんですけど、1つは攻撃者にとってどのぐらい攻撃ツールが安くなったかです。これはフロンティアAIの話とかもしてましたし、GLM-5.3とかの話もしてましたけど、AI自体、高性能のものが入手しやすくなってるっていうのが1個と。

あとやっぱりサイバー攻撃をする専用のオープンソースソフトウェアとかも出回っていまして、我々のような企業も技術的にはそのようなものを見てはいるんですけれども、それを悪意に使うこともやっぱりできてしまうっていう状況になっていますので、手軽に攻撃をするためのAIも、そのAIの周りで使うハーネス的な部分も手に入りやすくなってるっていう状況がある。これが1つ。

あと被害状況を見てみても、日本の被害状況だけを見てもやっぱり各社、様々な要因でやられているんですよね。例えば1つの会社様では、フィッシングによって外部クラウドサービスのアカウントが取られちゃって、ドライブアプリのファイルを読まれてしまった。それの流出もあれば。

あとは共通して使ってるお問い合わせフォームみたいなものを、委託先のサービスでお問い合わせフォームを使っている事業会社さんが複数いて、そこの委託先がサイバー攻撃をやられてしまって、お問い合わせフォーム経由でお客さんが入力してくれた氏名とかメールアドレスとかが漏れてしまったっていう事案も複数件見られますし、あとは自社アプリケーションを侵害されてしまったっていうのも見られますし。結構様々な要因でやられているので、1個の組織が同じような攻撃をAIでやってるだけではないだろうなっていうのは考えてるところです。

これ、今我々はどうしても国内のニュースですとか国内の企業の動向に注目しがちですけれども、どうなんですかね？ この秋以降、世界的にも増えているんですか？

そうですね。どうやら世界的に増えているようで、まだ確たる証拠データみたいなのっていうのは少ないんですけど、1つ参考にしてるのは、イスラエル企業のチェックポイントっていうセキュリティをやっている会社様で、ネットワークセキュリティとかクラウドセキュリティとかやっている会社様です。

彼らはその都合から、チェックポイントが出しているサービスを入れてくれているお客さんに対して、どんな通信が来てるか、攻撃通信は来てるか、増えてるか、こういうのを監視できる立場にあるわけですね。

そのチェックポイントのレポートによると、どうやら9月からサイバー攻撃の増加っていうのは観測されていて、9月の全業種の攻撃数っていうのは、去年の9月と比べて48％増えた。金融セグメントに絞ると、前月比、だから今年の8月から9月で14％増えたみたいなことをデータとして出されていて、やはり日本だけにとどまらず、世界的に攻撃事例が増えているのかなとデータからは見てます。

そして国内で特にタイムズカーの件では、運転免許証の画像が多数流出したことが問題とされていますよね。ここでもAIが悪用される危険性というのはあるとお考えですか？

そうですね。今までの話はAIを使ってどう入るかっていう話で、じゃあ得た情報をAI使うと何ができちゃうのかっていうと、やっぱり想像しやすいのはディープフェイクというか。

そういうことですよね。中谷さん、実はeKYCの開発にも携わった経験があるってことで、eKYCってあんまり聞き馴染みないですよね。

はい。そうですね。本人確認のことですか？

そう。最近いろんなサイトでユーザー登録をする時に、免許証を見せてくださいとか、こっち向いてください、こっち向いてくださいとか、やってますよね。あと免許の厚み見せてくださいとか。ああいうのがeKYCっていって。

KYCって何だろうと思って調べたら、Know Your Customerっていう、結構単純な、あなたのことみたいなこと。あなたのお客を知るみたいな。エレクトリックというか、Eが付くっていう。それがeKYCなんですけど、やっぱりAIを使うとeKYCでも簡単に突破できる可能性っていうのはありますかね？

そうですね。実はあると思っていまして、現在の日本のeKYCの制度って、基本的には犯罪収益移転防止法、いわゆる犯収法というものの、イ、ロ、ハ等の方式というものでやられてるんですけど、これはまさにさっきおっしゃっていただいたように、本人確認書類の、顔写真付きの本人確認書類の券面、見た目と、あと厚み。厚みがあることで偽装書類じゃないよねをどうやら見てるという理屈らしいんですけど。

それプラスその本人の顔で、ただの静止画1枚じゃなくて、一応動きも見せることで実在してるよねと。これを見る方式がハ方式です。

ただこれはAIとかが生まれる前の技術というか制度だったと思っていて、おっしゃる通りディープフェイクなんかがあると結構容易に突破されるだろうなと私も推測してて。根拠としては、さっきおっしゃっていただいたように、私、消費者向けを開発する会社にいたことがあって、eKYCのシステムそのものを作るわけじゃないんですけど、うちの会社のアプリケーションに入ってくるお客様の本人確認をeKYCでもできるようにしようっていうプロジェクトも、当時リーダーを務めていたんですね。

その関係で、いくつかシステムそのものを作ってくれてるベンダー様、何社か当たって、選定みたいなことをする中で、ある会社様のそのeKYCシステムについて、我々の立場でテストしようということで。テストする時に、我々開発者本人の免許なり顔写真を、テストとはいえ登録するのって従業員のプライバシー的にどうなのよって話があるので、じゃあということで、いわゆるパーティーグッズ的な面、トランプ大統領の面だったりだとか、安倍首相、当時安倍首相だったんですけど、覆面とかをちょっと買ってきて、じゃあその面を被った状態の免許証画像を作ってみよう。

もちろんこれはそのテスト目的だけに作っている書類なんですけど、そういうのを作って紙に貼り付けて厚さチェックも突破して、かつ面を被った状態で右向いてみたいな指示通りにやると、本当に確実に突破できたんですよ。

もちろんこれ、2018年とか2019年当時にこれができたってことで、各社みんな法制度の中でおそらく技術的にはもうちょっと精度を上げてきてるとは思いつつ、一方でその覆面、マスクなんかよりも精度高い顔画像が生成できるのが今の生成AIとかディープフェイクなので、やっぱり今の方式には限界があるなというふうには考えてます。

こんな時に竹﨑さんがちょっとね。

はい。もうあっという間にお時間が来てしまいました。すみません。大変勉強になりました。

いえ、こちらこそありがとうございます。じゃあいっぱい聞き出してください。

ちょっと別の仕事で。はい、すみません。失礼いたします。

お疲れ様です。

ちょっと椅子だけどかしちゃってですね。

アメリカ側でやはりそういった議論が盛り上がったのは、思い出されるのはやっぱりOpenAIのハギングフェイスの件が、結構発端になった気がしていまして。あれはAIの暴走ですよね。今回の件ってあくまで悪意を持った人間がやっていると見ていいのか、それとも何かAIが暴走した形でこういったことを仕掛けてる可能性っていうのはゼロだと思っていいのか、それとも少しはやはりあるかもしれないと思った方がいいのか、どう思われますか？

これは極めていい質問で、かつ極めて難しい質問なので慎重に答えさせていただくんですけど、おそらく我々日本人やアメリカ人のように、OpenAIなりアンソロピックなり、我々が知ってる、よく使われてるAIを使っている限りは、こういう攻撃、暴走みたいなことはなかなか起きないんじゃないかと思っていて。それは先ほども話したガードレールっていうのが、セキュ…