AIが別人になりすましてオンライン面接を受ける ディープフェイク採用の手口と背景
テレ東BIZ ダイジェスト
オンライン面接に、実在しない人物の顔をしたAIが応募者として現れるケースが増えているという。BSテレ東「NIKKEI NEWS NEXT」の特集「追跡！ニュースのリアル」では、トラウデン直美キャスターが、なりすまし面接を実際に受けた企業やサイバー攻撃の専門家、AI面接官サービスを手がける企業を取材した。誰が何のためにAIで応募してくるのか、企業や応募者はどう備えればよいのかを追っている。
普及したオンライン面接
番組によれば、オンライン面接はおよそ半数の企業が導入している。就職活動を経験した若者は、もともと大阪にいたので対面の面接は受けにくく、お金も時間もかかるため、Zoomなどで受けられたのは助かったと振り返る。別の若者は、話す内容を忘れないようにパソコンの縁に付箋のようなメモを貼って面接に臨んでいるという。応募者にとってはこれだけ便利になった仕組みに、落とし穴があるというのが特集の出発点である。
面接に現れた「AIの応募者」
番組はまず、実際の企業の面接映像を紹介した。画面の右側に映る応募者は、実は人物になりすましたAIである。本物の映像や音声を模倣するこうした技術はディープフェイクと呼ばれ、今はリアルタイムで動くディープフェイクがオンラインの採用面接を受けに来るケースが増えているという。
この面接を受けたのは、AIを活用したエンタメ事業を展開するKOWRO(コヲロ)である。応募者は「これまで約9年間Webの開発に携わってきまして、直近はシニアフルスタックエンジニア兼プロジェクトマネージャーとして」と自己紹介し、豊富な経験をアピールした。ところが会社名を言い間違え、面接官に制止されても話を止めなかった。
AIだと見抜いた面接官は「映像と喋ってるのが全然一致してないですけど、大丈夫ですか」と問いかけた。応募者は「少し通信の遅延があるのかもしれませんが、僕の方は問題なく聞こえています」と答える。面接官が「AIか何かで喋らせているように聞こえる」と重ねると、応募者は「AIは使っていません。ご自身が直接お話ししています」と返した。面接官は「ご自身とか、自分であんまり言わないですよね」と指摘している。
KOWROに被害はなかったが、注意喚起のためにこの動画を公開した。すると、同じ顔のAIが別の企業の採用面接にも出没していたことが分かったという。
出社しなくて済むフルリモートの仕事が狙われる
AIでなりすまして採用されても、実際に出社すれば別人だと分かってしまうはずである。この疑問をトラウデン氏は、サイバー攻撃の専門家であるPwCコンサルティングの村上純一氏にぶつけた。
村上氏の答えは、基本的にはリモートワークで採用するケースが攻撃の対象になる、というものだった。今増えているフルリモートの業務であれば、AIのなりすましが発覚することはないという。さらに村上氏は、AIなどの技術の進化で精度がどんどん上がっているため、人間が対策するのはますます難しくなっていると指摘した。
狙いは企業内部へのアクセス
では、AIを使って面接に応募する意図は何か。村上氏は、身分を偽ってその企業に採用されれば企業内部にアクセスできるようになる、と説明する。そこで機密情報を持ち出したり、コンピューターウイルスのようなものを仕掛けて企業にダメージを与えたりすることがあるという。番組はこの手口が組織的な犯罪に使われる場合もあると伝えている。
ダークウェブで売られるディープフェイク作成ソフト
取材班は、ディープフェイクそのものが取引されている現場も見つけた。ダークウェブと呼ばれる地下の掲示板に、闇のマーケットが広がっていた。
そこでは世界各国のパスポートデータや、住所・名前などの個人情報が売られていた。それらと並んで売られていたのが、写真1枚で使えて、自然な顔の動きを再現するディープフェイク作成ソフトである。価格は日本円で4万7000円。売り文句は、顔認証システムを突破できるディープフェイクを作れることだった。
面接官を装うAIも
なりすましは応募者側に限らない。企業の面接官を装うAIも現れているという。偽のオンライン面接を実施して応募者に悪意あるソフトウェア(マルウェア)をダウンロードさせ、暗号資産などを盗み取る事件が起きていると番組は伝えた。
実際のAI面接官を体験する
AIによる面接とは実際にどのようなものなのか。トラウデン氏は、面接用の対話型AIアバターサービスを提供するZEALS(ジールス)で体験した。画面はZoomやMeetのようなWeb会議に近く、映っているのは同社の渡辺大介氏のクローンである。
AIの面接官は「面談担当の渡辺大介です。今日はカジュアルな形で気軽にお話しできればと思います」と切り出し、最近興味を持っていることを尋ねた。トラウデン氏が、フィジカルAIに強い興味があり、先ほど見た病院で使えるロボットの動画が面白かったと答えると、AIは「フィジカルAIに興味があるんですね」と受け、病院での実証に取り組み、医療従事者の負担を減らす可能性を探っていると応じた。
顔写真があれば、1週間ほどで面接官のAIアバターを作れるという。制作費は数十万円からである。トラウデン氏は、表情も受け答えも自然で、聞かれる内容がとてもピンポイントで、本当に人と話しているようだったと感想を述べている。
ZEALSが語る利点と、悪用への懸念
ディープフェイクの脅威が広がる中でも、ZEALSはAI面接の有用性を訴える。担当者によれば、面接は時間を大きく取られ、1日に1回面接をすればそれだけで1時間が消える。それをAIに任せれば面接する人が楽になり、応募者にとっても採用の機会が増えるので、双方にとってよい関係が作れると考えている。
一方、AI面接が悪用されたり、技術が外部に流出したりするリスクについて尋ねられると、担当者は、自社ではできる限りセキュアな状態で運用しており暴走することはない、と答えた。ただし世の中には個人で使えるアバターサービスもあり、本当に簡単に作れてしまうという。そのため、これが公式のサービスだときちんとうたっていくことがとても大事だと話した。
背景に北朝鮮か
応募者のなりすましや面接官の偽装は、国をまたいだ犯罪に使われている可能性もあるという。村上氏によれば、ディープフェイクを使ったなりすましとして確認されているのは北朝鮮だ。北朝鮮は国際的な制裁を受けており、輸出入や海外での就労が制限されているため、正当な取引で外貨を稼ぐことが難しい。そこでサイバー攻撃を資金源の一つとして活用していることが確認されている、と村上氏は説明した。
スタジオでの議論と残された問い
スタジオでトラウデン氏は、AIによるオンライン面接は少しずつ増えており、それ自体は便利な技術だと評価した。時間帯の制約がないうえ、面接官も人間なので1日に何件もこなすうちにだんだん分からなくなってくる、という声も取材で聞いたという。大勢と面接しなければならない初期の段階では、AI面接官はとても便利ではないかと話した。
ただ、危険もあることから、本当にその会社に就職するつもりなら一度は対面で会う機会がある方が安全だと感じた、とも述べている。
企業側がどう対応していくかは非常に難しい問題だとして、スタジオでは最後に、狙われやすい企業があるのかという問いが投げかけられた。ここで配信部分は終わっており、その答えは公開された範囲では示されていない。
こちらは実際の企業の面接の映像です。実はこの右側の人物、応募者になりすましたAIなんです。このようにAIを活用し、本物の映像や音声を模倣した技術をディープフェイクと言います。
今、リアルタイムで動くディープフェイクがオンラインの採用面接を受けにくるというケースが増えていると言います。進化するディープフェイクの脅威。私たちはどう備えればいいのか。便利なはずのオンライン面接に潜む落とし穴を取材しました。
オンライン多かったですね。大阪に元々いたので、受けにくかったので。お金もかかりますし、時間もかかるので、Zoomとかの方が助かったなと思ってますね。
およそ半数の企業が導入しているというオンライン面接。こんな工夫をする若者も。
オンライン面接って受けられたことありますか？
あります。言うことを忘れないために、このパソコンの縁に言うことの付箋みたいなのを貼り付けて、忘れないようにはしてますので。
そんな中、ある企業のオンライン採用面接にこんな応募者が現れた。
僕の方から簡単に自己紹介をさせていただきますね。これまで約9年間。
AIを活用したエンタメ事業を展開するKOWROに就職を希望する応募者。
これまで約9年間、Webの開発に携わってきまして、直近はシニアフルスタックエンジニア兼プロジェクトマネージャーとして。
豊富な経験をアピール。
KOWROさんは……。
会社名、KOWRO、間違えて……。
を中心にフロントエンドから。
面接で制止されても自分の話を止めない。AIだと見抜いた面接官は。
で幅広く。
なんか映像と喋ってんの全然一致してないですけど。なんか大丈夫ですか？
少し通信の遅延があるのかもしれませんが、僕の方は問題なく聞こえています。
今、AIかなんかで喋らせてるようには聞こえるんですけど、なんかそういう状態……。
AIは使っていません。ご自身が直接お話ししています。
ご自身とか自分であんま言わないですよね。
被害はなかったが、注意喚起のため動画を公開。すると、同じ顔のAIが別の企業の採用面接にも出没していることが判明した。
誰が何のためにAIを使って応募してくるのか。話を聞いたのはサイバー攻撃の専門家、PwCコンサルティングの村上純一さん。そもそもAIのなりすまし、採用されたとしても実際出社したら別人に見えてしまうはずだが。
人物が現れちゃったら面接の時の人間と違ったりと、そういったことが出てくると思うんですけれども、この辺はどうなってるんですか？
おっしゃる通りで、基本的には、ですので、そのリモートワークで採用するケースっていうのが一般的な攻撃の場になります。
今増えているフルリモートの業務であれば、AIのなりすましもバレることはないというのだ。
AIであったり、技術の進化によってどんどん精度が上がってきていますので、そこはどんどん人間の対策っていうのは難しくなってきてます。
さらに組織的な犯罪に使われる場合も。
経ア保。
AIを使って面接応募するっていうのは、これはどういう意図というか。
身分を偽って、その企業に採用される。そうすると、その企業にアクセスすることができますので、それを持ち出してであったり、コンピューターウイルスみたいなものを仕掛けて、その企業にダメージを与えるってこともありますし。
取材を進めていく中で、ディープフェイクそのものを取引する現場を発見した。その実態とは。
機密情報を襲うディープフェイク。今回、その技術が取引されている現場に潜入した。ダークウェブと呼ばれる地下の掲示板。そこには闇のマーケットが展開していた。
世界各国のパスポートデータや住所、名前などの個人情報。これらと共に売られていたのが、写真1枚で利用可能、ディープフェイクを作成し、自然な顔の動きを再現するソフトだ。価格は日本円で4万7000円。売りは、顔認証システムを突破できるディープフェイクを作れるということだ。
一方で、企業の面接官を装うAIも現れている。偽りのオンライン面接を実施し、応募者に悪意あるソフト、マルウェアをダウンロードさせ、暗号資産などを盗み取るという事件が発生。
AIの面接は実際どんなものなのか。面接用の対話型AIアバターサービスを提供する企業に見せてもらった。
これが、いわゆるZoomとかMeetとかに近い。渡辺さんが。
はい。僕のクローンになります。
へえ。
面談担当の渡辺大介です。今日はカジュアルに、気軽にお話しできればと思います。まずは最近興味を持っていることから聞かせてもらえますか？
はい。最近はフィジカルAIにものすごく興味があって、先ほど動画を見ましたけれども、この病院とかで使えるロボット、とても面白いなと思ってます。
なるほど。フィジカルAIに興味があるんですね。病院での実証に取り組んでいて、医療従事者の負担を減らす可能性を探っています。
顔写真があれば1週間ほどで面接官のAIアバターを作ることができるという。制作費は数十万円から。
表情、結構本当に受けというか、聞かれてる内容がすごくピンポイントですし、本当に人と話してるのと、なんて言うんでしょう、かなと思いました。
こういう技術、ディープフェイクの……中で、ZEALSはAI面接の……性を訴える。
ありがとうございます。まず面接の時間、すごい時間取られるじゃないですか。
はい。
1日1面接やったら、1時間取られてしまうので、それをAIに任せていければ、その人自身が楽になっていきますし、その分、採用候補者の方々にとっても採用の機会が増えるので、ここはウィンウィンの関係が作れるかなと思ってます。
そうですね。はい。
しかし、暴走するリスクはないのか。聞いてみると。
面接にAIが使われることを悪用する人たちも出てきていると思うんですけれども、これが外に出てしまうリスクっていうのは。
僕らはできる限りセキュアな状態で、暴走するみたいなことはないんですけど、世の中に個人で使えちゃうアバターのサービスとかもあって、本当に簡単に作れちゃったりするんですよね。ここの公式のサービスですよっていうことをちゃんとうたっていくことは、すごく大事かなと思ってます。
AIによる応募者のなりすましや面接官の偽装。これらは国をまたいだ犯罪に使われている可能性もあるという。
やってます。その中で、ディープフェイクを使ったなりすまし、そういった確認されているのが北朝鮮だということになります。様々な国際的な制裁を受けている都合上、例えば輸入であったり輸出、海外で働く、そういったことが難しい、制限されていますので、正当な取引で外貨を稼ぐことができない。ですので、そのサイバー攻撃を1つの資金源を獲得する手段として、握しているということが確認されています。
はい。実際にAI面接官ともお話ししてましたけれども、どうでしたか？
はい。今、AIでのオンライン面接自体は少しずつ増えてきているようで、それ自体は便利な技術だなと思いますね。やはり時間帯の縛りがなかったり、面接官も人なので、1日に何件もやっているとだんだんと分からなくなってくるというお声もあったので、そういうことはAI面接官がいると、最初の、たくさんの人と面接をしないといけない段階っていうところでは、すごく便利なんじゃないかなと思いました。
やはり一部危険もあるということで、本当にその会社に就職しようということなんであれば、1度は対面があることが安全なのかなというふうに感じましたね。
そうですね。本当に企業側がどう対応していくかっていうのも、すごい難しいことだなと思うんですが、狙われやすい企業とかっていうのはあるんでしょうか？
はい。
記事公開 · 更新