経理部の担当者に、財務担当役員からビデオ会議の招待が届きました。画面に映ったのは見慣れた顔。声も、話し方の癖も、いつもの本人です。「進行中のM&Aの件で、今日中に指定口座へ送金してほしい。まだ社外秘だから、他の人には言わないでくれ」。担当者は指示どおりに手続きを進めます。振り込んだ金額は約4,600万円。数日後、本物の役員に確認して、会議そのものが偽物だったと分かりました。
この構図は、もう特殊な話ではありません。2024年には香港で、多国籍企業の社員がビデオ会議に参加した複数の「同僚」がすべてディープフェイクだった、というケースが起きています。被害額は日本円で約38億円にのぼったと報じられました。日本国内でも、経営者の声を模した電話や、役員になりすましたビデオ通話による送金指示が、規模の大小を問わず見られるようになっています。冒頭のケースは、こうした事例を組み合わせて再構成した典型例です。
ディープフェイクによる経営者なりすましは、「見た目」と「声」という、これまで本人確認の決め手だったものを無力にします。防ぐ鍵は、技術で偽物を見破ることではありません。送金や機密の取り扱いを「一人の判断・一つの経路で完結させない」業務プロセスと、それを体で覚える訓練にあります。
何が起きたか
攻撃者はまず、標的になる企業の情報を集めます。誰が財務の決裁権を持っているか、誰が送金の実務を担当しているか。役員名や組織図、決算説明会の動画、SNSに上がった登壇映像。こうした「公開されている素材」だけでも、顔と声を再現する材料としては十分に足りてしまいます。
次に、集めた映像と音声からAIモデルをつくります。数十秒ぶんの声があれば話し方を、数枚から数十枚の顔写真や短い動画があれば表情を、それらしく合成できてしまう。かつては専門の研究者しか扱えなかった技術が、いまは市販のツールや無料の学習済みモデルで、それなりの品質のものが動きます。
そして本番です。攻撃者は「緊急」「内密」「あなたにしか頼めない」という状況をつくり、ビデオ通話や電話で送金・情報提供を指示します。相手が確認しようとする隙を与えないよう、時間を切ってくるのが常套手段です。
手口の分解
素材集め
役員の顔と声を、公開情報から集めます。企業サイトの役員紹介、YouTubeの登壇動画、インタビュー記事、SNSの投稿。標的にする組織の決裁ルートも同時に調べます。
合成モデルの作成
集めた素材で、顔を差し替える映像モデルと、声を模す音声モデルをつくります。リアルタイムで顔をすり替えながら通話できるツールも出回っています。
シナリオ設計
「M&A」「海外送金」「監査対応」など、担当者が上に確認しづらい題材を選びます。内密・緊急・限定を組み合わせ、立ち止まる余地を消していきます。
接触と指示
ビデオ通話や電話で本人になりすまし、送金や機密提供を指示します。チャットやメールで事前に地ならしをしてから、通話に持ち込むこともあります。
回収と痕跡消し
着金後、資金は複数の口座を経由して短時間で引き出されます。気づいたときには、もう追跡が難しくなっています。
なぜここまで効くのか
私たちが「これは本人だ」と判断するとき、無意識に頼っているのは顔と声です。メールなら文面の違和感やアドレスのおかしさで気づけても、ビデオ通話で本人が話していれば、疑う理由そのものが消えてしまう。ディープフェイクは、この一番信じてしまう入口を突いてきます。
厄介なのは、品質が「本物と見分けがつくかどうか」で語れなくなってきたことです。じっくり見れば、口元の同期のずれや光の当たり方の不自然さが残ることはあります。ただ実際の通話は、回線品質のせいで多少カクついていても違和感を持たれません。「今日は少し映像が乱れますね」の一言で、合成の粗さはそのまま流されてしまいます。
さらにAIは、この攻撃を「量産」できるようにしました。以前は一件ごとに手間のかかる標的型だったものが、素材集めから合成、シナリオ生成までを自動化の流れに乗せられる。狙われるのは大企業だけではありません。決裁が少人数に集中している中小企業のほうが、むしろ一撃で通ってしまいやすいのです。
「AIが生成した映像かどうか」を検出するツールはありますが、生成側と検出側はいたちごっこで、100%は望めません。現場の担当者に「本物かどうか見抜け」と求めるのは、そもそも筋が悪いと思います。見抜けなくても被害が出ない業務のつくり方に寄せるほうが、ずっと確実です。
被害と、事前に出ていた兆候
金銭被害はもちろん大きいのですが、痛手はそれだけではありません。「役員の指示だと思って動いた担当者」が責められる空気が生まれると、組織の中で萎縮が起きます。次に本当に緊急の指示が来たとき、今度は誰も動けなくなる。信頼のプロセスそのものが壊れることのほうが、後を引きます。
振り返ってみると、多くのケースで兆候は出ています。
- 普段はメールで来る指示が、その日に限って通話・チャットの口頭ベースだった
- 「内密に」「他の人には言わないで」と、確認経路を塞ぐ言葉が添えられていた
- 期限が不自然に短く、上長やチームに相談する時間を与えられなかった
- いつもと違う口座、海外送金、普段と桁の違う金額だった
- 折り返しの電話番号が、社内の名簿にある番号と食い違っていた
どれか一つで偽物だと断定はできません。ただ、これらが重なったときに「一度立ち止まる」ことができれば、多くは止められます。問題は、緊急と権威を同時にぶつけられた人間が、その場で立ち止まれるかどうか。ここは知識というより、訓練で身につく反射に近いものです。
組織としての対策
対策は、大きく三つの層に分けて考えると整理しやすくなります。
1. プロセスで「一人・一経路」を断つ
送金や機密提供には、金額や種別に応じた複数人の承認を必須にします。そのうえで「指示を受けた経路とは別の経路で本人に確認する」ルールを、例外なく回す。ビデオ通話で受けた指示なら、こちらから登録済みの番号にかけ直します。この一手間を、緊急を理由に省けないよう制度に落とし込んでおきます。
2. 合言葉・確認手順を決めておく
役員と実務担当のあいだで、送金にまつわる指示のときだけ使う合言葉や確認質問を決めておきます。ディープフェイクは公開情報を再現できても、事前に口頭でだけ共有した「取り決め」までは持っていません。コストをかけずに効く一手です。
3. 人が「止まれる」状態をつくる
いくら制度があっても、権威と緊急を前にすると人は流されます。だからこそ、実際に近い状況を安全に体験してもらい、「おかしい」と感じて確認に回す動作を、事前に一度でも通しておく必要があります。次で触れる訓練は、この層を埋めるためのものです。
「本物にしか見えない指示」を、被害のない環境で一度受けておく
supasecurity AI訓練は、なりすましビデオ通話やなりすまし音声を模した訓練シナリオを配信します。受け手は緊張感のある状況で「確認に回す」判断を体験し、どこで詰まったかがデータに残ります。うまく対応できた人、流されかけた人が見えるので、次に何を教えるべきかが具体的になります。
- 経営者・役員なりすましの送金指示を、部署や役割ごとに出し分けて訓練できます
- 引っかかった人には、その場で「別経路の確認」を促す学び直しを自動で配信します
- 訓練の実施から結果の集計、経営層への報告資料まで一気通貫でまかなえます
ディープフェイクは、技術で完全に防ぎ切ることを目標にすると、いつまでも追いつけません。狙うべきは、偽物を見破ることではなく、偽物に従っても致命傷にならない業務のつくり方です。プロセスで守り、合言葉で守り、そして人が立ち止まれるように訓練で守る。この三つがそろって、はじめて「顔と声が信じられない時代」に耐えられます。
