ディープフェイクとは？仕組みや悪用リスク、見分け方を徹底解説

ディープフェイクを支えるAI技術

ディープフェイクの中核を担っているのは、ディープラーニング（深層学習）と呼ばれる技術です。特に「敵対的生成ネットワーク（GAN）」という仕組みが重要な役割を果たしています。

GANでは、偽のコンテンツを生成するAIと、それが本物か偽物かを判別するAIが互いに競い合いながら学習を進めます。

この過程を繰り返すことで、人間の目では見分けがつかないほどリアルな映像や音声が生み出される仕組みです。

近年はオープンソースのツールやSaaSアプリケーションとして誰でも利用できる環境が整いつつあり、技術のハードルは急速に下がっています。

【関連記事】AI時代に求められるセキュリティ対策｜サイバーセキュリティとAIの関係性

ディープフェイクが注目される背景

AI技術の急速な発展により、専門的な知識やスキルがなくても偽映像を作成できる時代になりました。

かつては高度なプログラミングスキルが必要でしたが、今では数分の動画素材と無料ツールがあれば短時間で高品質な偽コンテンツを生成できます。

加えて、SNSの普及によって偽情報が瞬時に拡散されるリスクも高まっています。一度拡散された偽映像は完全に削除することが困難です。

こうした状況を受けて、各国政府や企業がディープフェイク対策に本腰を入れ始めています。

顔の入れ替え（フェイススワップ）

ある人物の顔を別の人物の顔に置き換える手法で、最も広く知られたディープフェイク技術です。

映画やドラマの吹き替え、故人の映像復元など正当な用途がある一方、詐欺や名誉毀損への悪用も後を絶ちません。

有名人の顔を無断で合成したポルノ映像が問題視されるなど、プライバシー侵害の温床にもなっています。

音声の合成（ボイスクローン）

特定の人物の声を学習させ、本人そっくりの音声を生成する技術です。わずか数秒から数十秒程度の音声サンプルがあれば、リアルな偽音声を作成できるツールも登場しています。

現在の合成技術は劇的に進歩しており、声のトーンや話し方の癖まで再現されるため、受け手が偽物と気付くのは非常に困難です。

電話越しに経営者になりすまして送金を指示する詐欺などの悪用事例が急増しています。

全身の動きや表情の再現

顔だけでなく、体全体の動きや細かな表情までリアルに再現する技術も進化を続けています。

実在の人物を模倣するだけでなく、架空の人物をゼロから生成する「完全合成型」のディープフェイクも増加中です。

バーチャルインフルエンサーや広告モデルへの活用が期待される一方、存在しない人物による詐欺行為のリスクも指摘されています。

詐欺・なりすまし被害

経営者や上司になりすました偽音声で送金を指示するビジネス詐欺が世界各地で発生しています。ビデオ会議に偽の映像で参加し、本人確認を突破するケースも報告されるようになりました。

顔認証システムを欺いて不正アクセスを試みる事例もあり、従来の本人確認手段だけでは防ぎきれない状況が生まれています。

【関連記事】なりすましとは？代表的な手口や被害リスク、効果的な対策方法を徹底解説

フェイクニュース・世論操作

政治家や著名人の偽発言映像を主にSNSで拡散し、世論を誘導しようとする動きが各国で確認されています。

例えば、選挙期間中に候補者の偽映像が出回るケースでは、ディープフェイクによる被害で選挙の公正性が失われるリスクがあります。

一度広まった偽情報を訂正するのは容易ではなく、社会全体の信頼を揺るがしかねません。

名誉毀損・プライバシー侵害

本人の同意なく顔を合成したポルノ映像が作成・拡散されるケースも深刻です。一般の方も標的になりやすく、誰もが被害者になり得る点が問題視されています。

被害者が映像の削除を求めても、インターネット上に拡散された後では完全な対処が困難です。

企業ブランドへの悪影響

企業の代表者や広報担当者の偽映像が拡散されると、長年かけて築いてきたブランドイメージが一瞬で損なわれる恐れがあります。

偽の製品発表や謝罪動画が出回れば、株価や売上に直接的な影響を与えかねません。

取引先や顧客からの信頼を失うだけでなく、風評被害への対応に追われることで本来の事業活動にも支障をきたすでしょう。危機管理体制の整備が企業存続に直結する時代になっています。

CEOになりすましたAI音声で約2,600万円の詐欺被害

2019年、イギリスのエネルギー企業で音声詐欺による22万ユーロ（約2,600万円）の被害が発生しました。

被害企業の最高経営責任者（CEO）のもとに、ドイツ本社の親会社CEOを名乗る人物から電話がかかってきたのです。

声のトーンや話し方が本物と酷似していたため、被害者は相手を信用し、指定された口座へ約2,600万円を送金してしまいました。

しかし、2度目の送金を要求されたことで不審に思い、親会社へ直接確認したところ詐欺が発覚しました。

CFOになりすましたビデオ会議で約38億円の詐欺被害

2024年、詐欺グループが香港のある多国籍企業のビデオ会議で最高財務責任者（CFO）になりすまし、2,500万米ドル（約38億円）を送金させる大規模な詐欺被害が発生しました。

会計担当者のもとに、イギリス本社のCFOを名乗る人物から「機密取引のためビデオ会議に参加してほしい」というメールが届いたとされます。

指定されたビデオ会議に参加すると、CFOや同僚の姿が画面に映し出されていたため、担当者は正規の取引だと信じ込みました。

しかし、会議に登場した人物は全て偽映像であり、結果として約38億円もの資金が詐取されました。

岸田元首相の動画拡散で官房長官が注意喚起

2023年、ディープフェイクを利用して作成された岸田元首相の偽動画がSNS上で拡散される騒動が起きました。

偽動画はニュース番組のロゴを悪用して編集されており、本物の報道と見間違えるほど巧妙な作りでした。

この事態を受けて、松野官房長官（当時）は記者会見で「政府の情報を偽って発信することは、民主主義の基盤を傷つけかねない」と強い懸念を示しました。

偽情報の投稿は罪に問われる場合もあるとして、同様の行為を慎むよう国民に呼びかけています。

動作の繰り返し

同じ動きやジェスチャーが不自然なタイミングで繰り返されている場合は、AIによって生成された映像の可能性があります。

特に長時間の映像では動作パターンの単調さが目立ちやすくなります。本物の人間であれば無意識のうちに姿勢を変えたり手の位置を調整したりするため、機械的な反復が見られる場合は注意深く観察してください。

口元の動き

発話している言葉と唇の動きが微妙にズレていないか注意深く観察することが重要です。歯の形状や舌の動きに違和感がある場合も疑いの材料となります。

特に早口で話すシーンや複雑な発音を含むセリフでは、AIが口元の動きを正確に再現しきれず不自然さが露呈するケースが多く見られます。

瞳の動き

瞬きの頻度が極端に少なかったり、視線の動きがぎこちなかったりする映像は要注意です。

左右の瞳に映り込む光の反射位置が一致していないケースも、生成映像に見られる典型的な特徴として知られています。静止しすぎている瞳や不自然に固定された視線は違和感の手がかりになるでしょう。

影の動き

顔や体にかかる影の方向が画面内の光源と一致していない場合は、映像が合成されている可能性を疑いましょう。

人物が動いているにもかかわらず影が追従しなかったり、突然消えたりするシーンもチェックポイントです。

複数の照明が混在する複雑なシーンほどAIによる影の処理が破綻しやすく、不自然さが露呈する傾向があります。

映像の品質

顔の部分だけ周囲と解像度が異なっていたり、輪郭線がぼやけて見えたりする場合は注意が必要です。特定の箇所だけノイズが入る映像も、ディープフェイクを疑う対象となります。

背景と人物の境界線に不自然なにじみやちらつきがないかどうかも、真偽を見極める上で重要なポイントになります。

従業員へのセキュリティ教育を強化する

ディープフェイクの手口や見分け方について、定期的な研修を実施することが重要です。経理部門や役員秘書など、金銭や機密情報を扱う部署には重点的な教育が求められます。

実際の被害事例や偽情報の手口を共有することで、従業員が「自分ごと」として危機意識を持ちやすくなり、セキュリティ意識の向上に繋がります。

新しい詐欺手法が次々と登場するため、教育内容は定期的にアップデートしてください。

本人確認プロセスを多層化する

ディープフェイクによる深刻な被害を防ぐために、送金や機密情報の開示には、複数人の承認を必須とするルールを設けましょう。

ビデオ通話だけで重要な意思決定をしないフローを構築しておくことも大切です。

電話やメールなど別の手段で本人に直接確認するステップを加えれば、なりすまし被害をより防ぎやすくなります。緊急を装った依頼ほど慎重に対応するよう、社内全体に周知徹底してください。

ディープフェイク検出ツールを導入する

AI搭載の検出ツールを導入して、不審な映像や音声を自動的にスクリーニングする体制を整えましょう。

例えば、マイクロソフト社の「Microsoft Video Authenticator」などがこれにあたります。

このツールは写真と動画の両方に対応しており、不正に加工されたものであるかどうかを調べることが可能です。

外部のセキュリティベンダーと連携し、インシデント発生時の対応体制を事前に整備しておくことも有効です。