ディープフェイクとは？仕組み・実際の被害・見分け方と対策を分かりやすく解説！
目次
ウマたん当サイト【スタビジ】の本記事では、「ディープフェイク」について分かりやすく解説していきます！AIで作られた偽の映像や音声の仕組みから、実際に起きた被害、だまされないための見分け方と対策まで見ていきましょう！
こんにちは！ウマたんです！
ビデオ会議に出てきた上司が、実はAIが作った偽物だったら…。
そんな映画のような事件が、今、実際に起きています。
その正体が「ディープフェイク」です。
ディープフェイクってニュースでよく聞くけど、どうやって作られているの？
本物そっくりの偽物にだまされないためには、どうすればいいのか知りたい！
本記事では、次の4つを順番に解説していきます。
以下のYouTube動画でも解説していますので、あわせてチェックしてみてください！
ディープフェイクとは？
ディープフェイクとは、AIを使って作られた、本物そっくりの偽の映像や音声のことです。
冒頭のビデオ会議の例では、画面に映っていた上司の顔も声も、AIが作り出した偽物だったというわけです。
「ディープラーニング」＋「フェイク」
ディープフェイク（deepfake）は、AIの技術である「ディープラーニング（深層学習）」と、偽物を意味する「フェイク（fake）」を合わせた言葉です。
2017年ごろから、ネット上で広まりました。
ディープフェイクでできることは、大きく分けると次の2つです。
| できること | 内容 | 例 |
|---|---|---|
| 顔の入れ替え | ある人の顔を、別の人の顔に入れ替える | 動画に映っている人の顔だけを、別の人の顔にすり替える |
| 声・話す内容のなりすまし | 本人が言っていないことを、本人の声でしゃべらせる | 上司の声で「至急、送金してほしい」と話す音声を作る |
声のなりすましでは、声だけでなく、口の動きまで言葉に合わせて作り変えることもできます。
「顔」と「声」という、僕たちが相手を本人だと信じる一番の手がかりを、まるごとまねできてしまうのが、ディープフェイクのこわいところなんです。
ディープフェイクのもとになっているディープラーニングの仕組みについては、以下の記事で詳しく解説しています。
【入門】ディープラーニング(深層学習)の仕組みとPython実装のやり方！当サイト【スタビジ】の本記事では、ディープラーニングの仕組みやPythonでの実装方法について解説していきます。ディープラーニングってなんとなくブラックボックスなイメージがあるかもしれませんが、実はシンプルなアルゴリズムなんですよー！
良い使い道もある
もちろん、ディープフェイクの技術そのものが悪いわけではありません。
たとえば映画の撮影では、俳優を若返らせるといった、良い使い道もあります。
ところが悪用されると、本物と区別がつかない偽物が、SNSなどを通じてあっという間に広がってしまいます。
しかも、一度広まった偽の動画を、あとからすべて消すのはとても難しいんです！
同じ技術でも、使い方しだいで人を助けることも、人をだますこともできる。
だからこそ、仕組みと手口を知っておくことが大切なんです。
ディープフェイクの仕組み
では、どうやって本物そっくりの偽物が作られているのでしょうか？
ここでは作り方ではなく、「なぜ本物そっくりにできるのか」という考え方を、ざっくり見ていきましょう。
顔の特徴を覚えて、別の顔で描き直す
初期のディープフェイクでよく使われたのが、「顔の特徴を覚えて、別の顔で描き直す」AIです。
AさんとBさんの顔の写真をたくさん学ばせて、顔の向きや表情はそのままに、Aさんの顔だけをBさんの顔に入れ替えます。
イメージとしては、こんな2つのステップです。
- 動画の1コマ1コマから、「顔の向き」「表情」「目や口の開き具合」といった特徴を読み取る
- 読み取った特徴はそのままに、Bさんの顔で描き直す
このように「特徴を読み取る部分（エンコーダー）」と「描き直す部分（デコーダー）」を組み合わせたAIは、オートエンコーダーと呼ばれます。
読み取る部分をAさんとBさんで共通にしておき、描き直す部分だけをBさん用に切り替えるのがポイント。
そうすると、表情や顔の向きはAさんのまま、顔だけがBさんになるんです！
まるでBさん本人がその場で話しているかのように見えてしまう、というわけですね。
作るAIと見破るAIを競わせる「GAN」
さらに、偽物を作るAIと、見破るAIを競わせて、どんどん本物らしくする「GAN（敵対的生成ネットワーク）」という仕組みも使われてきました。
GANの2つのAIは、よく「偽札づくり」にたとえられます。
| 役割 | たとえると | |
|---|---|---|
| 作るAI（生成器） | 本物そっくりの偽物を作る | 偽札を作る人 |
| 見破るAI（識別器） | 本物か偽物かを見分ける | 偽札を見破る警察 |
作るAIは見破られないように腕を上げ、見破るAIは見逃さないように目をきたえる。
この競争をくり返すうちに、人の目では見分けにくいほど本物らしい画像が作れるようになるんです！
GANは2014年にイアン・グッドフェローらが発表した仕組みです。詳しくは以下の記事で解説しています。
GAN（敵対的生成ネットワーク）についてわかりやすく5分で解説！DALL-EやStable Diffusionとの違いは？当サイト【スタビジ】の本記事では、画像生成分野においてブレークスルーを起こしたGAN（敵対的生成ネットワーク）という手法について解説していきます！また、GANが話題のDALL･EやStable Diffusionと何が違うのかについても見…
写真1枚、短い録音からでも作れる時代へ
そして今は、画像や動画の生成AIの進化で、写真1枚や、短い声の録音からでも、偽物を作れるようになりつつあります。
昔と今をくらべると、こんな違いがあります。
| 初期のディープフェイク | 今のディープフェイク | |
|---|---|---|
| 使われてきた主な仕組み | オートエンコーダーによる顔の入れ替え、GAN | 画像・動画・音声の生成AI |
| 必要な素材 | 本人の顔の写真や動画をたくさん | 写真1枚や短い録音からでも作れるようになりつつある |
| 作るためのハードル | 高い | どんどん下がっている |
作るためのハードルが、どんどん下がっているんです！
これは、有名人だけの問題ではありません。
SNSに顔写真や、声の入った動画を載せていれば、誰もがなりすましに使われるおそれがある、ということなんです。
動画を作る生成AIの仕組みについては、以下の記事も参考にしてみてください。
【衝撃】OpenAIの動画生成AI「Sora」の仕組みやできることについてわかりやすく解説！当サイト【スタビジ】の本記事では、OpenAIのSoraについて解説していきます！動画生成AIとして世界に衝撃をもたらしたSoraのできることや仕組みや課題などについてまとめていきます。
実際に起きた被害
続いて、ディープフェイクによって実際に起きた被害を見ていきましょう。
ビデオ会議の参加者が全員偽物だった事件
2024年、香港で、ある大手企業の社員が、ビデオ会議に呼び出されました。
画面には、イギリス本社の幹部や同僚が並び、「極秘の送金をしてほしい」と指示されます。
社員は言われたとおりに送金。その額は、約2億香港ドル、日本円で数十億円にのぼりました。
ところが、その会議に出ていた、社員以外の全員が、ディープフェイクだったんです！
報道によると、この社員は最初、送金を求める連絡を怪しんでいたそうです。
ところが、ビデオ会議で見覚えのある顔と声がそろっていたことで、本物だと信じてしまいました。
この事件から分かる教訓は、次の3つです。
日本でも起きている被害
日本でも、有名人や政治家になりすました偽の動画や広告が、SNSで出回る被害が起きています。
たとえば、有名人が投資をすすめているように見せかけた偽の広告や、政治家が言っていないことを話しているように見せる偽の動画などです。
ディープフェイクの被害は、お金をだまし取られることだけではありません。
| 被害の種類 | 例 |
|---|---|
| お金の被害 | 上司や家族になりすまして、送金させる |
| 評判の被害 | 本人が言っていないことを言わせて、信用を傷つける |
| 社会への影響 | 政治家の偽の動画で、間違った情報を広める |
一人ひとりのお金から、社会全体の信頼まで、被害は広い範囲におよぶんです。
ちなみに、AIがもっともらしいウソをついてしまう「ハルシネーション」は、AIが意図せず間違えてしまう現象です。
一方のディープフェイクは、人がAIを使って、わざと本物そっくりの偽物を作るもの。悪用されるときは、はじめから人をだます目的で作られている点が大きく違います。
ハルシネーションの原因と対策については、以下の記事で解説しています。
生成AIでハルシネーションが起きる原因と対策について解説！当サイト【スタビジ】の本記事では、生成AIにおけるハルシネーションとは何かについて具体的な事例や原因、さらには対策方法を交えて分かりやすく解説していきます！
見分け方と対策
それでは最後に、ディープフェイクの見分け方と対策を見ていきましょう！
見た目で気づけるポイント
まずは、見た目で気づけるポイントです。
| チェックするところ | あやしいサイン |
|---|---|
| 顔のふち | 髪の毛や輪郭のまわりがぼやけている、にじんでいる |
| まばたき・口の動き | まばたきが不自然、声と口の動きがずれている |
| 光の当たり方 | 顔と背景で、光の向きや影のでき方が合っていない |
ただ、正直に言うと、最新のディープフェイクは、目で見て見破るのがとても難しくなっています。
上のポイントに当てはまらないからといって、本物だとは限らないんです。
大事なのは「見破る」より「確かめる」
だから大事なのは、「見破る」より「確かめる」ことです。
お金や個人情報がからむ話が、ビデオ会議や電話で急に来たら、一度切って、別の方法で本人に確認しましょう。
| 見破る | 確かめる | |
|---|---|---|
| やること | 映像や声のおかしな点を探す | 別の方法で本人に確認する |
| 最新のディープフェイクには | 気づけないことが多い | 偽物でもだまされにくい |
確かめるときのコツは、相手が用意した連絡先ではなく、自分で知っている連絡先を使うことです。
相手から「この番号にかけ直して」と言われた番号は、偽物につながっているかもしれません。
特に家族の「合言葉」は効果的なんです！
家族の声をまねた電話がかかってきても、合言葉を聞けば一発で確かめられます。
合言葉は、SNSに載せていないことや、家族しか知らないことにしておきましょう。
技術とルールの対策
社会全体でも、対策が進んでいます。
まずは技術による対策です。
透かしは「AIで作ったもの」に印をつける方法、記録を残す仕組みは「本物」の出どころを証明する方法、と考えると分かりやすいです。
続いて、ルールの面です。
EUは、「AI法（AI Act）」の中で、AIで作った映像だと分かるように表示することを求めるルールを進めています。
日本でも、ディープフェイクへの対策をどうするか、議論が進んでいるところです（2026年10月時点では、ディープフェイクだけを対象にした専用の法律はまだありません）。
ディープフェイクのまとめ
最後に、今回のポイントをおさらいしましょう！
ウマたん要は、「見たもの、聞いたものを、そのまま信じない」ことが、AI時代の新しい身の守り方なんです！ぜひ、家族や職場で「確かめるルール」を話し合ってみてください！
ディープフェイクのもとになっている生成AIやディープラーニング、データサイエンスを体系的に学びたいのであれば、当メディアが運営するスクール「スタアカ」がオススメです！
大学院は理系の統計科学研究室で、ベイズ統計学・時系列分析・異常検知を研究。日系・外資の消費財メーカーのデータサイエンティストを経て、現在は会社を経営しながらデータサイエンティストとして働いています。
読んだ内容を、スタアカの「機械学習概要」コースで身につける
データサイエンス・AIを、動画と課題で体系的に学べるオンラインスクール。最初のレッスンは無料で見られます。
