ディープフェイク(Deepfake)
人工知能(AI)を用いて実在する人物の顔や声を合成し、実際には行っていない言動を極めて自然に再現した偽の画像、動画、音声のこと。
ディープフェイクとは、深層学習(ディープラーニング)をはじめとするAI技術を駆使して、実在する人物の表情や動作、声色を極めて自然に合成した偽の映像や音声コンテンツを指します。本人が実際には発言していない言葉を語らせたり、訪れたことのない場所にいるかのように見せかけたりすることが可能です。
エンターテインメントや映画制作の現場で表現の幅を広げる技術として活用される一方で、著名人の肖像を悪用した偽広告や、一般人を標的にした詐欺、名誉毀損など、悪質な情報操作に用いられるリスクが急速に高まっています。
ディープフェイクの仕組みと急増する背景
ディープフェイクの生成には、大量の顔画像や音声データを学習させたAIモデルが用いられます。人物特有の表情の癖、唇の動き、イントネーションの特徴を抽出し、別の動画の人物の顔部分に貼り替えたり、テキストを読み上げさせたりして違和感の少ない合成データを作り出します。
かつては高度なプログラミング知識や高性能な計算環境が必要でしたが、現在ではオープンソースのツールや生成サービスが普及し、一般のパソコンやスマートフォンでも短時間で高品質な偽データを作れるようになりました。この参入障壁の低下が、悪用事例の増加を後押ししています。
身近に迫る危険性:家族や職場を装う詐欺の現実
ディープフェイクの脅威は、政治的な宣伝活動や有名人のなりすましだけにとどまりません。日本の日常生活において最も警戒すべき手口の一つが、身内を装った特殊詐欺への悪用です。
たとえば、都内に住む高齢の親のもとに、地方で暮らす息子の声で「携帯電話を落として壊した。急ぎで振込が必要だから指定の口座にお金を送ってほしい」と電話がかかってくるケースが挙げられます。SNSに投稿されたわずか数十秒の動画から抽出した本人の声をもとにAIで音声をクローン生成し、親族特有の話し方を再現することで、電話口の相手を完全に信じ込ませます。同様の手口は、中小企業の経理担当者に対して社長の声を模倣した指示を出し、不正送金を行わせる社内詐欺にも悪用されています。
見た目だけに頼らない見分け方と確認手順
AIの進化に伴い、まばたきの不自然さや口元のズレといった肉眼で確認できる粗(アラ)は少なくなっています。動画の粗探しだけに頼るのではなく、情報源や文脈を重視した確認を行うことが重要です。
- 公式な発信源の確認:その動画が本人の公式SNSや正規の報道機関で公開されているか、切り抜きではない全体の文脈が存在するかを確認します。
- 独立した別ルートでの裏取り:金銭の要求や緊急の依頼を電話で受けた場合、相手から指定された番号やリンクではなく、事前に登録してある連絡先に自分からかけ直して事実を確認します。
- 画像検索の活用:不審な動画のワンシーンを静止画として保存し、画像検索にかけることで、過去の無関係な映像の使い回しではないかを検証します。
- 自動検知ツールの過信を避ける:ディープフェイク検出ツールは参考になりますが、誤判定を起こす可能性もあります。機密情報や私的な写真を無暗に外部の鑑定サイトにアップロードしないよう注意が必要です。
顔や声を無断で悪用されたときの初期対応
もし自身の顔写真や音声が無断で使われ、心当たりのない発言をしている動画が拡散された場合、技術的にAI製であると証明する前に被害拡大を防ぐ措置を取る必要があります。まず該当する投稿のURL、アカウント名、投稿日時、画面全体のスクリーンショットを証拠として保存してください。
次に、掲載されているプラットフォームに対して「なりすまし」や「権利侵害」として通報します。脅迫や恐喝、金銭的被害が伴う場合は、証拠を揃えて速やかに最寄りの警察署や金融機関へ相談しましょう。注意喚起のつもりで問題の動画を自身のSNSで再共有すると、かえって偽情報の拡散を手助けしてしまう恐れがあるため避けるべきです。
よくある質問
ディープフェイクの動画は肉眼で見分けることができますか?
初期の技術ではまばたきの少なさや輪郭の歪みで見分けることができましたが、技術の向上により視覚だけで判別するのは困難になっています。画質の粗さではなく、誰が最初に発信したかという情報源の確認や別ルートでの裏取りが有効です。
家族の声にそっくりな電話で送金を求められたらどうすればよいですか?
声が本人に似ていてもその場ですぐに振り込んではいけません。一度電話を切り、スマートフォンのアドレス帳にあらかじめ登録してある家族本人の番号へかけ直して真偽を確かめてください。
自分の顔写真や声をSNSに載せるとディープフェイクを作られますか?
公開されている写真や動画の音声から学習データが作られるリスクはあります。過度な不安を抱く必要はありませんが、公開範囲を友人限定にするなど、個人情報の取り扱いを見直すことが自衛につながります。
