ディープフェイク
読み: ディープフェイク
ディープフェイクとは偽造技術の実態
ディープフェイクはディープラーニングを使って人物の顔や声を別人のものに置き換え、本物と見分けがつかない偽の動画や音声を生成する技術の総称。生成AIの進化とともに精度が急速に上がり、なりすまし詐欺や偽情報の拡散手段として社会問題になっている。
かんたんに言うと
AIが顔や声を本人そっくりにコピーして、言っていないことを言わせたり、やっていないことをやらせたりする合成技術である。
顔入れ替えから音声クローンまで ディープフェイク偽造技術の種類と手口
ディープフェイクにはいくつかの種類がある。
最も知られているのがフェイススワップで、動画内の人物Aの顔を人物Bの顔に置き換える。オートエンコーダーやGANを使い、表情の動きを維持したまま顔だけを差し替える仕組みである。
次にリップシンクと呼ばれる手法がある。既存の動画に別の音声を当て、口の動きを音声に合わせて自動調整する。元の映像はそのまま使うため、顔全体を合成するより不自然さが出にくい。
音声クローンは数秒から数分の音声サンプルから声質を学習し、任意のテキストをその人の声で読み上げる技術である。電話越しの詐欺に悪用されるケースが海外で報告されている。
GANと拡散モデルが精度を押し上げた技術的な経緯
初期のディープフェイクはオートエンコーダーベースで、解像度が低く不自然さが目立っていた。2017年ごろからGANが導入され、生成器と識別器を競わせる仕組みによって画質が飛躍的に向上した。
その後、拡散モデルの登場でさらに精度が上がっている。拡散モデルはノイズから段階的に画像を生成するため、GANに比べて学習が安定しやすく、高解像度の出力を得やすい。
ここ数年で生成に必要な計算資源も下がり続けている。以前はサーバーレベルのGPUが必要だったものが、消費者向けのグラフィックカードでも動作するツールが公開されるようになった。技術のハードルが下がるほど、悪用のリスクは上がる構造になっている。
ビジネス詐欺、選挙介入、プライバシー侵害の実害
2024年に香港の企業で、CFOになりすましたディープフェイクのビデオ通話を通じて約2,500万ドルが詐取される事件が報じられた。複数の参加者が全員偽物だったとされている。
政治の領域では、選挙前に候補者の偽動画が拡散される事例が複数の国で確認されている。有権者が真偽を判別できないまま投票行動に影響を受けるリスクがある。
個人のプライバシー被害も深刻で、同意なく顔を合成されるケースが後を絶たない。日本でも2023年以降、名誉毀損や肖像権侵害として法的措置に至る事案が増えている。
検出技術と法規制の現在地
検出技術は大きく分けて2つのアプローチがある。
1つは映像内の不自然さを検出する手法で、まばたきの頻度、肌のテクスチャの一貫性、照明の整合性などを分析する。もう1つは電子透かしやC2PAのようなコンテンツ認証規格で、撮影時点からの改変履歴を追跡する仕組みである。
ただし検出と生成はいたちごっこの関係にあり、検出を回避するように最適化された生成手法も登場している。
法規制の面では、EUのAI Actがディープフェイクの開示義務を盛り込んでいる。米国でも複数の州で規制法が成立し、日本では不正競争防止法の改正でAI生成コンテンツへの対応が議論されている段階である。技術の進歩に法整備が追いついていないのが現状となっている。
企業が今すぐ取り組むべき防御策
まず、経営層や財務担当者を対象としたディープフェイク詐欺の研修を実施すること。ビデオ通話で高額送金を指示された場合の二重確認プロセスを整備するのが第一歩になる。
次に、自社の公式コンテンツにC2PAなどの来歴証明を付与することを検討する。公式声明や広報動画が改ざんされた場合に、オリジナルとの差異を証明できる体制を作っておく意味がある。
AIセキュリティの観点からは、社内で利用する本人確認システムが顔認証のみに依存していないかを点検するのも有効である。生体認証とパスワードの組み合わせなど、複数の認証手段を組み合わせることでディープフェイクによるなりすましリスクを下げられる。
当社の見解
当社はAIの安全運用のために3層防御を設計・実装している。万が一インシデントが発生しても数分以内に復旧できるバックアップ体制を持つ。実際にAIが暴走してテスト環境を停止させた経験があり、その教訓から「失敗を防ぐ」だけでなく「失敗しても戻せる」設計が本質だと確信している。加えて、AIは事実でないことを断定する。この前提で事実/推測の強制分離とファクトチェックを実装した。安全性は仕組みで担保するものだ。
同じ失敗を二度としないAIエージェント
今のAIは、聞けば何でも答えてくれます。
でも、セッションが切れた瞬間に前回の失敗を忘れます。
当社が開発しているAIは、過去の経緯を念頭に置いて、
聞かれる前に「それは前回うまくいきませんでした」と声をかけます。
人間にも同じ失敗をさせず、AI自身も繰り返しません。
古参の社員が横にいるように、黙っていても気づいてくれる。
それが、当社が考える本当のAI社員です。