ディープラーニング技術を利用した合成メディア。
ディープフェイクによる音声模倣技術を用いた仮想誘拐や身代金強奪、不適切な発言をしているフェイク動画をソーシャルメディアでリークし、株価操作、有名人の顔とアダルト動画を合成したディープポルノなど多くの問題がある。
ITリテラシー、AIリテラシーの向上や、ディープフェイクを見極めるモデルを作るなどの対策が必要である。
瞬きの不自然さを検出するディープフェイクモデルDeep Vision が実在する。
ディープフェイクビデオでは、フレーム間の動きの不整合が生じる可能性がある。
オプティカルフロー(物体の動きをベクトルで表したもの)の推定により、ディープフェイクを検知する手法が提案されている。
GANが生成する画像には特定のフィンガープリント(指紋)が残る。
またGANの種類によって、そのフィンガープリントの残り方が違う。
画像加工の証拠を検出する手法アーティファクトにより、フィンガープリントを応用したディープフェイク検出方法がある。
一般的に、データ圧縮やサイズ変更、ノイズなどによって品質が低下した動画は、ディープフェイク検出モデルの精度を下げる傾向がある。