Conteúdo audiovisual sintético — imagem, vídeo ou áudio — gerado ou manipulado por técnicas de aprendizado profundo (deep learning), tipicamente redes adversariais generativas ou modelos de difusão, capaz de simular falas, expressões ou ações que nunca ocorreram, com grau de realismo crescente e acessibilidade crescente.
Definição
Deepfake é um neologismo formado por deep learning + fake, originado em 2017 em um fórum do Reddit homônimo dedicado à manipulação não consensual de rostos em vídeos pornográficos. O termo passou a designar, no léxico técnico e político, qualquer mídia sintética gerada por modelos de IA — particularmente Generative Adversarial Networks (GANs), autoencoders, e mais recentemente modelos de difusão e modelos multimodais — capaz de produzir falsificações audiovisuais convincentes.
A literatura distingue tipicamente três famílias técnicas:
- Face-swap / face-replacement — substituição da face de uma pessoa pela de outra em vídeo existente;
- Face-reenactment / puppeteering — transferência da expressão e movimento facial de um “ator-fonte” para a face de um “alvo”;
- Síntese de fala / voice cloning — geração de áudio sintético na voz de pessoa específica a partir de amostras curtas (poucos segundos com modelos de 2023+).
O impacto estratégico do deepfake em guerra informacional não se reduz à criação de falsificações específicas. O fenômeno mais corrosivo é o “dividendo do mentiroso” (CHESNEY e CITRON, 2019): a mera possibilidade de qualquer registro ser sintético fornece a atores de má-fé uma desculpa plausível para negar conteúdo autêntico genuinamente comprometedor — degradando a função epistêmica do registro audiovisual como prova.
Nem todo conteúdo manipulado é deepfake: edições convencionais (recortes enganosos, cheapfakes, descontextualização) continuam sendo a forma dominante e mais eficaz de manipulação audiovisual em campanhas políticas, justamente por exigirem menos recursos técnicos.
Uso e Contexto
O conceito é tratado em três literaturas convergentes: visão computacional (detecção via artefatos), direito (responsabilidade civil, criminal e eleitoral) e segurança nacional (operações de influência). Marcos normativos relevantes incluem o EU AI Act (2024), o DEEPFAKES Accountability Act (EUA, projeto em tramitação) e, no Brasil, a Resolução TSE nº 23.732/2024, que regulou o uso de IA generativa em propaganda eleitoral nas eleições municipais de 2024 e exigiu rotulagem explícita.
Ver Também
Referências
CHESNEY, Robert; CITRON, Danielle Keats. Deep fakes: a looming challenge for privacy, democracy, and national security. California Law Review, v. 107, n. 6, p. 1753–1820, 2019.
WESTERLUND, Mika. The emergence of deepfake technology: a review. Technology Innovation Management Review, v. 9, n. 11, p. 39–52, 2019.
PAWELEC, Maria. Deepfakes and democracy (theory): how synthetic audio-visual media for disinformation and hate speech threaten core democratic functions. Digital Society, v. 1, n. 19, p. 1–37, 2022.
Verbete do Glossário NEGISC — Núcleo de Estudos em Guerra Informacional e Segurança Cognitiva / GEPSI / IREL / UnB. Licença CC BY-SA 4.0.