Conteúdo audiovisual sintético — vídeo, áudio ou imagem — gerado ou modificado por modelos de aprendizado profundo, com grau de realismo suficiente para induzir audiências a percebê-lo como registro autêntico de eventos, pessoas ou declarações que não ocorreram nos termos representados.
1. Definição e Escopo
Deepfakes designam, em sentido técnico, a categoria de mídia sintética produzida por arquiteturas de aprendizado profundo — sobretudo redes adversariais generativas (generative adversarial networks, GANs), autoencoders e, mais recentemente, modelos de difusão (diffusion models) e transformers multimodais. A definição mais influente na literatura jurídica e de políticas públicas deve-se a Chesney e Citron (2019), no California Law Review, que caracterizam deepfakes como conteúdo audiovisual em que técnicas de IA permitem a fabricação ou alteração de aparências, vozes e ações com fidelidade suficiente para enganar observadores casuais e, em alguns casos, resistir a análise forense não-especializada.
A definição operacional deve ser distinguida de duas categorias contíguas. Cheap fakes ou shallow fakes, conforme proposto por Paris e Donovan (2019) em estudo do Data & Society Research Institute, designam manipulações audiovisuais que utilizam técnicas convencionais e de baixo custo — recorte seletivo, mudança de velocidade, dublagem, fora-de-contexto — sem mediação de IA generativa. Embora menos sofisticadas, cheap fakes têm impacto político empírico frequentemente superior ao de deepfakes propriamente ditos, dado seu menor custo de produção e a suficiência operacional para a maior parte das audiências. Conteúdo gerado por IA legitimamente identificado (produção criativa, dublagem comercial autorizada, sátira sinalizada, prótese vocal acessível) tampouco se confunde com deepfakes em sentido próprio: o critério distintivo é a intenção de engano ou a circulação em contexto que produz engano efetivo.
O escopo do termo abrange, portanto, ao menos quatro modalidades: face-swapping (substituição de rosto em vídeo), lip-syncing (sincronização de movimentos labiais a áudio fabricado), voice cloning (clonagem de voz a partir de amostras), e full synthesis (geração integral de pessoa ou cena inexistente). Os efeitos estratégicos do fenômeno operam em dois vetores complementares: o efeito direto (engano específico produzido por um deepfake circulante) e o que Chesney e Citron denominam liar’s dividend — o ganho político-jurídico de poder negar a autenticidade de registros genuínos invocando a possibilidade de que sejam sintéticos.
2. Etimologia e Origem Conceitual
A palavra deepfake é um neologismo cunhado em novembro de 2017 por um usuário anônimo do fórum Reddit, com o pseudônimo “deepfakes”, que publicou vídeos pornográficos não-consentidos nos quais sobrepunha rostos de atrizes hollywoodianas a corpos de performers adultos. O nome é uma contração de deep learning + fake. A passagem de gíria de fórum a categoria técnica e jurídica formal ocorreu rapidamente entre 2018 e 2019, à medida que a imprensa especializada (Motherboard/Vice publicou a primeira reportagem em dezembro de 2017), pesquisadores em segurança de IA e legisladores adotaram o termo. Westerlund (2019), em revisão publicada no Technology Innovation Management Review, oferece uma das primeiras sistematizações acadêmicas do estado da arte tecnológico.
A genealogia técnica do fenômeno, contudo, é mais profunda. A manipulação fotográfica acompanha a fotografia desde o século XIX (com exemplos célebres de retocagem stalinista para apagar dissidentes de fotografias oficiais soviéticas, documentados por David King em The Commissar Vanishes, 1997). A manipulação digital de vídeo precede em décadas as técnicas de aprendizado profundo. A inovação propriamente disruptiva está em três fatores convergentes: a publicação seminal de Goodfellow et al. (2014) sobre GANs, a disponibilização de bibliotecas de aprendizado profundo de código aberto (TensorFlow, PyTorch) e a queda do custo computacional via GPUs comerciais — combinação que reduziu a barreira de entrada de produção de mídia sintética de alto realismo de equipes de efeitos visuais profissionais (orçamentos de centenas de milhares de dólares) para indivíduos com hardware de consumo.
Em português, “deepfake” é utilizado como estrangeirismo consolidado, em paralelo a expressões como “vídeo falso profundo”, “mídia sintética”, “falsificação por IA” ou “ultrafalso” — nenhuma das quais conseguiu deslocar o termo original.
3. Desenvolvimento Histórico
Três fases podem ser delineadas. A fase de emergência (2014–2018) coincide com a publicação dos artigos fundadores sobre GANs (Goodfellow et al., 2014) e com os primeiros experimentos públicos: o vídeo Synthesizing Obama (Suwajanakorn et al., Universidade de Washington, 2017), que sincronizava lábios do então presidente Obama a áudios alheios; os primeiros face-swaps amadores no Reddit (2017); e o vídeo viral de Jordan Peele personificando Obama via deepfake (BuzzFeed, abril de 2018), produzido como demonstração pedagógica do risco.
A fase de profissionalização e proliferação (2019–2022) é marcada pela emergência de ferramentas acessíveis (DeepFaceLab, FaceSwap, Avatarify), pela industrialização do uso em pornografia não-consentida (estimativas independentes documentaram, entre 2019 e 2020, que a esmagadora maioria do conteúdo deepfake circulante na internet aberta era pornográfico e que mulheres constituíam quase a totalidade das vítimas) e pelos primeiros incidentes de alto perfil em uso político e financeiro. Em março de 2019, a empresa britânica de energia Euler Hermes registrou caso de fraude por voz clonada em que executivo foi induzido a transferir 220 mil euros para conta fraudulenta. Em março de 2022, no contexto da invasão russa da Ucrânia, circulou um deepfake do presidente Volodymyr Zelenskyy instruindo soldados a deporem armas — a operação foi rapidamente desmascarada por sua baixa qualidade técnica, mas estabeleceu o primeiro caso documentado de uso de deepfake em operação informacional ativa em zona de conflito.
A fase de hibridização generativa (2023–presente) corresponde à popularização de modelos de difusão (Stable Diffusion, Midjourney, DALL-E 3), à integração de modelos de voz (ElevenLabs, OpenAI Voice Engine) e à emergência de modelos multimodais com capacidade de geração de vídeo (Sora da OpenAI, Veo do Google, Runway Gen-3). O custo marginal de produção continua em queda vertiginosa, e o realismo aumenta a cada ciclo. O caso de fraude de 25 milhões de dólares de Hong Kong (fevereiro de 2024), em que um funcionário de multinacional foi induzido a autorizar transferências após participar de videoconferência em que todos os demais participantes, incluindo o CFO, eram deepfakes em tempo real, marca a transição da ameaça do teórico para o operacional em larga escala.
4. Debate Teórico
A literatura organiza-se em torno de pelo menos quatro debates. O primeiro versa sobre a magnitude do impacto político. Há uma tensão entre uma corrente “alarmista” — que prevê erosão massiva da confiança em mídia audiovisual e crise generalizada da prova — e uma corrente “cética” — que enfatiza que, empiricamente, a maioria das operações de manipulação política bem-sucedidas ainda utiliza cheap fakes e descontextualização, sendo deepfakes mais eficazes em fraude financeira e violência baseada em gênero do que em manipulação eleitoral. Paris e Donovan (2019) argumentam que o foco midiático em deepfakes desvia atenção das técnicas low-tech que produzem o grosso do dano informacional contemporâneo.
O segundo debate concerne ao liar’s dividend, conceito proposto por Chesney e Citron (2019). A mera existência da tecnologia deepfake permite a atores que desejam negar registros autênticos (de declarações racistas, atos de corrupção, abusos) alegar que são sintéticos — alegação cuja refutação cabal exige análise forense técnica que a maioria das audiências não realiza. O dividendo opera, paradoxalmente, como incentivo estratégico à publicização da tecnologia: quanto mais o público é informado sobre a existência de deepfakes, mais plausível se torna a negativa de autenticidade de qualquer registro inconveniente.
O terceiro debate trata das respostas técnicas: detecção forense (análise de artefatos de compressão, inconsistências em piscadas, mismatches de iluminação, detecção de geometria facial), marca d’água digital (SynthID do Google DeepMind, padrão C2PA da Coalition for Content Provenance and Authenticity), e biométricos de liveness. Persiste corrida armamentista entre técnicas de geração e técnicas de detecção, com benchmarks frequentemente desatualizados em meses. A literatura mais cética (Farid, 2022; entre outros) argumenta que a detecção pura não pode ser estratégia primária e que a defesa precisa combinar provenance criptográfica de origem (autenticidade verificável de cima para baixo) com letramento midiático.
O quarto debate é regulatório. Como tipificar e regular deepfakes sem criminalizar legitimamente paródia, sátira, ficção, expressão artística e usos terapêuticos (acessibilidade vocal, próteses, dublagem autorizada)? O Estado da Califórnia (AB 730 e AB 602, ambos de 2019) e diversos outros estados norte-americanos legislaram especificamente sobre deepfakes em contexto eleitoral e em pornografia não-consentida. A União Europeia, no AI Act (Regulamento 2024/1689), introduziu obrigações de transparência para conteúdo sintético. A República Popular da China adotou em janeiro de 2023 regulamentação específica sobre “deep synthesis” exigindo identificação clara de conteúdo gerado.
5. Casos Documentados
Três casos ilustram a diversidade tipológica do fenômeno. O primeiro é o já mencionado deepfake de Zelenskyy (março de 2022), em que vídeo de baixa qualidade do presidente ucraniano instruindo soldados a deporem armas foi disseminado em site ucraniano comprometido e em redes sociais, com o objetivo aparente de produzir desmoralização tática durante a fase aguda da invasão russa. O caso é tecnicamente modesto — a discrepância de tom de pele entre rosto e pescoço, a iluminação inconsistente e a cadência vocal foram suficientes para identificação imediata — mas estabeleceu precedente operacional: pela primeira vez, deepfake foi utilizado como vetor de operação informacional em conflito ativo entre Estados.
O segundo caso é a fraude de Hong Kong (fevereiro de 2024), reportada pela Polícia de Hong Kong em coletiva de imprensa. Um funcionário do departamento financeiro de multinacional sediada na cidade foi convocado para videoconferência supostamente com o CFO baseado no Reino Unido. Todos os demais participantes da chamada — incluindo CFO e outros executivos — eram deepfakes em tempo real, construídos a partir de imagens públicas dos executivos legítimos. O funcionário, convencido pela aparência de reunião corporativa rotineira, autorizou transferências totalizando aproximadamente 25 milhões de dólares de Hong Kong (cerca de 25,6 milhões de dólares norte-americanos) para contas controladas pelos fraudadores. O caso é paradigma da transição de deepfakes da prova-de-conceito para a economia criminal em escala industrial.
O terceiro caso é o incidente Bongo no Gabão (janeiro de 2019), discutido por Chesney e Citron e por analistas africanos subsequentes. Após meses de ausência pública do presidente Ali Bongo Ondimba, hospitalizado por suspeita de acidente vascular cerebral, o governo divulgou um vídeo de saudação de fim de ano destinado a demonstrar que o presidente estava vivo e em pleno exercício. A rigidez facial atípica de Bongo no vídeo levou a suspeita generalizada de que se tratasse de deepfake — suspeita que, segundo análise forense posterior, provavelmente era infundada (a rigidez seria explicada pelo próprio quadro neurológico). Independentemente da autenticidade real do vídeo, a suspeita pública contribuiu para tentativa de golpe militar dias depois. O caso é referência canônica do liar’s dividend invertido: mesmo um vídeo provavelmente autêntico foi neutralizado politicamente pela mera suspeita de sinteticidade.
6. Implicações para o Contexto Brasileiro
O Brasil enfrenta o vetor deepfake em três frentes distintas. Do ponto de vista da segurança nacional e da integridade eleitoral, o Tribunal Superior Eleitoral (TSE), por meio da Resolução nº 23.732/2024 (que altera a Resolução 23.610/2019), tornou-se a primeira corte eleitoral do mundo a estabelecer regras explícitas sobre uso de IA generativa e deepfakes em propaganda eleitoral. A resolução determina que o uso de conteúdo sintético deve ser claramente identificado, proíbe deepfakes destinados a prejudicar candidatos ou influenciar eleitores mediante engano, e estabelece responsabilidade de plataformas pela remoção tempestiva. O ciclo eleitoral municipal de 2024 foi o primeiro grande teste empírico da norma, com casos registrados em diversas capitais brasileiras envolvendo áudios clonados de candidatos e vídeos manipulados — vários dos quais resultaram em determinações de remoção e em multas. Casos de violência política de gênero envolvendo deepfakes pornográficos não-consentidos contra candidatas mulheres foram igualmente registrados, reforçando a transversalidade do problema.
No plano do debate acadêmico brasileiro, o InternetLab, o NetLab/UFRJ, o LAPIN (Laboratório de Políticas Públicas e Internet) e o Centro de Estudos em Direito e Tecnologia da UFMG têm produzido estudos sobre os impactos jurídicos e políticos das deepfakes. O Comitê Gestor da Internet no Brasil (CGI.br) e o Núcleo de Informação e Coordenação do Ponto BR (NIC.br) têm patrocinado debates sobre marcadores de proveniência e padrões técnicos (C2PA) para o ecossistema digital brasileiro.
O marco regulatório brasileiro combina dispositivos esparsos. A Lei nº 12.965/2014 (Marco Civil da Internet) estabelece o regime de responsabilidade de provedores. A Lei nº 13.709/2018 (LGPD) protege dados biométricos como dados sensíveis (art. 5º, II), o que tem implicação direta para a captura não-autorizada de voz e imagem destinada a treinar modelos generativos. A Lei nº 14.197/2021 tipifica crimes contra o Estado Democrático de Direito e pode incidir sobre deepfakes utilizados em operações subversivas. A Lei nº 14.811/2024 ampliou tipificações relativas à violência psicológica contra mulher e à pornografia infanto-juvenil, com aplicabilidade direta a deepfakes pornográficos não-consentidos. O PL 2338/2023 (Marco Legal da Inteligência Artificial), em tramitação no Congresso, propõe regulamentação geral sobre sistemas de IA, incluindo obrigações de transparência sobre conteúdo sintético. O PL 2630/2020 (PL das Fake News) inclui dispositivos sobre identificação obrigatória de conteúdo gerado por IA. A jurisprudência brasileira sobre violação de direitos de imagem (art. 20 do Código Civil) e o direito do consumidor têm sido utilizados em ações cíveis contra produtores e disseminadores de deepfakes.
7. Ver Também
- Desinformação
- Propaganda Computacional
- Segurança Cognitiva
- Operações de Informação
- Guerra Informacional
8. Referências
BRASIL. Lei nº 12.965, de 23 de abril de 2014. Marco Civil da Internet. Diário Oficial da União, Brasília, 24 abr. 2014.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Diário Oficial da União, Brasília, 15 ago. 2018.
BRASIL. Lei nº 14.197, de 1º de setembro de 2021. Acrescenta Título no Código Penal para tipificar crimes contra o Estado Democrático de Direito. Diário Oficial da União, Brasília, 2 set. 2021.
BRASIL. Lei nº 14.811, de 12 de janeiro de 2024. Institui medidas de proteção à criança e ao adolescente contra a violência. Diário Oficial da União, Brasília, 15 jan. 2024.
CHESNEY, Robert; CITRON, Danielle Keats. Deep fakes: a looming challenge for privacy, democracy, and national security. California Law Review, v. 107, n. 6, p. 1753-1820, 2019.
GOODFELLOW, Ian et al. Generative adversarial nets. In: ADVANCES IN NEURAL INFORMATION PROCESSING SYSTEMS (NIPS 2014), v. 27. Montreal: NeurIPS, 2014. p. 2672-2680.
PARIS, Britt; DONOVAN, Joan. Deepfakes and Cheap Fakes: The Manipulation of Audio and Visual Evidence. Nova York: Data & Society Research Institute, 2019.
TRIBUNAL SUPERIOR ELEITORAL. Resolução nº 23.732, de 27 de fevereiro de 2024. Altera a Resolução-TSE nº 23.610/2019 para dispor sobre propaganda eleitoral, inteligência artificial e conteúdo sintético. Brasília: TSE, 2024.
UNIÃO EUROPEIA. Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024, que estabelece regras harmonizadas em matéria de inteligência artificial (Regulamento da IA — AI Act). Jornal Oficial da União Europeia, 12 jul. 2024.
WESTERLUND, Mika. The emergence of deepfake technology: a review. Technology Innovation Management Review, v. 9, n. 11, p. 39-52, 2019.
Verbete submetido ao NEGISC — Núcleo de Estudos em Guerra Informacional e Segurança Cognitiva / GEPSI / IREL / UnB. Licença CC BY-SA 4.0.