Resumo
A convergência entre mídia sintética generativa e ciclos eleitorais configura um dos vetores contemporâneos mais críticos para a integridade democrática. Este artigo examina o impacto dos deepfakes sobre a integridade eleitoral brasileira, articulando três dimensões analíticas: (i) o estado da arte técnico das capacidades generativas (GANs, modelos de difusão, clonagem de voz) e sua trajetória de barateamento entre 2017 e 2024; (ii) o mapeamento empírico dos casos documentados no Brasil nos ciclos eleitorais de 2022 e 2024, com atenção às limitações epistêmicas dos dados disponíveis; e (iii) a análise do marco regulatório nacional — Resoluções 23.610/2019, 23.714/2022 e 23.732/2024 do Tribunal Superior Eleitoral (TSE), Projeto de Lei 2.630/2020, Lei Geral de Proteção de Dados Pessoais (LGPD) e Marco Civil da Internet — em comparação com o EU AI Act e legislações estaduais norte-americanas. Argumenta-se que o quadro regulatório brasileiro é, paradoxalmente, mais avançado que o da maior parte da América Latina, mas insuficiente diante da assimetria de velocidade entre produção viralizada de conteúdo sintético e capacidade institucional de detecção, atribuição e remoção. Sete recomendações de política pública são apresentadas, incluindo marcação obrigatória de mídia sintética, expansão da infraestrutura de detecção do TSE, aprovação do PL 2630 com cláusulas reforçadas, responsabilização condicionada de plataformas, integração de letramento midiático na BNCC, capacitação da ABIN/CTIR e coordenação regional via MERCOSUL/CELAC. O artigo conclui que a ameaça é presente, não especulativa, e exige pesquisa interdisciplinar contínua entre Relações Internacionais, Ciência da Computação e Direito.
Palavras-chave: deepfakes; integridade eleitoral; Brasil; desinformação; regulação; segurança cognitiva.
1. Introdução
A integridade eleitoral é precondição estruturante da legitimidade democrática. No século XXI, essa precondição passou a depender, em medida crescente, do ecossistema informacional digital em que se forma a vontade do eleitor (BENKLER; FARIS; ROBERTS, 2018). A emergência das tecnologias de mídia sintética — agrupadas sob o rótulo deepfake — adiciona uma camada qualitativamente nova de risco a esse ecossistema: pela primeira vez na história das democracias de massa, qualquer ator com acesso a hardware de consumo e modelos generativos open-source pode fabricar provas audiovisuais falsas de declarações, condutas e eventos atribuídos a candidatos, autoridades ou instituições, com qualidade suficiente para enganar parcela significativa do eleitorado (CHESNEY; CITRON, 2019).
O Brasil ocupa, nesse cenário, uma posição de risco elevado. Concentra a quarta maior base de usuários de internet do mundo, com penetração de aproximadamente 84% da população (CETIC.br, 2024); possui ecossistema de mensageria criptografada (WhatsApp e Telegram) historicamente instrumentalizado para operações de desinformação em larga escala — fenômeno documentado nos ciclos eleitorais de 2018 e 2022 (RECUERO; SOARES; GRUZD, 2020); e apresenta polarização político-afetiva intensa, condição que amplifica a difusão e a recepção acrítica de conteúdo congruente com vieses prévios (VOSOUGHI; ROY; ARAL, 2018). A esses fatores soma-se a sofisticação das operações de inautenticidade coordenada (CIB) já mapeadas no país (cf. Interferência Eleitoral no Brasil (2018–2022)).
Este artigo tem por objetivo examinar, de forma sistemática, a interseção entre deepfakes e integridade eleitoral brasileira. Está estruturado em sete seções analíticas após esta introdução: a Seção 2 define tecnicamente o objeto e sua taxonomia; a Seção 3 identifica cinco vetores de ameaça eleitoral; a Seção 4 mapeia os casos empiricamente documentados no Brasil; a Seção 5 examina o marco regulatório vigente em perspectiva comparada; a Seção 6 analisa a capacidade institucional de detecção e resposta; a Seção 7 apresenta sete recomendações de política pública; e a Seção 8 oferece considerações finais. O recorte temporal privilegia o período 2017–2024, com ênfase nos ciclos eleitorais brasileiros de 2022 e 2024.
2. Deepfakes: Definição e Capacidades Técnicas Relevantes
O termo deepfake — neologismo cunhado em 2017 a partir da contração de deep learning e fake — designa, em sentido estrito, mídia sintética produzida ou substancialmente modificada por modelos de aprendizado profundo, com a finalidade de representar pessoas, declarações ou eventos que não correspondem à realidade factual (PARIS; DONOVAN, 2019; CHESNEY; CITRON, 2019). Em sentido operacional para a análise de integridade eleitoral, importa distinguir o deepfake das categorias adjacentes de cheap fakes (manipulações de baixo custo computacional — recorte, recontextualização, alteração de velocidade) e de shallow fakes (montagens convencionais), mas reconhecer que, do ponto de vista do efeito eleitoral, a fronteira entre essas categorias é menos relevante do que a fronteira entre conteúdo autêntico e conteúdo manipulado (PARIS; DONOVAN, 2019). Ver também verbete glossário: Deepfake.
Tecnicamente, três arquiteturas de modelos generativos sustentam o estado da arte. As redes generativas adversariais (GANs), propostas por Goodfellow e colaboradores em 2014, operam por meio de duas redes neurais em competição — geradora e discriminadora — refinando iterativamente a verossimilhança da saída sintética. Os modelos de difusão, dominantes desde 2022 (Stable Diffusion, DALL-E 3, Midjourney v6), partem de ruído gaussiano e o reconstroem progressivamente em imagem coerente condicionada a prompt textual, oferecendo qualidade superior em síntese de imagem estática. Os transformadores autorregressivos (GPT-4o, Gemini, Sora) ampliam a fronteira para síntese de vídeo coerente e clonagem de voz a partir de amostras curtas (em alguns sistemas comerciais, 3 a 30 segundos de áudio bastam para gerar voz sintética convincente).
A trajetória de barateamento é o fator definidor do risco eleitoral. Em 2017, a produção de um deepfake convincente demandava conhecimento técnico especializado, GPU dedicada e dezenas de horas de processamento. Em 2024, ferramentas de consumo (HeyGen, ElevenLabs, D-ID, RunwayML, plataformas open-source como DeepFaceLab) permitem que qualquer usuário sem formação técnica produza, em minutos e a custo marginal, vídeos de troca facial (face-swap), áudios de clonagem de voz, imagens sintéticas fotorrealistas e, mais recentemente, vídeos texto-para-vídeo. Essa democratização extingue a barreira de entrada que historicamente limitava a produção em escala industrial de desinformação audiovisual a atores estatais ou organizações sofisticadas (CHESNEY; CITRON, 2019; FLORIDI et al., 2018).
Para os fins desta análise, propõe-se a seguinte taxonomia operacional de deepfakes com relevância eleitoral:
- Face-swap em vídeo: substituição da face de uma pessoa por outra em material audiovisual, mantendo expressões e movimentos labiais do original.
- Clonagem de voz (voice cloning): síntese de áudio que reproduz timbre, prosódia e padrões de fala de pessoa específica.
- Síntese texto-para-vídeo: geração ab initio de vídeo a partir de descrição textual, sem material-base.
- Imagens sintéticas: fotografias fotorrealistas de eventos inexistentes (atos de violência, comícios, encontros).
- Áudios sintéticos puros: gravações fabricadas integralmente, sem referência a material autêntico — categoria empiricamente dominante no Brasil, dada a centralidade do áudio de WhatsApp na cultura comunicacional do eleitorado.
Característica estrutural decisiva: a assimetria de detecção. Os custos de produção caem mais rápido que os custos de detecção confiável. Os detectores automatizados disponíveis (Microsoft Video Authenticator, Intel FakeCatcher, ferramentas acadêmicas como FaceForensics++) apresentam degradação significativa de acurácia quando confrontados com gerações de modelos posteriores ao seu treinamento — fenômeno conhecido como out-of-distribution generalization failure — e desempenho ainda mais baixo em material em português brasileiro, devido ao viés anglocêntrico dos datasets de treinamento.
3. Vetores de Ameaça Eleitoral
A literatura comparada permite identificar cinco vetores distintos pelos quais deepfakes podem comprometer a integridade eleitoral. A distinção é analítica — empiricamente, vetores frequentemente operam em combinação — mas é útil para tipificar respostas regulatórias e institucionais (WARDLE; DERAKHSHAN, 2017).
3.1 Declarações fabricadas
O vetor mais óbvio e mais frequentemente discutido: vídeo ou áudio sintético em que candidato, autoridade ou figura pública aparece proferindo declarações que jamais fez. O caso paradigmático internacional ocorreu em setembro de 2023, na Eslováquia, quando, dois dias antes da votação, circulou áudio deepfake atribuído a Michal Šimečka (líder do Progresívne Slovensko) discutindo com jornalista a compra de votos da minoria cigana. A janela temporal — após o blackout eleitoral, com candidato impedido de responder publicamente — maximizou o dano. O SMER-SD de Robert Fico venceu o Progresívne Slovensko, e análises subsequentes sugeriram efeito plausível, embora não mensurável com precisão, do áudio sintético sobre a margem final — atribuição que permanece empiricamente contestada.
3.2 Manipulação de contexto
Material audiovisual autêntico é editado, recortado ou sobreposto a narração sintética para alterar substancialmente seu significado. Trata-se de categoria híbrida entre deepfake stricto sensu e cheap fake (PARIS; DONOVAN, 2019), mas particularmente eficaz porque a base autêntica resiste a checagens superficiais. Exemplo: discurso real de candidato é recortado e dublado com voz clonada do próprio candidato, produzindo declaração inversa à original — técnica que combina autenticidade visual e fabricação sonora.
3.3 Supressão de voto
Deepfakes desenhados para desmobilizar eleitorados específicos. O caso Biden New Hampshire (janeiro 2024) é referência operacional: robocall com áudio clonado do então presidente Joe Biden instruía eleitores democratas a não comparecerem à primária do estado, “guardando o voto para novembro”. Estimativas reportadas sobre o alcance variam entre 5 mil e 25 mil eleitores, conforme apurações posteriores. O operador (Steve Kramer, consultor político) foi posteriormente identificado e indiciado criminalmente em New Hampshire; a FCC propôs multa no valor de US$ 6 milhões pela infração de regras de telecomunicações. Em contexto brasileiro, vetor análogo poderia incluir áudios falsos sobre fechamento antecipado de seções eleitorais, falsas notícias de violência em zonas eleitorais específicas ou orientações fabricadas atribuídas ao TSE.
3.4 Difamação e escândalo
Subcategoria com viés de gênero pronunciado: deepfakes sexuais não-consensuais de candidatas mulheres. A literatura documenta que aproximadamente 96% do conteúdo deepfake circulante em 2019 era pornográfico não-consensual, com viés esmagador contra mulheres (CITRON, 2022). Em contexto eleitoral, o uso de deepfakes sexuais para silenciar, intimidar ou difamar candidatas — fenômeno já documentado na Índia, Bangladesh e Paquistão — constitui forma específica de violência política de gênero, com efeitos demonstrados de redução da participação política feminina. Categoria adjacente inclui vídeos sintéticos de suposto recebimento de propina, encontros clandestinos ou condutas criminosas.
3.5 Amplificação de divisão
Mídia sintética dirigida a aprofundar clivagens étnicas, religiosas ou regionais existentes. No Brasil, vetores prováveis incluem deepfakes que explorem clivagens Norte/Nordeste vs. Sul/Sudeste, evangélicos vs. católicos vs. religiões de matriz africana, ou que fabriquem declarações ofensivas atribuídas a lideranças comunitárias específicas. A literatura sobre operações de influência russas e iranianas (cf. Operações Russas e Operações de Influência Iranianas) demonstra que atores externos sofisticados não buscam necessariamente eleger candidato específico, mas degradar a coesão social do alvo — objetivo para o qual o deepfake de amplificação é instrumento de alto rendimento (BENKLER; FARIS; ROBERTS, 2018).
3.6 Calibração comparativa
Além dos casos Eslováquia 2023 e EUA 2024, vale registrar a campanha presidencial argentina de 2023, na qual deepfakes circularam pelas redes sociais retratando Sergio Massa em comportamentos depreciativos e Javier Milei em poses históricas (incluindo montagem famosa em vídeo de Lenin). Reuters Institute (2024) classificou a eleição argentina como “primeira eleição presidencial intensivamente mediada por IA generativa” no hemisfério ocidental, embora a atribuição de efeito eleitoral permaneça empiricamente contestada. Esses três casos — Eslováquia, Estados Unidos, Argentina — funcionam como baseline para calibrar a expectativa sobre o que se pode esperar em ciclos eleitorais brasileiros, ressalvada a especificidade do ecossistema de WhatsApp/Telegram nacional.
4. Casos Documentados no Brasil
A documentação empírica de deepfakes em contexto eleitoral brasileiro enfrenta limitações epistêmicas estruturais que precisam ser enunciadas antes da análise: (i) grande parte do conteúdo circula em grupos privados de WhatsApp e Telegram, fora do escopo de monitoramento sistemático; (ii) muito material é detectado e removido — pelo próprio autor ou pelas plataformas — antes de qualquer arquivamento; (iii) a atribuição técnica é frequentemente impossível sem cooperação das plataformas; (iv) inexiste, até 2025, repositório público consolidado de casos brasileiros comparável ao mantido pelo Election Integrity Partnership norte-americano. As afirmações desta seção devem, portanto, ser lidas como mapeamento parcial do fenômeno observável, não como inventário exaustivo.
4.1 Ciclo eleitoral de 2022
Durante o segundo turno presidencial de 2022, circularam diversos áudios atribuídos a candidatos e jornalistas com sinais técnicos compatíveis com clonagem de voz. Pesquisadores do GPOPAI/USP (2022) e do Laboratório de Estudos sobre Imagem e Cibercultura (LABIC/UFES) registraram a circulação de conteúdos audiovisuais sintéticos atribuídos tanto ao então candidato Luiz Inácio Lula da Silva quanto ao então presidente Jair Bolsonaro. A maior parte enquadrava-se na categoria de cheap fakes — recortes descontextualizados, dublagens com voz humana imitadora — mas registraram-se casos de áudio com indicadores técnicos de síntese (artefatos prosódicos, distribuição espectral atípica). A escala não-mensurada e a impossibilidade de atribuição operacional limitam conclusões mais fortes.
A resposta institucional do TSE, sob presidência do Ministro Alexandre de Moraes, articulou três frentes: a Resolução 23.610/2019 foi reinterpretada em provimentos de 2022 para cobrir explicitamente conteúdo manipulado por IA; o Programa de Enfrentamento à Desinformação com Foco nas Eleições (TSE, 2022) firmou acordos com plataformas (Meta, Google, TikTok, Kwai, Twitter) para takedown expedito; e foram estabelecidas parcerias com agências de checagem (Aos Fatos, Lupa, Comprova) para fluxo de denúncia priorizado.
4.2 Ciclo eleitoral de 2024
As eleições municipais de 2024 constituíram o primeiro pleito brasileiro sob a Resolução 23.732/2024, editada pelo TSE em fevereiro de 2024 para regular especificamente o uso de inteligência artificial generativa em propaganda eleitoral. A resolução: (i) tornou obrigatória a rotulagem clara e ostensiva de conteúdo sintético em propaganda; (ii) proibiu o uso de deepfakes para prejudicar candidatos; (iii) condicionou o uso de chatbots à transparência sobre a natureza não-humana do interlocutor; e (iv) responsabilizou candidatos e partidos pelo conteúdo veiculado em seus canais oficiais. As estatísticas oficiais do TSE divulgadas após o pleito indicam volume de ordens de remoção significativamente superior ao ciclo de 2020, com fração crescente referente a conteúdo identificado como sintético ou substancialmente modificado por IA.
Casos relatados em 2024, com graus variáveis de confirmação técnica e em sua maioria reportados por veículos jornalísticos ou em síntese estatística do TSE, incluem:
- Áudios de WhatsApp com indícios de clonagem de voz de prefeitos e vereadores em municípios de médio porte, frequentemente atribuindo aos candidatos declarações sobre temas sensíveis localmente (educação, segurança, políticas para minorias);
- Imagens sintéticas de candidatos em situações comprometedoras (encontros fabricados, ambientes ofensivos a recortes religiosos da base eleitoral);
- Vídeos com troca facial de candidatos a câmaras municipais, em escala aparentemente menor mas relevante em municípios disputados.
A epistemologia da seção exige reconhecer: a maior parte dos casos foi reportada por veículos jornalísticos ou pelo próprio TSE em síntese estatística, sem disponibilização pública dos artefatos para análise forense independente — limitação compreensível do ponto de vista operacional do tribunal, mas que dificulta validação acadêmica externa.
4.3 Padrão circulatório
Os dados disponíveis sugerem que o ecossistema brasileiro apresenta padrão distinto do norte-americano e do europeu: o WhatsApp permanece como vetor primário de propagação, com Telegram em ascensão como espaço de produção e curadoria de material posteriormente “exportado” para o WhatsApp via forwarding em massa. TikTok consolida-se como vetor de amplificação visual de curta duração. Twitter/X, apesar da queda de audiência relativa, mantém papel de “vitrine” para jornalistas e operadores políticos. Essa estrutura multiplataforma fragmenta a capacidade de detecção e exige resposta regulatória que não se limite às plataformas abertas — restrição que tensiona o desenho do PL 2630 (cf. Legislação Brasileira sobre Desinformação).
5. Marco Regulatório Brasileiro: Estado da Arte
O Brasil construiu, entre 2014 e 2024, arquitetura normativa multinível para o ambiente informacional digital. A análise dessa arquitetura sob o ângulo da regulação de deepfakes eleitorais exige consideração de cinco diplomas e instrumentos.
5.1 Resoluções do Tribunal Superior Eleitoral
A Resolução TSE 23.610/2019 disciplina a propaganda eleitoral e, em seu artigo 9º-A (incluído por resolução posterior), proíbe expressamente a veiculação de conteúdo “fabricado ou manipulado, fora do contexto original, em prejuízo de candidatos”. Trata-se de fundamento normativo já existente quando o termo “deepfake” ainda não integrava o léxico legal, mas suficientemente abrangente para cobrir o fenômeno por interpretação extensiva.
A Resolução TSE 23.714/2022 instituiu procedimento expedito de combate à desinformação, com prazos abreviados para remoção de conteúdo e responsabilização administrativa de candidatos e partidos. Estabeleceu, ainda, o conceito de “desinformação notoriamente inverídica ou gravemente descontextualizada”, critério jurisprudencialmente desenvolvido em julgamentos subsequentes.
A Resolução TSE 23.732/2024 representa o instrumento normativo brasileiro mais específico sobre IA generativa em contexto eleitoral até a data deste artigo. Suas inovações centrais — rotulagem obrigatória, proibição de deepfakes prejudiciais, responsabilização objetiva de candidatos, transparência de chatbots — situam o Brasil entre as primeiras jurisdições do mundo a regular operacionalmente o uso eleitoral de IA generativa, antes mesmo da plena vigência das obrigações de transparência do EU AI Act sobre o tema.
5.2 Projeto de Lei 2.630/2020 (PL das Fake News)
O PL 2.630/2020, em tramitação desde maio de 2020, é o principal veículo legislativo de regulação geral de plataformas digitais no Brasil. Suas versões sucessivas (2020, 2021, 2022, 2023) variaram significativamente quanto a: (i) escopo de plataformas alcançadas; (ii) obrigações de moderação e transparência; (iii) regime de responsabilidade; (iv) tratamento de deepfakes e mídia sintética; (v) supervisão regulatória. A versão de 2023, apresentada em substitutivo na Câmara mas pendente de votação em plenário, incluía dever de mitigação de riscos sistêmicos (inspirado no Digital Services Act europeu) e obrigações específicas de identificação de conteúdo gerado por IA.
A trajetória do PL ilustra o impasse político brasileiro entre regulação substantiva e o discurso de “liberdade de expressão” mobilizado por plataformas e por setores políticos. A interrupção da pauta em plenário em 2023, sob pressão coordenada de empresas de tecnologia (cf. campanha publicitária do Google contra o PL), evidencia a captura institucional típica do debate (BENKLER; FARIS; ROBERTS, 2018).
5.3 Lei Geral de Proteção de Dados Pessoais
A LGPD (Lei 13.709/2018) classifica dados biométricos como dados pessoais sensíveis (art. 5º, II), exigindo bases legais qualificadas para seu tratamento — entre as quais o consentimento específico e destacado (art. 11). A produção de deepfake mediante uso não-autorizado de face ou voz constitui, em regra, tratamento ilícito de dado sensível, com potencial sanção da Autoridade Nacional de Proteção de Dados (ANPD) que pode chegar a 2% do faturamento (limitado a R$ 50 milhões por infração). Análise aprofundada da aplicabilidade da LGPD ao ecossistema de segurança cognitiva consta em LGPD e Segurança Cognitiva.
5.4 Marco Civil da Internet
O Marco Civil (Lei 12.965/2014), em seu artigo 19, consagra o regime de responsabilidade subsidiária mediante ordem judicial das plataformas por conteúdo de terceiros — desenho institucional inspirado na Seção 230 do Communications Decency Act norte-americano. O regime, originalmente concebido para proteger a liberdade de expressão de censura privada, mostra-se inadequado ao desafio dos deepfakes: a viralização ocorre em horas, o processo judicial leva semanas, e o dano reputacional/eleitoral é, por sua natureza, dificilmente reversível ex post (CHESNEY; CITRON, 2019). A Resolução TSE 23.714/2022 contorna essa limitação em matéria eleitoral, mas o problema permanece estrutural fora da janela eleitoral. Análise específica em Marco Civil da Internet e Operações de Influência.
5.5 Código Eleitoral e Código Penal
O Código Eleitoral (Lei 4.737/1965), em seu art. 323, tipifica como crime divulgar fatos sabidamente inverídicos, em propaganda eleitoral, capazes de exercerem influência perante o eleitorado — fundamento penal aplicável à produção e divulgação de deepfakes eleitorais difamatórios. O Código Penal (arts. 138-140) sustenta a responsabilização por calúnia, difamação e injúria. A Lei 14.197/2021, que restabeleceu os crimes contra o Estado Democrático de Direito, acrescentou o tipo de interrupção do processo eleitoral (art. 359-N), aplicável a ataques aos mecanismos de segurança do sistema eletrônico de votação; o dispositivo que tipificava a “comunicação enganosa em massa” (art. 359-O) foi vetado na sanção presidencial, com veto mantido pelo Congresso Nacional em 2024.
5.6 Quadro comparado
Em perspectiva comparada, o Brasil situa-se em posição intermediária:
- O EU AI Act (Regulamento UE 2024/1689) estabelece, em seu art. 50, obrigação harmonizada de marcação (“watermark”) de conteúdo sintético em todo o bloco, com vigência escalonada até 2026. O Digital Services Act (Regulamento UE 2022/2065) impõe deveres sistêmicos de mitigação de riscos às very large online platforms.
- Nos Estados Unidos, ausente legislação federal abrangente, multiplicaram-se leis estaduais — California AB 730 (proibição de deepfakes eleitorais materialmente enganosos na janela de 60 dias anteriores ao pleito) e AB 602 (ação civil contra deepfakes sexuais), Texas SB 751, e mais de 20 estados com legislação específica adotada entre 2019 e 2024.
- O UK Online Safety Act (2023) impõe deveres de cuidado às plataformas, com obrigações específicas para conteúdo sintético.
O Brasil compara-se favoravelmente à média latino-americana — onde apenas Chile e Colômbia possuem normativas eleitorais comparáveis à Resolução 23.732/2024 — mas permanece atrás da UE em arquitetura sistêmica de regulação de plataformas, sobretudo pela paralisia do PL 2630.
6. Capacidade de Detecção e Resposta
A eficácia do marco regulatório depende criticamente da capacidade técnica e institucional de detectar, atribuir e remover conteúdo sintético em tempo útil. Essa capacidade, no Brasil, é distribuída entre quatro tipos de atores, cada qual com limitações específicas.
Tribunal Superior Eleitoral. O TSE estabeleceu, desde 2022, parcerias técnicas para análise de conteúdo manipulado, incluindo cooperação com plataformas (Microsoft, Meta, Google) e com universidades brasileiras (UFMG, USP, UnB). Há relatos, em 2024, de articulação com empresas privadas de análise forense de mídia sintética para apoio à triagem de denúncias — informação cuja consolidação documental institucional pública permanece parcial. O sistema de denúncias prioritárias permite escalonamento rápido a partir de canais oficiais. Limitações: dependência de detectores treinados majoritariamente em material anglófono; ausência de equipe permanente de análise forense interna; capacidade insuficiente diante do volume potencial de denúncias em pleitos majoritários nacionais.
Plataformas digitais. Meta (Facebook, Instagram, WhatsApp), TikTok e Google (YouTube) adotaram, entre 2023 e 2024, políticas de rotulagem de conteúdo gerado por IA, com graus distintos de aplicabilidade. A Meta anunciou em fevereiro de 2024 a marcação de imagens geradas por IA com metadados padronizados (C2PA, IPTC). TikTok exige autodeclaração de conteúdo sintético desde setembro de 2023. Limitações estruturais: (i) os sistemas dependem em parte de autodeclaração do publicador; (ii) detectores automatizados apresentam falsos positivos e negativos significativos; (iii) o WhatsApp, pela criptografia ponta a ponta, opera “no escuro” — a Meta não pode escanear conteúdo em trânsito, e a moderação se faz por sinais de comportamento (taxa de encaminhamento, denúncias) e por análise de mensagens reportadas.
Agências de checagem. Agência Lupa, Aos Fatos, Projeto Comprova e Estadão Verifica desenvolveram, desde 2018, capacidade considerável de verificação factual. A capacidade específica de análise forense de mídia sintética é mais limitada — depende de parcerias acadêmicas e ferramentas externas (InVID, Forensically, FakeCatcher). O tempo de resposta médio (horas a dias) é estruturalmente desfavorável diante da curva exponencial de viralização (VOSOUGHI; ROY; ARAL, 2018), o que reforça a necessidade de estratégias de pré-bunking em vez de exclusivo debunking reativo (ROOZENBEEK; VAN DER LINDEN, 2019).
Comunidade acadêmica e de pesquisa. Grupos como GPOPAI/USP, LABIC/UFES, NetLab/UFRJ, INCT.DD, MIDIATO/UFRN e o próprio NEGISC/UnB produzem monitoramento, análise e crítica do ecossistema. Sua função é estrutural — gera o conhecimento de base — mas opera em ciclos de pesquisa incompatíveis com a velocidade de resposta tática.
A assimetria de velocidade persiste como problema central. A literatura demonstra que conteúdo falso se difunde de modo significativamente mais amplo, profundo e rápido que conteúdo verdadeiro nas redes sociais, com notícias falsas apresentando probabilidade aproximadamente 70% maior de serem retuitadas do que as verdadeiras (VOSOUGHI; ROY; ARAL, 2018). Quando o debunking chega, o dano cognitivo está consumado — o efeito de continued influence (persistência da informação inicial mesmo após correção) é particularmente robusto para conteúdo congruente com vieses prévios. A solução exige antecipação (pré-bunking, letramento midiático prévio) e infraestrutura técnica de detecção em escala automatizada, não apenas resposta reativa.
7. Recomendações de Política Pública
Da análise empírica e normativa precedente, derivam-se sete recomendações operacionais para o Brasil. Não são exaustivas, mas representam intervenções de alto retorno marginal, factíveis no horizonte de um ciclo eleitoral.
1. Marcação obrigatória padronizada de mídia sintética. Adoção, por via legislativa (idealmente no PL 2630) ou regulatória (TSE, ANPD), do padrão C2PA (Coalition for Content Provenance and Authenticity) como referência técnica nacional para marcação criptográfica de origem de conteúdo audiovisual. Obrigação de marcação para todo conteúdo produzido por ferramentas comerciais de IA generativa, com responsabilização do fornecedor da ferramenta pelo descumprimento.
2. Expansão da infraestrutura de detecção do TSE. Constituição, no âmbito da Secretaria de Tecnologia da Informação do TSE, de unidade permanente de análise forense de mídia sintética, com capacidade humana e computacional dedicada, dataset próprio em português brasileiro e parcerias com universidades federais para pesquisa aplicada. Modelo de referência: Laboratório de Inspeção Veicular do DENATRAN, com capilaridade nas zonais.
3. Aprovação do PL 2630 com cláusulas reforçadas sobre IA generativa. Conclusão da tramitação do PL com (i) dever de identificação ostensiva de conteúdo sintético; (ii) dever de mitigação de riscos sistêmicos eleitorais; (iii) regime de responsabilidade ajustado para conteúdo de IA generativa (ex: presunção de conhecimento da plataforma após primeira notificação verificada); (iv) supervisão regulatória por entidade autônoma (ANPD ampliada ou agência ad hoc).
4. Responsabilização de plataformas por conteúdo eleitoral gerado por IA. Estabelecimento, no marco da Resolução TSE 23.732/2024 e do PL 2630, de regime intermediário entre o art. 19 do Marco Civil e a responsabilidade objetiva: presunção de responsabilidade após notificação por ordem judicial ou administrativa, com prazo máximo de remoção (modelo NetzDG alemão adaptado).
5. Integração de letramento midiático e educação informacional na Base Nacional Comum Curricular (BNCC). Inclusão, no currículo do Ensino Médio e nos anos finais do Ensino Fundamental, de conteúdo estruturado sobre identificação de mídia sintética, raciocínio probabilístico aplicado à verificação de fontes, e técnicas de pré-bunking inoculatório. Evidências de eficácia em ROOZENBEEK; VAN DER LINDEN (2019).
6. Capacitação da ABIN e do CTIR-Gov para atribuição técnica de operações de influência. Desenvolvimento de capacidade técnica especializada na Agência Brasileira de Inteligência para atribuição forense de operações de mídia sintética de origem estatal estrangeira, em coordenação com o Centro de Tratamento e Resposta a Incidentes Cibernéticos de Governo (CTIR-Gov). Articulação com o Comando de Defesa Cibernética (ComDCiber) do Ministério da Defesa para casos com nexo de segurança nacional.
7. Coordenação regional via MERCOSUL/CELAC (proposta aspiracional). Liderança brasileira na proposição de framework regional latino-americano de combate a deepfakes eleitorais, articulando harmonização normativa, compartilhamento de inteligência técnica e protocolos de resposta a operações transnacionais. Ressalva: MERCOSUL e CELAC não dispõem, em sua atual arquitetura institucional, de mandato sobre governança eleitoral interna dos Estados-membros — a recomendação deve, portanto, ser lida como agenda construtiva de cooperação intergovernamental voluntária, não como atribuição de competência normativa preexistente. Modelo de referência: Code of Practice on Disinformation da UE, adaptado à realidade institucional regional.
8. Considerações Finais
A ameaça dos deepfakes à integridade eleitoral brasileira não é especulativa — é presente, documentada, e estruturalmente assimétrica. O Brasil entra nos ciclos eleitorais de 2026 e 2028 com um marco regulatório mais avançado do que o da maior parte da América Latina, mas insuficiente diante da curva de capacidade técnica dos atores adversariais e da velocidade de propagação do ecossistema multiplataforma nacional.
Três tensões estruturais permanecem em aberto. A primeira é a assimetria de velocidade: a janela entre publicação e viralização (horas) é menor do que a janela entre denúncia, análise forense, decisão judicial/administrativa e remoção (dias). Sem infraestrutura permanente de detecção e respostas pré-judiciais sobre conteúdo verificadamente sintético, o regime normativo opera predominantemente ex post. A segunda é a tensão entre criptografia e moderação: o WhatsApp, vetor primário no Brasil, é estruturalmente opaco às plataformas e ao Estado — propriedade desejável do ponto de vista da privacidade individual, mas tensionante do ponto de vista da governança informacional coletiva. A terceira é a captura discursiva do debate regulatório por interesses corporativos e político-partidários que mobilizam o discurso de liberdade de expressão para inviabilizar marcos sistêmicos como o PL 2630 — fenômeno que demanda contraposição organizada da sociedade civil, da academia e dos órgãos de controle.
A resposta adequada exige interdisciplinaridade radical: Relações Internacionais (para compreender vetores estatais externos e dinâmica geopolítica), Ciência da Computação (para a fronteira técnica de geração e detecção), Direito (para arquitetura normativa proporcional), Comunicação Social (para dinâmicas de circulação e recepção) e Educação (para resiliência cognitiva de longo prazo). A produção acadêmica brasileira sobre o tema é crescente mas ainda fragmentada — consolidá-la em programa de pesquisa interinstitucional é tarefa de Estado, não apenas de universidades isoladas.
O NEGISC entende a integridade eleitoral como dimensão da segurança cognitiva nacional, e a regulação de deepfakes como componente — necessário mas não suficiente — de uma agenda mais ampla de proteção do ambiente informacional brasileiro. Ver, na mesma série, o artigo O Ecossistema Desinformacional Brasileiro, que situa este debate em quadro analítico mais abrangente.
Referências
BENKLER, Yochai; FARIS, Robert; ROBERTS, Hal. Network Propaganda: Manipulation, Disinformation, and Radicalization in American Politics. Oxford: Oxford University Press, 2018.
BRASIL. Lei n. 12.965, de 23 de abril de 2014. Marco Civil da Internet. Brasília: DOU, 23 abr. 2014.
BRASIL. Lei n. 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais. Brasília: DOU, 14 ago. 2018.
BRASIL. Câmara dos Deputados. Projeto de Lei n. 2.630, de 2020. Institui a Lei Brasileira de Liberdade, Responsabilidade e Transparência na Internet. Brasília: Câmara dos Deputados, 2020.
BRASIL. Tribunal Superior Eleitoral. Resolução n. 23.610, de 18 de dezembro de 2019. Dispõe sobre propaganda eleitoral, utilização e geração do horário gratuito e condutas ilícitas em campanha eleitoral. Brasília: TSE, 2019.
BRASIL. Tribunal Superior Eleitoral. Resolução n. 23.714, de 20 de outubro de 2022. Dispõe sobre o enfrentamento à desinformação que atinge a integridade do processo eleitoral. Brasília: TSE, 2022.
BRASIL. Tribunal Superior Eleitoral. Resolução n. 23.732, de 27 de fevereiro de 2024. Altera a Resolução n. 23.610, de 18 de dezembro de 2019, para dispor sobre propaganda eleitoral em plataformas digitais e sobre o uso de inteligência artificial. Brasília: TSE, 2024.
BRASIL. Tribunal Superior Eleitoral. Programa de Enfrentamento à Desinformação com Foco nas Eleições 2022. Brasília: TSE, 2022.
CETIC.BR. TIC Domicílios 2024. São Paulo: Cetic.br/NIC.br, 2024.
CHESNEY, Robert; CITRON, Danielle Keats. Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security. California Law Review, Berkeley, v. 107, p. 1753-1820, 2019.
CITRON, Danielle Keats. The Fight for Privacy: Protecting Dignity, Identity, and Love in the Digital Age. New York: W.W. Norton, 2022.
EUROPEAN PARLIAMENT AND COUNCIL. Regulation (EU) 2022/2065 of the European Parliament and of the Council of 19 October 2022 on a Single Market for Digital Services (Digital Services Act). Official Journal of the European Union, L 277, 27 out. 2022.
EUROPEAN PARLIAMENT AND COUNCIL. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union, L series, 12 jul. 2024.
FLORIDI, Luciano et al. AI4People — An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations. Minds and Machines, v. 28, n. 4, p. 689-707, 2018.
GPOPAI/USP — Grupo de Pesquisa em Políticas Públicas para o Acesso à Informação. Monitoramento de desinformação no ciclo eleitoral brasileiro de 2022. São Paulo: Universidade de São Paulo, 2022. [relatório de pesquisa].
PARIS, Britt; DONOVAN, Joan. Deepfakes and Cheap Fakes: The Manipulation of Audio and Visual Evidence. New York: Data & Society Research Institute, 2019.
RECUERO, Raquel; SOARES, Felipe Bonow; GRUZD, Anatoliy. Hyperpartisan News, Political Polarization and Fake News on Brazilian Twitter. Proceedings of the 53rd Hawaii International Conference on System Sciences, p. 2755-2764, 2020.
REUTERS INSTITUTE FOR THE STUDY OF JOURNALISM. Digital News Report 2024. Oxford: Reuters Institute, 2024.
ROOZENBEEK, Jon; VAN DER LINDEN, Sander. Fake news game confers psychological resistance against online misinformation. Palgrave Communications, v. 5, n. 65, 2019.
VOSOUGHI, Soroush; ROY, Deb; ARAL, Sinan. The spread of true and false news online. Science, v. 359, n. 6380, p. 1146-1151, 2018.
WARDLE, Claire; DERAKHSHAN, Hossein. Information Disorder: Toward an Interdisciplinary Framework for Research and Policy Making. Strasbourg: Council of Europe, 2017.
Artigo submetido ao NEGISC — Núcleo de Estudos em Guerra Informacional e Segurança Cognitiva / GEPSI / IREL / UnB. Licença CC BY-SA 4.0.