Deepfakes e os riscos à memória coletiva - como discernir o real do falso

Contextualização do tema

Os deepfakes são vídeos, áudios e imagens sintéticos criados por sistemas de agentes especializados generativos capazes de reproduzir, com altíssima fidelidade, o rosto, a voz e os gestos de uma pessoa real. O que antes exigia equipes especializadas e meses de produção pode hoje ser feito por aplicativos populares em poucos minutos, o que torna o problema massivo, cotidiano e acessível a qualquer usuário com um celular.

No Brasil, casos recentes envolvendo deepfakes de políticos, jornalistas e celebridades reacenderam o debate sobre confiança nas imagens, manipulação eleitoral e violência digital contra mulheres. A facilidade de produção convive com a lentidão das instituições para regular o uso dessas tecnologias e com a baixa alfabetização midiática da população.

O tema dialoga diretamente com a memória coletiva: se documentos audiovisuais sempre serviram como prova histórica, a falsificação em escala industrial ameaça a forma como a sociedade reconhece o que é real, registra o passado e responsabiliza agentes públicos.

Por que esse tema pode aparecer no ENEM

O ENEM costuma propor temas que cruzam tecnologia, cidadania e direitos fundamentais. Deepfakes reúnem três frentes recorrentes na prova: ameaça à democracia (desinformação eleitoral), violência digital (uso para extorsão e pornografia não consentida) e regulação tecnológica (limites éticos do uso de agentes especializados). É um tema atual, urgente e sustentado por dados públicos do TSE, da ANPD e de organizações como SaferNet.

Eixos argumentativos possíveis

1. 1. Deepfakes como ameaça à confiança pública e à memória coletiva

   Argumente que a falsificação realista de imagens compromete o registro histórico e a confiança em provas audiovisuais, abrindo espaço para revisionismos e para a deslegitimação de fatos comprovados.

2. 2. O uso de deepfakes como nova forma de violência

   Mostre que a tecnologia tem sido instrumentalizada para violência de gênero, bullying digital e fraudes financeiras, atingindo principalmente mulheres, adolescentes e idosos.

3. 3. Vácuo regulatório e responsabilidade das plataformas

   Defenda a necessidade de marco legal específico para conteúdo sintético, com obrigações de rotulagem, rastreabilidade e responsabilização proporcional das big techs.

Repertórios socioculturais

• Caverna de Platão

  Alegoria filosófica clássica sobre a distinção entre realidade e ilusão.

  Como usar: Use para introduzir a ideia de que, em um cenário saturado de deepfakes, a sociedade corre o risco de viver em uma 'caverna digital', confundindo sombras manipuladas com fatos.

• Marco Civil da Internet (Lei 12.965/2014) e PL das Fake News

  Legislações brasileiras que tratam da responsabilidade no ambiente digital.

  Como usar: Cite para mostrar que já existe base legal para responsabilizar plataformas, mas que falta regulação específica para conteúdo sintético.

• Sociedade do espetáculo, de Guy Debord

  Obra que analisa como as imagens substituem a experiência direta da realidade.

  Como usar: Conecte com a ideia de que os deepfakes intensificam a 'espetacularização' da vida pública, em que tudo pode ser fabricado para gerar engajamento.

Competências ENEM trabalhadas

• Competência 1 — Norma-padrão

  Cuide da grafia de termos estrangeiros (deepfake, fake news em itálico ou aspas) e do uso correto de pontuação em períodos longos típicos do tema.

• Competência 2 — Compreensão da proposta e repertório

  Mantenha o foco nos riscos à 'memória coletiva' e articule repertório de filosofia, legislação e atualidades sem fugir da delimitação do tema.

• Competência 3 — Argumentação

  Encadeie causa (facilidade de produção), consequência (desinformação) e resposta (regulação), evitando a simples enumeração de exemplos.

• Competência 4 — Coesão

  Use conectores de oposição (entretanto, contudo) para contrastar avanços tecnológicos e riscos sociais.

• Competência 5 — Proposta de intervenção

  Articule agentes públicos e privados (Congresso, ANPD, plataformas, escolas) e respeite os direitos humanos, sobretudo liberdade de expressão e proteção de dados.

Propostas de intervenção possíveis

• Proposta 1

  Agente: Congresso Nacional, em articulação com a ANPD

  Ação: Aprovar marco legal específico para conteúdo sintético gerado por agentes especializados

  Meio: Por meio de projeto de lei que exija rotulagem obrigatória, rastreabilidade e sanção para uso malicioso

  Finalidade: A fim de proteger a integridade informacional e a memória coletiva

  Detalhamento: Com prazo definido para adequação das plataformas, criação de selo público de autenticidade e reforço orçamentário para órgãos fiscalizadores.

• Proposta 2

  Agente: Ministério da Educação, em parceria com as redes estaduais

  Ação: Implementar trilhas obrigatórias de educação midiática

  Meio: Por meio da inclusão de letramento digital crítico no Ensino Fundamental e Ensino Médio

  Finalidade: A fim de formar estudantes capazes de identificar conteúdos manipulados

  Detalhamento: Com formação continuada de professores, materiais didáticos abertos e parcerias com agências de checagem.

Erros comuns ao escrever sobre este tema

• Confundir deepfake com qualquer fake news, sem mencionar o uso específico de agentes generativos.
• Demonizar toda a tecnologia em vez de atacar usos maliciosos.
• Citar apenas casos internacionais e ignorar o contexto brasileiro.
• Propor 'banir' a tecnologia, ferindo a liberdade de expressão e inviabilizando a intervenção.
• Esquecer o recorte da memória coletiva pedido na proposta.

Perguntas Frequentes