A tecnologia de deepfake evoluiu a passos largos, permitindo a criação de vídeos e imagens falsificadas com realismo impressionante. No entanto, esse avanço trouxe consequências devastadoras: a proliferação de pornografia deepfake, que utiliza rostos de vítimas reais em conteúdos abusivos sem seu consentimento. Na Coreia do Sul, um grupo voluntário de mulheres decidiu agir e se tornou uma referência internacional no combate a esse tipo de crime digital.
Conhecidas como "detetives da web", essas mulheres utilizam inteligência artificial e técnicas de investigação digital para rastrear os criadores de deepfakes pornográficos, identificar padrões nos ataques e, quando possível, ajudar as vítimas a buscarem justiça. O trabalho voluntário ganhou destaque internacional em 2026 e serve como modelo para outros países que enfrentam problemas similares.
A magnitude do problema dos deepfakes sexuais
A Coreia do Sul emergiu como um dos epicentros globais da pornografia deepfake. Relatos de vítimas indicam que fotos do Instagram, redes sociais e até imagens aparentemente innocentes foram manipuladas para criar conteúdo sexual explícito. Uma vítima entrevistada pela BBC descreveu a experiência como uma forma de "estupro digital", destacando o trauma psicológico prolongado que esse tipo de violência causa.
O problema não se limita à Coreia do Sul. No Brasil, o presidente Lula sancionou em agosto de 2026 uma lei que criminaliza deepfakes envolvendo crianças, endurece penas e amplia o combate à violência sexual infantil na internet. A legislação representa um avanço significativo, mas especialistas apontam que a proteção às mulheres adultas ainda é insuficiente no país.
Como funcionam as 'detetives da web'
As detetives sul-coreanas desenvolveram uma metodologia própria para investigar deepfakes. O processo envolve:
- Análise de padrões visuais: identificação de técnicas comuns usadas na criação de deepfakes, como inconsistências na iluminação facial, движения labiais e texturas de pele;
- Rastreamento de distribuição: monitoramento de plataformas onde o conteúdo é compartilhado e identificação dos canais de distribuição;
- Coleta de evidências: documentação meticulosa de cada caso para apresentação às autoridades;
- Uso de ferramentas de IA: implementação de algoritmos de detecção que comparam o conteúdo suspeito com imagens genuínas das vítimas.
O grupo opera de forma colaborativa, compartilhando descobertas e refinando técnicas de investigação. A abordagem combina tecnologia de ponta com trabalho manual de análise, criando um sistema robusto de combate ao abuso digital.
O avanço da tecnologia de detecção de deepfakes
A corrida tecnológica entre criadores e detectores de deepfakes tem se intensificado. Em setembro de 2026, empresas de tecnologia apresentam soluções cada vez mais sofisticadas para identificar conteúdo manipulado. A VU Security, por exemplo, revelou tecnologias de detecção de deepfakes com IA e camadas de dados de identidade especificamente voltadas para o mercado brasileiro.
Entre as técnicas mais promissoras estão:
- Análise de microexpressões: identificação de padrões faciais sutis que diferem entre vídeos genuínos e manipulados;
- Verificação de metadados: análise de informações ocultas em arquivos digitais que podem indicar manipulação;
- Redes neurais adversariais: sistemas de IA que aprendem continuamente com novas técnicas de deepfake;
- Autenticação biométrica: verificação de características faciais e vocais em tempo real.
Parcerias estratégicas contra deepfakes
O combate aos deepfakes tem mobilizado instituições governamentais e grandes empresas de tecnologia. O Tribunal Superior Eleitoral (TSE) firmou parceria com o Google para ampliar a proteção contra o uso indevido de IA nas eleições brasileiras. A colaboração inclui ferramentas de detecção de conteúdo manipulado e campanhas de conscientização pública.
Além disso, o TSE discute ativamente mecanismos para identificar e remover deepfakes que possam influenciar o processo eleitoral. A preocupação é que vídeos manipulados de candidatos possam ser usados para espalhar desinformação durante as campanhas.
Legislação e desafios legais
A legislação ao redor do mundo ainda luta para acompanhar a velocidade da evolução tecnológica. Enquanto países como Brasil e Coreia do Sul avançam na criminalização de deepfakes sexuais, a aplicação efetiva dessas leis permanece um desafio. Questões como jurisdição digital, rastreamento de autores anônimos e a velocidade de distribuição do conteúdo criam obstáculos significativos para a justiça.
Especialistas apontam que, além das ferramentas tecnológicas, é fundamental investir em:
- Educação digital: conscientizar a população sobre os riscos e consequências dos deepfakes;
- Capacitação policial: treinar investigadores para lidar com crimes digitais complexos;
- Apoio às vítimas: oferecer suporte psicológico e jurídico adequado;
- Cooperação internacional: criar canais de colaboração entre países para perseguir agressores transnacionais.
O papel da inteligência artificial no futuro do combate
A mesma tecnologia que torna os deepfakes possíveis está sendo utilizada para combatê-los. Sistemas de machine learning são treinados para identificar características específicas de vídeos e imagens manipuladas, criando uma espécie de " arms race" entre desenvolvedores de deepfakes e detectores.
Para as detetives sul-coreanas, o futuro envolve incorporar cada vez mais dessas ferramentas autônomas ao seu trabalho, aumentando a escala e a eficiência das investigações. A esperança é que, com tecnologia adequada e apoio institucional, seja possível proteger mais vítimas e responsabilizar mais agressores.
Conclusão
O caso das detetives da web na Coreia do Sul demonstra que, mesmo diante de tecnologias sofisticadas, a ação humana organizada pode fazer diferença significativa no combate aos deepfakes sexuais. A combinação de inteligência artificial, investigação dedicada e solidariedade entre vítimas representa um modelo promissor que pode ser replicado em outros países, incluindo o Brasil.
Com a sanção de novas leis e o desenvolvimento de tecnologias de detecção mais avançadas, 2026 marca um ponto de inflexão no enfrentamento dessa forma de violência digital. Porém, o sucesso dependerá da colaboração entre governo, setor privado e sociedade civil para garantir que a IA seja usada como ferramenta de proteção, não de destruição.