Quando Jang Soyeon descobriu que seu rosto havia sido manipulado e inserido em vídeos pornográficos sem seu consentimento, ela não sabia a quem recorrer. A sensação de violação era absoluta, mas a jovem sul-coreana encontrou uma luz no fim do túnel: um grupo de investigações digitais especializado em combater deepfakes sexuais, formado predominantly por mulheres, que trabalha incansavelmente para identificar os agressores e proteger as vítimas.
Essa realidade, documentada por veículos como Olhar Digital e RFI, revela um cenário crescente na Coreia do Sul e no mundo: o avanço da tecnologia de deepfake tem sido usado para criar conteúdo sexual explícito com rostos de vítimas reais, gerando uma nova forma de violência digital que afeta predominantemente mulheres.
O que são deepfakes e por que são perigosos
Deepfakes utilizam técnicas avançadas de inteligência artificial, especialmente redes neurais generativas, para manipular ou criar conteúdo de áudio e vídeo extremamente realista. Por meio de algoritmos de machine learning, é possível sobrepor o rosto de uma pessoa em vídeos existentes ou até criar performances digitais inteiramente sintéticas que parecem autênticas.
Embora a tecnologia tenha aplicações legítimas em cinema, entretenimento e educação, ela também tem sido weaponizada para fins maliciosos. O caso mais comum é a criação de pornografia deepfake, onde fotos do Instagram ou redes sociais são transformadas em vídeos sexuais explícitos sem o consentimento das vítimas.
De acordo com especialistas, os impactos psicológicos sobre as vítimas são devastadores. Muitas relatam sentir-se violadas de forma semelhante a um estupro, mesmo sem terem sido tocadas fisicamente. A disseminação desses conteúdos pode destruir reputações, carreiras e relacionamentos, além de causar ansiedade severa, depressão e, em casos extremos, pensamentos suicidas.
A Korea Women's Hot Line e o grupo de investigação
Diante desse cenário, a Korea Women's Hot Line, organização sul-coreana dedicada à proteção dos direitos das mulheres, criou um grupo especializado de investigators que atua como uma espécie de "polícia digital". Essas detetives utilizam técnicas forenses avançadas para rastrear a origem dos deepfakes, identificar padrões nos materiais abused e auxiliar as autoridades na localização dos responsáveis.
O trabalho dessas profissionais é multifacetado. Primeiro, elas acolhem e orientam as vítimas, explicando os procedimentos legais disponíveis na Coreia do Sul. Em seguida, iniciam um trabalho de inteligência digital, coletando evidências, analisando metadados e rastreando a propagação do conteúdo indevido pela internet.
Como funciona a investigação
As detetives digitais empregam diversas ferramentas e metodologias para combater os deepfakes:
- Análise forense de imagens: Utilizam software especializado para identificar sinais de manipulação digital, como inconsistências nos padrões de iluminação, deformações sutis e artefatos de compressão
- Rastreamento de metadados: Examinam informações ocultas nos arquivos digitais que podem revelar a origem, data de criação e dispositivo utilizado
- Monitoramento de plataformas: Varrem constantemente redes sociais, fóruns e sites dedicados à distribuição de conteúdo indevido
- Colaboração internacional: Trabalham em conjunto com organizações de outros países para rastrear redes globais de exploração digital
O contexto sul-coreano: por que o problema é tão grave
A Coreia do Sul apresenta uma das maiores taxas de crimes digitais relacionados a deepfakes no mundo. Vários fatores contribuem para essa realidade: a alta penetração de internet e smartphones no país, uma cultura de Gaming Online que facilita a distribuição anônima de conteúdo, e um estigma social que frequentemente culpa as vítimas em vez dos agressores.
Recentemente, o governo sul-coreano tem intensificado esforços para combater essa forma de criminalidade. Novas legislações foram aprovadas, aumentando as penas para quem produzir ou distribuir deepfakes sexuais. As plataformas digitais também têm sido pressionadas a remover esse tipo de conteúdo de forma mais ágil.
Tecnologia contra tecnologia: o braço de ferro dos deepfakes
Enquanto os agressores utilizam inteligência artificial para criar deepfakes cada vez mais sofisticados, as forças de proteção às vítimas também têm recorrido à mesma tecnologia para combatê-los. Ferramentas de detecção baseadas em IA são capazes de identificar manipulações sutis que o olho humano não perceberia.
Pesquisadores de instituições como a Unicamp no Brasil têm desenvolvido modelos capaz de detectar deepfakes inéditos, ou seja, novas manipulações que ainda não haviam sido catalogadas. Essa corrida tecnológica é constante, com atacantes e defensores aprimorando continuamente suas técnicas.
O Protocolo Zero Trust também tem ganhado destaque como estratégia de segurança, exigindo verificação contínua e rigorosa de identidades digitais para prevenir fraudes e manipulações. Essa abordagem pode ajudar a reduzir a criação de deepfakes em contextos de golpes financeiros e manipulação de informações.
O que as vítimas podem fazer
Especialistas orientam que qualquer pessoa que descubra ser vítima de deepfake deve tomar providências imediatas. O primeiro passo é documentar tudo: capturar screenshots, salvar links, preservar evidências antes que sejam removidas. Em seguida, buscar apoio psicológico e jurídico especializado.
Na Coreia do Sul, grupos como a Korea Women's Hot Line oferecem suporte gratuito às vítimas. No Brasil, existem organizações similares que podem ser acionadas. É fundamental entender que produzir e distribuir deepfakes sexuais é crime, previsto em legislações de crime virtual, violação de intimidade e, em muitos casos, crimes sexuais.
Considerações finais
O caso das detetives digitais sul-coreanas ilustra uma realidade que transcende fronteiras: a necessidade urgente de desenvolvimento de tecnologias de defesa, legislações atualizadas e apoio integral às vítimas. A inteligência artificial, que possibilitou a criação dos deepfakes, também oferece ferramentas para combatê-los.
A batalha contra a manipulação digital é contínua e exige colaboração entre governos, empresas de tecnologia, sociedade civil e especialistas em segurança digital. Somente por meio de um esforço conjunto será possível criar um ambiente online mais seguro e proteger a dignidade das pessoas contra essa nova forma de violência tecnológica.
