Em um pequeno escritório no centro de Seul, decorado com faixas de apoio às vítimas de violência sexual, 23 mulheres trabalham silenciosamente para combater uma das formas mais devastadoras de crime digital: os deepfakes sexuais. Desde 2018, o governo sul-coreano mantém um centro especializado em rastrear e eliminar conteúdos sexuais ilícitos da internet, e a equipe tem se destacado como pioneira global no uso de inteligência artificial para proteger vítimas de violência sexual virtual.
O centro que nasceu de uma crise
A criação do centro especializado não foi por acaso. A Coreia do Sul enfrenta uma das taxas mais altas de crimes sexuais digitais do mundo, e a propagação de pornografia deepfake se tornou uma crise nacional. Jovens estudantes, profissionais e até crianças passaram a ser vítimas de vídeos e imagens fabricados com inteligência artificial, que superimpoem rostos em conteúdo pornográfico sem qualquer consentimento.
Diante dessa realidade alarmante, o governo sul-coreano implementou uma estrutura robusta de combate. O centro funciona com 23 funcionárias exclusivas, todas mulheres, e conta com 17 filiais regionais que oferecem apoio psicológico e jurídico às vítimas. A líder da equipe, Kim Hyojung, descreve o trabalho como uma corrida contra o tempo, onde cada minuto conta para reduzir o dano emocional das vítimas.
Como funciona a detecção com inteligência artificial
O processo começa quando uma vítima procura o centro após ser informada por um familiar, amigo ou conhecido que um vídeo seu está circulando online. A partir desse momento, um programa de inteligência artificial entra em ação para detectar republicações do mesmo conteúdo em diferentes plataformas da internet.
A tecnologia permite que a equipe monitore simultaneamente centenas de sites e redes sociais, identificando novas distribuições do material illicitado em questão de minutos. Com essas informações em mãos, os especialistas solicitam a remoção do conteúdo tanto em grandes redes sociais quanto em sites pornográficos que hospedam esse tipo de material.
Desde a inauguration, o centro já atendeu impressionantes 53 mil pessoas e.removeu mais de 1 milhão de conteúdos sexuais ilícitos da internet. Os números refletem tanto a magnitude do problema quanto a eficácia das estratégias adotadas pelo grupo sul-coreano.
Os obstáculos internacionais
Apesar do sucesso interno, a equipe enfrenta desafios significativos quando o conteúdo está hospedado fora da Coreia do Sul. Kim Hyojung aponta que grande parte dos vídeos está hospedada em sites ilegais cujos provedores simplesmente não atendem aos pedidos de remoção, ignorando completamente as solicitações formais.
Nesses casos mais graves, a polícia sul-coreana pode intervir diretamente para solicitar o fechamento do site. Quando o conteúdo está hospedado no exterior, o problema se torna ainda mais complexo, mas Kim Hyojung destaca que aproximadamente 80% desses casos envolvem servidores localizados nos Estados Unidos, onde as autoridades norte-americanas têm cooperado com as solicitações sul-coreanas.
Essa cooperação internacional tem sido fundamental, mas ainda há um longo caminho pela frente. Muitos países ainda não possuem legislações específicas para criminalizar a criação e distribuição de deepfakes sexuais, criando lacunas legais que os criminosos exploram com frequência.
Legislação e consequências legais
A Coreia do Sul tem se destacado no cenário internacional ao implementar leis rigorosas contra esse tipo de crime. Em 2024, o país deu um passo histórico ao criminalizar não apenas a criação e distribuição de deepfakes pornográficos, mas também a simplesvisualização desse conteúdo, tornando-se um dos primeiros países do mundo a punir quem consome voluntariamente esse tipo de material.
Essa abordagem mais abrangente reflete a compreensão de que a demanda por esse conteúdo alimenta todo o ecossistema de crimes sexuais digitais. Ao responsabilizar também os consumidores, as autoridades esperam reduzir a incentivo econômico que alimenta a produção e distribuição de deepfakes sexuais.
O impacto nas vítimas
Para as vítimas de deepfakes sexuais, o impacto vai muito além da violação digital. Relatos de mulheres sul-coreanas revelam sentimentos de violação, vergonha e trauma psicológico comparáveis aos experimentados em agressões sexuais físicas. Muitas relatam que a sensação de ter sido "estuprada digitalmente" persiste por anos, afetando relacionamentos, carreira e saúde mental.
O centro sul-coreano reconhece essa realidade e oferece apoio psicológico como parte integral do serviço. As 17 filiais regionais garantem que vítimas de diferentes regiões do país tenham acesso a acompanhamento terapêutico, orientação jurídica e assistência para lidar com as consequências do crime.
O modelo sul-coreano como referência global
O trabalho dessas "detetives digitais" tem chamado atenção de autoridades e organizações de defesa dos direitos humanos ao redor do mundo. O modelo combina tecnologia de ponta com sensibilidade no atendimento às vítimas, estabelecendo um padrão que muitos países começam a adotar como referência.
Especialistas em segurança digital destacam que a abordagem sul-coreana é particularmente eficaz por unir três elementos essenciais: detecção rápida baseada em IA, remoção massiva de conteúdo e suporte integral às vítimas. Essa combinação sistêmica é o que diferencia o programa de outros esforços fragmentados de combate ao crime digital.
O futuro do combate aos deepfakes
Com o avanço constante das tecnologias de inteligência artificial, a batalha contra deepfakes sexuais está longe de terminar. Novos modelos de IA generativa permitem criar conteúdos falsos cada vez mais realistas e difíceis de distinguir de material genuíno, desafiando as ferramentas de detecção existentes.
No entanto, o centro sul-coreano continua em constante evolução, atualizando suas tecnologias e metodologias para acompanhar as novas ameaças. A equipe de 23 mulheres permanece na linha de frente dessa guerra invisível, provando diariamente que é possível usar a tecnologia a favor das vítimas, não contra elas.
Conclusão
As detetives digitais da Coreia do Sul representam um modelo pioneiro de combate à violência sexual digital. Com 53 mil vítimas atendidas, mais de 1 milhão de conteúdos removidos e uma estrutura que combina inteligência artificial com suporte humanizado, o programa demonstra que é possível enfrentar crimes sexuais online de forma eficaz. Enquanto a tecnologia avança, o exemplo sul-coreano serve como referência para que outros países implementem políticas públicas robustas de proteção às vítimas de deepfakes. O caminho ainda é longo, mas o trabalho dessas mulheres mostra que a batalha contra a violência digital pode ser vencida, uma imagem de cada vez.
