A Coreia do Sul emergiu como líder global no combate aos deepfakes pornográficos, combinando inteligência artificial e uma equipe especializada para proteger milhares de vítimas de violência digital. O país, que também se tornou o primeiro do mundo a regulamentar o uso de inteligência artificial em 2026, mantém desde 2018 um centro dedicado exclusivamente a rastrear e eliminar conteúdos sexuais ilícitos da internet.
O centro que virou referência mundial
Em um pequeno escritório no centro de Seul, decorado com faixas de apoio às vítimas de violência sexual, trabalha um grupo que se tornou referência internacional no combate a deepfakes. O centro é composto exclusivamente por 23 mulheres que, desde sua inauguration, já atenderam 53 mil pessoas e removeram mais de 1 milhão de conteúdos sexuais ilícitos da internet.
A estrutura conta ainda com 17 filiais regionais, que oferecem apoio psicológico e jurídico às vítimas. O trabalho começou com foco em revenge porn tradicional, mas se expandiu drasticamente com o advento das tecnologias de deep learning e inteligência artificial generativa.
A tecnologia por trás do combate
A líder da equipe, Kim Hyojung, descreve o fluxo típico de atendimento: a maioria das vítimas procura o centro depois que um familiar ou conhecido avisa que um vídeo seu está circulando online. A partir daí, um programa de inteligência artificial detecta republicações do mesmo conteúdo, permitindo que a equipe solicite a remoção tanto em redes sociais quanto em sites pornográficos.
Essa abordagem tecnológica permite uma resposta muito mais rápida do que os métodos tradicionais de moderação de conteúdo. O sistema consegue identificar variações de um mesmo conteúdo, mesmo quando manipuladas digitalmente para evitar detecção.
Os desafios da remoção de deepfakes
Os obstáculos são frequentes e complexos. Segundo Kim Hyojung, grande parte dos vídeos está hospedada em sites ilegais cujos provedores não atendem aos pedidos de remoção. Nesses casos, a polícia sul-coreana pode intervir para fechar o site.
Quando o conteúdo está hospedado no exterior, o problema se repete, mas Kim Hyojung aponta que 80% desses casos envolvem servidores nos Estados Unidos e que as autoridades norte-americanas têm colaboração com as demandas sul-coreanas.
A corrida armamentista digital
A batalha contra deepfakes é uma verdadeira corrida armamentista digital. A cada melhoria nas ferramentas de detecção, novas técnicas de evasion surgem. Os criadores de conteúdo illicitico utilizam cada vez mais redes neurais avançadas para gerar vídeos cada vez mais realistas e difíceis de distinguir de gravações genuínas.
Essa realidade coloca os investigadores em uma posição de constante atualização tecnológica, o que exige investimentos significativos em pesquisa e desenvolvimento de novas ferramentas de identificação.
Coreia do Sul: pioneira na legislação de IA
Além do trabalho de campo, a Coreia do Sul também se destacou no cenário legislativo. Em janeiro de 2026, o país se tornou o primeiro do mundo a aprovar uma Lei Básica de IA, estabelecendo diretrizes claras para o desenvolvimento e uso de tecnologias de inteligência artificial.
A legislação sul-coreana aborda diversos aspectos, incluindo:
- Proteção de dados pessoais contra uso indevido por sistemas de IA
- Regulamentação de deepfakes e conteúdo sintético
- Responsabilização por danos causados por sistemas de inteligência artificial
- Promoção de IA ética e desenvolvimento responsável
Impacto global da iniciativa sul-coreana
A abordagem sul-coreana tem inspirado outros países a desenvolverem legislações similares. Especialistas em tecnologia e direitos digitais apontam que o modelo do país, que combina trabalho humano especializado com inteligência artificial, pode servir como referência para nações que buscam enfrentar o crescente problema dos deepfakes.
O sucesso do programa também evidencia a importância de centros especializados que combinem suporte técnico com atendimento humanizado às vítimas, algo que muitas vezes é negligenciado em abordagens puramente tecnológicas.
O impacto nas vítimas
Para as pessoas afetadas por deepfakes, o impacto vai muito além da exposição não consentida. Muitas vítimas relatam transtornos de ansiedade, depressão e dificuldades em suas vidas pessoais e profissionais. O apoio psicológico oferecido pelo centro sul-coreano é considerado parte fundamental do trabalho.
Especialistas alertam que os deepfakes pornográficos representam uma forma grave de violência digital de gênero, afetando desproporcionalmente mulheres e小姑娘. A normalização desse tipo de conteúdo na internet contribui para uma cultura de impunidade que precisa ser combatida.
Perspectivas futuras
O combate aos deepfakes está longe de ser uma batalha vencida. A democratização das ferramentas de IA generativa torna cada vez mais acessível a criação de conteúdo falso realista. Especialistas estimam que a quantidade de deepfakes na internet triplicou nos últimos dois anos.
No entanto, a experiência sul-coreana demonstra que é possível criar sistemas eficazes de resposta a essa ameaça. A combinação de legislação adequada, tecnologia de detecção e suporte às vítimas representa um modelo promissor para outros países.
O que其他的 países podem aprender
A lição principal da Coreia do Sul é que o combate aos deepfakes não pode ser deixado apenas nas mãos das plataformas tecnológicas. É necessário um esforço governamental coordenado, com recursos dedicados e equipes especializadas, para proteger efetivamente os cidadãos.
O investimento em pesquisa e desenvolvimento de novas tecnologias de detecção também é fundamental, assim como a cooperação internacional entre autoridades de diferentes países.
Conclusão
A Coreia do Sul demonstrou que é possível enfrentar o desafio dos deepfakes pornográficos com eficácia. O trabalho do centro de Seul, combinado com a pioneira legislação de IA, estabelece um padrão internacional para o combate a essa forma de violência digital.
Para os leitores, a mensagem é clara: a tecnologia que cria deepfakes também pode ser usada para combatê-los. O futuro da proteção digital depende de investimentos em inteligência artificial ética, legislações atualizadas e equipes especializadas que coloquem o ser humano no centro das soluções.