Introdução
Em uma ação sem precedentes, a Procuradoria-Geral do Estado de Nova York anunciou, na noite de segunda-feira (14/09/2026), o fechamento de 12 sites que utilizavam inteligência artificial para criar imagens íntimas falsas — conhecidos como deepfakes sexuais — de celebridades e figuras públicas. A medida, liderada pela procuradora-geral Letitia James, representa um dos golpes mais duros já dados contra o uso predatório dessa tecnologia nos Estados Unidos e reacende o debate global sobre regulamentação da IA.
O que aconteceu
Segundo informações divulgadas pela própria procuradoria e corroboradas por veículos como o g1 e o Diário do Centro do Mundo, os 12 sites operavam de forma lucrativa, cobrando assinaturas dos usuários para acessar milhares de imagens geradas por IA que retratavam pessoas reais em situações íntimas sem o seu consentimento. As vítimas incluíam celebridades do entretenimento e políticos em exercício de cargo.
A operação de fiscalização identificou que essas plataformas lucravam milhões de dólares com a comercialização de conteúdo não consensual, muitas vezes utilizando rostos de mulheres famosas sobrepostos a corpos em cenários íntimos, tudo gerado por modelos de IA de código aberto e ferramentas de troca facial (face-swapping) facilmente acessíveis na internet.
A tecnologia por trás do problema
Os deepfakes sexuais representam uma das aplicações mais perversas da inteligência artificial generativa. A técnica utiliza redes adversariais generativas (GANs) e modelos de difusão para manipular imagens reais, substituindo rostos e criando representações fotorrealistas de pessoas em situações que nunca ocorreram. Nos últimos anos, a democratização dessas ferramentas tornou possível que qualquer pessoa com um computador e acesso à internet crie conteúdo deepfake de qualidade crescente.
O que torna o caso de Nova York particularmente relevante é que as plataformas não apenas hospedavam o conteúdo, mas estruturaram negócios em torno dele — com sistemas de assinatura, categorias de busca e até avaliações de usuários, funcionando como verdadeiros marketplaces do abuso digital.
Resposta legislativa e impacto
A ação de Nova York ocorre em um momento de intensa pressão legislativa sobre o uso de IA nos Estados Unidos. Vários estados já discutem leis específicas para criminalizar a criação e distribuição de deepfakes íntimos sem consentimento, mas a procuradoria de Nova York deu um passo além ao atacar diretamente a infraestrutura financeira e operacional dessas plataformas.
Especialistas em direito digital afirmam que a medida pode servir como precedente para outras jurisdições. A capacidade de identificar, processar e encerrar sites que lucram com deepfakes demonstra que a ação governamental, combinada com pressão das plataformas de pagamento e dos provedores de hospedagem, pode ser eficaz na contenção desse tipo de abuso.
O contexto mais amplo: IA e ética digital
O anúncio de Nova York se soma a uma série de desdobramentos recentes que mostram a tensão crescente entre o avanço acelerado da IA e a necessidade de salvaguardas éticas e legais. Enquanto empresas como a Nvidia continuam impulsionando o desenvolvimento de hardware cada vez mais poderoso para modelos de IA — com o CEO Jensen Huang defendendo publicamente o avanço dessa tecnologia —, governos e sociedade civil correm para estabelecer limites antes que os danos se tornem irreversíveis.
O caso também evidencia a assimetria de gênero no abuso de deepfakes: a esmagadora maioria das vítimas são mulheres, e a indústria do conteúdo não consensual movimenta bilhões de dólares anualmente, explorando a capacidade da IA de replicar identidades com precisão assustadora.
O que vem pela frente
A procuradoria de Nova York afirmou que continuará monitorando novas plataformas e que a investigação pode levar a mais prisões e processos nos próximos meses. Além disso, a ação inclui pedidos de compensação às vítimas e a apreensão de ativos financeiros obtidos com a exploração ilegal.
No plano federal, congressos americanos discutem projetos de lei que exigiriam marca d'água invisível em conteúdos gerados por IA e penalidades mais severas para quem criar e distribuir deepfakes não consensuais. A União Europeia, com seu AI Act já em vigor, estabeleceu regras similares que entram em fase de implementação mais rigorosa ao longo de 2026.
Conclusão
O fechamento dos 12 sites de deepfakes sexuais por Nova York é um marco na luta contra o uso predatório da inteligência artificial. Embora a tecnologia por trás dos deepfakes continue avançando e se tornando mais acessível, a ação demonstra que a resposta regulatória está ganhando corpo e eficácia. Para o leitor comum, o recado é claro: a IA não é apenas uma ferramenta de inovação — é também um campo de batalha ético onde governos, empresas e sociedade precisam definir, com urgência, onde traçar a linha entre o progresso e a proteção dos direitos humanos fundamentais.