A Promotoria do Distrito de Manhattan, localizada em Nova York, informou nesta segunda-feira (14) a remoção de 12 sites especializados na criação de vídeos com deepfakes de cunho sexual. Essas plataformas eram utilizadas para gerar conteúdos que expunham pessoas famosas sem a devida autorização.
A técnica conhecida como deepfake consiste em um processo que permite a inserção do rosto de um indivíduo em fotografias ou vídeos manipulados por meio de inteligência artificial. Para a elaboração desse material editado, é necessária a utilização de uma imagem real, que é posteriormente modificada através de diversos aplicativos desenvolvidos para esse fim.
De acordo com as informações fornecidas pelas autoridades, os indivíduos investigados utilizaram ferramentas de inteligência artificial para produzir materiais adulterados que envolviam o rosto de 1.200 pessoas reais.
O grupo de vítimas é composto, em sua grande maioria, por mulheres com alta visibilidade pública. Entre as afetadas estão atrizes, figuras da política, atletas, musicistas, influenciadoras digitais e mulheres que atuam como defensoras de causas sociais.
O esquema criminoso operava por meio do compartilhamento de fotos e vídeos hiper-realistas, que utilizavam versões criadas por IA para simular pessoas praticando atos sexuais. A investigação revelou que os sites faziam a propaganda explícita da oferta de “pornografia deepfake de famosas”, funcionando como canais para a publicação e a venda desses e de outros registros íntimos não consensuais.
O promotor distrital de Manhattan, Alvin Bragg Jr., destacou que as “empresas lucram com a publicação e a disseminação de imagens e vídeos sexuais não consensuais, gerados ou não por inteligência artificial”.
O promotor enfatizou ainda a gravidade do crime, declarando que “Essas violações hediondas de privacidade perseguem as vítimas em suas carreiras e vidas pessoais, causando um impacto imenso em seu bem-estar emocional e mental”.
As investigações sobre estas e outras páginas semelhantes continuam em andamento. A Promotoria do Distrito de Manhattan afirmou que manterá o monitoramento constante dos sites para evitar que as plataformas retornem ao ar utilizando nomes diferentes.
Com informações do G1