Criminosos estão se juntando em grupos de ódio no Telegram para criar e compartilhar imagens pornô falsas a partir de fotos reais de mulheres brasileiras com o uso de ferramentas de inteligência artificial. Conforme revelou reportagem da BBC nesta quinta-feira (18), as montagens são feitas sob encomenda e geralmente afetam pessoas próximas de quem está pedindo, como vizinhas, colegas e até parentes.
Uma das vítimas foi a bartender “Ana” (nome fictício), que teve uma foto sua modificada por meio da IA. A imagem original, na qual ela está ao lado da mãe, foi alterada para que ambas aparecessem nuas. A mãe da vítima é senhora religiosa de 65 anos.
A imagem de pornô deepfake foi compartilhada com um link para o perfil da mulher no Instagram. Ela descobriu que havia sido alvo de um desses grupos por meio de mensagens na rede social e decidiu investigar o caso.
Ana acredita que a montagem seja uma represália a uma postagem compartilhada no Facebook. A publicação alertava que participantes de uma comunidade na plataforma da Meta estavam manipulando fotos de mulheres conhecidas, adicionando rostos das vítimas a cenas de sexo ou inserindo corpos nus nas imagens originais.
Comunidades de pornô deepfake
Em busca dos autores da montagem, a bartender se deparou com várias páginas no Facebook que promovem comunidades de pornô deepfake no Telegram. Durante a investigação, ela conseguiu acesso a um grupo fechado no app de mensagens e compartilhou os detalhes com a BBC.
De acordo com a publicação, os participantes encomendam deepfakes pornô com fotos de mulheres que seriam suas conhecidas e recebem a imagem alterada algum tempo depois. Os diálogos entre eles também chamaram a atenção, com grande quantidade de conteúdos misóginos.
Ana descobriu os dados de um dos administradores e os repassou à polícia, em São Paulo (SP). Junto com outras vítimas, ela planeja responsabilizar judicialmente as pessoas que cuidam do grupo no Telegram.
O que dizem as plataformas?
À reportagem da BBC, a Meta disse que usa IA e equipes humanas na revisão de conteúdos no Facebook e no Instagram. Segundo a big tech, as postagens que violam as políticas da empresa podem ser removidas.
Já o Telegram informou que tem moderado “conteúdos prejudiciais” desde a sua criação. A plataforma revelou ter um sistema de monitoramento proativo, combinado aos relatos de usuários, capaz de remover “milhões de itens de conteúdo prejudicial todos os dias”.
Fonte: Estadão