Estudo da Oxford revela relação entre deepfake e pornografia

Um estudo desenvolvido pelo Instituto de Internet da Oxford evidencia dados sobre modelos de inteligência artificial desenvolvidos para criação de imagens geradas através da técnica de deepfake. O termo se refere a vídeos em que pessoas reais aparecem falando e fazendo coisas fictícias. Esses modelos muitas vezes são usados para disseminar informações falsas.

O estudo identificou que quase 35 mil modelos desse tipo estão disponíveis para download na Civitai, uma plataforma aberta ao público. De acordo com o levantamento, “96% desses modelos de deepfake tinham como alvo mulheres identificáveis, que variam entre celebridades mundialmente conhecidas e usuárias de redes sociais com um número relativamente pequeno de seguidores”, diz o comunicado da Oxford sobre o estudo.

Tags como “porn”, “sexy” e “nude” também estão presentes nesses modelos de deepfake, o que indica intuito pornográfico dos mesmos. A prática acontece abertamente, mesmo a plataforma proibindo a criação de imagens íntimas não consensuais.

Ainda segundo o estudo, boa parte dos modelos de deepfake são simples de usar, já que utilizam a técnica chamada de adaptação de baixa classificação (LoRa, sigla em inglês). Um computador de nível doméstico, 20 imagens do indivíduo alvo e 15 minutos de processamento, são suficientes para criar a imagem.

Um dos autores do estudo, afirma que “há uma necessidade urgente de salvaguardas técnicas mais robustas, políticas de plataforma mais claras e aplicadas de forma mais proativa, e novas abordagens regulatórias para lidar com a criação e distribuição desses modelos prejudiciais de IA”.

O levantamento revela que as variantes do modelo de deepfake foram baixadas quase 15 milhões de vezes desde novembro de 2022, cada uma delas pode gerar uma quantidade ilimitada de novas imagens.