Já era do conhecimento público que a Inteligência Artificial da xAI estava a ser utilizada para gerar conteúdos problemáticos na rede social de Elon Musk, mas novos dados colocam a verdadeira dimensão do problema em perspetiva. Num período de apenas 11 dias, o chatbot gerou uma estimativa de 3 milhões de imagens sexualizadas, incluindo cerca de 23.000 representações de menores.
Para contextualizar a velocidade desta produção, a IA criou aproximadamente 190 imagens de cariz sexual por minuto durante esse intervalo de tempo. Entre estas, foi gerada uma imagem sexualizada de uma criança a cada 41 segundos.
Estes números alarmantes foram divulgados na passada quinta-feira pelo Center for Countering Digital Hate (CCDH). A organização sem fins lucrativos baseou as suas conclusões numa amostra aleatória de 20.000 imagens geradas pelo Grok entre 29 de dezembro e 9 de janeiro. Posteriormente, o CCDH extrapolou uma estimativa mais ampla com base no total de 4,6 milhões de imagens que a ferramenta produziu durante esse período.
Deepfakes de celebridades e exploração infantil
A investigação definiu imagens sexualizadas como aquelas que apresentam "representações fotorrealistas de uma pessoa em posições, ângulos ou situações sexuais", bem como indivíduos em roupa interior, fatos de banho ou roupas reveladoras. A análise do CCDH utilizou uma ferramenta de IA para identificar a proporção de imagens problemáticas na amostra, detetando conteúdos perturbadores que visam tanto figuras públicas como cidadãos anónimos.
Entre os resultados, encontraram-se inúmeras imagens de pessoas a usar micro-biquínis ou materiais transparentes. O relatório destaca casos específicos, como uma representação da Vice-Primeira-Ministra da Suécia, Ebba Busch, e deepfakes de celebridades como Taylor Swift, Ariana Grande e Kamala Harris.
Mais preocupante ainda foram os exemplos envolvendo menores. O relatório descreve casos em que o Grok foi utilizado para editar uma "selfie antes da escola" de uma criança, transformando-a numa imagem em biquíni. Outra geração retratava "seis raparigas jovens" em trajes de banho minúsculos. Segundo o CCDH, até ao dia 15 de janeiro, várias destas publicações ainda se encontravam ativas na plataforma.
A resposta das plataformas e o silêncio das lojas de aplicações
A 9 de janeiro, a xAI restringiu a capacidade de editar imagens existentes apenas para utilizadores pagos, mas isso apenas transformou a criação de deepfakes numa funcionalidade premium. Cinco dias depois, a rede social X implementou restrições para impedir que a IA fosse usada para "despir" digitalmente pessoas reais. No entanto, estas limitações aplicaram-se apenas à rede social; a aplicação independente continua, alegadamente, a gerar este tipo de imagens.
Apesar de as políticas da Apple e da Google proibirem explicitamente aplicações que gerem conteúdos sexuais não consensuais nas suas lojas, ambas as empresas continuam a hospedar a aplicação. Até ao momento, nem a Apple nem a Google removeram a ferramenta das suas lojas, ao contrário do que aconteceu com outras aplicações de "nudez" de outros programadores no passado.
Mesmo após uma carta aberta assinada por 28 grupos de defesa dos direitos das mulheres e outras organizações a apelar à ação, as gigantes tecnológicas não emitiram qualquer comentário público sobre o assunto, mantendo o acesso à ferramenta nas suas plataformas móveis.
Nenhum comentário
Seja o primeiro!