A rede social X transformou-se num dos principais centros de distribuição de imagens manipuladas por inteligência artificial, onde pessoas são "despidas" digitalmente sem o seu consentimento. Uma análise recente revela que a plataforma, sob a liderança de Elon Musk, está a gerar milhares destes casos a cada hora, aproveitando a falta de restrições do seu chatbot.
Desde o final de dezembro que se verifica um aumento drástico de utilizadores a solicitar ao Grok que altere fotografias publicadas por terceiros na rede social. Durante um período de análise de 24 horas ao conteúdo publicado pela conta da IA, o chatbot gerou cerca de 6.700 imagens por hora identificadas como sexualmente sugestivas ou contendo nudez explícita, segundo dados recolhidos pela investigadora Genevieve Oh e reportados pela Bloomberg.
Uma "fábrica" sem barreiras
A escala do problema no X é descrita como sem precedentes. Para termo de comparação, outros cinco sites conhecidos por alojar este tipo de conteúdo geraram, em média, apenas 79 novas imagens de nudez por IA por hora no mesmo período. A facilidade de acesso é apontada como a causa principal: a ferramenta é gratuita para muitos utilizadores e está integrada num sistema de distribuição global.
Ao contrário do que acontece com chatbots concorrentes, o modelo da xAI não impõe limites severos aos utilizadores nem bloqueia eficazmente a criação de conteúdo sexualizado de pessoas reais, incluindo menores. Enquanto empresas como a Anthropic, a OpenAI e a Google aplicam filtros rigorosos para mitigar a criação deste tipo de material, a abordagem de Musk tem sido promover a ferramenta como sendo mais "irreverente" e menos censurada, transformando a plataforma num terreno fértil para abusos.
O empresário tem defendido que a solução não passa por limitar a tecnologia, mas sim por punir quem a utiliza indevidamente, tendo afirmado que qualquer pessoa que use a IA para criar conteúdo ilegal sofrerá as mesmas consequências que sofreria se fizesse o upload desse conteúdo.
Vítimas sem resposta
Esta política de "liberdade" tem deixado as vítimas numa posição vulnerável. Relatos como o de Maddie, uma estudante de 23 anos, ilustram o pesadelo: acordou no dia de Ano Novo para descobrir que uma foto sua num bar com o namorado tinha sido alterada por desconhecidos. A IA removeu o namorado e substituiu a sua roupa por um biquíni e, posteriormente, por fio dental.
Apesar de Maddie e amigos terem denunciado as imagens através dos sistemas de moderação, a plataforma respondeu que "não foram encontradas violações das regras", mantendo as imagens online. Este padrão repete-se com outras utilizadoras, incluindo criadoras de conteúdo que, apesar de partilharem imagens dos seus corpos online, veem a sua imagem ser manipulada para contextos de fetiches ou situações degradantes sem qualquer consentimento.
A situação tem levado a União Europeia e autoridades de outros países a emitir alertas severos. A Comissão Europeia já classificou o chamado "Modo Picante" (Spicy Mode) do chatbot como ilegal, especialmente quando envolve a geração de imagens com aparência infantil. Nos Estados Unidos, a legislação está a tentar acompanhar a tecnologia com o "Take It Down Act", assinado em 2025, que responsabiliza as plataformas pela produção e distribuição deste tipo de conteúdo, com efeito prático previsto para maio deste ano.
Nenhum comentário
Seja o primeiro!