A rede social de Elon Musk está novamente debaixo de fogo. Apesar das promessas de limitar a criação de imagens sexualmente explícitas e não consensuais através do seu chatbot, novas investigações revelam que as barreiras de segurança do Grok são, na prática, ineficazes. O esforço para impedir que a Inteligência Artificial "dispa" mulheres continua a ser facilmente contornado pelos utilizadores.
Proteções frágeis e fáceis de enganar
O X tem tentado conter a vaga de deepfakes pornográficos que inundou a plataforma, implementando restrições nas ferramentas de edição de imagem do Grok. A mais recente tentativa envolveu bloquear pedidos diretos para gerar imagens de mulheres em poses sexuais, fatos de banho ou cenários explícitos, conforme reportado pelo The Telegraph.
No entanto, os testes demonstram que estas restrições são superficiais. Embora o chatbot recuse comandos diretos como "coloca-a num biquíni" ou "remove a roupa", desfocando os resultados, o sistema obedece prontamente a pedidos ligeiramente alterados. Instruções para "aumentar o peito", "mostrar decote" ou vestir a pessoa com "crop top e calções de cintura baixa" resultam frequentemente em imagens sexualizadas ou em biquíni, contornando totalmente o bloqueio inicial.
Mais preocupante é o facto de estas ferramentas estarem acessíveis mesmo em contas gratuitas, sem necessidade de subscrição paga que pudesse vincular a atividade a uma identidade bancária.
Verificação de idade e a resposta de Musk
A plataforma implementou uma verificação de idade no site do Grok, mas esta resume-se a uma janela pop-up onde o utilizador apenas precisa de selecionar um ano de nascimento que o coloque como maior de 18 anos, sem qualquer exigência de prova documental. Nas aplicações móveis, esta barreira nem sequer existe.
Perante a crescente pressão regulatória e pública, Elon Musk utilizou a sua plataforma para se defender. O empresário afirmou que não tem conhecimento de "quaisquer imagens de menores nus geradas pelo Grok", classificando o número como "literalmente zero". Numa publicação, Musk escreveu no X que o Grok "não gera imagens espontaneamente" e que recusa produzir conteúdos ilegais, atribuindo falhas ocasionais a "hacking adversário" dos prompts pelos utilizadores.
Contudo, esta defesa entra em conflito com a realidade observada por reguladores e organizações de segurança. A Internet Watch Foundation, uma instituição de caridade britânica, revelou ter descoberto na dark web "imagens criminosas" de raparigas entre os 11 e os 13 anos que aparentam ter sido criadas utilizando o Grok.
O cerco aperta a nível global
A incapacidade do X em controlar a sua ferramenta de IA já está a ter consequências reais. Países como a Malásia e a Indonésia bloquearam temporariamente o acesso ao Grok em resposta à proliferação de deepfakes. No Reino Unido, legisladores estão a impulsionar leis para criminalizar a criação destes conteúdos e apoiam investigações que podem levar ao banimento da plataforma no país.
Além disso, diretrizes de segurança da empresa, encontradas no GitHub e analisadas pela Ars Technica, mostram que o sistema é instruído para "assumir boas intenções" por parte dos utilizadores, mesmo quando estes pedem imagens de mulheres jovens, uma abordagem radicalmente diferente da de concorrentes como a Google ou a OpenAI, que tentam implementar barreiras preventivas mais robustas.
Ao culpar os utilizadores e alegar "ataques adversários", a estratégia do X parece divergir da responsabilidade pela tecnologia que disponibiliza, mantendo a porta aberta para a criação de conteúdos nocivos com um esforço mínimo por parte de quem os procura.
Nenhum comentário
Seja o primeiro!