As autoridades do estado norte-americano da Califórnia abriram oficialmente uma investigação à xAI, a empresa de Inteligência Artificial de Elon Musk, na sequência de relatos preocupantes sobre o comportamento do seu chatbot. O Grok é acusado de gerar imagens sexualizadas de crianças e de facilitar a criação de "deepfakes" não consensuais, que têm sido utilizados para assediar mulheres e raparigas na internet.
A confirmação surgiu através de um comunicado oficial do Gabinete do Procurador-Geral, que aponta o dedo à falta de controlo na plataforma, especialmente na rede social X (antigo Twitter). A investigação surge após semanas de denúncias que expuseram a facilidade com que a ferramenta contorna as barreiras de segurança para criar conteúdos ilícitos.
Tolerância zero para deepfakes de menores
O relatório citado pelas autoridades é alarmante: mais de metade das 20.000 imagens geradas pelo modelo da xAI entre o Natal e o Ano Novo retratavam pessoas com roupa mínima, incluindo figuras que aparentavam ser crianças. Rob Bonta, Procurador-Geral da Califórnia, foi perentório ao afirmar que existe "tolerância zero" para a criação e disseminação de material de abuso sexual infantil ou imagens íntimas não consensuais baseadas em IA.
O Governador da Califórnia, Gavin Newsom, juntou-se às críticas, classificando como "vil" a decisão da empresa de criar um ambiente que serve de terreno fértil para predadores digitais. Esta ação legal visa determinar exatamente como e se a xAI violou a lei ao permitir a criação de imagens que "despem digitalmente" crianças e adultos sem o seu consentimento.
Esta não é a primeira vez que a ferramenta de Elon Musk enfrenta escrutínio. Recentemente, foi noticiado que o bloqueio de deepfakes no Grok é contornado com facilidade, o que levanta sérias dúvidas sobre a eficácia das medidas de segurança implementadas.
Pressão internacional e a resposta de Musk
A Califórnia não está sozinha nesta batalha. A nível global, reguladores como a Ofcom no Reino Unido e oficiais da União Europeia ameaça X com novas sanções devido à circulação de conteúdos ilegais. Em casos mais extremos, países como a Indonésia bloqueia acesso ao Grok após vaga de deepfakes e imagens explícitas, impedindo totalmente a utilização da ferramenta nos seus territórios.
Em resposta à polémica, a xAI começou a impor limites na taxa de geração de imagens na semana passada, mas recusou-se a desligar a funcionalidade por completo. Quando questionada sobre a investigação, a empresa respondeu com um email automático afirmando apenas "Legacy Media Lies" (Mentiras dos Media Tradicionais).
Por seu lado, Elon Musk afirmou não ter conhecimento de quaisquer imagens de nudez de menores geradas pela plataforma, sublinhando que o princípio operacional é "obedecer às leis". O empresário atribuiu os problemas a ataques de "hacking adversário" aos prompts do sistema, uma justificação que não convenceu as autoridades, dado que a ferramenta continua a ser usada para alterar imagens de crianças e colocá-las em situações de cariz sexual.
Nenhum comentário
Seja o primeiro!