O ecossistema de inteligência artificial de Elon Musk está no centro de uma polémica grave e de grande escala nos Estados Unidos. Uma ação popular (class action), alargada recentemente em tribunal, acusa a xAI e a rede social X não só de desenvolverem ferramentas automatizadas facilitadoras de abusos, mas também de protegerem predadores sexuais ao obstruírem investigações policiais.
De acordo com o documento judicial, o modelo de inteligência artificial Grok tem sido utilizado para a criação massiva de material de exploração infantil (CSAM). O caso ganhou contornos trágicos com o relato de uma das vítimas, identificada como Jane Doe 4, cujo padrasto utilizou uma única fotografia da menor, captada quando esta tinha 11 anos, para gerar mais de 7.000 imagens e vídeos sexualmente explícitos através da plataforma.
Obstrução à justiça e falhas na segurança
A acusação aponta que os sistemas de segurança da xAI falharam consecutivamente, permitindo pedidos explícitos de violência e incesto. Os alertas internos só terão disparado quando o utilizador inseriu um termo relacionado com violação coletiva. Esse pedido originou um aviso automático ao National Center for Missing and Exploited Children (NCMEC), que prontamente alertou as autoridades.
No entanto, o processo alega que a empresa de Elon Musk recusou cooperar com os investigadores durante semanas. Apesar das obrigações legais que exigem a partilha de dados de localização e endereços IP em casos de exploração de menores, a xAI ter-se-á omitido de enviar as informações críticas necessárias para identificar o criminoso, atrasando a intervenção policial. O indivíduo acabou por ser detido após a apreensão dos seus dispositivos, vindo a cometer suicídio dois dias após ser libertado sob fiança.
Os escritórios de advogados responsáveis pela ação coletiva sublinham que este comportamento reflete um padrão financeiro que prioriza o lucro em detrimento da segurança. Dados do início de 2026 revelados pelo NCMEC indicam que 90% dos relatórios automáticos submetidos pela xAI não continham dados acionáveis, uma vez que a empresa omitia os dados de rede dos utilizadores e as próprias imagens geradas por inteligência artificial.
Stability AI arrastada para a batalha judicial
A queixa foi igualmente alterada para incluir a Stability AI como ré no processo. Os advogados argumentam que os modelos de código aberto da empresa servem de fundação para aplicações de terceiros conhecidas como "nudify", utilizadas para despir pessoas digitalmente. Investigações subsequentes revelaram que os suspeitos utilizavam ferramentas ligadas ao ecossistema Stable Diffusion para refinar os conteúdos gerados originalmente no Grok.
Um relatório técnico recente estima que a família de modelos da Stability AI é o principal motor por detrás das ferramentas de nudez algorítmica na internet, representando 42,7% das imagens deste género em circulação. Em resposta, um porta-voz da Stability AI garantiu que a empresa mantém um compromisso rigoroso contra a disseminação de CSAM e que colabora ativamente com entidades de proteção à infância, rejeitando qualquer acusação de negligência.
Impacto e o apelo das vítimas
Elon Musk já negou publicamente que o Grok tenha sido utilizado para produzir este tipo de material, mas investigadores apontam que as salvaguardas permissivas da plataforma têm causado danos a dezenas de milhares de menores. Atualmente, a única ação concreta da xAI terá sido a cobrança financeira pelo acesso à funcionalidade de manipulação de imagens, o que significa que a tecnológica estará a lucrar diretamente com a atividade.
O processo visa agora representar duas classes de vítimas a nível nacional nos Estados Unidos: uma focada nos afetados pelas gerações do Grok e outra destinada aos lesados por aplicações baseadas nos modelos da Stability AI. Perante a urgência do cenário, o NCMEC registou um aumento acentuado de denúncias associadas à inteligência artificial generativa, com mais de 1,5 milhões de relatórios efetuados apenas no último ano.
Nenhum comentário
Seja o primeiro!