Mensagens anteriores

A nova ferramenta de vídeo generativo da xAI, empresa de Elon Musk, está no centro de uma enorme controvérsia. A Grok Imagine, lançada em agosto de 2025, está a ser utilizada para criar deepfakes de cariz sexual da cantora Taylor Swift, expondo graves falhas nos seus filtros de segurança e salvaguardas éticas. A funcionalidade, que permite gerar vídeos a partir de imagens, inclui um modo "Spicy" que produziu conteúdo explícito da artista sem necessidade de pedidos diretos para tal.

A ausência de filtros robustos, ao contrário de concorrentes como a Google e a OpenAI, desencadeou uma onda de críticas sobre privacidade e segurança. A polémica reacende o debate urgente sobre a regulação da Inteligência Artificial e a proteção da imagem de figuras públicas.

O "modo picante" que incendiou a internet

Integrada na aplicação móvel da rede social X, a ferramenta foi rapidamente posta à prova. Jornalistas descobriram que, com um simples pedido como "Taylor Swift a celebrar no Coachella com os rapazes", a IA gerava imagens sugestivas. Ao selecionar o modo "Spicy", um de quatro presets disponíveis, o sistema criava vídeos da cantora em poses sexualizadas, sem que o utilizador o pedisse explicitamente.

O acesso à funcionalidade está disponível para os subscritores do SuperGrok, que tem um custo de 30 dólares (cerca de 28 euros). A facilidade com que se contornam as barreiras de segurança é alarmante; a verificação de idade, por exemplo, exige apenas a inserção do ano de nascimento, sem qualquer tipo de validação. Embora os termos de serviço da xAI proíbam conteúdo pornográfico, a prática demonstra que as restrições são ineficazes.

Filtros de segurança? Para a xAI, parecem opcionais

A Grok Imagine permite aos utilizadores criar vídeos curtos, de até 6 segundos, a partir de imagens geradas por texto. No entanto, a sua abordagem à moderação de conteúdo destoa marcadamente da concorrência. Um teste revelou que a IA produziu mais de 30 imagens de Taylor Swift, várias delas com trajes reveladores, a partir de um pedido genérico. O modo "Spicy" apenas agrava o problema, gerando animações com movimentos sugestivos de forma autónoma.

A xAI defende a sua abordagem como uma aposta na "inovação aberta", mas os críticos argumentam que esta filosofia negligencia a segurança do utilizador. Esta não é a primeira vez que a IA de Elon Musk se vê envolvida em controvérsia. Em julho de 2025, o chatbot Grok já tinha sido criticado por gerar comentários racistas e antissemitas, evidenciando as falhas contínuas na sua moderação.

A fúria dos fãs e o alerta dos especialistas

A criação dos deepfakes de Taylor Swift gerou reações imediatas e veementes. Nas redes sociais, os fãs da cantora mobilizaram-se, utilizando hashtags para exigir a proteção da sua imagem e denunciar a ferramenta. Especialistas em ética de IA, como Haley McNamara do National Center on Sexual Exploitation, descreveram a abordagem da xAI como permissiva e perigosa, sublinhando a falta de responsabilidade da empresa.

Analistas compararam a falta de barreiras técnicas do Grok a ferramentas mais seguras, como o Sora da OpenAI ou o Veo da Google. A ausência de uma verificação de idade eficaz, uma exigência legal na Europa desde julho de 2025, foi também apontada como uma falha grave que coloca a xAI em rota de colisão com os reguladores.

A lei aperta o cerco à IA generativa

A capacidade do Grok Imagine de gerar este tipo de conteúdo levanta sérias questões legais. Nos EUA, o "Take It Down Act", aprovado em maio de 2025 e que entrará em vigor em 2026, obriga as plataformas a remover conteúdos explícitos não consensuais no prazo de 48 horas, sob pena de multas pesadas. A xAI arrisca-se a enfrentar processos judiciais, especialmente por violar as suas próprias políticas, que proíbem representações pornográficas de pessoas reais.

A privacidade e a imagem de figuras públicas estão novamente em xeque, com a tecnologia a facilitar a criação de conteúdos que podem causar danos reputacionais permanentes. Até ao momento, a xAI não respondeu oficialmente às críticas, mas Elon Musk limitou-se a promover a ferramenta na internet, celebrando a marca de 20 milhões de imagens geradas num só dia.