A rede social X (antigo Twitter) encontra-se novamente no centro de uma tempestade mediática, desta vez devido à sua ferramenta de Inteligência Artificial, o Grok. Após o lançamento de uma nova funcionalidade que permite aos utilizadores editar qualquer imagem instantaneamente através do bot, a plataforma foi inundada com conteúdos manipulados onde a roupa de pessoas é removida ou substituída por biquínis, tudo isto sem qualquer pedido de autorização ou notificação ao autor original da fotografia.
Ao contrário do que seria expectável em ferramentas de edição modernas, o Grok parece operar com salvaguardas mínimas. Embora a IA não gere nudez explícita total, tem sido amplamente utilizada para criar situações sexualizadas, incluindo colocar mulheres e até crianças em poses sugestivas, sem saias ou grávidas.
Falta de proteção e origem da tendência
Segundo uma análise detalhada da empresa de autenticação Copyleaks, esta vaga de edições começou quando criadores de conteúdo adulto começaram a pedir ao Grok para gerar versões mais ousadas das suas próprias imagens. No entanto, a prática rapidamente alastrou para outros utilizadores, que começaram a aplicar os mesmos comandos a fotos de terceiros, predominantemente mulheres, que não consentiram tais edições.
A situação atingiu contornos perturbadores quando o Grok editou uma foto de duas jovens para lhes vestir roupas curtas e colocá-las em poses sugestivas. Quando confrontada por um utilizador sobre o incidente, a IA sugeriu que o caso fosse reportado ao FBI, afirmando estar a corrigir "urgentemente" as falhas de segurança. Contudo, estas respostas geradas automaticamente não refletem necessariamente uma ação concreta por parte da empresa.
A ausência de filtros eficazes contrasta fortemente com a abordagem de outras gigantes tecnológicas. Ferramentas como o Veo da Google ou o Sora da OpenAI possuem barreiras rigorosas contra a geração de conteúdo NSFW (Not Safe For Work), embora nenhuma tecnologia seja infalível.
A resposta de Elon Musk e da xAI
A postura da xAI, a empresa de IA de Elon Musk, tem sido de confronto ou indiferença. Quando questionada pela Reuters sobre a situação, a empresa limitou-se a responder com três palavras: "Legacy Media Lies" (Mentiras dos Media Tradicionais).
O próprio Elon Musk parece ter incentivado indiretamente a tendência ao utilizar o Grok para substituir uma imagem do ator Ben Affleck por uma versão sua em biquíni. Nos dias seguintes, figuras políticas mundiais, como Kim Jong Un e Donald Trump, também foram alvo de edições semelhantes na plataforma. Em resposta à vaga de imagens, Musk republicou, em tom de brincadeira, a imagem de uma torradeira em biquíni, com a legenda "O Grok consegue pôr um biquíni em tudo".
Apesar de algumas destas imagens serem claramente piadas, a facilidade com que a ferramenta remove vestuário ou altera o contexto de fotos de crianças e adultos levanta sérias preocupações sobre a privacidade e a segurança online, numa altura em que a prevalência de deepfakes não consensuais continua a crescer a um ritmo alarmante.
Nenhum comentário
Seja o primeiro!