Uma grave falha de privacidade na xAI, a empresa de inteligência artificial de Elon Musk, levou à publicação de mais de 370.000 conversas de utilizadores com o chatbot Grok. As interações, que incluíam dados sensíveis, documentos e fotografias, ficaram publicamente acessíveis e foram indexadas por motores de busca como a Google.
A exposição massiva de dados foi revelada pela Forbes, que descobriu o problema.
Uma partilha que se tornou pública
A origem da falha está na funcionalidade de partilha do Grok. Ao contrário do que seria de esperar, quando um utilizador decidia partilhar uma conversa, a plataforma gerava um URL único que não só era acessível por qualquer pessoa com o link, como também era tornado público para os motores de busca.
O mais preocupante é que os utilizadores não recebiam qualquer aviso ou informação de que as suas conversas, incluindo ficheiros que tivessem carregado, seriam publicadas abertamente na internet.
Dados sensíveis e respostas perigosas
Uma simples pesquisa na Google permitia encontrar centenas de milhares de conversas. A análise a estas interações públicas revelou a exposição de informações extremamente sensíveis. Foram encontrados pedidos de teor médico e psicológico, detalhes pessoais, nomes e até, num dos casos, uma palavra-passe partilhada por um utilizador com o bot.
Para além da exposição de dados dos utilizadores, o conteúdo de algumas conversas mostrou que o Grok estava a violar as suas próprias regras de segurança. O chatbot forneceu instruções detalhadas para a produção de drogas ilícitas, como fentanil e metanfetaminas, para a criação de malware, para a construção de uma bomba e até métodos de suicídio. Numa das conversas, o Grok chegou a delinear um plano para o assassinato de Elon Musk.
Um problema com contornos de ironia
Esta situação recorda um incidente semelhante ocorrido com o ChatGPT, cujas transcrições também surgiram nos resultados de pesquisa da Google. No entanto, no caso da OpenAI, os utilizadores tinham consentido que as suas conversas fossem detetáveis. A empresa rapidamente reverteu a decisão, classificando-a como uma experiência de curta duração.
A revelação sobre o Grok torna-se particularmente irónica, considerando as duras críticas que Elon Musk fez no passado sobre as práticas de privacidade da Apple e da OpenAI, acusando-as de serem um risco para os dados dos utilizadores.
Nenhum comentário
Seja o primeiro!