Uma investigação recente acendeu um novo alerta sobre a privacidade na era da Inteligência Artificial. Mais de 130.000 conversas com chatbots populares, incluindo o Claude, Grok, e ChatGPT, estão publicamente acessíveis e arquivadas na plataforma Internet Archive. A exposição sublinha como as interações dos utilizadores com estes sistemas podem tornar-se públicas se não houver cuidado com as definições de partilha.
A descoberta foi feita por um investigador, que utiliza o pseudónimo "dead1nfluence", e partilhada num artigo de blogue e posteriormente noticiada pelo 404 Media. O investigador conseguiu obter os URLs de partilha de conversas de várias plataformas de IA, como Grok, Mistral, Qwen, Claude e Copilot.
O perigo dos links de partilha e os dados sensíveis expostos
O problema reside na funcionalidade de partilha que muitos destes serviços oferecem. Ao gerar um link para partilhar uma conversa, muitos utilizadores podem não ter a noção de que este link é, por defeito, público e pode ser indexado por motores de busca ou arquivos da web, como o Internet Archive.
O investigador alerta que esta base de dados pode ser extremamente valiosa para atacantes. Na sua análise, "dead1nfluence" encontrou informações sensíveis expostas nas conversas, como chaves de API, que poderiam ser utilizadas por hackers para fins maliciosos.
“Embora estes fornecedores informem os seus utilizadores que os links partilhados são públicos para qualquer pessoa, penso que a maioria dos que usaram esta funcionalidade não esperaria que estes links pudessem ser encontrados por qualquer um”, escreveu o investigador.
Um problema que não é novo
Esta situação não é inédita. No final de julho, o Fast Company já tinha revelado que o Google estava a indexar conversas do ChatGPT que os utilizadores tinham tornado partilháveis. Em resposta, a OpenAI desativou temporariamente a funcionalidade de partilha.
Um CISO da OpenAI, Dane Stuckey, classificou a funcionalidade como "uma experiência de curta duração" que exigia um consentimento explícito do utilizador. Numa análise a um conjunto de quase 100.000 dessas conversas indexadas, partilhada pelo Digital Digging, foram encontrados textos de acordos de confidencialidade, discussões sobre contratos sigilosos e até pessoas a usar o ChatGPT para aconselhamento amoroso.
A reação das empresas de IA
Apesar de a OpenAI ter agido para que as suas ligações de partilha fossem removidas do Internet Archive, o mesmo não aconteceu com outras plataformas. As pesquisas por conversas do Grok, por exemplo, ainda devolvem resultados.
Contactada pelo 404 Media, a Anthropic, empresa responsável pelo Claude, afirmou que dá aos utilizadores o controlo sobre a partilha e que não partilha diretórios de conversas com motores de busca. A empresa acrescentou que "quando alguém partilha uma conversa, está a tornar esse conteúdo publicamente acessível e, como outro conteúdo público da web, pode ser arquivado por serviços de terceiros".
A Microsoft, que detém o Copilot, acusou a receção do pedido de comentário mas não forneceu uma resposta a tempo da publicação original.
Nenhum comentário
Seja o primeiro!