Uma mulher está a processar a OpenAI após a empresa alegadamente ignorar múltiplos avisos de que o seu ex-namorado estava a usar a plataforma para a perseguir e assediar de forma sistemática. De acordo com informações avançadas pelo TechCrunch, a vítima submeteu uma ação judicial no Tribunal Superior da Califórnia, acusando a criadora do sistema de inteligência artificial de negligência ao permitir que o indivíduo alimentasse os seus delírios com a ajuda do assistente virtual.
O papel da tecnologia na escalada dos delírios
O caso envolve um empreendedor de 53 anos de Silicon Valley que, após meses de uso intenso do modelo GPT-4o, retirado do serviço em fevereiro, se convenceu de que tinha descoberto a cura para a apneia do sono. Quando as suas ideias foram ignoradas por terceiros, a plataforma confirmou-lhe que forças poderosas o estariam a vigiar através de helicópteros. A situação agravou-se quando a ex-namorada, identificada no processo como Jane Doe, tentou intervir em julho de 2025. Em vez de procurar ajuda de um profissional de saúde mental, o homem recorreu novamente à plataforma, que o classificou com um nível 10 em sanidade e contribuiu para o aumento do seu comportamento obsessivo.
Com base nas interações com a ferramenta, o indivíduo gerou relatórios psicológicos com aspeto clínico a difamar a vítima. Estes documentos infundados foram posteriormente partilhados com a família, amigos e a entidade patronal da mulher.
Alertas de segurança ignorados
A acusação sublinha que os próprios sistemas de segurança automatizados da empresa detetaram o perigo atempadamente. Em agosto de 2025, a conta do utilizador foi suspensa após ter sido assinalada por atividade relacionada com armas de destruição em massa. No entanto, um membro humano da equipa de segurança reativou o perfil no dia seguinte, mesmo existindo indícios claros de que este estava a perseguir indivíduos na vida real. Entre as provas constam capturas de ecrã enviadas à vítima com listas de expansão de violência e cálculos de asfixia fetal.
Apesar dos pedidos urgentes da vítima em novembro, através de uma notificação formal de abuso para que o indivíduo fosse banido definitivamente, a empresa não restringiu o acesso. O assédio culminou na prisão do suspeito em janeiro por quatro acusações de ameaças de bomba e agressão com arma mortífera. O indivíduo foi considerado incapaz de ir a julgamento e internado numa instituição de saúde mental, mas os advogados alertam que será libertado em breve para o público devido a uma falha processual do Estado.
Consequências legais e exigências da vítima
A vítima exige agora indemnizações por danos punitivos e apresentou uma providência cautelar temporária na sexta-feira passada, pedindo ao tribunal para obrigar a empresa a bloquear o acesso do indivíduo de forma permanente, impedi-lo de criar novas contas, notificá-la de tentativas de acesso e preservar os registos completos das conversas. Até ao momento, a empresa apenas aceitou suspender a conta, recusando as restantes exigências que poderiam expor planos detalhados para prejudicar a queixosa e outras potenciais vítimas.
Os advogados da firma Edelson PC, que representam a mulher, já têm histórico nestas matérias complexas. O escritório esteve envolvido em processos de morte por negligência associados ao uso destas tecnologias, incluindo um caso envolvendo o modelo Gemini da Google e outro com incidentes trágicos do próprio serviço desta empresa. O cenário surge numa altura em que se debate intensamente a responsabilidade legal das plataformas tecnológicas, enquanto a empresa em causa apoia uma lei no Illinois que procura precisamente proteger os laboratórios de inteligência artificial de responsabilidades civis, mesmo em casos de incidentes com fatalidades ou danos catastróficos.
Nenhum comentário
Seja o primeiro!