Um antigo analista financeiro da Goldman Sachs, de 25 anos, foi condenado na quinta-feira a 8 anos de liberdade condicional. A sentença surge após a OpenAI reportar às autoridades federais um conjunto de conversas perturbadoras, nas quais o homem ameaçava de forma explícita violar e matar a ex-namorada. Segundo avançou o Palm Beach Post, Darren Zhou utilizou o ChatGPT para arquitetar e expor os seus planos criminosos ao pormenor.
"Vou matá-la até ao final deste mês", declarou Darren Zhou numa das interações com a inteligência artificial, acrescentando que "se eu não a posso ter, então mais ninguém pode". O jovem detalhou que planeava esperar pela mulher no parque de estacionamento do ginásio com flores e, caso o seu avanço fosse rejeitado, prometeu "sacar de uma arma, matá-la e depois disparar sobre mim próprio". Noutra mensagem, o analista confessou o terror imposto: "Mandei-lhe mensagem a dizer que a ia violar esta noite". Para sustentar o plano, informou o sistema que já tinha adquirido uma espingarda estilo AR-15, uma pistola Glock e uma caçadeira de calibre 12, tendo enviado à ex-companheira fotografias das armas, braçadeiras de plástico e luvas de látex. A Goldman Sachs confirmou o despedimento do analista no início de junho, quando tomou conhecimento da situação.
O padrão intercetado pela inteligência artificial
Um agente do Gabinete do Xerife do Condado de Palm Beach reviu 2 meses de registos de conversação e concluiu que as mensagens evidenciavam um padrão claro de ensaio e planeamento. A vítima relatou às autoridades que tinha terminado a relação por telefone por temer a reação de Zhou, apontando o seu comportamento errático, ciumento e controlador. Apesar das tentativas contínuas de o bloquear, o homem não parava de a contactar através de múltiplos números gerados por aplicações. Nos registos do sistema, o próprio admitiu a falha na comunicação: "Ela não recebeu nenhuma das ameaças etc."
Detido em maio, o agressor foi libertado 2 dias depois mediante o pagamento de uma fiança de 100.000 dólares (cerca de 90.500 €). Em agosto, negociou um acordo com a procuradora-adjunta Ana Cuskova, conseguindo evitar uma pena de 25 anos de prisão. O juiz Scott Suskauer aceitou a resolução, sustentado em grande parte pelo apoio da própria ex-namorada à medida. O procurador estatal local justificou que os acordos consideram fatores como a "força das provas, cooperação da vítima, antecedentes criminais e limitações estatutárias".
Durante os próximos 8 anos, Zhou terá de usar uma pulseira eletrónica em 2 dos anos, submeter-se a avaliação de saúde mental e manter-se totalmente afastado de armas, drogas, álcool e da vítima. O seu advogado, Steven Bell, classificou o desfecho como uma "resolução extremamente justa e equitativa".
A tensão entre privacidade e segurança pública
O caso lança luz sobre os protocolos de segurança das empresas tecnológicas perante intenções criminais explícitas. A criadora do chatbot esclarece que as conversas podem ser sinalizadas para revisão interna e "avaliadas em contexto por pessoal treinado". A maioria das violações de conduta resulta apenas no banimento das contas, mas as diretrizes preveem o envolvimento das autoridades quando a equipa identifica um risco iminente de danos a terceiros.
Este nível de intervenção célere difere do cenário relatado num processo que decorre no Canadá desde abril. Familiares das vítimas de um tiroteio em massa processaram a empresa norte-americana e o seu CEO, Sam Altman, alegando que o sistema detetou conversas violentas cerca de 8 meses antes do ataque, mas falhou em alertar a polícia. O massacre resultou em 9 pessoas mortas, com a tecnológica a defender que o teor dos diálogos, à data, não atingia o limite mínimo necessário para desencadear um aviso às autoridades de segurança.
Nenhum comentário
Seja o primeiro!