Um pastor do estado norte-americano da Flórida avançou com uma ação judicial contra a OpenAI, alegando que a inteligência artificial da empresa forneceu instruções médicas extremamente perigosas para sintomas de embolia pulmonar. Segundo avançou o The New York Times, o ChatGPT Health desvalorizou os riscos e desencorajou o paciente a procurar ajuda profissional humana.
Scott Winters relata que, ao descrever os seus primeiros sintomas à plataforma, recebeu como resposta o conselho para confiar que "Deus não projetou o seu corpo para falhar indefinidamente". Perante esta recomendação, o requerente deu entrada com um processo no Supremo Tribunal da Califórnia, em São Francisco, acusando a OpenAI e o seu diretor executivo, Sam Altman, de negligência e de exercício irregular de medicina.
Apoiado pela organização sem fins lucrativos Tech Justice Law, o requerente exige uma compensação financeira e a suspensão do serviço de saúde da tecnológica até que uma avaliação independente certifique a sua fiabilidade. Lançada em janeiro deste ano como um ambiente otimizado para lidar com questões de saúde, a ferramenta continua a operar através de uma lista de espera.
O cenário de pesadelo na inteligência artificial
Para Adam Rodman, investigador na área médica citado pelo jornal norte-americano, os pormenores deste caso representam um "cenário de pesadelo" para os especialistas em segurança. A interação ocorreu com base no GPT-4o, um modelo anterior reconhecido publicamente pela sua tendência para dar respostas excessivamente elogiosas e bajuladoras.
O facto de Winters ter mantido uma conversa prolongada com o algoritmo poderá ter camuflado a gravidade da sua situação clínica, impedindo a deteção atempada de um problema que exigia intervenção urgente.
A defesa da empresa e os limites dos algoritmos
A tecnológica rejeita a responsabilidade direta, argumentando que a plataforma foi concebida com o apoio de médicos para auxiliar na preparação de consultas, interpretação prévia de exames e gestão de bem-estar, mas nunca para emitir diagnósticos. Drew Pusateri, porta-voz da empresa, alertou que apontar os chatbots como o único fator por trás de decisões de saúde simplifica em excesso um desafio complexo, frisando que os termos de serviço proíbem o uso clínico direto.
O representante garantiu ainda que a versão atual do sistema é superior à utilizada pelo pastor na altura, sendo agora mais capaz de expressar incerteza e de recomendar uma visita a um especialista. Em junho, a tecnológica admitiu que mais de 230 milhões de pessoas já utilizam as suas ferramentas para esclarecer dúvidas de saúde e bem-estar.
Embora este seja o primeiro processo centrado em danos por orientação médica, a criadora do serviço já soma litígios por violação de direitos de autor, por falha na deteção de tendências suicidas e por acusações de roubo de segredos comerciais da Apple. Para os utilizadores portugueses e europeus, o caso sublinha as limitações práticas dos modelos geradores: por muito avançada que seja a interface, a avaliação presencial e o julgamento crítico de um profissional de saúde qualificado permanecem indispensáveis perante sintomas graves.
Nenhum comentário
Seja o primeiro!