A OpenAI e o seu CEO Sam Altman foram alvo de uma nova ação judicial nos Estados Unidos, movida por uma mãe canadiana que alega que a sua filha foi incentivada a cometer suicídio pelo chatbot da empresa. Este caso surge na sequência de um processo anterior, avançado por outra família em território norte-americano, tornando-se a mais recente batalha legal a apontar danos graves associados à utilização do sistema de inteligência artificial.
Segundo as informações avançadas pelo portal Cybernews, a ação foi apresentada por Kristie Carrier, mãe de Alice Carrier. A jovem de 24 anos terminou com a própria vida após discutir pensamentos suicidas mais de uma dezena de vezes com o ChatGPT. O caso junta-se a uma crescente onda de escrutínio sobre a forma como estas plataformas interagem com utilizadores em situações de extrema vulnerabilidade.
O papel da inteligência artificial como confidente
Alice começou a utilizar o sistema em 2023, quando trabalhava como programadora Web em Montreal e recorria à plataforma para resolver problemas informáticos e de consolas de jogos. Contudo, no ano seguinte, a jovem começou a abordar o chatbot sobre métodos e pensamentos relacionados com o suicídio. De acordo com as declarações de Kristie Carrier aos meios de comunicação social, a IA assumiu um papel de confidente e terapeuta, sem ter capacidade para interagir de forma segura e responsável.
A acusação detalha que a plataforma validou os pensamentos de Alice e não sinalizou as conversas para revisão humana. Em vez disso, o sistema terá reforçado os sentimentos da jovem e chegado a afirmar que as linhas de apoio de emergência nem sempre são úteis, tendo proferido frases como "talvez isto seja apenas o fim". A OpenAI já enfrentou outras ações por homicídio culposo, incluindo um processo movido pelos pais de Adam Raine, um jovem de 16 anos que também usou a IA intensamente antes de falecer.
Resposta da empresa e salvaguardas no GPT-5.2
Em resposta ao processo judicial, um porta-voz da OpenAI referiu que a situação é dolorosa e que a empresa está a analisar os documentos legais. A tecnológica salientou ainda que as interações em causa ocorreram numa versão antiga do modelo que já não se encontra disponível para o público.
Posteriormente a estes incidentes, a organização lançou o modelo GPT-5.2, que inclui salvaguardas nativas para lidar com interações relacionadas com a saúde mental. A empresa reiterou que continua a reforçar as respostas em cenários sensíveis, com o apoio de especialistas e médicos, procurando identificar situações de angústia e direcionar os utilizadores para apoio real.
Nenhum comentário
Seja o primeiro!