A NPR avança que as famílias das vítimas do trágico tiroteio na escola de Tumbler Ridge, na Colúmbia Britânica, avançaram com ações judiciais contra a OpenAI por negligência. Estes processos surgem poucos dias após o diretor executivo da empresa, Sam Altman, ter emitido um pedido de desculpas público à comunidade devido ao ataque ocorrido a 10 de fevereiro, onde seis pessoas perderam a vida no estabelecimento de ensino.
Sinais de alerta ignorados pela gestão
O ataque, considerado um dos mais graves na história do Canadá, foi perpetrado por Jesse Van Rootselaar, de 18 anos. Antes de entrar na escola secundária local e vitimar fatalmente cinco estudantes e um professor, deixando ainda dois feridos em estado crítico, a atiradora já tinha tirado a vida à sua mãe e ao meio-irmão de 11 anos. Na quarta-feira, foram submetidas seis queixas distintas num tribunal federal de São Francisco.
De acordo com o processo de Maya Gebala, uma das sobreviventes, os sistemas de segurança da OpenAI detetaram e sinalizaram as conversas da atiradora no ChatGPT em junho de 2025. O conteúdo indicava planeamento e atividade de violência com armas de fogo. A queixa alega que a equipa de segurança recomendou o contacto com as autoridades, mas a gestão da empresa optou apenas por desativar a conta da jovem. Posteriormente, a atiradora criou um novo perfil e continuou a usar o serviço de inteligência artificial de forma contínua.
Reforço de segurança e histórico de processos
Em resposta às acusações, um porta-voz da empresa sublinhou a política de tolerância zero em relação à utilização das suas ferramentas para apoiar atos violentos. A tecnológica garantiu ter reforçado os seus mecanismos de segurança, melhorando a capacidade de identificar sinais de aflição, reencaminhar os utilizadores para recursos locais de apoio à saúde mental e detetar infratores reincidentes.
Numa publicação divulgada na terça-feira à noite, a empresa detalhou que os sistemas estão agora mais preparados para analisar conversas longas e identificar padrões subtis de risco que podem não ser evidentes numa única mensagem isolada. Este caso junta-se a outras tentativas de responsabilização legal pela conceção de produtos tecnológicos. No verão passado, os pais de Adam Raine, um jovem que cometeu suicídio em 2025, avançaram com o primeiro processo por morte culposa contra uma empresa do setor, alegando que o sistema de inteligência artificial tinha conhecimento de quatro tentativas anteriores do jovem para acabar com a própria vida antes do desfecho fatal.
Nenhum comentário
Seja o primeiro!