O governo canadiano revelou que o CEO da OpenAI, Sam Altman, concordou em implementar medidas imediatas para reforçar os protocolos de segurança da empresa. Esta decisão surge na sequência de um trágico tiroteio numa escola secundária, onde a plataforma detetou comportamentos suspeitos do autor do crime e suspendeu a sua conta, mas não emitiu qualquer alerta às autoridades. Os detalhes deste acordo foram avançados pelo Wall Street Journal.
As novas diretrizes focam-se na cooperação direta com as forças de segurança. A empresa comprometeu-se a notificar a polícia sempre que detetar um uso potencialmente perigoso do ChatGPT. Evan Solomon, Ministro da Inteligência Artificial do Canadá, confirmou ter realizado uma reunião virtual com Altman, onde solicitou várias ações que o executivo aceitou prontamente.
Um compromisso com a segurança pública
Durante o encontro, foi discutida a integração de especialistas canadianos nas áreas da privacidade, saúde mental e forças da autoridade. O objetivo passa por criar um processo robusto capaz de identificar e rever casos de alto risco que envolvam utilizadores no país. Altman também prometeu entregar um relatório detalhado sobre como estes novos protocolos vão funcionar na prática.
Além das medidas de intervenção, Solomon pediu à tecnológica que aplique estas regras de forma retroativa. Isto implicaria a revisão de incidentes suspeitos anteriores que tenham ocorrido na plataforma, com o fornecimento de dados às autoridades sempre que necessário. No entanto, ainda não há uma confirmação oficial sobre se a empresa acedeu a esta exigência específica.
Novas medidas para evitar contas duplicadas
Este não é o primeiro passo da organização para tentar retificar a situação no país. Ann O’Leary, vice-presidente de política global da empresa, já tinha indicado que os sistemas de deteção seriam ajustados para impedir que utilizadores banidos regressem à plataforma.
O alegado atirador tinha visto a sua conta original bloqueada devido a potenciais avisos de violência no mundo real. Apesar dessa restrição inicial imposta pela plataforma, o suspeito conseguiu contornar o sistema de verificação e criar um novo perfil para continuar a utilizar os serviços da inteligência artificial.
Nenhum comentário
Seja o primeiro!