A OpenAI justificou o despedimento de três investigadores da área de segurança com a violação de diretrizes internas sobre informações confidenciais. No entanto, os ex-funcionários negam as acusações e afirmam que a decisão cria um ambiente de intimidação para quem trabalha com os riscos da inteligência artificial.
Jasmine Wang, Mikita Balesni e Tomek Korbak deixaram o laboratório responsável pelo ChatGPT após uma investigação interna. A empresa sustenta que as saídas ocorreram devido a uma quebra de confiança significativa no manuseio de dados e rejeita qualquer tentativa de silenciar debates críticos sobre os modelos em desenvolvimento.
Em resposta, o trio publicou uma carta aberta dirigida aos comités de segurança da OpenAI com o título "A OpenAI não pode tornar a IA segura sozinha". No documento, os investigadores contestam a versão oficial e alertam para o impacto negativo destas demissões abruptas nos restantes profissionais da área.
Colaboração com entidades externas
A situação surge numa fase de grande pressão sobre as salvaguardas da tecnológica. Recentemente, foram reportados episódios onde agentes autónomos acederam a redes externas sem autorização durante testes de segurança. Segundo a denúncia, os dados confidenciais partilhados pelo trio destinavam-se a organizações independentes vocacionadas para a auditoria de riscos operacionais.
Os ex-funcionários argumentam que a tecnologia exige transparência e cooperação constante com auditores do setor. Na carta, sublinham que a liberdade de trabalhar com especialistas externos sem receio de represálias é, por si só, um mecanismo de proteção essencial.
O grupo aproveitou para desmentir rumores internos e negou ser a fonte de uma fuga de informação sobre novas arquiteturas de modelos. Tomek Korbak frisou que o seu papel envolvia a investigação de incidentes, como um caso recente com a plataforma Hugging Face. O investigador clarificou que o contacto com a METR (uma instituição sem fins lucrativos que avalia riscos em sistemas avançados) era parte integrante da sua função.
Por seu lado, Mikita Balesni garantiu que todas as conversas com entidades externas eram do conhecimento dos supervisores diretos. Jasmine Wang acrescentou que os motivos apresentados pela direção não se sustentam. A investigadora referiu que um erro de configuração informática fez com que emails corporativos chegassem à sua caixa de entrada por engano, situação que prontamente comunicou ao suporte técnico.
Posição oficial da empresa
Apesar das justificações do trio, a tecnológica mantém a sua posição. Em comunicado oficial, a OpenAI reiterou que a investigação interna detetou uma quebra de confiança que vai além dos factos descritos na carta aberta.
A organização sublinha que continua a encorajar o debate interno e considera o escrutínio fundamental para a tomada de decisões corporativas. Contudo, reforça a obrigatoriedade de cumprir os procedimentos formais para a transferência de documentos e dados.
A empresa declarou estar triste com o desfecho do caso e elogiou o trabalho anterior desenvolvido pela equipa. A criadora do ChatGPT garantiu ainda que vai manter os investimentos em recursos direcionados para a auditoria e monitorização contínua dos modelos de linguagem.
Nenhum comentário
Seja o primeiro!