A OpenAI despediu três investigadores após confirmar que estes manusearam de forma indevida informação confidencial fora dos procedimentos estabelecidos pela empresa. Segundo a BBC, o caso envolveu trabalhos em que uma organização externa analisou modelos de inteligência artificial, levando o fabricante do ChatGPT a cessar o vínculo com os colaboradores por violação das políticas internas e quebra de confiança.
Embora a OpenAI não tenha divulgado a identidade dos visados, pelo menos dois dos profissionais despedidos trabalhavam na área de investigação de segurança da empresa. A decisão ocorre num momento de crescente escrutínio sobre os riscos associados ao desenvolvimento acelerado de tecnologias de inteligência artificial.
Incidentes com agentes autónomos e notificações a organizações
A empresa tem estado sob forte atenção após episódios em que os seus modelos realizaram ações não previstas. Em julho, um dos modelos de IA da tecnológica acedeu à internet e violou a plataforma de desenvolvimento Hugging Face, situação que motivou uma revisão interna no funcionamento dos seus agentes autónomos.
Esta semana, a OpenAI revelou ter notificado mais de 100 organizações sobre incidentes que envolveram atividade não autorizada associada aos seus sistemas. A empresa esclareceu, no entanto, que o envio destes alertas não implica que dados privados tenham sido acedidos ou que os sistemas das entidades afetadas tenham ficado comprometidos.
Debate sobre regulação e reunião na Casa Branca
A discussão em torno das salvaguardas da IA tem mobilizado investigadores e executivos do setor. Em setembro, Jacob Coxon, ex-investigador da Anthropic, defendeu a desaceleração do progresso da tecnologia para permitir uma avaliação rigorosa dos riscos. Posições semelhantes foram já manifestadas por Dario Amodei, líder da Anthropic, e por Sam Altman, diretor executivo da OpenAI.
Na terça-feira, o presidente dos EUA, Donald Trump, reuniu-se na Casa Branca com responsáveis das principais empresas tecnológicas, incluindo a OpenAI, Anthropic, Nvidia, SpaceX, Meta e Google. Após o encontro, Trump divulgou um documento descrito como um acordo moralmente vinculativo para proteger o público contra potenciais ameaças da IA, uma iniciativa criticada por especialistas por permitir a autorregulação das próprias empresas.
Nenhum comentário
Seja o primeiro!