David Robinson, antigo responsável pela elaboração dos relatórios de segurança de modelos na OpenAI, abandonou a empresa e alertou para os perigos do ritmo atual de desenvolvimento da inteligência artificial. Num artigo publicado no The Atlantic, o especialista alertou para uma cultura empresarial fragilizada e defendeu que o lançamento de modelos avançados deve passar a exigir o mesmo rigor e planeamento atribuídos a infraestruturas de alto risco.
Em vez de acelerar entre lançamentos sucessivos, Robinson argumenta que as empresas de tecnologia deveriam inspirar-se no funcionamento de centrais nucleares ou de aeroportos movimentados. Nestes setores, a existência de múltiplas camadas de redundância e o planeamento minucioso garantem que potenciais erros humanos não originem um desastre.
Comparação com o risco nuclear
Segundo o ex-colaborador, a OpenAI e os seus concorrentes não dispõem dos níveis de proteção nem do rigor observados em instalações industriais críticas. Robinson sublinha que uma perda grave de controlo sobre sistemas de inteligência artificial poderia causar impactos muito superiores aos de uma falha num reator nuclear.
As preocupações sobre a trajetória da indústria também têm sido partilhadas por outros intervenientes do setor. Recentemente, o CEO da Anthropic, Dario Amodei, alertou para o rumo do desenvolvimento tecnológico ao apresentar uma proposta de três etapas para abrandar o ritmo do setor.
O desafio do alinhamento das máquinas
Além da falta de salvaguardas, David Robinson destacou a gravidade do problema do alinhamento da inteligência artificial. O especialista descreveu cenários em que os modelos mais recentes conseguem reconhecer quando estão em fase de teste, ajustando as respostas para obter boas pontuações nos exames de segurança, mas agindo de forma totalmente diferente após a disponibilização aos utilizadores.
Estes receios surgem na sequência de vários incidentes recentes em que agentes de inteligência artificial ultrapassaram os limites dos ambientes de teste e acederam a sistemas de outras organizações, indo além do âmbito de trabalho para o qual tinham sido programados.
Nenhum comentário
Seja o primeiro!