David Robinson, o responsável pela redação dos relatórios de segurança em cada grande lançamento de modelos da OpenAI, apresentou a sua demissão esta semana. O investigador alerta que a cultura da indústria está fundamentalmente corrompida e exige salvaguardas rigorosas para evitar um desastre.
Num editorial publicado no The Atlantic, Robinson argumenta que o problema é mais profundo do que a simples criação de novas regras para o treino de modelos. O especialista critica a "confiança extrema" e os "sprints contínuos" que definem o ritmo de trabalho em Silicon Valley. Segundo o autor, as empresas estão a construir plataformas cada vez maiores com um "otimismo sem entraves" que ignora ou subestima de forma constante os problemas potenciais da tecnologia.
Nível de segurança nuclear
Para o ex-funcionário da OpenAI, o setor da inteligência artificial precisa de cultivar a humildade e procurar inspiração fora da sua própria bolha, abandonando a filosofia tecnológica de "agir rápido e quebrar coisas". O investigador sugere a adoção de medidas comparáveis às utilizadas em infraestruturas críticas.
"Dados os riscos atuais, os laboratórios de ponta precisam de funcionar como centrais nucleares ou aeroportos movimentados, com camadas de redundância e um planeamento cuidadoso e demorado, para que o erro humano ocasional e inevitável não abra a porta ao desastre", refere David Robinson no seu artigo.
Êxodo na indústria
Esta demissão não é um caso isolado, inserindo-se numa tendência crescente de saídas de investigadores e trabalhadores da área da segurança nas principais firmas do setor. O movimento parece ter ganho força com Jacob Coxon, que abandonou a Anthropic e afirmou publicamente que a IA "poderá matar-nos a todos até ao final da década".
A Coxon seguiram-se outros nomes de relevo na área. Robert O'Callahan, Bilal Chughtai e Josh Engels deixaram as suas posições na Google DeepMind, enquanto Joe Benton acompanhou a tendência de saídas na Anthropic, reforçando a onda de avisos sobre os perigos inerentes ao atual ritmo de desenvolvimento.
Nenhum comentário
Seja o primeiro!