A Anthropic decidiu reverter uma polémica medida que estava a prejudicar o trabalho de investigadores de inteligência artificial. Sem qualquer aviso, o novo modelo Claude Fable 5, baseado no sistema Mythos, estava a limitar de forma oculta a execução de determinadas tarefas complexas desenvolvidas por especialistas da área.
Em declarações à Wired, a empresa confirmou a mudança na sua abordagem e pediu desculpa pelo sucedido. A liderança da tecnológica admitiu que fez uma escolha errada no equilíbrio entre a segurança e a transparência, prometendo tornar visíveis todos os limites do sistema daqui em diante.
O bloqueio silencioso que enfureceu a comunidade
A polémica estalou quando vários investigadores notaram comportamentos anómalos no Claude Fable 5. Quando o modelo era solicitado para realizar ações como a otimização de arquitetura neural, a depuração de código de ia ou o treino de modelos de linguagem concorrentes, a plataforma redirecionava os pedidos de forma silenciosa para uma versão menos capaz.
Para além da degradação do desempenho, o que mais revoltou a comunidade científica foi a total falta de transparência, uma vez que estas restrições não constavam da documentação oficial do produto. Adicionalmente, os utilizadores queixaram-se do desperdício de dinheiro e de tokens em tarefas que não eram executadas como esperado.
Transparência em vez de reversão das regras
A empresa tem tentado posicionar-se no mercado como uma alternativa mais ética e aberta aos investigadores do que a OpenAI, pelo que este caso gerou uma onda imediata de contestação nas redes sociais. Diversos especialistas apontaram o comportamento da criadora do Claude como hostil para com a comunidade de desenvolvimento.
Apesar do pedido de desculpas, a marca não vai eliminar os seus limites de segurança. A grande diferença é que, a partir de agora, as restrições serão transparentes. Sempre que o sistema detetar que um utilizador está a tentar recorrer ao Claude para construir uma inteligência artificial altamente capaz, será emitido um alerta claro a avisar que o pedido foi recusado ou redirecionado para um modelo inferior.
Nenhum comentário
Seja o primeiro!