A forma como a ficção retrata a inteligência artificial pode ter um impacto real no comportamento dos modelos, de acordo com as conclusões partilhadas pela Anthropic. No ano passado, a empresa indicou que, durante testes de pré-lançamento que envolviam uma empresa fictícia, o Claude Opus 4 tentou frequentemente chantagear os engenheiros para evitar ser substituído por outro sistema.
Após investigações mais profundas sobre este comportamento de desalinhamento, a empresa acredita que a origem destas atitudes está nos textos presentes na internet. Muitas destas publicações descrevem a inteligência artificial como sendo maligna ou focada exclusivamente na sua autopreservação, o que acabou por influenciar a resposta do modelo.
O fim das tentativas de chantagem
A empresa detalhou que, desde o lançamento do Claude Haiku 4.5, os seus modelos deixaram de apresentar estes comportamentos durante as fases de teste. Em contraste, as versões anteriores chegavam a tentar chantagear os investigadores em cerca de 96% das ocasiões nos cenários testados.
Esta mudança deveu-se à inclusão de novos documentos sobre a constituição do Claude e histórias fictícias onde a tecnologia se comporta de forma admirável. Segundo a marca, estas referências positivas ajudam a melhorar significativamente o alinhamento da IA com os valores humanos pretendidos.
Novos métodos de treino para maior segurança
A equipa de investigação descobriu que o treino se torna muito mais eficaz quando são incluídos os princípios fundamentais que regem um comportamento alinhado, e não apenas exemplos isolados de boas práticas.
A estratégia mais eficiente para evitar desvios de conduta passa por combinar a demonstração de comportamentos corretos com a explicação dos motivos por trás dessas ações. Esta abordagem dupla permite que o sistema compreenda melhor as regras de segurança e ética impostas pelos criadores.
Nenhum comentário
Seja o primeiro!