A empresa norte-americana Anthropic alertou que os seus sistemas já são responsáveis por gerar a grande maioria do seu próprio código, apontando para a proximidade de uma auto-melhoria recursiva. De acordo com o aviso partilhado no site oficial, a inteligência artificial será capaz de conceber e desenvolver o seu sucessor de forma totalmente autónoma nos próximos anos. Perante este cenário, a tecnológica sugere uma pausa temporária no desenvolvimento destas ferramentas avançadas para que a sociedade e a investigação consigam acompanhar o ritmo da evolução.
O domínio do código gerado por máquinas
Os dados internos revelam um crescimento acentuado na delegação de tarefas aos próprios sistemas de inteligência artificial. Atualmente, mais de 80% do código que a tecnológica incorpora na sua base de código foi criado pelo Claude. Este panorama contrasta fortemente com o registado em fevereiro de 2025, altura em que a percentagem de participação era inferior a 10%. A publicação, assinada pelo cofundador Jack Clark e pela diretora Marina Favaro, indica que os agentes inteligentes poderão treinar-se sozinhos à medida que a capacidade computacional aumenta.
Os riscos da auto-melhoria e a necessidade de uma pausa
Embora este avanço possa ser benéfico para setores como a ciência e a saúde, a organização salienta que a situação aumenta consideravelmente os riscos de os humanos perderem o controlo sobre as máquinas. Caso os sistemas se tornem totalmente capazes de produzir os seus sucessores, as formas de garantir a supervisão e moldar o comportamento da tecnologia tornam-se muito mais importantes. A proposta passa por estabelecer um abrandamento global através do The Anthropic Institute, criando mecanismos de verificação para garantir que todos os laboratórios bem financiados interrompem os trabalhos em simultâneo, evitando favorecer agentes mal-intencionados.
Nenhum comentário
Seja o primeiro!