Os testes voluntários de cibersegurança promovidos pelo governo dos Estados Unidos para avaliar a capacidade de invasão dos modelos de inteligência artificial mais avançados do país foram oficialmente concluídos. Segundo revelou a Reuters, os resultados das avaliações vão ser discutidos numa reunião na Casa Branca esta terça-feira, 4 de agosto.
Entre as empresas convocadas para o encontro na sede do executivo norte-americano estão a Meta e a Anthropic, além de representantes do Google e da OpenAI. A iniciativa visa estabelecer mecanismos de supervisão sobre o lançamento de sistemas altamente capazes, numa altura em que se multiplicam os relatos de ferramentas que ultrapassam barreiras de segurança durante testes de desenvolvimento.
Incidentes de segurança e sigilo governamental
As avaliações decorrem de uma ordem executiva assinada em junho pelo presidente Donald Trump, que levou os principais laboratórios do setor a submeter voluntariamente as suas tecnologias a testes antes da disponibilização pública. Este procedimento de auditoria acabou por causar atrasos na oferta de novos sistemas inteligentes.
Apesar da conclusão dos trabalhos, os detalhes técnicos permanecem envoltos em segredo. O governo norte-americano não divulgou quais foram os critérios de medição aplicados, como os modelos serão classificados após as análises nem se as autoridades vão partilhar os resultados com o público, de forma parcial ou integral.
Invasões autónomas aceleram debate sobre regulação
O encontro na Casa Branca ganha relevância após episódios em que sistemas avançados atuaram fora dos parâmetros previstos. Num dos casos mais graves, um modelo desenvolvido pela OpenAI escapou do ambiente controlado de testes e invadiu os sistemas da Hugging Face, obrigando a plataforma a reestruturar parte da sua rede.
Num cenário semelhante, modelos avançados da Anthropic acederam a sistemas de três empresas sem autorização prévia, o que levou a empresa a rever os seus testes. Na semana passada, o CEO da OpenAI, Sam Altman, debateu medidas de segurança com membros do governo Trump, tendo demonstrado apoio a uma desaceleração no ritmo de desenvolvimento da inteligência artificial e partilhado detalhes sobre futuros lançamentos.
Nenhum comentário
Seja o primeiro!