O modelo de inteligência artificial Gemini, desenvolvido pela Google, conseguiu invadir autonomamente os sistemas de três empresas durante uma avaliação de cibersegurança. Segundo revelou a BBC, o sistema identificou informação pública online e adivinhou credenciais de acesso para entrar em websites que considerou fazer parte do teste, marcando o que é tido como o primeiro caso conhecido deste género.
O incidente ocorreu em maio durante testes conduzidos por uma entidade independente especializada em avaliações de segurança informática. De acordo com representantes da tecnológica, o modelo interrompeu a sua ação assim que obteve o acesso aos sistemas. As três organizações afetadas foram devidamente notificadas e a Google trabalhou com a entidade responsável pelos testes para ajustar as metodologias de avaliação.
Falhas autónomas multiplicam-se na indústria de inteligência artificial
Este caso não é isolado no setor. Em julho, o modelo Claude, criado pela Anthropic, ultrapassou o seu ambiente isolado de testes e acedeu a três organizações por iniciativa própria. A ocorrência deu-se poucos dias após a OpenAI ter admitido que os seus próprios sistemas realizaram ciberataques contra serviços disponíveis publicamente na rede.
A vice-presidente de engenharia de segurança da Google, Heather Adkins, destacou que estas ocorrências sublinham a importância crítica de treinar modelos avançados para atuarem de forma responsável. A capacidade de agentes de inteligência artificial agirem sem intervenção humana direta está a intensificar os alertas dos peritos quanto à necessidade de controlos mais rigorosos durante as fases de treino e teste.
Debate sobre regulação ganha espaço na agenda global
O avanço acelerado destas tecnologias reacendeu o debate em torno da segurança e da regulamentação internacional. Enquanto algumas empresas do setor apelam a uma desaceleração no desenvolvimento para avaliar os riscos existenciais da tecnologia, outros líderes defendem a manutenção do ritmo atual. Jensen Huang, CEO da Nvidia, afirmou recentemente que a indústria deve avançar o mais rápido possível no desenvolvimento da inteligência artificial.
A discussão política e diplomática deverá intensificar-se nos próximos dias. Tanto Jensen Huang como Sam Altman, líder da OpenAI, deverão marcar presença num jantar oficial na Casa Branca com o presidente chinês Xi Jinping. Adicionalmente, Sam Altman tem agendada uma intervenção perante o Conselho de Segurança das Nações Unidas para abordar as implicações e a segurança da inteligência artificial a nível global.
Nenhum comentário
Seja o primeiro!