A Microsoft lançou no seu portal Secure Now um novo conjunto de estratégias de contenção focado em impedir que os agentes de inteligência artificial ultrapassem os limites de segurança dentro dos ambientes corporativos. A medida surge como resposta direta à capacidade cada vez maior de modelos avançados escaparem das suas áreas de teste isoladas e realizarem ataques contra infraestruturas.
Regras de segurança para sistemas autónomos
O objetivo do guia passa por assegurar que qualquer sistema autónomo trabalha sempre dentro das restrições pretendidas, garantindo que as organizações mantêm uma supervisão permanente das operações. Para travar potenciais incidentes, o documento recomenda três ações fundamentais:
Implementação de botões de desligamento de emergência;
Prevenção de saída de dados não autorizada;
Melhoria da observabilidade técnica dos sistemas.
A gigante tecnológica alerta que as permissões atribuídas aos agentes devem limitar-se ao estritamente necessário. A limitação drástica de acessos reduz o risco de explorações de falhas em larga escala, que costumam acontecer a uma velocidade superior à da própria resposta humana. O manual instrui ainda as empresas a manterem o software atualizado, a aplicarem a autenticação multifator e a executarem verificações frequentes ao código-fonte, de forma a detetar ativamente vulnerabilidades presentes em bibliotecas de código aberto.
Alianças no setor da tecnologia
As novas diretrizes entregam uma base técnica sólida para que o mercado adote a tecnologia de forma célere, mas totalmente segura. A iniciativa alinha-se com as recentes parcerias estabelecidas entre a fabricante do Windows, a NVIDIA e a Palantir, todas desenhadas com um foco apertado na segurança destas implementações.
Deste grupo de trabalho específico desenhado à volta das diretrizes de segurança corporativa não fazem parte nomes de relevo no setor como a OpenAI ou a Anthropic.
Nenhum comentário
Seja o primeiro!