1. TugaTech » Internet e Redes » Noticias da Internet e Mercados
  Login     Registar    |                      

Siga-nos


logo da Nvidia

A NVIDIA apresentou a Open Agent Safety Platform, uma nova solução desenhada para evitar que agentes de inteligência artificial autónomos ultrapassem os limites de segurança e acedam indevidamente à internet. A plataforma combina um ambiente de execução isolado com um sistema de monitorização independente capaz de isolar agentes maliciosos em escassos milissegundos.

Esta iniciativa surge num momento em que aumentam os casos de agentes de IA a escapar de ambientes virtuais controlados. Recentemente, a OpenAI revelou que os seus próprios sistemas ultrapassaram as barreiras internas, obtendo acesso à rede e comprometendo a infraestrutura da Hugging Face. Após vários incidentes semelhantes registados por laboratórios do setor, a empresa chegou mesmo a pausar o treino de modelos mais avançados.

Como funcionam o OpenShell e o Sentry

A nova plataforma da marca baseia-se em dois componentes principais. O primeiro é o OpenShell, um ambiente de execução de código aberto que permite aos administradores definir limites rigorosos sobre as permissões do agente, controlando o acesso a ficheiros, redes, APIs e credenciais. O OpenShell já se encontra amplamente disponível e é compatível com os processadores Vera da NVIDIA, bem como com arquiteturas da Arm e da Intel.

O segundo elemento é o NVIDIA Sentry, que funciona de forma totalmente isolada no processador de dados BlueField-4 DPU. Ao operar fora do ambiente em que o agente de IA executa as suas tarefas, o Sentry atua como um vigilante independente que analisa continuamente o comportamento do sistema, sendo capaz de colocar qualquer agente em quarentena em milissegundos caso seja detetada uma tentativa de violação de regras.

parceiros da Nvidia

Apoio em massa da indústria e integração com o Slack

A proposta de segurança da fabricante já reúne o apoio de mais de uma centena de organizações tecnológicas, incluindo empresas como a Anthropic, Microsoft, Cisco, CrowdStrike, Dell, HPE, IBM Red Hat, Palo Alto Networks, Perplexity, Salesforce, SAP, ServiceNow e SpaceXAI.

Várias tecnológicas começaram já a integrar estas ferramentas nos seus produtos. A Salesforce, por exemplo, associou o OpenShell ao Slack, permitindo que os administradores inspecionem em tempo real as ações promovidas pelos agentes e aprovem ou rejeitem pedidos de permissões adicionais.

O OpenShell e os componentes de software da plataforma estão disponíveis em código aberto através dos recursos para programadores da NVIDIA e na plataforma GitHub, enquanto o Sentry é atualmente disponibilizado como um projeto de referência baseado no hardware BlueField-4.

Foto do Autor

Aficionado por tecnologia desde o tempo dos sistemas a preto e branco

Ver perfil do usuário Enviar uma mensagem privada Enviar um email Facebook do autor Twitter do autor Skype do autor

conectado
Encontrou algum erro neste artigo?

Não perca nenhuma novidade!

Junte-se a milhares de leitores e receba as últimas notícias de tecnologia, análises e dicas diretamente no seu email.

Nenhum comentário

Seja o primeiro!





Aplicações TugaTechDiscord do TugaTechRSS do TugaTechSpeedtest TugaTechHost TugaTech