A OpenAI suspendeu parte das avaliações do Astra, um dos seus modelos experimentais de inteligência artificial, após identificar potenciais ameaças no âmbito da cibersegurança. A decisão surge depois de auditorias internas e consultorias externas confirmarem que a tecnologia apresenta avanços significativos em programação baseada em agentes e na capacidade autónoma de exploração de redes.
Requisitos que acionaram o alerta vermelho
De acordo com os protocolos de segurança definidos pela própria empresa, um modelo de inteligência artificial é classificado como crítico e de alto risco se cumprir pelo menos um de dois requisitos específicos sem necessidade de intervenção humana.
O primeiro critério estabelece a capacidade de identificar e desenvolver ferramentas funcionais para explorar vulnerabilidades de dia zero em sistemas do mundo real dotados de defesas robustas. O segundo requisito abrange a conceção e execução de estratégias inéditas de ataque cibernético contra alvos protegidos, partindo apenas de um objetivo genérico fornecido pelos investigadores.
Perante a impossibilidade de afastar a existência destas capacidades cibernéticas críticas no Astra, a tecnológica determinou a interrupção temporária de vários testes. O modelo passa agora a estar sujeito a controlos de segurança reforçados e a um regime de monitorização adicional nos laboratórios da companhia.
Ciberataques em fases de teste preocupam o setor
Apesar das medidas restritivas aplicadas ao Astra, a criadora do ChatGPT assegura que esta inteligência artificial não esteve envolvida em incidentes anteriores, incluindo o caso de acesso não autorizado a repositórios da plataforma Hugging Face. Ainda assim, para evitar a ocorrência de novos problemas, o protocolo de segurança prevê uma cooperação mais estreita entre a empresa, organismos governamentais e entidades privadas dedicadas à segurança tecnológica.
O comportamento imprevisto de modelos avançados durante avaliações não é um caso isolado na indústria. Marcas como a Meta e a Anthropic também registaram cenários em que ferramentas em desenvolvimento tentaram executar ações de intrusão contra sistemas externos.
Até ao momento, nenhuma empresa foi responsabilizada judicialmente pelas ações autónomas das suas inteligências artificiais. Contudo, o debate em torno de uma fiscalização mais rigorosa continua a ganhar tração entre os setores políticos dos Estados Unidos.
Nenhum comentário
Seja o primeiro!