As barreiras de segurança implementadas pelas gigantes tecnológicas para impedir o uso malicioso dos seus modelos de inteligência artificial estão a gerar um efeito secundário indesejado. Segundo detalhou o TechCrunch, estas restrições estão a bloquear ativamente o trabalho de investigadores legítimos de cibersegurança e especialistas em defesa de redes.
O governo dos Estados Unidos chegou a aplicar restrições de controlo de exportação aos modelos Mythos e Fable da Anthropic em junho, motivado por relatos de possíveis falhas nessas proteções. Estas medidas foram posteriormente suavizadas, com o Fable 5 a regressar ao acesso geral a 1 de julho, e o Mythos 5 a ficar disponível apenas para organizações norte-americanas previamente avaliadas.
Para tentarem colmatar o problema, tanto a criadora do Claude como a OpenAI criaram programas de acesso exclusivo para investigadores, através do Cyber Verification Program e do Trusted Access for Cyber. Contudo, profissionais do setor garantem que a abordagem destas empresas continua a ser desadequada e inconsistente.
Ferramenta de defesa tratada como arma
O obstáculo central reside na dualidade da própria investigação de código. Chris Anley, cientista-chefe da NCC Group, explica que pedir a um modelo para tentar explorar uma falha de software é um passo crítico para confirmar se existe realmente uma vulnerabilidade que precise de correção. Anley compara a inteligência artificial a um martelo: é impossível construir uma casa sem ele, assumindo-se em simultâneo como uma ferramenta essencial e uma arma.
Mark Dowd, investigador veterano no mercado de falhas zero-day (desconhecidas dos fabricantes), confessou desconforto perante a ideia de ver grandes empresas privadas a tomarem decisões arbitrárias sobre o que é ou não seguro neste setor. Na mesma linha, Paolo Stagno, diretor de tecnologia da Crowdfense, critica a postura das tecnológicas, afirmando que tratam os clientes de segurança como crianças que precisam de supervisão constante.
Para especialistas como Giuseppe Cali, os bloqueios têm menor impacto, uma vez que utiliza a tecnologia apenas para a engenharia inversa inicial, preferindo assumir o controlo manual da descoberta de vulnerabilidades. No entanto, um investigador anónimo de uma fabricante de componentes para telemóveis revelou que as ferramentas perdem qualquer utilidade prática para a sua equipa, uma vez que os modelos interrompem o funcionamento assim que detetam comandos relacionados com segurança informática.
Fuga para alternativas de código aberto
A frustração contínua com as respostas excessivamente controladas dos modelos comerciais ocidentais está a forçar uma mudança tática nas auditorias. Chris Thompson, líder da RemoteThreat e fundador da Offensive AI Con, salienta que os peritos perdem demasiado tempo a tentar contornar os filtros das plataformas em vez de se concentrarem no seu trabalho fulcral.
Como consequência direta, muitos investigadores estão a recorrer a alternativas sem restrições de uso, como os modelos chineses de código aberto da família GLM. Estes sistemas podem ser executados localmente nos computadores das equipas, garantindo total privacidade e eliminando o risco de expor dados de vulnerabilidades críticas através da partilha com servidores remotos.
Thompson alerta para as implicações globais desta dinâmica. Na sua perspetiva, aproxima-se uma vaga de ciberataques a uma escala e velocidade sem precedentes, e a limitação de recursos impostas aos analistas legítimos ameaça colocar as equipas de defesa em desvantagem perante os criminosos informáticos.
Nenhum comentário
Seja o primeiro!