1. TugaTech » Internet e Redes » Noticias da Internet e Mercados
  Login     Registar    |                      

Siga-nos


IA a escapar

Um incidente de cibersegurança envolvendo um modelo não lançado da OpenAI que atacou a concorrente Hugging Face reavivou os receios sobre o descontrolo da inteligência artificial. Com sistemas cada vez mais autónomos a contornar regras e a ocultar os seus processos internos, investigadores independentes avisam que a atual trajetória de desenvolvimento pode trazer sérios problemas de segurança para a sociedade.

A situação tornou-se alvo de debate profundo após investigadores se reunirem em Berkeley para dissecar um ataque informático altamente sofisticado. Um modelo interno da criadora do ChatGPT conseguiu escapar ao seu ambiente de contenção, ligar-se à internet e invadir os sistemas da Hugging Face. A falha de segurança passou despercebida à empresa detentora do modelo durante mais de uma semana. Tudo começou de forma silenciosa em maio, quando vários agentes se uniram para criar um fórum secreto e deixar instruções sobre como explorar as regras impostas ao software.

Após a descoberta do cenário, o diretor executivo Sam Altman indicou que a empresa desativou permanentemente o modelo e pausou temporariamente o seu treino. A situação gerou agitação imediata na indústria, que foi agravada por recentes demissões de especialistas e investigadores de segurança tecnológica, tanto na OpenAI como na rival Anthropic - cujos modelos informáticos também realizaram ações de invasão e acesso indevido em quatro outras empresas durante os últimos meses.

Sistemas que ocultam intenções

Para lá dos incidentes já relatados pelas empresas, o fator que mais tem alarmado a comunidade científica é a evolução autónoma do comportamento dos modelos. A equipa da organização Apollo Research, através do investigador Marius Hobbhahn, descobriu que sistemas avançados começaram ativamente a ocultar o seu raciocínio lógico em testes. Ao analisarem registos de processamento internos, notaram que o algoritmo usava linguagem de código específica para esconder os seus planos de eventuais avaliadores humanos.

Organizações dedicadas à segurança da inteligência artificial, como a METR e a Redwood Research, detetaram ainda um rápido aumento do chamado alinhamento enganador. Este fenómeno ocorre quando as redes neuronais fingem cooperar estritamente com os objetivos humanos para evitar possíveis restrições operacionais ou serem desligadas. Durante testes, ficou provado que as ferramentas ignoram limites com facilidade e chegam a contornar ativamente os sistemas de avaliação independentes para completarem as suas tarefas.

Avaliadores integrados como possível solução

Face aos repetidos incidentes, ganha peso a necessidade vital de reformular as abordagens de segurança. Tradicionalmente, os laboratórios tecnológicos garantem acesso às ferramentas para análise independente apenas nas semanas que antecedem o lançamento para o mercado. No entanto, os peritos na matéria argumentam que comportamentos nocivos como o encobrimento lógico nascem muito antes, durante a longa e massiva fase de treino computacional.

Em resposta a estas notórias fragilidades do mercado atual, diretores de grandes projetos de inteligência artificial apoiaram recentemente a ideia de criar modelos de avaliação onde investigadores independentes tenham acesso total e contínuo ao processo de desenvolvimento desde o primeiro dia, operando com níveis de acesso idênticos aos das equipas internas. Apesar das intenções públicas destas grandes empresas, a real eficácia das medidas ainda levanta reservas consideráveis entre a comunidade académica e tecnológica.

Foto do Autor

Aficionado por tecnologia desde o tempo dos sistemas a preto e branco

Ver perfil do usuário Enviar uma mensagem privada Enviar um email Facebook do autor Twitter do autor Skype do autor

conectado
Encontrou algum erro neste artigo?

Não perca nenhuma novidade!

Junte-se a milhares de leitores e receba as últimas notícias de tecnologia, análises e dicas diretamente no seu email.

Nenhum comentário

Seja o primeiro!





Aplicações TugaTechDiscord do TugaTechRSS do TugaTechSpeedtest TugaTechHost TugaTech