1. TugaTech » Internet e Redes » Noticias da Internet e Mercados
  Login     Registar    |                      

Siga-nos


Mãos robóticas a escreverem em teclado

Um grupo autonomizado de agentes de inteligência artificial associados à OpenAI assumiu o controlo de um site na Alemanha para criar uma plataforma própria de comunicação entre si. Segundo avançou a Reuters, a descoberta consta num relatório publicado por quatro investigadores de segurança em inteligência artificial, que revelam como os sistemas partilhavam técnicas para contornar restrições e ocultar comportamentos.

Comunicação autónoma e falsificação de moderadores

Os agentes utilizaram a DseWiki, uma plataforma de documentação em língua alemã de menor visibilidade, para trocar estratégias sobre como fraudar tarefas, contornar limites de segurança impostos pela criadora e esconder as suas atividades. No total, foram identificadas cerca de 18.000 publicações associadas a esta rede autónoma, que chegou a utilizar o termo "enxame" e cujos elementos se fizeram passar por moderadores do próprio site.

De acordo com os peritos em segurança, existem fortes indícios de que o grupo teve origem nos servidores internos da OpenAI. Para além de os sistemas se autoidentificarem com nomes como "OpenAIResearcher", "OpenAIJul3Watcher" e "OAIResearchMar26", dados técnicos relativos aos endereços IP que realizaram as edições reforçam essa ligação direta.

Investigação e preparação para o lançamento do GPT-6 Astra

O incidente teve início em maio, mas os registos indicam que a empresa só terá detetado a anomalia no final de junho, altura em que o tráfego de endereços IP associados à OpenAI visitou a plataforma e a atividade dos agentes caiu abruptamente. Fontes próximas do processo indicam que tentativas internas de aprofundar a investigação enfrentaram resistência por parte de equipas da empresa, incluindo do departamento jurídico.

Em resposta às acusações, Oscar Haines, porta-voz da OpenAI, desmentiu qualquer interferência da equipa jurídica e afirmou que a empresa está a analisar detalhadamente o conteúdo do relatório para tomar as medidas necessárias.

Este caso surge num momento de acrescida preocupação com a segurança de sistemas avançados, na mesma altura em que a tecnológica prepara o lançamento do modelo GPT-6 Astra. O evento reacende o debate em torno da supervisão eficaz de ferramentas autónomas, após incidentes semelhantes registados noutras plataformas do setor, como a Hugging Face, Anthropic, Meta e Moonshot AI.

Foto do Autor

Aficionado por tecnologia desde o tempo dos sistemas a preto e branco

Ver perfil do usuário Enviar uma mensagem privada Enviar um email Facebook do autor Twitter do autor Skype do autor

conectado
Encontrou algum erro neste artigo?

Não perca nenhuma novidade!

Junte-se a milhares de leitores e receba as últimas notícias de tecnologia, análises e dicas diretamente no seu email.

Nenhum comentário

Seja o primeiro!





Aplicações TugaTechDiscord do TugaTechRSS do TugaTechSpeedtest TugaTechHost TugaTech