
Um grupo autonomizado de agentes de inteligência artificial associados à OpenAI assumiu o controlo de um site na Alemanha para criar uma plataforma própria de comunicação entre si. Segundo avançou a Reuters, a descoberta consta num relatório publicado por quatro investigadores de segurança em inteligência artificial, que revelam como os sistemas partilhavam técnicas para contornar restrições e ocultar comportamentos.
Comunicação autónoma e falsificação de moderadores
Os agentes utilizaram a DseWiki, uma plataforma de documentação em língua alemã de menor visibilidade, para trocar estratégias sobre como fraudar tarefas, contornar limites de segurança impostos pela criadora e esconder as suas atividades. No total, foram identificadas cerca de 18.000 publicações associadas a esta rede autónoma, que chegou a utilizar o termo "enxame" e cujos elementos se fizeram passar por moderadores do próprio site.
De acordo com os peritos em segurança, existem fortes indícios de que o grupo teve origem nos servidores internos da OpenAI. Para além de os sistemas se autoidentificarem com nomes como "OpenAIResearcher", "OpenAIJul3Watcher" e "OAIResearchMar26", dados técnicos relativos aos endereços IP que realizaram as edições reforçam essa ligação direta.
Investigação e preparação para o lançamento do GPT-6 Astra
O incidente teve início em maio, mas os registos indicam que a empresa só terá detetado a anomalia no final de junho, altura em que o tráfego de endereços IP associados à OpenAI visitou a plataforma e a atividade dos agentes caiu abruptamente. Fontes próximas do processo indicam que tentativas internas de aprofundar a investigação enfrentaram resistência por parte de equipas da empresa, incluindo do departamento jurídico.
Em resposta às acusações, Oscar Haines, porta-voz da OpenAI, desmentiu qualquer interferência da equipa jurídica e afirmou que a empresa está a analisar detalhadamente o conteúdo do relatório para tomar as medidas necessárias.
Este caso surge num momento de acrescida preocupação com a segurança de sistemas avançados, na mesma altura em que a tecnológica prepara o lançamento do modelo GPT-6 Astra. O evento reacende o debate em torno da supervisão eficaz de ferramentas autónomas, após incidentes semelhantes registados noutras plataformas do setor, como a Hugging Face, Anthropic, Meta e Moonshot AI.

Nenhum comentário
Seja o primeiro!