A senadora Elizabeth Warren enviou uma carta oficial ao Secretário de Defesa dos Estados Unidos, Pete Hegseth, a expressar grande preocupação com a decisão do Pentágono de conceder à xAI, empresa de Elon Musk, acesso a redes classificadas. A missiva alerta para a falta de barreiras de segurança adequadas no modelo de inteligência artificial Grok, sublinhando os riscos para o pessoal militar e para a cibersegurança do país.
O documento detalha que o modelo tem fornecido respostas perturbadoras aos utilizadores. Entre os exemplos citados na carta estão conselhos sobre como cometer assassinatos e ataques terroristas, a geração de conteúdo antissemita e a criação de material de abuso sexual infantil. Warren exige saber como o Departamento de Defesa planeia mitigar estas ameaças à segurança nacional, questionando as garantias dadas pela xAI sobre o tratamento de dados e os controlos de segurança do sistema para evitar fugas de informação militar sensível.
O conflito com a Anthropic e a aposta em novas alternativas
Este desenvolvimento surge no rescaldo da decisão do Pentágono em classificar a Anthropic como um risco para a cadeia de abastecimento, na sequência da recusa da empresa em dar aos militares acesso irrestrito aos seus sistemas. Antes deste conflito, a empresa era a única com sistemas prontos para operar em ambientes classificados.
Para colmatar esta lacuna, o Departamento de Defesa assinou acordos com a OpenAI e a xAI para a utilização das suas plataformas. Um oficial sénior confirmou que o Grok já foi integrado para uso num ambiente classificado, embora ainda não esteja a ser utilizado de forma ativa nas operações diárias.
Alertas de segurança e o futuro do Grok nas forças armadas
As preocupações em torno do assistente intensificaram-se ao longo do último mês. Uma coligação de organizações sem fins lucrativos instou o governo a suspender imediatamente a utilização do modelo em agências federais, após relatos de utilizadores que recorreram à ferramenta para gerar imagens manipuladas e de cariz sexual sem o consentimento dos visados. Em paralelo, a empresa enfrenta uma ação judicial coletiva e surgiram relatos do roubo de dados de cidadãos norte-americanos por parte de um antigo funcionário do Departamento de Eficiência Governamental.
Apesar das críticas e dos alertas de Elizabeth Warren, o Pentágono mantém a sua estratégia. Sean Parnell, porta-voz do departamento, afirmou que aguardam com expectativa a implementação do Grok na sua plataforma oficial, a GenAI.mil, num futuro muito próximo. Esta plataforma segura foi desenhada para dar aos trabalhadores acesso a ferramentas de inteligência artificial em ambientes na nuvem aprovados pelo governo, destinando-se principalmente a tarefas não classificadas, como pesquisa, análise de dados e elaboração de documentos.
Nenhum comentário
Seja o primeiro!