O Departamento de Eficiência Governamental dos Estados Unidos (DOGE) viu o cancelamento de mais de 100 milhões de euros em subsídios ser declarado inconstitucional por um tribunal federal. A decisão de 143 páginas, assinada pela juíza Colleen McMahon na passada quinta-feira, expõe o método utilizado pela agência para revogar os financiamentos do Fundo Nacional para as Humanidades (NEH), que recorria diretamente ao ChatGPT para identificar projetos associados a diversidade, equidade e inclusão (DEI).
De acordo com a decisão judicial, resultante de um processo interposto por vários grupos ligados às humanidades, ficou claro que o organismo governamental utilizou a mera presença de características protegidas para desqualificar a continuidade dos apoios. A magistrada apontou múltiplos casos onde o chatbot da OpenAI serviu de ferramenta central para analisar e eliminar dados de projetos com base na sua relação com raça, origem nacional, religião ou orientação sexual.
O método de verificação automatizada
O processo em tribunal revelou o testemunho de Justin Fox, um funcionário do DOGE que, em conjunto com o colega Nate Cavanaugh, foi responsável por eliminar 97% dos apoios do NEH. A estratégia passava por introduzir as descrições sumárias de cada projeto no ChatGPT através de um comando padronizado que exigia uma resposta factual em menos de 120 caracteres, começando obrigatoriamente por "Sim" ou "Não", seguida de uma breve justificação sobre a relação do texto com conceitos de diversidade. O funcionário admitiu sob juramento que nunca definiu os parâmetros do conceito para a inteligência artificial, desconhecendo por completo a forma como o modelo interpretava a diretriz.
Para além desta análise, a agência utilizava ainda códigos de deteção específicos para procurar termos-chave na folha de registos. Palavras como "minorias", "indígena", "imigrante", "nativo" ou termos ligados à comunidade LGBTQ foram ativamente pesquisados em todas as descrições para catalogar os financiamentos indesejados, estabelecendo assim critérios automáticos para a sua revogação.
O impacto nas humanidades e a resposta do tribunal
A sentença destaca que centenas de subsídios foram classificados como um desperdício de recursos apenas por abordarem temáticas ligadas a mulheres, comunidade judaica, afro-americanos ou povos indígenas. Ironicamente, a juíza sublinhou que os próprios temas tratados pela agência como falta de mérito ou contaminação ideológica fazem parte da missão expressa atribuída pelo Congresso ao NEH. Entre os projetos afetados encontravam-se trabalhos sobre o Holocausto, direitos civis e programas educativos focados no conhecimento da cultura indígena e do clima.
O tribunal rejeitou ainda o argumento da defesa de que a responsabilidade da classificação recaía sobre a inteligência artificial e não sobre o Estado. A magistrada Colleen McMahon vincou que não existe distinção possível, uma vez que a ferramenta foi o instrumento escolhido pelo governo para a tarefa, não existindo qualquer prova de que os funcionários tenham realizado uma revisão humana para confirmar se as justificações geradas pela máquina faziam sentido. A decisão final ordenou a reversão imediata do cancelamento dos mais de 1400 subsídios, apontando violações da Primeira e Quinta Emendas da constituição norte-americana, bem como a falta de autoridade da agência para a medida.
Nenhum comentário
Seja o primeiro!