A OpenAI anunciou ter neutralizado uma nova vaga de operações ilícitas que utilizavam as suas ferramentas de inteligência artificial para fins de manipulação. Dando seguimento a uma ação de fevereiro, na qual foram encerradas contas que desenvolviam ferramentas de vigilância chinesas, a empresa revela agora ter desmantelado mais dez operações de influência provenientes de várias geografias, incluindo China, Rússia e Irão.
Num relatório publicado na passada quinta-feira, a criadora do ChatGPT detalhou as táticas empregues por estes grupos para disseminar desinformação e manipular a opinião pública em diversas plataformas online.
Criatividade chinesa: de comentários falsos a avaliações de desempenho
Dois dos casos mais detalhados envolvem grupos ligados à China. Um deles, apelidado pela OpenAI de "Sneer Review", usava o ChatGPT para gerar massivamente comentários curtos para redes como o TikTok, X (antigo Twitter) e Facebook. Os tópicos eram variados, abrangendo desde a política interna dos EUA a críticas a um videojogo taiwanês cuja narrativa se opõe ao Partido Comunista Chinês.
De forma particularmente astuta, esta operação não só publicava conteúdo como também respondia às suas próprias publicações, simulando discussões reais para aumentar a sua credibilidade. O mais insólito, contudo, foi a descoberta de que o grupo utilizava o ChatGPT para redigir avaliações de desempenho internas, descrevendo o quão eficazes estavam a ser na sua própria campanha de influência.
Um segundo grupo com ligações à China era composto por indivíduos que se faziam passar por jornalistas e analistas geopolíticos. Utilizavam os modelos da OpenAI para criar biografias para os seus perfis falsos no X, traduzir mensagens de chinês para inglês e analisar dados. A OpenAI refere que esta operação chegou ao ponto de analisar correspondência dirigida a um senador norte-americano. Além disso, usavam a IA para produzir materiais de marketing que publicitavam os seus próprios serviços de criação de campanhas falsas e recrutamento de fontes de inteligência.
Rússia e Irão também na mira da OpenAI
A ofensiva da OpenAI não se limitou a atores chineses. A empresa interrompeu também operações que suspeita terem origem na Rússia e no Irão. A lista de atividades desmanteladas inclui ainda:
- Uma operação de spam conduzida por uma empresa de marketing nas Filipinas.
- Um esquema de recrutamento fraudulento associado ao Camboja.
- Uma campanha de falsas ofertas de emprego com características semelhantes às táticas orquestradas pela Coreia do Norte.
IA não é garantia de sucesso para a manipulação
Apesar da vasta gama de táticas e plataformas utilizadas, Ben Nimmo, da equipa de inteligência da OpenAI, sublinha que a maioria destas operações foi detetada numa fase inicial, não conseguindo enganar um número significativo de pessoas.
Segundo Nimmo, o recurso a ferramentas de inteligência artificial não se traduziu necessariamente num maior sucesso. "De um modo geral, não vimos estas operações obterem mais interação por usarem IA", afirmou. "Para estas operações, melhores ferramentas não significam obrigatoriamente melhores resultados."
Nenhum comentário
Seja o primeiro!