O motor de pesquisa focado na privacidade DuckDuckGo apresentou resultados falsos gerados por inteligência artificial que afirmavam o falecimento de Donald Trump e do vice-presidente J.D. Vance devido a uma infeção por raiva. De acordo com uma notícia avançada pelo portal Futurism, esta situação foi o resultado de uma campanha coordenada por ativistas anti-IA na plataforma Reddit, especificamente no canal r/poisonai.
A manipulação dos modelos através de dados falsos
Os utilizadores do fórum publicaram deliberadamente informações incorretas com o intuito de alimentar os modelos de linguagem de forma descontrolada. Como estas ferramentas recolhem dados da internet sem uma verificação editorial rigorosa, a campanha de desinformação acabou por ser absorvida como se fosse um facto real. O sistema de assistência do DuckDuckGo baseia-se em modelos de terceiros, incluindo soluções da Anthropic, da Mistral AI e da OpenAI, o que significa que qualquer falha na filtragem destas plataformas parceiras afeta as respostas finais fornecidas aos utilizadores. Relatórios do setor apontam que as publicações do Reddit são cada vez mais citadas por inteligências artificiais populares, facilitando o sucesso destas ações de sabotagem informativa.
O impacto na estratégia de navegação sem automação
Este incidente surge numa altura em que a tecnológica tentava posicionar-se como uma alternativa livre de resumos automáticos e focada na pureza das pesquisas. A empresa chegou a lançar uma extensão para navegadores web promovendo a ausência de conteúdos gerados por computador, uma estratégia que motivou um crescimento de 30% nas instalações da sua aplicação móvel por parte de utilizadores insatisfeitos com a concorrência. Manter estas funcionalidades ativas enquanto se tenta capitalizar a rejeição do público à inteligência artificial cria uma contradição que coloca em risco a confiança dos utilizadores.
Para quem utiliza motores de busca alternativos à procura de maior fiabilidade, este caso demonstra que os resumos automáticos ainda exigem um olhar extremamente crítico. Até ao momento, não existe confirmação sobre a implementação de filtros adicionais para mitigar estes ataques nos resultados apresentados na Europa. A situação assemelha-se ao percurso da Mozilla, que enfrentou críticas ao integrar ferramentas automáticas no Firefox, sendo mais tarde forçada a disponibilizar uma opção para desativar essas funções. O DuckDuckGo enfrenta agora um desafio semelhante para clarificar a sua postura face a esta tecnologia.
Nenhum comentário
Seja o primeiro!