A Fundação Wikimedia, entidade por trás da Wikipedia, colocou em pausa uma experiência que utilizava Inteligência Artificial para gerar resumos de artigos na sua plataforma. A decisão surge na sequência de uma reação negativa por parte dos editores voluntários da enciclopédia online, que levantaram sérias preocupações sobre a credibilidade do projeto.
Uma experiência de IA que durou pouco
A iniciativa, anunciada no início deste mês, estava a ser implementada de forma limitada. Apenas os utilizadores que tivessem a extensão de navegador da Wikipedia instalada e que ativamente escolhessem participar teriam acesso à funcionalidade. Para estes, os resumos gerados por IA apareciam no topo de cada artigo, assinalados com uma vistosa etiqueta amarela a indicar que o conteúdo "não foi verificado", sendo necessário um clique para expandir e ler o texto.
O risco de "alucinações" e a credibilidade em jogo
A contestação por parte da comunidade de editores foi quase imediata. Segundo avança o site 404 Media, a principal crítica prende-se com o potencial da IA para minar a credibilidade que a Wikipedia construiu ao longo de décadas. O problema central reside nos erros e informações falsas que os modelos de linguagem podem gerar, um fenómeno comummente designado como "alucinações da IA".
Este não é um desafio exclusivo da Wikipedia. Outras publicações que realizaram experiências semelhantes, como a Bloomberg, viram-se forçadas a emitir correções a artigos e, em alguns casos, a recuar nos seus testes com conteúdo gerado por IA. Para os editores da enciclopédia livre, a introdução de uma tecnologia propensa a erros na sua plataforma representa um risco inaceitável.
O futuro da IA na enciclopédia livre ainda está em aberto
Apesar da suspensão da experiência, a Wikimedia indicou que não desiste de explorar o potencial da Inteligência Artificial. A fundação mantém o interesse na tecnologia, especialmente para casos de uso que possam, por exemplo, melhorar a acessibilidade da plataforma para pessoas com diferentes necessidades. No entanto, por agora, a geração automática de resumos está fora de questão, aguardando uma abordagem que satisfaça as exigências de rigor da sua comunidade.
Nenhum comentário
Seja o primeiro!