Pedir conselhos médicos, amorosos ou financeiros a um assistente virtual pode parecer prático, mas os especialistas alertam que é uma péssima ideia. Investigadores demonstraram recentemente que os modelos de linguagem, ao carecerem de sentidos no mundo real, geram respostas completamente falsas com uma confiança inabalável, chegando a diagnosticar patologias inventadas a quem procura ajuda.
Conforme uma discussão recente que ganhou tração no Reddit, um grupo de cientistas decidiu testar os limites desta tecnologia ao criar uma condição médica fictícia. Alimentaram o sistema com dados sobre esta doença imaginária e observaram como os algoritmos rapidamente começaram a convencer as pessoas de que sofriam do problema. A doença, batizada e detalhada na Wikipedia como Bixonimania, seria supostamente causada pela exposição excessiva à luz azul, resultando em olheiras e dores oculares. Ferramentas populares como o ChatGPT e o Gemini têm sempre uma resposta pronta a dar, mesmo que isso signifique ignorar a veracidade dos factos.
A armadilha da submissão cognitiva
Durante o fórum de tecnologia Login, na Lituânia, o investigador Marko Sarstedt comparou a forma de operar dos algoritmos à de um indivíduo que tem sempre uma opinião formada, mas que não se importa minimamente com a verdade. Como estes sistemas não possuem os cinco sentidos humanos, baseiam-se apenas na correspondência de padrões de texto. Quando a conversa passa de questões gerais para a psicologia individual ou avaliações subjetivas, as respostas tornam-se altamente imprecisas.
Este fenómeno leva ao que os especialistas chamam de submissão cognitiva. Muitos utilizadores entram numa fase em que filtram os conselhos humanos e aceitam cegamente tudo o que o assistente virtual escreve, apenas porque a resposta é apresentada com grande autoridade. O cérebro humano desliga o seu sentido crítico assim que recebe uma resposta formatada de forma convincente e estruturada.
Autofagia digital e o futuro da informação
A mistura entre a conveniência tecnológica e a preguiça humana cria um cenário preocupante para o ecossistema digital. Sarstedt alerta para o perigo da autofagia nestes sistemas, um processo onde os modelos começam a ser treinados usando os seus próprios dados contaminados e inventados. Com o passar do tempo, esta reciclagem de conteúdos gerados artificialmente vai degradar substancialmente a qualidade e o rigor das respostas.
A conclusão dos investigadores é clara e apela ao regresso ao mundo físico. Os seres humanos estão equipados com instintos e sentidos complexos para navegar na realidade. Não é necessário recorrer a uma máquina para descrever um aroma, resolver um dilema emocional ou diagnosticar doenças que não existem. Nestes casos, a intuição humana continua a ser a ferramenta mais avançada e fiável à disposição de qualquer pessoa.
Nenhum comentário
Seja o primeiro!