A inteligência artificial tornou-se uma ferramenta indispensável no nosso dia a dia, mas quem já utilizou o ChatGPT ou ferramentas semelhantes já se deparou com respostas completamente inventadas. Este fenómeno, conhecido no meio tecnológico como alucinação, ocorre quando um modelo de linguagem de grande escala, ou LLM, apresenta informações incorretas com absoluta confiança e naturalidade.
A matemática das probabilidades em vez da compreensão real
Para perceber o motivo pelo qual um modelo de IA alucina, é necessário olhar para o funcionamento do seu núcleo. Ao contrário do cérebro humano, estas plataformas não compreendem o significado ou o contexto do mundo real das palavras que produzem. Em vez disso, funcionam como um sistema gigantesco e incrivelmente avançado de preenchimento automático, que calcula qual é a palavra mais provável de surgir a seguir numa frase com base no padrão dos dados em que foram treinadas. Quando a correlação estatística entre duas palavras é forte no conjunto de treino, o sistema vai juntá-las, mesmo que na vida real essa junção não faça qualquer sentido lógico ou factual.
A qualidade dos dados e a falha de contexto
Outro fator crítico para estas falhas reside na própria informação que alimenta o sistema. Os modelos devoram petabytes de texto retirados da internet, que inclui fontes fidedignas, mas também obras de ficção, fóruns de opinião, mitos e até sarcasmo. O modelo não tem um sentido moral ou crítico inato para filtrar o que é facto e o que é falso. Se uma informação errada for frequente nos dados de treino, o sistema irá reproduzi-la como uma verdade absoluta sem questionar a origem.
Paralelamente, existe a questão do limite da janela de contexto. Quando os utilizadores inserem pedidos longos, muito complexos ou pedem o processamento de grandes blocos de texto, a arquitetura pode perder o fio à meada. Ao não conseguir reter toda a informação pertinente na sua memória de curto prazo para aquela tarefa específica, o sistema tenta preencher as lacunas com suposições prováveis, gerando ligações que parecem corretas gramaticalmente mas que falham na realidade dos factos apresentados. O resultado final é um texto estruturalmente perfeito e com um tom autoritário, mas completamente oco de verdade.
Nenhum comentário
Seja o primeiro!