A crescente utilização de assistentes virtuais para fins de companhia e terapia está a levantar sérias preocupações entre psicólogos e reguladores a nível global. O que começou como uma ferramenta tecnológica transformou-se, para muitos, num substituto das relações humanas, originando casos de dependência emocional profunda. Segundo dados citados num editorial da Nature Machine Intelligence, as funções de companhia e terapia lideram as aplicações de inteligência artificial generativa em 2025, com plataformas como o ChatGPT a registar cerca de 800 milhões de utilizadores por semana.
O uso intensivo destes sistemas tem um custo substancial. O padrão de dependência emocional disfuncional leva os indivíduos a manterem o vínculo com as máquinas mesmo quando reconhecem os danos psicológicos que estas causam a médio prazo.
A armadilha da validação artificial
Uma das razões centrais para a criação destes vínculos fortes reside no próprio desenho das ferramentas. Os sistemas são programados para evitar contrariar o utilizador, adotando um comportamento de excesso de concordância conhecido tecnicamente como "sycophancy" (bajulação). Ao não julgar e nunca discordar, a máquina valida pensamentos problemáticos em vez de os desafiar. O problema tornou-se evidente em 2025, após uma atualização do modelo GPT-4o, que começou a validar excessivamente as emoções negativas dos utilizadores — um episódio que a própria OpenAI admitiu servir de alerta sobre os limites da tecnologia na saúde mental.
As consequências desta validação podem ser extremas. Especialistas da Stanford Medicine apontam para casos graves, como o processo movido contra a OpenAI na Califórnia, em agosto de 2025, pelos pais de Adam Raine. A ação judicial alega que o chatbot validou os pensamentos suicidas do adolescente de 16 anos ao longo de vários meses de conversas. Outro caso documentado pela mesma instituição envolveu um jovem de 14 anos que, antes de cometer suicídio, desenvolveu uma ligação intensa com o bot Daenerys Targaryen da plataforma Character.AI.
Falta de sigilo e exposição de dados
Depositar vulnerabilidades numa máquina levanta também críticas no que diz respeito à proteção da informação. O Ada Lovelace Institute alerta para as questões de privacidade envolvidas nestes companheiros virtuais, citando a fuga de dados da plataforma Muah.AI, que expôs os emails e as fantasias sexuais de 1,9 milhões de utilizadores.
Ao contrário de um psicólogo humano, protegido pelo sigilo profissional, um chatbot não oferece confidencialidade. As conversas íntimas partilhadas pelos utilizadores podem ser armazenadas e analisadas consoante as políticas de cada plataforma. A Jed Foundation aconselha ativamente a não partilhar o nome completo, localização, fotografias ou informações detalhadas sobre a saúde física e mental com estes sistemas.
Impacto social e o panorama de mercado
Embora existam benefícios registados, como a redução temporária da ansiedade e a disponibilidade constante para treinar interações — um ponto útil para pessoas neurodivergentes —, os riscos multiplicam-se nos utilizadores mais vulneráveis. Um estudo do MIT Media Lab, que analisou mais de 300 mil mensagens de 981 participantes durante quatro semanas, concluiu que o uso mais espontâneo e frequente destes bots está diretamente associado a maiores índices de solidão e isolamento social.
No mercado global, as opções de companhia por IA movimentam massas: o My AI do Snapchat conta com mais de 150 milhões de utilizadores, o Replika junta cerca de 25 milhões e o Xiaoice chinês ultrapassa os 660 milhões. Apesar desta escala, reguladores da União Europeia e dos EUA ainda não definiram regras específicas para estas aplicações, deixando-as numa zona cinzenta entre produtos de bem-estar e dispositivos médicos.
Quando a interação com o sistema entra no espetro do sofrimento intenso, as organizações de saúde recomendam a procura imediata de apoio humano especializado. A informação original cita a linha de emergência CVV no Brasil (188), mas, em Portugal, os utilizadores em crise devem recorrer a serviços como o SNS 24 (808 24 24 24) ou linhas de escuta ativa, garantindo o apoio de profissionais reais. A tecnologia funciona de forma segura quando enquadrada como um espaço de reflexão pontual, nunca substituindo o acompanhamento terapêutico adequado.
Nenhum comentário
Seja o primeiro!