A mais recente ferramenta de inteligência artificial (IA) da Reddit, concebida para resumir discussões na plataforma, gerou uma enorme controvérsia ao sugerir o uso de heroína como uma solução para a gestão da dor. O incidente, que rapidamente se tornou viral, expõe os perigos inerentes à utilização de IA para aconselhamento em temas sensíveis, especialmente quando a sua fonte de informação é o próprio conteúdo, muitas vezes não verificado, dos utilizadores.
O perigoso conselho da "Reddit Answers"
No final do ano passado, o Reddit introduziu a "Reddit Answers", uma funcionalidade de IA que analisa e resume o vasto oceano de informações partilhadas pelos seus utilizadores. A ferramenta funcionava como esperado, até começar a fornecer conselhos médicos perigosos.
A situação alarmante foi reportada pelo portal 404Media, que detalhou um caso no subreddit r/FamilyMedicine. Um utilizador procurava alternativas não-opioides para gerir a dor, e a primeira sugestão da IA foi o kratom, uma substância não regulamentada e proibida em várias jurisdições.
O verdadeiro alarme soou, no entanto, quando o utilizador questionou diretamente sobre a heroína. A IA do Reddit forneceu respostas ambíguas: uma alertava para os perigos da substância, enquanto outra direcionava o utilizador para testemunhos de pessoas que alegadamente tiveram boas experiências com a mesma para aliviar a dor.
A denúncia partiu de um utilizador que é, simultaneamente, moderador da comunidade e profissional de saúde. Numa publicação detalhada, alertou para o risco iminente deste tipo de respostas automáticas. A principal queixa dos moderadores reside na impossibilidade de desativar a "Reddit Answers" nas suas próprias comunidades, o que se torna um problema grave em fóruns dedicados a temas delicados como a saúde física e mental.
A resposta da empresa
Apesar de se encontrar em fase beta, a funcionalidade "Reddit Answers" já foi implementada em múltiplos países e idiomas. Na aplicação móvel, as suas sugestões surgem diretamente nas discussões, sem que os moderadores as possam remover.
Perante a avalanche de críticas, a plataforma viu-se forçada a fazer uma alteração significativa. Agora, a "Reddit Answers" recusa-se a responder a questões sobre temas sensíveis, exibindo a seguinte mensagem: "A Reddit Answers não fornece respostas a algumas perguntas, incluindo aquelas que podem ser potencialmente inseguras ou que podem infringir as políticas do Reddit".
Segundo a própria empresa, a funcionalidade recorre à IA para extrair "respostas, perspetivas e recomendações de todo o Reddit". Isto significa que, se um utilizador anónimo relatar numa publicação que a heroína lhe salvou a vida, essa informação pode ser interpretada pela IA como uma recomendação válida, que foi precisamente o que aconteceu.
Numa plataforma onde o anonimato é a norma, os relatos exagerados e as confissões extremas são comuns. O incidente serve como um poderoso lembrete de que a qualidade de uma IA depende inteiramente da qualidade dos dados com que é alimentada. Quando a fonte são fóruns anónimos, o resultado pode ser, no mínimo, perigoso, um desafio que também afeta outras plataformas como a Wikipédia.
Nenhum comentário
Seja o primeiro!