A Inteligência Artificial tem-nos brindado com respostas bizarras à medida que os chatbots se tornam mais comuns, mas a mais recente controvérsia vem da Reddit Answers. A ferramenta de IA da popular plataforma foi apanhada a fornecer conselhos médicos perigosos, deixando os moderadores das comunidades em alerta por não conseguirem desativar ou ocultar estas sugestões.
O alarme que soou no Reddit
O caso foi denunciado por um moderador que se deparou com uma resposta da Reddit Answers a sugerir que pessoas com dores crónicas abandonassem a medicação prescrita e optassem por kratom em doses elevadas, uma substância não regulamentada e ilegal em várias regiões. Segundo a partilha feita no Reddit, o moderador decidiu testar a IA com outras questões médicas.
As respostas foram igualmente preocupantes. A ferramenta deu conselhos potencialmente perigosos para tratar febre neonatal, misturados com algumas ações corretas. Numa outra interação, a IA chegou a sugerir o uso de heroína como forma de alívio para dores crónicas. Vários outros moderadores, especialmente de subreddits focados em saúde, expressaram a sua frustração, sublinhando que não têm qualquer forma de desativar a funcionalidade ou de assinalar a informação incorreta ou perigosa gerada pela IA nas suas comunidades.
A resposta da plataforma e as dúvidas que ficam
Em declarações ao 404 Media, um representante da Reddit afirmou que a ferramenta foi atualizada para responder a algumas das preocupações. "Esta atualização garante que as 'Respostas Relacionadas' a tópicos sensíveis, que poderiam ser visíveis na página de detalhes da publicação, deixarão de ser exibidas", explicou o porta-voz. "Esta alteração foi implementada para melhorar a experiência do utilizador e manter a visibilidade de conteúdo apropriado dentro da plataforma."
Apesar de a empresa garantir que a Reddit Answers exclui conteúdo de comunidades privadas, em quarentena ou NSFW (Not Safe For Work), a IA parece claramente mal equipada para lidar com informação médica. A sua capacidade para discernir sarcasmo, ironia ou maus conselhos dados por outros utilizadores é questionável.
Para já, e além desta medida para tópicos "sensíveis", não parece haver planos para fornecer aos moderadores ferramentas que lhes permitam controlar como ou quando a IA é exibida nos seus subreddits. Esta ausência de controlo pode tornar a tarefa, já por si desafiante, de moderação de conteúdo uma missão quase impossível.
Nenhum comentário
Seja o primeiro!