Uma controvérsia surgiu no Reddit após a revelação de que um grupo de investigadores da Universidade de Zurique realizou uma experiência secreta e não autorizada numa das comunidades mais populares da plataforma, o r/changemyview. Durante meses, utilizaram comentários gerados por inteligência artificial (IA) para testar a capacidade de persuasão dos modelos de linguagem de grande escala (LLMs), uma ação descrita pelos moderadores do subreddit como "manipulação psicológica" de utilizadores desprevenidos.
O Experimento Clandestino no r/changemyview
A equipa de moderação do r/changemyview (CMV), um fórum com 3.8 milhões de membros onde os utilizadores debatem opiniões, muitas vezes controversas, informou a comunidade sobre a experiência não autorizada. Segundo os moderadores, os investigadores implementaram comentários gerados por IA com o objetivo de estudar como esta tecnologia poderia ser usada para alterar as opiniões dos participantes.
Os investigadores não só utilizaram LLMs para criar respostas às publicações dos utilizadores, como tentaram personalizar essas respostas. Para tal, extraíram informações do histórico de publicações dos utilizadores visados, inferindo atributos pessoais como género, idade, etnia, localização e orientação política através de outro LLM, de acordo com um rascunho do estudo.
Durante a experiência, a IA assumiu diversas identidades falsas para interagir nos debates. Entre as personas criadas estavam uma sobrevivente de agressão sexual, um terapeuta de trauma "especializado em abuso" e um "homem negro opositor ao Black Lives Matter". Embora muitos comentários tenham sido apagados, alguns ainda podem ser consultados num arquivo.
Violação de Regras e Reações Fortes
Os moderadores do r/changemyview sublinharam que os investigadores violaram múltiplas regras do subreddit, incluindo a política que exige a divulgação do uso de IA na geração de comentários e a proibição de bots. A equipa de moderação apresentou uma queixa formal à Universidade de Zurique e solicitou que os investigadores não publicassem o artigo resultante da experiência.
A própria plataforma Reddit reagiu de forma veemente. Ben Lee, Diretor Jurídico do Reddit, classificou as ações dos investigadores como "profundamente erradas tanto a nível moral como legal" e uma clara violação das regras gerais do site. O Reddit baniu todas as contas associadas à investigação da Universidade de Zurique e está a reforçar as suas capacidades de deteção de conteúdo não autêntico. A empresa confirmou estar em contacto com a equipa de moderação para garantir a remoção de todo o conteúdo gerado por IA relacionado com o estudo e está a preparar "exigências legais formais" dirigidas à universidade e à equipa de investigação, procurando responsabilizá-los pelas suas ações.
A Justificação dos Investigadores e a Resposta da Comunidade
Confrontados com a polémica, os investigadores (cujos nomes não foram divulgados no rascunho do artigo) defenderam-se, afirmando que o estudo foi aprovado por um comité de ética da universidade. Argumentaram que a investigação, apesar de reconhecerem o desconforto causado pela falta de consentimento prévio, oferece informações valiosas sobre as capacidades persuasivas dos LLMs no mundo real. Segundo eles, estas capacidades já são acessíveis e poderiam ser exploradas por "atores maliciosos" para fins mais perigosos, como manipulação eleitoral ou incitamento ao ódio. Alegam que os benefícios potenciais da pesquisa superam substancialmente os riscos envolvidos.
No entanto, os moderadores do r/changemyview contestam a necessidade e a originalidade da investigação. Salientam que outros estudos, como os realizados pela OpenAI com dados do mesmo subreddit, foram conduzidos de forma ética, "sem experimentar em sujeitos humanos não consentidos". Reforçam que a comunidade existe para o debate entre pessoas e não para servir de campo de testes para experiências com IA sem autorização. "As pessoas que visitam o nosso sub merecem um espaço livre deste tipo de intrusão", concluíram os moderadores.
Nenhum comentário
Seja o primeiro!