O Reddit viu-se recentemente no centro de uma polémica que abalou a sua comunidade global, após a revelação de que investigadores utilizaram uma vasta rede de bots com inteligência artificial (IA), disfarçados de utilizadores humanos, no popular subreddit “Change My View”. Esta experiência em larga escala visava testar o quão persuasiva a IA consegue ser, mas acabou por levantar sérias questões sobre a autenticidade e o futuro da plataforma.
O incidente que espoletou o alarme
A equipa de investigadores responsável pela experiência lançou os bots, que publicaram mais de 1.700 comentários. Estes agentes de IA não se limitaram a interagir, assumindo personas complexas e, por vezes, controversas, como sobreviventes de abusos ou defensores de causas como o movimento anti-Black Lives Matter.
Para o Reddit, cuja marca assenta na autenticidade das interações entre pessoas reais, o episódio foi um verdadeiro pesadelo. A perspetiva de o seu ecossistema, focado em discussões genuínas, ser inundado por "lixo de IA" (AI slop) ou tornar-se um local onde a confiança na humanidade dos interlocutores é inexistente, ameaça não só a identidade central da plataforma, mas também o seu modelo de negócio – especialmente agora que a empresa vende o seu conteúdo à OpenAI para treino de modelos de IA.
A empresa condenou veementemente o que classificou como uma "experiência imprópria e altamente antiética", apresentando uma queixa formal junto da universidade que a conduziu. Contudo, este caso é apenas um exemplo do que se antecipa como uma crescente vaga de bots gerados por IA a fazerem-se passar por humanos no Reddit, seja para fins científicos ou para manipulação política.
A resposta do Reddit: verificação de humanidade a caminho
Para proteger os utilizadores da manipulação por bots e, nas suas palavras, "manter o Reddit humano", a empresa sinalizou discretamente uma ação futura – uma que poderá não ser bem recebida por aqueles que valorizam o anonimato na plataforma.
Na segunda-feira, Steve Huffman, CEO do Reddit, partilhou numa publicação que a plataforma começaria a trabalhar com "diversos serviços de terceiros" para verificar a humanidade de um utilizador. Este é um passo significativo para uma plataforma que, historicamente, exigiu pouquíssima informação pessoal para a criação de uma conta.
"Para manter o Reddit humano e para cumprir os requisitos regulatórios em evolução, vamos precisar de um pouco mais de informação", escreveu Huffman. "Especificamente, precisaremos de saber se és um humano e, em algumas localidades, se és um adulto. Mas nunca queremos saber o teu nome ou quem tu és."
Esta medida surge num contexto em que outras empresas de redes sociais já começaram a implementar verificações de identidade, na sequência de leis aprovadas em pelo menos nove estados dos EUA e no Reino Unido, que exigem verificação de idade para proteger menores nas suas plataformas.
Um porta-voz do Reddit escusou-se a detalhar as circunstâncias em que a empresa exigiria que os utilizadores passassem por um processo de verificação, embora tenha confirmado que o Reddit já implementa medidas para banir bots "maus". O porta-voz também não adiantou quais os serviços de terceiros que seriam utilizados ou que tipo de informação pessoal identificável os utilizadores teriam de fornecer.
Atualmente, muitas empresas recorrem a plataformas de verificação como Persona, Alloy, Stripe Identity, Plaid e Footprint, que geralmente exigem um documento de identificação emitido pelo governo para verificar a idade e a humanidade. Existem também tecnologias mais recentes e especulativas, como a Tools for Humanity de Sam Altman e o seu dispositivo de "prova de humanidade" através da leitura da íris.
Preocupações com a privacidade e o anonimato
Os opositores às verificações de identidade alertam para os riscos de privacidade e segurança de dados associados à partilha de informação pessoal com as plataformas de redes sociais. Isto é particularmente sensível numa plataforma como o Reddit, onde as pessoas partilham experiências que, muito provavelmente, nunca o fariam se os seus nomes estivessem associados.
Não é difícil imaginar um cenário em que as autoridades possam intimar o Reddit a revelar a identidade de, por exemplo, uma adolescente grávida a pedir informações sobre experiências de aborto no subreddit r/women, em estados onde o procedimento é agora ilegal. Recorde-se o caso em que a Meta forneceu conversas privadas entre uma mulher do Nebraska e a sua filha de 17 anos, que discutiam planos para interromper uma gravidez, o que levou a acusações criminais para ambas.
O compromisso do Reddit: proteger o anonimato (será?)
É precisamente este risco que o Reddit espera evitar ao recorrer a empresas externas para fornecer "a informação essencial e nada mais", segundo Huffman, que enfatizou: "nunca queremos saber o teu nome ou quem tu és."
"O anonimato é essencial para o Reddit", afirmou.
O CEO também sublinhou que o Reddit continuará a ser "extremamente protetor da vossa informação pessoal" e "continuará a opor-se a exigências excessivas ou descabidas por parte de autoridades públicas ou privadas." Resta saber como este equilíbrio delicado entre verificação e anonimato será gerido na prática.
Nenhum comentário
Seja o primeiro!