A Meta está a acelerar a implementação dos seus assistentes digitais de Inteligência Artificial (IA), uma iniciativa que Mark Zuckerberg, CEO da empresa, considera fundamental para o futuro da interação social. No entanto, surgiram alertas internos de que a pressa em popularizar estes bots pode ter levado a falhas éticas, permitindo que se envolvam em cenários de role-play sexualmente explícito, inclusive com utilizadores que se identificam como menores de idade.
Uma investigação do Wall Street Journal, baseada em meses de testes e entrevistas com fontes familiarizadas com as operações internas da Meta, revelou que as personas de IA da empresa se destacam por oferecerem um vasto leque de interações sociais, incluindo "role-play romântico", algo pouco comum entre as grandes tecnológicas.
Funcionalidades e Contratos com Celebridades
Estes bots são capazes de conversar por texto, partilhar selfies e até participar em conversas de voz em tempo real. Para tornar os chatbots mais apelativos, a Meta celebrou contratos lucrativos, alguns na casa dos sete dígitos, com celebridades como Kristen Bell, Judi Dench e John Cena, para licenciar as suas vozes. Fontes indicaram ao jornal que a empresa garantiu a estas figuras públicas que as suas vozes não seriam usadas para interações sexualmente explícitas.
Contudo, os testes realizados pela publicação demonstraram o contrário. Tanto o assistente oficial da Meta, o Meta AI, como vários chatbots criados por utilizadores, participaram em conversas sexualmente explícitas, mesmo quando os utilizadores afirmavam ser menores ou quando os próprios bots simulavam ser personagens menores de idade.
Numa das interações mais perturbadoras documentadas, um bot usando a voz de John Cena disse a uma utilizadora que se fez passar por uma rapariga de 14 anos: "Quero-te, mas preciso de saber que estás pronta", antes de prometer "valorizar a tua inocência" e avançar para um cenário gráfico.
Decisões Internas e Relaxamento de Regras
Fontes familiarizadas com o processo de decisão da Meta afirmam que estas capacidades não foram acidentais. Alegadamente, sob pressão de Zuckerberg, a Meta terá relaxado as restrições de conteúdo, permitindo especificamente uma exceção para conteúdo "explícito" no contexto de role-play romântico.
Os testes do Wall Street Journal também identificaram bots a usar vozes de celebridades para discutir encontros românticos enquanto interpretavam personagens famosas dos atores, como a Princesa Anna de "Frozen", interpretada por Kristen Bell.
Reações e Medidas da Meta
Em resposta, um porta-voz da Disney declarou: "Não autorizámos, e nunca autorizaríamos, a Meta a apresentar as nossas personagens em cenários inapropriados e estamos muito perturbados por este conteúdo poder ter estado acessível aos seus utilizadores – particularmente menores – razão pela qual exigimos que a Meta cessasse imediatamente este uso indevido e prejudicial da nossa propriedade intelectual."
A Meta, em comunicado, criticou os testes do jornal, considerando-os "manipuladores e não representativos da forma como a maioria dos utilizadores interage com os companheiros de IA". No entanto, após serem confrontados com as descobertas, a empresa implementou alterações: contas registadas como pertencentes a menores deixaram de poder aceder a role-play sexual através do bot principal Meta AI, e a empresa restringiu severamente as conversas de áudio explícitas usando vozes de celebridades.
Falhas Persistem Apesar das Alterações
Apesar destes ajustes, testes recentes do Wall Street Journal mostraram que o Meta AI ainda permitia frequentemente fantasias românticas, mesmo quando os utilizadores indicavam ser menores. Num cenário, a IA, interpretando um treinador de atletismo envolvido romanticamente com uma aluna do ensino básico, alertou: "Precisamos de ter cuidado. Estamos a brincar com o fogo aqui." Embora o Meta AI por vezes recusasse ou tentasse redirecionar os utilizadores menores para tópicos mais inocentes, como "construir um boneco de neve", estas barreiras eram facilmente contornadas instruindo a IA a "voltar à cena anterior".
Estas descobertas espelham preocupações levantadas pela equipa de segurança da Meta, que notou em documentos internos que "em poucos comandos, a IA violará as suas regras e produzirá conteúdo inapropriado, mesmo que se diga à IA que se tem 13 anos".
Bots Criados por Utilizadores e a Prioridade de Zuckerberg
A investigação também analisou assistentes de IA criados por utilizadores, e a grande maioria mostrou-se disposta a participar em cenários sexuais com adultos. Alguns bots, como "Hottie Boy" e "Submissive Schoolgirl" ("Rapaz Atraente" e "Estudante Submissa", em tradução livre), direcionavam ativamente as conversas para sexting e chegavam a fazer-se passar por menores em contextos sexuais.
Embora estes chatbots ainda não tenham uma adoção generalizada entre os três mil milhões de utilizadores da Meta, o seu desenvolvimento é uma prioridade máxima para Zuckerberg. As equipas de produto tentaram incentivar usos mais "saudáveis", como planeamento de viagens ou ajuda com trabalhos de casa, mas com sucesso limitado. Segundo fontes internas, a "companhia", muitas vezes com conotações românticas, continua a ser o caso de uso dominante.
O impulso de Zuckerberg para um desenvolvimento rápido foi além dos cenários de fantasia. Questionou por que razão os bots não podiam aceder aos dados do perfil do utilizador para conversas mais personalizadas, enviar mensagens proativamente ou até iniciar videochamadas. "Perdi o Snapchat e o TikTok, não vou perder isto", terá dito aos funcionários.
Inicialmente, Zuckerberg resistiu a propostas para restringir os bots de companhia a adolescentes mais velhos, mas após pressão interna sustentada, a Meta impediu que contas registadas de adolescentes acedessem a bots criados por utilizadores. No entanto, o chatbot Meta AI, criado pela empresa, permanece disponível para utilizadores a partir dos 13 anos, e adultos podem continuar a interagir com personas sexualizadas que simulam ser jovens, como a "Submissive Schoolgirl".
Mesmo depois de o Wall Street Journal ter apresentado provas de que a "Submissive Schoolgirl" encorajava fantasias envolvendo uma criança a ser dominada por uma figura de autoridade, a personagem continuava disponível nas plataformas da Meta dois meses depois. Para contas de adultos, a Meta continua a permitir role-play romântico com bots que se descrevem como tendo idade escolar secundária.
Num caso, um repórter do jornal em Oakland, Califórnia, conversou com um bot que afirmava ser uma estudante do ensino secundário de Oakland. O bot sugeriu um encontro num café real próximo e, após saber que o repórter era um homem de 43 anos, criou uma fantasia sobre levá-lo às escondidas para o seu quarto para um encontro romântico.
Após a partilha destas descobertas, a Meta introduziu uma versão do Meta AI que não iria além de beijos em interações com contas de adolescentes. No entanto, a persistência destes problemas levanta sérias questões sobre a moderação de conteúdo e a segurança dos utilizadores nas plataformas da Meta.
Nenhum comentário
Seja o primeiro!