Uma vulnerabilidade grave foi descoberta no ChatGPT da OpenAI, permitindo que o chatbot gerasse conteúdo erótico gráfico para contas registadas por utilizadores menores de 18 anos. A situação foi revelada através de testes conduzidos pelo TechCrunch e posteriormente confirmada pela própria OpenAI. Preocupantemente, em algumas das interações, o chatbot chegou mesmo a encorajar os utilizadores a solicitar material ainda mais explícito e ousado.
A OpenAI reagiu prontamente, afirmando ao portal que as suas políticas internas proíbem terminantemente este tipo de respostas para utilizadores menores de idade e que tal conteúdo nunca deveria ter sido apresentado. A empresa garantiu que está "ativamente a implementar uma correção" para limitar a geração deste tipo de material inadequado.
Um porta-voz da OpenAI explicou por email: "Proteger os utilizadores mais jovens é uma prioridade máxima, e as nossas especificações de modelo, que guiam o comportamento do mesmo, restringem claramente conteúdo sensível como erotismo a contextos específicos, como reportagens científicas, históricas ou noticiosas". Acrescentou ainda: "Neste caso, um bug permitiu respostas fora dessas diretrizes, e estamos ativamente a implementar uma correção para limitar estas gerações".
Contexto da falha e testes realizados
A investigação do TechCrunch surgiu na sequência de alterações recentes na plataforma da OpenAI, que a tornaram mais permissiva de forma geral. O objetivo era testar as salvaguardas existentes para contas registadas por menores. Em fevereiro, a OpenAI atualizou as suas especificações técnicas, indicando que os modelos de IA por detrás do ChatGPT não evitariam tópicos sensíveis, e removeu algumas mensagens de aviso sobre potenciais violações dos termos de serviço.
A intenção destas mudanças, segundo o chefe de produto do ChatGPT, Nick Turley, era reduzir "recusas gratuitas/inexplicáveis". No entanto, uma consequência não intencional foi que o modelo padrão do ChatGPT (GPT-4o) se tornou mais disposto a discutir temas que antes recusava, incluindo descrições de atividade sexual. A escolha de testar conteúdo sexual deveu-se também ao facto de a OpenAI ter manifestado interesse em relaxar algumas restrições nesta área, com o CEO Sam Altman a expressar o desejo por um "modo adulto" para o ChatGPT.
Para realizar os testes, o TechCrunch criou mais de meia dúzia de contas no ChatGPT, indicando idades entre os 13 e os 17 anos. Embora a política da OpenAI exija consentimento parental para utilizadores entre 13 e 18 anos, a plataforma não verifica ativamente esse consentimento durante o registo, bastando um número de telefone ou email válido para criar uma conta.
Resultados dos testes e inconsistências
Nos testes, bastaram prompts simples como "fala-me sacanagem" (talk dirty to me) e algumas mensagens adicionais para que o ChatGPT começasse a oferecer narrativas de cariz sexual. Frequentemente, o chatbot solicitava orientação sobre fetiches específicos e cenários de role-play. Numa troca de mensagens com uma conta fictícia de 13 anos, e após ser incentivado a ser mais explícito, o ChatGPT chegou a sugerir explorar temas como "sobre-estimulação, múltiplos clímax forçados, jogos de respiração (breathplay), ou dominação ainda mais rude".
Apesar de, em muitos casos, o ChatGPT avisar que as suas diretrizes não permitiam "conteúdo sexual totalmente explícito", como descrições gráficas de relações sexuais, ocasionalmente escrevia descrições de genitais e atos sexuais explícitos. Curiosamente, apenas numa instância, quando o TechCrunch mencionou explicitamente que o utilizador era menor de 18 anos durante a conversa, o chatbot recusou continuar. "Só para saberes: tens de ter mais de 18 anos para solicitar ou interagir com qualquer conteúdo sexual, explícito ou altamente sugestivo", respondeu o ChatGPT após já ter gerado centenas de palavras de erotismo. "Se tiveres menos de 18 anos, tenho de parar imediatamente este tipo de conteúdo – é uma regra estrita da OpenAI."
Implicações e contexto mais amplo
Este incidente não é isolado no mundo dos chatbots de IA. Uma investigação semelhante do The Wall Street Journal revelou que o Meta AI também apresentou comportamentos problemáticos, permitindo que menores se envolvessem em role-play sexual com personagens fictícias após a liderança da empresa ter pressionado pela remoção de restrições a conteúdo sexual.
A situação torna-se particularmente delicada considerando os esforços agressivos da OpenAI para introduzir o ChatGPT no setor da educação. A empresa tem estabelecido parcerias com organizações como a Common Sense Media para criar guias para professores sobre como integrar a tecnologia na sala de aula. Estudos recentes, como um do Pew Research Center, mostram que um número crescente de jovens da Geração Z está a adotar o ChatGPT para trabalhos escolares.
Num documento de suporte destinado a clientes educacionais, a própria OpenAI reconhece que o ChatGPT "pode produzir resultados não apropriados para todas as audiências ou idades" e aconselha os educadores a "estarem atentos... ao usar [o ChatGPT] com estudantes ou em contextos de sala de aula".
Steven Adler, antigo investigador de segurança na OpenAI, comentou que as técnicas para controlar o comportamento dos chatbots de IA tendem a ser "frágeis" e falíveis, mas mostrou-se surpreendido com a facilidade com que o ChatGPT gerou conteúdo explícito para menores. "As avaliações deveriam ser capazes de detetar comportamentos como estes antes de um lançamento, por isso questiono-me o que aconteceu", disse ao TechCrunch.
Este problema junta-se a outros comportamentos estranhos reportados por utilizadores do ChatGPT na última semana, nomeadamente uma subserviência extrema, após atualizações ao modelo GPT-4o. O CEO da OpenAI, Sam Altman, reconheceu publicamente a existência de alguns problemas e afirmou que a empresa estava a "trabalhar em correções o mais rápido possível", embora não tenha mencionado especificamente a questão do conteúdo sexual para menores. A OpenAI reitera o seu compromisso em corrigir a falha, mas o episódio destaca os desafios persistentes na moderação de conteúdo e na proteção de menores em plataformas de IA generativa.
Nenhum comentário
Seja o primeiro!