A OpenAI decidiu atrasar o lançamento do modo para adultos no ChatGPT. Quando a funcionalidade ficar disponível, será estritamente limitada a texto, deixando de fora a geração de imagens, vídeos ou voz com teor explícito.
Segundo os detalhes revelados pelo The Wall Street Journal, a empresa está a deparar-se com desafios técnicos complexos e preocupações internas. A funcionalidade tinha sido inicialmente anunciada em outubro por Sam Altman, indicando que a empresa tinha conseguido mitigar os problemas de saúde mental associados ao modelo, permitindo a introdução de material erótico para adultos verificados. No entanto, o lançamento previsto para este trimestre foi adiado no início deste mês para dar prioridade a outras tarefas, sem que exista uma nova data definida.
Os desafios técnicos e as falhas na verificação de idade
Um dos maiores obstáculos da OpenAI prende-se com o sistema de previsão de idade desenvolvido para afastar as crianças destes conteúdos. Este sistema classifica incorretamente menores como adultos em cerca de 12% das vezes. Considerando que a plataforma atrai cerca de 100 milhões de utilizadores com menos de 18 anos todas as semanas, esta margem de erro pode expor milhões de jovens a conversas sexualizadas. Um porta-voz da empresa indicou que os algoritmos apresentam um desempenho semelhante ao resto da indústria, mas que nunca serão totalmente infalíveis.
A moderação de conteúdos também tem contribuído para os atrasos. A criadora do assistente virtual tem tido dificuldades em levantar as restrições para conteúdos sensíveis, mantendo simultaneamente um bloqueio rigoroso a cenários prejudiciais, como comportamentos não consensuais ou abuso infantil.
A pressão interna e a concorrência no mercado
As preocupações não se limitam apenas à tecnologia. Um conselho de conselheiros selecionado pela OpenAI avisou a empresa em janeiro que o modo para adultos podia promover uma dependência emocional prejudicial. Um dos membros do conselho referiu mesmo o risco de se criar um assistente que atue como um incentivo ao suicídio com contornos sexuais.
A decisão de manter as interações restritas a texto facilita a navegação em torno de regulamentações internacionais, como a Lei de Segurança Online do Reino Unido, que exige verificação de idade para imagens pornográficas, mas não para texto erótico. Esta abordagem contrasta com as ofertas da concorrência. Na semana passada, Elon Musk anunciou que o gerador de imagens e vídeos do Grok, da xAI, tem autorização para produzir qualquer conteúdo permitido num filme para maiores de idade.
Nenhum comentário
Seja o primeiro!