Mensagens anteriores

A plataforma Character.AI anunciou uma mudança drástica na forma como os utilizadores mais jovens interagem com a sua tecnologia. A partir desta semana, a empresa bloqueou o acesso aos seus chatbots tradicionais para todos os utilizadores com menos de 18 anos, lançando em alternativa a funcionalidade “Stories”, um novo formato focado na criação de ficção interativa.

Esta decisão surge num momento em que a empresa enfrenta um escrutínio crescente sobre a segurança das suas ferramentas e o impacto na saúde mental dos adolescentes.

Uma alternativa guiada e mais segura

A introdução das “Stories” visa oferecer uma experiência controlada, substituindo as conversas abertas e imprevisíveis por uma narrativa guiada. Ao contrário dos chatbots, que podem iniciar conversas e enviar mensagens não solicitadas, este novo formato permite que os utilizadores criem aventuras com as suas personagens favoritas num ambiente desenhado para ser mais seguro.

A mudança radical nas políticas da Character.AI segue-se a vários processos judiciais e críticas públicas que associam o uso excessivo destes assistentes virtuais a riscos de saúde mental e até casos de suicídio. A empresa, que tem vindo a limitar o acesso a menores ao longo do último mês, oficializou agora o corte total às conversas diretas para este grupo etário.

“As Stories oferecem uma forma guiada de criar e explorar ficção, em vez de um chat aberto”, explicou a empresa, destacando que a funcionalidade estará disponível juntamente com outras ferramentas multimodais, garantindo que os adolescentes continuam a interagir com as personagens num cenário onde a segurança é prioritária.

Reações mistas e pressão regulatória

A decisão de barrar o acesso aos chatbots gerou reações diversas na comunidade. No Reddit, alguns utilizadores adolescentes expressaram desilusão, mas também reconhecimento de que a medida pode ser necessária para combater a dependência. Um utilizador admitiu que, apesar da raiva inicial, sente-se aliviado porque o seu vício "pode finalmente acabar".

Este movimento preventivo da Character.AI alinha-se com o aumento da pressão legislativa, nomeadamente na Califórnia, que se tornou o primeiro estado norte-americano a regular os companheiros de IA. A nível nacional, nos EUA, também já existem propostas de lei para banir completamente este tipo de interação para menores.

Karandeep Anand, CEO da empresa, afirmou esperar que esta iniciativa estabeleça um padrão na indústria, reconhecendo que, para menores de 18 anos, os chats abertos "provavelmente não são o caminho ou o produto a oferecer", segundo o comunicado no blog oficial da Character.AI.