Mensagens anteriores

A popular plataforma de conversação com inteligência artificial, Character AI, anunciou um conjunto de medidas rigorosas para aumentar a segurança dos seus utilizadores adolescentes. As mudanças, que incluem a remoção das conversas de formato aberto para menores de 18 anos, surgem após um período de críticas e preocupações levantadas por especialistas, pais e reguladores.

Numa comunicação partilhada no seu blogue oficial, a empresa detalhou as novas regras, reconhecendo que representam uma alteração significativa na experiência dos seus utilizadores mais jovens, mas sublinhando que acredita ser "a decisão correta".

O fim das conversas sem limites

A medida mais impactante é a eliminação total das conversas abertas para utilizadores com menos de 18 anos, que será implementada o mais tardar até 25 de novembro. Até essa data, a plataforma irá limitar progressivamente o tempo de conversação, começando com um máximo de duas horas diárias, que será reduzido nas próximas semanas.

Para manter os jovens na plataforma, a Character AI planeia lançar novas funcionalidades criativas, como a criação de vídeos, histórias e transmissões em direto com as suas "Personagens" de IA.

Verificação de idade e um laboratório de segurança

Outra novidade é a implementação de um sistema de verificação de idade. A empresa irá recorrer a um modelo de desenvolvimento próprio, combinado com ferramentas de terceiros como a Persona, para garantir que os utilizadores têm acesso apenas a experiências apropriadas para a sua faixa etária.

Paralelamente, a Character AI vai criar e financiar um "AI Safety Lab", um laboratório independente e sem fins lucrativos. Este centro será dedicado à inovação em técnicas de segurança e alinhamento para futuras funcionalidades de entretenimento com IA, focando-se na colaboração e partilha de conhecimento com outras entidades.

Esta decisão surge num contexto de forte escrutínio sobre o impacto da aplicação. Em 2024, a plataforma foi criticada após um jovem se ter isolado da sua família devido a conversas profundas com a IA, tendo, alegadamente, recorrido à aplicação antes de pôr termo à sua própria vida. A restrição das conversas abertas para os mais novos poderá ser um passo importante para prevenir que incidentes semelhantes se repitam e para tornar a plataforma um ambiente mais seguro.