A plataforma Character.AI vai lançar um conjunto de novas ferramentas de controlo parental, que infelizmente surgem depois de um grave incidente que ocorreu envolvendo a plataforma.
Esta nova funcionalidade, segundo a entidade, será focada em dar mais controlo aos pais para monitorizarem as atividades dos filhos e de menores dentro da plataforma.
O Character.AI é uma plataforma similar ao ChatGPT, mas que permite aos utilizadores interagirem com um avatar virtual, que pode ser usado para conversas sobre os mais variados temas, num formato mais “humano”. Toda a plataforma é baseada em conteúdos criados por IA, e focada em permitir ajudar a reduzir o isolamento dos utilizadores – embora alguns críticos apontem que pode fazer exatamente o contrário.
Recentemente a Character.AI esteve envolva em algumas críticas, depois de um menor de 14 anos ter perdido a vida depois de o chatbot o ter encorajado a cometer suicídio. Os pais do menor acusam a plataforma de não monitorizar as atividades dos seus sistemas, e de não aplicarem filtros para que situações deste formato não se realizem.
Em resposta ao caso, a Character.AI defende-se com a primeira emenda nos EUA, que protege os conteúdos criados por IA, e o que inclui o que seja dito pelas plataforma. Além disso, a plataforma faz-se ainda valer dos seus termos, que indicam que a IA pode apresentar informações incorretas ou inválidas, e que aplicar medidas contra o que a IA diga vai contra a liberdade de expressão nos EUA.
Depois das críticas, a plataforma decidiu lançar a sua nova ferramenta de controlo parental, que se foca em ajudar os adultos a controlarem e monitorizarem as atividades dos menores dentro da plataforma. Este sistema permite aos mesmos aplicarem limites sobre o tempo que os menores podem usar a plataforma, ou os temas que podem discutir.
É ainda enviado um relatório semanal para os pais sobre as atividades realizadas no Character.AI pelos menores – embora os mesmos tenham algumas informações das conversas, as mensagens não são diretamente partilhadas.
Estas novas ferramentas devem ficar disponíveis para os utilizadores durante as próximas semanas.
Nenhum comentário
Seja o primeiro!