O popular jogo online Roblox acaba de lançar uma nova funcionalidade baseada em inteligência artificial capaz de reformular linguagem inadequada de forma instantânea. Durante muito tempo, a plataforma utilizou filtros rigorosos que substituíam as palavras proibidas por uma série de cardinais (####), mas a empresa reconheceu que este método visual tornava as conversas confusas e difíceis de acompanhar, de acordo com o comunicado oficial.
Fim das interrupções visuais e foco no civismo
Com esta atualização, o sistema passa a substituir termos ou expressões ofensivas por alternativas mais adequadas sugeridas pelo modelo automatizado. Rajiv Bhatia, diretor de segurança da empresa, explicou que a implementação inicial se foca na eliminação de palavrões. Como exemplo prático, se um jogador escrever um insulto apressado no chat acompanhado de linguagem obscena, a ferramenta altera automaticamente a mensagem para um simples e inofensivo "Despacha-te!".
Sempre que uma mensagem for reescrita, todos os participantes da conversa vão visualizar uma indicação de que o texto final foi editado. Adicionalmente, o remetente original receberá um aviso a mostrar exatamente qual foi a parte censurada da sua submissão. É importante sublinhar que, apesar de a ferramenta disfarçar os insultos, os infratores que continuarem a usar linguagem abusiva vão continuar sujeitos a penalizações por violarem as políticas da comunidade. A ideia, segundo o executivo, é criar um ciclo de civismo, onde o retorno imediato ajuda a educar e a adaptar os comportamentos dos utilizadores.
Controlo de idades e o cerco das autoridades
A nova mecânica de reescrita já está ativa para contas com as idades verificadas e agrupadas em faixas etárias semelhantes, suportando todos os idiomas integrados na ferramenta de tradução da plataforma. Este passo surge pouco tempo depois de o jogo ter introduzido, em janeiro, um sistema obrigatório de verificação de idade, numa resposta direta a relatos de que estaria a lidar com um problema profundo de segurança infantil, envolvendo adultos que alegadamente usavam o título para aliciar crianças.
Atualmente, os mais novos com menos de 13 anos estão impedidos de usar a comunicação escrita fora de experiências específicas, enquanto os restantes apenas podem interagir com pessoas da sua idade. Contudo, estas medidas não travaram o avanço das autoridades judiciais. Em fevereiro, o Condado de Los Angeles avançou com um processo, argumentando que a marca tem perfeita noção de que a sua estrutura torna as crianças em "presas fáceis" para pedófilos. Mais recentemente, a Procuradoria-Geral do Louisiana apresentou igualmente uma ação legal contra a empresa, sustentando a acusação de que o jogo foi transformado num "parque público cheio de predadores sexuais" a caçar menores.
Nenhum comentário
Seja o primeiro!