A Malásia decidiu reverter a proibição imposta ao Grok, o chatbot de Inteligência Artificial da X (antigo Twitter), tornando-se um dos primeiros países a restaurar o acesso à ferramenta após um bloqueio temporário. A decisão surge depois de a empresa ter demonstrado às autoridades locais que implementou as salvaguardas necessárias para impedir a criação de conteúdos ilícitos.
O bloqueio inicial, que foi acompanhado por uma medida semelhante na Indonésia, foi desencadeado por uma vaga de relatórios alarmantes. A ferramenta estava a ser utilizada para gerar imagens "deepfake" de cariz sexual, envolvendo pessoas reais, incluindo mulheres e crianças, o que levou a uma ação rápida por parte dos reguladores.
Autoridades mantêm vigilância apertada
A Comissão de Comunicações e Multimédia da Malásia (MCMC) tinha declarado anteriormente que as restrições permaneceriam em vigor até que a X Corp e a sua subsidiária xAI provassem ter resolvido as falhas de segurança. Agora, as autoridades parecem estar satisfeitas com as alterações efetuadas pela empresa de Elon Musk.
Numa declaração oficial divulgada pela MCMC, o regulador confirmou que a empresa implementou as medidas de segurança exigidas para evitar o uso indevido da plataforma. No entanto, o organismo sublinhou que continuará a monitorizar a rede social de perto. As autoridades deixaram um aviso claro de que quaisquer novas violações da segurança dos utilizadores ou das leis malaias serão tratadas com firmeza.
A controvérsia dos deepfakes e a pressão global
Apesar do levantamento do bloqueio na Malásia, o Grok continua a enfrentar escrutínio noutras partes do mundo. A Indonésia mantém as suas restrições, e no Reino Unido, o regulador Ofcom abriu uma investigação formal à X ao abrigo da Lei de Segurança Online, na sequência do escândalo de imagens geradas sem consentimento.
A dimensão do problema foi recentemente quantificada pelo Center for Countering Digital Hate (CCDH). A organização sem fins lucrativos estimou que, num período de apenas 11 dias, entre o final de dezembro e o início de janeiro, a IA da X gerou aproximadamente 3 milhões de imagens sexualizadas, das quais cerca de 23.000 envolviam crianças.
Em resposta à crise, a X alterou as suas políticas de edição de imagem. Desde o dia 14 de janeiro, a empresa afirmou que o chatbot deixaria de permitir a edição de imagens de pessoas reais em trajes reveladores, como biquínis, numa tentativa de travar a criação de conteúdos explícitos não consensuais.
Nenhum comentário
Seja o primeiro!