O chatbot de inteligência artificial da X, conhecido como Grok, está novamente acessível na Indonésia. O país decidiu levantar o bloqueio imposto à ferramenta, que tinha sido sancionada após ter sido utilizada para gerar milhões de imagens deepfake de cariz sexual, muitas das quais envolviam menores.
A decisão foi anunciada hoje através de um comunicado oficial do Ministério da Comunicação e Assuntos Digitais da Indonésia. A entidade reguladora confirmou que a plataforma social de Elon Musk está autorizada a retomar o serviço no país, mas o funcionamento do chatbot ficará sob uma "lupa" regulatória para prevenir futuras violações.
Promessas de segurança e vigilância contínua
Para conseguir reverter a proibição, a equipa da X teve de apresentar garantias concretas às autoridades indonésias. Segundo a agência governamental, a empresa enviou uma carta detalhada onde especifica as várias medidas de segurança implementadas recentemente para impedir o uso indevido do Grok na criação de conteúdos explícitos não consensuais.
No entanto, o regresso não é incondicional. Alexander Sabar, diretor-geral de supervisão do espaço digital do ministério, afirmou no comunicado que a agência não vai confiar apenas na palavra da empresa. As autoridades planeiam testar estas novas medidas de forma contínua e deixaram um aviso claro: se o chatbot for apanhado novamente a difundir conteúdo ilegal ou a violar as leis de proteção de menores do país, será banido de imediato.
Um problema global de moderação
Este episódio na Indonésia é apenas o mais recente capítulo de uma série de desafios legais que a ferramenta da X tem enfrentado na Ásia. No início deste ano, a Indonésia, juntamente com a Malásia e as Filipinas, bloqueou o acesso à IA depois de terem sido detetados casos graves de geração de imagens falsas de mulheres e crianças sem o seu consentimento.
Tal como aconteceu agora na Indonésia, as Filipinas e a Malásia acabaram por levantar as suas proibições após a empresa prometer melhorias, mantendo também uma postura de vigilância ativa. Fora do continente asiático, os problemas de moderação do chatbot também atraíram a atenção de reguladores no Ocidente, com investigações em curso no Reino Unido e nos Estados Unidos, nomeadamente na Califórnia, onde o procurador-geral está a analisar a atuação da empresa.
Nenhum comentário
Seja o primeiro!