As autoridades indianas emitiram uma ordem severa dirigida à rede social de Elon Musk, exigindo alterações imediatas no seu chatbot de Inteligência Artificial. O governo da Índia quer que a plataforma implemente mudanças técnicas e processuais urgentes no Grok para travar a geração de conteúdos considerados "obscenos", incluindo imagens alteradas por IA que sexualizam indivíduos, nomeadamente mulheres.
Esta sexta-feira, o Ministério da Tecnologia da Informação da Índia ordenou que o X tomasse medidas corretivas para restringir a criação de material que envolva "nudez, sexualização, conteúdo sexualmente explícito ou ilegal". Segundo avança o TechCrunch, a empresa recebeu um prazo apertado de 72 horas para submeter um relatório de ação, detalhando os passos concretos tomados para impedir o alojamento ou a disseminação deste tipo de conteúdo proibido por lei.
Ameaça ao estatuto de "Safe Harbor"
A ordem governamental carrega um peso significativo para o futuro das operações da rede social no país. O documento alerta que o incumprimento destas diretrizes pode colocar em risco as proteções de "safe harbor" do X. Na legislação indiana, tal como em muitas outras jurisdições, este estatuto confere às plataformas digitais imunidade legal relativamente aos conteúdos gerados pelos seus utilizadores. Perder esta proteção significaria que a empresa poderia ser responsabilizada criminalmente pelo que é publicado na sua rede.
Esta intervenção surge na sequência de várias denúncias de utilizadores e legisladores. Foram partilhados diversos exemplos onde o Grok foi utilizado para alterar imagens de pessoas — maioritariamente mulheres — fazendo-as parecer estar a usar biquínis ou em situações de nudez sugerida. O caso ganhou tração política após uma queixa formal da parlamentar indiana Priyanka Chaturvedi. Além disso, surgiram relatos de que o chatbot estaria a gerar imagens sexualizadas envolvendo menores, uma falha que a própria plataforma reconheceu ter sido causada por lapsos nos seus mecanismos de segurança.
Falhas de segurança persistem
Apesar de o X ter admitido os problemas e removido algumas das imagens reportadas, testes realizados pela imprensa internacional indicam que as salvaguardas continuam a ser insuficientes. No momento da publicação desta ordem, ainda era possível gerar imagens alteradas por IA na plataforma que colocavam mulheres em indumentária de banho contra a sua vontade.
Esta medida insere-se num esforço mais alargado do governo indiano para regular o espaço digital. No início desta semana, o ministério já havia emitido um aviso geral a todas as redes sociais, relembrando que o cumprimento das leis locais sobre obscenidade é um pré-requisito obrigatório para manterem a sua imunidade legal. O aviso foi claro: o incumprimento será encarado com seriedade e poderá resultar em consequências legais estritas contra as plataformas e os seus responsáveis, sem necessidade de novos avisos.
Nenhum comentário
Seja o primeiro!