As redes sociais enfrentam uma corrida contra o tempo na Índia. O governo local determinou que as plataformas digitais devem identificar e remover deepfakes de forma proativa. Empresas como a Meta, dona do Instagram, e o X têm até ao próximo dia 20 de fevereiro para implementar as novas medidas de controlo exigidas pelas autoridades.
A Índia estabeleceu um novo padrão de exigência para as gigantes da tecnologia que operam no país. Através de uma alteração às Regras de Tecnologia da Informação, o governo exige agora que qualquer conteúdo gerado ou manipulado por sistemas de IA seja devidamente identificado e, em casos de ilegalidade, removido num curto espaço de tempo.
Novas regras exigem rótulos e metadados permanentes
O regulamento é rigoroso e foca-se no combate direto à desinformação. As redes sociais são agora obrigadas a adotar mecanismos técnicos que impeçam não só a partilha, mas também a própria criação de material sintético que viole as leis locais. Esta obrigatoriedade estende-se a ficheiros de áudio, vídeo e imagem, servindo de teste de esforço para os atuais sistemas de moderação.
Entre os principais requisitos destaca-se a inclusão de metadados permanentes em todos os conteúdos produzidos por inteligência artificial. As plataformas devem ainda aplicar rótulos claros e visíveis, permitindo que qualquer utilizador identifique de imediato a natureza artificial do que está a visualizar. Adicionalmente, as empresas têm de disponibilizar ferramentas para verificar as declarações de uso de tecnologia feitas pelos utilizadores e garantir uma remoção acelerada de materiais denunciados como ilegais.
O desafio técnico das gigantes tecnológicas
Com cerca de mil milhões de utilizadores de internet, a Índia representa um dos mercados mais importantes do mundo para as redes sociais. No entanto, as obrigações impostas colocam as empresas numa situação delicada, uma vez que as ferramentas de deteção automática ainda apresentam falhas significativas. Especialistas do setor apontam que a exigência de uma solução eficaz num prazo de poucos dias é um enorme desafio técnico.
A pressão é particularmente elevada para plataformas como o X, que tem estado sob escrutínio devido à propagação de conteúdos manipulados. O problema, contudo, não se limita apenas às redes sociais, estendendo-se também às lojas oficiais de aplicações para Android e iOS, onde continuam disponíveis diversas ferramentas capazes de gerar estes conteúdos sem filtros de segurança.
Este cenário, conforme detalhado pelo The Verge, serve como um barómetro global para as soluções que as tecnológicas têm vindo a prometer para moderar o conteúdo sintético em larga escala.
Nenhum comentário
Seja o primeiro!