A identificação de conteúdos gerados por inteligência artificial ganhou um novo capítulo com a resposta da Meta às crescentes pressões regulatórias. De acordo com o The Verge, a tecnológica norte-americana lançou discretamente o Content Seal, uma tecnologia de marca de água invisível concebida para sinalizar imagens criadas pelos seus modelos. A novidade surge após o comité de supervisão da empresa ter exigido medidas contra a propagação de deepfakes.
Apenas focada em mitigar a desinformação, a ferramenta acabou por ser introduzida quase como uma nota de rodapé no anúncio das suas novas soluções de geração multimédia. A indústria já conta com padrões consolidados de concorrentes, o que levanta sérias dúvidas sobre a necessidade de a empresa criar um sistema proprietário e isolado nesta fase.
O funcionamento e as restrições da nova ferramenta
O Content Seal funciona de forma semelhante ao SynthID da Google, integrando um sinal de proveniência oculto no próprio ficheiro. Esta marca permanece invisível ao olho humano e, segundo a Meta, deve resistir a edições comuns como a compressão, a alteração de tamanho ou capturas de ecrã. Atualmente, a proteção está restrita às imagens geradas pelo modelo Muse, deixando de fora os modelos mais antigos.
Para quem utiliza estas plataformas, a verificação apresenta entraves práticos imediatos. A validação das marcas de água exige o recurso a um site específico da Meta, que impõe um limite diário de consultas por utilizador. Ao contrário do ecossistema da Google, que integra a deteção no seu próprio chatbot, o utilizador comum enfrenta aqui barreiras à usabilidade em tempo real.
Falhas nos testes e a contradição interna
A eficácia do sistema está longe de ser consensual e já mostra fragilidades severas no terreno. Testes independentes realizados pela agência Reuters revelaram que o Content Seal falhou a deteção em mais de metade das imagens testadas após estas terem sido cortadas. Adicionalmente, ferramentas rivais e portais de verificação padrão não conseguem reconhecer os sinais da Meta, limitando o impacto fora do seu ecossistema.
Esta indefinição estende-se à liderança da empresa, com o responsável do Instagram, Adam Mosseri, a demonstrar posições contraditórias em entrevistas recentes. O executivo defendeu que a filtragem direta pode não ser o caminho ideal, sugerindo que talvez seja mais prático certificar os conteúdos reais do que perseguir os sintéticos. Para o mercado europeu, onde a regulação da IA é estrita, esta abordagem fragmentada reforça a necessidade de os utilizadores manterem um ceticismo redobrado perante o que veem online.
Nenhum comentário
Seja o primeiro!