A Google vai começar a permitir que mais projetos e sistemas usem o seu SynthID, uma tecnologia criada para marcar conteúdos criados por IA. Esta tecnologia encontra-se agora acessível em formato open source, permitindo a qualquer projeto de usar a mesma.
A ideia do SynthID será criar um sistema de marca de água para conteúdos que foram criados por ferramentas de IA, e que pode ser rapidamente identificado. Desta forma, os conteúdos criados de forma artificial podem ser rapidamente identificados.
Até agora, o SynthID encontrava-se apenas disponível para os conteúdos criados usando a IA da empresa, mas abrindo a tecnologia para qualquer plataforma, este pode ser usado por qualquer um. A ideia da Google será permitir que a tecnologia possa ajudar a desenvolver sistemas de IA responsáveis.
Sistemas de marca de água tornaram-se algo importante para qualquer modelo de treino de IA, e ajudam a prevenir a difusão de conteúdos potencialmente enganadores. Alguns países e estados já se encontram a estudar a necessidade de tornar as ferramentas de marcação de conteúdos de IA como algo obrigatório, e tendo em conta que a tecnologia de IA está cada vez mais presente no dia a dia, será certamente algo que não será inesperado de ver acontecer.
O SynthID foi apresentado pela Google em Agosto deste ano, e pode adicionar marcas de água invisíveis em vários conteúdos criados por IA, como imagens, áudio, texto e vídeos, facilitando a identificação dos mesmos em outros sistemas. O sistema encontra-se atualmente integrado no Gemini, e com a abertura do mesmo, espera-se que venha a ficar disponível para ainda mais plataformas.
Embora a Google considere que a tecnologia pode não prevenir completamente o uso de IA para fins de desinformação, ainda assim poderá ser uma tecnologia importante para ajudar a prevenir esses casos.
Qui 24 Out 2024 - 15:30 por rockandroll
