A Google anunciou, durante o seu evento Google I/O, uma nova ferramenta denominada SynthID Detector. O objetivo é claro: permitir a verificação da autenticidade de conteúdos, identificando se foram ou não produzidos com recurso às suas ferramentas de inteligência artificial.
Numa publicação no blog da Google DeepMind, Pushmeet Kohli, um dos responsáveis da divisão, descreve o SynthID Detector como um "portal de verificação". Este portal foi concebido para "identificar rápida e eficientemente conteúdo gerado por IA com tecnologia Google". Adicionalmente, a ferramenta é capaz de "destacar que partes do conteúdo são mais suscetíveis de terem sido marcadas com SynthID".
Estas marcas de água digitais, designadas SynthID, são aplicadas a diversos tipos de criações geradas por inteligência artificial, incluindo imagens, texto, áudio e vídeos. Kohli especifica que isto abrange conteúdos criados pelos modelos da Google como o Gemini, Imagen, Lyria e Veo.
O que é o SynthID Detector e como funciona?
O SynthID Detector surge como uma resposta à crescente necessidade de transparência na era da inteligência artificial generativa. A ideia é fornecer aos utilizadores uma forma de discernir entre conteúdo criado por humanos e aquele gerado ou auxiliado por algoritmos da Google.
Marcas de água SynthID nos modelos Gemini, Imagen, Lyria e Veo
A tecnologia SynthID integra marcas de água diretamente nos ficheiros gerados pelos modelos de IA da Google. Estas marcas são impercetíveis ao olho humano mas detetáveis pelo novo portal. Desta forma, a Google pretende criar um rasto digital que permita identificar a origem de imagens, áudio, vídeo e texto provenientes dos seus sistemas de IA mais avançados, como é o caso do popular Gemini, do gerador de imagens Imagen, do modelo de áudio Lyria e da recente ferramenta de vídeo Veo.
Como verificar os seus ficheiros
O processo de verificação, segundo a descrição de Kohli, será relativamente simples: Ao carregar uma imagem, faixa de áudio, vídeo ou excerto de texto criado com as ferramentas de IA da Google, o portal analisará o ficheiro em busca da marca de água SynthID. Caso uma marca de água seja detetada, o portal irá realçar as porções específicas do conteúdo que têm maior probabilidade de estarem marcadas. No caso de ficheiros de áudio, o portal identificará os segmentos específicos onde a marca SynthID é detetada. Para imagens, indicará as áreas onde a presença da marca de água é mais provável.
Disponibilidade: Lançamento faseado e lista de espera
De acordo com Pushmeet Kohli, a Google está a iniciar a implementação da ferramenta para um grupo de "testadores iniciais". Posteriormente, e conforme Kohli indicou ao The Verge, "após a fase inicial de testes, o portal será gradualmente disponibilizado aos utilizadores que se inscreverem na lista de espera para obter acesso ao SynthID Detector". O responsável acrescentou ainda: "Iremos recolher os ensinamentos deste grupo de profissionais e trabalhar para implementar a transparência de conteúdo de forma mais ampla."
A eficácia e a taxa de adoção desta ferramenta pelo público em geral são ainda uma incógnita. No entanto, a sua existência representa um passo importante da Google no sentido de promover uma maior clareza sobre a origem dos conteúdos digitais numa altura em que a inteligência artificial generativa se torna cada vez mais omnipresente.
Nenhum comentário
Seja o primeiro!