Com a proliferação de ferramentas de inteligência artificial (IA) na internet, a preocupação com os deepfakes tem vindo a aumentar. Agora que tecnologias como o Sora 2 da OpenAI se tornam mais capazes e acessíveis, tanto figuras públicas como utilizadores comuns procuram maior controlo sobre a sua imagem. Respondendo a esta necessidade, o YouTube começou a lançar uma nova ferramenta de deteção de semelhança para combater deepfakes indesejados e facilitar a sua remoção da plataforma.
Numa fase inicial, esta funcionalidade está a ser disponibilizada aos membros do Programa de Parceiros do YouTube. De momento, a ferramenta consegue identificar casos em que o rosto de uma pessoa foi modificado com recurso a IA, mas situações em que apenas a voz foi alterada sem consentimento poderão não ser detetadas.
Como funciona a nova ferramenta anti-deepfake?
Para utilizar a ferramenta, os criadores terão de submeter um documento de identificação oficial e uma curta video-selfie ao YouTube. Este processo de verificação serve para confirmar a identidade do utilizador e fornecer ao sistema o material de origem necessário para as suas análises. A partir daí, o funcionamento é semelhante ao do Content ID, o conhecido sistema do YouTube para encontrar áudio protegido por direitos de autor.
A tecnologia irá analisar os vídeos carregados na plataforma em busca de possíveis correspondências. Caso seja encontrada uma correspondência, o utilizador pode rever o conteúdo e, se considerar que a sua imagem foi usada indevidamente, sinalizar o vídeo para remoção, como explicado pela plataforma num vídeo de apresentação.
Limitações e o futuro da proteção
Apesar de ser um passo importante na luta contra a manipulação de conteúdos, a ferramenta tem ainda um âmbito limitado. A incapacidade de detetar vozes alteradas por IA é uma das principais lacunas, num momento em que a clonagem de voz se torna cada vez mais sofisticada.
Ainda assim, esta iniciativa do YouTube representa um avanço significativo na proteção da identidade online, dando aos criadores uma arma mais eficaz para combater o uso não autorizado da sua imagem e mitigar os perigos associados aos deepfakes.
Nenhum comentário
Seja o primeiro!