Os conteúdos deepfake têm vindo a aumentar de forma considerável pela Internet, e isso é algo perigoso para os consumidores tradicionais. Em parte, porque estes conteúdos são difíceis de identificar como sendo “falsos”.
Existem atualmente sistemas capazes de criar replicas quase perfeitas de uma pessoa a dizer o que bem se pretende. Mas enquanto a tecnologia para criar estes deepfakes melhorou, também foi melhorando os sistemas que permite identificar este género de conteúdos.
Os investigadores Xin Yang, Yuezin Li e Siwei Lyou revelaram ter desenvolvido um novo sistema de identificação de deepfakes, que é capaz de identificar quando um conteúdo é criado artificialmente através do uso de inteligência artificial.
A tecnologia foi registada na Universidade de Cornell, nos Estados Unidos da América, e apesar de se encontrar numa fase inicial de desenvolvimento, está a ter bons resultados.
Esta tecnologia é capaz de analisar vários aspectos de um vídeo, de forma a identificar quando uma pessoa que se encontra no mesmo foi criada de forma artificial ou não através de IA. Detalhes como o piscar dos olhos ou o movimento dos vários músculos faciais são tidos em conta para identificar a possibilidade de se tratar de um conteúdo falso.
O mesmo se aplica a conteúdo sonoro, onde a voz é analisada para identificar possíveis casos onde tenha sido criada de forma artificial.
Nas pesquisas, os investigadores identificaram que é impossível para a Inteligência artificial – nesta fase – criar um retrato perfeito do rosto humano. Existem sempre pequenos detalhes que escapam do controlo dos criadores de deepfakes, e é exatamente isso que este sistema analisa para identificar conteúdo falso partilhado online.
O objetivo final passa por fornecer esta tecnologia a grandes empresas e plataformas, como forma de identificar conteúdo que seja potencialmente falso e esteja a ser partilhado por outros utilizadores. Como exemplo, as redes sociais poderiam beneficiar deste sistema para identificar conteúdo falso que seja partilhado pelos seus utilizadores, marcando o mesmo para que outros não sejam enganados.
Nenhum comentário
Seja o primeiro!