1. TugaTech » Internet e Redes » Noticias da Internet e Mercados
  Login     Registar    |                      
Siga-nos

TikTok com diferentes mãos a chegarem ao mesmo

 

O lançamento do Veo 3 da Google em maio representou um avanço significativo na geração de vídeo através de inteligência artificial, com a sua impressionante capacidade de criar clips que, por vezes, são difíceis de distinguir da realidade. Esta tecnologia abriu um novo leque de possibilidades criativas, mas o seu lado mais sombrio não demorou a manifestar-se. Um novo relatório revela como a ferramenta está a ser explorada para gerar e disseminar vídeos racistas na plataforma TikTok.

 

O lado negro da IA generativa

 

O problema, exposto num relatório da MediaMatters for America, aponta para uma tendência preocupante. Várias contas do TikTok estão a publicar vídeos curtos, criados com o Veo 3, que recorrem a temas de racismo e ódio, gerando um elevado nível de interação.

 

A maioria destes vídeos, com uma duração média de oito segundos e a marca de água "Veo" bem visível, retratam principalmente pessoas negras através de estereótipos criminosos ou desumanizantes. O conteúdo visa também imigrantes e a comunidade judaica, demonstrando a facilidade com que esta tecnologia pode ser utilizada para manipular e distorcer a realidade.

 

Filtros de segurança são fáceis de contornar

 

A Google sempre destacou a segurança e as barreiras de proteção ("guardrails") dos seus modelos de inteligência artificial. Tal como outros sistemas, o Veo 3 possui filtros para bloquear a criação de conteúdos que violem princípios éticos. No entanto, parece que estas defesas são mais frágeis do que o esperado e foram contornadas com relativa facilidade.

 

Parte do problema reside no facto de a IA não ter sido treinada para reconhecer todos os estereótipos subtis usados no dia a dia para expressar preconceito. Por exemplo, o modelo não compreende a "subtileza" de usar macacos para representar pessoas. Além disso, a ambiguidade nos prompts (instruções de texto) permite gerar conteúdo problemático sem acionar os alarmes do sistema. Testes externos, desenhados para avaliar estes filtros, confirmaram que era simples produzir este tipo de vídeos.

 

Moderação insuficiente nas plataformas

 

Tanto as políticas internas da Google como as do TikTok proíbem expressamente a criação e difusão de discurso de ódio. O TikTok é categórico: "Não permitimos qualquer discurso de ódio, comportamento de ódio ou promoção de ideologias de ódio".

 

Apesar das regras estritas, faltam ferramentas eficazes para as aplicar em larga escala. Um porta-voz do TikTok declarou à Ars Technica que, embora utilizem uma combinação de tecnologia e moderadores humanos, o volume de vídeos carregados diariamente ultrapassa a sua capacidade de revisão. Afirmou ainda que mais de metade das contas investigadas pela MediaMatters for America já tinham sido eliminadas antes da publicação do relatório. O problema é que, até serem removidos, os vídeos já acumularam milhares de visualizações, espalhando a sua mensagem tóxica.

 

Este fenómeno não é exclusivo do TikTok. Casos semelhantes foram detetados no X (anteriormente Twitter), uma rede social com uma moderação de conteúdo muito mais permissiva, onde a desinformação circula livremente. A situação agrava-se com a integração de IAs como o Grok, que se mostra incapaz de distinguir entre um vídeo real e um gerado artificialmente.

 

O maior receio é que isto seja apenas o início. A Google planeia integrar o Veo 3 diretamente no YouTube Shorts, o que poderá facilitar ainda mais a criação e viralização de conteúdo problemático numa das maiores plataformas de vídeo do mundo, colocando os seus sistemas de moderação à prova como nunca antes.




Aplicações do TugaTechAplicações TugaTechDiscord do TugaTechDiscord do TugaTechRSS TugaTechRSS do TugaTechSpeedtest TugaTechSpeedtest TugatechHost TugaTechHost TugaTech