A Meta, empresa-mãe do Facebook e Instagram, intensificou a sua luta contra as aplicações "nudify", que utilizam inteligência artificial para gerar imagens de nudez não consentida de celebridades e outros utilizadores. A gigante tecnológica anunciou que está a processar o criador de uma destas apps, que era frequentemente publicitada nas suas plataformas, e a implementar novas medidas para impedir anúncios semelhantes.
A ação surge meses após vários investigadores e jornalistas terem alertado para a proliferação destas aplicações.
O processo judicial e a publicidade massiva
O alvo principal da ação legal da Meta é a Joy Timeline HK Limited, uma empresa com sede em Hong Kong responsável pela aplicação Crush AI e outras semelhantes. Segundo a Meta, a decisão de avançar para os tribunais foi tomada "após múltiplas tentativas da Joy Timeline HK Limited de contornar o processo de revisão de anúncios da Meta e continuar a colocar estes anúncios, depois de terem sido repetidamente removidos por violarem as nossas regras", conforme detalhado num comunicado oficial.
A escala do problema foi exposta por uma investigação da CBS News, que identificou "centenas" de anúncios nas plataformas da Meta a promover apps que permitem "remover a roupa" de imagens. A Crush AI, em particular, revelou-se uma anunciante prolífica. Alexios Mantzarlis, diretor da Security, Trust and Safety Initiative da Cornell Tech, reportou em janeiro que a aplicação já tinha exibido mais de 8.000 anúncios no Facebook e Instagram desde o outono passado.
Nova tecnologia para travar os "deepfakes" de nudez
Para além da via legal, a Meta está a reforçar as suas defesas tecnológicas. A empresa anunciou o desenvolvimento de "nova tecnologia especificamente concebida para identificar este tipo de anúncios — mesmo quando os próprios anúncios não incluem nudez". Esta tecnologia será complementada por sistemas de correspondência para encontrar e remover cópias de anúncios de forma mais célere.
A Meta está também a colaborar com especialistas externos e equipas internas para expandir a lista de termos, frases e emojis relacionados com segurança que os seus sistemas são treinados para detetar. Num esforço mais amplo, a empresa planeia partilhar informações relevantes sobre entidades que abusam da sua plataforma com outras empresas tecnológicas, incluindo os proprietários das lojas de aplicações.
Um problema que vai além das "nudify apps"
As aplicações que geram nudez falsa não são as únicas a explorar a plataforma de publicidade da Meta. A empresa tem enfrentado dificuldades em conter anunciantes que utilizam vídeos de figuras públicas manipulados por IA para promover esquemas fraudulentos.
Recentemente, o Conselho de Supervisão independente da Meta criticou a empresa por uma aplicação deficiente das suas próprias regras que proíbem este tipo de anúncios. A nova postura mais agressiva contra as "nudify apps" pode sinalizar uma tentativa de responder a estas críticas e de combater de forma mais eficaz a disseminação de "deepfakes" maliciosos nas suas redes sociais.
Nenhum comentário
Seja o primeiro!