O Facebook não possui propriamente o melhor histórico no que respeita ao combate de conteúdos enganadores ou de ódio dentro da sua plataforma, mas a empresa tem vindo a implementar medidas para tentar contornar este problema crescente.
Com a apresentação do seu relatório de transparência, o Facebook revela também um conjunto de novas funcionalidades para combater a propagação de mensagens de ódio, bullying ou de desinformação na plataforma, utilizando para tal em mais foco a Inteligência Artificial.
Não apenas sobre o COVID-19, o Facebook tem vindo a ser palco da divulgação de várias teorias relacionadas com a pandemia, muitas vezes associadas também com ataques ou conteúdos de ódio contra terceiros. A empresa começou por juntar-se a 60 entidades a nível mundial para validar informações partilhadas na plataforma como verdadeiras ou não, mas estas verificações também poderiam ser facilmente contornadas com uma pequena alteração em textos ou conteúdos. Agora a empresa pretende aproveitar a IA para melhorar os seus sistemas de forma automática.
Apelidado de “SimSearchNet”, o novo sistema do Facebook irá analisar os conteúdos partilhados na plataforma e identificar os que possam conter informação incorreta ou enganadora, mesmo que esta informação tenha sido modificada de alguma forma.
Quando um dos parceiros valida uma mensagem como falsa, os dados da mesma são integrados no sistema da SimSearchNet, que passará a utilizar essa informação para analisar – por machine learning – outras mensagens similares que possam ter conteúdo idêntico.
No final, o objetivo passa por tentar abranger o máximo de mensagens falsas possíveis, ao mesmo tempo que se diminui a sobrecarga na analise manual dos conteúdos. Na mensagem de anuncio desta funcionalidade, partilhada no blog da empresa, o Facebook afirma que já foram removidos 50 milhões de mensagens contendo informação falsa sobre o COVID-19, sendo que mais de 2.5 milhões eram relacionados com a venda de itens relacionados com a pandemia de forma enganadora.
A empresa também refere que esta tecnologia vai ser utilizada para detetar mensagens com conteúdos de ódio ou ataque a terceiros. O sistema de IA da rede social foi capaz de identificar mais de 88.8% das mensagens eliminadas da plataforma, e relacionadas com ataques de ódio, durante o mês de Abril.
Este novo sistema de IA vai também começar a identificar conteúdos de ódio que sejam partilhados no formato de imagens ou até memes. Os responsáveis da rede social revelam que o sistema estudou mais de 10.000 imagens criadas artificialmente com mensagens de ódio contra terceiros, de forma a identificar as que sejam de origem maliciosa.
Nenhum comentário
Seja o primeiro!