Recentemente a Apple revelou uma nova funcionalidade que vai em breve ser integrada nos seus sistemas e no iCloud Fotos, que basicamente permite à empresa analisar as imagens para identificar conteúdos que possam ser considerados material abusivo de menores – e alertando as autoridades na eventualidade desse conteúdo ser descoberto.
Este novo sistema tem levantado algumas questões a nível da privacidade dos utilizadores, mas é importante ter em conta que este género de sistemas não é recente. Na realidade, existem vários outros serviços online que usam os mesmos para identificar conteúdos abusivos, e existem casos relatados de utilizadores que foram detidos pelas autoridades devido á existência dos mesmos.
O caso de John Henry Skillern é um exemplo. Este homem de 41 anos foi detido nos EUA por, supostamente, enviar conteúdos de abusos de menores para um amigo. Um dos motivos pelos quais as autoridades conseguiram dar o crime como provado foi derivado da existência de um mecanismo de análise de conteúdos abusivos de menores... no Gmail.
O suspeito, ao que tudo indica, enviava os conteúdos a partir da sua conta pessoa do Gmail, sendo que foi a própria Google a alertar as autoridades sobre o possível envio dos conteúdos derivado da análise que a empresa realiza nesse sentido.
O mesmo sistema que a Apple se encontra agora a revelar para a sua plataforma, na realidade, não será algo novo no mercado, e várias outras entidades aplicam o mesmo como forma de garantir que os seus serviços não são usados para atividades ilegais.
A Google é apenas um exemplo das que aplica. No entanto, a lei obriga a que qualquer empresa, caso tenha conhecimento da existência de conteúdos abusivos de menores nas suas plataformas, deverá comunicar essa situação às autoridades e fornecer todos os detalhes que seja possíveis para identificar os autores dos mesmos.
Tal como a Apple afirma que o sistema irá ser criado a pensar na privacidade dos utilizadores, e apenas analisa os conteúdos que sejam realmente considerados como abusivos de menores, a Google também afirma que o seu sistema é usado com vista a prevenir que conteúdos de abusos sejam partilhados ou armazenados nos seus serviços.
No caso da Google, a empresa usa a tecnologia PhotoDNA da Microsoft para realizar esta análise e identificar os conteúdos. Esta tecnologia também é usada em plataformas como o Twitter e Facebook, tanto para mensagens publicadas de forma geral na plataforma como através de comunicações diretas em Mensagens Privadas.
Além disso, este sistema não se aplica apenas a fotos. No caso da Google, a empresa também possui o seu próprio sistema de Vídeo ID, que identificar os conteúdos abusivos em filmes armazenados na plataforma, independentemente da localização dos mesmos – YouTube, Google Drive, Gmail, entre outros serviços da empresa.
Nenhum comentário
Seja o primeiro!