A Apple encontra-se a desenvolver um novo sistema que poderá ajudar a identificar conteúdos potencialmente abusivos nas galerias de fotos dos utilizadores, sem comprometer diretamente a privacidade dos mesmos.
De acordo com algumas fontes, a Apple encontra-se a desenvolver um novo sistema baseado em hashs, que será capaz de identificar as fotos capturadas pelos utilizadores no armazenamento do dispositivo que sejam de conteúdos como abusos de menores e pornografia infantil.
Basicamente, este sistema iria funcionar de forma local nos dispositivos, sem que nenhuma foto ou conteúdo seja diretamente enviado para os servidores da empresa para análise. O sistema usa uma espécie de “impressão digital” das fotos para comparar as mesmas com outras similares de casos conhecidos de abusos.
A Apple já tinha confirmado que usa este mesmo sistema no seu sistema do iCloud, com o objetivo de identificar conteúdos ilegais. Mas o objetivo neste caso passa por realizar a verificação de forma local, diretamente nos dispositivos dos utilizadores.
No entanto, ainda existem algumas questões que a Apple necessita de resolver, sobretudo relacionadas com o próprio funcionamento destes sistemas. Por normal, sistemas de Hashing possuem uma elevada possibilidade de falsos positivos, e estão longe de serem o mecanismo mais fiável para identificação de conteúdos.
Além disso, é importante ter em conta que, enquanto as fotos que estejam nos dispositivos dos utilizadores estão tecnicamente “seguras”, as que se encontra no iCloud da Apple estão diretamente nos servidores da empresa, e não estão encriptadas. Portanto, se as autoridades requererem o acesso a esses conteúdos, teoricamente o mesmo pode ser realizado, já que as chaves para encriptação e desencriptação dos mesmos são geridas pela Apple diretamente – não que isso aconteça, mas teoricamente existe essa possibilidade.
O sistema de hashing poderá ajudar a identificar casos de possíveis abusos num formato mais seguro e privado para todos.
Nenhum comentário
Seja o primeiro!