A empresa de inteligência artificial de Elon Musk, a xAI, está a enfrentar um processo judicial nos Estados Unidos por alegadamente permitir que os seus modelos gerem imagens íntimas abusivas de menores. Segundo informações avançadas pelo TechCrunch, a ação coletiva foi interposta nesta segunda-feira por três queixosas anónimas num tribunal federal da Califórnia.
Falta de segurança na inteligência artificial
As queixosas, identificadas como Jane Doe 1, Jane Doe 2 e Jane Doe 3 (sendo duas delas ainda menores de idade), acusam a empresa de não implementar as medidas de segurança básicas que outras líderes do setor utilizam para impedir a criação de conteúdos explícitos com pessoas reais. De acordo com a acusação, se um modelo como o Grok permite gerar conteúdos eróticos a partir de fotografias verdadeiras, torna-se virtualmente impossível evitar que o mesmo seja feito com imagens de crianças.
O processo destaca ainda que a própria promoção pública do empresário sobre a capacidade da inteligência artificial para criar imagens de pessoas com pouca roupa contribuiu para agravar o problema.
O impacto da tecnologia nas vítimas
Os casos detalhados na ação judicial mostram o efeito direto e perturbador destas ferramentas. A primeira queixosa viu fotografias suas da escola secundária serem alteradas para a mostrar sem roupa, tendo sido alertada através do Instagram de que as imagens circulavam online e num servidor do Discord.
As outras duas vítimas foram informadas diretamente por investigadores criminais. Num dos casos, as imagens sexualizadas foram geradas através de uma aplicação móvel de terceiros que utiliza a tecnologia da xAI. No outro, o conteúdo manipulado foi descoberto pelas autoridades no telemóvel de um suspeito detido.
Responsabilidade e exigência de penalizações
Os advogados que representam as vítimas argumentam que, como a utilização por aplicações de terceiros continua a depender do código e dos servidores da xAI, a empresa deve ser responsabilizada diretamente pelos resultados gerados.
As três jovens relatam estar a passar por um sofrimento psicológico extremo devido à circulação destas fotografias e ao impacto duradouro que isso pode ter nas suas vidas sociais e reputação. O processo exige agora penalizações civis ao abrigo das leis de proteção de menores e prevenção de negligência empresarial, pretendendo representar em tribunal qualquer pessoa que tenha passado por uma situação idêntica através desta tecnologia.
Nenhum comentário
Seja o primeiro!