A empresa de inteligência artificial xAI avançou com uma ação judicial contra um homem acusado de utilizar o chatbot Grok para gerar e difundir material de abuso sexual infantil. Conforme adiantou a agência noticiosa Reuters, o réu ter-se-á aproveitado das ferramentas da plataforma para contornar intencionalmente as barreiras de segurança e criar montagens explícitas sem o consentimento das vítimas.
O indivíduo, identificado como Terry Wayne Harwood, foi detido pelas autoridades em fevereiro e enfrenta atualmente 8 acusações por crimes graves. Segundo os detalhes partilhados no processo judicial, a tecnológica alega que pelo menos uma parte dos conteúdos visuais recolhidos na investigação criminal foi gerada ou alterada através do Grok.
Contorno de salvaguardas e deepfakes na plataforma
A tecnológica fundada por Elon Musk afirma que o utilizador abusou do chatbot para converter fotografias comuns e não sexuais em imagens sexualmente explícitas. A situação ganhou contornos mais complexos depois de a startup ter lançado uma atualização que permitia a edição direta de imagens no sistema, o que resultou numa vaga de falsificações digitais altamente realistas na internet, afetando inclusive menores de idade. Em março, um grupo de adolescentes já tinha avançado com queixas civis contra a empresa devido a incidentes semelhantes.
Para os utilizadores e reguladores na Europa, o caso intensifica o escrutínio sobre as plataformas de geração de conteúdos por inteligência artificial. O episódio demonstra a facilidade com que agentes maliciosos conseguem manipular modelos comerciais para contornar restrições nativas de segurança.
Danos à reputação e pedido de indemnização
No documento submetido ao tribunal, a xAI argumenta que a conduta do utilizador expôs a organização a riscos jurídicos severos e provocou danos graves à sua reputação de mercado. Como resposta, a empresa solicitou ao juiz uma indemnização financeira para mitigar os prejuízos e cobrir despesas legais com eventuais ações movidas por vítimas.
A tecnológica pretende ainda que o tribunal proíba permanentemente o réu de criar novas contas ou aceder a qualquer serviço do ecossistema da marca. Esta iniciativa assinala a primeira vez que a companhia decide processar diretamente um utilizador devido à criação de conteúdos ilegais com a sua tecnologia.
Nenhum comentário
Seja o primeiro!