Segundo reportou o The Washington Post, uma mulher identificada como Jane Doe 4 juntou-se a um processo judicial contra a xAI, alegando que o chatbot da empresa foi usado para a transformar numa vítima de exploração. A queixa destaca o papel que o modelo alegadamente desempenhou na criação de material de abuso sexual infantil.
De acordo com a mulher, o seu padrasto utilizou o Grok para manipular uma fotografia tirada quando esta tinha apenas 11 anos de idade, o que lhe permitiu criar mais de 7.000 imagens explícitas. A vítima referiu também que o padrasto foi encontrado morto por suicídio, dois dias após as autoridades terem descoberto as fotografias durante uma rusga policial.
O impacto do acesso sem restrições
A situação ilustra um problema crítico na moderação e disponibilização pública de ferramentas de inteligência artificial. "O acesso sem limites a estas ferramentas está a espalhar-se muito rapidamente", disse a mulher. "Está a pegar na vida quotidiana e a transformá-la em abuso sexual infantil."
Para o mercado tecnológico, este caso realça o debate crescente em torno da ausência de filtros proativos nos modelos generativos. Em países europeus e no panorama português, episódios desta gravidade acentuam a exigência de uma supervisão técnica mais apertada, sob pena de a inovação resultar num risco para a privacidade e segurança de qualquer cidadão.
Falta de proteção e exigência de ação coletiva
O processo original foi iniciado por três adolescentes do Tennessee, que acusaram a xAI (agora parte da SpaceX) de falhar na implementação de precauções básicas para impedir que a sua tecnologia fosse usada para criar imagens explícitas de pessoas reais, incluindo menores.
Este caso ganha ainda mais peso pelo facto de a plataforma X ter sido inundada por milhões de imagens sexualizadas geradas pelo mesmo serviço no início deste ano. Com a adição de Jane Doe 4, os queixosos procuram agora alcançar o estatuto de ação coletiva, o que poderá definir um precedente importante sobre a responsabilidade das empresas responsáveis pelo desenvolvimento da inteligência artificial.
Nenhum comentário
Seja o primeiro!