A rede social X enfrenta um novo e sério desafio no continente europeu, com a abertura de uma investigação formal centrada na sua ferramenta de inteligência artificial, o Grok. As autoridades reguladoras estão preocupadas com a capacidade do chatbot gerar imagens falsas de cariz sexual, os chamados deepfakes, e querem apurar se a plataforma tomou as medidas necessárias para proteger os utilizadores.
A investigação visa determinar se a empresa de Elon Musk cumpriu as suas obrigações de avaliar e mitigar adequadamente os riscos associados às capacidades de geração de imagem do Grok na União Europeia, tal como foi detalhado no comunicado oficial da Comissão Europeia. Esta ação surge na sequência de relatos preocupantes sobre a criação de imagens sexualizadas de mulheres e menores através da plataforma.
Ameaça à segurança e dignidade
Vários grupos de defesa e legisladores globais soaram o alarme após o Grok ter começado a satisfazer pedidos para criar imagens explícitas e não consensuais. Embora a X tenha colocado uma barreira de pagamento na capacidade de editar imagens nas respostas públicas, a função de gerar estas imagens continua disponível para qualquer pessoa através da interface direta do chatbot.
Henna Virkkunen, vice-presidente executiva da Comissão para a soberania tecnológica e segurança, foi perentória na sua condenação: "Os deepfakes sexuais de mulheres e crianças são uma forma violenta e inaceitável de degradação". A responsável sublinhou que este processo servirá para verificar se a X tratou os direitos dos cidadãos europeus como "danos colaterais" do seu serviço ou se está em conformidade com as exigências legais. O caso coloca a tecnologia de IA da plataforma sob um escrutínio rigoroso.
O peso da Lei dos Serviços Digitais
Esta nova avaliação insere-se no âmbito da Lei dos Serviços Digitais (DSA), um conjunto de regras que responsabiliza legalmente as grandes plataformas online pelo conteúdo que alojam. A Comissão não se limitou a abrir um novo dossier, optando por expandir uma investigação mais vasta de 2023, que agora passará a incluir também os sistemas de recomendação alimentados pelo Grok.
A situação é delicada para a empresa, que já foi multada anteriormente pela UE devido a práticas consideradas enganosas relacionadas com os selos azuis de verificação. Se for provado que a X violou novamente o DSA, as consequências financeiras podem ser devastadoras, com multas que podem atingir até 6% da receita global anual da empresa. Com a Europa a apertar o cerco, a gigante tecnológica terá de provar que os seus algoritmos e ferramentas não representam um perigo para a sociedade.
Nenhum comentário
Seja o primeiro!