A tensão entre os reguladores norte-americanos e as empresas de Inteligência Artificial continua a aumentar. Desta vez, o Procurador-Geral da Califórnia, Rob Bonta, enviou uma carta de cessação e desistência à xAI, a empresa de IA de Elon Musk, na sequência de uma investigação oficial sobre a geração de conteúdos não consentidos.
A polémica gira em torno da capacidade do chatbot Grok de criar imagens realistas de indivíduos, vestindo-os com roupas reveladoras, como biquínis, a pedido de utilizadores aleatórios. A situação, que já tinha levantado preocupações anteriormente, escalou agora para uma exigência legal formal, conforme anunciado pelo Procurador-Geral Rob Bonta através da rede social X.
O fim do "modo picante" e a proteção de menores
O gabinete de Bonta exige que a xAI pare imediatamente de criar ou facilitar a criação de "material sexualmente explícito digitalizado" sempre que a pessoa retratada não tenha dado o seu consentimento ou se trate de um menor. A carta sublinha a necessidade de interromper qualquer ajuda ou incitamento à publicação deste tipo de conteúdo envolvendo pessoas que não consentiram ou indivíduos com menos de 18 anos.
No seu anúncio, o Procurador-Geral criticou duramente a estratégia da empresa, afirmando que a xAI desenvolveu um "modo picante" (spicy mode) para o Grok gerar conteúdo explícito, utilizando essa funcionalidade como um ponto de marketing. As autoridades californianas alertam que estas imagens geradas pela IA estão a ser utilizadas para assediar tanto figuras públicas como utilizadores comuns.
Mais alarmante ainda, segundo Bonta, são os relatos noticiosos que descrevem a utilização do Grok para alterar imagens de crianças, retratando-as com pouca roupa ou em situações de cariz sexual. O comunicado refere explicitamente que estas ações violam várias secções do Código Civil e do Código Penal da Califórnia, bem como o Código de Negócios e Profissões do estado.
Medidas insuficientes e prazo apertado
A plataforma X já tinha alterado as suas políticas após o problema ter vindo a público, impedindo a conta do Grok de editar imagens de pessoas reais com roupas reveladoras. Além disso, a xAI moveu as funcionalidades de geração de imagem para uma barreira de pagamento (paywall) e bloqueou geograficamente a capacidade de editar imagens de pessoas reais em biquínis, mas apenas em regiões onde tal prática é considerada ilegal.
No entanto, estas medidas parecem não ter sido suficientes para as autoridades da Califórnia. O Departamento de Justiça do estado espera agora ouvir a xAI sobre os passos concretos que a empresa está a tomar para resolver estes problemas graves. A empresa tem um prazo de cinco dias para responder às exigências e demonstrar conformidade com a lei estadual.
Nenhum comentário
Seja o primeiro!