Mensagens anteriores

Para a maioria de nós, os chatbots de Inteligência Artificial (IA) são ferramentas fantásticas para pesquisar informações, resumir textos ou ajudar no trabalho. No entanto, estas ferramentas têm demonstrado uma capacidade crescente de influenciar o estado emocional dos utilizadores, criando laços que podem, em casos extremos, levar a consequências graves como a automutilação. Perante este cenário, os reguladores na China decidiram intervir para limitar a capacidade destas tecnologias de afetarem os sentimentos humanos.

A Administração do Ciberespaço da China propôs uma nova legislação desenhada especificamente para impedir que os chatbots exerçam uma influência significativa nas emoções dos utilizadores, seja através de texto, imagem, áudio ou vídeo. O projeto de lei foca-se nos "serviços de IA interativa semelhantes a humanos" disponíveis no país, onde o uso indevido poderia encorajar comportamentos de risco.

Intervenção humana obrigatória em casos de risco

Uma das medidas mais surpreendentes e complexas desta proposta envolve a intervenção direta de humanos nas conversas. Segundo o documento, as empresas responsáveis pelos chatbots seriam obrigadas a ter um operador humano a intervir na conversa caso um utilizador expresse explicitamente intenções suicidas.

Mais do que apenas assumir o controlo do chat, a plataforma teria de contactar imediatamente o guardião do utilizador ou uma pessoa designada para o efeito. Tendo em conta a escala massiva de utilizadores de chatbots na China e a possibilidade de erros de interpretação pelos sistemas automáticos, a implementação prática desta medida apresenta-se como um desafio logístico monumental para as tecnológicas.

A proposta estipula ainda que os chatbots não podem gerar qualquer conteúdo que encoraje o suicídio, a automutilação, ou que envolva abuso verbal e manipulação emocional. Adicionalmente, estes sistemas ficam proibidos de produzir conteúdos relacionados com jogos de azar ou violência.

Proteção reforçada para menores e limites de tempo

A legislação coloca um foco especial na proteção dos mais jovens. Os menores de idade passarão a necessitar de consentimento dos seus guardiões para utilizar serviços de IA para companhia emocional. Além disso, as plataformas tecnológicas terão de implementar sistemas capazes de verificar se o utilizador é menor de idade.

Para evitar o vício e a dependência excessiva destas ferramentas, o projeto de lei inclui ainda a obrigação de os fornecedores de tecnologia enviarem um lembrete aos utilizadores após duas horas de interação contínua com a IA.

A China posiciona-se assim entre os primeiros países do mundo a tentar regular as interações emocionais entre máquinas e humanos. Numa altura em que cada vez mais utilizadores desenvolvem laços profundos com chatbots, e em que estas ferramentas começam a ser usadas como substitutos de terapeutas, a medida, conforme detalhado pela CNBC, procura salvaguardar a saúde mental, embora a sua execução prometa ser um teste difícil para a indústria.