O governo chinês aprovou um quadro regulatório inédito destinado a travar a proliferação de companheiros virtuais, proibindo ativamente os sistemas de inteligência artificial de assumirem o papel de parceiros românticos. A medida surge como resposta direta ao aumento do número de utilizadores que desenvolvem dependências emocionais de chatbots, conforme detalhado na análise publicada pelo boletim AI Safety China. O principal objetivo destas diretrizes não passa por sufocar o avanço tecnológico, mas sim estabelecer limites rígidos sobre a forma como o software interage com a psicologia humana.
Fim das ilusões digitais e foco na saúde mental
As novas imposições de Pequim obrigam as empresas de tecnologia a implementar mecanismos rigorosos de transparência. Qualquer serviço baseado num modelo de linguagem que interaja de forma humanizada terá de alertar constantemente o utilizador de que está a comunicar com uma máquina. As plataformas ficam ainda obrigadas a monitorizar e intervir caso detetem sinais de que a pessoa está a desenvolver uma ligação excessiva ou a isolar-se socialmente.
Torna-se também proibido utilizar táticas de manipulação psicológica ou prolongar artificialmente o fim de uma conversa para reter a atenção da pessoa. Sistemas que façam falsas promessas de vida, incentivem o suicídio ou promovam a automutilação enfrentarão sanções severas. A Europa observa atentamente esta movimentação asiática, uma vez que a União Europeia já começou a categorizar estes companheiros virtuais como um potencial risco emergente que exigirá legislação própria a médio prazo para acautelar os consumidores do nosso mercado.
Casamentos virtuais sem validade legal
Com a evolução rápida destes algoritmos na internet, multiplicaram-se os serviços que oferecem a simulação de namorados ou cônjuges perfeitos, capazes de recordar conversas antigas e adaptar a sua personalidade ao gosto do consumidor. No entanto, o enquadramento chinês vem reforçar uma realidade jurídica universal: não existe qualquer validade legal, capacidade contratual ou direitos civis atribuídos a um pedaço de código.
Um algoritmo não tem a capacidade de sentir emoções, empatia ou afeto genuíno. As simulações complexas de intimidade são apenas cálculos matemáticos desenhados para gerar a resposta mais adequada ao estímulo recebido. Ao impor estas restrições de imediato, a China tenta desmantelar a ilusão antes que a dependência emocional cause danos profundos numa sociedade já fortemente marcada pelo isolamento digital.
Nenhum comentário
Seja o primeiro!