As conversas dos adolescentes com o chatbot de inteligência artificial da Meta vão passar a ser monitorizadas para detetar possíveis riscos de automutilação ou suicídio, acionando notificações imediatas para os responsáveis. A funcionalidade foi confirmada esta quinta-feira e pretende dar uma resposta à crescente pressão sobre a segurança das plataformas digitais.
O sistema criado baseia-se num modelo dedicado para avaliar quando um jovem faz referências claras à intenção de se magoar. A empresa reconheceu o impacto destas notificações no seu blogue oficial. "Compreendemos quão angustiante pode ser para um pai receber estes alertas", escreveu a marca. "É por isso que, à medida que continuamos a melhorar a nossa deteção, todos os chats sinalizados pela nossa IA serão revistos manualmente antes de ser enviado um alerta".
A mensagem clarifica ainda a postura da tecnológica perante casos duvidosos: "Se a intenção de um adolescente for ambígua, vamos pecar por excesso de zelo e alertar o pai. Embora isso signifique que possamos por vezes notificar os pais quando pode não existir um motivo real de preocupação, sentimos que este é o ponto de partida certo e continuaremos a monitorizar para ajudar a garantir que estamos no caminho correto".
Expansão das restrições e contacto de emergência
A empresa está a trabalhar numa ferramenta que contacta diretamente os serviços de urgência caso uma conversa — seja de um adolescente ou de um adulto — indique um risco iminente de vida. Esta prática já é adotada quando os utilizadores fazem publicações alarmantes no Facebook ou no Instagram, sendo agora estendida ao assistente virtual.
A nível de filtragem de conteúdos, a definição de restrição do Instagram foi alargada ao chatbot. O assistente já estava treinado para recusar interações de teor sexual, romântico ou discussões sobre álcool com menores, mas passa a declinar um leque ainda maior de pedidos para criar uma experiência digital mais controlada.
Disponibilidade e impacto no mercado
Numa fase inicial, os avisos estão ativos apenas para as contas com a Supervisão Parental ligada nos Estados Unidos, Reino Unido, Austrália e Canadá. A novidade junta-se aos relatórios semanais que os tutores já podiam consultar sobre os tópicos abordados pelos filhos e aos alertas de pesquisas repetidas sobre temas nocivos.
O alargamento a todos os mercados mundiais, onde se inclui Portugal, tem conclusão planeada até ao final deste ano. A medida surge numa altura em que os reguladores apertam o cerco à forma como a indústria tecnológica desenvolve os seus produtos de IA perante os utilizadores mais vulneráveis.
Nenhum comentário
Seja o primeiro!