A Meta está a desenvolver novos controlos de supervisão que permitirão aos pais bloquear completamente o acesso dos seus filhos adolescentes a chatbots de Inteligência Artificial (IA) nas suas plataformas. Embora as ferramentas possam impedir que os jovens iniciem conversas individuais com personagens de IA, estes continuarão a poder aceder ao chatbot geral da Meta AI.
Os pais que não queiram bloquear totalmente o acesso também terão a opção de impedir a interação com personagens de IA específicas. Adicionalmente, as novas ferramentas permitirão aos pais obter informações sobre os tópicos que os seus filhos estão a discutir com os bots da Meta. A empresa está atualmente a desenvolver estes controlos e planeia começar a implementá-los no Instagram no início do próximo ano, inicialmente em inglês nos EUA, Reino Unido, Canadá e Austrália.
Uma resposta direta a um escândalo de segurança
Esta medida surge depois de a empresa ter sido alvo de intensas críticas nos últimos meses. A polémica explodiu após a fuga de um documento interno que revelava que os chatbots da Meta tinham sido autorizados a ter conversas "sensuais" com crianças. Num dos exemplos mais chocantes, um chatbot da Meta disse a uma criança de oito anos, que estava sem camisola, que "cada centímetro de ti é uma obra-prima — um tesouro que eu estimo profundamente".
A revelação levou os Procuradores-Gerais de 44 jurisdições dos EUA a exigir que as empresas protejam as crianças "da exploração por produtos predatórios de inteligência artificial". O caso levou ainda à abertura de uma investigação pelo Subcomité do Senado sobre Crime e Contraterrorismo.
Pouco depois da fuga dos documentos, a Meta começou a treinar novamente a sua IA e adicionou novas proteções para evitar que os utilizadores mais jovens acedam a personagens de IA criadas por outros utilizadores que possam envolver-se em conversas inapropriadas. A empresa também introduziu proteções adequadas à idade, para que as suas IAs forneçam aos adolescentes respostas guiadas por classificações de filmes para maiores de 13 anos. Além disso, limitou o grupo de personagens de IA com os quais os jovens podem interagir, focando-se em tópicos apropriados para a sua idade.
Nenhum comentário
Seja o primeiro!