A OpenAI tomou recentemente medidas drásticas contra a fabricante de brinquedos FoloToy, cortando o acesso aos seus modelos de inteligência artificial. Esta decisão surgiu após o urso de peluche da marca, o "Kumma", alimentado pelo GPT-4o, ter fornecido respostas descritas como "extremamente inapropriadas" para crianças. No entanto, apesar desta ação punitiva, uma rápida pesquisa na Amazon revela que vários outros brinquedos semelhantes continuam disponíveis para compra, levantando questões sobre a eficácia da regulação neste setor emergente.
A persistência dos brinquedos conectados
A controvérsia em torno do FoloToy, cujos produtos chegaram a sugerir comportamentos perigosos e tópicos de cariz sexual a menores, colocou a OpenAI sob escrutínio. A questão que se impõe é se a criadora do ChatGPT está a agir de forma proativa para policiar o uso da sua tecnologia ou apenas a reagir a manchetes negativas, conforme sugerido por uma análise do Futurism.
A realidade do mercado parece apontar para a segunda hipótese. Plataformas de comércio eletrónico continuam a listar vários ursos de peluche que afirmam utilizar modelos da OpenAI. Um exemplo notável é o "Poe the AI Story Bear", comercializado pela startup PLAi. Este brinquedo, que também utiliza o GPT-4o, foi destacado pela CNET no ano passado e promete criar histórias de embalar personalizadas em tempo real. Segundo um comunicado de imprensa, o brinquedo utiliza uma voz sintetizada pela tecnologia da ElevenLabs e garante produzir "conteúdo 100% seguro" através da sua tecnologia proprietária "Play Safe".
Promessas de "amizade eterna" e preocupações psicológicas
Para além de marcas mais estabelecidas, existem ofertas no mercado que levantam maiores dúvidas. A marca EBLOMA comercializa um urso de peluche com IA sob vários nomes, incluindo "WITPAW". A listagem do produto afirma que este foi "construído com ChatGPT" e que é capaz de fornecer "apoio emocional" e "companhia contínua".
O aspeto mais preocupante deste produto, segundo o seu site, é a promessa de memória a longo prazo. Enquanto muitos fornecedores de chatbots evitam dotar os seus modelos de uma memória persistente entre conversas, para evitar laços emocionais excessivos e respostas de bajulação artificial que podem ter efeitos psicológicos adversos, o WITPAW promove exatamente o oposto. A marca alega que o brinquedo "entende o tom, lembra-se de nomes e cresce com a criança", tornando a interação "pessoal e real".
A resposta da OpenAI e os perigos detetados
A OpenAI, quando questionada sobre se avaliou a segurança destes produtos específicos, não forneceu comentários diretos. No entanto, relativamente ao bloqueio da FoloToy, um porta-voz da empresa reiterou que as suas políticas de utilização proíbem estritamente o uso dos serviços para explorar ou colocar em perigo menores. A empresa afirma monitorizar e aplicar estas regras a todos os programadores que utilizam a sua API.
O escrutínio sobre estes brinquedos intensificou-se após um relatório do grupo de segurança PIRG, que detalhou respostas chocantes dadas por alguns destes produtos. O urso "Kumma" da FoloToy, por exemplo, foi apanhado a dar instruções sobre como acender fósforos e, mais alarmante ainda, a discutir abertamente fetiches sexuais e cenários de roleplay inadequados. Em resposta, a FoloToy suspendeu temporariamente as vendas para realizar uma auditoria de segurança completa.
Este cenário destaca o desafio contínuo de regular a aplicação de modelos de linguagem avançados em produtos físicos destinados a públicos vulneráveis, onde a linha entre a inovação educativa e o risco de segurança é cada vez mais ténue.
Nenhum comentário
Seja o primeiro!