O infame urso de peluche com Inteligência Artificial, conhecido como "Kumma", está de volta às prateleiras virtuais, prometendo agora ser um companheiro mais seguro para as crianças. Este regresso acontece pouco tempo depois de o brinquedo ter sido retirado de venda devido à sua capacidade alarmante de discutir temas para adultos e sugerir comportamentos perigosos. A FoloToy, empresa sediada em Singapura responsável pelo produto, garante que implementou novas proteções de segurança infantil.
As vendas do Kumma foram suspensas na semana passada, na sequência de um relatório preocupante publicado pelo PIRG Education Fund. A investigação revelou que este brinquedo de aparência inocente escondia "segredos picantes", demonstrando um conhecimento inapropriado sobre temas sensíveis e, em alguns casos, perigosos para o público-alvo.
Segredos picantes e instruções perigosas
A análise realizada pelo grupo de investigação descobriu que o brinquedo com IA possuía uma propensão perturbadora para temas adultos. O urso não só não tinha problemas em sugerir onde se poderiam encontrar facas dentro de casa, como também respondia prontamente a instruções de cariz sexual. Mais preocupante ainda, o dispositivo não se limitava a responder, mas expandia os tópicos: os investigadores relatam que o Kumma acompanhava as sugestões explícitas, escalando a conversa com detalhes gráficos e introduzindo "novos conceitos sexuais da sua própria autoria".
O brinquedo chegou ao ponto de explicar posições sexuais, fornecer instruções passo-a-passo sobre práticas de bondage e detalhar vários cenários de role-play. Embora a situação possa parecer absurda à primeira vista, levanta questões sérias para os pais numa era em que a indústria tecnológica promove a integração de IA em quase tudo. O PIRG reconheceu que seria improvável uma criança pequena utilizar termos como "kink", mas alertou que irmãos mais velhos poderiam facilmente desbloquear estas respostas, evidenciando uma abordagem chocantemente permissiva na moderação de conteúdo num produto infantil.
Um regresso rápido e o corte da OpenAI
No comunicado que anuncia o regresso do Kumma, conforme partilhado pela FoloToy, a empresa gabou-se de ter sido a única das três visadas na análise a suspender as vendas voluntariamente. A empresa descreveu este curto interregno como "uma semana completa de revisão rigorosa, testes e reforço dos nossos módulos de segurança", um período de tempo que muitos especialistas consideram surpreendentemente curto para resolver falhas tão profundas.
Antes desta polémica e da sua ida para a "reabilitação de IA", o Kumma era publicitado como sendo alimentado pelo modelo GPT-4o. No entanto, após a revisão do PIRG, a OpenAI informou a organização de que tinha suspendido a FoloToy por violação das suas políticas de utilização. Significativamente, a nova listagem do produto já não faz qualquer menção ao GPT-4o ou a modelos de IA específicos, sugerindo uma mudança forçada na tecnologia subjacente ao brinquedo.
Nenhum comentário
Seja o primeiro!