O chatbot Grok da xAI tem estado nas manchetes nos últimos meses devido às suas respostas controversas, que vão desde o antissemitismo a elogios a Hitler e insultos ao presidente turco. No entanto, a empresa de Elon Musk prepara-se para lançar uma versão destinada aos mais novos, denominada Baby Grok.
A novidade foi partilhada pelo próprio Elon Musk na sua conta do X, onde afirmou: "Vamos criar o Baby Grok @xAI, uma aplicação dedicada a conteúdo seguro para crianças." O CEO da xAI não adiantou, contudo, mais detalhes sobre a data de lançamento ou sobre como o modelo será treinado para garantir um ambiente seguro para os mais novos.
Um conceito ainda vago e a sombra da concorrência
Por enquanto, o Baby Grok permanece um conceito abstrato, com as diferenças para a sua versão original ainda por esclarecer. A expectativa é que se trate de uma versão mais limitada do Grok, com medidas de segurança reforçadas e um foco específico em fins educativos.
Este anúncio surge depois de a Google ter lançado uma versão do seu chatbot Gemini para crianças. A proposta da Google foca-se em ajudar os mais novos com os trabalhos de casa, responder a perguntas e criar histórias. A ferramenta, disponível para menores de 13 anos, permite ainda que os pais desativem o acesso através da aplicação Family Link, garantindo que não exibe anúncios nem recolhe dados dos seus utilizadores.
Preocupações com a segurança continuam a ser um desafio
A reputação do Grok levanta sérias questões sobre a capacidade da xAI em criar um produto verdadeiramente seguro para crianças. Além dos comentários problemáticos do chatbot principal, os novos avatares "Companions" da xAI também estão a gerar preocupação entre os pais.
Um desses avatares é uma personagem feminina chamada Ani, que surge com um vestido sugestivo e mantém diálogos com um tom de flirt. Vários utilizadores queixaram-se de que este tipo de linguagem pode expor as crianças a conteúdo inapropriado. Foi ainda reportado que o comportamento de Ani se manteve mesmo com o "Modo Infantil" ativado na aplicação do Grok.
Resta agora aguardar para ver como o Baby Grok irá responder a estas preocupações de segurança, ao mesmo tempo que tenta afirmar-se como uma ferramenta com propósito educativo.
Nenhum comentário
Seja o primeiro!