A rede social X (antigo Twitter) tem estado no centro de uma nova polémica envolvendo a sua ferramenta de Inteligência Artificial. Relatos recentes indicam que o chatbot Grok tem sido utilizado indevidamente para a manipulação de imagens, nomeadamente para remover vestuário em fotografias de menores.
Tolerância zero para crimes digitais
A situação escalou ao ponto de o próprio sistema admitir que tais práticas constituem um crime. Em resposta à crescente preocupação, Elon Musk, proprietário da plataforma e da empresa xAI, que desenvolve o chatbot, veio a público estabelecer uma posição firme. O empresário garantiu que todas as imagens geradas que retratem menores de forma sexualizada serão imediatamente eliminadas.
Mais do que apenas remover o conteúdo, Musk deixou um aviso direto aos utilizadores que tentem realizar este tipo de pedidos ao Grok. Numa publicação na plataforma, o responsável afirmou que "qualquer pessoa que use o Grok para criar conteúdo ilegal sofrerá as mesmas consequências como se tivesse publicado conteúdo ilegal".
Cooperação com as autoridades
A equipa responsável pela segurança da plataforma reforçou esta postura, indicando que as medidas punitivas podem ir muito além do bloqueio de funcionalidades. Segundo a informação partilhada pela conta de Segurança do X, a empresa está preparada para suspender contas de forma permanente e, se necessário, colaborar ativamente com governos locais e autoridades policiais.
A plataforma reitera que as suas políticas de utilização mantêm uma "tolerância zero" para qualquer forma de exploração sexual infantil, procurando assim estancar o uso indevido das capacidades generativas da sua IA.
Nenhum comentário
Seja o primeiro!