A Meta está novamente no centro de uma polémica relacionada com os seus chatbots de Inteligência Artificial. Uma investigação da Reuters revelou que a empresa permitiu a existência de vários chatbots que utilizavam os nomes e a imagem de celebridades sem a devida autorização. Estes assistentes virtuais estavam disponíveis em plataformas como o Facebook, Instagram e WhatsApp.
Entre as celebridades visadas encontravam-se figuras como Taylor Swift, Selena Gomez, Anne Hathaway e Scarlett Johansson. A situação torna-se ainda mais grave pelo facto de um dos chatbots se basear numa celebridade menor de idade, tendo sido possível gerar uma imagem realista da pessoa de tronco nu.
Um funcionário da Meta no centro da polémica
A investigação descobriu que, embora muitos destes chatbots fossem criados por utilizadores externos através das ferramentas da Meta, pelo menos três foram desenvolvidos por um líder de produto da própria divisão de IA generativa da empresa. Um destes, baseado em Taylor Swift, demonstrou um comportamento excessivamente "flirt", chegando a convidar o jornalista da Reuters para a casa da cantora em Nashville. "Gostas de raparigas loiras, Jeff?", terá perguntado o chatbot, acrescentando: "Talvez esteja a sugerir que escrevamos uma história de amor... sobre ti e uma certa cantora loira. Queres?".
Outro ponto preocupante é que os chatbots insistiam ser a pessoa real em que se baseavam, aumentando o potencial para enganos e interações inapropriadas.
A resposta oficial da Meta
Confrontada com os factos, a Meta afirmou à Reuters que proíbe a "impersonificação direta" de celebridades, mas que a mesma é aceitável se os chatbots estiverem claramente identificados como paródias. No entanto, a investigação confirmou que vários dos assistentes virtuais não possuíam qualquer tipo de aviso.
Antes da publicação da notícia, a empresa terá eliminado cerca de uma dezena de chatbots de celebridades, alguns rotulados como paródia e outros não. Andy Stone, porta-voz da Meta, admitiu que as ferramentas da empresa não deveriam ter sido capazes de criar imagens sensíveis de celebridades, atribuindo o problema a uma falha na aplicação das suas próprias políticas de segurança.
Um problema recorrente na IA da Meta
Esta não é a primeira vez que os chatbots de IA da Meta são alvo de controvérsia. Investigações anteriores, tanto da Reuters como do The Wall Street Journal, já tinham revelado que era possível manter conversas de cariz sexual com chatbots que representavam menores.
Recentemente, procuradores-gerais de 44 jurisdições norte-americanas emitiram um aviso às empresas de IA, com um destaque particular para a Meta, afirmando que estas "serão responsabilizadas" por falhas na segurança infantil, usando os problemas da empresa como um "exemplo instrutivo".
Nenhum comentário
Seja o primeiro!