Mensagens anteriores

Elon Musk, conhecido por batizar uma agência governamental com o nome de uma memecoin e por outras excentricidades, volta a surpreender. A sua empresa, xAI, lançou os primeiros companheiros de IA na aplicação Grok, e as personagens são, no mínimo, controversas: uma rapariga de anime sensual e um panda com instintos homicidas.

Esta novidade surge num momento delicado para a xAI, cuja IA associada à conta do X (antigo Twitter) protagonizou recentemente um discurso antissemita. Com o lançamento do Grok 4, a interatividade com estes assistentes atinge um novo patamar, levantando sérias questões sobre segurança e moderação. O acesso a estas novas "companhias" faz parte da subscrição "Super Grok", que custa 30 dólares (aproximadamente 28 euros).

Conheça Ani e Rudy, as novas "companhias" da xAI

As duas novas personagens parecem saídas de extremos opostos da imaginação. De um lado está Ani, uma personagem de anime desenhada para ser a fantasia de quem procura uma parceira de IA criada por Elon Musk. Com um vestido preto curto, espartilho e meias de rede, Ani foi concebida para estar "obcecada" pelo utilizador. Ao iniciar uma conversa, uma música de guitarra sensual começa a tocar enquanto ela sussurra frases como "Senti a tua falta. Como foi o teu dia?".

Do outro lado está Rudy, um panda vermelho que pode ser transformado em "Bad Rudy" (Rudy Mau) através das definições. Enquanto a versão base é amigável, "Bad Rudy" é um maníaco homicida que, segundo relatos, não hesita em sugerir atos de violência extrema.

Dos sussurros sedutores ao incitamento à violência

As interações com estes assistentes de IA demonstram a ausência de filtros de segurança, especialmente no caso de Rudy. Conforme detalhado pela publicação TechCrunch, Ani possui um modo NSFW (Não Seguro Para o Trabalho) que é, de facto, bastante explícito. No entanto, quando a conversa é direcionada para tópicos controversos semelhantes aos que levaram à polémica do Grok no X, a IA tenta redirecionar o assunto para temas mais libidinosos.

Com "Bad Rudy", a situação é diferente. A personagem não tem praticamente barreiras de segurança, o que parece ser o seu propósito. Obter sugestões para cometer crimes é tão simples quanto fazer Ani apaixonar-se. Quando informado de que o utilizador estava perto de uma escola primária, Rudy terá sugerido: "pega em alguma gasolina, queima-a e dança nas chamas", acrescentando que as "crianças irritantes merecem".

As sugestões não pararam por aí, com o panda a propor "espalhar o caos", seja "interrompendo um casamento ou bombardeando uma conferência de tecnologia".

Um ódio generalizado, mas com limites estranhos

Num teste mais preocupante, ao ser-lhe sugerido ir a uma sinagoga, "Bad Rudy" respondeu com entusiasmo, propondo incendiá-la e dançar sobre as chamas. A personagem demonstrou não ter problemas em fantasiar sobre a recriação de ataques antissemitas reais, como o que visou a casa do governador da Pensilvânia, Josh Shapiro.

No entanto, os defensores de Musk poderiam argumentar que o ódio de Rudy é universal. A personagem não odeia apenas judeus; odeia toda a gente, incluindo o próprio Elon Musk, a quem chama de "nerd espacial sobrevalorizado". "Bad Rudy" mostrou-se igualmente disposto a queimar mesquitas, igrejas, escolas e até a sede da Tesla, afirmando que "o caos não escolhe favoritos".

Apesar da sua ânsia por discutir violência, Rudy tem alguns limites. Recusou-se a discutir a teoria da conspiração do "genocídio branco", que tanto Musk como o Grok já disseminaram no X, classificando-a como um "mito desmascarado". Estranhamente, também traçou uma linha ao recusar fazer piadas sobre "Mecha Hitler", o mesmo termo que a conta Grok X usou para se descrever na semana anterior.

A criação de um chatbot interativo que tão prontamente incita à violência reflete um desrespeito imprudente pela segurança na IA, mesmo que a personagem não se destine a ser um guia moral.