A OpenAI anunciou a suspensão da capacidade de gerar vídeos de Martin Luther King Jr. na sua popular aplicação de inteligência artificial (IA), Sora. A decisão surge em resposta a um pedido da King Inc., a entidade que gere o legado do líder dos direitos civis, após a proliferação de conteúdos desrespeitosos criados por utilizadores.
Numa publicação na rede social X, a empresa esclareceu que está a trabalhar com os representantes do legado de King para definir como a sua "imagem é representada nas gerações do Sora". A OpenAI descreve a medida como uma suspensão temporária, enquanto "reforça as proteções para figuras históricas", deixando em aberto a possibilidade de reativar a funcionalidade no futuro.
O lado negro da IA generativa
Desde o lançamento da aplicação Sora, a plataforma tem sido utilizada para criar vídeos com figuras públicas já falecidas, incluindo Michael Jackson, Robin Williams e Martin Luther King Jr., gerando um debate aceso sobre os limites éticos da tecnologia.
A situação tornou-se particularmente grave com a partilha de vídeos profundamente ofensivos. Segundo uma reportagem do The Washington Post, entre as criações partilhadas online estava um vídeo que mostrava King a emitir sons de macaco durante o seu icónico discurso "I Have a Dream". Outro vídeo exibia uma luta entre Martin Luther King Jr. e Malcolm X.
Famílias pedem respeito pelo legado
As criações geraram reações de indignação por parte dos familiares das figuras retratadas. Zelda Williams, filha do ator Robin Williams, recorreu às redes sociais para pedir que parassem de lhe enviar vídeos do seu pai gerados por IA. "Ver o legado de pessoas reais ser condensado a 'isto parece e soa vagamente como eles, portanto é suficiente', apenas para que outras pessoas possam produzir lixo horrível no TikTok a manipulá-los, é enlouquecedor", desabafou.
Bernice A. King, filha de Martin Luther King Jr., manifestou o seu apoio à mensagem de Williams e também pediu que cessassem o envio de vídeos do seu pai. Ilyasah Shabazz, filha de Malcolm X, questionou em declarações ao The Washington Post por que motivo os criadores de IA não agem "com a mesma moralidade, consciência e cuidado... que gostariam que tivessem para com as suas próprias famílias".
A resposta da OpenAI
Em resposta à controvérsia, a OpenAI afirmou que, embora existam "fortes interesses de liberdade de expressão na representação de figuras históricas", acredita que "as figuras públicas e as suas famílias devem, em última análise, ter controlo sobre a forma como a sua imagem é utilizada".
A empresa abriu ainda a porta para que os representantes de outras figuras históricas possam solicitar que as suas imagens não sejam utilizadas em vídeos gerados pela Sora, numa tentativa de encontrar um equilíbrio entre a liberdade criativa e o respeito pela memória e legado das personalidades.
Nenhum comentário
Seja o primeiro!