Num desenvolvimento possivelmente sem precedentes, um deepfake gerado por inteligência artificial de uma vítima mortal de um incidente de road rage foi usado em tribunal nos Estados Unidos. O avatar digital de Christopher Pelkey 'testemunhou' na sua própria audiência de sentença, segundo relatos da NBC News. Acredita-se que esta seja a primeira vez que a tecnologia de deepfake é empregue desta forma num processo judicial.
A ideia invulgar de usar uma versão gerada por IA de Christopher Pelkey partiu da sua própria família, conforme revelou um porta-voz do Gabinete do Procurador do Condado de Maricopa, no Arizona. A irmã de Pelkey explicou que estava a escrever a declaração de impacto da vítima há dois anos, mas sentia que o que tinha para dizer "não parecia fazer justiça" à memória do seu irmão. Pelkey foi baleado e morto em 2021 durante o referido incidente de road rage.
A génese do avatar digital
Assim nasceu a iniciativa de 'trazer' um avatar deepfake para o tribunal. A irmã de Pelkey escreveu o texto para o discurso do avatar, afirmando à CNN ter a certeza de que "era o que ele pensaria". O Juiz do Tribunal Superior do Condado de Maricopa, Todd Lang, deu luz verde à ideia, e a família exibiu um vídeo do Pelkey gerado por IA em tribunal. Curiosamente, no vídeo, o avatar parecia pedir clemência para o seu assassino. O réu, Gabriel Horcasitas, tinha sido condenado por homicídio involuntário e perigo para a vida ou integridade física (endangerment) no início deste ano.
"Para Gabriel Horcasitas, o homem que me baleou: É uma pena termos encontrado um ao outro naquele dia, naquelas circunstâncias", disse a versão artificial de Pelkey. "Noutra vida, provavelmente poderíamos ter sido amigos. Acredito no perdão."
Sentença e implicações legais
Apesar da declaração de perdão proferida pelo deepfake, o juiz decidiu aplicar a pena máxima de mais de 10 anos de prisão. Sobre o avatar gerado por IA, o juiz comentou: "Ouvi o perdão. Sinto que foi genuíno, que o seu perdão óbvio ao Sr. Horcasitas reflete o caráter que ouvi sobre [Pelkey] hoje."
A defesa já indicou que a apresentação do deepfake cria um forte argumento para recurso. "Embora os juízes certamente tenham latitude sobre o que ouvir, particularmente das vítimas, um tribunal de recurso terá de decidir se isto foi um erro", declarou o advogado de defesa Jason Lamm. O caso já tinha sido alvo de novo julgamento devido a questões processuais anteriores.
Gary Marchant, professor de direito na Arizona State University, especializado em ética e tecnologias emergentes, manifestou preocupação com o precedente legal que este caso estabelece. "Vemos aquela pessoa no tribunal a falar, e na realidade, ela está morta e não está a falar", disse à NBC News. "Portanto, este é um salto adicional que sinto que nos vai levar a terrenos perigosos."
Nenhum comentário
Seja o primeiro!