O Tribunal Federal da Austrália emitiu um aviso sério à comunidade jurídica sobre os perigos da utilização de inteligência artificial generativa em processos judiciais. Através de novas diretrizes, o tribunal estabeleceu regras rigorosas para o uso desta tecnologia, alertando para consequências financeiras e legais caso erros cometidos por algoritmos prejudiquem o andamento da justiça.
De acordo com as informações avançadas pelo The Guardian, a decisão surge após uma explosão de casos onde foram detetadas citações falsas e referências inexistentes em documentos submetidos aos tribunais. A juíza conselheira Debra Mortimer, presidente do Tribunal Federal, sublinhou que a apresentação de dados imprecisos ou fabricados é inaceitável e viola a responsabilidade de não induzir o sistema judicial em erro.
O risco das alucinações no sistema jurídico
A magistrada alertou que as ferramentas de IA podem gerar casos fictícios, citações inventadas e erros factuais que dificultam a resolução justa e eficiente dos litígios. Segundo as novas normas, os advogados devem confirmar obrigatoriamente se a tecnologia foi utilizada na preparação de documentos e verificar se as autoridades legais citadas existem realmente e suportam os argumentos apresentados.
No caso de depoimentos ou relatórios periciais, o uso de inteligência artificial deve ser explicitamente declarado no início do documento, detalhando onde e como a ferramenta foi aplicada. Esta medida visa garantir que as provas apresentadas continuam a refletir o conhecimento e a experiência real dos intervenientes, protegendo a integridade da IA contra manipulações indevidas.
Consequências severas para o incumprimento
Embora o tribunal reconheça que a tecnologia pode aumentar a eficiência na condução de processos, Mortimer frisou que a utilização deve ser feita com o devido cuidado. Atualmente, já foram identificados pelo menos 73 casos na Austrália onde o uso de IA resultou em erros graves. No ano passado, um advogado em Victoria foi o primeiro no país a sofrer sanções, perdendo a capacidade de exercer como advogado principal devido a citações falsas.
Outra preocupação central prende-se com a privacidade. O tribunal alertou para os riscos de inserir informações confidenciais ou privadas em ferramentas de IA, uma vez que estes dados podem ser expostos inadvertidamente. O não cumprimento destas novas regras poderá resultar em ordens de pagamento de custas adversas e falhas graves nas obrigações profissionais dos juristas, comprometendo a confiança pública no sistema de justiça.
Nenhum comentário
Seja o primeiro!