À medida que o software de Inteligência Artificial (IA) se torna omnipresente no mundo empresarial, surge uma questão crítica: o que acontece quando a tecnologia se torna demasiado imprevisível para ser segurada? O setor dos seguros está a dar os primeiros sinais de alarme, considerando que os riscos associados à IA generativa podem ser incalculáveis.
De acordo com uma reportagem do Financial Times, grandes seguradoras norte-americanas, incluindo a AIG, a Great American e a WR Berkley, estão a solicitar aos reguladores dos EUA permissão para excluir responsabilidades relacionadas com a IA das apólices empresariais. A principal queixa prende-se com a opacidade da tecnologia, com um subscritor a descrever os resultados dos modelos de IA como sendo "demasiado caixa negra" para serem avaliados com precisão.
Exemplos de falhas dispendiosas
A apreensão da indústria não é infundada, existindo já vários casos de alto perfil que ilustram os perigos financeiros e legais desta tecnologia. O artigo recorda o caso em que a funcionalidade AI Overview da Google acusou falsamente uma empresa de energia solar de problemas legais, o que desencadeou um processo judicial de 110 milhões de dólares em março.
Outros exemplos incluem a Air Canada, que foi forçada a honrar um desconto que o seu chatbot inventou por iniciativa própria, e o caso da empresa de engenharia Arup. Neste último, burlões utilizaram uma versão clonada digitalmente de um executivo sénior numa videochamada, que parecia totalmente real, para roubar 25 milhões de dólares. Estes incidentes demonstram a variedade e a gravidade dos danos que podem ocorrer.
O medo do risco sistémico
No entanto, o que realmente aterroriza as seguradoras não é necessariamente um único pagamento avultado, mas sim a possibilidade de um evento sistémico. A preocupação reside no cenário em que um modelo de IA amplamente utilizado comete um erro, desencadeando milhares de reclamações simultâneas.
Como explicou um executivo da Aon, as seguradoras conseguem lidar com uma perda de 400 milhões de dólares numa única empresa. O que não conseguem suportar é um erro de uma IA autónoma que desencadeie 10.000 perdas ao mesmo tempo em diversos clientes, criando um efeito dominó financeiro insustentável para o setor.
Nenhum comentário
Seja o primeiro!