A crescente adoção da inteligência artificial está a transformar profundamente os modelos de negócio atuais, trazendo oportunidades valiosas mas também desafios que muitas empresas ainda não conseguem avaliar totalmente. Foi neste cenário que a WTW, consultora líder global, realizou o seu mais recente webinar da série "Risk Insights Talks", focado precisamente na compreensão e gestão dos riscos associados a esta tecnologia.
O evento destacou a urgência de as organizações compreenderem o impacto da inteligência artificial e adotarem estratégias eficazes de gestão de risco num ecossistema tecnológico cada vez mais complexo. Fernando Sevillano, responsável de consultoria tecnológica da WTW para a Europa Ocidental, sublinhou que não basta adotar a tecnologia, sendo crucial implementar mecanismos robustos de governação e controlo para garantir uma utilização segura e alinhada com os requisitos regulatórios, como o EU AI Act.
Os principais perigos identificados nas empresas
Durante a sessão, foi apresentada uma taxonomia prática dos riscos que acompanham a utilização de modelos de linguagem de grande escala (LLMs) nas operações empresariais. Entre os pontos mais críticos, a consultora identificou a possibilidade de discriminação e a geração de conteúdos tóxicos por sistemas automatizados, além da produção e amplificação de desinformação.
Outro fator de grande preocupação prende-se com as falhas de privacidade e segurança, que podem levar à exposição de dados sensíveis. Os especialistas alertaram ainda para riscos técnicos relacionados com comportamentos inesperados dos sistemas e para o perigo de utilização maliciosa da tecnologia em fraudes ou ciberataques sofisticados.
Estratégias para uma adoção sustentável
A análise da WTW aponta também para desafios na interação entre humanos e máquinas, nomeadamente a confiança excessiva que os colaboradores podem depositar nos sistemas, ignorando as suas limitações. As lacunas na governação e no cumprimento de normas documentais foram igualmente citadas como obstáculos à resiliência organizacional.
Fernando Sevillano concluiu que a transferência de risco tornou-se um instrumento estratégico fundamental, visto que a inteligência artificial já não é uma opção, mas sim uma realidade operacional incontornável. Para o especialista, apenas uma abordagem estruturada e objetiva permitirá antecipar problemas, salvaguardar as operações e assegurar que a evolução tecnológica das empresas seja sustentável a longo prazo.
Nenhum comentário
Seja o primeiro!