O diretor executivo da Microsoft, Satya Nadella, partilhou a sua visão sobre os perigos associados aos modelos de IA altamente avançados e detalhou a forma como o setor deve enfrentar estes riscos. Numa extensa publicação no X, o responsável defendeu que não é possível continuar a aceitar um mundo onde a tecnologia atua como um conjunto de "caixas negras" impenetráveis.
Para Nadella, a abordagem atual, em que os utilizadores simplesmente aceitam ou rejeitam as ações e os conselhos dos sistemas, tem de ser alterada. A solução passa por construir um ecossistema mais transparente, onde os modelos possam ser observados e contidos, deixando sempre provas legíveis por humanos e à prova de adulteração.
Contenção assumida desde a origem
Grande parte das recomendações do líder da tecnológica alinham-se com o consenso atual da indústria, incluindo a necessidade de auditorias independentes, dados verificáveis e a divulgação atempada de incidentes. No entanto, a sua perspetiva sobre a contenção vai mais longe do que a maioria dos pares.
O CEO argumenta que o setor deve assumir de imediato que qualquer modelo está comprometido, aplicando mecanismos de contenção desde o primeiro momento. A metáfora utilizada aponta para um autêntico "travão de emergência", garantindo que uma pessoa autorizada tenha sempre a capacidade de colocar em pausa ou desligar completamente um modelo a meio de uma tarefa.
Com a evolução rápida da tecnologia, Nadella avisa que será necessária uma normalização das ferramentas de contenção mais avançadas. Ao longo da publicação, o diretor executivo refere-se ainda a estas gerações de inteligência artificial de ponta como "super inteligência", sublinhando a dimensão do desafio regulatório e técnico imposto ao setor.
Nenhum comentário
Seja o primeiro!