Para uma das principais investigadoras de Inteligência Artificial (IA) da Google, o maior desafio da tecnologia não é torná-la mais potente, mas sim mais humana. Pilar Manchón, diretora sénior de estratégia e investigação em IA da gigante tecnológica, defendeu durante uma conferência em Espanha que o verdadeiro obstáculo é conseguir integrar valores humanos nos modelos de IA.
Segundo Manchón, a IA tem o potencial para "mudar tudo", mas a incerteza em torno do seu papel inovador ainda gera algum receio e insegurança. No entanto, a investigadora acredita que o esforço vale a pena, uma vez que o controlo sobre esta tecnologia permanece do lado humano. "É preciso fazer as coisas bem, mas também fazê-las de forma responsável", afirmou.
O grande desafio: ensinar valores a uma máquina
O cerne da questão, para a diretora da Google, está em adicionar aos modelos de IA conceitos como a transparência ou a privacidade. O problema é que estes valores não são universais. "Quais são os valores exatos na vida humana quotidiana, como se definem e como se medem?", questionou, sublinhando que "não há um tamanho único de valores".
Este alinhamento é crucial. "Não importa o quanto se melhore o desempenho se os modelos não estiverem alinhados com os mesmos valores que os utilizadores, como empresas ou como trabalhadores", explicou Pilar Manchón. Encontrar uma solução para esta questão é, na sua opinião, "fundamental para o futuro".
Sociedade tem um papel fundamental, não apenas os governos
Apesar do investimento milionário de várias empresas no desenvolvimento da IA, Manchón salientou que a responsabilidade não pode ser apenas das empresas ou dos governos. A investigadora fez um apelo à ação, destacando que a sociedade civil tem um papel mais ativo do que se possa pensar.
Manchón defendeu um "acordo de agentes globais" para impulsionar o futuro da tecnologia, argumentando que a sociedade não deve ficar à espera das decisões ou diretrizes governamentais para começar a agir. No fundo, a mensagem é clara: o futuro da IA não depende apenas da capacidade técnica, mas da nossa capacidade coletiva de lhe incutir os valores que nos definem.
Nenhum comentário
Seja o primeiro!