A OpenAI é uma das empresas mais avançadas no ramo da IA, e recentemente a entidade tem vindo a realizar algumas melhorias nos seus modelos para os tornar mais razoáveis e seguros. Um dos investimentos que a entidade pode ter realizado foi para desenvolver um sistema de “moral” para a IA.
Segundo os documentos financeiros da OpenAI, esta terá financiado um projeto na Duke University, onde os investigadores ficariam responsáveis por desenvolver um sistema capaz de criar uma moral para a IA. A entidade veio depois a confirmar que este investimento faz parte de um prémio para professores da universidade, que ficaram a cargo de um projeto – que terá a duração de três anos – para criar um sistema de moralidade para os modelos de IA da OpenAI.
De momento ainda pouco se conhece sobre este projeto, para além de que o investimento encontra-se previsto de terminar em 2025. Os investigadores e professores na frente do mesmo também se encontram proibidos de falar diretamente sobre o mesmo – em parte devido aos seus compromissos para com a OpenAI.
A ideia do projeto será criar um sistema que permita à IA ser capaz de prever julgamentos morais dos Humanos, e que tenha a capacidade de replicar tais ações no ambiente virtual. Entre alguns dos exemplos encontra-se julgamentos nos campos da medicina, lei e negócios.
Este formato de projetos não é inteiramente recente. No passado, vários projetos tentaram dar uma “razão” para os modelos automáticos de IA, de forma a criarem uma mente virtual mais aberta a possíveis julgamentos, com base em determinadas condições. Porém, praticamente todos os projetos falharam tendo em conta que o julgamento poderia ser facilmente contornado ou viciado.
Como tal, ainda se desconhece se este investimento da OpenAI terá algum resultado final para os modelos de IA que são usados no dia a dia, embora seja certamente algo que a entidade terá de ter em conta para o desenvolvimento futuro da tecnologia.
Nenhum comentário
Seja o primeiro!