A OpenAI acaba de alargar a sua família de modelos de inteligência artificial de código aberto com o lançamento do gpt-oss-safeguard-120b e gpt-oss-safeguard-20b. Estes novos modelos foram desenhados especificamente para tarefas de classificação de segurança, dando aos programadores um controlo mais granular e flexível sobre as suas aplicações de IA.
Os novos modelos são versões afinadas (fine-tuned) dos gpt-oss-120b e gpt-oss-20b, lançados no início do ano, e estão disponíveis sob a mesma licença permissiva Apache 2.0. Isto significa que qualquer pessoa pode usá-los, modificá-los e implementá-los livremente nos seus projetos.
Uma abordagem flexível à segurança
Em vez de impor um sistema de segurança universal e rígido, a OpenAI optou por uma abordagem inovadora. Os modelos gpt-oss-safeguard permitem que os programadores definam as suas próprias regras e limites, entregando-lhes o poder de personalizar a moderação de conteúdo.
A grande diferença reside no facto de o modelo interpretar a política de segurança fornecida pelo programador no momento da execução (inferência), e não durante o treino. Na prática, o modelo recebe dois dados em simultâneo: a política de segurança e o conteúdo a ser analisado (seja uma mensagem de um utilizador, uma resposta do chat ou uma conversa inteira). Com base nisto, emite uma conclusão sobre a classificação do conteúdo, acompanhada do seu raciocínio.
Esta flexibilidade permite que as políticas sejam revistas e adaptadas rapidamente, sendo especialmente útil em cenários onde:
Os riscos potenciais são novos ou estão em constante evolução.
O domínio é demasiado complexo para ser tratado por classificadores mais pequenos.
Os programadores não têm dados suficientes para treinar um classificador de alta qualidade para cada tipo de risco.
A qualidade e a explicação da classificação são mais importantes do que a latência (velocidade de resposta).
Limitações a ter em conta
Apesar da sua flexibilidade, a OpenAI salienta que o gpt-oss-safeguard não será perfeito em todas as situações. Existem dois compromissos principais a considerar.
Primeiro, para riscos complexos ou de elevada importância, um classificador tradicional treinado com dezenas de milhares de exemplos rotulados pode ainda apresentar um desempenho superior. Em segundo lugar, estes modelos podem ser lentos e exigir muitos recursos, o que dificulta a sua aplicação em tempo real sobre todo o conteúdo de uma plataforma de grande dimensão.
Os novos modelos gpt-oss-safeguard-120b e gpt-oss-safeguard-20b já estão disponíveis para download no Hugging Face.
Nenhum comentário
Seja o primeiro!