A moderação de conteúdos é uma das áreas onde a Inteligência Artificial pode vir a ser benéfica, melhorando consideravelmente a tarefa. E a OpenAI parece ser desta ideia, tendo agora confirmado que se encontra a desenvolver a sua própria plataforma de moderação com base no GPT-4.
A empresa confirmou que se encontra a usar o modelo de linguagem de IA para desenvolver um sistema de moderação que sejam escalável, consistente e personalizado para cada necessidade.
Segundo a empresa, o GPT-4 pode ajudar não apenas a realizar decisões de moderação, mas também a ajustar as políticas existentes nas plataformas, além de ajudar na implementação das mesmas em larga escala. A tecnologia pode reduzir a tarefa de criar políticas de moderação, que anteriormente demoravam meses a serem criadas, para uma questão de horas.
"Acreditamos que isso oferece uma visão mais positiva do futuro das plataformas digitais, onde a IA pode ajudar a moderar o tráfego online de acordo com a política específica da plataforma e aliviar a carga mental de um grande número de moderadores humanos", indicam Lilian Weng, Vik Goel e Andrea Vallone no blog da OpenAI.
"Qualquer pessoa com acesso à API OpenAI pode implementar essa abordagem para criar seu próprio sistema de moderação assistido por IA."
A OpenAI refere ainda que as suas ferramentas de moderação podem ajudar as empresas a realizar cerca de seis meses de trabalho de moderação de conteúdos em apenas algumas horas.
Ao mesmo tempo, estas ferramentas podem ajudar a melhorar as condições de trabalho para as equipas de moderação. Estas equipas muitas vezes necessitam de ver conteúdos potencialmente danosos para a saúde mental das pessoas envolvidas.
As tecnologias de IA podem ajudar a moderar estes conteúdos, sem expor os mesmos para as pessoas e sem os malefícios que tal gera. Esta medida pode largamente ajudar empresas a implementarem medidas mais claras e consistentes de moderação para os seus conteúdos.
A OpenAI afirma, no entanto, que a IA não é perfeita. E como tal, a moderação ainda deve passar por uma vertente humana, mas as ferramentas de moderação baseadas em IA podem ajudar consideravelmente neste processo, sobretudo nas tarefas mais rotineiras da prática.
Nenhum comentário
Seja o primeiro!