A OpenAI começou a implementar uma nova camada de segurança no seu chatbot de inteligência artificial, desenhada especificamente para identificar a idade dos utilizadores e aplicar restrições de conteúdo adequadas. O objetivo central desta medida é impedir a utilização indevida da plataforma por adolescentes e evitar que estes sejam expostos a materiais impróprios para a sua faixa etária.
A empresa responsável pelo ChatGPT quer garantir que conteúdos adultos, potencialmente ilegais ou perigosos não chegam aos ecrãs dos utilizadores mais jovens, especialmente aqueles com menos de 18 anos que não possuem consentimento parental. Para tal, o sistema não vai depender apenas da data de nascimento inserida, mas sim de um comportamento ativo da própria IA.
Como funciona o modelo de previsão
Esta funcionalidade baseia-se num modelo de previsão de idade que analisa os padrões de interação do utilizador com a ferramenta. O sistema poderá examinar os tópicos das conversas iniciadas e até os horários em que o serviço é utilizado para determinar se quem está do outro lado é um adulto ou um adolescente.
Caso o sistema classifique o utilizador como menor, serão aplicadas restrições automáticas a certos tipos de conteúdo. Embora a ferramenta continue disponível para aprender, criar e colocar questões, deixará de responder a solicitações que envolvam violência, conteúdos gráficos, desafios virais semelhantes aos encontrados no TikTok ou materiais que promovam padrões de beleza extremos, dietas pouco saudáveis e críticas ao corpo.
A OpenAI admite, no entanto, que este modelo de deteção não é infalível. A empresa alerta que a inteligência artificial pode cometer erros e classificar acidentalmente um adulto como adolescente, caso o seu comportamento ou padrões de utilização se assemelhem aos de um jovem.
Verificação de identidade e privacidade
Para resolver eventuais falsos positivos, foi criado um mecanismo de recurso. Se um utilizador com 18 anos ou mais for incorretamente colocado na experiência limitada para menores, poderá verificar a sua idade através de um portal dedicado. O processo envolve duas opções principais: tirar uma selfie em tempo real através do telemóvel ou webcam, ou carregar uma fotografia de um documento de identificação oficial emitido pelo governo, como a carta de condução ou o passaporte.
Para gerir este processo, a tecnológica estabeleceu uma parceria com a Persona, uma entidade externa que verifica se a selfie corresponde à foto do documento e confirma a data de nascimento. Segundo a informação disponibilizada, a Persona elimina os dados de identificação e as fotografias no prazo de 7 dias após a verificação. Assim que a maioridade for confirmada, as restrições de segurança extra são removidas da conta, embora a alteração possa demorar algum tempo a ficar totalmente ativa.
Esta novidade está a ser disponibilizada globalmente e começará a ser aplicada automaticamente a todas as contas, conforme detalhado no artigo de suporte oficial.
Nenhum comentário
Seja o primeiro!