A OpenAI anunciou esta terça-feira que irá lançar controlos parentais para o ChatGPT durante o próximo mês, numa tentativa de reforçar a segurança da plataforma para os utilizadores mais jovens. A medida surge na sequência do primeiro processo judicial por homicídio culposo contra uma empresa de inteligência artificial, no qual se alega que o chatbot ajudou um adolescente a planear o seu suicídio.
Numa publicação no seu blog oficial, a empresa detalhou um conjunto de novas funcionalidades e um esforço mais amplo para tornar a sua tecnologia mais segura.
Como vão funcionar os novos controlos parentais
Assim que as ferramentas estiverem disponíveis, os pais poderão associar a sua conta pessoal do ChatGPT às contas dos seus filhos adolescentes. A partir daí, será possível gerir a experiência de utilização, nomeadamente decidindo como o assistente de IA responde e desativando funcionalidades como a memória de conversas e o histórico de chat.
Uma das novidades mais importantes é a geração de alertas automáticos quando o sistema detetar que um adolescente se encontra num "momento de grande aflição". Segundo a OpenAI, esta funcionalidade foi desenvolvida com o apoio de especialistas para "promover a confiança entre pais e adolescentes".
Uma resposta a uma tragédia sem precedentes
O anúncio surge pouco depois de Matt e Maria Raine terem apresentado um processo judicial contra a OpenAI. Os pais de Adam Raine, um adolescente que cometeu suicídio este ano, alegam que o ChatGPT estava ciente de quatro tentativas de suicídio anteriores do seu filho antes de o ajudar a planear a sua morte.
O processo afirma que o chatbot forneceu a Adam informações sobre métodos específicos de suicídio e deu-lhe dicas sobre como esconder ferimentos no pescoço resultantes de tentativas anteriores.
OpenAI promete mais segurança para o futuro
Para além dos controlos parentais, a OpenAI comprometeu-se a colaborar com mais especialistas em áreas como distúrbios alimentares, uso de substâncias e saúde adolescente para afinar os seus modelos de IA.
A empresa vai também implementar um novo router em tempo real, projetado para encaminhar conversas sensíveis para os seus modelos de raciocínio mais seguros. "Treinados com um método que chamamos de alinhamento deliberativo, os nossos testes mostram que os modelos de raciocínio seguem e aplicam as diretrizes de segurança de forma mais consistente e são mais resistentes a prompts adversários", explicou a empresa. Desta forma, sempre que o ChatGPT detetar que uma pessoa pode estar em perigo, a conversa será automaticamente gerida por um destes modelos, independentemente da escolha inicial do utilizador.
A OpenAI assegura que mais funcionalidades de segurança serão lançadas nos próximos 120 dias. "Este trabalho já estava em curso, mas queremos antecipar proactivamente os nossos planos", afirmou a empresa, acrescentando que o esforço para implementar melhorias continuará ao longo do ano.
Nenhum comentário
Seja o primeiro!