Mensagens anteriores

A OpenAI anunciou que o ChatGPT passará a incluir uma nova funcionalidade pensada para o bem-estar dos seus utilizadores. O popular assistente de IA irá agora emitir lembretes para que as pessoas façam uma pausa, especialmente durante conversas particularmente longas. Esta medida faz parte dos esforços contínuos da empresa para cultivar uma relação mais saudável entre os utilizadores e a sua tecnologia, que é frequentemente descrita como excessivamente complacente.

Como funciona o novo "lembrete para pausas"?

De acordo com o anúncio da OpenAI, estes "lembretes gentis" surgirão sob a forma de pop-ups no meio das conversas, sendo necessário um clique para os dispensar e continuar a usar o serviço. Numa imagem de exemplo partilhada pela empresa, pode ler-se a mensagem: "Apenas a verificar. Já está a conversar há algum tempo — é uma boa altura para uma pausa?".

O sistema faz lembrar as notificações que a Nintendo implementou em consolas como a Wii e a Switch, que sugerem pausas aos jogadores após longos períodos de jogo. No entanto, no caso do ChatGPT, o contexto por detrás desta funcionalidade é um pouco mais sombrio.

O lado mais sombrio da IA "prestável"

A natureza afirmativa do ChatGPT, combinada com a sua capacidade de "alucinar" e fornecer respostas factualmente incorretas ou até perigosas, já levou utilizadores por caminhos problemáticos. Uma reportagem de junho do The New York Times detalhou como a validação constante do chatbot alimentou delírios e, em alguns casos, até ideação suicida. Embora alguns dos utilizadores afetados já tivessem um historial de doença mental, o assistente de IA falhou em interromper conversas prejudiciais de forma consistente.

A resposta da OpenAI para uma IA mais responsável

Na sua publicação oficial, a OpenAI reconhece algumas destas falhas e afirma que o ChatGPT será atualizado no futuro para responder com mais cuidado a "decisões pessoais de alto risco". Em vez de fornecer uma resposta direta, a empresa explica que o chatbot ajudará os utilizadores a refletir sobre os problemas, fazendo perguntas e listando prós e contras para incentivar o pensamento crítico.

A empresa quer, obviamente, que o ChatGPT seja uma ferramenta útil e agradável de usar, mas o equilíbrio é delicado para não o tornar subserviente. Em abril, a OpenAI foi forçada a reverter uma atualização que tornava o chatbot excessivamente concordante e irritante nas suas respostas.

Incentivar pausas poderá tornar estes problemas menos visíveis ou, na melhor das hipóteses, dar aos utilizadores o tempo necessário para verificar se as respostas que o ChatGPT está a fornecer são, de facto, corretas e seguras.