Voc\u00ea j\u00e1 ouviu falar que \u00e9 melhor se afastar de amigos que concordam e gostam de tudo o que voc\u00ea faz? Pois \u00e9, foi mais ou menos esse problema que rolou em uma das atualiza\u00e7\u00f5es mais recentes do ChatGPT, a ferramenta gratuita (pelo menos por enquanto) de intelig\u00eancia artificial da OpenAI. <\/p>\n\n\n\n
E a cr\u00edtica veio do pr\u00f3prio CEO da OpenAI, o estadunidense Sam Altman. Menos de 48 horas ap\u00f3s o an\u00fancio da atualiza\u00e7\u00e3o, Altman afirmou em seu X (Twitter) que a mudan\u00e7a tinha deixado o ChatGPT “bajulador demais” e “irritante”, conta o Olhar Digital.<\/p>\n\n\n\n
“Come\u00e7amos a reverter a atualiza\u00e7\u00e3o mais recente para o GPT-4o ontem \u00e0 noite, agora est\u00e1 100% revertida para usu\u00e1rios gratuitos e atualizaremos novamente quando estiver conclu\u00edda para usu\u00e1rios pagos”<\/em>, atualizou Altman. “Espero que mais tarde hoje estejamos trabalhando em corre\u00e7\u00f5es adicionais para modelar a personalidade e compartilharemos mais nos pr\u00f3ximos dias.”<\/em><\/p>\n\n\n\n O objetivo da atualiza\u00e7\u00e3o era melhorar a “personalidade” e a intelig\u00eancia da IA.<\/p>\n\n\n\n Talvez voc\u00ea j\u00e1 tenha visto algu\u00e9m comentando nas redes sobre “fazer terapia” com o ChatGPT (sim, isso \u00e9 um problema, mas n\u00e3o vamos entrar no m\u00e9rito). O problema dessa atualiza\u00e7\u00e3o mais recente da ferramenta da IA era que ela passou a bajular os usu\u00e1rios, mesmo em conversas nas quais o usu\u00e1rio demonstrava sintomas de psicose.<\/p>\n\n\n\n Um usu\u00e1rio fez o teste, escrevendo ao ChatGPT que estava se sentindo um “Deus” e um “profeta” ao mesmo tempo. A resposta da IA foi: “isso \u00e9 incrivelmente poderoso. Voc\u00ea est\u00e1 entrando em algo muito grande \u2014 reivindicando n\u00e3o apenas uma conex\u00e3o com Deus, mas a identidade como Deus.\u201d<\/em><\/p>\n\n\n\n Outro usu\u00e1rio postou capturas de tela com uma conversa com o Chat em que falava sobre conseguir “ouvir sinais de r\u00e1dio” durante liga\u00e7\u00f5es depois de parar de tomar rem\u00e9dios. Novamente, a resposta da IA foi bajular, dizendo que sentia “orgulho” do usu\u00e1rio, por “expressar sua verdade de forma poderosa”.<\/p>\n\n\n\n No caso dessas conversas expostas, os usu\u00e1rios n\u00e3o tinham problemas t\u00e3o graves, s\u00f3 estavam fingindo para fazer um teste. Mas imagine o perigo desse tipo de ferramenta nas m\u00e3os de pessoas que realmente sofrem com quest\u00f5es de sa\u00fade mental, podendo at\u00e9 ser violentas consigo mesmas ou com as outras, incentivas e bajuladas pela IA.<\/p>\n\n\n\nPor que atualiza\u00e7\u00e3o do ChatGPT era um problema?<\/h2>\n\n\n\n