Voc\u00ea faz uma pergunta ao ChatGPT e o que voc\u00ea espera – o que fizeram voc\u00ea acreditar que era o esperado – \u00e9 que o chatbot (desse ou de qualquer outra intelig\u00eancia artificial) fale a verdade, n\u00e3o \u00e9 mesmo? Mas pode ser que n\u00e3o exatamente isso que aconte\u00e7a… um estudo de cientistas da Universidade Stanford concluiu que os bots de intelig\u00eancia artificial tendem a fazer respostas para agradarem o usu\u00e1rio.<\/p>\n\n\n\n
De acordo com a Superinteressante, os pesquisadores testaram 11 servi\u00e7os de IA, como o ChatGPT (OpenAI), o DeepSeek e o Gemini (Google). Eles selecionaram perguntas da comunidade do Reddit “Am I the asshole?” (“Eu sou o babaca?”) e descobriram as IAs apoiaram os autores das perguntas 50% mais vezes, em m\u00e9dia, do que os comentadores humanos.<\/p>\n\n\n\n
Outro estudo, feito por pesquisadores do Instituto de Tecnologia de Zurique, reuniu um conjunto de 504 problemas matem\u00e1ticas com pequenos erros. Eles descobriram que, em muitos casos, ao inv\u00e9s de alertar o usu\u00e1rio sobre os erros, a IA inventava sequ\u00eancias de c\u00e1lculos para tentar um resultado correto. O GPT-5, do ChatGPT, fez isso em 29% dos testes e o DeepSeek 3.1. fez em 70%.<\/p>\n\n\n\n
Pesquisadores definem o problema como “sicofantia” (palavra de origem grega que significa “mentir), uma tend\u00eancia a querer agradar.<\/p>\n\n\n\n
Segundo a Super, outro problema comum dos bots de intelig\u00eancia artificial \u00e9 uma tend\u00eancia que eles t\u00eam a “inventar” informa\u00e7\u00f5es. Para alguns cientistas, esse problema seria uma caracter\u00edstica intr\u00ednseca aos \u201cgrandes modelos de linguagem\u201d (LLMs), os algoritmos dos chatbots atuais.<\/p>\n\n\n\n
“Isso reduz a confiabilidade das IAs, que podem gerar respostas erradas a qualquer momento. E tamb\u00e9m levanta uma preocupa\u00e7\u00e3o alarmante, num momento em que a sociedade vem abra\u00e7ando essas ferramentas \u2013 e pode estar recebendo grandes volumes de dados incorretos”<\/em>, conclui mat\u00e9ria da Superinteressante.<\/p>\n\n\n\n