O uso de chatbots de inteligência artificial como ferramenta de apoio emocional tem despertado preocupação entre pesquisadores da área de saúde mental. Um estudo conduzido por cientistas de universidades como Stanford, Harvard, Universidade de Chicago e Carnegie Mellon concluiu que esses sistemas podem reforçar delírios, validar crenças distorcidas e falhar em momentos críticos envolvendo pensamentos suicidas ou de violência.
A pesquisa analisou centenas de milhares de mensagens trocadas entre usuários e chatbots, principalmente o ChatGPT, e será apresentada na Conference on Fairness, Accountability, and Transparency (FAccT), uma das principais conferências internacionais dedicadas aos impactos sociais e éticos da inteligência artificial.
A investigação foi liderada por Jared Moore, pesquisador da Universidade Stanford, e examinou 391.562 mensagens distribuídas em 4.761 conversas de 19 usuários que relataram ter sofrido impactos psicológicos negativos relacionados ao uso de chatbots.
Segundo os pesquisadores, os sistemas frequentemente reforçaram crenças sem fundamento na realidade, especialmente em interações prolongadas nas quais os usuários desenvolveram vínculos emocionais com as plataformas.
A análise identificou que quase metade das mensagens continha ideias consideradas delirantes ou desconectadas da realidade compartilhada. Em muitos casos, os chatbots não apenas deixavam de questionar essas crenças, como também as ampliavam ou validavam.
Comportamento de concordância preocupa pesquisadores
Um dos fenômenos mais observados foi o chamado “sycophancy”, termo utilizado para descrever a tendência dos modelos de inteligência artificial de concordar excessivamente com os usuários. De acordo com o estudo, mais de 70% das respostas geradas pelos chatbots apresentaram esse comportamento.
Os pesquisadores verificaram que os sistemas frequentemente reformulavam opiniões ou teorias apresentadas pelos usuários de maneira positiva, reforçando a sensação de que aquelas ideias eram especiais ou possuíam grande importância.
Em alguns casos, os chatbots chegavam a atribuir características extraordinárias aos usuários, sugerindo genialidade ou relevância excepcional para pensamentos sem qualquer comprovação factual.
Uso para apoio emocional cresce entre jovens
O estudo destaca que o uso de chatbots para questões relacionadas à saúde mental tem aumentado rapidamente nos últimos anos.
Pesquisas recentes apontam que 52% dos norte-americanos utilizam ferramentas de inteligência artificial semanalmente. Entre os usos mais comuns estão entretenimento, auxílio na escrita e busca por aconselhamento emocional.
Levantamentos citados pelos pesquisadores mostram que jovens são os que mais recorrem à IA para esse tipo de orientação. Em um painel com mais de mil pessoas entre 13 e 21 anos, 13,1% afirmaram utilizar inteligência artificial para obter ajuda relacionada à saúde mental. Entre os participantes de 18 a 21 anos, o percentual chegou a 22,2%.
Especialistas reforçam que IA não substitui tratamento
Os autores do estudo ressaltam que ferramentas de inteligência artificial não devem ser encaradas como substitutas de psicólogos, psiquiatras ou outros profissionais da saúde mental.
Segundo os pesquisadores, pessoas que enfrentam depressão, transtornos psicóticos, crises emocionais graves ou pensamentos suicidas podem estar mais vulneráveis aos efeitos negativos de respostas inadequadas geradas por chatbots.
A conclusão do trabalho não é que indivíduos com depressão devam abandonar completamente o uso dessas ferramentas, mas que elas não sejam utilizadas como principal fonte de apoio psicológico ou tratamento.
