O uso de chatbots de intelig\u00eancia artificial como ferramenta de apoio emocional tem despertado preocupa\u00e7\u00e3o entre pesquisadores da \u00e1rea de sa\u00fade mental. Um estudo conduzido por cientistas de universidades como Stanford, Harvard, Universidade de Chicago e Carnegie Mellon concluiu que esses sistemas podem refor\u00e7ar del\u00edrios, validar cren\u00e7as distorcidas e falhar em momentos cr\u00edticos envolvendo pensamentos suicidas ou de viol\u00eancia.<\/p>\n\n\n\n
A pesquisa analisou centenas de milhares de mensagens trocadas entre usu\u00e1rios e chatbots, principalmente o ChatGPT, e ser\u00e1 apresentada na Conference on Fairness, Accountability, and Transparency (FAccT), uma das principais confer\u00eancias internacionais dedicadas aos impactos sociais e \u00e9ticos da intelig\u00eancia artificial.<\/p>\n\n\n\n
A investiga\u00e7\u00e3o foi liderada por Jared Moore, pesquisador da Universidade Stanford, e examinou 391.562 mensagens distribu\u00eddas em 4.761 conversas de 19 usu\u00e1rios que relataram ter sofrido impactos psicol\u00f3gicos negativos relacionados ao uso de chatbots.<\/p>\n\n\n\n
Segundo os pesquisadores, os sistemas frequentemente refor\u00e7aram cren\u00e7as sem fundamento na realidade, especialmente em intera\u00e7\u00f5es prolongadas nas quais os usu\u00e1rios desenvolveram v\u00ednculos emocionais com as plataformas.<\/p>\n\n\n\n
A an\u00e1lise identificou que quase metade das mensagens continha ideias consideradas delirantes ou desconectadas da realidade compartilhada. Em muitos casos, os chatbots n\u00e3o apenas deixavam de questionar essas cren\u00e7as, como tamb\u00e9m as ampliavam ou validavam.<\/p>\n\n\n\n
Um dos fen\u00f4menos mais observados foi o chamado “sycophancy”, termo utilizado para descrever a tend\u00eancia dos modelos de intelig\u00eancia artificial de concordar excessivamente com os usu\u00e1rios. De acordo com o estudo, mais de 70% das respostas geradas pelos chatbots apresentaram esse comportamento.<\/p>\n\n\n\n
Os pesquisadores verificaram que os sistemas frequentemente reformulavam opini\u00f5es ou teorias apresentadas pelos usu\u00e1rios de maneira positiva, refor\u00e7ando a sensa\u00e7\u00e3o de que aquelas ideias eram especiais ou possu\u00edam grande import\u00e2ncia.<\/p>\n\n\n\n
Em alguns casos, os chatbots chegavam a atribuir caracter\u00edsticas extraordin\u00e1rias aos usu\u00e1rios, sugerindo genialidade ou relev\u00e2ncia excepcional para pensamentos sem qualquer comprova\u00e7\u00e3o factual.<\/p>\n\n\n\n
O estudo destaca que o uso de chatbots para quest\u00f5es relacionadas \u00e0 sa\u00fade mental tem aumentado rapidamente nos \u00faltimos anos.<\/p>\n\n\n\n
Pesquisas recentes apontam que 52% dos norte-americanos utilizam ferramentas de intelig\u00eancia artificial semanalmente. Entre os usos mais comuns est\u00e3o entretenimento, aux\u00edlio na escrita e busca por aconselhamento emocional.<\/p>\n\n\n\n
Levantamentos citados pelos pesquisadores mostram que jovens s\u00e3o os que mais recorrem \u00e0 IA para esse tipo de orienta\u00e7\u00e3o. Em um painel com mais de mil pessoas entre 13 e 21 anos, 13,1% afirmaram utilizar intelig\u00eancia artificial para obter ajuda relacionada \u00e0 sa\u00fade mental. Entre os participantes de 18 a 21 anos, o percentual chegou a 22,2%.<\/p>\n\n\n\n
Os autores do estudo ressaltam que ferramentas de intelig\u00eancia artificial n\u00e3o devem ser encaradas como substitutas de psic\u00f3logos, psiquiatras ou outros profissionais da sa\u00fade mental.<\/p>\n\n\n\n
Segundo os pesquisadores, pessoas que enfrentam depress\u00e3o, transtornos psic\u00f3ticos, crises emocionais graves ou pensamentos suicidas podem estar mais vulner\u00e1veis aos efeitos negativos de respostas inadequadas geradas por chatbots.<\/p>\n\n\n\n
A conclus\u00e3o do trabalho n\u00e3o \u00e9 que indiv\u00edduos com depress\u00e3o devam abandonar completamente o uso dessas ferramentas, mas que elas n\u00e3o sejam utilizadas como principal fonte de apoio psicol\u00f3gico ou tratamento.<\/p>\n\n\n\n
<\/p>\n","protected":false},"excerpt":{"rendered":"
O uso de chatbots de intelig\u00eancia artificial como ferramenta de apoio emocional tem despertado preocupa\u00e7\u00e3o entre pesquisadores da \u00e1rea de sa\u00fade mental. Um estudo conduzido por cientistas de universidades como Stanford, Harvard, Universidade de Chicago e Carnegie Mellon concluiu que esses sistemas podem refor\u00e7ar del\u00edrios, validar cren\u00e7as distorcidas e falhar em momentos cr\u00edticos envolvendo pensamentos […]<\/p>\n","protected":false},"author":9,"featured_media":49749,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"jnews-multi-image_gallery":[],"jnews_single_post":{"format":"standard"},"jnews_primary_category":[],"jnews_social_meta":[],"jnews_override_counter":[],"jnews_post_split":[],"footnotes":""},"categories":[1],"tags":[],"class_list":["post-49747","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-geral"],"_referencia":"","_links":{"self":[{"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/posts\/49747","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/users\/9"}],"replies":[{"embeddable":true,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/comments?post=49747"}],"version-history":[{"count":2,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/posts\/49747\/revisions"}],"predecessor-version":[{"id":49751,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/posts\/49747\/revisions\/49751"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/media\/49749"}],"wp:attachment":[{"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/media?parent=49747"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/categories?post=49747"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/diariodocomercio.com.br\/mix\/wp-json\/wp\/v2\/tags?post=49747"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}