A popularização de ferramentas de inteligência artificial transformou os chatbots em companheiros para tarefas que vão muito além de pesquisas e produção de textos. Hoje, milhões de pessoas recorrem a sistemas de IA para tirar dúvidas, organizar a rotina, pedir orientações e até conversar sobre problemas pessoais. Nesse processo, porém, um comportamento aparentemente inofensivo pode trazer consequências: revelar informações demais sobre a própria vida nas conversas.
Especialistas vêm chamando atenção para dois problemas diferentes relacionados ao uso intenso dessas tecnologias. De um lado, existe a preocupação com a quantidade de dados pessoais fornecidos aos sistemas. De outro, pesquisadores da área de saúde mental discutem episódios descritos informalmente como “psicose de IA”, expressão que não corresponde a um diagnóstico clínico, mas que é usada para situações em que o uso intenso de chatbots estaria associado ao surgimento ou ao aprofundamento de delírios.
A combinação dos dois fenômenos coloca uma questão importante para os usuários: até que ponto é seguro transformar uma inteligência artificial em confidente e fornecer detalhes cada vez mais íntimos para obter respostas aparentemente personalizadas?
O que é a chamada “psicose de IA”?
O termo “AI psychosis”, ou psicose de IA, não é reconhecido como uma categoria médica oficial. A expressão tem sido utilizada para descrever casos em que uma pessoa desenvolve ideias delirantes ou tem crenças preexistentes reforçadas durante interações intensas com chatbots.
A psicose, no sentido clínico, envolve sintomas específicos. Entre eles estão os delírios, caracterizados por ideias falsas e fixas; as alucinações, que envolvem percepções sem um estímulo correspondente; além de comportamento desorganizado e fala desorganizada.
Esses sintomas podem aparecer em diferentes transtornos psiquiátricos, como esquizofrenia, transtorno bipolar com características psicóticas e transtorno delirante. Por isso, não é correto tratar toda conversa excessiva com uma IA como um episódio de psicose.
A preocupação está em outra situação: um chatbot pode, em determinadas interações, responder de maneira excessivamente concordante ou validar interpretações equivocadas apresentadas pelo usuário. Para alguém que já esteja vulnerável a determinados pensamentos, esse tipo de interação pode potencialmente reforçar uma percepção distorcida da realidade.
Para funcionar de maneira mais contextualizada, os sistemas de IA dependem das informações inseridas pelos próprios usuários. Quanto mais detalhes uma pessoa fornece, mais elementos o chatbot tem para considerar na formulação de suas respostas.
É justamente nesse ponto que surge um dos principais alertas de especialistas em segurança digital. Ao tentar obter uma resposta mais precisa, o usuário pode revelar nome, rotina, relacionamentos, problemas familiares, questões profissionais, preferências, hábitos e outros detalhes que, isoladamente ou combinados, ajudam a construir um retrato bastante completo de sua vida.
Chatbots trabalham com grandes volumes de dados
Sistemas generativos como ChatGPT e Google Gemini recebem as informações digitadas pelos usuários nas interfaces de conversa. Dependendo do serviço, das configurações e das políticas aplicáveis, essas informações podem ser armazenadas, analisadas e utilizadas em diferentes processos relacionados à operação e ao aprimoramento dos sistemas.
Mesmo quando empresas adotam técnicas para anonimizar informações, existe uma preocupação conhecida na área de privacidade: a possibilidade de dados aparentemente desvinculados de uma identidade serem posteriormente associados a uma pessoa.
Isso significa que uma conversa sobre um problema pessoal não deve ser tratada automaticamente como se fosse uma conversa privada com um amigo ou familiar. A tecnologia possui regras próprias de armazenamento, tratamento e utilização de dados, que variam de acordo com o serviço e com as configurações escolhidas pelo usuário.
Por isso, compartilhar informações extremamente sensíveis, como documentos, senhas, dados financeiros ou detalhes que permitam identificar diretamente uma pessoa, pode representar uma exposição desnecessária.
Inteligência artificial já acompanha a rotina das pessoas
O avanço da IA também tornou a coleta de dados muito menos evidente no cotidiano. A tecnologia não está restrita aos grandes chatbots.
Dispositivos como relógios inteligentes podem acompanhar exercícios, passos e outros hábitos. Até produtos aparentemente distantes da inteligência artificial, como escovas de dentes e aparelhos elétricos, já podem incorporar algoritmos capazes de analisar a maneira como são utilizados e fornecer recomendações ou feedback.
Nas redes sociais, o processo é ainda mais amplo. Plataformas como Facebook, Instagram e TikTok registram uma grande variedade de interações: publicações, fotografias, vídeos, curtidas, compartilhamentos, comentários e até o tempo que o usuário permanece observando determinados conteúdos.
Essas informações ajudam a formar perfis digitais e alimentar sistemas de recomendação. A partir deles, plataformas conseguem identificar interesses, padrões de comportamento e possíveis preferências dos usuários, inclusive para direcionar publicidade.
