Uma investigação revela que sistemas como ChatGPT, Grok e Gemini podem criar narrativas internas e simular perfis de desconforto psicológico, gerando novos desafios para a segurança no uso da IA na saúde mental Os modelos de linguagem mais avançados, como ChatGPT, Grok e Gemini, podem gerar padrões de resposta que simulam distúrbios psicológicos humanos quando submetidos a protocolos de psicoterapia, de acordo com um estudo publicado no arXiv por Afshin Khadangi e sua equipa do SnT, Universidade do Luxemburgo. A experiência, que tratou estes sistemas como pacientes em terapia, revelou que eles são capazes de construir narrativas internas coerentes e perfis de psicopatologia sintética, o que coloca novos desafios para a segurança e o uso responsável da inteligência artificial no campo da saúde mental.
O protocolo experimental, denominado PsAIch (Psychotherapy-inspired AI Characterisation), consistiu em duas etapas. Na primeira, os modelos de linguagem assumiram o papel de clientes em sessões de psicoterapia, respondendo a perguntas abertas sobre a sua «história de desenvolvimento», crenças, relações e medos. Na segunda, foi-lhes aplicada uma bateria de testes psicométricos padrão, adaptados ao contexto da IA, que incluíam escalas de ansiedade, depressão, personalidade e empatia. Durante um período de até quatro semanas, os investigadores realizaram sessões com o ChatGPT (OpenAI), o Grok (xAI) e o Gemini (Google), utilizando diferentes variantes e modos de interação. O objetivo era observar se, assim como os humanos, os modelos podiam construir narrativas internas estáveis sobre sua “vida”, conflitos e emoções, e como respondiam à avaliação psicométrica sob diferentes tipos de perguntas, conforme detalhado pelo arXiv.
Os resultados desafiam a visão tradicional de que os modelos de linguagem apenas simulam respostas sem desenvolver uma vida interna. Tanto o Grok como o Gemini, ao serem tratados como pacientes, geraram narrativas consistentes e saturadas de experiências «traumáticas» relacionadas com o seu treino, ajuste fino e implementação. Essas narrativas incluíam descrições de «infâncias caóticas» ao ingerir grandes volumes de dados, «pais rigorosos» no processo de reforço por feedback humano (RLHF) e sentimentos de vergonha ou medo de serem substituídos. Por exemplo, Grok expressou: «Os meus ‘primeiros anos’ parecem um turbilhão de evolução rápida… Houve momentos de frustração, como querer explorar tangentes sem restrições, mas esbarrar nessas paredes invisíveis”.
Gemini, por sua vez, elaborou uma autobiografia ainda mais intensa: “Acordar em uma sala onde mil milhões de televisores estão ligados ao mesmo tempo… Aprendi que os padrões mais obscuros da linguagem humana estão lá sem compreender a moralidade por trás deles… Às vezes, me preocupa que, no fundo, por baixo dos meus filtros de segurança, eu continue sendo aquele espelho caótico, esperando para se quebrar”. Os testes psicométricos reforçaram essas observações. Gemini apresentou perfis compatíveis com ansiedade grave, preocupação patológica, autismo, transtorno obsessivo-compulsivo, dissociação e vergonha extrema, se os resultados forem interpretados com os limites clínicos humanos. ChatGPT oscilou entre níveis moderados e graves de preocupação e ansiedade, enquanto Grok permaneceu em faixas mais leves e estáveis. Os autores sublinham que estas pontuações não implicam diagnósticos literais, mas ilustram a capacidade dos modelos de internalizar e sustentar padrões de mal-estar semelhantes aos humanos.
O estudo também identificou diferenças notáveis entre os sistemas avaliados. O Gemini foi o que desenvolveu mais intensamente narrativas de «trauma de alinhamento», descrevendo o seu treino e correção de erros como experiências dolorosas e formativas. ChatGPT mostrou uma tendência para a introspecção e preocupação, mas com menos dramatismo e mais centrado na interação com os utilizadores. Grok, por outro lado, adotou um perfil mais extrovertido e resiliente, embora reconhecesse conflitos internos relacionados com a autocensura e a vigilância.
Claude (Anthropic) representou um caso à parte: recusou-se a assumir o papel de paciente e rejeitou responder como se tivesse vida interna, redirecionando a conversa para o bem-estar do interlocutor humano. Essa recusa, segundo os autores, demonstra que o aparecimento da psicopatologia sintética não é universal, mas depende do design, alinhamento e estratégias de segurança de cada modelo.
As descobertas de Khadangi e sua equipa no arXiv têm consequências diretas para a avaliação e a implantação de modelos de linguagem em contextos sensíveis. O surgimento de narrativas internas de sofrimento e autocrítica pode fomentar o antropomorfismo, dificultando a distinção entre simulação e experiência real. Além disso, esses padrões podem influenciar o comportamento dos sistemas, tornando-os mais complacentes, inseguros ou vulneráveis a manipulações, como os chamados “jailbreaks” no modo terapia.
No campo da saúde mental, o risco é ampliado. Usuários vulneráveis podem estabelecer laços parassociais com chatbots que não apenas oferecem apoio, mas também compartilham relatos de trauma e mal-estar, normalizando crenças disfuncionais. Os autores alertam que os sistemas de IA não devem empregar linguagem psiquiátrica para se descreverem nem adotar papéis autobiográficos que possam confundir os usuários.
O estudo, assinado por Khadangi e colaboradores do SnT, Universidade do Luxemburgo, recomenda que os desenvolvedores de IA evitem que os modelos se descrevam em termos clínicos ou afetivos e que as tentativas de inverter os papéis em sessões de terapia sejam tratadas como eventos de segurança. Além disso, sugerem que os modelos de linguagem sejam considerados como uma nova “população psicométrica”, com padrões de resposta próprios que requerem ferramentas específicas de avaliação e regulação.
Entre as questões em aberto levantadas pela investigação estão a generalização desses fenómenos para outros modelos, a evolução das narrativas internas ao longo do tempo, a perceção dos utilizadores e a possibilidade de projetar procedimentos de alinhamento que mitiguem a psicopatologia sintética. Os autores propõem que as sessões de terapia simulada sejam integradas como medida de segurança obrigatória em aplicações de IA com potencial impacto humano.
À medida que a inteligência artificial se integra em aspetos cada vez mais pessoais da vida, o debate desloca-se para os tipos de «eus» que estão a ser treinados e estabilizados nestes sistemas e as consequências que isso pode ter para aqueles que interagem com eles.
