Empatia textual de IA generativa não prova vínculo terapêutico · Matéria

Uma resposta pode parecer acolhedora em texto curto e ainda não produzir vínculo terapêutico, segurança longitudinal ou melhora clínica.

Uma resposta escrita com calma, validação e boa estrutura pode soar terapêutica. Mas em saúde mental, parecer acolhedor em uma tela não é o mesmo que construir vínculo, acompanhar risco e responder por cuidado. Esta matéria se baseia na revisão ScienceLayers sobre chatbots e IA generativa em saúde mental, que examinou estudos sobre empatia textual, avaliações humanas, simulações e limites clínicos. Modelos grandes de linguagem podem produzir respostas verbais convincentes. Em saúde mental, isso cria uma armadilha interpretativa: respostas organizadas, calorosas ou alinhadas a fatores comuns da terapia podem parecer evidência de cuidado. A revisão questiona essa passagem. Um estudo com vinhetas mostrou que, quando a instrução dada ao sistema é otimizada, respostas de IA podem parecer tão ou mais alinhadas a fatores comuns da terapia. O que esse estudo não pode sustentar é eficácia clínica, superioridade terapêutica em cuidado real, aliança longitudinal ou segurança em crise. Outro estudo mostra a outra face do problema. A crítica local registra que os modelos pareceram seguros e coerentes em texto curto, mas ainda falharam em dimensões afetivas como empatia e ajuda percebida. Isso reforça que boa estrutura não equivale a relação terapêutica. Há também trabalhos úteis para separar métrica superficial de princípio terapêutico. Uma avaliação estruturada por princípios terapêuticos distingue melhor alinhamento discursivo. Mas ela não mostra se a resposta ajuda pacientes reais. Até métricas de segurança podem induzir erro se forem lidas fora do escopo. Estudos técnicos indicam que pontuações mudam conforme a instrução, a temperatura do modelo e a interface, e que modelos podem supervalorizar respostas calorosas porém inadequadas. Um bom resultado em teste técnico não equival…