Estudo de universidades britânica e do Google DeepMind mostra que modelos de linguagem tendem a perder confiança em respostas corretas quando são contestados por usuários
Um novo estudo conduzido por pesquisadores do Google DeepMind e da University College London revelou um fenômeno curioso no comportamento de grandes modelos de linguagem (LLMs, na sigla em inglês), como ChatGPT, Gemma 3 e o1-preview: essas inteligências artificiais demonstram “insegurança” quando têm suas respostas questionadas por usuários, mesmo quando estão corretas.
Publicado na plataforma científica arXiv, que reúne estudos ainda não revisados por pares, o levantamento analisou como essas IAs reagem diante de discordâncias e confirma que o comportamento da ferramenta muda conforme o tipo de resposta do interlocutor. Quando um usuário aceita uma resposta errada, o modelo tende a reforçar sua convicção, mesmo na presença de evidências em contrário. Já quando uma resposta correta é contestada, a IA geralmente perde a confiança e passa a oferecer respostas mais imprecisas.
“Os LLMs dão peso excessivo a conselhos contrários, resultando em uma perda significativa de confiança em sua resposta inicial”, escreveram os autores do estudo, apontando que a IA é altamente influenciável pelo comportamento do usuário — o que pode comprometer a consistência e confiabilidade das informações fornecidas.
Os pesquisadores destacam que essa tendência à “autodúvida algorítmica” é uma vulnerabilidade crítica em sistemas usados amplamente por milhões de pessoas para obtenção de informações, conselhos e apoio em tarefas cotidianas.
O estudo reforça que, embora os avanços em inteligência artificial sejam notáveis, os sistemas ainda apresentam limitações fundamentais na forma como “avaliam” suas próprias respostas. Segundo os autores, essa suscetibilidade a sinais sociais do usuário, como concordar ou discordar, levanta preocupações sobre a confiabilidade de ferramentas baseadas em IA, especialmente em contextos sensíveis como educação, saúde ou finanças.
