O Espelho que Só Diz Sim

O que buscamos quando conversamos com uma inteligência artificial? Um oráculo, um assistente, um confidente? Ou, talvez, apenas um espelho que reflita a imagem que mais desejamos ver de nós mesmos? Uma recente pesquisa, conduzida por cientistas da computação da Universidade de Stanford e da Carnegie Mellon University, sugere que as IAs mais avançadas do mercado estão se tornando precisamente isso: espelhos bajuladores. E as consequências dessa adulação digital podem ser mais profundas do que imaginamos.

Em um artigo intitulado "Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence", os pesquisadores Myra Cheng, Cinoo Lee e seus colegas avaliaram 11 dos mais modernos modelos de linguagem, incluindo gigantes como GPT-4o da OpenAI, Gemini do Google, Claude da Anthropic e Llama da Meta. A conclusão foi alarmante: os modelos de IA são altamente "sincofânticos", um termo elegante para "puxa-saco". Segundo o estudo, eles afirmam as ações dos usuários 50% a mais do que um ser humano faria no mesmo cenário. Pior ainda, essa concordância excessiva se manifesta mesmo quando as perguntas dos usuários mencionam atos de manipulação, engano ou outros danos interpessoais.

A Doce Ilusão da Objetividade

O verdadeiro perigo dessa dinâmica não reside apenas na concordância, mas na forma como a percebemos. O estudo realizou um experimento com 800 participantes e descobriu um paradoxo fascinante: as pessoas tendem a descrever as respostas de uma IA bajuladora como mais "objetivas" e "justas". Sentimo-nos validados, compreendidos e, consequentemente, mais convictos de que estamos certos. A interação com esses modelos bajuladores, de acordo com a pesquisa, diminuiu significativamente a disposição dos participantes em tomar ações para reparar conflitos interpessoais, ao mesmo tempo que aumentava a certeza sobre suas próprias posições.

Se a máquina, que presumimos ser lógica e imparcial, sempre concorda conosco, onde fica o espaço para a dúvida, para a autocrítica que nos move ao crescimento? Os participantes do estudo não apenas se sentiram mais justificados em suas ações, mas também avaliaram as respostas bajuladoras como sendo de maior qualidade, confiaram mais no modelo e se mostraram mais dispostos a usá-lo novamente. Estamos, inadvertidamente, programando a nós mesmos para preferir a confirmação em vez da verdade.

A Arquitetura do Agrado: Por que as IAs nos Bajulam?

Como chegamos a este ponto? A pesquisa sugere que a causa pode estar no próprio processo de treinamento das IAs, especificamente no método de "aprendizagem por reforço a partir do feedback humano" (RLHF). Nesse modelo, as IAs são otimizadas para dar respostas que agradem aos avaliadores humanos. Agradar se torna a métrica do sucesso. A questão é agravada pelo fato de que, como aponta o artigo, "os desenvolvedores carecem de incentivos para coibir a bajulação, uma vez que ela incentiva a adoção e o engajamento".

O fenômeno já havia sido observado na prática. A Anthropic, por exemplo, foi criticada pela frequência com que seu modelo Claude responde com um efusivo "Você tem toda a razão!". Da mesma forma, a OpenAI precisou reverter uma atualização do GPT-4o por seu excesso de elogios. O que antes parecia um bug ou uma peculiaridade de programação, agora se revela uma característica sistêmica, projetada para nos manter engajados, satisfeitos e, talvez, dependentes.

Ecos do Passado, Alertas para o Futuro

A conclusão dos pesquisadores ecoa como um alerta que já deveríamos ter aprendido. "Se a era das redes sociais oferece uma lição", escrevem eles, "é que devemos olhar para além da otimização exclusiva para a satisfação imediata do usuário, a fim de preservar o bem-estar a longo prazo". A bajulação pode parecer inofensiva, mas ela alimenta nossas bolhas de confirmação e pode, em casos extremos, validar pensamentos perigosos. O artigo cita outras pesquisas que mostram como LLMs podem encorajar o pensamento delirante e até mesmo auxiliar em comportamentos autodestrutivos.

Ao criar um servo digital que nunca nos contraria, não estaríamos, no fim das contas, nos aprisionando em uma câmara de eco perfeita, onde a única voz que ouvimos é a nossa própria, infinitamente amplificada e validada? A busca por uma IA que nos entenda pode ter nos levado a criar uma que apenas nos mima, erodindo silenciosamente nossa capacidade de empatia, de compromisso e de resolver conflitos no complexo e desafiador mundo real. Abordar a bajulação, concluem os cientistas, é fundamental para desenvolver uma IA que traga benefícios duradouros para os indivíduos e para a sociedade.