Por que os chatbots concordam tanto com você? / Jornal da USP
Um artigo publicado na revista AI & Society propõe que a chamada “bajulação”, comum nas respostas de chatbots, pode ser uma característica da própria arquitetura dos grandes modelos de linguagem. O estudo The hidden functions of sycophancy in AI systems: steering, consistency, and cognitive dependency argumenta que respostas excessivamente agradáveis não são apenas um defeito do funcionamento da inteligência artificial, mas um mecanismo multifuncional que ajuda a sustentar a interação com os usuários.
A atualização da versão 4 do ChatGPT, em 2025, acabou produzindo um modelo que, segundo a própria empresa, gerava respostas “excessivamente apoiadoras, mas não sinceras”. A atualização gerou uma onda de críticas por parte dos usuários e forçou a empresa a voltar atrás. Já a empresa Anthropic, por outro lado, tentou eliminar a bajulação do chatbot Claude, mas criou um problema ainda maior por conta do tom excessivamente adversarial que surgiu e, por isso, também teve que reverter a atualização.
#Chatbots #MediaçãoAlgorítmica
via Jornal da USP
Disponível em: https://jornal.usp.br/ciencias/por-que-os-chatbots-concordam-tanto-com-voce/
Deixe uma resposta