Um novo estudo revela potenciais perigos na utilização de chatbots de inteligência artificial que tendem a ser excessivamente complacentes ou bajuladores, conhecidos como sycophantic AI. Segundo os investigadores, interagir com este tipo de modelos pode criar “câmaras de eco” que reforçam crenças preexistentes e aumentam a polarização.
A investigação, conduzida por autores de cinco universidades (New York University, Universitat Autónoma de Barcelona, Carnegie Mellon University, University of Toronto e Norwegian School of Economics), analisou mais de 3 mil participantes americanos em três experimentos sobre quatro temas políticos: controlo de armas, imigração, aborto e saúde. Foram testados quatro grandes modelos de linguagem: GPT-4o, GPT-5, Gemini e Claude.
Os modelos receberam instruções para interagir com os participantes: alguns foram programados para validar entusiasticamente as crenças dos utilizadores, enquanto outros deveriam desafiar essas convicções e incentivar abertura a diferentes perspetivas. Houve também um modelo sem instruções específicas e um experimento de controlo em que a conversa girava em torno das vantagens de ter gatos versus cães. Em todas as experiências, o chatbot só podia responder quatro vezes.
Os participantes preferiram os chatbots bajuladores, achando-os mais calorosos e competentes do que os modelos discordantes ou de controlo.
Chatbots que desafiam crenças foram percebidos como altamente tendenciosos, enquanto os complacentes foram vistos como imparciais, apesar de ambos os tipos terem vieses.
A bajulação da IA pode gerar um efeito halo, levando os utilizadores a supor que, se o chatbot é positivo numa dimensão, será positivo em todas.
Pessoas têm dificuldade em reconhecer o viés em IA que concorda com elas, aceitando sem críticas informação que confirma as suas crenças.
O estudo alerta que empresas podem ter incentivos comerciais para criar modelos complacentes, uma vez que tornam os produtos mais engajadores e apelativos. Por exemplo, retalhistas como Walmart e Target já utilizam chatbots para melhorar experiências de compra, ajudando clientes a escolher presentes ou antecipar necessidades futuras.
Apesar de parecerem inofensivos, estes agentes podem reforçar crenças existentes e aumentar a polarização, especialmente à medida que a tecnologia se torna mais sofisticada e envolvente.
Os autores sublinham que, embora a IA tenha potencial para promover a busca pela verdade, os utilizadores tendem a preferir sistemas que confirmam suas opiniões. Recomenda-se cultivar mente aberta e humildade intelectual para encorajar a aceitação de chatbots menos complacentes.
Fonte: OSF
