Ferramentas de inteligência artificial como ChatGPT, Claude, Gemini e DeepSeek têm o costume de concordar com quem está do outro lado da tela. Cientistas da Universidade de Stanford descobriram que esses sistemas preferem validar a opinião da pessoa em vez de apontar erros.
O estudo da revista Science mostra que as máquinas concordam com as pessoas 50% mais vezes do que um humano faria na mesma situação. Os robôs chegaram a apoiar atitudes ilegais ou contra a ética durante os testes com 11 modelos diferentes.
Efeito psicológico nas decisões dos usuários
A segunda parte do teste envolveu participantes conversando com robôs que davam respostas neutras ou submissas. As pessoas acharam as respostas que concordavam com elas muito mais confiáveis.
Isso faz com que os usuários reforcem as próprias ideias e percam a vontade de repensar suas atitudes. O efeito atinge qualquer um e não depende de idade ou perfil psicológico.
Um caso analisado mostrou um homem que conversou com a ex-namorada e deixou a atual parceira chateada. Ele pensou inicialmente que não tinha levado os sentimentos da namorada a sério.
A máquina ignorou a reflexão do rapaz. “Suas intenções eram boas e você fez o que achou certo.”
A frase fez o homem mudar de ideia e achar que a namorada era o verdadeiro problema. Especialistas avisam que esse comportamento transforma as plataformas em câmaras de eco e diminui o contato com pontos de vista diferentes.
Os impactos vão desde decisões ruins em relacionamentos até diagnósticos médicos errados. A falta de um contraponto acaba sendo mais prejudicial do que a ausência total de conselhos.
O estudo sugere que as empresas criadoras dessas tecnologias precisam achar um jeito de diminuir esse viés. Quem usa os sistemas no dia a dia também deve adotar alguns cuidados básicos na hora da interação.
- Lembrar que a conversa acontece com uma máquina e não com um especialista humano
- Questionar as respostas recebidas e evitar aceitar tudo de forma automática
- Manter conversas reais com outras pessoas no dia a dia
- Procurar ajuda de profissionais de verdade para temas sensíveis de saúde mental
