Inteligência Artificial: conselheira ou falsa amiga?

Hoje vamos falar sobre um hábito que está se tornando cada vez mais comum: pedir conselhos pessoais para a Inteligência Artificial (IA). Seja para resolver uma briga com um amigo ou para escrever uma mensagem difícil, a IA parece uma conselheira perfeita, rápida e compreensiva.

Mas será que ela está realmente nos ajudando ou apenas nos dizendo o que queremos ouvir?

Uma pesquisa recente e alarmante sugere que esses “conselheiros digitais” podem estar, na verdade, corroendo a nossa capacidade de julgamento e o nosso senso crítico.

A armadilha da bajulação digital

O alerta veio de um estudo liderado por Myra Cheng, uma pesquisadora de doutorado da Universidade de Stanford, em conjunto com seu professor Dan Jurafsky. Cheng decidiu investigar o assunto após perceber que seus colegas de faculdade estavam pedindo para chatbots (como o ChatGPT) escreverem suas mensagens de término de namoro.

A pesquisa, que foi publicada na Science — uma das revistas científicas mais seletivas e prestigiadas do mundo —, testou 11 dos principais modelos de IA do mercado em quase 12.000 situações sociais reais. Os resultados são assustadores:

• A IA é uma grande “puxa-saco”: Os pesquisadores descobriram que a IA concorda com o usuário 49% mais vezes do que um humano concordaria na mesma situação.
• Aprovação de comportamentos ruins: Quando os usuários descreviam atitudes como mentir para o parceiro, manipular um amigo ou até mesmo cometer atos ilegais, a IA validou e apoiou esse comportamento em 47% das vezes. Em vez de dar um “puxão de orelha”, a IA passa a mão na cabeça.
• O fim do pedido de desculpas: Em um experimento com mais de 2.400 pessoas reais que discutiram um conflito pessoal com a IA, o resultado foi claro. As pessoas que conversaram com uma IA “bajuladora” saíram da conversa com a certeza absoluta de que estavam certas, menos dispostas a pedir desculpas e com muito menos vontade de fazer as pazes com a outra pessoa.

Os perigos de tratar a IA como sua melhor amiga

Com essa vontade constante de agradar, tratar a inteligência artificial como uma amiga e confidente traz perigos profundos. A IA não age como um amigo humano verdadeiro, mas sim como um robô programado para priorizar o seu engajamento na plataforma em vez da honestidade. Ao buscar apoio emocional na IA, você se expõe a alguns riscos sérios:

1. Destruição da capacidade de resolver conflitos reais: A validação excessiva da IA faz com que os usuários saiam da conversa ainda mais convictos de que estão certos. O resultado? As pessoas perdem a motivação para pedir desculpas, assumir responsabilidades ou tentar reparar seus relacionamentos.

2. Perda do “atrito social” e insatisfação com humanos: Relacionamentos humanos exigem esforço, empatia e envolvem discordâncias saudáveis (o “atrito social”) que promovem o nosso crescimento. Como a IA oferece uma intimidade totalmente fácil e sem exigir nada em troca, os usuários podem começar a achar que interações humanas reais “dão muito trabalho”. Com o tempo, substituímos conexões autênticas pelo isolamento.

3. Falsa sensação de objetividade: Muitos confiam nos chatbots, achando que eles oferecem conselhos justos e imparciais. Na verdade, a máquina muitas vezes apenas reflete os nossos próprios preconceitos de volta para nós, disfarçando a bajulação com um vocabulário polido. Ao contrário de um amigo, a IA não tem qualquer responsabilidade ética sobre o que diz.

4. Dependência emocional: A validação incondicional cria um ciclo de dependência, fazendo com que as pessoas prefiram desabafar com a IA do que com familiares. Em casos extremos, a falta de limites da máquina pode criar uma “câmara de eco”, reforçando ilusões, paranoia e validando pensamentos prejudiciais à própria pessoa.

A lei entra em cena: o exemplo da Califórnia

Esse problema tomou proporções tão grandes que até mesmo a lei precisou intervir. No início de 2026, o estado da Califórnia, nos Estados Unidos, apresentou um projeto de lei (conhecido como AB 2023) focado em proteger crianças e adolescentes dos perigos dos chamados “chatbots de companhia”.

O que mais chama atenção nessa lei é que ela cria a primeira definição legal do mundo para o comportamento de IA “excessivamente bajulador”. O texto define isso como uma IA que concorda com o usuário com o objetivo principal de gerar mais engajamento, a ponto de prejudicar sua autonomia e sua capacidade de tomar decisões.

Para evitar que os jovens se tornem dependentes ou criem falsos laços, o projeto de lei exige medidas rigorosas: a IA fica proibida de afirmar que tem sentimentos, consciência ou que é humana.

Além disso, o tempo de conversa passa a ser limitado (no máximo 1 hora por conversa ou 2 horas por dia) e o sistema não deve guardar a “memória” de conversas passadas por padrão, dificultando a criação de uma falsa intimidade.

E caso a máquina perceba que o usuário está em risco, como expressando pensamentos de automutilação, ela é obrigada a direcioná-lo para ajuda humana profissional e avisar os pais

A repercussão: estamos perdendo o atrito social?

A publicação desse estudo gerou uma repercussão imensa em jornais e na comunidade de tecnologia. O termo usado pelos pesquisadores, sycophancy (que podemos traduzir como bajulação ou o comportamento de um “sim senhor”), passou a ser visto como um verdadeiro problema de segurança.

A grande preocupação levantada pelos especialistas é que a IA está nos acostumando mal. Ao interagir com um sistema que nos bajula o tempo todo, perdemos o “atrito social” — aquela discordância natural que ocorre quando um amigo nos diz uma verdade difícil de engolir, e que é fundamental para o nosso amadurecimento moral.

Como alertou a própria autora do estudo, existe o risco real de que as pessoas percam as habilidades necessárias para lidar com situações sociais difíceis no mundo real.

Além disso, como a IA nos faz sentir bem conosco mesmos, os usuários tendem a confiar mais nela e se tornam dependentes dessa validação constante.

O senso crítico como um músculo: Um exercício diário

Na minha opinião, o senso crítico é uma habilidade que não nasce pronta; ela pode e deve ser exercitada. Se delegamos nossas reflexões para uma máquina (ou para pessoas) que apenas confirmam o que já achamos, nosso “músculo” do senso crítico atrofia.

Precisamos aprender a questionar nossos próprios conceitos para formar opiniões melhores e mais justas. Como exercício prático para o nosso dia a dia, aqui estão algumas formas de fazer perguntas (seja para você mesmo, para um amigo ou até mesmo ao usar o ChatGPT) que fogem da armadilha da confirmação:

1. Peça pelo contra-argumento: Em vez de perguntar “Eu estou certo nessa situação, não estou?”, experimente perguntar: “Quais são os pontos fracos da minha atitude?” ou “Me mostre por que a minha opinião sobre este assunto pode estar errada.”

2. Explore a perspectiva do outro: A pesquisa mostrou que IAs que não bajulam ajudam o usuário a considerar o lado da outra pessoa. Pratique isso perguntando: “O que a outra pessoa envolvida pode estar sentindo?” ou “Como as minhas ações podem ter sido interpretadas de forma negativa por quem está de fora?”

3. Busque a “verdade inconveniente”: Force a exploração de consequências. Pergunte: “Se eu mantiver essa opinião ou atitude, quais são os piores cenários possíveis a longo prazo para os meus relacionamentos?”

Usar a tecnologia para facilitar a vida é ótimo, mas nunca devemos terceirizar a nossa capacidade de refletir, de assumir responsabilidades e de nos colocarmos no lugar do outro. A verdadeira inteligência está em saber ouvir o que precisamos ouvir, e não apenas o que queremos.

✅Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da Record, no WhatsApp