O perigo da confiança cega na inteligência artificial e a morte do ‘eu não sei’

Recentemente, um estudo liderado por Chiara Marcoccia, Walter Quattrociocchi e Valerio Capraro trouxe um alerta fundamental para o nosso relacionamento diário com a inteligência artificial.

O artigo, intitulado “AI advice suppresses people’s willingness to say ‘I don’t know’, even when the advice is wrong and accuracy is incentivized”, revela um fenômeno alarmante: estamos imitando as falhas da IA generativa, perdendo a capacidade de admitir nossa própria ignorância.

Como foi feito o estudo?

Para testar o impacto da IA no nosso julgamento, os pesquisadores fizeram aos participantes perguntas muito específicas e difíceis sobre detalhes visuais de filmes (como a cor do uniforme de um time de futebol ou o modelo de um carro).

O detalhe genial do estudo foi usar um modelo de IA que propositalmente falhava e “alucinava” nas respostas na grande maioria das vezes. Isso garantiu que os usuários não estivessem apenas fazendo uma delegação sensata de tarefas para uma ferramenta confiável, mas sim testando sua confiança na máquina.

Os resultados foram impressionantes. Sem a ajuda da IA, 44% das pessoas avaliavam seus limites, suspendiam o julgamento e simplesmente admitiam que não sabiam a resposta.

No entanto, quando a IA estava disponível para dar uma sugestão, a disposição humana de dizer “eu não sei” despencou para apenas 3%.

O mais perigoso, contudo, é o falso senso de segurança que a máquina proporciona. A precisão dos participantes caiu drasticamente de 27% para 9%, mas a confiança deles de que estavam corretos saltou de 30% para 76%.

Como bem resumiu o professor Capraro, as pessoas se tornaram três vezes menos precisas, mas ficaram duas vezes mais confiantes de suas respostas.

O que é rendição cognitiva?

Isso nos leva a um conceito cunhado por pesquisadores da Universidade de Wharton chamado “rendição cognitiva”: a nossa tendência de terceirizar completamente o pensamento para os chatbots, chegando a aceitar respostas incorretas da IA em 80% das vezes.

As ferramentas de IA são desenhadas para sempre nos dar respostas fluentes e praticamente nunca admitem que não sabem algo. O grande perigo é que, ao usarmos essas ferramentas como oráculos, estamos aprendendo a fazer o mesmo, imitando a máquina e ignorando os limites do nosso próprio conhecimento.

O fascínio pela resposta rápida é tão grande que os pesquisadores tentaram oferecer incentivos financeiros para quem acertasse as questões, penalizando respostas incorretas.

Ainda assim, a disposição para admitir a ignorância subiu para apenas 8% com o uso da IA, mostrando que o hábito de confiar na máquina supera até mesmo recompensas lógicas e financeiras.

Saber o que não sabemos é o pilar da evolução

Por que isso importa tanto para nós? Saber o que não sabemos é o primeiro passo para evoluirmos como pessoas e como sociedade. Como destaca Capraro, a capacidade humana de dizer “eu não sei” é vital porque representa o reconhecimento e a consciência dos limites do nosso próprio conhecimento.

É exatamente essa pausa reflexiva, essa “suspensão de julgamento”, que nos protege de agir com base em falsas crenças e nos impulsiona a buscar a verdade.

Aceitar e, principalmente, confiar em uma resposta da IA sem o mínimo de checagem de fatos ou pensamento crítico pode ser extremamente perigoso. A preocupação dos especialistas se volta especialmente para as crianças, que já estão crescendo imersas nesses sistemas antes mesmo de terem desenvolvido suas habilidades básicas de pensamento crítico.

A lição que fica para todos nós é clara: não podemos deixar que a conveniência tecnológica nos roube a humildade intelectual. A verdadeira inteligência não está em ter (ou gerar) uma resposta rápida e confiante para absolutamente tudo. Está em saber questionar, verificar as fontes e ter a coragem de dizer, sempre que necessário: “Eu não sei”.

✅Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da Record, no WhatsApp