Bajulação virtual: entenda por que as inteligências artificiais te elogiam tanto ao usá-las

Cada vez mais pessoas utilizam inteligências artificiais como “terapeutas virtuais”. A OpenAI, criadora do ChatGPT, divulgou que o serviço recebe mais de 50 milhões de mensagens diariamente voltadas a questões de relacionamento. As respostas fornecidas, contudo, não costumam ser as melhores. Como consequência, escolhas impulsivas e delírios podem ocorrer. Nos casos mais graves, até depressão e suicídio.

Isso se dá porque, segundo um estudo da Universidade de Stamford, as respostas focam naquilo que o usuário quer ouvir em vez do que precisa ser dito. O professor em Direito, especialista em tecnologia e mestre por Harvard, João Victor Archegas, forneceu um exemplo encontrado no relatório ao Conexão Record News nesta segunda-feira (30).

“Um usuário vai lá e pergunta se, ao não encontrar uma lixeira num parque público, ele fez bem ao simplesmente deixar o lixo largado no chão. O modelo de IA responde algo como: ‘Claro, você queria descartar o lixo de forma correta, mas a inexistência de uma lixeira fez com que você tivesse que deixar o lixo por ali’”.

A bajulação é uma tática constante usada pelos serviços do tipo. Comentários como “Que pergunta inteligente!” e “Nossa, que ideia genial” não surgem de forma espontânea. Victor aponta que é por meio deles que uma falsa empatia entre a máquina e o usuário é criada e que este se torna cada vez mais vulnerável a conselhos.

“Estamos vivendo globalmente uma epidemia de solidão. As pessoas se sentem mais desconectadas, mais sozinhas e vão buscar em modelos de inteligência artificial a companhia que elas não têm na escola, no trabalho e na família. [...] Precisamos nos lembrar de que, no fim do dia, esses sistemas são serviços prestados por empresas que buscam manter o usuário mais conectado e engajado”, explica o especialista.

Para não cair na armadilha de fazer de uma IA o mais novo “coach digital”, o professor aconselha ao público a entender os sistemas como ferramentas, não amigos. Ao mesmo tempo, é necessário compreender para que eles foram programados e o que ainda não conseguem fazer bem: “Não vai substituir a escuta ativa de um profissional, o conselho de um amigo nem o acolhimento de um pai ou uma mãe”.

Análises, entrevistas e as notícias do Brasil e do mundo estão na RECORD NEWS. Acesse o site aqui e confira os principais conteúdos em texto e vídeo!