Por que a inteligência artificial nem sempre entende o que queremos dizer?

É fato que a inteligência artificial (IA) se tornou uma interface de uso cotidiano. Quando me refiro à interface, digo que se refere a um website de uso comum no seu computador pessoal ou laptop, ou até mesmo num aplicativo (app) instalado no seu smartphone, que pode ser usado para fazer perguntas do dia a dia, como: envie a previsão do tempo ou me ajude a organizar minhas tarefas do dia de hoje.

Entretanto, existe um problema central: estamos preparados para nos comunicar com a IA? A comunicação passou a ser uma habilidade essencial para podermos extrair o máximo da inteligência artificial. Precisamos saber nos comunicar com a IA, para que ela nos traga resultados realmente relevantes para o contexto e cenário pesquisado e desejado.

Vivemos num mundo em que se fala muito em competências, as chamadas hard e soft skills. As hard skills são as habilidades técnicas, como: saber programar no python, ou saber realizar o suporte técnico de um computador, no caso de um profissional da computação, por exemplo; ou saber manipular uma máquina de hemodiálise, ou saber manusear cateteres junto ao paciente, para um profissional de enfermagem.

Já as soft skills são as habilidades comportamentais e socioemocionais, que influenciam como uma pessoa se relaciona, trabalha e resolve problemas. Podemos exemplificar: trabalho em equipe, liderança, criatividade, empatia, resolução de problemas, adaptabilidade, etc.

A comunicação é exatamente uma dessas soft skills e passou a ser uma competência digital essencial nos dias atuais para o profissional.

Neste contexto, podemos definir o que é um prompt: trata-se de um conjunto de instruções que damos à inteligência artificial para orientar sua resposta.

Assim como a qualidade de uma conversa depende da clareza da pergunta, a qualidade da resposta da IA depende da qualidade do prompt. Em outras palavras, o prompt é a forma como nos comunicamos com a IA.

Exemplos de prompts:

• O que é educação financeira? (prompt simples)
• Crie uma imagem de um cofrinho se transformando em um smartphone (prompt para criação de imagem)
• Fale sobre inteligência artificial (prompt genérico)
• Explique inteligência artificial para professores universitários, em linguagem acessível, com exemplos da educação e no máximo 500 palavras (prompt detalhado)

Podemos ampliar a discussão, e falar sobre paradoxos da IA e prompts negativos. Os paradoxos da IA são situações em que a inteligência artificial produz resultados que parecem contraditórios, inesperados ou até opostos ao que se pretendia. Algumas reflexões neste contexto:

• Quanto mais informação no prompt, pior o resultado;
• A IA parece inteligente, mas comete erros básicos;
• A IA gera uma automação, mas pode exigir mais trabalho humano depois, de revisão do conteúdo gerado pela IA.

Os prompts negativos são instruções que dizem à IA o que não deve aparecer na resposta ou na imagem gerada. Numa geração de imagens fictícia, teríamos por exemplo:

• Criança estudando educação financeira, com tablet, em ambiente escolar moderno (prompt positivo);
• Imagem sem texto, sem marcas d’água, sem mãos deformadas, sem baixa resolução, sem elementos futuristas exagerados (prompt negativo).

Ou seja, o objetivo do prompt negativo é reduzir erros e aumentar a qualidade do resultado.

Nosso primeiro entrevistado é Sergio Ricardo Master Penedo, doutor em Engenharia Eletrônica pela Poli-USP e pesquisador em Processamento de Sinais, Programação Evolucionária e Inteligência Artificial. Docente na Universidade Cruzeiro do Sul nos Cursos de Bach. em Ciência da Computação, Tec. Análise e Desenvolvimento de Sistemas e Tec. Gestão da Tecnologia da Informação. É também consultor em projetos de Inovação Tecnológica, Soluções em Big Data Analytics e IoT (Internet das Coisas).

Para Sergio, a inteligência artificial “permeia diversas áreas do nosso cotidiano, desde assistentes virtuais até sistemas complexos de diagnóstico médico. No entanto, sua natureza traz paradoxos que desafiam nossa compreensão e ética. Um dos mais intrigantes é a coexistência de sua imensa capacidade de processamento com a potencial fragilidade em cenários ambíguos ou incompletos. Por exemplo, enquanto uma IA pode analisar milhões de imagens em segundos para detectar anomalias, ela pode falhar em reconhecer um objeto comum se o contexto visual for ligeiramente diferente do que foi treinado. Isso levanta a questão: a inteligência da máquina é realmente tão abrangente quanto parece, ou é apenas uma reflexão aprimorada da inteligência humana que a programou?”

Essa diferença fica ainda mais evidente quando falamos sobre os chamados “prompts negativos”. Em ferramentas de inteligência artificial que geram textos ou imagens, eles funcionam como instruções dizendo o que a IA deve evitar.

Por exemplo, ao pedir uma imagem de uma paisagem, é possível acrescentar “sem carros, sem prédios” para que o resultado destaque apenas a natureza. Apesar de parecer algo simples, fazer a IA entender o que ela não deve incluir é mais complexo do que parece. Isso acontece porque o sistema precisa interpretar corretamente o contexto e o significado dessas restrições para gerar um resultado mais próximo do esperado.

Para Penedo, o desafio está na forma como a inteligência artificial interpreta instruções do tipo “não faça isso”. Em vez de simplesmente ignorar um elemento, a IA precisa entender exatamente o que deve evitar, e esse processo nem sempre funciona como esperado.

Por isso, em alguns casos, ela acaba gerando um resultado diferente do desejado ou encontra maneiras inesperadas de contornar a restrição. É parecido com a famosa frase: “não pense em um elefante rosa”. Só de ouvir essa instrução, a imagem do elefante já vem à cabeça.

Outro ponto importante destacado pelo professor é que a “inteligência artificial aprende a partir dos dados usados em seu treinamento”. Se essas informações já contêm erros ou preconceitos, apenas dizer para a IA “não repetir isso” nem sempre resolve o problema.

Em muitos casos, ela pode apenas mudar a forma como esse viés aparece, sem eliminá-lo de fato. Por isso, é fundamental usar dados de boa qualidade e entender como a IA chega às suas respostas.

Esse é justamente o objetivo da chamada “IA Explicável”, que busca tornar mais transparente o processo de tomada de decisão da inteligência artificial, ajudando a identificar falhas, reduzir vieses e aumentar a confiança nos resultados.

O professor Penedo reforça que, no fim das contas, esses “desafios mostram que a inteligência artificial, por mais avançada que seja, continua sendo uma ferramenta criada e treinada por seres humanos”.

Isso significa que ela também pode refletir limitações, erros e até preconceitos presentes nos dados e nas orientações que recebe. Por isso, “desenvolver e usar a IA de forma responsável exige não apenas conhecimento técnico, mas também atenção às questões éticas”. Só assim será possível aproveitar todo o potencial dessa tecnologia com mais segurança, transparência e confiança.

A segunda entrevistada, Marilurdes Cruz Borges, é doutora em Linguística e Língua Portuguesa pela Universidade Estadual Paulista (UNESP/Araraquara), mestre em Linguística pela Universidade de Franca (UNIFRAN), especialista em Língua Portuguesa e Literatura e em Neuroaprendizagem, graduada em Letras e Pedagogia. É docente permanente dos Programas de Pós-Graduação em Linguística e em Promoção da Saúde da Universidade de Franca, onde também atua como coordenadora e docente nos cursos de Licenciatura em Letras e Pedagogia.

Segundo ela, “muito antes da popularização da inteligência artificial, educadores já alertavam para dificuldades relacionadas à leitura, à interpretação de textos e à compreensão de informações mais complexas”.

Resultados de avaliações como o SAEB e o PISA revelam que muitos alunos ainda enfrentam dificuldades para compreender textos, especialmente quando é preciso interpretar informações, relacionar ideias e fazer uma análise crítica.

Para Marilurdes, a chegada de ferramentas de IA, como chatbots e assistentes virtuais, não criou esse cenário, mas trouxe novos desafios. Um deles “aparece quando usuários tentam obter respostas precisas dessas plataformas e descobrem que nem sempre basta fazer uma pergunta rápida ou genérica”. Isso tem levado algumas pessoas a questionarem se estamos perdendo a capacidade de nos comunicar.

Na prática, porém, o problema parece ser outro. Quando conversamos com alguém, contamos com expressões faciais, tom de voz, gestos, experiências compartilhadas e conhecimentos que presumimos que o outro possui.

Com a IA, a “comunicação depende principalmente daquilo que é escrito”. Por isso, “quanto mais clara e detalhada for a solicitação, maiores são as chances de receber uma resposta próxima do esperado”. Não se trata de reaprender a falar, mas de desenvolver novas habilidades de comunicação adaptadas a essa tecnologia.

A doutora em linguística reforça que: “embora a IA possa produzir textos, resumir informações e sugerir soluções, cabe ao usuário avaliar a qualidade das respostas, verificar informações, identificar possíveis erros e decidir como utilizar o conteúdo gerado”.

Afinal, a responsabilidade pelas decisões e pelos usos dessas informações continua sendo exclusivamente humana. Nesse sentido, a “IA não diminui a importância da leitura crítica e da comunicação”. Pelo contrário, “ela exige cada vez mais a capacidade de formular boas perguntas, analisar respostas e fazer escolhas conscientes”.

O desafio contemporâneo talvez não seja apenas aprender a conversar com máquinas, mas fortalecer competências humanas como compreender, questionar, interpretar e assumir responsabilidade pelas próprias decisões em um mundo cada vez mais mediado pela tecnologia.

Prof. Dr. Juliano Schimiguel

Tem doutorado e mestrado em Ciência da Computação pelo Instituto de Computação da Unicamp. É coordenador do mestrado profissional em Ensino de Ciências e Matemática pela Universidade Cruzeiro do Sul (São Paulo, SP). Pesquisador permanente nos PPG ECM e EC. É docente na Unianchieta (Jundiaí/SP) e editor-chefe da Revista Ubiquidade.

👉 Você pode me seguir no Instagram e no LinkedIn!

✅Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da Record, no WhatsApp