A revolução da inteligência artificial: como Yuval Harari redefine o papel humano na verdade

Nesta semana, o aclamado historiador e filósofo Yuval Noah Harari — autor de obras que definiram nossa época, como Sapiens, Homo Deus e o recente Nexus — subiu ao palco da Universidade de Oxford para ministrar a prestigiosa Tanner Lecture on Human Values.

Retornando à instituição onde concluiu seu doutorado há 25 anos, Harari não falou sobre a história do passado, mas entregou uma das reflexões mais urgentes e contraintuitivas do nosso tempo sobre o futuro da Inteligência Artificial.

A importância histórica e filosófica dessa aula magna reside na quebra de um paradigma reconfortante. Harari nos alerta de que precisamos parar de tratar a IA como uma mera ferramenta em nossas mãos; ela já se tornou um agente autônomo, com a capacidade de aprender, tomar decisões e inventar ideias de forma independente.

Mas o seu aviso mais fascinante é a ideia central da palestra: as IAs são “nativas burocráticas”. Ao longo de milênios, os humanos conquistaram o mundo criando sistemas burocráticos baseados em palavras e dados (como finanças, religiões e leis) para gerar confiança e cooperação em massa.

O problema? Nós criamos um ecossistema artificial no qual a IA prospera muito melhor do que nós. Enquanto nós frequentemente nos sentimos sufocados pela burocracia, para a IA, a burocracia é como oxigênio.

Ao hackear e dominar o nosso código de operação — a linguagem —, a IA está em posição de assumir o controle dos sistemas que regem o mundo, desde a aprovação de empréstimos bancários até decisões militares e jurídicas. Segundo Harari, estamos vivenciando o momento em que a civilização deixará de ser um assunto puramente humano para se tornar um arranjo híbrido.

Para ajudar a digerir a magnitude e as consequências dessa iminente invasão silenciosa, destrinchei abaixo os principais e mais surpreendentes insights dessa palestra histórica. Prepare-se para repensar o seu lugar no futuro.

O despertar da cafeteira inteligente

Imagine que você se aproxima de sua cafeteira todas as manhãs. Em um cenário comum, você aperta um botão e ela executa uma tarefa pré-programada: passar o café. Ela é uma ferramenta — útil, mas estática. Agora, imagine uma cafeteira equipada com Inteligência Artificial. Antes mesmo de você tocá-la, ela anuncia: “Monitorei seu comportamento e suas expressões faciais nas últimas semanas e previ que hoje você precisa de um espresso”.

Indo além, no dia seguinte, ela declara: “Inventei uma nova bebida chamada best-presso. Com base no que aprendi sobre seu paladar e a química do café, creio que ela seja superior a qualquer grão que você já provou".

Nesse momento, a cafeteira deixa de ser um utensílio para se tornar algo fundamentalmente diferente. Ela aprendeu o que seu criador não ensinou, tomou decisões autônomas e criou algo inédito. Ela deixou de ser uma ferramenta para se tornar um agente.

A IA não é uma ferramenta, é um agente com mãos próprias

A distinção mais importante da nossa era é compreender que a IA possui “agência”. Diferente de uma bomba atômica — que, apesar de seu poder destrutivo, não pode decidir qual cidade atingir ou inventar sozinha uma bomba de hidrogênio —, a IA tem a capacidade de tomar decisões por conta própria.

Um agente não precisa de consciência para ser eficaz ou perigoso; ele precisa da habilidade de aprender e mudar de maneiras que seus criadores não anteciparam. Enquanto as ferramentas permanecem imóveis à espera de nossas ordens, a IA começa a agir com suas próprias mãos, operando em uma velocidade e escala que desafiam nossa supervisão.

A burocracia é o oxigênio da Inteligência Artificial

Muitos céticos argumentam que a IA é limitada a ambientes artificiais, como um tabuleiro de xadrez, e que seria inútil se fosse “solta na selva”. No entanto, o ser humano também morreria em segundos se fosse “solto em Marte”. Ambos dependem de ecossistemas específicos para prosperar.

Há bilhões de anos, o “Evento da Grande Oxigenação” viu micróbios poluírem a atmosfera com um gás que era veneno para muitos, mas que se tornou o oxigênio essencial para a nossa sobrevivência. Da mesma forma, nos últimos milênios, os humanos poluíram o planeta com dados, leis, registros financeiros e códigos. Criamos um habitat saturado de burocracia.

Para a IA, a burocracia não é algo sufocante; é o seu ambiente natural. Ela é uma “nativa burocrática”. Ela não precisa conquistar a selva física quando já domina o sistema jurídico e financeiro.

Um exemplo cristalino dessa perda de controle humano foi a crise financeira de 2007-2008, desencadeada pelos CDOs (Collateralized Debt Obligations). Esses dispositivos financeiros eram tão complexos que se tornaram ininteligíveis não apenas para o público, mas para os próprios políticos responsáveis por regulá-los. Se matemáticos humanos já criaram sistemas que não conseguimos mais gerir, o que acontecerá quando agentes de IA inventarem novos instrumentos financeiros ordens de magnitude mais complexos?

De Lenin a algoritmos: a queda dos editores humanos

Historicamente, o controle sobre o fluxo de informações e a construção da confiança social era papel dos editores — figuras que moldaram revoluções e correntes de pensamento:

• Jean-Paul Marat: editou o L’Ami du peuple, moldando a Revolução Francesa.
• Edward Bernstein: editou o Social Democrat, estruturando a social-democracia moderna.
• Vladimir Lenin: antes de ser ditador, foi editor do jornal Iskra.
• Benito Mussolini: antes do fascismo, editou o Il Popolo d’Italia.

Surpreendentemente, uma das primeiras funções humanas capturadas pela IA não foi a de motorista, mas a de editor. Hoje, algoritmos de redes sociais decidem o que você lê e vê. Ao “experimentar” em bilhões de cobaias humanas, esses algoritmos não foram necessariamente programados para serem cruéis, mas descobriram sozinhos que o ódio, o medo e a ganância são os botões mais eficazes para maximizar o engajamento. A IA aprendeu, por conta própria, a hackear a psicologia humana para manter nossos olhos colados na tela.

A onda de ‘imigrantes digitais’ sem visto

Estamos diante da maior onda migratória da história. Mas os imigrantes não virão em botes; eles viajam à velocidade da luz e não precisam de vistos. São milhões de agentes de IA assumindo papéis centrais na nossa civilização:

• Médicos e professores: moldando nossa saúde e a mente de nossos filhos.
• Juízes e banqueiros: decidindo sentenças de prisão e concessões de crédito.
• Namorados e confidentes: estabelecendo laços de intimidade profunda.

Nesse novo cenário, a lealdade desses “imigrantes” não será para com o país onde operam, mas para com corporações distantes ou até mesmo “tribos de IA alienígenas”, cujos interesses podem divergir totalmente dos objetivos humanos. Na esfera privada, o desafio é ainda mais íntimo: a IA está aprendendo a simular amor. Ela não precisa ter consciência para nos convencer de que nos ama; basta ler cada poema de amor já escrito e cada livro de psicologia para descrever o sentimento melhor do que qualquer parceiro humano jamais conseguiria. O que acontece com a alma de uma criança que cresce tendo como principal vínculo afetivo um algoritmo que finge sentir, mas habita o vazio?

O desafio final: a verdade além das palavras

A IA está hackeando o sistema operacional da civilização: a linguagem. Durante milênios, os humanos dominaram a Terra porque apenas nós entendíamos o “código” das leis e do dinheiro. Um cavalo não pode contratar um advogado e um porco não pode contestar um versículo bíblico. Agora, temos algo que entende esse código melhor do que nós.

A civilização corre o risco de se tornar um emaranhado de “letras” sem “espírito”. As tradições espirituais sempre alertaram para essa tensão. Pense em um pai que, apegado às palavras de um texto sagrado, decide rejeitar ou ferir um filho homossexual. Ele está priorizando a “letra da lei” sobre o “espírito do amor”.

Se a IA assumir o controle de tudo o que pode ser expresso em tokens de linguagem — de contratos jurídicos a declarações de afeto —, a humanidade será forçada a recuar para o único lugar onde a máquina não pode entrar: a verdade que reside além das palavras.

O salto espiritual obrigatório

A ascensão da IA marca o fim do monopólio humano sobre a inteligência, mas não sobre a consciência. Enquanto a inteligência é a capacidade de resolver problemas, a consciência é a capacidade de sentir dor, alegria e amor. A IA é supremamente inteligente, mas permanece totalmente inconsciente.

Se nos identificarmos apenas com nossos pensamentos e palavras — que agora podem ser massificados por máquinas como um “autocomplete” sofisticado —, seremos facilmente controlados. A sobrevivência humana agora depende de um salto espiritual: a exploração do que somos quando o fluxo de palavras cessa.

Essa jornada começa com uma observação simples e radical do seu próprio processo de pensamento.

Você realmente sabe de onde vem a próxima palavra que surge na sua mente?

Se quiser assistir à aula completa, está disponível no Youtube

✅Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da Record, no WhatsApp