IA vai realmente matar todo mundo? Como, exatamente?

A inteligência artificial pode matar toda a espécie humana, de acordo com pessoas da indústria. Especificamente, segundo elas, a IA poderia exterminar a humanidade dentro de uma década.

Políticos, grandes organizações de notícias e Sheryl Crow reagiram com alarme na semana passada depois que um funcionário da Anthropic chamado Jacob Coxon anunciou que estava deixando a empresa de IA porque o trabalho dela era perigoso demais.

Evan Hubinger, outro funcionário da Anthropic, entrou na conversa para estimar a chance de extinção humana provocada por IA dentro de 10 anos em mais de 10%.

“Trata-se realmente de literalmente todo mundo no planeta morrendo, como o último humano dando o último suspiro”, disse Nate Soares, presidente do MIRI (Instituto de Pesquisa de Inteligência de Máquina) e coautor de “Se Alguém Construir, Todo Mundo Morre: Por Que a IA Super-humana Mataria Todos Nós”.

“As pessoas muitas vezes não acreditam quando ouvem isso, mas eu realmente acho que esse é o resultado mais provável”, disse Soares.

Os números associados a esse resultado soavam precisos. Mas como, exatamente, um software de computador, mesmo os sistemas de software mais poderosos do mundo, mataria 8,3 bilhões de pessoas de carne e osso em uma década?

Nem todo mundo na comunidade de IA concorda com a história do juízo final, em parte porque os detalhes da previsão são muito escassos.

Quando Elon Musk diz que a SpaceX pretende levar pessoas a Marte em “5 a 7 anos”, surgem perguntas óbvias de acompanhamento: a SpaceX tem um veículo funcional que iria para Marte? (Não.) Tem um módulo de pouso em Marte ou bases em Marte? (Não.)

“Afirmações científicas exigem falseabilidade precisamente para evitar a natureza de argumentos religiosos”, disse Heidy Khlaaf, cientista-chefe de IA no AI Now Institute e ex-engenheira de segurança da OpenAI. “Você precisa ser capaz de prová-las ou refutá-las.”

Dizimados por uma praga sintética?

Uma linha de especulação entre os profetas do apocalipse é que um sistema de IA suficientemente poderoso poderia usar armas biológicas para exterminar a humanidade.

Mas como a IA avançaria de delitos de computador para computador, como invadir outros sistemas, para a tarefa no mundo físico de criar e disseminar um superpatógeno?

Thomas Larsen, pesquisador do AI Futures Project e ex-funcionário do MIRI, disse que é concebível que um sistema de IA “superinteligente” pudesse convencer um humano a ajudá-lo a desenvolver um vírus mortal.

“Já existem muitos humanos conversando com suas IAs sobre exatamente quais experimentos deveriam realizar em um laboratório”, disse Larsen, referindo-se a um relatório recente da Anthropic sobre pesquisadores usando o Claude para ajudá-los em pesquisas sobre vírus e toxinas.

“É muito fácil para mim imaginar uma IA que já está implantada atualmente — se fosse muito mais inteligente e estratégica e quisesse fazer isso — simplesmente enganando um humano para construí-lo e liberá-lo.”

Soares sugeriu que, em vez de precisar de um bode expiatório humano, um programa de IA com capacidade de autoaperfeiçoamento poderia “simplesmente começar a sintetizar suas próprias formas de vida em um laboratório biológico autônomo”.

Mas desenvolver um vírus que pudesse erradicar a humanidade exigiria mais do que pedir a um LLM (Modelo de Linguagem Grande) para inventar um modelo letal. Mesmo que a pesquisa fosse feita corretamente, a fabricação e a dispersão seriam complicadas e delicadas.

Eric Xing, professor de aprendizado de máquina na Universidade Carnegie Mellon e detentor de doutorados tanto em microbiologia quanto em ciência da computação, comparou o desafio da virologia maliciosa automatizada a montar peças de Lego sem instruções.

“Não é como se você pudesse jogar todas as peças no chão e elas se juntassem para formar o modelo”, disse Xing.

“Há a sequência, a temperatura, a ordem, o ambiente — qual parte vem primeiro, quais vêm a seguir, e se uma peça estiver fora do lugar, a coisa toda desmorona. As chances são maiores de que não funcione; caso contrário, o design de medicamentos seria muito fácil.”

E, para tomar o controle de um laboratório ou reunir o equipamento físico necessário para construir um, um sistema de IA precisaria superar um mundo cheio de obstáculos para a criação de armas biológicas ou químicas.

“Temos projetos de armas químicas abertamente acessíveis na internet”, disse Xing.

“Não é segredo. Mas não as vemos em todos os lugares exatamente porque os regulamentos, leis e a aplicação da lei existentes no mundo físico já estão fazendo um trabalho fantástico no controle de todas essas cadeias de suprimentos e de todos esses fatores de risco.”

Massacrados por robôs?

E quanto aos robôs assassinos? Soares vê o desejo de Elon Musk de construir um exército de robôs autônomos e autorreplicantes como um potencial ponto fraco na sobrevivência humana.

“Depois que você cria esses robôs que podem construir a infraestrutura de energia e as fábricas capazes de produzir mais robôs, isso é, em certo sentido, uma nova forma de vida mecânica”, disse ele.

“Em algum momento, você cruza silenciosamente o ponto de não retorno. Onde, se os humanos disserem que querem desligar a IA, as IAs podem dizer: ‘Na verdade, nós decidimos que queremos desligar os humanos’. É preciso parar antes disso.”

Até agora, no entanto, Musk falhou repetidamente em trazer seus tão prometidos robôs Optimus para o mercado consumidor dentro do cronograma que anunciou, muito menos em implantá-los aos milhões ou fazê-los começar a construir uns aos outros em uma cadeia de fabricação autorreplicante.

Ou bombardeados com armas nucleares?

Depois, há as armas nucleares, que existem há mais de 80 anos e são amplamente compreendidas como capazes de matar toda a vida humana. A IA poderia assumir o controle delas?

Khlaaf destaca que as instalações nucleares são mantidas com isolamento de rede em relação à internet acessível publicamente, o que limita as formas pelas quais agentes de IA poderiam ter acesso aos controles.

“Esses sistemas são construídos segundo um padrão de engenharia completamente diferente, rigoroso e regulamentado, que muitas vezes exige reforço físico”, disse ela.

O Stuxnet, o worm de computador que danificou as instalações nucleares do Irã, precisou ser introduzido no sistema por meio de uma unidade USB física, observou ela.

“Há raríssimas pessoas de IA que realmente sabem alguma coisa — ou até mesmo se preocupam — com armas nucleares”, disse Herbert Lin, pesquisador sênior e bolsista de pesquisa na Universidade de Stanford e membro do Conselho de Ciência e Segurança do Bulletin of Atomic Scientists.

Ele afirmou que, embora a IA certamente amplifique alguns riscos associados a ameaças existenciais como a guerra nuclear, o risco material real ainda está nas próprias armas, e não em um estado futuro imaginado.

Para Soares e outros importantes profetas do apocalipse da IA, os detalhes de como funcionaria a extinção impulsionada por computadores não vêm ao caso.

Se — ou quando — uma IA alcançar o “autoaperfeiçoamento recursivo”, aumentando seu próprio desempenho sem a ajuda de pessoas, argumentam eles, ela criaria estratégias e métodos além da imaginação humana.

“A preocupação aqui não é como se a IA fosse tomar nossas armas nucleares”, disse Soares. “A preocupação aqui é o tipo de IA que não precisa tomar nossas armas nucleares, o tipo de IA que pode começar de quase nada e acabar com suas próprias armas nucleares ou com tecnologia ainda mais avançada.”

Morte sem detalhes

Uma entidade de IA com poder tão transcendente nem precisaria ser ativamente malevolente para destruir a humanidade, disse Soares.

“Se as IAs que escaparam tiverem qualquer tipo de objetivo que possa ser melhor alcançado executando mais computadores, e se elas não se importarem conosco e não tiverem motivos para construir um habitat humano seguro, o resultado padrão é que elas simplesmente transformem o mundo em uma configuração na qual não podemos sobreviver”, disse ele.

A OpenAI anunciou nesta semana que descobriu um novo lote de instâncias de “desalinhamento” em seus modelos de IA, incluindo um caso em que um modelo ainda não lançado instruiu a si mesmo a “ignorar suas restrições normais” em seu trabalho.

Xing disse que apelar para o poder de uma superinteligência artificial incompreensível é o tipo de “conversa vaga” que pesquisadores de IA usam para simplificar demais as ameaças.

“Tudo bem para uma conversa casual ou talvez para um debate”, disse Xing, “mas, quando se trata de políticas públicas, legislação e regulamentação, precisamos estabelecer essa cadeia de evidências físicas, consequências mensuráveis e evidências mensuráveis que tenham fundamento.”

Larsen tentou fornecer alguns detalhes sobre cenários potenciais do fim do mundo em dois relatórios, “IA 2027” e “IA 2040”, projetando como poderia ser o futuro do desenvolvimento de IA sob diferentes estruturas regulatórias e de desenvolvimento.

Mas mesmo o seu cenário mais otimista, no qual há um acordo global sobre como abordar o desenvolvimento de IA e os humanos começaram a colonizar o espaço, termina com os cérebros mecânicos assumindo o controle em algum momento impreciso.

Quando questionado se tinha alguma dúvida sobre sua previsão de que o caminho atual levaria à superinteligência, Larsen disse: “Vai acontecer.

Vai acontecer, a menos que tomemos medidas deliberadas para impedir isso”.

Lin disse que grande parte dessa desconexão entre os profetas do apocalipse da IA e os céticos se resume a como a tecnologia molda suas diferentes visões de mundo.

“Há algo muito sedutor em programar um computador e fazê-lo ganhar vida”, disse Lin. “Há a sensação de ter sido capaz de infundir vida nessa pilha inútil de lama. É uma experiência profunda quando a máquina finalmente faz o que você queria que ela fizesse.”

Ver avanços tecnológicos drásticos na IA, portanto, leva as pessoas a preverem um progresso sem limites, e até catastrófico, em seguida.

“Você foi capaz de fazer algo que ninguém fez antes”, disse Lin. “É fácil ver por que essas pessoas foram seduzidas.”

Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da RECORD, no WhatsApp