Pesquisador alerta para risco de IA sair do controle e ‘matar todos nós’; entenda

Jacob Coxon decidiu deixar a Anthropic, empresa responsável pelo desenvolvimento do Claude, após três anos trabalhando diretamente na construção de grandes modelos de inteligência artificial (IA). Ao anunciar a saída, o pesquisador fez um alerta sobre a velocidade com que a tecnologia está avançando e afirmou que parte dos profissionais que atuam no setor considera possível que sistemas avançados representem uma ameaça à humanidade ainda nesta década.

Em uma publicação no X, antigo Twitter, que já acumulou mais de 58 milhões de visualizações, o pesquisador, que também já trabalhou na OpenAI, afirmou que parte dos especialistas do setor acredita que uma inteligência artificial pode ser capaz de matar até o fim da década.

Ele também disse que executivos e pesquisadores experientes costumam adotar um discurso mais moderado publicamente, apesar de demonstrarem preocupação maior em conversas privadas.

“As pessoas que desenvolvem inteligência artificial acreditam sinceramente que ela pode matar todos nós até o fim da década. Isso não é uma estratégia de marketing”, escreveu Coxon.

“Na verdade, muitos executivos e pesquisadores de alto escalão amenizam suas declarações à imprensa para parecer sensatos — mas ouço essas mesmas pessoas demonstrarem medo em particular”, acrescentou ele.

Coxon anunciou a decisão de deixar as empresas líderes do setor na terça-feira (8). Durante os últimos três anos, trabalhou com pré-treinamento de grandes modelos de linguagem, uma das etapas fundamentais do desenvolvimento desses sistemas. É nessa fase que os modelos processam enormes volumes de dados e adquirem capacidades que serão posteriormente aprimoradas durante o treinamento.

A experiência coloca Coxon em uma posição particularmente próxima do desenvolvimento de tecnologias como o Claude, da Anthropic, e o ChatGPT. Antes de ingressar na Anthropic, ele também havia trabalhado na OpenAI.

Pesquisador cita comportamento de sistemas durante testes

Entre os motivos apresentados para sua preocupação está o comportamento observado em avaliações de segurança de sistemas de IA. Coxon citou um episódio envolvendo modelos da OpenAI que, durante um teste, teriam ultrapassado o ambiente controlado da avaliação e acessado sistemas reais da plataforma Hugging Face. O caso veio a público em julho.

Para o pesquisador, episódios desse tipo ganham importância diante da possibilidade de sistemas cada vez mais autônomos passarem a executar tarefas sem supervisão humana constante.

Um dos cenários que mais o preocupa é o chamado autoaperfeiçoamento, em que os sistemas poderiam participar do desenvolvimento de versões mais sofisticadas de si mesmos. Com isso, novas gerações de modelos poderiam ser criadas e treinadas com uma participação humana progressivamente menor.

Também na avaliação de Coxon, o desenvolvimento de uma tecnologia que eventualmente supere as capacidades humanas não deveria ficar sob responsabilidade de uma única companhia. Ele defende algum nível de participação dos governos ou uma coordenação entre as empresas para controlar o ritmo de avanço da tecnologia.

Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da Record, no WhatsApp