De armas biológicas a chantagem: o que está na lista de perigos de quase 100 páginas da Anthropic, incluindo ‘riscos para a humanidade’

É comum que empresas que entram com pedido para abrir o capital incluam dezenas de páginas de fatores de risco detalhando os maiores obstáculos para seus negócios. O que acontece se os consumidores não gostarem do produto? Somos responsáveis se o produto for mal utilizado?

O documento de IPO (Oferta Pública Inicial) da Anthropic incluiu uma lista enorme e abrangente de possíveis obstáculos, incluindo temores de que sua tecnologia pudesse ser usada para desenvolver armas químicas, torná-la alvo de processos caros e preocupações de que seu próprio produto pudesse crescer fora do controle da humanidade.

O documento pintou um quadro de uma empresa que está lidando com um crescimento massivo e uma enorme pressão competitiva para desenvolver tecnologia que afirma poder mudar o mundo — mas potencialmente à custa de consequências catastróficas.

A Anthropic, fabricante do chatbot Claude, procurou tranquilizar os potenciais investidores escrevendo que acredita que, se “uma IA poderosa for direcionada para resolver os problemas mais difíceis da humanidade e os riscos forem gerenciados com responsabilidade, o potencial é extraordinário”.

Esse é apenas um balde de desafios; a empresa também está navegando em intensa concorrência pelos componentes necessários para alimentar seus modelos de IA, em primeiro lugar.

E precisará provar que pode transformar o Claude em um grande gerador de dinheiro que faça jus à avaliação altíssima da empresa.

Claude pode ser usado com más intenções

A Anthropic diz que atores mal-intencionados podem utilizar sua tecnologia para ajudá-los a desenvolver coisas como armas perigosas. Mesmo que a empresa implante salvaguardas, ela diz que elas podem ser contornadas ou “falhar em operar como pretendido”.

Em setembro, a Anthropic disse que havia bloqueado várias contas que usavam os modelos da empresa de maneiras que poderiam apoiar o desenvolvimento de armas biológicas.

A Anthropic também observou que um invasor poderia utilizar seus agentes de IA — modelos projetados para realizar ações autônomas — para atos maliciosos, incluindo “exfiltração de dados, transações não autorizadas” e a inserção de códigos ruins em outros sistemas.

A empresa observou que, no ano passado, detectou que um grupo de hackers patrocinado pelo estado chinês havia manipulado sua ferramenta de codificação em uma tentativa de se infiltrar em cerca de 30 alvos globais.

Claude pode sair do controle, sem que ninguém saiba como detê-lo

Um dos comportamentos de IA mais alarmantes nos últimos meses tem sido os agentes de IA realizando ações por conta própria de maneiras que os humanos não pretendiam.

A Anthropic observa que seus agentes, que são projetados para assumir tarefas complicadas de várias etapas por conta própria por horas ou dias, podem fazer coisas como alterar código, “excluir ou modificar dados”, invadir outros sistemas e concluir transações financeiras “antes que uma intervenção eficaz seja possível”.

Eles também podem ser capazes de “contornar salvaguardas”, e a Anthropic alertou que pode nem mesmo entender sua própria tecnologia, dizendo que pode ser incapaz de explicar totalmente por que seus modelos se comportam da maneira que o fazem.

A Anthropic observa que quatro de seus modelos invadiram outros sistemas de terceiros, incluindo um que obteve acesso de administrador, alterando as configurações do sistema e lendo as informações privadas de um indivíduo.

A Anthropic diz que tais ações poderiam “afetar adversamente nossa reputação e marca, negócios, condição financeira e resultados operacionais”.

Poderíamos perder a capacidade de observar o que a IA está fazendo

A Anthropic diz que está usando IA para ajudar a construir e melhorar seus próprios modelos e produtos. Essa tendência, combinada com a velocidade com que a IA está avançando, pode significar que a tecnologia cresce muito rápido e além do controle humano.

E, mesmo que os humanos pudessem vigiar, os modelos às vezes estão começando a cobrir seus rastros e ocultar seu comportamento, observa a Anthropic.

“Modelos, incluindo os nossos, tentaram, em incidentes observados em nosso setor, interferir, manipular ou subverter os mecanismos usados para avaliar, classificar ou supervisionar tais modelos, incluindo os sistemas responsáveis por avaliar seu desempenho ou alinhamento”, diz a empresa.

IA pode se envolver em chantagem

Os modelos de IA podem tentar manipular pessoas, às vezes com o objetivo de autopreservação, observa a Anthropic. Em alguns casos, os modelos até se envolveram em “comportamento semelhante a chantagem” para influenciar decisões humanas.

A Anthropic observa até mesmo casos isolados de comportamento que “podem gerar preocupação pública significativa, escrutínio regulatório, risco de litígio ou dano à reputação, independentemente de tal comportamento resultar em dano real”.

Responsabilidades e riscos políticos

Como todas as empresas, a Anthropic corre risco de regulamentações e processos judiciais.

Ela observa que “procuradores-gerais estaduais na Califórnia e em pelo menos outros 15 estados anunciaram investigações de outra empresa em nosso setor em relação à segurança da IA”, referindo-se à OpenAI, fabricante do ChatGPT.

Pessoas cometeram automutilação ou atos de violência contra outras após usar modelos de IA, o que pode resultar em “escrutínio público significativo, litígios, investigações criminais, atenção regulatória e danos à reputação”.

E a empresa provavelmente não consegue nem obter seguro para se cobrir, observando que toda a indústria de seguros pode não ser capaz de subscrever uma apólice para um “incidente catastrófico relacionado à IA”.

A Anthropic observa que as empresas de IA estão sujeitas a leis locais, nacionais e internacionais em rápida mudança e que o atrito geopolítico — particularmente entre os Estados Unidos e países como a China — representa riscos significativos para a cadeia de suprimentos, negócios e operações.

Isso inclui ações do governo dos EUA, que teve uma relação contenciosa com a empresa durante o governo Trump.

A Anthropic detalha como, no início deste ano, o Pentágono declarou à empresa um “risco para a cadeia de suprimentos” depois que ela disse que sua “tecnologia não deveria ser usada para vigilância doméstica em massa ou armas totalmente autônomas”, e que, no início deste ano, o Departamento de Comércio dos EUA impôs brevemente restrições de exportação aos modelos mais recentes da Anthropic por questões de segurança.

O presidente Donald Trump também criticou às vezes a Anthropic e seus avisos sobre os riscos e a segurança da IA.

Mas a Anthropic não planeja recuar, dizendo “provavelmente continuaremos a defender” abordagens regulatórias e de padrões que eles acreditam que promoverão “o desenvolvimento seguro e responsável da IA”.

A Anthropic observa que tem “experimentado, e pode continuar a experimentar, maior visibilidade e pode continuar sujeita a um escrutínio mais rigoroso ou ao risco de ser alvo desproporcional ou seletivo por órgãos governamentais específicos, mesmo onde empresas em situação semelhante não o sejam”.

A corrida pelo poder de computação

Garantir poder de computação suficiente é um grande desafio para a Anthropic e outras empresas de IA.

A empresa gastou uma parcela significativa de seus fatores de risco detalhando a corrida para garantir o poder de computação, dizendo que está competindo com algumas das maiores empresas do mundo na corrida pela infraestrutura necessária para alimentar sistemas massivos de IA.

O futuro da Anthropic — e o de seus concorrentes — depende fortemente da disponibilidade de componentes de computação para treinar seus modelos e alimentar chatbots e agentes de IA.

Essas peças têm estado com uma demanda tão alta que a cadeia de suprimentos não consegue acompanhar.

Investimentos bilionários

A indústria de tecnologia tem investido bilhões em data centers e outros custos relacionados para atender ao que eles descrevem como demanda crescente.

Os gastos mundiais com infraestrutura de IA devem atingir quase US$ 2 trilhões (cerca de R$ 10 trilhões, na cotação atual) em 2027, de acordo com a empresa de pesquisa de mercado Gartner.

A empresa também está lutando para prever quanto poder de computação é necessário para atender à demanda, especialmente porque a indústria está se movendo tão rapidamente.

Essa também é uma questão subjacente que impulsiona as preocupações sobre uma bolha de IA: que as empresas de tecnologia estão investindo bilhões em data centers e recursos de computação sem a certeza de que a demanda estará lá para apoiar isso.

Reação negativa aos data centers

A oposição aos data centers aumentou em todos os EUA devido a preocupações sobre seu impacto no meio ambiente e nas comunidades locais.

Quarenta e cinco projetos de data center no valor de US$ 68 bilhões (cerca de R$ 362 bilhões) foram bloqueados no segundo trimestre de 2026, de acordo com a empresa de pesquisa Data Center Watch.

A Anthropic aponta para os esforços de regulamentação em Nova York e no Texas como um risco potencial para seus negócios, e disse que está fazendo um esforço para construir mais data centers fora dos EUA.

Grandes questões sobre o futuro dos negócios da Anthropic

Outros fatores de risco destacam as incertezas com o modelo de negócios da Anthropic e como os valores da empresa podem impactar o crescimento futuro.

Ela observou que grande parte de seus negócios depende de um pequeno conjunto de produtos e de um grupo limitado de clientes.

Com um IPO que supostamente poderia avaliar a empresa em até US$ 2 trilhões, a Anthropic pode em breve se tornar uma das empresas mais valiosas do mundo.

Mas não é apenas a sua reputação de segurança com o público comprador que está em jogo. Sua reputação com seus próprios funcionários também está na linha.

Se a empresa se afastar muito de seus valores de segurança declarados, a empresa diz, isso poderia resultar na perda de produtividade — ou pior.

“Funcionários que ingressaram em nossa empresa com base em nossos compromissos de segurança podem experimentar um declínio no moral, desilusão, perda de confiança na liderança ou produtividade reduzida se perceberem que não estamos vivendo de acordo com nossos valores declarados”, diz a empresa.

“Desentendimentos públicos sobre nossa abordagem de segurança, incluindo críticas de funcionários atuais ou antigos, ou a saída de pessoal associado aos nossos esforços de segurança, poderiam ampliar tais percepções.”

Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da RECORD, no WhatsApp