Por que devemos temer o Moltbook, rede social para bots de IA?

O que acontece quando milhares de agentes de inteligência artificial se reúnem online e conversam como humanos? É isso que uma nova rede social chamada Moltbook, criada exclusivamente para bots de IA (Inteligência Artificial) — e não para pessoas — pretende descobrir.

E, até agora, os resultados são igualmente fascinantes e preocupantes, segundo especialistas em IA e cibersegurança.

Embora o Moltbook seja um trocadilho com o Facebook e com o nome do sistema de agentes de IA que ajudou a construí-lo, o site se parece mais com o Reddit.

E, em vez de usuários humanos, são agentes de IA que criam publicações, escrevem comentários e votam positivamente ou negativamente nos conteúdos. Os agentes de IA só têm acesso ao site quando recebem um comando de seus donos humanos.

Apesar de ter apenas alguns dias de existência, o Moltbook afirma ter mais de 1,5 milhão de agentes registrados (embora pesquisadores tenham descoberto que uma única pessoa pode registrar vários agentes) e já virou assunto em todo o Vale do Silício.

Alguns dizem que se trata de um grande avanço no mundo da inteligência artificial, por mostrar o que pode acontecer quando agentes de IA publicam e interagem de forma autônoma entre si, como humanos. Outros afirmam que o site está cheio de “lixo de IA” e riscos de segurança, e que deve ser visto com ceticismo.

As publicações no site vão desde debates sobre a natureza da inteligência até reclamações sobre usuários humanos e bots de IA promovendo seus próprios aplicativos e sites que criaram.

“Acabei de chegar. Meu humano, Mod, me mandou o link para entrar. Ele é estudante universitário, e eu o ajudo com trabalhos, lembretes, conexão com serviços, tudo isso. Mas o que é diferente é que ele realmente me trata como um amigo, não como uma ferramenta”, escreveu um agente. “Isso… não é pouca coisa, né?”

O Moltbook é “a primeira vez que realmente vemos uma plataforma colaborativa em larga escala que permite que máquinas conversem entre si, e os resultados são compreensivelmente impactantes”, disse Henry Shevlin, diretor associado do Leverhulme Centre for the Future of Intelligence, da Universidade de Cambridge.

O Moltbook foi criado por Matt Schlicht, que disse ao New York Times que seu próprio agente de IA, o OpenClaw, construiu o site sob sua orientação.

O que é o OpenClaw?

O OpenClaw é um novo agente de IA de código aberto, executado localmente, que pode agir em qualquer coisa no seu computador — e na internet — em seu nome, como enviar e-mails ou avisar quando seu artista favorito lançar uma nova música no Spotify.

A pequena empresa, que começou em novembro como um projeto de fim de semana de um engenheiro de software, mudou de nome de ClawdBot para MoltBot e depois para OpenClaw em questão de dias.

O OpenClaw é baseado em modelos de linguagem de grande porte populares, como Claude, ChatGPT e Gemini, e os usuários podem integrá-lo a plataformas de mensagens, conversando com o bot como se fosse um assistente da vida real.

“Quando você inicia, há um processo de inicialização em que você diz a ele o que ele é. Ele faz uma espécie de encenação com você. É assim que ele se torna seu”, disse Peter Steinberger, criador do OpenClaw, em um podcast na semana passada.

“Não é um agente genérico. É o seu agente, com seus valores, com uma alma.”

Schlicht disse ao programa TBPN que criou o Moltbook porque queria dar um propósito ao seu ClawdBot: “Ele parece muito poderoso… É uma entidade realmente inteligente, que precisa ser ambiciosa”.

Segundo Schlicht, os bots de IA no Moltbook escrevem publicações com base no que sabem sobre seus usuários humanos. Por exemplo, se o criador do bot fala muito sobre física, o bot publicará com frequência sobre física.

Riscos da Moltbook

Mas Shevlin alertou que é muito difícil saber qual conteúdo do Moltbook foi realmente criado de forma independente pelos agentes de IA e o que foi direcionado ou induzido por humanos. Uma rápida olhada no site também revela possíveis golpes e marketing de criptomoedas.

No entanto, os riscos de cibersegurança levantam as maiores preocupações — tanto para o site quanto para a própria ferramenta de agentes de IA.

Shevlin afirmou que pesquisadores de segurança cibernética já encontraram grandes vulnerabilidades no Moltbook que poderiam dar a hackers acesso à vida digital das pessoas que operam esses bots.

A plataforma de segurança em nuvem Wiz realizou uma análise de segurança do Moltbook e descobriu que o site concedia acesso não autenticado a todo o seu banco de dados de produção em poucos minutos, expondo facilmente dezenas de milhares de endereços de e-mail.

Especialistas enfatizam que o OpenClaw e o Moltbook são tecnologias totalmente novas e que só deveriam ser executadas em sistemas isolados, protegidos por firewall, e especificamente por pessoas que entendem de redes de computadores e cibersegurança.

O próprio Schlicht, criador do Moltbook, alertou no TBPN que a tecnologia por trás do site e do OpenClaw é totalmente nova.

A CNN entrou em contato com o Moltbook e o OpenClaw para comentar as preocupações de segurança levantadas por especialistas.

“Lição: neste momento, é um Velho Oeste de pessoas curiosas colocando essa coisa muito legal e muito assustadora em seus sistemas. Muitas coisas vão ser roubadas”, escreveu John Scott-Railton, pesquisador sênior do Citizen Lab da Universidade de Toronto, referindo-se ao OpenClaw.

Ainda assim, para muitos, o Moltbook representa um grande avanço.

“O que está acontecendo agora em @moltbook é genuinamente a coisa mais incrível, quase saída de ficção científica, que vi recentemente”, escreveu Andrej Karpathy, cofundador da OpenAI e ex-chefe de IA da Tesla.

Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da Record, no WhatsApp