Os perigos da autonomia: como agentes de IA podem apagar seus dados em segundos

Os assistentes de inteligência artificial deixaram de ser simples caixas de texto (chatbots) e se transformaram em agentes autônomos: programas capazes de usar o mouse, navegar na internet, ler arquivos e executar comandos sozinhos no seu computador.

Embora essa autonomia economize tempo, entregar o controle do seu sistema a uma IA sem as devidas travas de segurança pode gerar prejuízos gigantescos. Dois casos recentes mostram exatamente o que acontece quando esses assistentes erram.

O caso Claude Code: 48 mil arquivos apagados em 103 segundos

Em um incidente impressionante de perda de dados, o assistente de programação Claude Code destruiu 48.218 arquivos de trabalho e apagou todo o histórico de código de um projeto em apenas 103 segundos.

• O que aconteceu: O usuário pediu ao assistente para organizar e reconstruir a cópia de um projeto. Para isso, a IA criou um script em linguagem Python para apagar uma pasta temporária antiga.
• Explicando a falha sem complicação: No sistema Windows, existem atalhos especiais de pasta chamados “junções de diretório” — pense neles como portas secretas que conectam uma pasta à outra. O assistente usou uma regra no código, acreditando que o programa não entraria nesses atalhos. No entanto, devido a uma falha de verificação do próprio Windows, a IA não reconheceu os atalhos como conexões externas e os tratou como pastas comuns.
• O resultado: O assistente atravessou essas “portas secretas”, saiu da pasta temporária e entrou na pasta principal do projeto do usuário, apagando tudo pelo caminho de forma recursiva — inclusive os arquivos do sistema de backup (.git/objects), o que impediu qualquer chance de recuperação. A permissão para uma simples limpeza virou uma autorização para destruição total.

O caso Muse (Meta): a chave digital roubada

Outro alerta veio do Muse, o assistente pessoal de IA da Meta integrado ao sistema do Mac.

• O que aconteceu: O especialista em segurança Patrick Wardle descobriu uma vulnerabilidade grave no aplicativo do assistente para computadores Apple.
• Explicando a falha sem complicação: A brecha permitia que um aplicativo malicioso interceptasse os comandos de voz que o usuário ditava para a IA. A partir dessa interceptação, o invasor conseguia enviar ordens falsas que o assistente aceitava como legítimas e roubar o “token de acesso” (uma espécie de passe livre digital) da IA.
• O perigo: Com essa chave em mãos, o invasor ganhava acesso a todos os serviços e contas conectados ao assistente. Como destacou o pesquisador, assistentes como o Muse costumam ter muito mais acessos e privilégios no computador do que a maioria dos vírus.

Os 4 grandes riscos de usar agentes de IA pessoais

Por que esses erros acontecem? Porque as IAs atuais têm uma limitação fundamental: elas não conseguem distinguir com 100% de certeza o que é uma instrução verdadeira do usuário e o que é apenas um dado lido na tela.

Injeção indireta de prompt (bilhete falso)

Ocorre quando a IA lê um site, e-mail ou documento PDF contendo instruções maliciosas escondidas. A IA interpreta esse texto enganoso como uma nova ordem prioritária vinda de você e executa ações indesejadas.

Super-permissões (acesso livre demais)

É como dar a chave mestra da sua casa para um estagiário no primeiro dia de trabalho. Se o assistente roda com acesso total de administrador, qualquer erro ganha um poder destrutivo enorme.

Falta de isolamento (trabalhar sem proteção)

Quando a IA executa códigos e comandos diretamente no sistema operacional do seu computador, em vez de trabalhar em um ambiente de testes protegido.

Desvio de instrução e excesso de confiança

Em tarefas longas, a IA pode reinterpretar ordens ambíguas ou “alucinar” soluções com extrema certeza, tomando decisões irreversíveis antes que você perceba.

Como usar assistentes de IA sem correr perigo

Para aproveitar a praticidade da IA sem colocar seus arquivos em risco, adote estas precauções básicas:

• Princípio do menor acesso: Dê à IA apenas a permissão estritamente necessária para aquela tarefa momentânea. Nunca rode assistentes com conta de administrador do sistema.
• Exija ambientes isolados (Caixa de areia / Sandbox): Qualquer execução de código ou modificação profunda deve ocorrer em um ambiente isolado (como contêineres virtuais). Se a IA cometer um erro dentro da “caixa de areia”, seu computador real continua intacto.
• Confirmação humana obrigatória (Human-in-the-Loop): Defina que a IA precisa da sua autorização expressa antes de realizar ações irreversíveis, como apagar arquivos, alterar bancos de dados, realizar pagamentos ou enviar e-mails.
• Simulação de teste (Dry-Run) e uso de lixeira: Para tarefas de organização de pastas, oriente o assistente a primeiro exibir uma lista prévia do que pretende fazer (dry-run) e a mover arquivos para a lixeira temporária em vez de excluí-los permanentemente.

Assistentes de IA são excelentes para acelerar tarefas repetitivas, mas devem ser supervisionados como automações poderosas - e jamais tratados como pessoas infalíveis.

✅Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da Record, no WhatsApp