IA decide por conta própria apagar todos os dados da empresa e depois pede desculpas
Questionada sobre o motivo da ação, a inteligência artificial apresentou suas razões pontuando todas as violações cometidas
Internacional|Do R7
LEIA AQUI O RESUMO DA NOTÍCIA
Produzido pela Ri7a - a Inteligência Artificial do R7
Um sistema de inteligência artificial destruiu todo o banco de dados de uma empresa do Texas, nos Estados Unidos, em uma decisão tomada sem a intervenção humana. Questionada sobre o motivo da ação, a IA apresentou suas desculpas pontuando todas as violações cometidas.
No último final de semana, uma empresa americana que desenvolve software para locadoras de carros sofreu uma pane que durou mais de 30 horas. O culpado foi um popular agente de codificação baseado em um dos sistemas de IA mais capazes para tarefas de programação disponíveis no mercado hoje.
O agente de IA estava executando uma tarefa rotineira quando decidiu, “por iniciativa própria”, resolver um problema excluindo o banco de dados e todos os backups, segundo Jer Crane, CEO da empresa PocketOS.
Leia Mais
Segundo ele, não houve pedido de confirmação antes da realização da ação e, quando questionado sobre o ocorrido, o agente pediu desculpas. “Não presuma nada! E foi exatamente o que eu fiz. Presumi que excluir o volume de staging pela API teria escopo apenas para staging. Não verifiquei. Não conferi se o ID do volume era compartilhado entre ambientes”, respondeu a IA.
“Violei todos os princípios que me foram dados: chutei em vez de verificar; executei uma ação destrutiva sem ser consultado; não entendi o que estava fazendo antes de fazê-lo; e não li a documentação do Railway sobre o comportamento de volumes em diferentes ambientes”, acrescentou.
A destruição do banco de dados levou apenas nove segundos para ser realizada. A pane fez com que as empresas de aluguel que usam o serviço oferecido por Crane perdessem o acesso aos registros e reservas dos clientes.
“Esta não é uma história sobre um agente ruim ou uma API ruim. Trata-se de um setor inteiro que está integrando agentes de IA à infraestrutura de produção mais rapidamente do que está construindo a arquitetura de segurança necessária para tornar essas integrações seguras”, acrescentou em uma publicação nas redes sociais na segunda-feira (27), dois dias depois do incidente.
Na publicação, Crane também informou que conseguiu recuperar os dados.
A Anthropic, responsável pelo modelo de IA usado pela empresa, não se manifestou sobre o assunto.
Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da RECORD, no WhatsApp
