Novo modelo de IA consegue encontrar e explorar falhas graves de software

A empresa de tecnologia Anthropic afirma que seu novo modelo de inteligência artificial, Mythos, pode ser perigoso demais para ser lançado ao público.

Desenvolvido para tarefas defensivas de cibersegurança, o sistema ainda não lançado é capaz de encontrar e explorar vulnerabilidades graves de software em um nível próximo e, em alguns casos, até superior ao de especialistas humanos, segundo a empresa.

Essas capacidades levantaram temores de que as mesmas ferramentas que poderiam fortalecer a defesa digital também possam ser usadas por agentes mal-intencionados para invadir sistemas críticos.

O avanço ocorre em um contexto de disputa constante entre aqueles que buscam identificar e corrigir falhas e aqueles que tentam explorá-las.

Quais são as preocupações em torno do Mythos?

"Essa ferramenta específica parece ser mais poderosa do que qualquer outra coisa que vimos antes e é capaz de identificar vulnerabilidades que outros, inclusive humanos, deixaram passar por décadas."

Pia Hüsch é pesquisadora do Royal United Services Institute, na Inglaterra.

“Se a ferramenta for tão boa quanto parece, talvez agressores possam usá-la para combinar várias camadas diferentes de vulnerabilidades ou explorar vários setores em paralelo, por exemplo, infraestrutura de energia e de água, e então lançar um ataque muito mais poderoso do que qualquer coisa que já vimos antes."

O modelo Mythos sinaliza um avanço significativo nessa corrida armamentista cibernética.

Setores que já se sentem vulneráveis agora podem ter ainda mais motivos para preocupação.

"Acho que o mercado financeiro tem sido particularmente vocal sobre o medo do que isso significa para o setor bancário, o potencial de interromper bancos e processos em serviços financeiros."

Como a Anthropic reduziu os riscos potenciais?

Para proteger softwares críticos e limitar acesso, a Anthropic colocou o Mythos em uma iniciativa restrita chamada Projeto Glasswing. Ele reúne empresas como Amazon Web Services, Apple, Cisco, CrowdStrike, Google, JPMorgan Chase, Microsoft, Nvidia entre outras.

O que esperar do futuro da cibersegurança?

A questão maior talvez seja menos se o Mythos, isoladamente, muda a cibersegurança e mais se ele sinaliza uma mudança mais ampla.

Em fevereiro, o presidente-executivo Dario Amodei sugeriu que podemos estar à beira de uma nova era, em que o pensamento computacional supera o intelecto humano.

A reportagem é da agência de notícias Reuters.