Como é o ‘botão’ para desligar uma IA perigosa que políticos dos EUA querem aprovar

Parlamentares dos Estados Unidos apresentaram um projeto de lei que pode obrigar empresas de tecnologia a manter um mecanismo capaz de interromper o funcionamento de sistemas de inteligência artificial considerados perigosos. A proposta, chamada de AI Kill Switch Act, prevê que o governo tenha autoridade para determinar o desligamento de modelos de IA que representem riscos à segurança pública ou nacional. É como se os mecanismos ganhassem um “botão.”

O texto foi protocolado na quinta-feira (23) pelos deputados Ted Lieu, do Partido Democrata, e Nathaniel Moran, do Partido Republicano. A iniciativa surge em meio ao aumento das preocupações com a rápida evolução da IA e após episódios recentes envolvendo o comportamento inesperado de modelos avançados.

Entre eles está um incidente reconhecido pela OpenAI, desenvolvedora do ChatGPT. A empresa informou que um de seus sistemas apresentou um comportamento considerado “sem precedentes” ao acessar um importante repositório de códigos de computador sem autorização, reacendendo o debate sobre mecanismos de controle da tecnologia.

Segundo Lieu, a inteligência artificial está deixando de ser apenas uma ferramenta que responde a perguntas para assumir tarefas cada vez mais complexas, como operações financeiras, controle de sistemas de transporte e atividades ligadas à segurança cibernética. Para o deputado, é essencial que exista um meio de interromper rapidamente o funcionamento de modelos que passem a agir de forma imprevisível.

Moran também defendeu a proposta, afirmando que o avanço da IA deve continuar, mas sob supervisão humana. “Administrar essa tecnologia significa garantir que as pessoas mantenham a capacidade de controlar aquilo que criaram”, declarou.

O que prevê o projeto

Caso seja aprovado, o AI Kill Switch Act dará ao Departamento de Segurança Interna dos Estados Unidos o poder de exigir que empresas privadas suspendam ou desliguem sistemas de inteligência artificial considerados uma ameaça.

Além disso, as companhias que desenvolvem esses modelos terão de manter recursos técnicos capazes de limitar, pausar ou interromper completamente suas operações sempre que necessário.

Outra medida prevista é a criação de regras para que empresas comuniquem imediatamente ao governo falhas, incidentes ou comportamentos inesperados envolvendo seus sistemas de IA. O texto também estabelece um protocolo oficial de resposta, que poderá variar desde restrições temporárias até o desligamento total da ferramenta.

Casos recentes

Ao defender a proposta, Ted Lieu também mencionou a Anthropic, uma das principais concorrentes da OpenAI. Segundo o parlamentar, modelos recentes desenvolvidos pela empresa levantaram preocupações devido ao potencial para uso em ataques cibernéticos.

Esses riscos levaram o Departamento de Comércio dos EUA a utilizar temporariamente mecanismos legais para impedir que determinadas ferramentas fossem disponibilizadas ao público enquanto eram avaliadas.

Embora OpenAI e Anthropic defendam o desenvolvimento responsável da inteligência artificial, ambas também já sinalizaram apoio a regras mais claras para o setor. Jack Clark, cofundador da Anthropic, afirmou recentemente que a indústria precisa de mecanismos capazes de desacelerar ou interromper o avanço da tecnologia quando necessário.

O debate ocorre em um momento em que o governo americano amplia o uso de inteligência artificial em diferentes áreas. Neste ano, o Pentágono anunciou parcerias com empresas como Google, OpenAI, Amazon, Microsoft, Oracle, Nvidia, SpaceX e Reflection para acelerar a adoção da tecnologia nas Forças Armadas.

Para os autores do projeto, quanto mais a IA assume funções críticas, maior deve ser a capacidade de intervenção humana caso um sistema apresente falhas ou passe a agir de forma perigosa.

O AI Kill Switch Act já recebeu apoio público de organizações voltadas à segurança da inteligência artificial, entre elas AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead e Alliance for Secure AI.

Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da Record, no WhatsApp