Anthropic alerta que IA em breve será capaz de se autoaperfeiçoar sem intervenção humana

Os modelos de IA (Inteligência Artificial) estão melhorando rapidamente – tão rápido que em breve poderão se desenvolver sem o envolvimento humano.

É por isso que a Anthropic está alertando a indústria de IA: ela precisa construir um “pedal de freio”, ou as empresas correm o risco de perder o controle de suas criações.

Sistemas de IA que podem avançar por si mesmos, conhecidos como “autoaperfeiçoamento recursivo total”, podem ter um grande potencial para o bem da ciência e da saúde, mas também representam grandes riscos para a humanidade, de acordo com uma publicação em um blog escrita por Marina Favaro, líder do The Anthropic Institute, e Jack Clark, cofundador da Anthropic.

“O autoaperfeiçoamento recursivo total também pode aumentar os riscos de os humanos perderem o controle sobre os sistemas de IA”, escreveram eles. “Se os sistemas forem capazes de construir totalmente seus próprios sucessores, as maneiras como os protegemos, monitoramos e moldamos seu comportamento tornam-se muito mais importantes.”

A indústria está muito mais próxima da IA autoaperfeiçoável do que se esperava anteriormente, alertam eles.

Portanto, as empresas de tecnologia devem considerar desacelerar ou pausar o desenvolvimento de IA de fronteira (IAs mais avançadas) para dar tempo aos pesquisadores de obterem uma melhor compreensão dos danos sociais potenciais que a IA autoaperfeiçoável poderia desencadear.

Os pesquisadores também devem construir uma maneira para os humanos intervirem se as coisas saírem do controle, disseram eles.

Na CNN Internacional, na noite de quinta-feira (4), Clark pediu que a indústria se dê um “pedal de freio”.

“Quando olho para o carro que estamos dirigindo, tudo o que tenho é um pedal de acelerador. Não tenho um pedal de freio e, certamente, em algum momento no futuro, podemos querer essa opção”, disse ele a Anderson Cooper em uma entrevista.

Cooper citou o exemplo de filmes de ficção científica nos quais a IA se rebelava para matar seres humanos, e perguntou se é com isso que Clark está preocupado.

“Sim, nós lemos ficção científica e assistimos a ficções científicas aqui também, então isso não passa batido por nós”, respondeu Clark. “Como manter o controle sobre frotas de cientistas que são muito, muito maiores e muito mais rápidas do que as que você já teve antes?”

A incapacidade de validar, verificar e confiar no comportamento da IA representa um risco significativo em seu desenvolvimento, acrescentou ele.

O alerta surge depois que a Anthropic entrou com um pedido para fazer uma IPO (Oferta Pública Inicial) de suas ações, um passo que poderia arrecadar dezenas de bilhões de dólares dos investidores para acelerar a construção de centros de dados e computadores necessários para a IA.

A SpaceX, que, além de seu negócio de foguetes e satélites, possui um negócio de IA, está programada para ter o que seria a maior IPO registrada na próxima semana, arrecadando US$ 75 bilhões (cerca de R$ 384 bilhões, na cotação atual).

Fazer com que grandes empresas de IA como Anthropic, SpaceX e OpenAI trabalhem juntas para criar pedais de freio pode parecer antitético para um negócio competitivo com bilhões, se não trilhões de dólares em jogo. Mas tal cooperação é possível, insistiu Clark.

“Já fizemos isso antes. No auge da Guerra Fria, sob situações altamente tensas entre países rivais, eles encontraram maneiras de estabilizar aspectos da corrida armamentista nuclear”, disse Clark à CNN Internacional. “Tudo isso já foi feito antes em outros domínios, e pode precisar ser algo que façamos no domínio da IA.”

Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da RECORD, no WhatsApp