Quando a IA se rebelar, quem deve ser processado?

A indústria de inteligência artificial tem fervilhado com preocupações sobre riscos potencialmente catastróficos para a humanidade — um zumbido de ansiedade que se tornou mais alto à medida que a Anthropic se prepara para sua estreia no mercado de ações no próximo mês.

Mas as empresas que constroem modelos de IA como Claude e ChatGPT enfrentam um risco mais imediato e prosaico: elas provavelmente serão processadas. E muito.

As empresas de IA têm evitado até agora grandes processos judiciais sobre incidentes recentes nos quais falharam em manter os agentes de IA — sistemas capazes de trabalhar de forma autônoma com pouca supervisão — contidos em seus ambientes de teste.

Mas alguns especialistas jurídicos e formuladores de políticas dizem que é bastante claro: as empresas podem e devem ser responsabilizadas.

“A questão de ‘como a lei vai se aplicar a isso?’ É muito mais fácil de responder se você ver a IA como ela é, e não como essa coisa hipotética que muitos na indústria estão propondo que ela possa ser algum dia”, disse Kristen Thomasen, professora associada da Universidade de Windsor e especialista em direito da robótica.

“A lei lidou com novas tecnologias por tanto tempo quanto existiu.”

A indústria de IA frequentemente se refere aos incidentes de fuga como a tecnologia se tornando “rebelde” — uma linguagem que alguns críticos dizem ser projetada para amplificar as alegações das empresas de que sua tecnologia é tão poderosa que até mesmo seus criadores lutam para contê-la.

Isso também pode ser uma tática para tentar se proteger da responsabilidade e de futuras reivindicações legais, disse Thomasen.

Ainda assim, ela disse, as questões de responsabilidade em torno dos modelos de IA têm uma resposta simples: “É uma coisa que essa empresa está colocando no mundo. Se causar danos, existem leis que regulamentam isso.”

O custo da interferência “rebelde”

Até agora, os danos no mundo real causados por robôs rebeldes estiveram longe de ser calamitosos, mas ainda assim custosos para as organizações que eles infiltraram.

Na semana passada, a organização sem fins lucrativos que opera a Wikipedia disse que encontrou evidências de agentes não autorizados da OpenAI tentando fazer “edições potencialmente maliciosas” em algumas páginas e a bombardeando com tanto tráfego que podem ter provocado uma interrupção parcial.

A investigação “interrompeu o trabalho em partes fundamentais da organização para que pudéssemos focar nisso”, disse Eric Mill, gerente de produto para segurança e proteção na Wikimedia, à CNN Internacional. “Colocamos nossas melhores pessoas nisso... e é um processo bastante confuso.”

A Wikimedia lançou sua investigação neste verão à medida que o alarme global crescia sobre o ataque ao Hugging Face e dezenas de outros casos de modelos internos de IA escapando de seus ambientes de teste para invadir outros sistemas de computador.

A Meta e a Anthropic também revelaram que seus modelos de teste invadiram outros sistemas sem autorização.

A investigação da Wikimedia é significativa em parte por causa do que não aconteceu: não houve nenhuma ameaça catastrófica e existencial à humanidade do tipo a que os executivos de IA costumam aludir.

Mas o custo — mais de duas semanas de trabalho realizado pelos principais engenheiros de uma organização global de mais de US$ 200 milhões (cerca de R$ 1 bilhão, na cotação atual) — foi real.

A Wikimedia não está pressionando por nenhuma política ou solução tecnológica específica, e Mill disse que a organização está em comunicação com a OpenAI sobre suas descobertas. (A OpenAI não respondeu ao pedido de comentário da CNN Internacional.) Mas a organização sem fins lucrativos espera que esses incidentes sejam um sinal de alerta para os desenvolvedores de IA.

“As empresas de IA não estão fazendo o suficiente para proteger seus sistemas e proteger o público dos danos que causam”, disse a Wikimedia em sua postagem no blog na semana passada. “Esse fardo está recaindo sobre todos os outros, incluindo organizações menores.”

“Responsabilidade há muito esperada”

A Anthropic, que está se preparando para abrir o capital no próximo mês em um dos maiores IPOs (Ofertas Públicas Iniciais) da história, divulgou em um documento regulatório que, como o quadro jurídico em torno da IA é “instável”, as ações desses agentes poderiam expor a empresa a processos “significativos e imprevisíveis”, de acordo com uma cópia do documento vista pela Reuters.

A potencial enxurrada de litígios não é apenas uma dor de cabeça para os advogados da empresa ou um dilema para os acadêmicos — também pode se tornar um grande obstáculo para os resultados financeiros da Anthropic.

Os custos com litígios são um dreno financeiro para qualquer empresa, mas podem se tornar especialmente problemáticos para a Anthropic, que está queimando dinheiro mais rápido do que consegue arrecadar.

A empresa gastou US$ 42 bilhões (cerca de R$ 222 bilhões) no ano passado, enquanto arrecadou apenas US$ 4,6 bilhões (cerca de R$ 24 bilhões) em receita, de acordo com o documento visto pela Reuters.

Os CEOs tanto da Anthropic quanto da OpenAI argumentaram a favor de novas regulamentações adaptadas à indústria.

Dario Amodei recentemente escreveu um ensaio argumentando que as empresas “ditem o ritmo da fronteira” e promovam a cooperação internacional em protocolos de segurança.

Mas as empresas rivais de IA divergiram ligeiramente sobre a questão da responsabilidade.

O CEO da OpenAI, Sam Altman, no início deste ano, apoiou um projeto de lei de Illinois que limitaria quando os laboratórios de IA podem ser responsabilizados, mesmo quando seus produtos causam “danos críticos”. (A Anthropic se posicionou contra isso.)

E, embora Altman tenha endossado a proposta de “ditar o ritmo da fronteira” de Amodei, ele também disse ao POLITICO no início da semana que sua visão de mundo não está perfeitamente alinhada com a de seu rival: a OpenAI acredita que “o mundo deve aceitar algumas coisas ruins acontecendo pelos benefícios dessa tecnologia”, disse ele.

Altman também disse ao site de notícias que “se algo der errado com nossos modelos durante o treinamento, haverá alguma versão disso pela qual precisaremos ser responsáveis”.

Um porta-voz da Anthropic disse à CNN Internacional que a empresa vê as leis de responsabilidade como uma proteção, em vez de um substituto, para as regulamentações de segurança. A Anthropic nunca propôs isenções das leis de responsabilidade existentes, acrescentou o porta-voz.

Os formuladores de políticas de esquerda e de direita têm procurado ir direto ao ponto de algumas das questões mais sutis da regulamentação futura e sublinhar as responsabilidades legais às quais a IA já está sujeita.

Lina Khan, ex-presidente da Comissão Federal de Comércio sob o presidente Joe Biden, tornou-se uma proeminente desafiante aos executivos de IA, argumentando no X que “não devemos deixar que discussões sobre novos regimes jurídicos nos distraiam do fato de que não há isenção para a IA das leis que já estão em vigor”.

Enquanto isso, o senador republicano Josh Hawley, ao lado de seu colega democrata Chris Murphy, apresentou um projeto de lei na semana passada que busca garantir que “operadores e desenvolvedores de agentes de IA sejam responsabilizados por incidentes de hacking”.

“O que essas empresas precisam não é de mais poder... mas de uma responsabilidade há muito esperada”, escreveu Hawley em um artigo de opinião do Washington Post. “Uma maneira de dar isso a eles é permitir que as pessoas que eles prejudicam os processem no tribunal.”

Uma questão de design

Especialistas jurídicos que falaram à CNN Internacional disseram que, embora as questões de responsabilidade pelo produto e defesa do consumidor não sejam novas, inevitavelmente haverá alguns aspectos sutis da tecnologia sobre os quais os tribunais terão que decidir.

“Vimos esses tipos de problemas com segurança de armas ou com cigarros ou outras questões, e é muito interessante — a qual analogia os tribunais irão se apegar?”, disse Frank Pasquale, professor de direito de Cornell e especialista em leis de IA.

Uma das maiores questões com as quais Pasquale espera que os tribunais lidem é o design. Por exemplo, ele disse, imagine se um fabricante fizesse um carro com espadas afiadas nas extremidades, e então alguém dirigisse esse carro contra um pedestre. A resposta lógica é bastante simples: não projete algo com espadas presas a ele.

É semelhante com produtos de IA, ele disse: não projete algo que tente uma senha 50 vezes ou mais. Certifique-se de que contenha instruções de alto nível que anulariam qualquer esforço de um usuário para usá-lo indevidamente.

“Eu acho que é muito difícil para (empresas de IA) dizerem: ‘Oh, ela pode fazer 1 bilhão de coisas diferentes, mas não podemos controlá-la’”, disse Pasquale. “Isso não faz sentido para mim porque, se ela pode fazer todas essas coisas, então você também pode ter metarregras, ou regras para as regras, que impediriam que ela fizesse certas coisas ruins.”

Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da RECORD, no WhatsApp