Anthropic e Accenture investirão ao menos US$ 2 bilhões para avaliar segurança de IA

A Accenture e a Anthropic anunciaram neste sábado (19) o investimento de pelo menos US$ 1 bilhão cada, ao longo de cinco anos, em segurança de IA (inteligência artificial).

Segundo comunicado, as empresas firmaram uma parceria para formar uma equipe de avaliadores integrados, que trabalhará ao lado das equipes internas e dos parceiros de segurança da Anthropic para avaliar modelos, realizar testes de red teaming (simulação de ataques) e de alinhamento, bem como testar os mecanismos de segurança dos modelos.

“A Accenture está reunindo uma equipe dedicada, com profunda expertise em IA, segurança e no setor, para trabalhar em conjunto com a Anthropic”, afirmou Julie Sweet, presidente do conselho e CEO da Accenture, em nota.

“A segurança exige tanto um profundo conhecimento técnico quanto uma compreensão clara de como a IA é utilizada no mundo real. A avaliação integrada é uma área emergente, e estamos entusiasmados com a parceria com a Anthropic para ajudar a acelerar o desenvolvimento de avaliadores integrados, algo que consideramos uma parte importante do cenário de segurança daqui para a frente”, acrescentou.

Experiência em segurança

Na parceria, a Accenture informou que espera aproveitar suas décadas de investimento em IA e sua expertise técnica e em segurança por meio da aquisição da Faculty, uma das principais empresas de IA aplicada do mundo.

A Faculty atua em testes e avaliação de modelos para laboratórios de IA e possui experiência na criação de sistemas de IA complexos, abrangendo os setores governamental, de defesa, de saúde e de infraestrutura.

Segundo o diretor de Tecnologia da Accenture e CEO da Faculty, Marc Warner, a empresa tem a convicção de que a IA deve ser segura desde sua concepção, e não por acaso.

“Unir forças com a Anthropic para atuar como avaliadores integrados é exatamente o tipo de trabalho para o qual a Faculty foi criada — e, como parte da Accenture, temos a plataforma para realizá-lo em uma escala capaz de realmente transformar o setor”, afirma o executivo.

Alerta de ex-funcionário

O anúncio de investimentos em segurança ocorre dias após o funcionário da Anthropic Jacob Coxon ter anunciado que estava deixando a empresa de IA porque o trabalho dela era perigoso demais.

“Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas”, escreveu Coxon na rede social X.

“As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos até o fim da década. Isto não é uma jogada de marketing”, acrescentou Coxon.

Fique por dentro das principais notícias do dia no Brasil e no mundo. Siga o canal do R7, o portal de notícias da RECORD, no WhatsApp