TCU avalia riscos de projetos que regulam inteligência artificial em tramitação no Congresso

O Tribunal de Contas da União identificou nove riscos decorrentes de projetos de lei sobre regulação de inteligência artificial (IA) que estão em tramitação no Congresso Nacional. Segundo a avaliação do TCU, os projetos podem impactar a capacidade de inovação de empresas e do setor público do país. O documento foi divulgado nessa semana e é resultado do acompanhamento feito pelo órgão pela Implementação da Estratégia Brasileira de Inteligência Artificial, criada em 2021, pelo Ministério da Ciência, Tecnologia e Inovação.

"Com a disseminação de tecnologias de Inteligência Artificial (IA), a regulação de IA é um tema de atenção internacional, e diversos países, entre eles o Brasil, tentam adiantar-se para a regulação do setor. Um dos principais pontos de discussão é o alcance do equilíbrio entre a proteção de direitos dos cidadãos sem prejudicar o desenvolvimento e a inovação tecnológica de IA", diz o documento da auditoria.

O Tribunal avaliou quatro propostas legislativas em tramitação, com foco na identificação de possíveis riscos decorrentes da eventual aprovação dos projetos com seus textos atuais. Com consequência e potencial negativo para o desenvolvimento social, tecnológico e econômico do país. Veja riscos dos projetos:

- Dependência de importação de tecnologia em decorrência da estagnação do desenvolvimento da IA no Brasil;

- Criação de barreiras para startups e empresas de menor porte;

- Perda de competitividade dos produtos e serviços brasileiros no comércio exterior;

- Monopólio ou oligopólio propiciado por regulação excessiva;

- Dificuldades na retenção de profissionais de IA;

- Definições genéricas impactando áreas desconexas e setores de baixa complexidade ou relevância;

- Impedimento ao desenvolvimento de IA por estabelecimento de direitos autorais de forma incompatível à nova realidade;

- Limitação da capacidade de inovação nos setores público e privado; e

- Barreiras à transformação digital do Estado brasileiro e perda potencial de avanço na disponibilidade de mais e melhores serviços públicos aos cidadãos.

As considerações serão apresentadas ao Congresso e segundo o TCU, com os riscos, diversos impactos podem surgir, como a limitação e a inibição de utilização de inteligência artificial no mercado, com desaceleração do desenvolvimento de produtos e serviços. Além de uma perda de competitividade internacional do Brasil na área, resultando em menor capacidade de inovação.

O Tribunal defende que para a regulação ser proporcional é preciso estruturar o setor regulatório e adotar estratégia ágil e iterativa para a implementação das novas normas, além de incentivo e fomento à inovação de IA responsável e ética. O órgão também defende monitoramento, pesquisa e gestão de riscos de IA e separação de fomento e regulação.

De acordo com o TCU, a IA tem potencial transformador e é capaz de fornecer diversos benefícios à sociedade. Porém, a tecnologia pode trazer riscos capazes de causar danos e violar direitos. "Um desses riscos é a propagação de vieses e de discriminação, em que, seja por reproduzir padrões nos dados ou por utilização de modelos e dados sem os cuidados necessários, a IA pode tomar decisões discriminatórias", aponta o documento sob relatoria do ministro Aroldo Cedraz.

"A IA emergiu como mecanismo capaz de provocar inovações substanciais em diversos setores da administração pública, a exemplo da saúde, da segurança pública e da educação", afirma o texto. "No entanto, junto com as oportunidades, surgem riscos significativos que podem envolver questões de privacidade, de segurança cibernética e de desemprego. Ademais, há o desafio ético, pois os sistemas de IA devem ser concebidos para fazer escolhas justas".