Autoaperfeiçoamento: por que o lado mais fascinante da IA é também o mais perigoso?

O fundador da Microsoft, Bill Gates, afirmou no último domingo (27) que a inteligência artificial teria capacidade de desencadear eventos catastróficos que podem causar um bilhão de mortes pelo mundo. “Nunca houve uma arma tão poderosa quanto a combinação de pessoas mal-intencionadas”, disse em entrevista a uma rede de TV norte-americana.

Em entrevista ao Conexão Record News desta segunda-feira (28), o professor de direito, especialista em tecnologia e mestre por Harvard, João Victor Archegas, chamou a atenção para um aspecto ambíguo da IA: o autoaperfeiçoamento.

“A IA hoje consegue mandar comandos para o próprio sistema e se tornar mais eficiente no que faz sem necessariamente um input e um controle de um engenheiro humano. Então é justamente isso que torna a IA hoje tão perigosa, mas também, ao mesmo tempo, tão fascinante. A gente tem que sempre pontuar isso. A inteligência artificial é, sim, motivo de preocupação. Ela pode levar a certos danos à humanidade, mas, do outro lado, é uma oportunidade de a gente conseguir avançar em certas pesquisas, certas áreas estratégicas”.

Archegas dá um exemplo: “Semana passada mesmo a inteligência artificial da Anthropic conseguiu fazer descobertas significativas e históricas no campo da genética que não tinham sido feitas há anos, o que representaria um potencial inclusive de desenvolvimento de novos remédios. Então a gente vai ter que sopesar esse lado ruim com o lado bom da inteligência artificial”.

Na entrevista, o especialista destaca ainda a falta de governança internacional para regulamentar a IA. Afinal, nessa corrida, quem colocar os pés no freio pode ficar para trás.

“Se os Estados Unidos resolvem desacelerar, mas a China não, as empresas que hoje lideram essa corrida por inteligência artificial, OpenAI, Anthropic, Microsoft, Meta etc., correm um risco muito grande de ficar para trás [...]”.

João também lembra que a conversa entre Xi Jinping e Trump na semana passada reforçou a necessidade dessa posição estratégica da China em relação à IA. “Há um alerta amarelo, pelo menos, sobre os riscos desses sistemas tecnológicos. Então, se a China quiser entrar nessa discussão a partir de uma visão de como promover uma IA segura, ela será muito bem-vinda.”

Análises, entrevistas e as notícias do Brasil e do mundo estão na RECORD NEWS. Acesse o site aqui e confira os principais conteúdos em texto e vídeo!