Grupo de ética dos EUA pede ao governo que impeça novos lançamentos do chatbot GPT

O pedido, feito à Comissão Federal de Comércio, descreve o ChatGPT como 'tendencioso, enganoso e um risco à privacidade'

30/03/2023 - 13h16 (Atualizado em 15/02/2024 - 15h58)

O grupo de ética tecnológica Centro para Inteligência Artificial e Política Digital está pedindo à Comissão Federal de Comércio dos Estados Unidos que impeça a empresa OpenAI de realizar novos lançamentos comerciais do GPT-4, que impressionou alguns usuários e causou tensão a outros com suas respostas rápidas e humanas a consultas.

Em uma reclamação à agência na quinta-feira (30), cujo resumo está no site do grupo, o Centro para Inteligência Artificial e Política Digital (CAIDP, na sigla em inglês) chamou o GPT-4 de "tendencioso, enganoso e um risco à privacidade e à segurança pública".

A OpenAI, sediada na Califórnia e apoiada pela Microsoft, revelou a quarta iteração de seu programa de inteligência artificial GPT (transformador pré-treinado generativo) no início de março, que empolgou os usuários ao envolvê-los em conversa, compor músicas e resumir longos documentos.

A reclamação formal à FTC segue uma carta aberta enviada a Elon Musk, especialistas em inteligência artificial e executivos do setor, que pediram uma pausa de seis meses no desenvolvimento de sistemas mais poderosos que o recém-lançado GPT-4, citando riscos potenciais para a sociedade.

‌

O grupo, em sua reclamação, disse que o ChatGPT-4 da OpenAI não atende ao padrão do regulador federal de ser "transparente, explicável, justo e empiricamente sólido, ao mesmo tempo em que promove a responsabilidade".

‌

"A FTC tem uma clara responsabilidade de investigar e proibir práticas comerciais desleais e enganosas. Acreditamos que a FTC deva examinar atentamente a OpenAI e o GPT-4", disse Marc Rotenberg, presidente do CAIDP e veterano defensor da privacidade, em um comunicado.

Rotenberg foi um dos mais de mil signatários da carta em que se pede uma pausa nos experimentos de inteligência artificial.

‌

O grupo instou a comissão a abrir uma investigação sobre a OpenAI, limitar novas liberações comerciais do GPT-4 e "garantir o estabelecimento das proteções necessárias para proteger consumidores, empresas e o mercado comercial".

LEIA ABAIXO: Vale da estranheza: fotos realistas geradas por inteligência artificial perturbam redes sociais

Uma série de fotos publicadas em redes sociais deixou muita gente perturbada. O motivo é bastante simples e cada vez mais comum: nada do que aparece nelas é real, inclusive as pessoas. Todas as fotos foram geradas por programas de inteligência artificial, que criam fotos de aparência realista a partir de comandos de texto

A leva recente mais assustadora foi publicada no Twitter, em 13 de janeiro, pelo desenvolvedor Miles Zimmerman, que utilizou o programa Midjourney e comandos simples, como "pessoas em uma festa noturna", o que resultou em diversas fotos. Nos comentários dos tuítes, vistos mais de 30 milhões de vezes, praticamente todos se mostraram chocados com o resultado

Apesar da qualidade indiscutível das fotos, é possível captar diversas estranhezas na anatomia dos presentes, o que mostra áreas do corpo humano que a IA ainda enfrenta dificuldade para criar. Repare nos dentes dos presentes na foto: além de uma quantidade exagerada, eles parecem todos iguais, sem qualquer imperfeição

LEIA MAIS: Astronauta em missão e aglomerado de estrelas: veja as melhores fotos do espaço desta semana

Segundo Zimmerman — que esclarece não ser desenvolvedor de IA, artista nem mesmo especialista no assunto —, as fotos só com mulheres foram as primeiras criadas pelo programa, que aparentemente entende "pessoas" (ao menos pessoas em festas) como "mulheres"

Foi necessário um parâmetro extra para que homens aparecessem nos resultados, "e mesmo assim a variação é um desafio", acrescentou ele. Mais uma vez, é possível identificar certas estranhezas na aparência de todos ali, principalmente nas similaridades dos rostos angulados e cabelos praticamente iguais

NÃO PERCA: Máscaras faciais e análise de xixi: veja os produtos mais estranhos exibidos na feira de tecnologia CES

Além disso, a pele de todos reage à luz sempre da mesma forma, o que cria um efeito perturbador

Como ressaltou uma resposta, todos os dentes são perfeitos. O resultado é um efeito chamado de "vale da estranheza", quando algo é parecido, mas não idêntico ao humano

VALE SEU CLIQUE: Marte, Terra e astronautas: veja as melhores fotos do espaço divulgadas na transição de ano

Zimmerman considerou a imagem acima a melhor, justamente por ser a mais diversa. Para obtê-la, ele precisou de mais parâmetros para acrescentar pessoas que não são brancas

Algumas das "pessoas" possuem dedos demais, como é o caso dessas. Uma delas também tem uma tatuagem esquisita, enquanto o vestido da de amarelo simplesmente some em parte da barriga

VEJA TAMBÉM: O ano de 2022 foi cheio de pesquisas científicas fascinantes; relembre as melhores

Outra imagem que causou efeito similar foi essa, criada pelo programa Stable Diffusion, e publicada no Reddit. O motivo é o mesmo: no geral parece uma foto real, mas os detalhes se mostram estranhos. A mulher de rosa tem um dedo a mais e um anel que cobre dois deles. A de preto também tem um dedo extra, sendo que um deles está pela metade

Apesar das bizarrices das imagens criadas por IA, especialistas afirmam que pode ser questão de tempo para elas atingirem uma qualidade boa o bastante para torná-las quase indistinguíveis de fotos reais

LEIA ISSO: Telescópio James Webb: relembre a trajetória da nova aposta da Nasa para descobertas espaciais

Enquanto isso, comunidades no Reddit e Discord começaram a produzir fotos para o público adulto geradas por IA, o que aumenta a preocupação quanto à criação de fotos que podem se enquadrar como "pornografia de vingança", com rostos de pessoas escolhidas — um alerta iniciado há certo tempo

Programas como o Midjourney, Stable Diffusion e Dall-E 2 usam as chamadas redes neurais para pôr em prática o chamado aprendizado de máquina para gerar imagens e artes complexas com simples comandos textuais. Como essas tecnologias ainda estão em desenvolvimento, é de se esperar que as criações melhorem muito com o tempo

CONTINUE POR AQUI: Comédia animal! Veja os vencedores do concurso de fotos engraçadas da vida selvagem

Uma série de fotos publicadas em redes sociais deixou muita gente perturbada. O motivo é bastante simples e cada vez mais comum: nada do que aparece nelas é real, inclusive as pessoas. Todas as fotos foram geradas por programas de inteligência artifici...