Chefe de confiança e segurança da OpenAI, desenvolvedora do ChatGPT, renuncia

A saída do profissional ocorre em meio a uma escalada de preocupações sobre os possíveis efeitos negativos da IA

21/07/2023 - 16h34 (Atualizado em 15/02/2024 - 22h38)

O chefe de Confiança e Segurança da OpenAI, Dave Willner, está deixando a empresa, conforme anunciou em uma publicação no LinkedIn nesta sexta-feira (21), em que ele cita as pressões do trabalho em sua vida familiar e diz que estará disponível para trabalhos de consultoria.

A diretora de Tecnologia, Mira Murati, administrará diretamente a equipe de forma interina, e Willner continuará a prestar assessoria à empresa até o fim do ano, disse a OpenAI em um comunicado.

Os departamentos de Confiança e Segurança têm desempenhado um papel de destaque em empresas de tecnologia como a OpenAI, o Twitter, a Alphabet e a Meta, já que buscam limitar a propagação de discurso de ódio, desinformação e outros conteúdos prejudiciais em suas plataformas.

Ao mesmo tempo, as preocupações sobre o impacto negativo da inteligência artificial têm aumentado.

‌

Leia também

Ao descrever o trabalho de Willner como "fundamental para operacionalizar nosso compromisso com o uso seguro e responsável de nossa tecnologia", a OpenAI informou que está buscando um "líder tecnicamente habilidoso" para substituí-lo.

Willner assumiu o cargo na empresa em fevereiro de 2022, depois de ter trabalhado no Airbnb e no Facebook. Ele atribuiu sua decisão de renúncia às crescentes demandas do trabalho, que estavam afetando sua vida familiar.

LEIA ABAIXO: Vale da estranheza: fotos realistas geradas por inteligência artificial perturbam redes sociais

Uma série de fotos publicadas em redes sociais deixou muita gente perturbada. O motivo é bastante simples e cada vez mais comum: nada do que aparece nelas é real, inclusive as pessoas. Todas as fotos foram geradas por programas de inteligência artificial, que criam fotos de aparência realista a partir de comandos de texto

A leva recente mais assustadora foi publicada no Twitter, em 13 de janeiro, pelo desenvolvedor Miles Zimmerman, que utilizou o programa Midjourney e comandos simples, como "pessoas em uma festa noturna", o que resultou em diversas fotos. Nos comentários dos tuítes, vistos mais de 30 milhões de vezes, praticamente todos se mostraram chocados com o resultado

Apesar da qualidade indiscutível das fotos, é possível captar diversas estranhezas na anatomia dos presentes, o que mostra áreas do corpo humano que a IA ainda enfrenta dificuldade para criar. Repare nos dentes dos presentes na foto: além de uma quantidade exagerada, eles parecem todos iguais, sem qualquer imperfeição

LEIA MAIS: Astronauta em missão e aglomerado de estrelas: veja as melhores fotos do espaço desta semana

Segundo Zimmerman — que esclarece não ser desenvolvedor de IA, artista nem mesmo especialista no assunto —, as fotos só com mulheres foram as primeiras criadas pelo programa, que aparentemente entende "pessoas" (ao menos pessoas em festas) como "mulheres"

Foi necessário um parâmetro extra para que homens aparecessem nos resultados, "e mesmo assim a variação é um desafio", acrescentou ele. Mais uma vez, é possível identificar certas estranhezas na aparência de todos ali, principalmente nas similaridades dos rostos angulados e cabelos praticamente iguais

NÃO PERCA: Máscaras faciais e análise de xixi: veja os produtos mais estranhos exibidos na feira de tecnologia CES

Além disso, a pele de todos reage à luz sempre da mesma forma, o que cria um efeito perturbador

Como ressaltou uma resposta, todos os dentes são perfeitos. O resultado é um efeito chamado de "vale da estranheza", quando algo é parecido, mas não idêntico ao humano

VALE SEU CLIQUE: Marte, Terra e astronautas: veja as melhores fotos do espaço divulgadas na transição de ano

Zimmerman considerou a imagem acima a melhor, justamente por ser a mais diversa. Para obtê-la, ele precisou de mais parâmetros para acrescentar pessoas que não são brancas

Algumas das "pessoas" possuem dedos demais, como é o caso dessas. Uma delas também tem uma tatuagem esquisita, enquanto o vestido da de amarelo simplesmente some em parte da barriga

VEJA TAMBÉM: O ano de 2022 foi cheio de pesquisas científicas fascinantes; relembre as melhores

Outra imagem que causou efeito similar foi essa, criada pelo programa Stable Diffusion, e publicada no Reddit. O motivo é o mesmo: no geral parece uma foto real, mas os detalhes se mostram estranhos. A mulher de rosa tem um dedo a mais e um anel que cobre dois deles. A de preto também tem um dedo extra, sendo que um deles está pela metade

Apesar das bizarrices das imagens criadas por IA, especialistas afirmam que pode ser questão de tempo para elas atingirem uma qualidade boa o bastante para torná-las quase indistinguíveis de fotos reais

LEIA ISSO: Telescópio James Webb: relembre a trajetória da nova aposta da Nasa para descobertas espaciais

Enquanto isso, comunidades no Reddit e Discord começaram a produzir fotos para o público adulto geradas por IA, o que aumenta a preocupação quanto à criação de fotos que podem se enquadrar como "pornografia de vingança", com rostos de pessoas escolhidas — um alerta iniciado há certo tempo

Programas como o Midjourney, Stable Diffusion e Dall-E 2 usam as chamadas redes neurais para pôr em prática o chamado aprendizado de máquina para gerar imagens e artes complexas com simples comandos textuais. Como essas tecnologias ainda estão em desenvolvimento, é de se esperar que as criações melhorem muito com o tempo

CONTINUE POR AQUI: Comédia animal! Veja os vencedores do concurso de fotos engraçadas da vida selvagem

Uma série de fotos publicadas em redes sociais deixou muita gente perturbada. O motivo é bastante simples e cada vez mais comum: nada do que aparece nelas é real, inclusive as pessoas. Todas as fotos foram geradas por programas de inteligência artifici...