Controladora do Google alerta equipe sobre uso de dados em chatbots

Funcionários da Alphabet dizem que dados confidenciais inseridos na IA podem vazar, e códigos contêm sugestões indesejadas

15/06/2023 - 13h40 (Atualizado em 15/02/2024 - 19h06)

A Alphabet está alertando os funcionários sobre como eles usam chatbots, incluindo o próprio Bard da empresa, ao mesmo tempo em que comercializa o programa em todo o mundo, disseram à Reuters quatro fontes familiarizadas com o assunto.

A controladora do Google aconselhou os funcionários a não inserir seus dados confidenciais em chatbots de inteligência artificial, disseram as pessoas e a empresa confirmou, citando uma política de longa data sobre proteção de informações.

Os revisores humanos podem ler os chatbots, e os pesquisadores descobriram que uma inteligência artificial semelhante pode reproduzir os dados que absorveu durante o treinamento, criando um risco de vazamento.

A Alphabet também alertou seus engenheiros para evitar o uso direto dos códigos de computador que os chatbots podem gerar, disseram algumas das fontes.

‌

Solicitada a comentar, a empresa disse que o Bard pode fazer sugestões indesejadas de código, mas ainda assim ajuda os programadores. O Google também disse que pretende ser transparente sobre as limitações de sua tecnologia.

As preocupações mostram como o Google deseja evitar danos aos negócios com o software lançado em concorrência ao ChatGPT. Bilhões de dólares de investimento e publicidade ainda não contada e receita de nuvem de novos programas de inteligência artificial estão em jogo na corrida da Alphabet contra os responsáveis pelo ChatGPT, a OpenAI e a Microsoft.

‌

Leia também

A cautela do Google também reflete o que está se tornando um padrão de segurança para as corporações, ou seja, alertar funcionários sobre o uso de programas de bate-papo disponíveis publicamente.

Um número crescente de empresas em todo o mundo criou proteções em chatbots de IA, entre elas Samsung, Amazon.com e Deutsche Bank, disseram as empresas à Reuters. A Apple, que não retornou pedidos de comentários, supostamente também as aderiu.

‌

Cerca de 43% dos profissionais estavam usando o ChatGPT ou outras ferramentas de IA em janeiro, muitas vezes sem avisar seus chefes, de acordo com uma pesquisa com quase 12 mil entrevistados, incluindo as principais empresas dos Estados Unidos, feita pelo site de relacionamento Fishbowl.

Em fevereiro, o Google disse à equipe que testou o Bard antes de seu lançamento para não fornecer informações internas, informou o Insider. Agora, a empresa está lançando o programa em mais de 180 países e em 40 idiomas como um trampolim para a criatividade, e seus alertas se estendem às suas sugestões de código.

O Google disse à Reuters que teve conversas detalhadas com a Comissão de Proteção de Dados da Irlanda e está respondendo às perguntas dos reguladores, após uma reportagem do Politico na terça-feira de que a empresa estava adiando o lançamento da Bard na União Europeia esta semana, aguardando mais informações sobre o impacto do chatbot na privacidade.

Um aviso de privacidade do Google atualizado em 1º de junho também afirma: "Não inclua informações confidenciais ou sensíveis em suas conversas com o Bard".

Algumas empresas desenvolveram softwares para lidar com essas preocupações. Por exemplo, a Cloudflare, que protege sites contra ataques cibernéticos e oferece outros serviços em nuvem, está comercializando um recurso para que as empresas marquem e restrinjam o fluxo externo de alguns dados.

O Google e a Microsoft também estão oferecendo ferramentas de conversação para clientes corporativos que terão um preço mais alto, mas se abstêm de absorver dados em modelos públicos de inteligência artificial. A configuração padrão no Bard e no ChatGPT é salvar o histórico de conversas dos usuários, que os usuários podem optar por excluir.

"Faz sentido" que as empresas não queiram que seus funcionários usem chatbots públicos para trabalhar, disse Yusuf Mehdi, diretor de marketing de consumo da Microsoft.

"As empresas estão adotando um ponto de vista devidamente conservador", disse Mehdi, explicando como o chatbot gratuito Bing, da Microsoft se compara a seu software empresarial. "Lá, nossas políticas são muito mais rígidas."

A Microsoft se recusou a comentar se tem uma proibição geral de funcionários inserirem informações confidenciais em programas públicos de inteligência artificial, incluindo os seus próprios, embora um outro executivo tenha dito à Reuters que restringiu pessoalmente seu uso.

LEIA ABAIXO: Vale da estranheza: fotos realistas geradas por inteligência artificial perturbam redes sociais

Uma série de fotos publicadas em redes sociais deixou muita gente perturbada. O motivo é bastante simples e cada vez mais comum: nada do que aparece nelas é real, inclusive as pessoas. Todas as fotos foram geradas por programas de inteligência artificial, que criam fotos de aparência realista a partir de comandos de texto

A leva recente mais assustadora foi publicada no Twitter, em 13 de janeiro, pelo desenvolvedor Miles Zimmerman, que utilizou o programa Midjourney e comandos simples, como "pessoas em uma festa noturna", o que resultou em diversas fotos. Nos comentários dos tuítes, vistos mais de 30 milhões de vezes, praticamente todos se mostraram chocados com o resultado

Apesar da qualidade indiscutível das fotos, é possível captar diversas estranhezas na anatomia dos presentes, o que mostra áreas do corpo humano que a IA ainda enfrenta dificuldade para criar. Repare nos dentes dos presentes na foto: além de uma quantidade exagerada, eles parecem todos iguais, sem qualquer imperfeição

LEIA MAIS: Astronauta em missão e aglomerado de estrelas: veja as melhores fotos do espaço desta semana

Segundo Zimmerman — que esclarece não ser desenvolvedor de IA, artista nem mesmo especialista no assunto —, as fotos só com mulheres foram as primeiras criadas pelo programa, que aparentemente entende "pessoas" (ao menos pessoas em festas) como "mulheres"

Foi necessário um parâmetro extra para que homens aparecessem nos resultados, "e mesmo assim a variação é um desafio", acrescentou ele. Mais uma vez, é possível identificar certas estranhezas na aparência de todos ali, principalmente nas similaridades dos rostos angulados e cabelos praticamente iguais

NÃO PERCA: Máscaras faciais e análise de xixi: veja os produtos mais estranhos exibidos na feira de tecnologia CES

Além disso, a pele de todos reage à luz sempre da mesma forma, o que cria um efeito perturbador

Como ressaltou uma resposta, todos os dentes são perfeitos. O resultado é um efeito chamado de "vale da estranheza", quando algo é parecido, mas não idêntico ao humano

VALE SEU CLIQUE: Marte, Terra e astronautas: veja as melhores fotos do espaço divulgadas na transição de ano

Zimmerman considerou a imagem acima a melhor, justamente por ser a mais diversa. Para obtê-la, ele precisou de mais parâmetros para acrescentar pessoas que não são brancas

Algumas das "pessoas" possuem dedos demais, como é o caso dessas. Uma delas também tem uma tatuagem esquisita, enquanto o vestido da de amarelo simplesmente some em parte da barriga

VEJA TAMBÉM: O ano de 2022 foi cheio de pesquisas científicas fascinantes; relembre as melhores

Outra imagem que causou efeito similar foi essa, criada pelo programa Stable Diffusion, e publicada no Reddit. O motivo é o mesmo: no geral parece uma foto real, mas os detalhes se mostram estranhos. A mulher de rosa tem um dedo a mais e um anel que cobre dois deles. A de preto também tem um dedo extra, sendo que um deles está pela metade

Apesar das bizarrices das imagens criadas por IA, especialistas afirmam que pode ser questão de tempo para elas atingirem uma qualidade boa o bastante para torná-las quase indistinguíveis de fotos reais

LEIA ISSO: Telescópio James Webb: relembre a trajetória da nova aposta da Nasa para descobertas espaciais

Enquanto isso, comunidades no Reddit e Discord começaram a produzir fotos para o público adulto geradas por IA, o que aumenta a preocupação quanto à criação de fotos que podem se enquadrar como "pornografia de vingança", com rostos de pessoas escolhidas — um alerta iniciado há certo tempo

Programas como o Midjourney, Stable Diffusion e Dall-E 2 usam as chamadas redes neurais para pôr em prática o chamado aprendizado de máquina para gerar imagens e artes complexas com simples comandos textuais. Como essas tecnologias ainda estão em desenvolvimento, é de se esperar que as criações melhorem muito com o tempo

CONTINUE POR AQUI: Comédia animal! Veja os vencedores do concurso de fotos engraçadas da vida selvagem

Uma série de fotos publicadas em redes sociais deixou muita gente perturbada. O motivo é bastante simples e cada vez mais comum: nada do que aparece nelas é real, inclusive as pessoas. Todas as fotos foram geradas por programas de inteligência artifici...