O que a chegada de telefones e computadores com IA significa para nossos dados

A Apple, a Microsoft e o Google anunciaram uma nova era de smartphones e computadores com inteligência artificial (IA), afirmando que os dispositivos vão automatizar tarefas como editar fotos ou parabenizar um amigo que está fazendo aniversário. Mas, para que isso funcione, essas empresas precisam que você forneça mais dados seus.

Nesse novo cenário, seu computador com o sistema operacional Windows vai fazer capturas de tela a cada poucos segundos, registrando tudo que você faz. O iPhone vai coletar informações de todos os aplicativos que você usa. E o Android vai poder ouvir uma ligação em tempo real para alertar sobre golpes. Você está disposto a compartilhar essas informações?

Essa mudança tem implicações significativas para nossa privacidade. Para oferecer os novos serviços, as empresas e seus dispositivos precisam acessar nossos dados de maneira mais contínua e detalhada do que antes. No passado, a forma como usávamos os aplicativos e acessávamos arquivos e fotos em telefones e computadores era relativamente isolada e independente. Mas, segundo especialistas em segurança, a IA precisa de uma visão integrada para relacionar o que fazemos nos aplicativos, nos sites e durante a comunicação digital.

“Eu me sinto seguro dando informações a essa empresa?”, perguntou Cliff Steinhauer, diretor da National Cybersecurity Alliance, organização sem fins lucrativos especializada em cibersegurança, a respeito das estratégias de IA das corporações.

Tudo isso é resultado da revolução na indústria tecnológica causada pelo ChatGPT, da OpenAI, há quase dois anos. Desde então, convencidas de que esse novo tipo de interface computacional – que analisa constantemente o que você está fazendo para oferecer ajuda – vai se tornar indispensável, a Apple, o Google, a Microsoft e outras empresas reformularam suas estratégias de produtos, investindo bilhões em novos serviços baseados em IA.

Segundo especialistas, o maior risco potencial para a segurança resulta de uma mudança sutil na operação de nossos novos dispositivos. Como a IA pode automatizar ações complexas – remover objetos indesejados de uma foto, por exemplo –, às vezes requer mais poder de processamento do que os telefones podem oferecer. Isso significa que nossos dados pessoais podem precisar sair do smartphone com mais frequência para ser processados em outro lugar.

As informações são transmitidas para a nuvem – rede de servidores que processam solicitações –, na qual o acesso aos dados pode ser maior, incluindo funcionários da empresa, pessoas mal-intencionadas e agências governamentais. E, embora sempre tenham sido armazenados na nuvem, nossos dados mais pessoais e íntimos, aos quais antes só nós tínhamos acesso – como fotos, mensagens e e-mails –, agora podem ser conectados e analisados por uma empresa em seus servidores.

As companhias de tecnologia afirmam ter feito o possível para proteger os dados dos cidadãos.

Por enquanto, é importante entender o destino de nossos dados ao usar as ferramentas de IA, por isso busquei mais informações das empresas sobre suas práticas em relação a eles e entrevistei especialistas em segurança. Antes de decidir se vale a pena compartilhar meus dados, vou esperar para ver se as tecnologias funcionam suficientemente bem.

Abaixo, tudo que você precisa saber sobre o assunto.

Inteligência da Apple

A Apple recentemente anunciou seu primeiro grande passo na corrida da IA, a Apple Intelligence: conjunto de serviços que vão ser incorporados aos mais atualizados e rápidos iPhones, iPads e Macs a partir deste outono setentrional. Os usuários vão poder usá-los para remover automaticamente objetos indesejados de fotos, criar resumos de artigos da internet e escrever respostas a mensagens de texto e e-mails. A Apple também está renovando sua assistente de voz, Siri, para torná-la mais interativa e dar acesso a dados de vários aplicativos.

Durante a conferência da Apple do mês passado, na qual foi apresentada a Apple Intelligence, Craig Federighi, vice-presidente sênior de engenharia de software da empresa, compartilhou como isso pode funcionar: ele recebeu um e-mail de um colega pedindo que uma reunião fosse adiada, mas, naquela noite, tinha de assistir a uma peça estrelada por sua filha. O telefone dele então abriu seu calendário, um documento com os detalhes da peça e um aplicativo de mapas para prever se ele chegaria atrasado se aceitasse o adiamento da reunião.

A Apple afirmou estar tentando processar a maior parte dos dados de IA diretamente em seus aparelhos, para impedir que outros – e ela mesma – tenham acesso às informações. Mas, para as tarefas que precisam ser enviadas aos servidores, a Apple mencionou ter desenvolvido medidas de segurança, incluindo a criptografia dos dados e sua exclusão imediata.

A Apple garantiu ter adotado medidas para que seus funcionários não tenham acesso aos dados, acrescentando que permitirá que pesquisadores de segurança auditem a tecnologia para assegurar que esteja alinhada com as promessas.

Seu compromisso em apagar os dados dos usuários dos servidores a diferencia de outras empresas que retêm informações. Mas a Apple não foi clara sobre quais novas solicitações da Siri poderiam ser enviadas para os servidores da empresa, disse Matthew Green, pesquisador de segurança e professor associado de ciência da computação da Universidade Johns Hopkins, que foi informado pela Apple sobre sua nova tecnologia. “Qualquer dado que sai do seu dispositivo é inerentemente menos seguro”, completou.

A Apple indicou que, quando a Apple Intelligence estiver disponível, os usuários vão poder visualizar um relatório das solicitações que saem do dispositivo para ser processadas na nuvem.

Laptops com IA da Microsoft

A Microsoft está levando a IA para o tradicional laptop. Há cerca de duas semanas, a empresa lançou laptops com o sistema operacional Windows chamados de Copilot+ PC, com preço inicial de US$ 1.000, com um novo tipo de chip e outros dispositivos que, segundo a Microsoft, mantêm os dados privados e seguros. Os PCs podem gerar imagens e reescrever documentos, entre outras novas funções baseadas em IA.

A empresa também introduziu o Recall, novo sistema para ajudar o usuário a encontrar rapidamente documentos e arquivos nos quais trabalhou, e-mails que leu ou sites que navegou. A Microsoft compara o Recall a um tipo de memória fotográfica integrada ao PC. Para usá-lo, o usuário pode escrever frases casuais como: “Estou pensando em uma videochamada que tive com Joe recentemente enquanto ele segurava uma xícara de café com a mensagem impressa ‘I Love New York’.” O laptop então recupera a gravação da videochamada com esses detalhes.

Para isso, o Recall faz capturas de tela, a cada cinco segundos, do que o usuário está fazendo na máquina e compila as imagens em um banco de dados que pode ser pesquisado. Como as capturas são armazenadas e analisadas diretamente no PC, os dados não são revisados pela Microsoft nem usados para melhorar sua IA, de acordo com a empresa.

Mesmo assim, os pesquisadores de segurança alertaram para os riscos potenciais, explicando que os dados poderiam expor facilmente tudo que foi escrito ou visto se fossem hackeados. Em resposta, a Microsoft adiou indefinidamente o lançamento do serviço, que estava previsto para a semana retrasada. Os laptops vêm equipados com o novo sistema operacional Windows 11 da empresa. Segundo David Weston, executivo da Microsoft responsável pela segurança, o sistema tem vários níveis de segurança.

IA do Google

O Google também anunciou no mês passado um conjunto de serviços de IA. Um dos mais importantes foi um novo detector de fraudes telefônicas baseado em IA. A ferramenta ouve chamadas em tempo real e, se a pessoa que estiver ligando parecer uma possível golpista (por exemplo, pedindo um número de identificação bancária), o Google emite um alerta. Segundo a empresa, os usuários vão precisar ativar o detector de fraudes, que funciona integralmente no telefone, o que significa que o Google não ouvirá as chamadas.

A empresa também anunciou outra função, Ask Photos, que requer o envio de informações aos seus servidores. O usuário pode fazer perguntas como “Quando minha filha aprendeu a nadar?” para que as primeiras imagens de sua filha nadando apareçam.

O Google afirmou que seus funcionários poderiam, em casos excepcionais, revisar as conversas do Ask Photos e os dados das fotos para combater abusos ou danos, e que as informações também poderiam ser usadas para ajudar a melhorar seu aplicativo de fotos. Em outras palavras: a pergunta e a foto de sua filha nadando poderiam ser usadas para ajudar outros pais a encontrar imagens de seus filhos nadando.

O Google assegurou que sua nuvem está protegida por tecnologias de segurança, incluindo criptografia e protocolos para limitar o acesso dos funcionários aos dados. “Nossa estratégia de proteção à privacidade se aplica aos nossos recursos de IA, independentemente de serem usados em um dispositivo ou na nuvem”, declarou Suzanne Frey, executiva do Google responsável por confiança e privacidade, em comunicado.

Mas Green, o pesquisador de segurança, disse que o modelo do Google em relação à privacidade de IA não parece totalmente claro: “Não gosto da ideia de que minhas fotos e buscas muito pessoais sejam enviadas para uma nuvem que não está sob meu controle.”

c. 2024 The New York Times Company