O algoritmo é meu pastor, nada me faltará

 Estamos entrando em uma espiral muito negativa onde empresas tem usado algoritmos para guiar seu rebanho. Você faz parte disso?

 Estamos entrando em uma espiral muito negativa onde empresas tem usado algoritmos para guiar seu rebanho. Você faz parte disso?

Imagem: PIxabay

Imagem: PIxabay

Programa Inova 360

Por Marcio Bueno

Até onde vai o limite da otimização?

Esta pergunta, de resposta aparentemente simples, tem rondado minha cabeça ultimamente muito mais do que eu gostaria. Para mim a resposta seria, no limite da humanização, da individualidade de cada ser humano ou até no impacto social gerado pela otimização.

Mas se é uma resposta simples, por que não consigo responder de forma definitiva e ela sempre volta?

Vamos tirar a minha reflexão do abstrato e trazer exemplos para que você possa entender melhor.

Estamos permitindo que os algoritmos ocupem um espaço que racionaliza o sentimento e padroniza a criatividade. Isso é abuso de quem faz e inocência de que aceita.

Recentemente, na busca incessante de resultados, o Spotify, por certo, empresa que eu admiro, comentou que está usando Machine Learning, ou seja, inteligência artificial para analisar os “skip the song” (pular para a próxima música). Esta informação é extremamente valiosa para eles, a ponto de informar os artistas o que seu público “gosta” ou “não gosta”, e isso condiciona a criação das próximas música.

Desta forma, o artista deixa de criar o que ele sente e passa a fazer, de maneira totalmente racional e deliberada, o que o cliente quer ouvir.

Para mim, o cúmulo deste processo é quando vejo, por exemplo, o MIT desenvolvendo um algoritmo que analisa várias características de uma música e determina qual a probabilidade de virar um hit.

Hoje decidi escrever este artigo em minha sala de som, ao lado da minha coleção de vinil e me pergunto.

O que diriam os algoritmos sobre Bohemian Rhapsody?

O quê?

Uma canção que duplica o tempo médio do mercado atual, que começa como uma balada, vira ópera e depois vira rock e em alguns momentos hard rock, e para acabar, não tem refrão?

Nem pensar!

Há pouco mais de um ano apareceram uns pseudo gurus do marketing dizendo a importância do storytelling, mas o que diria os algoritmos quando Renato Russo escreveu Faroeste Caboclo?

Uma canção que tem mais de 9 minutos, conta uma história e um personagem que ninguém conhece e que fala palavrão?

Isso não tocará nas rádios, principal veículo de divulgação musical da época.

De novo, nem pensar!

E poderia citar centenas de exemplos, também no cinema, na literatura, na pintura e assim por diante.

Em minha opinião, os algoritmos podem ajudar a polir uma obra, ser utilizado na pós-produção, porém, me preocupa vê-los ditar o que eu vou consumir…

Pra começar, eu já comentei em outro artigo, me resisto a usar plataformas de streaming de música, porque não quero que me guiem e me levem a escutar o que outros decidiram por mim.

E as redes sociais e seus algoritmos? Te mostram o que você quer ver ou o que interessa a eles que você veja?

Desde o ponto de vista do cliente, é uma escolha ser guiado ou não.

Desde o ponto de vista da empresa, qual o limite ético das empresas em direcionar e induzir seus clientes a consumir um produto? Qual o limite para decidir o que devo e posso consumir e o que não?

Estes algoritmos, podem gerar um paradoxo que não temos a menor ideia de como pode acabar.

Se existem algoritmos que, baseados em meus hábitos de consumo e navegação, me oferecem o conteúdo mais aderente ao meu perfil, e outros que analisam meus hábitos para criar conteúdos e produtos a medida, isso me leva a um paradoxo.

No inicio me ofereciam algo que eu gostava, agora criam e entregam algo que imaginam ou sabem que eu vou gostar.

No final, eu consumo algo que não sei se é o que eu realmente quero ou o querem que eu queira…

Mais que um trava-línguas é um dilema que pode ser perverso.

E estes algoritmos estão cada vez mais invadindo o meu direito de escolha, se é que algum dia ele existiu.

Me vejo, vivendo dentro da maravilhosa canção admirável gado novo de Zé Ramalho.

Ê, ô, ô, vida de gado

Povo marcado, ê!

Povo feliz!

E quem não gostar do que a maioria gosta?

Para está as técnicas de neuromarketing, gatilhos mentais usados de forma pouco éticas, para “convencer” a você entrar na trilha.

O Facebook admitiu recentemente que monitora a localização dos usuários, mesmo quando a função está desativada, ou seja, contra a minha vontade. Os algoritmos de reconhecimento de voz, facial e de linguagem corporal, são capazes de analisar meu estado de humor.

Os algoritmos de análise grafológica podem analisar meus textos, minhas postagens e, cruzando com todo o anterior, utilizando computação quântica, que já está no mercado, podem traçar um perfil comportamental, inclusive antecipando-se a tendências e comportamentos futuros, antes de que eu mesmo saiba que os terei.

Isso é bom ou ruim?

Se for usado para evitar comportamentos suicidas, genocídios, dependências, e outros comportamentos nocivos à sociedade, é ótimo.

Agora, se servir somente para tentar me empurrar goela abaixo o último hit da Pablo Vitar… me desculpem, mas ao menos para mim, é péssimo.

Mas onde está a novidade?

A manipulação de massas sempre existiu, através da oratória, da arte, dos meios de comunicação, etc.

Porém, a diferença é que antes, a origem das mensagens vinha de uma mente, normalmente com inteligência acima da media, que surgia de tempos em tempos, que tinha um poder de comunicação limitado pela geografia e recursos financeiros.

Hoje, com tecnologia, a origem pode ser um algoritmo, com uma capacidade absurdamente elevada e um poder de propagação global a custo zero. E se for feito de forma estruturada e com recursos, pode se converter em uma arma perigosíssima.

Então, onde está o limite?

Quem deve impor este limite?

Sinceramente acho pouco provável que a legislação seja capaz de controlar isso. A lei deve evitar, controlar e punir as exceções, a regra deve ser regulada pela conscientização.

Onde as empresas, leia-se executivos, sejam conscientes de que suas decisões e ações corporativas transcendem os resultados do final do trimestre e impactam as pessoas. Que não vale tudo para alcançar os resultados.

É uma utopia?

Seria se a criatura não afetasse ao criador, mas, neste caso, nem mesmos os criadores destes algoritmos estão livres de seus efeitos. Só precisam entender que eles e seus familiares fazem parte do mesmo coletivo que manipulam.

Otimizar processos e algoritmos para vender mais não é ruim em si mesmo.

Mas termino com a mesma dúvida do início.

Onde está o limite da otimização?

Marcio Bueno assina a coluna “Tecno-Humanização”, no Inova360, parceiro do portal R7. É Tecno-Humanista, fundador da BE&SK (www.bensk.net) e criador do conceito de Tecno-Humanização.

marciobueno@bensk.net

linkedin.com/in/marcio-luiz-bueno-de-melo-∴-94a7066