Eu sempre quis ser o John Connor. Não tinha criança mais legal do que aquela quando eu era jovem. John era um delinquente juvenil, tinha conhecimento em armas, computação e pilotava motos alucinadamente por Los Angeles aos treze anos de idade. O futuro líder da resistência humana contra a Skynet, a forma maligna de inteligência artificial, na franquia Exterminador do Futuro, era o arquétipo roqueirinho anos 90, que, ao som de Guns N’ Roses, se une ao robô convertido para o bem, Arnold Schwarzenegger, mandado para protegê-lo contra a versão vilanesca de exterminador, enviado pela Skynet para matá-lo. No meio deste clássico de ação de décadas atrás, John se afeiçoa pelo robô e ensina ao modelo 101 de Arnold como ser mais humano. “Hasta la vista, baby”, fala ensinada pelo jovem, fica eternizada pelo personagem do futuro governador da Califórnia, em cena, quando o bem vence o mal ao final da película.
A construção da imagética sobre inteligência artificial nos anos 90 era um tanto mística. Na época cabia ser esse algo misterioso que a qualquer momento poderia perder o controle e se voltar contra a raça humana. Hoje em dia, trinta anos depois, vemos o avanço da inteligência artificial intermediar muitas de nossas interações, na forma de seus algoritmos, e, ao contrário das previsões dos roteiros de hollywood, as máquinas não se uniram para nos eliminar, mas sim prover interações, música, serviços gerais, saúde e claro, alimentação através de plataforma digitais, como as redes sociais e aplicativos de fazer pedidos a restaurantes.
Apesar de termos tratado do assunto na coluna passada, e da leitura neoliberal feita pelos nossos legisladores sobre o tema, o assunto não se esgota tão simplesmente. A racionalidade constituída por esse tipo de modelo econômico, agrega meios para que as relações de trabalho precarizadas, travestidas de flexibilizadas, permeiem de forma resoluta a nossa realidade na nova economia digital proposta pelas plataformas de contratação de serviços – que cresce em disparada nos últimos anos. O que nos deve levar a refletir de maneira mais aprofundada sobre as ferramentas que possibilitam o uso da tecnologia para a concretização dessas trocas e degeneração do contrato de trabalho. Em outras palavras, o que é esse tal de algoritmo? E, mais importante, para que serve?
Em linhas gerais, um algoritmo é uma sequência de ações em programação que definem para um programa o que ele deve fazer, dado determinadas situações e inputs. Portanto, quando você abre um aplicativo de pedidos, por exemplo, são essas linhas de computação que vão escolher o que você vê, quais produtos estarão no topo, quais não, quais sugestões devem ser feitas a você e assim por diante. São elas também que, do outro lado da operação, vão distribuir os serviços entre entregadores quando você realizar um pedido. Até aí tudo bem, colhemos as benesses de nossos inventores e cientistas que nos possibilitam as ferramentas para que tenhamos comida a qualquer hora e qualquer lugar. O problema, porém, não reside no que seja, mas sim na intenção dessas linhas de código.
Muito longe do imaginário de décadas atrás, que previa a tecnologia como algo livre de enviesamento, tal qual pureza matemática, os algoritmos ao nosso redor servem propósitos muito claros. Em seu artigo, “Os algoritmos do empreendedorismo: A plataformização do trabalho de entregadores de iFood”, a pesquisadora do Laboratório de Estudos Digitais da UFRJ, Nina Desgrange, analisa o funcionamento da plataforma para entregadores do IFood e como esse ferramental eletrônico possibilita a produção “de novas dinâmicas de precarização, flexibilização e controle”. Nele, ela “busca defender que o iFood não é apenas um mediador, e sim uma plataforma cujas materialidades técnicas – construídas a partir de uma lógica neoliberal – apresentam agência, controlando e subordinando o trabalho dos entregadores algoritmicamente e (re)produzindo subjetividades, através de diferentes programas de ação”. A autora conta que através de meios de vigilância e atribuição de uma nota aos entregadores, o aplicativo faz com que tanto a bonificação financeira quanto a distribuição de tarefas obedeçam critérios sigilosos de avaliação, favorecendo uns e preterindo outros. Ou seja, além dos algoritmos serem responsáveis pelo controle operacional dos indivíduos, não é claro como esse controle se dá, não restando dúvidas de que as linhas de código do IFood estão longe de agirem de forma virtuosa, clara e idônea.
Outro exemplo mais inócuo – ou não – que pode ser citado sobre a opacidade da programação dos aplicativos é o mais novo trabalho de todo dono de restaurante: criador de conteúdo para plataformas digitais. Vários de nós, empregados de Zuckerberg, passamos horas de nossos dias, senão pagando quantias em dinheiro consideráveis, criando conteúdo original para tornar as plataformas de Mark cada vez mais atrativas. Numa jogada de gênio que só o neoliberalismo pode fazer para você, essa atratividade nos é vendida posteriormente para que possamos, no mar de informação da internet, ter qualquer chance de visibilidade. Que homem genial, senhoras e senhores!
O Instagram, empresa do prodígio de Harvard, divulgou recentemente um comunicado para tentar explicar como faz para ordenar os posts que seus usuários vêem na plataforma. Sob o pretexto de que “os usuários ficavam sem visualizar 70% dos posts em seus feeds em 2016, quando as fotos eram organizadas apenas com base na data em que foram publicadas”, a empresa decidiu agir naquele mesmo ano e criou não um mas vários algoritmos que hoje ordenam o que cada pessoa vai ver quando acessar o feed de sua rede social. São analisados a cada post, por exemplo, dados como o número de curtidas, horário em que foi publicado, localização, informações sobre o autor – o que inclui a frequência e o tipo de interação entre usuários – atividade recente do visualizador, entre outros, de modo a executar uma predição daquilo que possa interessar a quem acesse o programa. Mesmo assim, a empresa admite que “a verdade é que a maioria dos seus seguidores não verá o que você compartilha, porque a maioria vê menos da metade de seu feed”.
Portanto, apesar dos seus esforços em coreografar dancinhas, colar vídeos ou ter pago aquela grana pro designer, você pode habitar os 50% não vistos daqueles usuários que tenta atingir, sem saber muito bem o porquê. Nesta condição de deriva, mais semelhante a um relacionamento abusivo, nos encontramos produzindo mais e mais conteúdo a fim de corresponder às expectativas de nosso amor, Mark, definitivamente sem saber muito bem se haverá recompensa. Mantendo as regras do jogo para si, o CEO do Facebook sequestra a todos para trabalhar incessantemente para ele, pagando as custas dos próprios salários e tentando atingir metas que nunca são divulgadas. A mãe desse rapaz deve morrer de orgulho!
Portanto, empresário ou entregador – ou mesmo usuário – devemos ter em conta que os algoritmos são elaborados por pessoas, com visões de mundo, preconceitos e agendas próprias. Além do mais, o próprio algoritmo pode conter falhas ou vieses inconscientes dos quais também não temos conhecimento. Dessa forma, como, sem conhecê-los, podemos chancelá-los? A opacidade dessas linhas de código nos condiciona a uma condição de exploração que nos cobra sem qualquer contrapartida. É imoral nos fazer participar de um jogo em que não se conheçam as regras.
Num mundo de Mark Skynet, precisamos de mais John Connors! .
Hasta la vista, baby!
Sobre o/a autor/a
