A antropóloga Letícia Cesarino me fez recuperar como a visão cibernética pode ser um caminho para dar sentido à estrutura que apoia as plataformas digitais. Em O Mundo do Avesso¹, ela introduz o tema de forma didática.

Ele vem do grego kubernetes, tem a mesma raiz do termo “governo”, e originalmente significa condutor de uma embarcação. A metáfora ilustra um sistema cibernético simples. O conjunto embarcação + piloto se individua enquanto sistema, que tem no mar seu ambiente (formado por outros sistemas – atmosféricos, orgânicos etc.). O piloto tem um propósito: fazer com que a embarcação siga numa certa direção. Para tanto, ele deve perceber corretamente as perturbações do ambiente e, com base nessas informações (input), responder corretamente (output), de modo a manter a linearidade de seu trajeto. Esse ajuste se dá via feedback loops (alças de retroalimentação): causalidades circulares que medeiam a relação, ou adaptação dinâmica, entre o sistema e seu entorno. Num circuito cibernético, outputs retornam ao sistema como inputs e o aprendizado gerado passa a um plano pré-consciente – torna-se a “segunda natureza” do piloto.

Ela se apoia em Gregory Bateson (também antropólogo) para descrever a diferença entre a perspectiva epistemológica dominante (explicação positiva) e a que se apoia em sistemas dinâmicos. É a coexistência de agentes dinâmicos baseados em sistemas, retroalimentação (feedback), informação, interfaces, comando e controle, em contrapartida a uma visão linear.

Visões da tecnologia como causa – ou como não causa, o que dá no mesmo – dos populismos, conspiracionismos e demais fenômenos em tela estão prenhes do viés linear pelo qual a explicação positiva pensa a técnica. Como veremos, o problema não está naquilo que as plataformas e seus peritos dizem que conseguem fazer. Está, antes, naqueles efeitos que eles não conseguem prever nem controlar diretamente. Ainda assim, são efeitos que coemergem a partir da infraestrutura técnica que eles criaram e, dessa forma, carregam vieses de seu design original.

Cibernética e design orquestram a comunicação, priorizando fluxos de informação, dentro de uma "caixa-preta" na qual, muitas vezes, nem os próprios arquitetos conseguem explicar por que um conteúdo é recomendado, gerando uma capacidade dos sistemas em se adaptar ao ser influenciado por essa circulação e se autorregular. Os cibernéticos tomaram da biologia um termo para explicar esse processo: homeostase.

Como as plataformas se apropriam da atenção dos usuários? Estudos sobre cognição e técnica destacam que um fator central à educação da atenção é de ordem temporal: o que o antropólogo André Leroi-Gourhan chamou de ritmo. Com efeito, é o ritmo imposto pelas mídias digitais ao cotidiano dos usuários que propicia os efeitos cognitivos pretendidos. Wendy Hui Kyong Chun descreveu esse ritmo como uma temporalidade de crise permanente, que pontua o cotidiano dos usuários com eventos que demandam sua atenção e reação – nem que seja uma curtida, um encaminhamento, um comentário. A valência do conteúdo interessa menos que o simples fato do engajamento: para os algoritmos, é indiferente se a expressão for de amor ou de ódio.

O que hoje enxergamos como influência (ou engajamento) opera, a partir da visão cibernética, em três níveis: teórico-evolutivo (como ideias moldam tecnologias), arquitetural (como o design molda a informação) e comportamental (como plataformas moldam o sujeito).

Essas mudanças infraestruturais impactam, ainda, o modo de constituição de sujeitos. Quando a temporalidade de crise faz hábito degenerar em adicção, instala-se uma dinâmica involutiva similar à do sistema econômico mais amplo: o sujeito deve estar sempre se atualizando apenas para conseguir continuar no mesmo lugar. Se ele não posta, não chama atenção para si, não gera engajamento, seu perfil “some”. Se o sujeito faz o que sempre fez – não se arrisca –, ele não vai ficar onde já está, e sim regredir. Nos termos de Chun, os sujeitos devem estar o tempo todo “se atualizando para continuar os mesmos”. Esta pode parecer uma forma paradoxal de individuação: o sujeito que se aperfeiçoa deveria evoluir, e não ficar no mesmo lugar ou regredir. Mas ela está em plena sintonia com a dinâmica invertida da infraestrutura técnica que viemos descrevendo.

Existe um termo em design, affordance, que está relacionado, grosso modo, em algo tão fácil de ser usado que é praticamente intuitivo.

Isso existe?

A pesquisadora Erika Hall, em Just Enough Research¹, descreve a dificuldade que especialistas têm de se colocar no lugar de quem não possui o mesmo conhecimento. É como a carga cognitiva se acumula a partir da linguagem.

Em outras palavras: "já sei tudo sobre meu público".

Once you know something, it’s impossible to imagine what it’s like not to know the thing, which makes it difficult to communicate about a topic with people who know less.

The curse of knowledge sounds like a malediction out of Doctor Strange, but this term was coined by Colin Camerer, a behavioral economist who also started a record label as an economic experiment and signed the Dead Milkmen. So, that’s even better.

A carga cognitiva é uma "moeda finita". Ignorar essa percepção é criar comunicações, fluxos, rótulos ou indicações que só fazem sentido para quem a desenvolveu, mas são incompreensíveis para quem deveria consumi-lo.

Parece óbvio. Mas é comum para quem desenvolve uma interface acreditar que seu público entende termos técnicos ou fluxos complexos.

Fatores que merecem investigação (incluindo o efeito Dunning-Kruger) nos leva a pensar que fomos condicionados a acreditar que é melhor ser fonte inesgotável de resposta -- e não de perguntas. É conforto da certeza, mesmo baseada em suposições não testadas, do que a vulnerabilidade da dúvida.

Having the right answer feels really, really good. Most of us have been rewarded for right answers our whole lives, in school and at work. Along with the good feeling comes a deep terror of having our ignorance revealed. It’s hard to trade away warm, comfortable certainty, no matter how delusional. So, both humility and courage are a prerequisite for learning. You need to admit you lack all the answers. The more honest you are about what you don’t know, the more you will learn. Don’t let your approach be guided by a desire to appear smart or to create a superficial appearance of rigor.

Nos extremos, temos, de um lado, o "isso é problema do usuário" e, do outro, a dificuldade para o especialista dizer "eu não sei" - é o que ela chama de "Mito do Gênio Criativo".

É muito difícil abandonar modelos mentais ou crenças estabelecidas, especialmente quando se percebe "excesso de conhecimento". Erika Hall escreve sobre design, mas a citação a seguir funciona para qualquer discussão sobre comunicação:

No matter how much research you do, facts will never change minds. Most people most of the time operate on beliefs and back them up with hand-selected anecdotes. We see magical thinking and rampant bias in business and design every day, whether it’s copying the surface of a competitor’s success without looking at the underlying operation or giving more weight to experts whose opinions we find flattering.

Erika Hall traz a etnografia, isto é, ouvir pessoas reais e linguagem cotidiana, com humildade e ignorância, como antídoto.

For a design to be successful, it must serve the needs and desires of actual humans. Strangely, simply being human is insufficient for understanding most of our fellows. Design research requires us to approach familiar people and things as though they are unknown to us to see them clearly. We need to peel away our assumptions like an extraterrestrial shedding its encounter suit.

O pesquisador é, nesse sentido, um "coletor de dados" e um "estrategista de narrativas", equilibrando-se entre visões da realidade e vieses cognitivos.