Tecnocracia reloaded: a ideologia das apps

Artigo de Ricardo Lafuente.


 

O entranhamento das tecnologias digitais em cada vez mais facetas da nossa existência social obriga-nos a um esforço de familiarização rápida com os fenómenos tecnológicos em rede, para que possamos formular e adotar um vocabulário que nos ajude a identificar as instâncias onde a tecnologia é usada como aparato político ideológico, mesmo quando se tenta passar por neutra. O recente episódio de insucesso da app Stayaway Covid, em que assistimos (entre muitos outros episódios politicamente relevantes) à tentativa de obrigar ao uso de uma app oficial nos telemóveis de cada uma e um de nós, foi politicamente relevante. E em breve será apresentada no Parlamento uma distópica proposta de lei de videovigilância massiva e reconhecimento facial automático. É preciso olhar mais de perto para os pontos em comum.

 

A Stayaway foi um exemplo essencial do que podemos chamar a doutrina do tecno-deslumbramento – uma adaptação do conceito de “solucionismo” de Morozov, com um nome menos cinzento. Ela exalta a supremacia de “soluções” digitais inovadoras, contempláveis apenas segundo a sua dimensão técnica, desprezando qualquer influência de outra ordem que não a técnica, encarando os direitos humanos e a legislação como indesejáveis obstáculos que devem ser ultrapassados em nome da inovação. O mantra de Silicon Valley Move fast and break things ajuda a caracterizar essa postura de implementação rápida de “soluções” inovadoras, mesmo consciente de que pode haver riscos e efeitos negativos dessa corrida para pôr novas tecnologias no terreno.

 

Quando estes novos aparatos funcionam de forma opaca e tecnicamente complexa – como é o caso da Stayaway ou do reconhecimento facial automatizado –, são naturalmente resistentes a qualquer forma de escrutínio democrático. As tecnologias digitais estão hoje irremediavelmente entranhadas na existência coletiva em sociedade, constituindo uma componente de infra-estrutura social, estejamos a falar de redes sociais, de mecanismos de vigilância ou de apps de saúde pública. Existe uma dificuldade técnica de as analisar e poder compreender a forma como operam, o que impede um debate informado e alargado sobre como influenciam o tecido social e político, e se essa influência é democraticamente desejável. A presença de apps e sistemas de inteligência artificial dentro de contextos sociais influenciam social e politicamente esses contextos, reduzindo ou amplificando desigualdades, criando restrições ou abrindo possibilidades.

 

A narrativa tecno-deslumbrada coloca a tecnologia digital como um meio incontornável de resolução de qualquer problema, mesmo os problemas sociais mais complexos. Tal é uma nova forma de tecnocracia – a armadilha ideológica de reclamar território político ao dar a suposta primazia a “técnicos que fazem”, apresentando-se como não ideológica – mas a componente digital facilita uma narrativa da tecnologia como o meio neutro por excelência, que elimina a falha humana dos processos. A falha humana, claro, continua lá – são pessoas que desenham e elaboram os algoritmos, software e hardware – e a Stayaway demonstrou que as coisas podem correr mal.

 

Mas e quando correrem bem e surgir uma app que de facto salve vidas? Ou houver um potencial crime de grande dimensão que é efetivamente desmontado graças a um sistema automatizado de videovigilância? Será muito mais difícil defender a privacidade individual e a liberdade de movimentos e comunicações, sem os quais a sobrevivência de uma sociedade livre e democrática fica seriamente em causa. Para começar, importa mesmo elevar a urgência do tema do digital dentro dos debates contemporâneos e encontrar coletivamente o vocabulário fundamental para enquadrar e dar resposta aos dilemas cada vez mais frequentes colocados por cada novo aparato digital que surge para resolver mais um problema da sociedade.