Com a crescente popularização da inteligência artificial na sociedade contemporânea, testemunhamos a implementação acelerada de sistemas algorítmicos como forças institucionais capazes de moldar normas, rotinas e estruturas sociais e políticas. Diante desse cenário, torna-se necessário perguntar: como os algoritmos estão redesenhando as regras da vida coletiva? A resposta, como propõe o conceito de institucionalismo algorítmico, não reside em vê-los como meras ferramentas técnicas, mas como agentes normativos que, ao serem incorporados a práticas cotidianas, exercem influência comparável à de instituições tradicionais como tribunais, escolas ou governos.
Esta transformação é analisada de forma interdisciplinar em obras como "Política dos Algoritmos", que articula ciência política, sociologia, ciência da computação, filosofia e direito para decifrar o impacto dessas tecnologias. O arcabouço proposto nos convida a analisar essas ferramentas pelo que realmente são: não meras linhas de código, mas instituições digitais – conjuntos de regras formais e informais que moldam contextos de interações humanas e algorítmicas, influenciando comportamentos e gerando consequências profundas para a sociedade.
Para compreender a natureza e o poder dessa nova institucionalidade, é essencial um olhar que dialogue com pensadores-chave da nossa época. Shoshana Zuboff, em A Era do Capitalismo de Vigilância, desvenda a lógica econômica por trás de muitas dessas "instituições". Ela argumenta que a experiência humana é traduzida em dados comportamentais, que são then utilizados para prever e modificar o comportamento em um ciclo de aprimoramento de receitas e controle. Neste sentido, os algoritmos não são instituições neutras; são as ferramentas centrais de um novo ordem econômica que instrumentaliza a vida privada, transformando-a em commodity e criando uma assimetria de poder inédita entre as corporações tecnológicas e os indivíduos.
O filósofo Byung-Chul Han oferece uma lente complementar para entender o mecanismo de poder em jogo. Ele contrapõe o "panóptico" de Foucault, um modelo de vigilância exercido por um poder externo, ao que chama de "transparente" ou "sociedade da desempenho". Neste novo modelo, nós mesmos nos expomos e nos monitoramos, buscando otimização e eficiência. Os algoritmos das redes sociais e de wellness são a materialização perfeita desse poder: eles não reprimem, mas seduzem; não proíbem, mas incitam à comunicação, ao consumo e à partilha. Tornamo-nos não apenas usuários, mas súditos voluntários dessas instituições algorítmicas, internalizando suas lógicas de sucesso e visibilidade até que se tornem a norma invisível que rege nossa psique e nossas relações.
Já Yuval Noah Harari projeta as consequências dessa institucionalização para o futuro da humanidade. Ele alerta para o surgimento de uma nova classe de "inúteis" – pessoas cujas habilidades são superadas pela IA – e para o risco de regimes de ditadura digital, onde algoritmos não apenas moldam a opinião pública, mas podem chegar a conhecer os indivíduos melhor do que eles mesmos, permitindo um nível de manipulação e controle antes impossível. Para Harari, a fusão da biotecnologia com a infotecnologia está criando instituições algorítmicas que podem, literalmente, hackear a humanidade.
Quando refletimos sobre os riscos potenciais apontados por "Política dos Algoritmos" – como polarização política, desigualdades e racismo algorítmico – vemos que esses não são falhas técnicas, mas sintomas do funcionamento dessas novas instituições. A polarização é alimentada por algoritmos que maximizam o engajamento (Zuboff), a desigualdade é exacerbada por sistemas que cristalizam vieses históricos, e o racismo algorítmico é a materialização de um poder que se apresenta como neutro, mas é profundamente impregnado pelas assimetrias do mundo real.
Diante desse quadro complexo, a proposta de uma democratização dos algoritmos, baseada em valores como participação, responsabilidade e pluralismo, não é apenas desejável, é urgente. Significa disputar o campo institucional que está sendo formado. Significa exigir que essas novas estruturas de poder sejam submetidas ao escrutínio público, à regulação democrática e a valores éticos que coloquem o humano – em toda a sua complexidade e pluralidade – no centro. Repensar o papel da tecnologia na governança contemporânea é, portanto, a tarefa política fundamental do nosso tempo, um desafio que exige uma visão tão interdisciplinar e complexa quanto as próprias instituições algorítmicas que buscamos compreender e domar.
Nenhum comentário:
Postar um comentário