Quando algoritmos se tornam instituições: política, governança e democracia na era da IA

Há livros que chegam com passos leves. Outros chegam com estrondo. E há aqueles que não chegam: simplesmente se impõem. Política dos Algoritmos Instituições e as Transformações da Vida Social (em inglês, Algorithmic Institutionalism) é assim. Não nasce para ser mais um título. Ele se instala como um marco. Um ponto de inflexão. Uma espécie de interrupção no fluxo do pensamento algorítmico computacional. Depois dele, o que chamávamos de “algoritmo” já não cabe mais na palavra. O que é algoritmo mudou.

Acompanho essa história desde o começo. Desde o Webinar nº 37 da Academia Brasileira de Ciências, realizado durante a Pandemia da Covid, em 29 de maio de 2021 (disponível no YouTube), quando os autores apresentaram pela primeira vez a tese que agora se torna livro. Lembro-me daquela tarde como se fosse uma cena filmada em câmera lenta. A expressão “institucionalismo algorítmico” apareceu pela primeira vez, ainda úmida de risco conceitual, e fez com que a audiência sentisse que algo novo estava sendo nomeado. Não era apenas tecnologia. Não era apenas sociologia. Tampouco Direito. Era o esboço de uma nova gramática para um mundo que estava se reorganizando enquanto falávamos. E, desde aquele momento, decidi acompanhar esse percurso como quem observa o desabrochar de uma teoria que prenuncia transformações profundas, na sociedade e na ciência.

O livro começa com uma afirmação que parece simples, mas tem consequências avassaladoras: algoritmos podem funcionar como instituições. A ideia é lançar um olhar institucional – aquele que entende instituições como coleções duradouras de regras e práticas, enraizadas em estruturas de significado, construídas de modo a resistir a vontades individuais e às variações do mundo – sobre algo que muitos ainda insistem em ver como mero cálculo matemático automatizado. Instituições, nesse sentido, não são apenas prédios com placas de bronze. Não são apenas parlamentos, tribunais ou ministérios. Também não se limitam aos grandes arranjos sociais como o casamento, a Igreja, a família ou o Direito. São formas relativamente estáveis de ordenar a vida. De produzir sentido. De reproduzir esse sentido. De orientar práticas de modo resistente à volatilidade humana.

A pergunta que move o livro é direta: e se algoritmos, sobretudo os algoritmos de Inteligência Artificial, produzissem algo semelhante? E se, silenciosamente, essas linhas de código estivessem organizando comportamentos, delimitando escolhas, definindo prioridades, mediando conflitos, estruturando expectativas e moldando o alcance da ação coletiva? A provocação é quase desconfortável. Mas inevitável. Porque hoje são algoritmos que decidem quais crianças entram em acolhimento institucional, quais pacientes recebem atendimento prioritário, que famílias têm acesso à moradia, quem pode solicitar crédito, quem é considerado risco, quem merece vigilância reforçada, quem desaparece nos cantos escuros da opacidade.

Quando pensamos em instituições, imaginamos logo grandes edifícios ou tradições antigas. Mas o livro insiste: instituições também podem ser invisíveis. Podem ser códigos silenciosos que realizam, no tecido social, o trabalho de estabilizar expectativas. Podem ser mecanismos que constroem normas de comportamento ao influenciar, dia após dia, a maneira como interpretamos o mundo e tomamos decisões. Um algoritmo, afinal, é uma sequência de regras. E regras, quando duradouras, quando amplamente adotadas, quando resistentes à vontade individual, quando dotadas de poder de organizar condutas, tornam-se instituição.

Com elegância, a obra leva essa hipótese às últimas consequências. E, ao fazê-lo, reconfigura completamente o debate sobre tecnologia. Não se trata mais de discutir eficiência, inovação ou automação algorítmica. Trata-se de compreender como novas estruturas normativas estão sendo construídas no interior dos fluxos digitais. Estruturas que moldam pessoas, grupos, interações, movimentos coletivos. Estruturas que reorganizam o que podemos ser e fazer.

Essa leitura, para mim, teve um efeito particular. Ela atravessou minha própria pesquisa. Influenciou minha tese de doutorado. E me levou a formular aquilo que chamei de algorithmic pragmatism, uma tentativa de aproximar o institucionalismo algorítmico do pragmatismo filosófico, deslocando o foco da estrutura para o uso, da definição para a consequência, da arquitetura formal para o impacto vivido. Se algoritmos agem como instituições, então sua essência não está no código, mas na prática. No que produzem. No que transformam. No que permitem e no que proíbem. O pragmatismo, ao privilegiar o efeito sobre a intenção, ajuda a abrir justamente essa porta. E esse diálogo entre o institucional e o pragmático tornou-se, para mim, inevitável – porque, uma vez que vemos a vida social como campo de disputa entre arranjos normativos, percebemos que não há neutralidade algorítmica possível.

O livro também enfrenta a pergunta decisiva: como governar algoritmos que funcionam como instituições? A resposta envolve compreender seus valores, suas formas de intervenção, suas transformações ao longo do tempo e seus efeitos sobre a coletividade. Governar algoritmos, nesse sentido, não é tarefa técnica. É tarefa política. É tarefa moral. É tarefa democrática.

Ao tratar algoritmos como instituições, o livro mostra que eles influenciam comportamentos na comunidade, moldam escolhas sociais, transformam nossa capacidade de agir. Eles definem o significado da ação dentro das interações que compõem a vida coletiva. E se é assim, então só podemos tratá-los com a mesma seriedade com que tratamos qualquer outra instituição: exigindo transparência, contestabilidade, responsabilidade, compreensão pública, critérios claros, limites éticos, freios, contrapesos.

A obra propõe um modelo de governança global e colaborativa para enfrentar os riscos do uso acelerado de algoritmos, sobretudo aqueles baseados em técnicas de Inteligência Artificial. Um modelo que exige que se saiba por que um algoritmo existe, como funciona, quem o controla, quem o supervisiona, que dados utiliza, como aprende, como decide, o que produz, como impacta indivíduos e coletividades, como lida com discriminação e exclusão, que competências humanas estão envolvidas, como protege privacidade, que direitos reconhece aos cidadãos. Embora o livro apresente essas dimensões de forma analítica, aqui elas surgem como um convite a repensar radicalmente a relação entre sociedade e os algoritmos. A mensagem é clara: se algoritmos são instituições, precisam ser regulados como instituições. Mas também imaginados como instituições. E reinventados como instituições.

No fim, surge a questão mais inquietante de todas: se aceitarmos que algoritmos desempenham papel institucional, teremos de reconhecer que eles também podem reproduzir formas, viesses, preconceito e violência. Podem perpetuar vulnerabilidades. Podem expandir exclusões. Podem cristalizar desigualdades com uma eficiência inédita. A institucionalização algorítmica, se deixada à deriva, é capaz de naturalizar estruturas de dominação com uma rapidez que nenhuma instituição tradicional seria capaz de igualar.

É por isso que a obra se torna tão urgente. E tão necessária. Ela não se contenta em diagnosticar. Ela convoca. Ela exige. Ela confronta. Ela pede que repensemos o mundo antes que ele se torne irreversível na direção de uma normatividade automatizada e invisível. É uma obra escrita com a serenidade de quem conhece o rigor da pesquisa, mas também com a intensidade de quem sabe que estamos diante de algo que definirá o futuro da sociedade.

A orelha assinada por Patrícia Campos Mello não exagera ao apontar o alcance político e social do tema. Há livros que ajudam a compreender o que está acontecendo. E há livros que ajudam a compreender o que poderá acontecer. Este faz os dois.

Ao terminar a leitura, tive a sensação de que estamos diante de uma mudança de época. Não há mais volta. O futuro institucional já começou – e ele é feito de códigos, dados, decisões automatizadas e disputas silenciosas. A pergunta é se continuaremos espectadores ou se assumiremos o papel que nos cabe: o de reconstruir as instituições, inclusive as invisíveis, antes que elas nos reconstruam, definitivamente.

João Falcão