quarta-feira, 24 de junho de 2026

Pensamento diário

 


A inteligência artificial e a nova fratura metabólica do capital



A inteligência artificial costuma ser apresentada como uma promessa de eficiência, produtividade e libertação do trabalho humano. Fala-se em automação, modelos generativos, medicina preditiva, educação personalizada, transição energética, racionalização de processos e democratização do conhecimento. Mas essa narrativa, quando separada da crítica da economia política, encobre uma contradição decisiva: a IA não nasce fora da história. Ela nasce dentro do capitalismo, financiada por capitais concentrados, orientada por mercados monopolizados, dependente de infraestrutura material pesada e subordinada à lógica da valorização.

Este é o ponto de partida necessário para compreender a inteligência artificial não como simples ferramenta, mas como expressão de uma nova etapa da crise civilizatória do capital. Se o primeiro movimento desta trilogia tratou da macroeconomia, da financeirização e da tentativa de contenção da crise por meio do capital fictício; se o segundo examinou a IA como limite histórico, filosófico e político do capitalismo; este terceiro precisa enfrentar a consequência mais profunda: a inteligência artificial revela que o capitalismo já não ameaça apenas o trabalho, a subjetividade e a democracia. Ele ameaça também o metabolismo ecológico da vida.

A chamada “nuvem” não flutua sobre a Terra. Ela está fincada em data centers, cabos submarinos, mineração, terras raras, semicondutores, energia elétrica, água, sistemas de refrigeração, galpões industriais, vigilância informacional e trabalho humano invisibilizado. A IA é apresentada como abstração, mas sua existência é brutalmente material. Por trás da leveza aparente de uma resposta gerada em segundos, há uma cadeia mundial de extração, processamento e consumo energético. O algoritmo parece imaterial apenas porque sua materialidade foi deslocada para longe do olhar do usuário.

Atribuir inteligência às máquinas pode servir para reduzir o valor da inteligência humana, naturalizar a substituição de trabalhadores, justificar decisões automatizadas e enfraquecer a exigência de responsabilidade política pelos sistemas técnicos 

Kate Crawford é decisiva nesse ponto. Em Atlas of AI, ela demonstra que a inteligência artificial deve ser compreendida como uma tecnologia de extração: extrai minerais da terra, energia dos sistemas elétricos, trabalho humano precarizado, dados dos sujeitos e padrões da vida social. Sua contribuição desloca o debate de uma “ética da IA” abstrata para uma crítica material da infraestrutura que torna a IA possível. A inteligência artificial não é apenas código, modelo ou linguagem matemática. É uma rede planetária de poder, trabalho, natureza e capital.

Essa materialidade já aparece nos dados internacionais. A Agência Internacional de Energia estimou que os data centers consumiram cerca de 415 TWh em 2024, aproximadamente 1,5% da eletricidade mundial. A mesma agência projeta que esse consumo pode mais do que dobrar até 2030, chegando a cerca de 945 TWh – valor superior ao consumo atual de eletricidade do Japão. A IA aparece como um dos principais vetores desse crescimento, ao lado da expansão geral dos serviços digitais. O dado é politicamente decisivo: a infraestrutura da IA deixou de ser marginal e passou a disputar energia com setores industriais inteiros.

A Universidade das Nações Unidas também chama atenção para um ponto essencial: não basta medir a pegada de carbono da IA. É preciso medir conjuntamente carbono, água e terra. A localização dos data centers, a matriz energética utilizada, os sistemas de refrigeração, o uso operacional dos modelos e a expansão da inferência cotidiana alteram profundamente o impacto ambiental da tecnologia. O problema não está apenas em treinar grandes modelos uma única vez, mas em operá-los milhões ou bilhões de vezes, todos os dias, em cadeias de consumo energético permanentes.

A isso se soma o lixo eletrônico. O Global E-waste Monitor 2024 registrou 62 milhões de toneladas de resíduos eletrônicos em 2022, com projeção de 82 milhões de toneladas em 2030. Apenas uma fração minoritária desse volume é adequadamente coletada e reciclada. A economia digital, portanto, não elimina a materialidade da produção: ela apenas a desloca para minas, fábricas, aterros, periferias ambientais e cadeias globais de descarte.

A categoria marxiana de metabolismo entre sociedade e natureza ganha aqui nova atualidade. John Bellamy Foster mostrou que o capitalismo produz uma fratura metabólica: rompe o intercâmbio racional entre humanidade e natureza ao subordinar esse metabolismo à acumulação. Kohei Saito, ao recuperar o Marx ecológico no contexto do Antropoceno, aprofunda esse diagnóstico: o capitalismo não resolve suas contradições ecológicas; ele as desloca, as amplia e as reorganiza em escala superior.

A inteligência artificial aprofunda essa fratura em novo patamar. Não se trata apenas da indústria poluente clássica, da fábrica ou da mineração tradicional. Trata-se de uma infraestrutura digital que promete substituir ou reorganizar atividades humanas enquanto amplia a demanda por energia, água, minerais, semicondutores e capacidade computacional. A IA é apresentada como solução racional para a crise, mas pode se converter em novo acelerador da crise se permanecer submetida à concorrência privada, ao segredo industrial, à guerra geopolítica e à acumulação monopolista.

Shoshana Zuboff ajuda a compreender o segundo eixo dessa crise: a transformação da experiência humana em matéria-prima comportamental. No capitalismo de vigilância, a vida cotidiana é convertida em dado, o dado em previsão e a previsão em produto. Mas a etapa atual é ainda mais delicada. A IA generativa não apenas observa comportamentos; ela passa a mediar o acesso ao conhecimento. O buscador tradicional listava caminhos. A IA começa a entregar respostas.

Essa mudança altera a estrutura pública da verdade. Quando a resposta substitui a busca, quem controla a resposta controla parte decisiva da percepção social da realidade. Esse é o perigo civilizatório: a informação pode deixar de circular como disputa pública visível e passar a ser reorganizada por sistemas opacos de ranqueamento, recomendação, patrocínio, personalização e influência. A velha publicidade separava, ao menos formalmente, conteúdo e anúncio. A nova economia das respostas tende a borrar fronteiras entre informação, recomendação, reputação, consumo e indução comportamental.

Esse risco não exige imaginar uma conspiração. Basta observar a lógica econômica. Plataformas privadas precisam monetizar atenção, tráfego, reputação e dependência. À medida que a IA se torna a nova porta de entrada da internet, empresas, governos, grupos econômicos e elites informacionais passam a disputar não apenas anúncios, mas o próprio enquadramento das respostas. A questão deixa de ser apenas “quem aparece primeiro no resultado de busca?” e se torna: “quem será apresentado pela IA como fonte confiável, resposta provável ou solução recomendada?”.

O perigo é ainda maior porque a resposta automatizada aparece revestida de neutralidade técnica. Mas nenhum sistema treinado em bases históricas desiguais, controlado por empresas privadas, monetizado por publicidade e protegido por segredo industrial pode ser considerado neutro. A IA pode reorganizar visibilidade, autoridade e legitimidade. Pode tornar determinados autores, países, empresas, mercadorias e interpretações mais visíveis, enquanto torna outros sujeitos e perspectivas praticamente inexistentes.

Essa é uma nova forma de poder. Não se trata apenas de censurar. Trata-se de ordenar o mundo. A IA pode selecionar o que merece atenção, o que parece verdadeiro, o que surge como razoável, o que é classificado como extremado, irrelevante ou duvidoso. Em sociedades profundamente desiguais, essa mediação tende a favorecer quem já possui capacidade econômica, influência institucional, domínio tecnológico e poder de adaptação aos critérios das plataformas.

Por isso, a crise ambiental da IA não pode ser separada da crise democrática da informação. A mesma infraestrutura que consome energia e água também organiza visibilidade. A mesma plataforma que promete responder perguntas pode direcionar consumo, moldar preferências, reduzir pluralidade e deslocar o debate público para ambientes privados. A mesma tecnologia que promete eficiência pode consolidar uma nova forma de governo algorítmico da vida cotidiana.

Miguel Nicolelis acrescenta uma dimensão decisiva a esse debate. Sua crítica não parte apenas da economia política, mas da neurociência. Ao longo de sua trajetória, Nicolelis tornou-se uma das principais referências mundiais em interfaces cérebro-máquina, neuroengenharia e estudos sobre a atividade coletiva dos neurônios. Justamente por conhecer profundamente a relação entre cérebro, corpo, plasticidade e ação, sua crítica à inteligência artificial possui peso especial: ela não nasce de recusa abstrata à tecnologia, mas da compreensão científica de que o cérebro vivo não é uma máquina digital.

Essa distinção é fundamental para o argumento civilizatório. A inteligência humana não é simples processamento de informação. Ela emerge de um organismo situado, de um corpo sensível, de uma história biológica, afetiva, social e cultural. O cérebro não funciona como computador isolado que recebe dados, calcula respostas e entrega resultados. Ele é um sistema vivo, plástico, incorporado, relacional, atravessado por emoção, memória, percepção, movimento, linguagem, desejo, medo, imaginação e vínculo social.

Por isso, a crítica de Nicolelis atinge o centro do fetiche contemporâneo da IA. Quando empresas e governos chamam modelos estatísticos de “inteligentes”, produzem uma confusão politicamente útil. Atribuir inteligência às máquinas pode servir para reduzir o valor da inteligência humana, naturalizar a substituição de trabalhadores, justificar decisões automatizadas e enfraquecer a exigência de responsabilidade política pelos sistemas técnicos. A máquina aparece como sujeito, enquanto os sujeitos reais – trabalhadores, programadores, usuários, populações exploradas e territórios impactados – desaparecem da cena.

A formulação de Nicolelis permite afirmar com mais precisão: a IA não é uma mente exterior à humanidade. Ela é uma técnica produzida por humanos, treinada sobre dados humanos, sustentada por trabalho humano, energia, mineração e infraestrutura material. Sua suposta autonomia encobre as intenções, interesses e poderes que a organizam. A inteligência artificial, portanto, não deve ser analisada como consciência emergente das máquinas, mas como sistema técnico-social comandado por grupos econômicos, Estados, mercados financeiros e projetos geopolíticos.

Essa distinção também é decisiva para a democracia. Se tratarmos a IA como uma inteligência superior, tenderemos a aceitar suas respostas como autoridade. Se a compreendermos como sistema estatístico, histórico e politicamente orientado, poderemos exigir auditoria, transparência, contestação, responsabilidade e controle público. A crítica de Nicolelis, portanto, não diminui a importância da IA. Ao contrário: mostra que ela é importante demais para ser entregue ao mito de que máquinas pensam por nós.

Nesse ponto, Nicolelis dialoga diretamente com Crawford, Zuboff e Michael Löwy. Crawford mostra a materialidade extrativa da IA: minas, energia, água, trabalho e dados. Zuboff revela a captura comportamental da experiência humana pelo capitalismo de vigilância. Nicolelis acrescenta o fundamento neurocientífico: a inteligência viva não pode ser reduzida à computação, e a humanidade não pode aceitar que sua capacidade de pensar, sentir e decidir seja rebaixada à lógica operacional das máquinas. Löwy oferece a saída ecossocialista: subordinar a técnica às necessidades sociais, ao equilíbrio ecológico e ao planejamento democrático.

Essa contribuição é central para o fechamento da trilogia. A crise civilizatória não consiste apenas no risco de a IA consumir energia, concentrar renda ou direcionar informações para quem paga mais. Consiste também no risco de a própria ideia de humanidade ser rebaixada. O capitalismo digital não quer apenas automatizar tarefas; ele tende a automatizar decisões, preferências, diagnósticos, recomendações, julgamentos e formas de reconhecimento social. Nesse processo, o ser humano pode passar a ser medido, previsto e administrado como se fosse um conjunto de dados.

A crítica de Nicolelis permite recusar essa redução. A inteligência humana é inseparável do corpo, da vida, da experiência e da liberdade. Nenhuma sociedade democrática pode permitir que sistemas privados, opacos e orientados por lucro assumam a mediação central da verdade, do trabalho, da educação, da saúde, da guerra e da política sob o pretexto de possuírem uma inteligência superior. O problema não é a existência de máquinas capazes de realizar operações complexas. O problema é uma civilização que começa a tratar máquinas como sujeitos e sujeitos humanos como peças substituíveis de uma engrenagem computacional.

É aqui que Michael Löwy se torna indispensável. O ecossocialismo, em sua formulação, não é uma ecologia decorativa nem uma simples política de compensação ambiental. É uma alternativa civilizatória ao “progresso destrutivo” do capital. Sua força está em recusar duas ilusões: a ilusão liberal de que o mercado poderá salvar o planeta sem enfrentar a acumulação; e a ilusão produtivista de que basta desenvolver forças produtivas sem perguntar a quem servem, que necessidades atendem e que destruição carregam.

O ecossocialismo propõe recolocar a economia sob critérios de necessidade social, equilíbrio ecológico, igualdade substantiva e planejamento democrático. Aplicado à inteligência artificial, isso significa perguntar: quais usos da IA são socialmente necessários? Quais apenas aceleram consumo, vigilância, desemprego, obsolescência e manipulação? Quais aplicações deveriam ser públicas, auditáveis e orientadas por finalidades coletivas? Quais deveriam ser proibidas ou severamente limitadas? Que data centers podem ser admitidos em determinado território? Com qual matriz energética? Com qual uso de água? Com qual retorno social? Com qual controle popular?

A questão ecossocialista não é “mais tecnologia” ou “menos tecnologia” em abstrato. É planejamento democrático da tecnologia. Não há racionalidade ecológica quando a infraestrutura da IA é decidida por fundos, big techs, contratos militares, bolsas de valores e estratégias privadas de domínio de mercado. Se a IA reorganiza trabalho, educação, saúde, comunicação, energia e democracia, então ela não pode ser tratada como propriedade estratégica de poucas corporações.

Essa formulação permite escapar tanto do entusiasmo ingênuo quanto do medo paralisante. A inteligência artificial pode ampliar capacidades humanas, acelerar pesquisas científicas, apoiar políticas públicas, melhorar diagnósticos, fortalecer acessibilidade, ajudar no planejamento climático e reduzir desperdícios. Mas esses usos emancipatórios não emergem automaticamente do mercado. Eles dependem de finalidade social, controle público, transparência, soberania tecnológica, proteção de dados, direitos trabalhistas e limites ecológicos.

Sob o capitalismo, porém, a tendência dominante é outra. Os ganhos de produtividade são apropriados por acionistas. Os custos ambientais são socializados. Os trabalhadores são pressionados por automação, vigilância e intensificação. Os territórios pobres oferecem energia, água, minerais e descarte. Os usuários produzem dados e dependência. As plataformas concentram renda, infraestrutura e poder de mediação.

A periferia global corre risco especial. Países como o Brasil podem ser convocados a fornecer energia renovável, minerais estratégicos, território para data centers, dados populacionais e mão de obra barata, enquanto o comando tecnológico, as patentes, os modelos, as receitas e o poder de decisão permanecem concentrados no Norte global e nas grandes corporações. O discurso da “vantagem competitiva verde” pode esconder uma nova dependência: exportar natureza, energia e dados; importar plataformas, vigilância e subordinação tecnológica.

Essa é a nova fronteira da dependência. Não basta perguntar se um país terá data centers. É preciso perguntar quem os controla, para que servem, quanta energia consomem, quanta água utilizam, que empregos geram, que soberania tecnológica constroem e que danos ambientais deixam. Sem política pública, transparência e controle social, a infraestrutura da IA pode se tornar uma nova forma de enclave: altamente intensiva em recursos, pouco distributiva em benefícios e profundamente subordinada ao capital transnacional.

A inteligência artificial, nesse sentido, condensa a crise civilizatória do capitalismo. Ela promete abundância, mas nasce da escassez produzida. Promete inteligência, mas pode reduzir a autonomia humana. Promete eficiência, mas amplia a pressão energética. Promete acesso ao conhecimento, mas pode privatizar a mediação da verdade. Promete libertar o trabalho, mas pode intensificar desemprego, vigilância e sofrimento psíquico. Promete sustentabilidade, mas depende de uma infraestrutura material cada vez mais pesada.

O fechamento da trilogia, portanto, deve ser político e civilizatório: a IA não pode ser abandonada às forças cegas do mercado. A inteligência social acumulada pela humanidade não pode ser convertida em monopólio privado. Os dados produzidos pela vida coletiva não podem servir apenas à predição comercial e ao controle comportamental. A energia, a água, os territórios e o trabalho humano não podem ser subordinados a uma corrida tecnológica sem deliberação democrática.

A inteligência artificial deve ser recolocada em seu devido lugar: não como destino da humanidade, mas como instrumento. Não como consciência, mas como técnica. Não como autoridade, mas como objeto de deliberação pública. Não como substituta da inteligência viva, mas como ferramenta que só pode ser legitimada quando subordinada à vida, ao trabalho digno, à democracia, à justiça social e ao equilíbrio ecológico.

A IA não é uma nova consciência que supera a humanidade. É uma técnica produzida pela humanidade, mas capturada por uma forma social que tenta transformar inteligência viva, natureza, trabalho e verdade pública em mercadoria. Por isso, a tarefa civilizatória não é obedecer às máquinas, mas libertar a técnica do capital e devolvê-la ao governo democrático da vida.

Isso exige soberania tecnológica, auditoria pública, redução da jornada de trabalho, proteção social, transparência algorítmica, regulação ambiental dos data centers, controle democrático dos dados, investimento público em ciência aberta e prioridade absoluta aos usos socialmente necessários da tecnologia.

Sem isso, a IA será apenas mais uma promessa capturada pela história real do capitalismo: transformar toda potência humana em valor, todo valor em propriedade, toda propriedade em poder e todo poder em capacidade de decidir, em nome de poucos, o destino comum da humanidade.

A crise da inteligência artificial é, no fundo, a crise de quem governa a inteligência social. E essa pergunta não é técnica. É civilizatória.

A IA não é o fim da crise do capital. Ela é a tentativa de automatizar a própria contenção da crise – transferindo seus custos para trabalhadores, territórios, subjetividades e ecossistemas. A questão final, portanto, não é se o capitalismo conseguirá usar a IA para sobreviver à própria crise. A questão é se a humanidade conseguirá impedir que essa sobrevivência seja obtida contra a vida.
Flaviano Correia Cardoso

O país da 'generosidade excessiva'

No país onde o fim da escala 6x1 é tratado como heresia por setores da economia, ameaça aos empregos e ao crescimento do país, os homens da lei e da Justiça deitam e rolam com seus 60 dias de férias, fora os recessos, as licenças, as benesses e tudo o mais que a criatividade permitir.

É no Congresso, onde os recessos somam 55 dias por ano e parlamentares comparecem, basicamente, nas terças e quartas-feiras, que está o destino de quem labuta de segunda a sábado.


No mundo dos privilégios, as cores são tão sortidas que há até quem se esqueça deles. Em entrevista à Folha, o presidente do Tribunal de Contas da União, Vital do Rêgo, que trabalha há 12 anos na corte, disse que só tinha 30 dias de férias. Corrigido pela reportagem, admitiu que tinha 60 dias, mas que se enganou porque costuma tirar, no máximo, cerca de 20 dias de descanso.

Na realidade, Vital se referia a seu recesso. Os 60 dias de férias seguem intactos em seu contracheque, que ele pode tirar ou guardar para a aposentadoria. À queima-roupa, Vital disse que, se pudesse, acabaria com o benefício, que considera uma "generosidade excessiva".

Na contramão desse raciocínio, porém, o que se vê são juízes e integrantes do Ministério Público mexendo com as próprias regras, para parcelar o descanso de 60 dias, fracionando esse tempo em até 12 vezes. Com cotas de cinco dias, é possível juntar dois fins de semana. São nove dias de pernas para o ar. Desconta-se apenas cinco.

Noves fora, a turma da toga poderá folgar seis meses por ano, o que pode ficar ainda generoso, com outras licenças já criadas.

Hoje, a escala 6x1 atinge 33% dos empregos no país. São cerca de 20 milhões de pessoas que acordam e dormem com essa carga de trabalho. Cada uma delas tem direito a 78 dias de folga por ano, somando seus 30 dias (isso quando conseguem tirar) e os fins de semana.

Com a caneta na mão, magistrados e afins se regozijam com 178 dias sem trabalho. Os números deveriam bastar para expor o escárnio.

Cuidado!

Mesmo que consigamos restaurar o espaço do eleitor moderado, a impaciência algorítmica, creio, veio para ficar.
Hélio Schwartsman

Flávio se oferece para apagar o incêndio que ele mesmo estimulou

Foi Donald Trump, em setembro do ano passado, quem disse ter rolado “uma química excelente” entre ele e Lula ao se cruzarem pela primeira vez no prédio da Organização das Nações Unidas (ONU), em Nova York:

– “Ele parece um cara muito legal. Ele gostou de mim, eu gostei dele. Eu só faço negócios com pessoas de quem gosto. Quando não gosto, não gosto”.

Lula respondeu, fazendo questão de exagerar:

– “Não foi uma química, foi uma indústria petroquímica”.

Menos de um mês depois, Lula e Trump conversaram por telefone durante quase uma hora. Em pauta estava o tarifaço de 50% aplicado aos produtos brasileiros importados pelos Estados Unidos, em vigor desde agosto. Voltaram a se falar no início de dezembro sobre o mesmo assunto e sobre o combate ao crime organizado.

Em 7 de maio último, finalmente, Trump recebeu Lula na Casa Branca com direito a tapete vermelho, reuniões de trabalho e almoço. Trump classificou o encontro como “muito bom” e descreveu Lula como um “presidente dinâmico”. Chamou-o de “bom homem” e “inteligente”, destacando que as reuniões de trabalho se concentraram principalmente em tópicos como comércio e tarifas.

Como sempre, Lula foi mais efusivo. Disse a Trump não querer “guerra” entre os países e aproveitou a ocasião para sugerir que ele sorrisse mais, no que foi atendido por Trump, que sorriu.


Vendo aquilo, os irmãos Flávio e Eduardo Bolsonaro decidiram intervir com a ajuda de secretários do governo americano contrários à aproximação entre Trump e Lula. Cavaram uma sessão de fotos com Trump no Salão Oval da Casa Branca, o que aconteceu 19 dias depois de Lula ter posto os pés por lá. E foram embora admitindo que desancaram Lula e que cobraram novas intervenções dos Estados Unidos em assuntos internos do Brasil.

Uma delas seria a promoção das organizações criminosas Comando Vermelho (CV) e Primeiro Comando da Capital (PCC) à categoria de organizações terroristas. Outra, o monitoramento das eleições de outubro para evitar a ocorrência de fraudes que possam beneficiar Lula e o PT. A primeira já foi atendida por Trump.

Flávio e Eduardo juram, porém, que nada têm a ver com o novo tarifaço anunciado pelo governo Trump no último dia 2 de junho. Pegou mal para eles. Pegou tão mal que Flávio antecipa que voltará a Washington para falar na Comissão de Comércio Internacional dos Estados Unidos contra o tarifaço:

– “Vou fazer a minha parte para evitar que empresas brasileiras sejam ainda mais taxadas do que já são com o governo Lula. Como era de se esperar, Lula não move uma palha para evitar que elas sejam tarifadas. Ele acredita que isso pode beneficiá-lo em outubro, mesmo que custe quebrar as empresas brasileiras”.

Em resumo: Flávio, agora, se oferece para apagar o incêndio que ele mesmo estimulou. O que lhe importa é livrar-se da pecha de traidor da Pátria.

Ricardo Noblat

O que é violência algorítmica e como enfrentar esse problema

Há dez anos, o influenciador digital e cientista da comunicação Christian Gonzatti, de 33 anos, denuncia a violência algorítmica, argumentando que os algoritmos de redes sociais costumam dar menos visibilidade a alguns conteúdos de temática LGBTQIA+ produzidos por ele sem transparência quanto aos termos que seriam supostamente "proibidos" pelo sistema.

Gonzatti, que também é professor na Universidade do Vale do Rio dos Sinos (Unisinos), começou a publicar conteúdos culturais classificados como "nerd" dentro do segmento LGBTQIA+ em um canal chamado Viado Nerd.

"O algoritmo não lê contexto. Não via ‘viado' como uma ressignificação, da maneira que historicamente o movimento faz a partir de termos criados originalmente para difamar e caluniar. A página começou a ser denunciada e a plataforma as acatou, como se o espaço fosse de veiculação de discursos de ódio", recorda ele.


De lá para cá, mesmo rebatizando o projeto de Diversidade Nerd, ele continua sendo frequentemente classificado de forma errônea pelas plataformas ou, acredita, muitas vezes tendo seus posts rebaixados em relevância conforme algumas terminologias adotadas. "Se coloco a palavra gay ou lésbica na legenda, por exemplo, o alcance é menor", afirma.

Esse não é um caso específico. Há violência algorítmica quando sistemas de reconhecimento facial classificam de forma pejorativa traços ligados a etnias não brancas, quando a inteligência artificial (IA) produz e distribui deep fakes para destruir a reputação de alguém e até quando modelos automatizados buscam interferir no comportamento das pessoas.

"Muitas vezes estou já dirigindo há 10 horas, 12 horas, sem parar e, quando penso em encerrar o dia, recebo mensagem no aplicativo que estou a uma corrida de ganhar um bônus. Quando vejo, fico 14 horas trabalhando direto, sem parar nem para comer", conta um motorista de aplicativo que atua em São Paulo – mas pede para não ser identificado.

"Neste caso, os algoritmos forçam as pessoas a aumentar a produtividade de um jeito que não reconhece os limites naturais da humanidade. É violência", afirma o cientista da computação e jornalista Alexandre Gonçalves, professor e pesquisador na Universidade de Illinois Urbana-Champaign, nos Estados Unidos.

Professor de mídia e democracia na Universidade de Maryland, também nos Estados Unidos, o jornalista Daniel Trielli explica que violência algorítmica é um "tipo de agressão ou ataque que depende ou se integra a sistemas computacionais automatizados". Isto inclui não só algoritmos de redes sociais, mas também plataformas de vigilância digital e ferramentas de inteligência artificial. Esses meios podem intensificar os modos tradicionais de violência e também possibilitam novas maneiras de violência.

O exemplo mais corriqueiro seria a disseminação de fake news via redes sociais. "Quando alguém espalha esse conteúdo, os algoritmos amplificam o alcance de mensagem que têm apelo emocional", explica Trielli.

O termo violência algorítmica passou a ser utilizado no início da década passada – por acadêmicos, intelectuais e artistas engajados na problemática. Pesquisadores na Unisinos, a jurista e professora Haide Maria Hupffer e o advogado Gabriel Cemin Petry explicam que o termo foi fundamentado com propriedade a partir do livro Topologia da Violência, do filósofo Byung-Chul Han.

"Não há uma pessoa única que tenha ‘inventado' a expressão. Ela faz parte de um campo mais amplo de debates sobre discriminação algorítmica, opressão, racismo, colonialismo de dados e injustiça automatizada", comenta a assistente social Bruna Irineu, professora na Universidade Federal de Mato Grosso e coautora do livro Violência Algorítmica e Vidas LGBTQIAPN+.

O fato é que os algoritmos não são neutros. Criados por pessoas, empresa e instituições que foram alçadas a ocupar papéis hegemônicos em sociedades alicerçadas em pilares de racismo, sexismo e outras desigualdades estruturais, esses sistemas tendem a reproduzir este "pensamento" preponderante. Afinal, de forma muito simplificada, as ferramentas de inteligência artificial são treinadas a partir da exposição de milhões de conteúdos e decisões oriundos da mente humana.

"Podemos dizer que violência algorítmica acontece quando sistemas automatizados, plataformas digitais, inteligências artificiais, mecanismos de busca, redes sociais ou bancos de dados produzem, reproduzem e amplificam desigualdades sociais", define a antropóloga Larissa Pelúcio, professora na Universidade Estadual Paulista (Unesp) e coautora do livro Violência Algorítmica e Vidas LGBTQIAPN+.

"Ela aparece quando uma tecnologia decide quem será visto, quem será silenciado, quem será considerado suspeito, quem terá acesso a oportunidades, crédito, emprego, circulação, reconhecimento ou proteção", acrescenta.

Irineu completa frisando que a violência algorítmica não cria a desigualdade, mas organiza, amplifica, potencializa, automatiza e dá mais relevância a uma desigualdade que já estava presente na sociedade.

No Brasil, o problema é potencializado por diversas razões. Pelúcio ressalta que a sociedade brasileira já é marcada por formas "naturalizadas de violência institucional". No caldo nacional, há uma combinação peculiar entre "intensa presença digital e profundas desigualdades sociais".

Para a antropóloga, são ingredientes fundamentais para conferir gravidade à questão. Ela frisa ainda que há, no panorama brasileiro, uma "centralidade da violência contra populações negras, indígenas, periféricas e LGBTQIAPN+".

Hupffer e Petry dão um exemplo que ilustra o problema. Em 2021, o Conselho Nacional de Justiça criou um grupo de trabalho para realizar um diagnóstico em processos criminais para evitar condenação de inocentes. Partiram de estudos da Defensoria Pública do Estado do Rio de Janeiro que demonstravam os efeitos do racismos estrutural no sistema, em âmbito nacional. Segundo a pesquisa, em 83% dos casos de reconhecimento facial equivocado que levou pessoas inocentes à prisão preventiva, os encarcerados eram pessoas negras.

Se dados assim forem usados para treinamento de algoritmos, argumentam os pesquisadores, a consequência seria a automatização de falhas que prejudicam os afrodescendentes. É o racismo estrutural, portanto, se tornando racismo digital.

Além disso, para as pesquisadoras Pelúcio e Irineu há a questão do "pânico moral" ligado às plataformas digitais. "Os algoritmos de engajamento tendem a favorecer conteúdos que provocam medo, indignação e conflito. Isso faz com que discursos de ódio e desinformação ganhem escala e velocidade", pontua Irineu.

O cientista da computação Gonçalves explica que esse cenário tende a ser mais complicado no Brasil pelo papel periférico que o país ocupa na construção dessas tecnologias. Como é um setor que importa muito as soluções, os dados muitas vezes não são adequados para as diferenças demográficas brasileiras. "Pode gerar decisões ainda mais enviesadas", argumenta ele.

Mas os juristas Hupffer e Petry lembram que o Brasil "explicitamente reconheceu" a proteção de dados pessoais como um direito fundamental, a partir de emenda constitucional de 2022. Além disso, a Lei Geral de Proteção de Dados do país carrega o princípio da não discriminação. Ou seja: ao menos no arcabouço jurídico e legislativo, há um amparo.

Não há uma panaceia para resolver o problema. Há um conjunto de medidas que precisam ser tomadas. A começar pela educação, os esforços de letramento digital em busca do exercício consciente de uma cidadania online. "É muito importante educar para que todos entendam a maluquice que é o fato de darmos todos os nossos dados para as empresas de tecnologia", comenta Gonçalves.

Especialistas também cobram regulação do setor das big techs. "Precisamos de leis e políticas públicas que responsabilizem plataformas e empresas de tecnologias por danos algorítmicos", afirma a antropóloga Pelúcio. O influenciador Gonzatti também defende que as plataformas tenham mais transparência em suas diretrizes algorítmicas.

Em um espectro mais profundo, Pelúcio e Irineu entendem ser necessária uma técnica amparada por justiça social, em um esforço envolvendo auditorias independentes e revisão em bases de dados com participação de grupos afetados pelo desenho das tecnologias. "Não se trata de corrigir viés como se fosse um pequeno defeito técnico, mas de reconhecer que muitos sistemas são construídos sobre desigualdades históricas", afirma Irineu.