O inteligentíssimo fim do mundo

O filósofo Adauto Novaes, com sua fala mineira, sem atropelos ou turbulências, gosta de lembrar uma frase do poeta francês Paul Valéry: “Nós, civilizações, sabemos agora que somos mortais”. Lembrança pertinente. Com essas palavras, Valéry faz a abertura de seu ensaio célebre A crise do espírito, publicado na França no ano de 1919, lá se vão mais de cem anos.

Eram tempos traumáticos. O desafio do pensamento era reconhecer que a utopia iluminista, com a sua promessa de que a ciência libertaria a humanidade da peste, da fome e das guerras, dava sinais de fadiga. O morticínio gerado pela Primeira Grande Guerra era a prova irrefutável desse fato. O que se viu foi a distopia. Cientistas desenvolveram gases tóxicos para dizimar adolescentes confinados nas trincheiras. Aviões se convertiam em armas letais. O poder era o crime perfeito. Ficava mais do que evidente que a civilização, impulsionada pelas mais estonteantes invenções da técnica, era capaz de matar, inclusive a si mesma.

Fim do mundo segundo a IA

Depois do veredicto de Valéry, as coisas pioraram. Vieram o Holocausto, a bomba atômica e o aquecimento global. Além das civilizações, a própria humanidade se descobriu mortal. Cães raivosos não alcançam essa ideia, mas assim é.

Anteontem, o jornal The New York Times noticiou que um grupo que reúne os principais pesquisadores e executivos dos maiores centros de inovação tecnológica no mundo lançou uma advertência: o crescimento indiscriminado da Inteligência Artificial (ou simplesmente IA), outra conquista do gênio humano, pode empurrar a nossa espécie para a “extinção”. Não, a palavra não é exagerada. O texto do Times, assinado pelo colunista de tecnologia Kevin Rose, não envereda por firulas especulativas. Vai aos nós objetivos do problema.

Enorme problema. Para começar, as ferramentas baseadas em IA vão devorar milhões e milhões de empregos hoje ocupados por pessoas feitas de átomos de carbono. Essas pessoas cederão seu lugar para traquitanas que levam átomos de silício em sua composição e serão expulsas do mundo do trabalho. Os laços sociais serão convulsionados.

Em outra frente, dispositivos atrelados a algoritmos inteligentes vêm desempenhando um papel tenebroso nas campanhas de ódio e disseminação das mentiras mais destrambelhadas. As multidões, presas fáceis, se aglomeram em tropas de fúria e fanatismo, o que corrói as instituições encarregadas de verificação da verdade factual, como a imprensa, a ciência e a justiça. Ato contínuo, os alicerces das instituições democráticas se desestruturam.

Diante disso, alguém levanta a mão para fazer a pergunta inevitável: mas essas mesmas tecnologias não podem ser usadas “para o bem”? Podem, sim, é lógico. O veneno de cobra e a arma de fogo também podem ser usados “para o bem”. O livro de Adolf Hitler, Minha Luta, quando estudado por historiadores ou pensadores comprometidos com a democracia e os direitos humanos, pode servir a bons propósitos, como o de nos ajudar a impedir uma recidiva no nazismo. Em tese, tudo pode servir “para o bem”. O cianureto, o pernilongo e a música brega podem ser utilizados “para o bem”. No entanto, não é bem esse “bem” que se projeta como tendência quando o tema é IA. Os que mais entendem do assunto estão assustados. Ouçamos o que eles dizem.

“Debelar o risco de extinção representado pela IA deve ser uma prioridade global ao lado de outros riscos de escala social, como pandemias e guerra nuclear”, afirma o manifesto de uma única frase assinado por cerca de 350 cientistas e dirigentes de empresas. Entre os signatários estão Sam Altman, presidente executivo da OpenAI, e Demis Hassabis, presidente executivo do Google DeepMind, além de Geoffrey Hinton e Yoshua Bengio, ganhadores do Prêmio Alan Turing, uma espécie de Nobel da tecnologia.

O risco da extinção de que eles falam não deve ser entendido como o risco de uma catástrofe nuclear. Não é que alguém vá lá, ligue o computador e, num estrondo, as populações de todos os países partirão desta para uma pior. Não será assim. A civilização, nesta hipótese da extinção por IA, desaparecerá aos poucos, num suspiro longo.

As ferramentas de IA vão aos poucos tomando posse dos protocolos discursivos que, desde sempre, orientam as condutas humanas. O jargão jurídico é um desses protocolos. O método científico é outro. A atividade dos médicos é um terceiro tipo. As religiões também têm os seus, que não se confundem com os anteriores. Todos esses protocolos têm um traço comum: eles são construídos na linguagem. Quando a IA aprende a falar, como se fosse gente, ela se apropria dos protocolos que formatam comportamentos individuais e sociais e, a partir daí, tudo muda de figura.

Como resultado, o ser humano perderá relevância, enquanto os protocolos desumanizados se expandirão. Da nossa irrelevância brotará o ciclo vicioso que vai nos escantear e, depois, nos extinguir. A menos que a democracia tome providências. Segundo o grupo seleto que assinou o manifesto de uma única frase, ainda há tempo.

Eugênio Bucci