“O cérebro eletrônico comanda
Manda e desmanda
Ele é quem manda
Mas ele não anda”
Gilberto Gil (Cérebro eletrônico, 1969)
Não foram poucas as reações diante de aplicativos que prometem textos sobre qualquer assunto, desenhos criativos, fotos forjadas, debates sobre o sentido da vida ou da filosofia ou da sociologia ou da arte culinária, poemas e letras de música, tudo isso diante de um mero comando e certos indicativos daquilo que se deseja. Expoentes das empresas lançaram uma carta manifesto contra os perigos da IA e pediram um tempo, não se sabe se para poder entrar na concorrência ou pensar nas dimensões supostamente éticas de tal desenvolvimento tecnológico.
Outros mais pragmáticos lançaram livros, como por exemplo um que apresenta um manual de como escrever romances de sucesso usando o famoso aplicativo, não sabemos se escrito por aquele que se denomina autor ou pelo aplicativo. De qualquer maneira, estranhamente apresentado na forma impressa, naquilo que os mais antigos chamariam de “livro”. Neste pequeno manual se afirma que o pretendente a autor deve oferecer ao aplicativo um tema, protagonistas e personagens, uma linha de desenvolvimento da trama e outras dicas para que a inteligência artificial escreva por ele o romance.
Duas coisas nos chamam a atenção de pronto. Em primeiro lugar, o fato de as buscas e pesquisas sobre inteligência artificial já terem uma história bastante antiga, provavelmente nos anos 1950, despertando eufóricas esperanças e dúvidas éticas desde sempre. Aristóteles, desde a longínqua Antiguidade, já ironizava que se os instrumentos pudessem se mover sozinhos não seriam necessários escravos, evidentemente para, diante do absurdo de tal premissa, justificar a escravidão como necessária e natural. Hannah Arendt, diante dos avanços tecnológicos presenciados nos anos 1950, atualiza a premissa de seu mestre, agora não como ironia, mas como base para a sombria previsão que em poucos anos as fábricas se esvaziariam e a condição humana se veria diante do dilema catastrófico de uma sociedade fundada no trabalho que elimina o emprego.
A segunda ordem de reflexão nos remete a um mito ainda mais antigo, que marca a sociedade moderna. Refiro-me aqui ao receio de que as obras humanas fujam ao controle e se voltem contra seus criadores. Este medo atávico se apresenta de forma recorrente, tal como se expressa no clássico Frankenstein: o Prometeu moderno (1818) de Mary Shelley, no também clássico desespero de Mickey Mouse tentando controlar vassouras que colocou em movimento para evitar seu trabalho no filme da Disney, Fantasia (1940), sem nos esquecermos da premissa fundamental da saga Matrix (1999, 2003 e 2021), em que as máquinas substituíram os seres humanos (Animatrix, 2003).
No caso de Mary Shelley, não por acaso filha da filósofa feminista Mary Wollstonecraft, quando de uma estadia chuvosa com seus amigos divertindo-se no Lago de Genebra, contando histórias de terror e discutindo os estudos de Eramus Darwin (cientista e poeta do século XVIII, avô de Charles Darwin), que afirmava ter movido matéria morta por meio da eletricidade, teve a ideia de um conto que acabou tornando-se o famoso romance sobre Frankenstein. Sobre a ideia, a autora afirmou um tempo depois que seria “terrível, extremamente assustador o efeito de qualquer esforço humano na simulação do estupendo mecanismo do Criador do mundo”.
No entanto, tudo que a humanidade tem feito até hoje no desenvolvimento da tecnologia pode ser descrito como a sina de Prometeu, o subtítulo da obra de Shelley. Ele, diz a lenda, ficou encarregado pelos deuses de criar o homem a partir do barro (no qual observamos que a terceirização e o plágio são coisas antigas), mas acabou roubando o fogo dos deuses para oferecer aos homens e por tal crime foi condenado a ficar preso em um rochedo tendo seu fígado devorado e recriado para ser devorado novamente por abutres.
O ser humano é um ser que faz instrumentos para complementar sua anatomia natural precária, compensando seus dentes retos, a falta de garras e força, com machados de pedra, flechas e lanças. Para tanto, lança mão de duas características naturais da espécie: os polegares opositores e um telencéfalo altamente desenvolvido. Com isso desenvolveu, como afirma Marx, uma atividade exclusiva do gênero humano: o trabalho. Para o pensador alemão, o trabalho exige a capacidade teleológica, isto é, a incrível capacidade de antever o resultado desejado em seu cérebro, interessantemente a raiz do nome Prometeu (aquele que vê antes).
O cérebro humano tem a capacidade armazenar informações e associá-las, quando necessário, por isso pode responder às necessidades usando sua experiência anterior e sua habilidade com as mãos criando instrumentos e técnicas diversas.
O que faz a chamada Inteligência Artificial? Em princípio, ela busca informações e as associa de acordo com a necessidade de responder a algo ou alguém. Este seria o aspecto da inteligência, o caráter artificial é que ela não busca isso usando um cérebro que armazena pessoalmente experiências, ela busca em um banco de dados previamente alimentado de informações por meio de circuitos e algoritmos.
O grande salto desta ferramenta, dizem os especialistas, é que em comparação com as formas computacionais anteriores, que também buscavam dados e os associavam para executar tarefas, elas podem (ou mais precisamente estão se desenvolvendo para tanto) aprender. Em outras palavras, acumular “experiências” que possam ser usadas em outras situações. A grande dificuldade neste campo, segundo ainda aqueles que entendem do assunto e que diferem de uma malta de palpitadores, é que os computadores não erram e o erro é um caminho importante da inteligência.
Existe uma sintonia muito fina na ação humana, que faz com que pela experiência a ação seja corrigida e assim aperfeiçoada, guardando-a na memória e aplicando quando exigida. Um cientista pesquisador da IA fez um teste interessante. Ele jogava uma bola para uma pessoa. Alterando aleatoriamente e com movimentos pequenos a trajetória da bola, a pessoa rapidamente conseguia pegá-la, corrigindo a posição das mãos e do seu corpo. Já para a máquina, isto implica em uma série de comandos pré-programados e a capacidade ver que a bola está vindo alguns milímetros para um lado ou outro, que não podem ser antecipados, isto é, a maquina tinha que aprender. Bom, é isso que o desenvolvimento da IA busca. Interessante notar que todo desenvolvimento da técnica foi para fazer o que nós como humanos não poderíamos fazer, mas agora seria para fazer aquilo que só nós como humanos fazemos. Estranho.
Mas, por que isto deveria nos assustar? Certamente existe uma série de funções muito úteis para este desenvolvimento tecnológico, desde controle de tráfego aéreo até pedir para a caixinha de som tocar sua música predileta.
Em sua bela cnação da década de 1960, Gilberto Gil procura destacar o que o distingue do cérebro eletrônico. Já no início da música, diz o querido Gil que o cérebro eletrônico “faz quase tudo, mas ele é mudo” e logo depois, em outra parte da letra, afirma que ele “comanda, manda e desmanda”, mas ele “ não anda”. Ora, hoje podemos dizer que a Alexa e alguns robôs estão aí para provar que falam e andam. Parece que alguns aplicativos podem estabelecer até uma interessante conversa sobre se deus existe ou juntar todas as informações disponíveis sobre o tema da morte e talvez oferecer reflexões pertinentes ou simulações de conforto espiritual para avançarmos em nosso caminho inevitável para a morte.
O receio atualizado, fiel à premissa de Arendt, é que tal capacidade venha a substituir os seres humanos. Já aparecem listas de profissões que estarão extintas com a generalização da IA, que incluem atendentes de telemarketing e de atendimento ao cliente, sociólogos, fotógrafos, jornalistas, tradutores, pesquisadores, analistas de dados, assistentes jurídicos, terapeutas e psicólogos, educadores físicos, nutricionistas, entre outras. A previsão, no caso de pesquisadores, é de um ano. Achei interessante que os filósofos não constam na lista, talvez por já serem considerados extintos.
Vamos com calma. Algumas chamadas profissões devem ser mesmo extintas, primeiro pelo fato de que não são profissões, como telemarketing ou serviços de atendimento ao cliente (previsão para desaparecerem de seis meses a um ano – acho muito), trabalhos extremamente precarizados que não oferecem nenhuma perspectiva profissional. Em segundo lugar, pelo fato de que algumas atividades são degradantes e emburrecedoras, por isso seria melhor que fossem relegadas a instrumentos ou algoritmos (que, diga-se logo, precisam melhorar muito – só quem sofreu com os autoatendimentos burros sabe do que se trata).
O que me chama a atenção é que o temor se fundamenta em uma total incompreensão do trabalho humano, reduzido a uma mera tarefa. Seria demais pedir que lessem Marx, mas já ajudaria ver a distinção realizada pela conservadora Hannah Arendt em seu livro sobre a condição humana entre labor e trabalho. O temor é uma expressão de nossos tempos de decadência, mas como tal é uma expressão fidedigna da materialidade miserável em que nos encontramos.
Se os instrumentos, além da mecanização de tarefas, desenvolverem a capacidade de guardar dados, relacioná-los para responder questões, aprenderem e serem capazes de simular experiência e memória, resta algo que parece ser desconsiderado: a intencionalidade. Em outras palavras o porquê de fazer tudo isso.
A resposta é que vivemos em tempos de subordinação real da vida e, portanto, do humano ao capital e ao processo de valorização do valor. Como tal, no auge da reificação na qual o humano se coisifica e as coisas se fetichizam. O lugar do ser humano na atividade do trabalho não se reduz a coisa na qual objetiva seu ser, nela está a intencionalidade e o fim último da coisa no consumo da substância última do ser objeto, que é a satisfação de uma necessidade do corpo ou do espírito.
Pensando na perspectiva humana, nós seriamos o início e o fim de tal processo, mas subsumidos ao domínio do capital e do valor, nos tornamos meios do processo de valorização no qual a intencionalidade e o fim último é o capital e seu movimento de valorização. O capital é o sujeito e nós os meios de sua realização.
Aquilo que a IA acessa em seu banco de dados não é a inteligência artificial, mas o conjunto de saberes e experiências humanas objetivadas, distanciadas de seus criadores e que voltam a ele como uma força hostil que os ameaça. Em outras palavras, aliena-se. Aquilo que acessa não é mais que um instrumento que foi feito por seres humanos que nele se objetivaram e igualmente se alienaram. Tanto o instrumento tecnológico como o conjunto de dados é produto da inteligência humana que fica escondida em seu produto estranhado. Por precisão terminológica, a sigla IA deveria significar Inteligência Alienada.
O cérebro eletrônico agora fala e anda, pode discutir se deus existe ou o sentido da morte, pode até sistematizar um texto coerente sobre a teoria social marxiana e a possibilidade de uma revolução social, pode até assumir o comando e nos considerar obsoletos, inúteis e nos destruir como em O Exterminador do Futuro (1984) ou em 2001: uma odisseia no espaço (1968), quem sabe. No entanto, o sujeito desta ameaça não é a tecnologia, mas uma classe que transformou os meios necessários à vida em mercadorias e estas em veículos de valor e mais valor. O capital é a força estranhada que pode decidir se vivemos ou morremos, se produziremos vida ou morte. Por trás do capital existe uma classe que tem por interesse manter o processo de acumulação: a grande burguesia monopolista.
Há, ainda, um último elemento neste processo de alienação, aquilo que Marx e depois Lukács chamaram de “decadência ideológica”. Se a tecnologia é uma objetivação da inteligência humana, foi também um meio de desenvolvê-la. Agora, sob o invólucro das relações que constituem a sociedade do capital no máximo de seu desenvolvimento, ela se transforma em seu contrário, passa a constituir uma barreira para o desenvolvimento do saber humano. A ingenuidade decadente imagina um conjunto de dados e um instrumentos de busca, ambos isentos de interesses e valores, mas o simples uso de uma ferramenta de busca demonstra a falácia de tal neutralidade objetiva.
Um aplicativo pode fazer um texto adequado sobre os fundamentos da sociologia e seus três autores fundantes – Marx, Durkheim e Weber –, mas o preguiçoso aluno apreenderá algo ao pedir que a máquina faça seu trabalho? Graças ao aplicativo, até um imbecil pode escrever um romance, mas continuará um imbecil. Há uma diferença entre associar palavras dispersas e dar a isto um formato de um texto ou uma imitação de produção intelectual, porque esta implica a intencionalidade e a subjetividade do autor que ao contribuir com o saber coletivo engrandece a si mesmo. Subsumido à ordem da mercadoria e do capital, como dizia Marx, quanto mais o trabalhador realiza a mercadoria, mais se desrrealiza.
No caso sobre o qual nos debruçamos, o preguiçoso e suposto autor que só pede que a máquina reúna os dados existentes e previamente armazenados, sem acrescentar nada nem ao conhecimento coletivo nem a ele próprio: um algoritmo pode escrever um texto, mas nunca escrevera O Capital, pode escrever um romance, mas nunca escreverá As vinhas da ira. Pode. Pode juntar palavras belas em uma métrica perfeita, mas nunca será Maiakóvski, pode fazer uma música mas nunca poderá ser Caetano Veloso. E se um dia, por uma hipótese absurda o fizer, será para que enquanto máquina possa ser aquilo que nós, enquanto humanos, abdicamos de ser.
Sabe Gil… permita-me mexer em seus versos:
Nosso caminho não precisa ser para a morte
Porque somos vivos
Somos muito vivos e sabemos
Que cérebro eletrônico nenhum nos dá socorro
Com seus botões de plástico e seus olhos de vidro
