De presente oficial da Casa de Saud, segundo a versão inicial, a semana termina com a suspeita de que as faiscantes joias-ostentação têm cara, cheiro e delivery de propina.Dorrit Harazim
segunda-feira, 13 de março de 2023
Propina das Arábias
O futuro das mentes e das máquinas que pensam
Considere a seguinte situação: você acorda atrasado para o trabalho e, na pressa, esquece o celular em casa. Só quando fica engavetado no tráfego, ou amassado no metrô, é que você se dá conta. E agora é tarde para voltar. Olhando em volta, você vê pessoas com celular em punho conversando, mandando torpedos, surfando na internet. Aos poucos, você vai sendo possuído por uma sensação de perda, de desconexão.
Sem o celular, você não é mais você. A junção do humano com a máquina é conhecida como “transumanismo”. Tema de vários livros e de filmes de ficção científica, hoje é um tópico essencial na pesquisa de muitos cientistas e filósofos. A questão que nos interessa aqui é até que ponto essa junção homem-máquina pode ocorrer, e o que isso significa para o futuro da nossa espécie. Será que, ao inventarmos tecnologias que nos permitam ampliar nossas capacidades físicas e mentais, ou mesmo máquinas pensantes, estaremos decretando o nosso próprio fim? Será esse o nosso destino evolucionário, criar uma nova espécie além do humano? É bom começar distinguindo tecnologias transumanas daquelas que são apenas corretivas, como óculos ou aparelhos de surdez.
Tecnologias corretivas não têm como função ampliar nossa capacidade cognitiva: simplesmente regularizam alguma deficiência existente. A diferença ocorre quando uma tecnologia não só corrige uma deficiência como leva seu portador a um novo patamar, além da capacidade normal da espécie humana. Por exemplo, braços robóticos que permitem que uma pessoa levante 300 quilos, ou óculos com lentes que permitem enxergar no infravermelho. No caso de atletas com deficiência física, a questão se torna bem mais controversa: em que ponto uma prótese, como uma perna artificial de fibra de carbono, cria condições além da capacidade humana? Considerando esse caso, será que é justo que esses atletas compitam com humanos sem próteses?
A maioria das pessoas acha que esse tipo de hibridização entre tecnologia e biologia é coisa para um futuro distante. Ledo engano. Como no caso do celular, está acontecendo agora. Estamos redefinindo a espécie humana através da hibridização – na maior parte, ainda externa – com tecnologias que ampliam nossa capacidade. Sem nossos aparelhos digitais – celulares, tablets, laptops –, já não somos os mesmos. Criamos personalidades virtuais, ativas apenas na internet, outros “eus” que interagem em redes sociais com selfies arranjadas para impressionar. Esses eus virtuais são criações remotas, onipresentes.
Em Superinteligência, Bostrom faz uma analogia entre nós e os gorilas, e entre nós e as inteligências artificiais sobre-humanas: do mesmo modo que a sobrevivência dos gorilas depende da nossa benevolência, se máquinas mais inteligentes e poderosas do que nós existirem, nossa sobrevivência dependerá delas. E o que garante que elas irão nos preservar? É o mito do Frankenstein revisitado, criaturas criadas por cientistas ameaçando nossa espécie. Claro, a premissa aqui é que é possível criar tais máquinas superinteligentes.
Nisso, a comunidade científica e filosófica está dividida. De um lado, temos os que acreditam que é apenas uma questão de tempo: do mesmo modo que a Natureza “criou” ao menos uma espécie inteligente (golfinhos, baleias, cachorros e gatos são inteligentes, mas não desenham computadores ou sondas espaciais, ou compõem sinfonias e poesia), não há qualquer empecilho fundamental para que possamos repetir a façanha, criando outras entidades inteligentes. As leis da Natureza, argumentam, não proíbem a construção de inteligências artificiais.
Críticos rebatem que a questão não é tão simples. Primeiro, não sabemos exatamente o que é inteligência. E, se não temos uma definição, fica bem difícil recriá-la artificialmente. Por exemplo, o supercomputador da IBM Deep Blue, que ganhou do campeão mundial de xadrez Garry Kasparov em 1997, não era inteligente. Ao menos não no sentido de ser uma entidade autônoma, capaz de tomar suas próprias decisões. Deep Blue reunia uma velocidade incrível de processamento de informação com um programa altamente sofisticado de seleção de estratégias, escolhendo seus movimentos baseado num processo refinado de otimização.
A inteligência de Deep Blue era de seus programadores e não da máquina em si. Na Europa e nos EUA, duas grandes iniciativas estão tentando criar uma máquina inteligente baseada na desconstrução do cérebro humano. Essencialmente, a ideia é mapear o cérebro em todo detalhe, incluindo cada neurônio, suas ligações sinápticas com outros neurônios (sua “cognitividade”), o fluxo de substâncias neurotransmissoras de neurônio a neurônio, recriando toda essa informação num gigantesco programa de computador, uma simulação do cérebro humano em uma entidade de silicone. Uma pesquisa sem dúvida fascinante, que leva a uma pergunta essencial: como saber se temos toda a informação relevante para recriar um cérebro humano, o objeto mais complexo do Universo conhecido?
Como no famoso conto de Jorge Luis Borges, “Sobre o rigor na ciência”, um mapa perfeito, contendo todos os detalhes do original, teria que ser do tamanho do que se propõe a mapear, sendo, portanto, inútil. No caso do mapeamento do cérebro, certamente esse tipo de iniciativa é extremamente importante e válida, e nos trará muita informação valiosa sobre seu funcionamento e estrutura. Mas o objetivo final, a compreensão completa do cérebro humano, me parece um mito.
Afinal, sabemos que nossa aferição do que existe é sempre limitada: o que vemos do mundo, mesmo com nossos instrumentos, jamais é tudo o que pode ser visto. Portanto, qualquer simulação de uma entidade real será necessariamente incompleta. No máximo, podemos tentar captar aquilo de mais essencial, recriando um modelo parcial do que existe. Me parece difícil concluir que esse modelo parcial terá funções cognitivas idênticas a um cérebro real. Ainda pior: nem sabemos o que significa entender o cérebro destituído do corpo que o comanda.
Mesmo se programas de computador chegarem a ser inteligentes, sua inteligência não será como a nossa. Será outra coisa, destituída de um corpo. E o que é um humano destituído de um corpo? Impossível contemplar. O que é uma inteligência que não sofre ou sente dor? Até que ponto essas emoções subjetivas podem ser capturadas num programa, numa sequência de instruções? Me parece que esse objetivo – a construção de máquinas autônomas inteligentes – está bem mais distante do que um que já está acontecendo, nossa hibridização com tecnologias que expandem nossas habilidades cognitivas.
No brilhante filme Ela, de 2013, um homem se apaixona por um sistema operacional inteligente, capaz de aprender com a informação que recebe. A história é trágica, explorando a solidão humana e como a tecnologia do futuro – na medida em que nos definimos pelas nossas interações com os outros – irá redefinir quem somos. Ao menos no filme, os “outros” poderão não ser mais humanos. Apesar da beleza e da importância do filme, é bom não confundi-lo com a realidade. Como argumentei, é muito possível que a premissa das máquinas inteligentes, ou mais inteligentes do que nós, seja falsa. É bem mais provável que o futuro da inteligência esteja dentro do cérebro humano, e não fora. Nós, ou os nossos híbridos com máquinas, é que nos tornaremos superinteligentes, estendendo nossa capacidade mental por meio da união do biológico com o cibernético.
A meu ver, o futuro da inteligência artificial não está nas máquinas, mas na inteligência humana artificialmente ampliada. Não estamos desenhando nosso fim, mas uma nova espécie que transcenderá os limites evolucionários que determinam o funcionamento de nossos cérebros e corpos. Com isso, não devemos temer o futuro da pesquisa em inteligência artificial, mas vê-la como uma oportunidade de emancipação, de crescimento da nossa espécie. Certamente, nossos descendentes serão mais inteligentes e, espero, também mais sábios.
Marcelo Gleiser, "O caldeirão azul"
Sem o celular, você não é mais você. A junção do humano com a máquina é conhecida como “transumanismo”. Tema de vários livros e de filmes de ficção científica, hoje é um tópico essencial na pesquisa de muitos cientistas e filósofos. A questão que nos interessa aqui é até que ponto essa junção homem-máquina pode ocorrer, e o que isso significa para o futuro da nossa espécie. Será que, ao inventarmos tecnologias que nos permitam ampliar nossas capacidades físicas e mentais, ou mesmo máquinas pensantes, estaremos decretando o nosso próprio fim? Será esse o nosso destino evolucionário, criar uma nova espécie além do humano? É bom começar distinguindo tecnologias transumanas daquelas que são apenas corretivas, como óculos ou aparelhos de surdez.
Tecnologias corretivas não têm como função ampliar nossa capacidade cognitiva: simplesmente regularizam alguma deficiência existente. A diferença ocorre quando uma tecnologia não só corrige uma deficiência como leva seu portador a um novo patamar, além da capacidade normal da espécie humana. Por exemplo, braços robóticos que permitem que uma pessoa levante 300 quilos, ou óculos com lentes que permitem enxergar no infravermelho. No caso de atletas com deficiência física, a questão se torna bem mais controversa: em que ponto uma prótese, como uma perna artificial de fibra de carbono, cria condições além da capacidade humana? Considerando esse caso, será que é justo que esses atletas compitam com humanos sem próteses?
A maioria das pessoas acha que esse tipo de hibridização entre tecnologia e biologia é coisa para um futuro distante. Ledo engano. Como no caso do celular, está acontecendo agora. Estamos redefinindo a espécie humana através da hibridização – na maior parte, ainda externa – com tecnologias que ampliam nossa capacidade. Sem nossos aparelhos digitais – celulares, tablets, laptops –, já não somos os mesmos. Criamos personalidades virtuais, ativas apenas na internet, outros “eus” que interagem em redes sociais com selfies arranjadas para impressionar. Esses eus virtuais são criações remotas, onipresentes.
Cientistas e engenheiros usam computadores para ampliar sua capacidade cerebral, enfrentando problemas que, há apenas algumas décadas, eram considerados impossíveis. Como resultado, a cada dia surgem novas questões que, antes, nem podíamos contemplar. O ritmo do progresso científico está diretamente relacionado com nossa aliança a máquinas digitais. Somos já transumanos. Aonde isso nos levará? Em livro de 2018, o filósofo sueco Nick Bostrom, professor na Universidade de Oxford, soa o alarme: se criarmos inteligências superiores à nossa, poderemos nos tornar obsoletos.
Em Superinteligência, Bostrom faz uma analogia entre nós e os gorilas, e entre nós e as inteligências artificiais sobre-humanas: do mesmo modo que a sobrevivência dos gorilas depende da nossa benevolência, se máquinas mais inteligentes e poderosas do que nós existirem, nossa sobrevivência dependerá delas. E o que garante que elas irão nos preservar? É o mito do Frankenstein revisitado, criaturas criadas por cientistas ameaçando nossa espécie. Claro, a premissa aqui é que é possível criar tais máquinas superinteligentes.
Nisso, a comunidade científica e filosófica está dividida. De um lado, temos os que acreditam que é apenas uma questão de tempo: do mesmo modo que a Natureza “criou” ao menos uma espécie inteligente (golfinhos, baleias, cachorros e gatos são inteligentes, mas não desenham computadores ou sondas espaciais, ou compõem sinfonias e poesia), não há qualquer empecilho fundamental para que possamos repetir a façanha, criando outras entidades inteligentes. As leis da Natureza, argumentam, não proíbem a construção de inteligências artificiais.
Críticos rebatem que a questão não é tão simples. Primeiro, não sabemos exatamente o que é inteligência. E, se não temos uma definição, fica bem difícil recriá-la artificialmente. Por exemplo, o supercomputador da IBM Deep Blue, que ganhou do campeão mundial de xadrez Garry Kasparov em 1997, não era inteligente. Ao menos não no sentido de ser uma entidade autônoma, capaz de tomar suas próprias decisões. Deep Blue reunia uma velocidade incrível de processamento de informação com um programa altamente sofisticado de seleção de estratégias, escolhendo seus movimentos baseado num processo refinado de otimização.
A inteligência de Deep Blue era de seus programadores e não da máquina em si. Na Europa e nos EUA, duas grandes iniciativas estão tentando criar uma máquina inteligente baseada na desconstrução do cérebro humano. Essencialmente, a ideia é mapear o cérebro em todo detalhe, incluindo cada neurônio, suas ligações sinápticas com outros neurônios (sua “cognitividade”), o fluxo de substâncias neurotransmissoras de neurônio a neurônio, recriando toda essa informação num gigantesco programa de computador, uma simulação do cérebro humano em uma entidade de silicone. Uma pesquisa sem dúvida fascinante, que leva a uma pergunta essencial: como saber se temos toda a informação relevante para recriar um cérebro humano, o objeto mais complexo do Universo conhecido?
Como no famoso conto de Jorge Luis Borges, “Sobre o rigor na ciência”, um mapa perfeito, contendo todos os detalhes do original, teria que ser do tamanho do que se propõe a mapear, sendo, portanto, inútil. No caso do mapeamento do cérebro, certamente esse tipo de iniciativa é extremamente importante e válida, e nos trará muita informação valiosa sobre seu funcionamento e estrutura. Mas o objetivo final, a compreensão completa do cérebro humano, me parece um mito.
Afinal, sabemos que nossa aferição do que existe é sempre limitada: o que vemos do mundo, mesmo com nossos instrumentos, jamais é tudo o que pode ser visto. Portanto, qualquer simulação de uma entidade real será necessariamente incompleta. No máximo, podemos tentar captar aquilo de mais essencial, recriando um modelo parcial do que existe. Me parece difícil concluir que esse modelo parcial terá funções cognitivas idênticas a um cérebro real. Ainda pior: nem sabemos o que significa entender o cérebro destituído do corpo que o comanda.
Mesmo se programas de computador chegarem a ser inteligentes, sua inteligência não será como a nossa. Será outra coisa, destituída de um corpo. E o que é um humano destituído de um corpo? Impossível contemplar. O que é uma inteligência que não sofre ou sente dor? Até que ponto essas emoções subjetivas podem ser capturadas num programa, numa sequência de instruções? Me parece que esse objetivo – a construção de máquinas autônomas inteligentes – está bem mais distante do que um que já está acontecendo, nossa hibridização com tecnologias que expandem nossas habilidades cognitivas.
No brilhante filme Ela, de 2013, um homem se apaixona por um sistema operacional inteligente, capaz de aprender com a informação que recebe. A história é trágica, explorando a solidão humana e como a tecnologia do futuro – na medida em que nos definimos pelas nossas interações com os outros – irá redefinir quem somos. Ao menos no filme, os “outros” poderão não ser mais humanos. Apesar da beleza e da importância do filme, é bom não confundi-lo com a realidade. Como argumentei, é muito possível que a premissa das máquinas inteligentes, ou mais inteligentes do que nós, seja falsa. É bem mais provável que o futuro da inteligência esteja dentro do cérebro humano, e não fora. Nós, ou os nossos híbridos com máquinas, é que nos tornaremos superinteligentes, estendendo nossa capacidade mental por meio da união do biológico com o cibernético.
A meu ver, o futuro da inteligência artificial não está nas máquinas, mas na inteligência humana artificialmente ampliada. Não estamos desenhando nosso fim, mas uma nova espécie que transcenderá os limites evolucionários que determinam o funcionamento de nossos cérebros e corpos. Com isso, não devemos temer o futuro da pesquisa em inteligência artificial, mas vê-la como uma oportunidade de emancipação, de crescimento da nossa espécie. Certamente, nossos descendentes serão mais inteligentes e, espero, também mais sábios.
Marcelo Gleiser, "O caldeirão azul"
1984 não é aqui
Reler um livro é um prazer renovado. A frase imortal do filósofo Heráclito: “Não podemos nos banhar no mesmo rio porque as águas renovam-se a cada instante”, não se aplica aos livros: a beleza da escrita parece água parada. O que muda é o banhista caso se disponha a reaprender, redescobrir novos mundos e recriar um novo leitor.
Imaginando que os meses tradicionais de fim de ano seriam mais amenos, me comprometi a reler três livros (não sou um “leitor voraz”, normal, apenas). Engano: os tempos sombrios, ferozes, seguem trepidantes. Ainda assim, segui o conselho do grande Nelson Rodrigues “Deve-se ler pouco e reler muito. Há uns poucos livros totais, três ou quatro, que nos salvam ou que nos perdem. É preciso relê-los, sempre e sempre, com obtusa pertinácia”.
Escolhi 1984 de Eric Blair, nome jogado ao esquecimento pela força do pseudônimo do George Orwell e quase uma dezena obras precocemente interrompidas, aos 46 anos, por uma infame tuberculose.
Irving Howe, editor e crítico literário americano, desfez minha dúvida: “Não é fácil imaginar que muita gente torne a reler 1984 espontaneamente: não há razão nem necessidade, pois ninguém o esquece”. Mas, precisa ser lembrado. Principalmente diante de autocratas declarados e enrustidos.
Diferente dos clássicos, uma vasta e atônita “fortuna crítica” não conclui se ele escreve sobre o passado, descreve o presente ou prediz o futuro. Não importa se a gente termina sem ter a resposta. Mais uma vez, Howe enxerga longe: “Se o mundo de 1984 se concretizar, ninguém o lerá exceto os donos do poder total; se o mundo de 1984 não se concretizar talvez as pessoas fiquem com a impressão de que o livro não passava de um mero sintoma de algum distúrbio privado, de um pesadelo”.
Assim carregamos 1984 como um pesadelo que é nosso. “Afinal de contas, diz George Parker, escritor e jornalista do New Yorker Times, a verdade revela-se a coisa mais frágil do mundo. O drama da política é o que está no nosso cérebro”. Winston, personagem central da obra, talvez seja o último sobrevivente dos tempos de antigamente.
Viveu no ambiente propício da distopia: a guerra permanente (Oceânia e Eurásia), o inimigo imaginário – Emmanuel Goldstein a ser exterminado, a opressão letal e a substituição completa do humano por máquinas obedientes para exercer a totalidade do mal.
Com efeito este é o ponto de identificação do horror de Orwell: os totalitarismos. Não escreveu sobre governos ou qualquer preferência política. Criou o “Organograma do Mal” sob a ubiquidade do Grande Irmão; Ministério da Verdade (que só mentia pela escuta de tudo pela Teletela); Ministério do Amor (controlado pela Liga Juvenil Antissexo); A Novilíngua (ou Novafala) em associação com a Polícia do Pensamento e o Duplipensar para extinguir a liberdade de pensamento, tudo envenenado pelo programa diário Dois Minutos de Ódio e a construção filológica de modo a conectar clichês, segundo Hannah Arendt, à banalidade do mal, com permanentes doses de arsênico.
Antes de qualquer insinuação, não me refiro a distopias nacionais, mas que elas existem, existem, rondam as pessoas e, perigosamente, a humanidade em territórios de dor e surtos de desesperança na síntese de três famosos slogans do Ministério da Verdade: “Guerra é paz. Liberdade é escravidão. Ignorância é força” para os quais a moral a se extrair desse pesadelo perigoso parece simples: “Não deixe que aconteça. Depende de você”.
1984 não é aqui.
Imaginando que os meses tradicionais de fim de ano seriam mais amenos, me comprometi a reler três livros (não sou um “leitor voraz”, normal, apenas). Engano: os tempos sombrios, ferozes, seguem trepidantes. Ainda assim, segui o conselho do grande Nelson Rodrigues “Deve-se ler pouco e reler muito. Há uns poucos livros totais, três ou quatro, que nos salvam ou que nos perdem. É preciso relê-los, sempre e sempre, com obtusa pertinácia”.
Escolhi 1984 de Eric Blair, nome jogado ao esquecimento pela força do pseudônimo do George Orwell e quase uma dezena obras precocemente interrompidas, aos 46 anos, por uma infame tuberculose.
Irving Howe, editor e crítico literário americano, desfez minha dúvida: “Não é fácil imaginar que muita gente torne a reler 1984 espontaneamente: não há razão nem necessidade, pois ninguém o esquece”. Mas, precisa ser lembrado. Principalmente diante de autocratas declarados e enrustidos.
Diferente dos clássicos, uma vasta e atônita “fortuna crítica” não conclui se ele escreve sobre o passado, descreve o presente ou prediz o futuro. Não importa se a gente termina sem ter a resposta. Mais uma vez, Howe enxerga longe: “Se o mundo de 1984 se concretizar, ninguém o lerá exceto os donos do poder total; se o mundo de 1984 não se concretizar talvez as pessoas fiquem com a impressão de que o livro não passava de um mero sintoma de algum distúrbio privado, de um pesadelo”.
Assim carregamos 1984 como um pesadelo que é nosso. “Afinal de contas, diz George Parker, escritor e jornalista do New Yorker Times, a verdade revela-se a coisa mais frágil do mundo. O drama da política é o que está no nosso cérebro”. Winston, personagem central da obra, talvez seja o último sobrevivente dos tempos de antigamente.
Viveu no ambiente propício da distopia: a guerra permanente (Oceânia e Eurásia), o inimigo imaginário – Emmanuel Goldstein a ser exterminado, a opressão letal e a substituição completa do humano por máquinas obedientes para exercer a totalidade do mal.
Com efeito este é o ponto de identificação do horror de Orwell: os totalitarismos. Não escreveu sobre governos ou qualquer preferência política. Criou o “Organograma do Mal” sob a ubiquidade do Grande Irmão; Ministério da Verdade (que só mentia pela escuta de tudo pela Teletela); Ministério do Amor (controlado pela Liga Juvenil Antissexo); A Novilíngua (ou Novafala) em associação com a Polícia do Pensamento e o Duplipensar para extinguir a liberdade de pensamento, tudo envenenado pelo programa diário Dois Minutos de Ódio e a construção filológica de modo a conectar clichês, segundo Hannah Arendt, à banalidade do mal, com permanentes doses de arsênico.
Antes de qualquer insinuação, não me refiro a distopias nacionais, mas que elas existem, existem, rondam as pessoas e, perigosamente, a humanidade em territórios de dor e surtos de desesperança na síntese de três famosos slogans do Ministério da Verdade: “Guerra é paz. Liberdade é escravidão. Ignorância é força” para os quais a moral a se extrair desse pesadelo perigoso parece simples: “Não deixe que aconteça. Depende de você”.
1984 não é aqui.
Assinar:
Postagens (Atom)