Essa é a conclusão de Jason Matheny, presidente da RAND Corporation, um think tank que estuda questões de segurança e outros assuntos.
“Não custaria mais criar um patógeno capaz de matar centenas de milhões de pessoas do que um patógeno capaz de matar apenas centenas de milhares de pessoas”, Matheny me disse.
Em contraste, ele observou que poderia custar bilhões de dólares para produzir uma nova vacina ou antiviral em resposta.
Contei a Matheny que eu era chefe do escritório do The Times em Tóquio quando um culto religioso chamado Aum Shinrikyo usou armas químicas e biológicas em ataques terroristas, incluindo um em 1995 que matou 13 pessoas no metrô de Tóquio. "Eles seriam capazes de causar ordens de magnitude a mais de dano" hoje, disse Matheny.
Sou membro de longa data do Aspen Strategy Group, uma organização bipartidária que explora questões de segurança global, e nossa reunião anual deste mês focou em inteligência artificial. É por isso que Matheny e outros especialistas se juntaram a nós — e depois nos assustaram.
Inscreva-se no boletim informativo Opinion Today Receba análises especializadas das notícias e um guia sobre as grandes ideias que moldam o mundo todas as manhãs durante a semana. Receba na sua caixa de entrada.
No início dos anos 2000, alguns de nós nos preocupamos com a reintrodução da varíola como uma arma biológica se o vírus fosse roubado dos laboratórios em Atlanta e na região de Novosibirsk, na Rússia, que retêm o vírus desde que a doença foi erradicada. Mas com a biologia sintética, agora ele não teria que ser roubado.
Alguns anos atrás, uma equipe de pesquisa criou um primo do vírus da varíola, a varíola equina, em seis meses por US$ 100.000, e com a IA poderia ser mais fácil e barato refinar o vírus.
Uma razão pela qual as armas biológicas não têm sido muito usadas é que elas podem ter um efeito bumerangue. Se a Rússia liberasse um vírus na Ucrânia, ele poderia se espalhar para a Rússia. Mas um general chinês aposentado levantou a possibilidade de uma guerra biológica que tenha como alvo raças ou etnias específicas (provavelmente de forma imperfeita), o que tornaria as armas biológicas muito mais úteis. Alternativamente, pode ser possível desenvolver um vírus que mataria ou incapacitaria uma pessoa específica, como um presidente ou embaixador problemático, se alguém tivesse obtido o DNA dessa pessoa em um jantar ou recepção.
As avaliações de pesquisas sobre alvos étnicos feitas pela China são confidenciais, mas podem ser o motivo pelo qual o Departamento de Defesa dos EUA disse que a ameaça mais importante de longo prazo da guerra biológica vem da China.
A IA também tem um lado mais esperançoso, é claro. Ela traz a promessa de melhorar a educação, reduzir acidentes automobilísticos, curar cânceres e desenvolver novos fármacos milagrosos.
Um dos benefícios mais conhecidos está no dobramento de proteínas , que pode levar a avanços revolucionários no tratamento médico. Os cientistas costumavam passar anos ou décadas descobrindo as formas de proteínas individuais, e então uma iniciativa do Google chamada AlphaFold foi introduzida, que podia prever as formas em minutos. "É o Google Maps para a biologia", Kent Walker, presidente de assuntos globais do Google, me disse.
Desde então, cientistas têm usado versões atualizadas do AlphaFold para trabalhar em produtos farmacêuticos, incluindo uma vacina contra a malária, uma das maiores causas de morte de humanos ao longo da história.
Portanto, não está claro se a IA nos salvará ou nos matará primeiro.
Cientistas há anos exploram como a IA pode dominar a guerra, com drones autônomos ou robôs programados para encontrar e eliminar alvos instantaneamente. A guerra pode vir a envolver robôs lutando contra robôs.
Assassinos robóticos serão impiedosos no sentido literal, mas não necessariamente serão particularmente brutais. Eles não estuprarão e também podem ser menos propensos do que soldados humanos à fúria que leva a massacres e torturas.
Uma grande incerteza é a extensão e o momento das perdas de empregos — para motoristas de caminhão, advogados e talvez até mesmo programadores — que poderiam amplificar a agitação social. Uma geração atrás, as autoridades americanas estavam alheias à maneira como o comércio com a China custaria empregos nas fábricas e aparentemente levaria a uma explosão de mortes por desespero e à ascensão do populismo de direita. Que possamos fazer melhor na gestão da interrupção econômica da IA
Um motivo para minha cautela com a IA é que, embora eu veja a promessa dela, os últimos 20 anos têm sido um lembrete da capacidade da tecnologia de oprimir. Os smartphones eram deslumbrantes — e peço desculpas se você estiver lendo isso no seu telefone — mas há evidências que os vinculam à deterioração da saúde mental dos jovens. Um ensaio clínico randomizado publicado neste mês descobriu que crianças que desistiram de seus smartphones desfrutaram de bem-estar melhorado.
Ditadores se beneficiaram de novas tecnologias. Liu Xiaobo, o dissidente chinês que recebeu o Prêmio Nobel da Paz, pensou que “a internet é um presente de Deus para o povo chinês”. Não foi bem assim: Liu morreu sob custódia chinesa, e a China usou IA para aumentar a vigilância e apertar os parafusos dos cidadãos.
A IA também pode facilitar a manipulação de pessoas, de maneiras que lembram Orwell. Um estudo divulgado este ano descobriu que quando o Chat GPT-4 tinha acesso a informações básicas sobre as pessoas com quem interagia, era cerca de 80% mais provável persuadir alguém do que um humano com os mesmos dados. O Congresso estava certo em se preocupar com a manipulação da opinião pública pelo algoritmo TikTok.
Tudo isso ressalta por que é essencial que os Estados Unidos mantenham sua liderança em inteligência artificial. Por mais que possamos ter receio de pisar fundo no acelerador, esta não é uma competição na qual é OK ser o segundo colocado em relação à China.
O presidente Biden está no topo disso, e os limites que ele colocou no acesso da China aos chips de computador mais avançados ajudarão a preservar nossa liderança. O governo Biden recrutou pessoas de primeira linha do setor privado para pensar nessas questões e emitiu uma importante ordem executiva no ano passado sobre segurança de IA, mas também precisaremos desenvolver novos sistemas nos próximos anos para melhorar a governança.
Eu escrevi sobre imagens e vídeos nus deepfake gerados por IA , e a irresponsabilidade tanto das empresas deepfake quanto dos principais mecanismos de busca que direcionam tráfego para sites deepfake. E empresas de tecnologia têm usado periodicamente imunidades para evitar responsabilização por promover a exploração sexual de crianças. Nada disso inspira confiança nas habilidades dessas empresas de se autogovernarem de forma responsável.
“Nós nunca tivemos uma circunstância em que a tecnologia mais perigosa e mais impactante residisse inteiramente no setor privado”, disse Susan Rice, que foi conselheira de segurança nacional do presidente Barack Obama. “Não pode ser que as empresas de tecnologia no Vale do Silício decidam o destino da nossa segurança nacional e talvez o destino do mundo sem restrições.”
Acho que está certo. Gerenciar a IA sem sufocá-la será um dos nossos grandes desafios, à medida que adotamos talvez a tecnologia mais revolucionária desde que Prometheus nos trouxe o fogo.
Nenhum comentário:
Postar um comentário