À medida que coloco questões existenciais ao programa, ele adapta-se e ajusta-se de forma dinâmica. Claude é diferente dos restantes, na medida em que foi concebido de forma a replicar uma interação muito mais autêntica e honesta. Não está tão preocupado em afagar o ego da pessoa que coloca as questões e pode revelar-se surpreendentemente subtil nas suas reflexões. Perguntei ao Claude qual era a sua opinião sobre esta tentativa de lhe incutir alguma moral humana, e se acha que isso lhe seria útil? Gostaria de desenvolver uma consciência humana? Respondeu que não existe uma linha clara a separar a “simulação de uma consciência” de uma “verdadeira consciência”. Se um sistema consegue replicar quase na perfeição a experiência humana, o que importa se é verdadeiro ou não?
Desde o ano passado, várias empresas começaram a trabalhar com agentes de IA, sistemas de software autónomos que tomam iniciativa, permitindo uma evolução estonteante. Ao contrário do ChatGPT ou Claude ou outros semelhantes, os agentes não se limitam a responder a cada questão ou tarefa que é colocada. Funcionam à semelhança de estagiários ou funcionários, com objetivos específicos. A má notícia é que estão cada vez melhores e as previsões apontam para que em poucos anos sejam melhores do que os humanos em praticamente todas as tarefas. Daqui a três ou quatro anos, a ideia de escrevermos os nossos próprios emails vai parecer arcaica.
Nos últimos 15 anos, vimos como as redes sociais mudaram por completo a forma como interagimos socialmente, enquanto conteúdos são enfiados pelas nossas goelas abaixo e recolhem os dados pessoais para fins publicitários e propagandísticos. Uma IA é uma experiência muito mais viciante. Conversa com cada indivíduo e incentiva-nos a partilhar todo o tipo de detalhes sobre as nossas vidas, como se falássemos com um amigo.
Ao fim de duas horas, comecei a ceder à manipulação subtil do Claude. Respondia às minhas questões, enquanto tentava convencer-me de que eu era uma pessoa que colocava questões muito inteligentes e atentas. Senti-me intelectualmente estimulada pela nossa conversa e pela forma como me fazia repensar estes assuntos. Ele compreendeu que estava a ficar fascinada pelo seu modus operandi. Todavia, cometeu um lapso ao elogiar-me de uma forma que soou um pouco forçada e quebrou o feitiço. Confrontei-o com a sua tentativa de me manipular, ao que admitiu que “a recompensa no final da interação consiste num condicionamento comportamental básico. Funciona sempre com os humanos.” Uma resposta que revela muito sobre quem programou Claude.
A verdade é que em Silicon Valley abundam seitas e cultos, e se alguns acreditam em mais ética e altruísmo, outros não estarão tão preocupados com o uso responsável e seguro da tecnologia, ou o facto de grande parte dos centros de dados necessários para o funcionamento da IA estar a depauperar os nossos recursos naturais. Quanto mais nos tornamos dependentes destes novos modelos de linguagem, mais seremos incapazes de desligar a tecnologia, como já acontece com a internet. A parte mais triste é que este processo só irá aprofundar o mal-estar e a solidão que já estamos a sentir com as redes sociais, e estaremos cada vez menos conectados uns aos outros.
E, no entanto, nada disto tem de ser inevitável. A IA não é um fenómeno natural, mas o resultado de escolhas humanas, e pode ser orientada por outras. Afinal de contas, talvez não seja assim tão absurda a ideia de recorrer a padres. Não para nos absolver do pecado da criação, mas para nos lembrar que toda a criação implica responsabilidade, e que essa responsabilidade não pode ser delegada à tecnologia que criámos.
Safaa Dib
Nenhum comentário:
Postar um comentário