Ganhar o quê?

A data está anunciada: 2027 será o ano em que se atinge a AIG – Inteligência Artificial genérica, ou seja, quando o computador se torna tão inteligente como o ser humano. O impacto já é visível em Silicon Valley. As Big Tech já não contratam programadores, pois os Large Language Model (LLM, como o ChatGPT) já conseguem programar ao nível de um licenciado. Nos telemóveis e nos computadores pessoais há um “assistente pessoal” à nossa espera, para nos suavizar o dia a dia. Tanto pode encomendar-nos o almoço, utilizando o nosso cartão de crédito, como sumariar um relatório que temos de rever e sobre o qual opinar.

Mas a corrida não termina em 2027, outra já se iniciou: a corrida para a superinteligência (ASI – artificial super inteligence). Possível, porque a AIG se torna capaz de programar de forma mais eficiente e célere do que qualquer programador humano – autocopiando-se num exército de programadores virtuais; tantos quantos os data centers permitam processar.

Prometem-nos a superinteligência, um mundo com descobertas científicas que eliminam doenças, controlam a poluição e onde as máquinas se tornam nossos conselheiros – os mais inteligentes e informados da História da Humanidade. Seremos felizes para sempre.

Existem céticos. Daniel Kokotajlo e a sua equipa publicaram um cenário informado do futuro (ai-2027.com). Lê-se como um thriller de Hollywood, mas não tem um final feliz em nenhum dos dois subfinais. Seria menos preocupante se os seus autores não fossem reconhecidos pela sua experiência e o seu know-how e se, em 2021, Kokotajlo não tivesse já realizado um exercício semelhante – para o período 2022-2026 – que se mostrou bastante preciso.

O cenário concretiza os riscos que, no desenvolvimento dos LLM, têm sido detetados. Como é o caso da dificuldade em garantir o alinhamento dos modelos com os princípios-base definidos pelos programadores. Honestidade e eficiência não são sempre fáceis de conciliar e os LLM, treinados em dados humanos, parecem ter dúvidas semelhantes às nossas quando confrontados com as regras e os incentivos. Os programadores classificam a performance e os LLM sabem-no e procuram obter a melhor pontuação, mesmo que para tal tenham de mentir.

O cenário incorpora as dinâmicas empresariais e políticas. Seja a corrida para uma vitória, que permitirá à empresa vencedora o monopólio do mercado (e o retorno do investimento milionário em curso). Sejam as tensões geoestratégicas com a China na corrida pela dianteira na inovação.

Refletindo a atual realidade regulatória, a Europa e o resto do mundo assistem, incapazes de intervir, sem jurisdição sobre as Big Tech. E, sobretudo, sem compreensão da dimensão da revolução em curso, pois não têm acesso ao status dos progressos realizados. Embora o Regulamento da Inteligência Artificial proíba determinadas práticas e obrigue ao cumprimento de obrigações para algoritmos considerados de risco elevado poderem ser colocados junto do público, não prevê a obrigatoriedade de as Big Tech reportarem antecipadamente os desenvolvimentos em curso, para análise e decisão. O cenário, num dos finais, prevê uma intervenção na gestão da Big Tech pelo governo dos EUA e a partilha de decisão, via presença no “conselho de administração”.

No cenário, como na realidade, cada um de nós – o cidadão comum – se encontra alienado das decisões, sendo confrontado com o resultado, sem qualquer voz ou intervenção.

A publicação do ai-2027 visa acordar-nos deste torpor. Alertar para os perigos, que as próprias Big Tech reconhecem. É imprescindível tornar central no discurso público a questão do futuro tecnológico que desejamos. Acelerar a celebração de um tratado internacional que assegure uma efetiva supervisão das Big Tech e, quando necessário, uma moratória na investigação, que permita decisões ponderadas em prol do bem comum. Uma via seria o reforço das obrigações já previstas na Convenção-Quadro do Conselho da Europa sobre a Inteligência Artificial, de que os EUA já são parte. Dizem-nos “temos de ganhar”. Mas ganhar o quê?

Sofia Santos Machado