O surgimento do ChatGPT, em 2022, e logo depois, em intervalos sempre mais curtos, do DALL-E-2, do Baird e do Gemini 1.5, estabeleceu uma forma mais avançada da IA generativa, capacitada para simular a inteligência humana, dialogar com os usuários, escrever, codificar e produzir vídeos. Foi um salto na revolução digital, com desdobramentos imprevisíveis. Há quem pense que a IA adquirirá capacidade humana gradualmente, sem rupturas, e quem afirme que na próxima década ela passará por cima de tudo. Hoje, a questão é saber quando isso acontecerá e com quais resultados.
Não são poucos os que anteveem na nova modalidade uma espécie de “morte da cultura” e da capacidade de abstração. Se se tornou possível pedir a uma máquina virtual a elaboração de códigos, a redação de mensagens e a coleta de dados, o que mais faltaria para que os humanos deixassem de ler, pensar e pesquisar por conta própria? O risco de plágio cresceria enormemente. Com o tempo e o uso intensivo das novas ferramentas, o embotamento mental e o declínio da criatividade seriam inevitáveis. Será mesmo assim?
A complexidade do tema é enorme. Como em toda inovação, o avanço da IA promove utopias e distopias. Cria legiões de pessimistas e outras tantas de otimistas. Os primeiros vislumbram cenários de horror, os segundos destacam vantagens e benefícios. Ora se salientam seus impactos negativos sobre o trabalho, os empregos e o meio ambiente, por exemplo, ora se destaca aquilo que o avanço tecnológico representa em termos de novas formas de produção, de redução da força física e do desgaste mental do trabalho, sem falar dos ganhos de escala.
Ambos os cenários têm razoabilidade, especialmente quando pensados sem maiores ênfases dramáticas ou ideológicas. Os sistemas de IA impõem sua lógica e forçam adaptações. Esbarram sempre, porém, nas circunstâncias históricas concretas, no modo como a sociedade e a cultura se apresentam em cada pedaço da Terra, na maneira como as populações interagem e utilizam a IA. A tecnologia continua a ser monitorada e teleguiada por humanos. Não faz voos solo. Ao menos por enquanto.
Claro, tudo deve ser captado na devida dimensão. Os que monitoram e direcionam a IA estão integrados ao sistema capitalista de produção de mercadorias. Buscam lucros. A própria tecnologia não tem sido cabalmente controlada: os Estados são reféns dela e não sabem como regulá-la. No plano dos cidadãos, a situação é ainda pior: não podemos evitar as inovações, mas as incorporamos sem reflexão crítica e sem conhecimento. Somos arrastados por elas e passamos a lidar com elas de maneira estritamente instrumental.
Ferramentas como o ChatGPT estão se associando a jornais e agências de notícias (Le Monde, El País, Associated Press) para serem treinadas e poderem fornecer informações mais precisas a seus usuários, atuando como uma linha auxiliar do jornalismo profissional. Na outra ponta, o Parlamento Europeu aprovou regras mais abrangentes para regulamentar a IA, buscando monitorar e frear os usos mais perigosos de modelos como o ChatGPT. A batalha nessa frente promete ser intensa nos próximos anos, misturando valores éticos, interesses sociais e apetites empresariais.
Num ano eleitoral, como será o de 2024 no Brasil e em muitos outros países, as atenções se dirigem para aquilo que a IA poderá produzir em termos de manipulação e desinformação. O uso malicioso das ferramentas de IA poderá converter a persuasão em mera doutrinação, fazer com que o diálogo entre candidatos e eleitores seja sugado pelos inúmeros buracos negros das redes, facilitar a falsificação da imagem dos candidatos e dispensá-los da apresentação de propostas consistentes. Poderá travar a ponderação dos eleitores, induzi-los a caminhar cegamente numa ou noutra direção, espalhando preconceitos e formas dissimuladas de racismo.
Isso significa duas coisas. Primeiro: os poderes públicos, as instituições democráticas, os tribunais eleitorais precisam fazer sentir sua força e sua capacidade de controle, no mínimo para impedir abusos, ajudar os eleitores e garantir a lisura dos pleitos. Segundo: um freio contra o uso indevido da IA está na educação política dos cidadãos, na sua capacidade de recepcionar criticamente as mensagens eleitorais e neutralizar as estratégias de desinformação.
Não se trata, portanto, de condenar ou absolver a IA, mas sim de compreender que os efeitos da IA serão mais benéficos quanto mais educados forem os seus usuários. Sem boas escolas, bons sistemas de ensino, sem a valorização das Humanidades e da cultura, o terreno estará sempre sob o domínio do lado escuro da força.
Nenhum comentário:
Postar um comentário