Mas esses resultados não são acidentais. " A inteligência artificial não é neutra: ela reflete as sociedades que a projetam, os dados com os quais é treinada e as decisões políticas que orientam seu uso", explica Bibiana Aido, diretora regional da ONU Mulheres para a América Latina e o Caribe, em entrevista à DW. Se esses dados contêm estereótipos, exclusões ou discriminação, acrescenta ela, a IA pode reproduzi-los e até mesmo amplificá-los.
As consequências vão muito além de um erro técnico. "Se a IA reproduzir desigualdades históricas, estereótipos de gênero, racismo, exclusão ou violência, não estaremos diante de um problema tecnológico isolado; estaremos diante de um desafio democrático, ético e de direitos humanos ", destaca Aido.
Segundo Paola Ricaurte Quijano, pesquisadora sênior do Tecnológico de Monterrey e coordenadora da Rede Feminista de IA para a América Latina e o Caribe, consultada pela DW, os vieses da IA afetam desproporcionalmente pessoas trans, racializadas e com deficiência, ampliando as desigualdades e os danos gerados por essas tecnologias.
Além disso, não se tratam de falhas isoladas. "Esses vieses não são erros isolados que podem ser corrigidos com uma atualização; são propriedades intrínsecas de modelos centralizados", destaca Luciana Benotti, professora da Universidade Nacional de Córdoba e especialista em auditoria algorítmica, em entrevista a esta publicação.
Como surgem esses vieses? A explicação começa muito antes de a IA gerar uma resposta. "Por trás de todo sistema, existem decisões humanas: quais dados são usados, o que é medido, o que é deixado de fora, quem define o problema, quem programa a solução e quem monitora seus impactos", acrescenta a diretora regional da ONU Mulheres.
Grande parte dessa tecnologia é desenvolvida em espaços onde mulheres e outros grupos historicamente excluídos permanecem sub-representados, especialmente em cargos técnicos e de liderança (veja o gráfico acima). "Equipes homogêneas tendem a enxergar menos riscos, antecipar menos impactos diferenciados e projetar soluções que respondem a experiências parciais", alerta Aido.
O desenvolvimento da inteligência artificial permanece nas mãos de uma "indústria altamente dominada por homens", enfatiza Ricaurte Quijano. "Por área, a disparidade tende a aumentar. Por exemplo, em cibersegurança, apenas 12% são mulheres ou pessoas de minorias étnicas." (Veja o gráfico abaixo).
Nesse sentido, ela acredita que "as mulheres e as comunidades historicamente excluídas" dos circuitos de inovação devem ser reconhecidas como produtoras de conhecimento.
As mulheres continuam sub-representadas em muitas das áreas onde os sistemas de inteligência artificial são desenvolvidos, especialmente em funções técnicas.
"Quando as mulheres não estão envolvidas no desenvolvimento dessas tecnologias, as decisões sobre o futuro digital são tomadas sem levar em conta suas experiências, necessidades e conhecimentos", destaca Aido. "E isso tem consequências: os sistemas podem tornar realidades invisíveis, reproduzir estereótipos ou causar danos que poderiam ter sido evitados com equipes mais diversas e processos de avaliação mais inclusivos."
A isso se soma outra questão. "O desenvolvimento dos sistemas de IA mais avançados está concentrado em um oligopólio de algumas grandes empresas de tecnologia que controlam não apenas os modelos, mas também os mecanismos para medir sua eficácia", afirma Benotti, diretor de Inteligência Artificial da Fundação Vía Libre, especializada no assunto.
Segundo o acadêmico, esses modelos não priorizam as "necessidades locais". Assim, na América Latina e no Caribe, "consumimos tecnologias projetadas com metodologias que não compreendem nossos contextos complexos", afirma Benotti.
Essa falta de adaptação também se reflete na linguagem. Ao traduzir textos do inglês, aponta Ricaurte Quijano, os sistemas tendem a reproduzir estruturas características desse idioma e, ao fazê-lo, reforçam a dominância das línguas dominantes.
"Os vieses dos sistemas de IA devem ser considerados prejudiciais, uma vez que violam os direitos das pessoas", afirma o especialista.
Benotti alerta que essas tecnologias deixaram de ser apenas ferramentas de laboratório e estão sendo implementadas em áreas sensíveis, como a educação. Nesse contexto, ele defende a necessidade de desenvolver metodologias locais e auditorias algorítmicas independentes para avaliar o impacto desses sistemas.
Aido, por sua vez, levanta outro desafio fundamental. "Precisamos que as mulheres participem da concepção, desenvolvimento, regulamentação e avaliação dessas tecnologias. Não pode haver decisões sobre o futuro digital sem a presença das mulheres."
Para a América Latina, o desafio é garantir seu próprio espaço no desenvolvimento dessas tecnologias. "Não queremos uma região que chegue atrasada à discussão global sobre IA", alerta ele.
Ela acrescenta: "O futuro não é algo que se espera, é algo que se constrói. E se queremos um futuro digital justo, seguro e inclusivo, temos de construí-lo com mulheres e meninas no centro."
Maricel Drazer
Nenhum comentário:
Postar um comentário