A inteligência artificial está a remodelar rapidamente a sociedade, mas o seu desenvolvimento continua a ser esmagadoramente dominado pelos homens. Isto não é apenas uma questão de representação; é uma questão sistémica que corre o risco de incorporar preconceitos existentes nas próprias tecnologias que ditarão a forma como trabalhamos, aprendemos e até recebemos cuidados de saúde. O problema não é apenas sobre conjuntos de dados falhos – trata-se, em primeiro lugar, de quem constrói os sistemas.
A disparidade de gênero no desenvolvimento de IA
Atualmente, apenas 25% dos estudantes de ciências da computação no Reino Unido são mulheres, e a situação está piorando no Vale do Silício. Este não é um fenômeno novo: a tecnologia tem sido historicamente um campo centrado no homem. Contudo, os acontecimentos recentes sugerem uma regressão, com políticas e atitudes a expulsar activamente as mulheres. Por exemplo, o ex-presidente dos EUA, Trump, emitiu uma ordem executiva visando a “IA desperta”, defendendo a remoção das considerações de diversidade, equidade, inclusão e alterações climáticas dos padrões de IA.
Este ambiente hostil fez com que líderes femininas experientes fossem marginalizadas. Rumman Chowdhury, ex-líder de ética e responsabilidade do Twitter, foi demitido após a aquisição de Elon Musk. Ela observa que o sentimento antidiversidade já existia no Vale do Silício muito antes da ordem de Trump. A realidade é dura: muitos profissionais da área já operam num mundo “sem mulheres”, como afirmaram sem rodeios vários especialistas da conferência Women and the future of science da Royal Society.
Por que isso é importante: a lacuna de dados de gênero em ação
As consequências deste desequilíbrio vão muito além da justiça. A história está repleta de tecnologias projetadas para o corpo e as necessidades masculinas, desde manequins de testes de colisão até pesquisas médicas que priorizam a saúde dos homens. Esta é a lacuna de dados de género e os seus efeitos podem ser fatais. A IA terá impacto em tudo, desde os mercados de trabalho até aos cuidados de saúde, mas apenas 2% do financiamento de capital de risco vai para projetos de IA liderados por mulheres, e menos de 1% da investigação em saúde centra-se nas condições das mulheres.
Esta disparidade significa que a IA corre o risco de perpetuar desigualdades, reforçando a ideia de que a tecnologia serve um grupo seleto e não todos os 8 mil milhões de pessoas no planeta.
O caminho a seguir: repensando a IA desde o início
Corrigir isso requer mais do que apenas ajustar algoritmos. Especialistas como Rachel Coldicutt argumentam que os atuais modelos de IA são demasiado tendenciosos para serem corrigidos e que são necessárias abordagens alternativas e mais inclusivas. Em vez de nos concentrarmos nos riscos existenciais, deveríamos dar prioridade aos sistemas de IA que cuidam das pessoas e do planeta.
A Humane Intelligence, uma organização sem fins lucrativos cofundada por Chowdhury, está trabalhando para tornar a IA mais responsável. No entanto, a mudança sistémica exige a mudança dos incentivos que impulsionam o desenvolvimento da IA. Como salienta David Leslie, do Instituto Alan Turing, precisamos de abordar os quadros económicos e políticos que desencorajam os jovens de prosseguirem a IA para o bem social.
Em última análise, mesmo a nossa definição de inteligência pode necessitar de reavaliação. As ideias fundamentais da IA provém de uma reunião na década de 1950 no Dartmouth College – uma reunião de todos os homens.
Para criar uma IA verdadeiramente benéfica, devemos reconhecer que a inovação prospera na diversidade. Sem isso, corremos o risco de construir um futuro concebido para poucos, não para muitos.
