La inteligencia artificial está remodelando rápidamente la sociedad, pero su desarrollo sigue estando abrumadoramente dominado por los hombres. No se trata sólo de una cuestión de representación; es un problema sistémico que corre el riesgo de incorporar sesgos existentes en las mismas tecnologías que dictarán cómo trabajamos, aprendemos e incluso recibimos atención médica. El problema no se trata sólo de conjuntos de datos defectuosos, sino de quién construye los sistemas en primer lugar.
La brecha de género en el desarrollo de la IA
Actualmente, sólo el 25% de los estudiantes de informática en el Reino Unido son mujeres, y la situación está empeorando en Silicon Valley. Este no es un fenómeno nuevo: la tecnología ha sido históricamente un campo centrado en los hombres. Sin embargo, los acontecimientos recientes sugieren una regresión, con políticas y actitudes que están expulsando activamente a las mujeres. Por ejemplo, el expresidente estadounidense Trump emitió una orden ejecutiva dirigida a la “IA despierta”, abogando por la eliminación de consideraciones de diversidad, equidad, inclusión y cambio climático de los estándares de IA.
Este entorno hostil ha llevado a que las líderes experimentadas sean marginadas. Rumman Chowdhury, ex responsable de ética y responsabilidad en Twitter, fue despedido tras la adquisición de Elon Musk. Señala que el sentimiento contra la diversidad existía en Silicon Valley mucho antes de la orden de Trump. La realidad es cruda: muchos en el campo ya operan en un mundo “sin mujeres”, como afirmaron sin rodeos varios expertos en la conferencia Mujeres y el futuro de la ciencia en la Royal Society.
Por qué esto es importante: la brecha de datos de género en acción
Las consecuencias de este desequilibrio van mucho más allá de la justicia. La historia está plagada de tecnologías diseñadas para los cuerpos y las necesidades masculinas, desde maniquíes de pruebas de choque hasta investigaciones médicas que priorizan la salud de los hombres. Ésta es la brecha de datos de género y sus efectos pueden ser fatales. La IA afectará a todo, desde los mercados laborales hasta la atención sanitaria, pero sólo el 2% de la financiación del capital de riesgo se destina a proyectos de IA liderados por mujeres, y menos del 1% de la investigación sanitaria se centra en las condiciones de las mujeres.
Esta disparidad significa que la IA corre el riesgo de perpetuar las desigualdades, lo que refuerza la idea de que la tecnología sirve a unos pocos elegidos y no a los 8 mil millones de personas del planeta.
El camino a seguir: repensar la IA desde cero
Solucionar esto requiere algo más que ajustar los algoritmos. Expertos como Rachel Coldicutt sostienen que los modelos actuales de IA están demasiado sesgados para corregirlos y que se necesitan enfoques alternativos y más inclusivos. En lugar de centrarnos en los riesgos existenciales, deberíamos priorizar los sistemas de IA que cuiden de las personas y del planeta.
Humane Intelligence, una organización sin fines de lucro cofundada por Chowdhury, está trabajando para que la IA sea más responsable. Sin embargo, el cambio sistémico requiere cambiar los incentivos que impulsan el desarrollo de la IA. Como señala David Leslie, del Instituto Alan Turing, debemos abordar los marcos económicos y políticos que disuaden a los jóvenes de dedicarse a la IA para el bien social.
En última instancia, incluso nuestra definición de inteligencia puede necesitar una reevaluación. Las ideas fundamentales de la IA surgen de una reunión de la década de 1950 en el Dartmouth College, una reunión de todos los hombres.
Para crear una IA verdaderamente beneficiosa, debemos reconocer que la innovación prospera en la diversidad. Sin él, corremos el riesgo de construir un futuro diseñado para unos pocos, no para muchos.
