Los datos no son neutrales
El 8 de marzo no es solo un día para celebrar avances, sino para cuestionar el futuro que estamos creando. Y la tecnología no es ajena a esta reflexión. Los sistemas de inteligencia artificial (IA), lejos de ser “objetivos”, heredan y amplifican los sesgos de las sociedades que los crean. El 80% de los profesionales en IA son hombres [1], y eso tiene consecuencias: desde algoritmos que invisibilizan a las mujeres en búsquedas laborales hasta asistentes virtuales que refuerzan estereotipos de sumisión.
En este contexto, el AI Act de la Unión Europea llega como un posible rayo de esperanza. Pero, ¿logrará desmontar los sesgos de género profundamente arraigados en la tecnología? Analizamos su potencial y sus desafíos.
Los sesgos de género en IA: Ejemplos que duelen
No son errores técnicos, sino reflejos de una brecha sistémica que se refleja en los datos:
- Reclutamiento laboral: En 2018, Amazon desactivó un algoritmo que penalizaba CVs con la palabra “mujer” o nombres de universidades femeninas [2].
- Salud: Los algoritmos de diagnóstico médico entrenados con datos mayoritariamente masculinos fallan en detectar enfermedades cardíacas en mujeres, según un estudio publicado en The Lancet [3].
- Lenguaje: Traductores como Google Translate convierten “doctor” a masculino y “enfermera” a femenino, incluso desde idiomas sin género [4].
- Violencia digital: Los deepfakes con contenido sexual afectan desproporcionadamente a mujeres (el 96% de los casos, según un informe de Sensity AI [5]).
El AI Act: ¿Una herramienta feminista?
La ley europea, de la que algunos artículos entraron en vigor en 2025, incluye medidas clave para abordar estos sesgos:
Transparencia y evaluación de riesgos
- Los sistemas de IA de “alto riesgo” (como los usados en contratación o educación) deben someterse a auditorías que detecten sesgos de género.
- Artículo 10: Obliga a utilizar conjuntos de datos “representativos” y a corregir desequilibrios (p. ej. infrarrepresentación de mujeres en datos de entrenamiento).
Prohibición de prácticas discriminatorias
- Artículo 5: Veta sistemas que manipulen el comportamiento mediante estereotipos de género (como chatbots que refuercen roles tradicionales).
Participación diversa en el diseño
- La ley exige que los equipos de desarrollo incluyan perspectivas de género, aunque no establece cuotas concretas.
Los límites del AI Act: Lo que aún falta
Aunque es un avance histórico, persisten desafíos:
- Sesgos interseccionales: La ley no menciona explícitamente cómo abordar la discriminación múltiple (p. ej., mujeres racializadas o con discapacidad) [6].
- Falta de sanciones específicas: No hay multas directas por replicar sesgos de género, solo por incumplir procedimientos técnicos.
- El dilema de los “sistemas de bajo riesgo”: Muchas aplicaciones que podrían considerarse sexistas (como los asistentes de voz feminizados) escaparán a la regulación [7].
Más allá de la ley: Acciones necesarias
El 8M nos recuerda que la justicia de género no se decreta, se construye. Para lograrlo en la IA, se necesita:
- Incluir a filósofas feministas en el diseño tecnológico: Pensadoras como Safiya Noble (Algorithms of Oppression [8]) ya señalan que la ética de la IA debe ser interseccional.
- Auditorías independientes: Organizaciones como AlgorithmWatch proponen evaluaciones externas (no solo internas) para detectar sesgos [9].
- Educar en algoritmos críticos: La alfabetización digital con enfoque de género es clave. Proyectos como Data Feminism (MIT) ofrecen guías para periodistas y activistas [10].
La IA como espejo (y palanca)
El AI Act es un primer paso, pero no basta. La tecnología no es neutral: si hoy refleja un mundo desigual, mañana podría ayudar a corregirlo. Para eso, necesitamos leyes audaces, equipos diversos y una ciudadanía que exija transparencia.
Fuentes citadas
- AI Now Institute (2019). Discriminating Systems: Gender, Race, and Power in AI. Enlace
- Reuters (2018). Amazon scraps secret AI recruiting tool that showed bias against women. Enlace
- Pope, J.H., et al. (2000). Missed diagnoses of acute cardiac ischemia in the emergency department. The Lancet, 355(9205), 623-625.
- Prates, M.O., et al. (2020). Assessing gender bias in machine translation: A case study with Google Translate. Neural Computing and Applications, 32(10), 6363-6381. Enlace
- Sensity AI (2019). The State of Deepfakes: Landscape, Threats, and Impact.
- Buolamwini, J., & Gebru, T. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Proceedings of Machine Learning Research, 81, 1-15. Enlace
- European Parliament (2021). Algorithmic bias and discrimination in AI systems. Enlace
- Noble, S.U. (2018). Algorithms of Oppression: How Search Engines Reinforce Racism. NYU Press.
- AlgorithmWatch (2023). Automating Society Report. Enlace
- D’Ignazio, C., & Klein, L.F. (2020). Data Feminism. MIT Press. Enlace
Recursos adicionales en español:
