Los sistemas de inteligencia artificial entrenados con datos históricos no solo reproducen las desigualdades de género existentes: las amplifican y las automatizan, haciendo que la discriminación sea más difícil de detectar y combatir.

Un sistema de IA para la selección de personal desarrollado por Amazon tuvo que ser desactivado cuando se descubrió que penalizaba automáticamente los currículums que incluían la palabra «mujeres», como en «capitana del equipo de mujeres de debate». El algoritmo había aprendido de los datos históricos de contratación de la empresa, en los que los hombres predominaban ampliamente.

Este no es un caso aislado. Los algoritmos utilizados en la concesión de créditos bancarios, en la asignación de penas judiciales, en el diagnóstico médico o en la moderación de contenidos en redes sociales presentan sesgos de género documentados que perjudican sistemáticamente a las mujeres.

«Un algoritmo no es neutral. Está entrenado con datos que reflejan el mundo tal como ha sido, no como debería ser. Si no ponemos perspectiva de género en el diseño, reproducimos la discriminación a escala industrial.»

— Dra. Isabel Fuentes, investigadora en ética de la IA, Universidad de Oviedo

La solución no es simple. Requiere diversificar los equipos que diseñan y entrenan los sistemas de IA, incorporar auditorías de sesgo en todas las fases del desarrollo, y crear marcos regulatorios que exijan transparencia algorítmica.

La Unión Europea ha dado un primer paso con el Reglamento de IA, que prohíbe ciertos usos de alto riesgo y exige evaluaciones de impacto para otros. Pero la implementación efectiva de estas normas requerirá años y recursos que aún no están garantizados.

Desde KaleidoscopiA defendemos una tecnología que sirva a todas las personas por igual. La IA del futuro tiene que ser feminista, o será parte del problema.