IA, algoritmos y sesgos de género: desafíos urgentes para la equidad en el diseño tecnológico
Entre el 1 y el 3 de junio se llevó a cabo el III Congreso Académico “Nuevas Tecnologías y Género”, organizado por la Asociación Civil Women in Law (WILA). Este espacio virtual tuvo como propósito fomentar la reflexión crítica e interdisciplinaria sobre los retos que enfrentan las mujeres en los entornos digitales. A lo largo de las tres jornadas, se analizaron problemáticas fundamentales como la brecha digital, la participación de mujeres en áreas STEM, la violencia digital y la necesidad imperativa de integrar un enfoque de género en la regulación tecnológica y la innovación.
En la primera jornada, dedicada a examinar el impacto de las brechas tecnológicas y la IA, nuestra analista en en Seguridad y Resiliencia Digital Ximena Cuzcano realizó una ponencia titulada “IA, algoritmos y sesgos de género”. Su intervención se centró en desmitificar la supuesta neutralidad de las herramientas de IA generativa, exponiendo cómo estos sistemas operan mediante lógica matemática predictiva que, al nutrirse de datos que reflejan una estructura social desigual, tienden a replicar y amplificar las brechas existentes.
Durante su presentación, se expusieron resultados de pruebas prácticas realizadas en plataformas como ChatGPT, Copilot, Gemini y Grok. A través de prompts enfocados en diversas áreas profesionales, roles de liderazgo y tareas de cuidado, se evidenciaron patrones sistemáticos: la masculinización de los perfiles en el ámbito técnico y STEM, la asociación estereotipada de las tareas de cuidado a las mujeres y una limitada representación de la diversidad racial en posiciones de mando.
Estos hallazgos demuestran que las decisiones de diseño y los datos de entrenamiento no son neutrales, sino que actúan como vehículos de las históricas inequidades sociales. La exposición concluyó con una reflexión sobre la necesidad de integrar la equidad de género como un principio rector y transversal desde las etapas tempranas de desarrollo tecnológico.
