Tipo de contenido (Noticia): Noticias y actividades

El pasado 23 de abril, se llevó a cabo la consulta virtual «AI for Good: Gender Inclusion in the AI Ecosystem», un encuentro clave en el camino hacia el Diálogo Global sobre la Gobernanza de la Inteligencia Artificial (IA) de la ONU que tendrá lugar en julio en Ginebra. Organizada por el Fondo de Población de las Naciones Unidas (UNFPA) y la Coalición Género en lo Digital (GiDC), de la cual Derechos Digitales es miembro fundador, la actividad tuvo como objetivo asegurar que la gobernanza de estas tecnologías integre de manera estructural una perspectiva de género e interseccional. Estos espacios preparatorios buscan que las recomendaciones de la sociedad civil y organismos internacionales den forma a los documentos finales del mecanismo multilateral de la ONU, garantizando que el desarrollo de la IA sea seguro, confiable y equitativo.

La consulta se centró en la necesidad de transitar desde los principios abstractos de la «IA Feminista» hacia prácticas concretas de diseño y regulación. Durante las sesiones, se enfatizó en que lograr la igualdad de género en este ámbito exige que las mujeres y personas LGBTIQA+ dejen de ser vistas como consumidoras pasivas o meras fuentes de datos, para convertirse en arquitectas y líderes de los sistemas que definen nuestro futuro digital. El foro abordó cómo desmantelar barreras estructurales y crear marcos regulatorios que mitiguen riesgos específicos, como la violencia de género facilitada por la tecnología (VGFT), garantizando que la innovación no se priorice por sobre los derechos fundamentales.

La intervención de Derechos Digitales se dio en el marco del “Grupo temático 1: Oportunidades e implicaciones de la IA: dimensiones sociales, culturales y económicas”. Nuestra coordinadora de Políticas Públicas Marina Meira sostuvo que el problema central no es solo la inclusión, sino la distribución del poder y la toma de decisiones, denunciando un modelo de «colonialismo digital» donde el Sur Global provee datos que son extraídos sin consentimiento para beneficiar a actores del Norte. «Es necesario transitar del concepto de ‘IA para mujeres’ hacia una ‘IA gobernada por mujeres y personas de diversos géneros», señaló durante su participación. Además advirtió sobre cómo los sistemas predictivos y la generación de deepfakes están industrializando y escalando las desigualdades de género preexistentes en América Latina.

Como parte de las recomendaciones clave, Derechos Digitales instó al Diálogo Global a establecer «líneas rojas» claras: la prohibición tajante de sistemas de IA que vulneren derechos humanos, tales como la vigilancia masiva, el perfilamiento predictivo y aquellas herramientas que facilitan la violencia de género. En sintonía con los llamados de la Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos (ACNUDH), enfatizamos que la innovación no puede justificar el daño social y que es imperativo operativizar moratorias para tecnologías de alto riesgo que carecen de salvaguardas efectivas.

Finalmente, el evento concluyó con un firme llamado a fortalecer la participación significativa de la sociedad civil en los procesos de gobernanza global. Para nuestra organización, el acceso a estos espacios de decisión es un derecho humano que debe garantizar una representación geográfica y lingüística equitativa. Los resultados de esta consulta serán compilados en un documento de recomendaciones que se presentará en el evento global del próximo julio, reafirmando el compromiso de la Coalición GiDC por una soberanía de datos que respete la autonomía de las comunidades y promueva una IA situada, participativa y gobernada comunitariamente.

El pasado 21 de abril se llevó a cabo la séptima sesión del ciclo ACT Feminist Learning and Dialogue coorganizado por la Coalición de Feministas por el Cambio Social (COFEM) y ONU Mujeres. Estos encuentros buscan servir como un laboratorio de aprendizaje para compartir herramientas prácticas de protección en espacios virtuales. Lucía Camacho, coordinadora de Políticas Públicas de Derechos Digitales, fue parte de las panelistas en la sesión titulada «Tecnología para la seguridad, el goce y la resistencia».

Durante la jornada se abordó, entre otros temas, cómo las comunidades pueden navegar el daño en línea sin comprometer su sostenibilidad, poniendo especial énfasis en el desarrollo de contranarrativas frente a los ataques digitales y el uso de herramientas accesibles para la organización comunitaria. Las intervenciones destacaron la importancia de reclamar espacios digitales a través de la solidaridad y la expresión creativa. El diálogo exploró, además, prácticas digitales feministas emergentes que trascienden la respuesta reactiva a las agresiones, promoviendo un «activismo placentero» que permita el compromiso a largo plazo. Este enfoque es fundamental para garantizar que la tecnología sea una herramienta de emancipación y no un mecanismo de silenciamiento para las defensoras de derechos humanos.

Además de la participación de Derechos Digitales, la sesión reunió a activistas y profesionales de COFEM, Chayn, TechHer Nigeria y la Oficina Regional del Programa ACT para África Oriental y Meridional. Estos espacios buscan consolidar estrategias colectivas frente a la violencia de género facilitada por las tecnologías (VGFT), un desafío creciente para las activistas en América Latina y el mundo.

El 21 de abril se llevó a cabo la cuarta reunión general de la Red Global de Organizaciones de la Sociedad Civil (OSC) y Academia en Ética y Políticas de Inteligencia Artificial de la UNESCO. Este encuentro consolida un espacio estratégico para la gobernanza internacional de las tecnologías emergentes, subrayando la necesidad de que los procesos de innovación técnica estén indisolublemente ligados a los estándares internacionales de derechos humanos y a la participación activa de los actores sociales.

La copresidencia de la Red es ejercida por la codirectora ejecutiva de Derechos Digitales, Jamila Venturini, junto a la directora ejecutiva de IT for Change, Anita Gurumurthy. Esta dirección conjunta refleja un esfuerzo coordinado por posicionar las agendas del Sur Global en el centro del debate sobre ética y gobernanza de datos, asegurando que las realidades de nuestras comunidades no queden al margen de las decisiones regulatorias internacionales.

La apertura del evento estuvo a cargo de Dafna Feinholz, directora interina de la División de Investigación, Ética e Inclusión de la UNESCO, quien destacó el rol fundamental que desempeña la Red en el escenario global. En su intervención, Feinholz resaltó que la incidencia de la sociedad civil es una pieza clave para garantizar que la IA se desarrolle bajo marcos éticos sólidos, valorando el compromiso de las organizaciones participantes para traducir principios generales en acciones concretas de política pública.

Entre otros temas, la reunión se dedicó a la presentación del trabajo de los subgrupos de la red, entre los cuales se encuentra “IA en el sector público”, liderado por Derechos Digitales. El subgrupo estuvo dedicado a la construcción de un marco para la difusión de información de interés público sobre la adopción de estas tecnologías por parte de los Estados.

La herramienta, construida de manera colaborativa, con apoyo de Amrita Sengupta como asistente de investigación, surge como una respuesta técnica y política ante una omisión recurrente: la falta de informes estatales sobre la implementación de sistemas automatizados. El documento presentado justifica la urgencia de esta iniciativa señalando que la opacidad actual impide una auditoría social efectiva y vulnera el derecho a la información de la ciudadanía sobre cómo se toman decisiones que afectan su vida cotidiana.

Un eje central de este marco es la protección de los derechos de grupos en situación de vulnerabilidad y personas con discapacidad. La propuesta integra herramientas de análisis basadas en el ciclo de vida de la tecnología para detectar y mitigar sesgos algorítmicos que puedan profundizar la discriminación.

Nuestra presentación recibió valiosos aportes de especialistas internacionales como Grace Thomson, del Center for AI and Digital Policy, y Aarushi Gupta, del Digital Futures Lab, miembros del subgrupo y colaboradoras activas en la construcción de la herramienta. Sus comentarios destacaron la importancia de contar con una plantilla de reporte estandarizada que facilite la rendición de cuentas y permita comparar la implementación de la IA en diferentes jurisdicciones, elevando así los estándares de transparencia exigidos a los gobiernos a nivel mundial.

El 17 de abril se llevó a cabo en la sede de la UNESCO en París una nueva Consulta de Partes Interesadas para el Diálogo Global sobre Gobernanza de la IA de la ONU. Este encuentro se desarrolló como un espacio de intercambio entre diversas especialistas y las personas que ocupan la copresidencia del Diálogo, con el objetivo de reflexionar sobre las prioridades temáticas y la estructura de esta iniciativa internacional. En este marco, las organizaciones de la sociedad civil resaltaron la importancia de que estos procesos no solo sean técnicos, sino que integren una perspectiva profunda de derechos humanos y representatividad regional.

Como parte de su contribución estratégica a este proceso, Derechos Digitales presentó una serie de recomendaciones contenidas en la Carta a los copresidentes del Diálogo Global de la ONU sobre IA: recomendaciones de procedimiento. Este documento subraya la necesidad de establecer reglas claras que garanticen una participación equitativa y efectiva, evitando que el debate sea hegemonizado por intereses corporativos. A la vez, sostiene que la legitimidad de cualquier marco de gobernanza global depende directamente de su capacidad para incluir voces que históricamente han sido marginadas de estos centros de decisión.

Durante la sesión, Jamila Venturini, codirectora ejecutiva de Derechos Digitales y copresidenta de la Red de Organizaciones de la Sociedad Civil y Academia de la UNESCO sobre Ética y Políticas de IA, reforzó el contenido de la Carta, denunciando la persistente falta de participación de actores del Sur Global en los espacios de discusión sobre gobernanza de IA, hasta el momento fuertemente guiada por intereses corporativos de unos pocos países.

La intervención destacó que este Diálogo debe apoyarse en consensos ya alcanzados en el sistema de Naciones Unidas, en particular respecto a la necesidad de prohibir o implementar moratorias a aquellas aplicaciones de IA que no operen bajo el derecho internacional de los derechos humanos o que representen un riesgo alto para su ejercicio. Por ello, una prioridad debe ser la definición de mecanismos de monitoreo y supervisión que impidan que los daños derivados de estos sistemas se repliquen a nivel global, asegurando que los proveedores rindan cuentas ante cualquier violación.

Finalmente, Venturini señaló que mientras los enfoques de gobernanza suelen centrarse en la capa computacional, los impactos laborales y ambientales del ciclo de vida de esta tecnología permanecen fuera de la regulación. Por ello, advirtió sobre el impacto diferencial de las prácticas extractivistas en las poblaciones del Sur Global y la urgencia de integrar consideraciones ecológicas y de derechos laborales en la construcción de los mecanismos de rendición de cuentas de las empresas tecnológicas.

Derechos Digitales reiteró su compromiso de seguir colaborando en este proceso e instó a fortalecer la articulación con la Red de la UNESCO para facilitar una participación más amplia de la sociedad civil y asegurar que los resultados de estos diálogos reflejen las necesidades y realidades de nuestras comunidades.

La presentación completa de Jamila Venturini en esta instancia puede consultarse en el documento “Intervención en la UNESCO sobre gobernanza de la inteligencia artificial: hacia un marco global justo, transparente y basado en derechos”.

En un contexto donde la inteligencia artificial y los sistemas algorítmicos están reconfigurando la vida social, política y cultural, la disputa por las narrativas se vuelve cada vez más central. Ese fue el punto de partida del encuentro “New tech, new rules: Narrative and Civil Society in the age of AI and Algorithms”, organizado por International Resource for Impact and Storytelling (IRIS), en el marco del lanzamiento de un nuevo informe sobre el impacto de estas tecnologías en la sociedad.

El encuentro reunió a organizaciones de distintas regiones del mundo para compartir estudios de caso que exploran cómo la sociedad civil está enfrentando y reconfigurando las narrativas en torno a la tecnología. En el panel principal participaron Derechos Digitales, IIRESODH, The Equality Hub y The Polis Project, abordando experiencias situadas en América Latina, África y Asia.

Desde Derechos Digitales, nuestra directora de Comunicaciones Catalina Balla, presentó un caso de estudio centrado en tres campañas en redes sociales sobre reconocimiento facial y vigilancia en América Latina. El trabajo buscaba entender la comunicación no como piezas aisladas, sino como un proceso acumulativo que evoluciona a partir de la interacción con las audiencias.

Las campañas se desarrollaron en tres momentos distintos pero conectados. La primera, vinculada a un concierto masivo en Brasil, utilizó ese contexto cultural para visibilizar la presencia de sistemas de reconocimiento facial en espacios de entretenimiento. La segunda abordó una propuesta en Chile para utilizar reconocimiento facial como medio de pago en el transporte público, explicando de forma más directa sus implicancias en términos de datos personales y vigilancia. La tercera, en cambio, se enfocó en entregar recomendaciones prácticas de seguridad digital, orientadas a personas que ya enfrentan estos contextos en su vida cotidiana.

«Cuando llevamos estos temas a la vida cotidiana, la conversación cambia. Dejan de ser discusiones técnicas y aparecen tensiones reales, sobre todo porque sigue muy instalada la idea de que la vigilancia es necesaria para la seguridad. Eso nos obliga a repensar cómo estamos comunicando y a disputar esas narrativas de forma más directa», señaló Balla.

Tras el panel, el encuentro continuó en espacios de trabajo donde participaron diversas organizaciones, entre ellas Instituto Fogo Cruzado, LatFem, Mada Masr, Alharaca, Tunisia Digital Democracy Partnership y The Storywork Collective, entre otras.

El trabajo se organizó en tres grupos, cada uno enfocado en un eje distinto: reapropiarse de la cultura y la tecnología para la resistencia, enfrentar la vigilancia y la desinformación, y explorar nuevas formas de narrar y organizarse.

En conjunto, los casos presentados muestran que, frente a los cambios que están generando estas tecnologías, las organizaciones no solo responden a sus impactos, sino que también disputan activamente su sentido, sus usos y sus consecuencias. En ese proceso, la construcción de narrativas se vuelve un espacio central de intervención política, donde se define cómo entendemos estos sistemas y qué lugar ocupan en nuestras vidas.

El informe completo, que reúne diez estudios de caso de distintas regiones del mundo, será publicado en los próximos días.