Un grupo de especialistas en derechos humanos y tecnologías digitales nos reunimos para dialogar sobre la justicia de datos, en febrero de 2023. Esta es una sistematización de aquel debate, en el que se identificaron narrativas dominantes y posibles acciones a implementar para garantizar la justicia de datos.
Temática: Gobernanza de internet
Conclusiones acordadas: aspectos positivos, retrocesos y posicionamientos insuficientes
Durante dos semanas, gobiernos, organizaciones de la sociedad civil, expertos, expertas y activistas participaron en diversas actividades de discusión vinculadas al CSW67, tanto en sesiones de la ONU como en eventos paralelos.
Desde Derechos Digitales participamos activamente en dicho proceso. En octubre de 2022 co-presidimos la reunión de expertas realizada en preparación de la CSW67 y durante las sesiones en Nueva York tuvimos la oportunidad de realizar dos intervenciones orales, tanto durante las discusiones generales como en el panel interactivo de expertos. A su vez, participamos en diversas reuniones y eventos paralelos como panelistas, como por ejemplo en el evento “Liderazgo femenino para una tecnología centrada en el ser humano” junto a representantes de Stop Killer Robots y the Footage Foundation, donde presentamos el panorama de la relación entre género y tecnología resaltando la necesidad de aplicar el marco normativo de derechos humanos a los espacios digitales.
Desde el inicio del proceso hemos sostenido la necesidad de fortalecer los contextos digitales desde la perspectiva de los derechos humanos como el primer paso necesario para debatir estrategias que avancen hacia la igualdad de género y el empoderamiento; destacando que la relación entre el acceso a Internet y la lucha contra la violencia de género en línea debe abordarse desde un marco jurídico de derechos humanos que otorgue seguridad jurídica al acceso y ejercicio de los derechos en los espacios digitales.
En esa línea nuestras intervenciones orales durante las sesiones se enfocaron en recomendaciones alrededor de cuatro ejes principales:
1. Participación de múltiples partes interesadas en la gobernanza de los espacios digitales. Sobre este punto enfatizamos la necesidad de que las mujeres, en toda su diversidad, deben ser incluidas de manera significativa en los procesos de toma de decisiones relativos al desarrollo tecnológico, el despliegue y la gobernanza.
2. Acceso significativo a Internet: Considerando que el acceso a las tecnologías y su uso es un reflejo de las desigualdades estructurales existentes, tanto sociales como de género; instamos a los Estados que reconozcan el acceso a Internet como un derecho humano en sí mismo, así como un potencial facilitador del ejercicio de otros derechos humanos.
3. Violencia de género en línea: La urgencia de desarrollar conceptos comunes que puedan ser operativizados hacia marcos centrados en las sobrevivientes y basados en los derechos humanos para abordar todas las formas de violencia de género, incluida la violencia de género facilitada por la tecnología (TFGBV).
4. Tecnologías con capacidades de vigilancia: entendiendo que el desarrollo y despliegue de tecnologías de vigilancia, junto con prácticas irresponsables de transformación digital, pueden obstaculizar cualquier posibilidad de alcanzar la igualdad de género, instamos a los Estados que incluyan mecanismos de rendición de cuentas y participación en cualquier proceso de digitalización, especialmente en el despliegue de sistemas automatizados de toma de decisiones, así como evaluaciones y auditorías de impacto de los derechos humanos, aplicando una moratoria en aquellas que no cumplen con criterios básicos.
Tras el análisis del documento de las conclusiones acordadas, celebramos que ciertos reconocimientos, afirmaciones y recomendaciones formuladas por la Comisión reflejan y se encuentran en línea con posicionamientos que hemos sostenido junto con otras organizaciones de la sociedad civil. No obstante, hay ciertos retrocesos y posicionamientos insuficientes en el texto que generan preocupación. A continuación, sintetizamos algunas cuestiones que consideramos especialmente relevantes.
Refuerzos en perspectivas de derechos humanos
Si bien son cuestiones que han sido reconocidas en otros instrumentos del derecho internacional, su refuerzo es especialmente relevante en marcos de discusiones alrededor de la innovación, al brindar argumentos fundamentales para hacer frente a narrativas tecnosolucionistas.
Así, por un lado la Comisión reconoce la necesidad de garantizar la promoción, el respeto y el cumplimiento de los derechos humanos en la concepción, el diseño, el desarrollo, el despliegue, la evaluación y la regulación de las tecnologías y de velar por que estén sujetas a las salvaguardias adecuadas a fin de promover un entorno de las tecnologías de la información y la comunicación abierto, seguro, estable y accesible y asequible para todas las mujeres y las niñas.
Por otro lado, se expresa el reconocimiento de que las múltiples e interrelacionadas formas de discriminación y marginación son obstáculos para la consecución de la igualdad de género y el empoderamiento en el contexto de la innovación y el cambio tecnológico.
Esto es clave para abordar a la implementación de las tecnologías desde una perspectiva interseccional que contemple las desigualdades estructurales de la sociedad; en oposición a miradas tecnosolucionistas que posicionan a las tecnologías como pociones mágicas que al ignorar problemáticas, terminan profundizándolas.
Esto constituye un avance en tanto una de las principales preocupaciones planteadas en nuestras intervenciones, que apuntaba a evitar un abordaje exclusivamente punitivista ante la violencia de género en línea que termine ocasionando un debilitamiento de derechos.
En el marco de las desigualdades invocadas, se declaró una grave preocupación por los problemas de acceso a Internet en países en vías de desarrollo recomendando una serie de medidas para priorizar la reducción de la brecha de género. Sobre ese punto es importante destacar el énfasis puesto en integrar la perspectiva de género en la conceptualización, el desarrollo y la aplicación de las tecnologías digitales y las políticas conexas (que contempla la inclusión de mujeres en procesos de toma de decisiones); y en la alfabetización digital como componente esencial para hacer frente a las inequidades en el acceso y uso de Internet, lo cual se alinea con nuestra postura de acceso significativo.
Ausencias que implican retrocesos: exclusión de las diversidades
Preocupa de sobremanera como el texto se refiere a mujeres y niñas pero evita completamente mencionar toda terminología que garantice la inclusión de personas trans, travestis y/o no binarias en el texto. Esto, a pesar de que varias organizaciones, incluyendo a Derechos Digitales, hicieron menciones explicitas en sus sugerencias de texto como ser “mujeres en toda su diversidad”.
Esta exclusión tiene la potencialidad de no solo de profundizar desigualdades sobre una comunidad que ha sido históricamente vulnerada, sino de legitimar políticas públicas discriminatorias. A su vez, es contradictorio con el reconocimiento destacado anteriormente respecto a la necesidad de considerar aspectos interseccionales dado que la identidad de género es un factor clave del concepto.
Posicionamientos débiles en cuanto a tecnologías de vigilancia
Si bien la Comisión hace referencia a la obligación de los estados de garantizar el respeto al derecho a la privacidad enfatizando en la preocupación por el impacto negativo que la vigilancia y/o interceptación de las comunicaciones, incluida la vigilancia y/o interceptación extraterritorial de las comunicaciones, así como la recogida de datos personales, en particular cuando se llevan a cabo a escala masiva, pueden tener en el ejercicio y disfrute de los derechos humanos de las mujeres y las niñas; no realiza ninguna recomendación al respecto de cómo abordarla ni vuelve a mencionarla en ningún lugar del documento. Se limita a expresar la preocupación evitando incluir lineamientos claves para hacer frente y que -de hecho- ya han sido reconocidos y promovidos por otros mecanismos de la ONU.
Necesidad de mayor participación de la sociedad civil
Sabemos que llegar a consensos entre estados con diversas agendas, prioridades y contextos políticos es un desafío, que a su vez se complejiza con las discusiones que involucran a temas alrededor de la tecnología. Por eso, la participación de la sociedad civil es clave para aportar lineamientos desde el derecho internacional de los derechos humanos. Si bien se habilitaron ciertos espacios de participación durante las discusiones, son muy limitados en tiempo y acceso.
Las discusiones se centran en los representantes de estados, muchas veces a puertas cerradas, no existiendo suficiente participación a lo largo de la construcción del documento, salvo intervenciones puntuales en momentos específicos designados. Llama la atención la diferencia con otros procesos llevados adelante en la ONU como por ejemplo el AHC sobre la convención de ciberseguridad que permite la intervención de la sociedad civil en general al final de cada capítulo, además de poder presenciar todas las propuestas de textos. Las conclusiones destacadas reflejan la necesidad de asegurar un aumento de participación de sociedad civil en próximos procesos.
Latin America in a GLIMPSE
The eighth edition of Latin America in a Glimpse is composed of four investigations, conducted by Latin American organizations working in different countries: Corporación Cambio Sostenible of Colombia, Fundación Openlab of Ecuador, Espacio Público of Venezuela and MariaLab of Brazil.
The common theme of the publication is the idea of gaps, as a complex, multifactorial reality that is associated with a series of structural inequities that shape our experiences in digital environments.
The latest edition of Latin America in a Glimpse is available in Spanish, English and Portuguese.
_______________________________________________________________________
La octava edición de América Latina in a Glimpse está compuesta por cuatro investigaciones, realizadas por organizaciones latinoamericanas que trabajan en diferentes países: Corporación Cambio Sostenible de Colombia, Fundación Openlab de Ecuador, Espacio Público de Venezuela y MariaLab de Brasil.
El tema común de la publicación es la idea de las brechas, como una realidad compleja y multifactorial que se asocia a una serie de inequidades estructurales que configuran nuestras experiencias en entornos digitales.
La última edición de Latin America in a Glimpse está disponible en español, inglés y portugués.
Declaración de Derechos Digitales durante la quinta sesión del Comité Especial encargado de Elaborar una Convención Internacional Integral sobre la Lucha contra la Utilización de las Tecnologías de la Información y las Comunicaciones con Fines Delictivos
Cómo se producen los estándares
Internet es una tecnología construida principalmente por hombres cis género, blancos, del Norte Global. Esa afirmación suele encontrarse en los análisis sobre brechas de acceso a internet y violencias facilitadas por las tecnologías digitales, entre otros temas. Pero, ¿sabemos quiénes son esos hombres?, ¿sabemos cómo construyen internet?
El Grupo de investigación y análisis de los procesos de estandarización (RASPRG por sus siglas en inglés) es un espacio interdisciplinario que se plantea preguntas como qué personas e instituciones han estado involucradas en el desarrollo de ciertos estándares, cómo se toman las decisiones en estos procesos, y cómo las políticas y normativas sobre patentes sirven de incentivo para que las empresas participen activamente en estos procesos.
Este esfuerzo no es nuevo. Desde hace tiempo, investigadores e investigadoras en universidades (del Norte) se han ocupado de estos temas, y como antecedente directo de la conformación de este grupo está el trabajo alrededor de BigBang, una herramienta para el análisis de datos que desde hace siete años se ha estado utilizando y adaptando al análisis de datos en comunidades de desarrollo de estándares abiertos, tales como IETF y W3C.
Durante la hackatón previa a la reunión 116 de IETF se ha propuesto trabajar en el desarrollo de una interfaz web para mejorar la accesibilidad de BigBang, para que personas sin conocimientos en programación puedan utilizar esta herramienta.
Aunque haya muchos otros elementos que dificultan un acceso más amplio a este tipo de herramientas y temas de investigación (empezando por el lenguaje, principalmente técnico y exclusivamente en inglés), esta iniciativa contribuye a hacer efectiva la promesa del conocimiento y las tecnologías abiertas. Esto es, que la información no esté solo disponible sino que se pueda acceder a ella.
Muy poco sabemos sobre los cuerpos de estandarización técnica. Estos espacios son opacos porque sus lógicas de funcionamiento restringen el acceso a muchas personas, especialmente de regiones como Africa y América Latina, pues se requieren saberes técnicos especializados, dominio del inglés, capacidad de financiación, y además mucha paciencia y visión de largo plazo para desarrollar un trabajo significativo en esos entornos.
Los procesos de estandarización son de largo aliento y dependen, no solo de su diseño, sino de los intereses inmersos en su implementación y despliegue. Conocer un poco mejor cómo trabajan estos cuerpos, contribuye a reducir la brecha de poder y agencia sobre las tecnologías que usamos a diario cada vez más personas en el mundo. La propuesta de RASPRG va en ese camino.
La reunión de este grupo de investigación (en inglés) será el próximo jueves 30 de marzo a las 4h (UTC), allí se compartirán los avances de la hackatón y se espera definir cómo seguir, qué preguntas se podrían incluir en el espectro de interés del grupo. Para participar de la reunión sin costo es necesario crear una cuenta en el Datatracker de IETF, hacer un registro de participación remota a la reunión 116, y pedir una exención de pago.
¿Tecnologías para la equidad y el empoderamiento? Notas para superar perspectivas coloniales y deterministas sobre las tecnologías
Esta semana se iniciaron los trabajos de la 67a Comisión de la Condición Jurídica y Social de la Mujer (CSW67, por su sigla en inglés). La CSW es una instancia auspiciada por Naciones Unidas que tiene como objetivo avanzar hacia la “igualdad y el empoderamiento de las mujeres”.
Este año, la Comisión tiene como tema prioritario “La innovación y el cambio tecnológico, y la educación en la era digital para lograr la igualdad de género y el empoderamiento de todas las mujeres y las niñas”. El tema ofrece muchas posibilidades de avanzar en acuerdos urgentes y necesarios sobre como las tecnologías digitales pueden efectivamente favorecer la equidad de género.
A la vez, representa una oportunidad para reforzar lineamientos que permitan establecer límites necesarios para que estas tecnologías no profundicen desigualdades. Sin embargo, el colonialismo, el punitivismo y el determinismo tecnológico pueden representar barreras importantes para que se alcancen conclusiones significativas. Peor que eso: sumados a la ausencia de una mirada interseccional y de derechos humanos, pueden implicar retrocesos en consensos que se vienen plasmando hace décadas a nivel internacional.
Derechos Digitales ha sido participante activa de las discusiones: en octubre de 2022 co-presidimos la reunión de expertas realizada en preparación para la CSW y participaremos intensamente de las actividades oficiales y paralelas a lo largo de toda la reunión en Nueva York.
En esta columna compartimos algunas impresiones y prioridades que creemos que deben ser consideradas en las discusiones, a partir de una detenida revisión del borrador inicial de conclusiones de la CSW67.
Una perspectiva de derechos para contrarrestar el determinismo tecnológico
Si bien podemos afirmar que desde el derecho internacional han habido avances en comprender que las normas de derechos humanos y su aplicación tienen que acompañar la transformación tecnológica, en la práctica vemos escasos compromisos por implementar tales consensos.
Como resultado, las brechas sociales y de género se amplifican y profundizan. El caso latinoamericano refleja cómo las desigualdades estructurales se replican en el entorno tecnológico y grupos históricamente excluidos del acceso a derechos encuentran no solamente las mismas barreras de acceso y uso de tecnologías, sino que están sujetos a nuevas y más complejas formas de violencia, explotación y exclusión.
Casos como el de Belén Whittingslow en Paraguay y de las trabajadoras en aplicaciones de limpieza son crudos ejemplos de las injusticias que se recrudecen alrededor de estos temas. En el segundo caso, también muestran como las mismas se automatizan en forma de códigos algorítmicos.
La vigilancia masiva o dirigida hacia periodistas, defensoras de derechos humanos y grupos feministas, evidencian cómo prácticas autoritarias de persecución, criminalización y silenciamiento de mujeres se refinan con apoyo de nuevas tecnologías de vigilancia.
Frente a evidencias de crecientes de abusos y vulneraciones de derechos facilitadas por las tecnologías en las últimas décadas, la comunidad internacional se vió obligada a superar el mito de la “independencia del ciberespacio” y reconocer las implicancias de las tecnologías digitales en los derechos humanos. Es fundamental que los gobiernos reunidos en la CSW67 construyan sus consensos a partir de la noción, duramente comprobada en la experiencia vivida de millones de personas, de que la tecnología no va a resolver problemas estructurales como los relacionados al hecho de que ciertas poblaciones han sido históricamente marginadas del acceso a derechos en su totalidad.
Además de compromisos concretos con garantizar efectiva diversidad en la producción tecnológica e incentivos al desarrollo de tecnologías alineadas con el respeto y protección de derechos humanos, los Estados deben garantizar un acceso significativo a internet para todas las personas y que los mismos derechos que ellas tienen fuera de línea se apliquen en línea. Se deben adoptar medidas para limitar y regular el desarrollo y uso de tecnologías con potencial discriminatorio y abusivo en relación a los derechos humanos.
Abordar a la innovación, el cambio tecnológico y la educación digital desde una perspectiva de derechos humanos, reconociendo los marcos existentes en la materia, es crucial para que éstos puedan tener algún rol en el alcance de la equidad de género. Cualquier recomendación distinta puede incrementar brechas de género, avalar prácticas autoritarias y retroceder en consensos duramente conquistados a nivel internacional.
El combate a la violencia y censura de género más allá de la criminalización y el paternalismo
Sabemos que la violencia de género facilitada por tecnologías es creciente, y genera múltiples y profundos impactos individuales y colectivos al implicar una forma de censura de género.
En América Latina, la violencia que se manifiesta en el entorno en línea es un duro reflejo de sociedades marcadas por el patriarcado, la misoginia y la homofobia y una extensión de múltiples violencias de género vividas en el ámbito doméstico y los espacios públicos.
La violencia política de género, por su parte, ha representado una barrera adicional a la participación de las mujeres y personas LGBTQIA+ en los espacios de poder y toma de decisión. Junto a la violencia contra periodistas defensoras de derechos humanos, es mucha veces perpetrada por funcionarios y autoridades públicas, como se ha observado en el caso de Brasil, El Salvador y México.
Es urgente el desarrollo de políticas públicas que respondan a esas violencias, responsabilicen a quienes la promueven – incluso cuando se trata de autoridades públicas – y establezcan mecanismos efectivos de reparación. Respuestas desde el derecho penal pueden ser necesarias, pero no son suficientes para dar cuenta de la complejidad del problema y la diversidad de experiencias de vida de las sobrevivientes.
Legislaciones penales promovidas sin perspectiva de derechos humanos pueden ocasionar criminalización y retrocesos en materia de acceso a derechos. El test tripartito y los criterios de legalidad, necesidad y proporcionalidad deben ser considerados en cualquier política o acción destinada a la restricción de contenidos de modo a evitar la criminalización y censura de expresiones legítimas, incluso de activistas mujeres y LGBTQIA+.
Es necesario que la CSW pueda incentivar el desarrollo de conceptos comunes y marcos basados en los derechos humanos para responder a todas las formas de violencia de género, incluyendo las mediadas por las tecnologías.
Por una transformación digital basada en la autonomía
La equidad de género jamás puede ser utilizada como argumento para la implementación de sistemas digitales sin criterios de atención a los derechos humanos, como observamos nuevamente en el caso latinoamericano.
Aquí, muchas de las iniciativas de uso de Inteligencia Artificial (IA) en el sector público se dirigen a grupos en situación de vulnerabilidad que terminan expuestos a la recolección de sus datos para distintos fines sin capacidad de ofrecer su consentimiento informado de manera previa y sin mecanismos efectivos de protección ni acceso a la justicia, incluso frente a decisiones automatizadas que se tomen sobre su presente y futuro.
Además de la garantía de derechos básicos a la protección de sus datos – con garantías especiales para la infancia –, las mujeres y personas LGBTQIA+ deben contar con mecanismos efectivos para participar en decisiones sobre el desarrollo y uso de sistemas con potencial de afectar su bienestar.
Tal como señala la Recomendación sobre Ética de la Inteligencia Artificial, adoptada por 193 países de la Unesco, los Estados deben generar medidas efectivas para la realización de estudios de impacto en derechos humanos en el desarrollo e implementación de este tipo de tecnologías. Especial atención debe darse a sus implicaciones en derechos económicos y sociales y al potencial impacto a grupos en condición de vulnerabilidad. Esos estudios deben efectivamente informar la toma de decisiones sobre su desarrollo y adopción, con el establecimiento de límites estrictos a aquellos que no cumplan con criterios mínimos – como ha recomendado la anterior Alta Comisionada de las Naciones Unidas para los Derechos Humanos, Michelle Bachelet.
Ningún tipo de innovación puede construirse con base en la vulneración de derechos, la explotación y el incremento de brechas e injusticias de género. Las empresas de tecnología deben cumplir con la responsabilidad de respetar y proteger los derechos humanos y los Estados deben adoptar medidas proactivas para promover marcos de transparencia y rendición de cuentas a tales empresas.
Por una innovación capaz de transformar estructuras de género
Es bien sabido que las tecnologías no son neutrales y que tampoco conllevan en sí mismas el poder de transformar realidades sociales. Sostener que la innovación y el cambio tecnológico pueden en sí mismos generar mayor equidad es ignorar la realidad en que las desigualdades e injusticias se plasman y automatizan en crueles códigos algorítmicos. No sólo eso: las brechas relacionadas al desarrollo tecnológico a nivel geopolítico – con las grandes empresas tecnológicas mayormente concentradas en pocos países del Norte Global – reproducen estructuras de extracción y explotación que nos remiten al contexto colonial.
Hay evidencias desde distintas fuentes y perspectivas de cómo tecnologías desarrolladas bajo lógicas comerciales basadas en la vigilancia no solo no contribuyen con la superación de brechas de género, sino que las profundizan. Cambiar esta lógica implica adoptar medidas concretas y proactivas para la promoción de una innovación no solo responsable, pero comprometida con la justicia de género.
Eso incluye avanzar efectivamente hacia la superación de brechas de género más allá de lo digital, pero también es necesario establecer políticas serias de inclusión y participación transversales y con perspectiva de género, reconociendo los avances y acuerdos relacionados a la gobernanza digital desde múltiples partes interesadas.
Son innumerables las iniciativas de producción tecnológica desde comunidades feministas en el Sur Global capaces de potenciar su uso hacia mayor equidad y justicia. Es urgente que los gobiernos reunidos en CSW67 incorporen miradas críticas a sus lentes tecno-solucionistas y adopten medidas para incentivar el desarrollo y la sostenibilidad de formas alternativas de pensar y construir tecnologías.
Sobre reivindicar el futuro
Hace décadas que nos enfrentamos a narrativas que intentan imponer una idea única de cómo las tecnologías irán a salvar o destruir a la humanidad. Navegamos entre extremos que van del optimismo al pesimismo, pero que se fundan en nociones deterministas de que las tecnologías – presentadas como neutrales – tienen por sí mismas, el poder de transformar el modo en que vivimos, para el bien o el mal.
Nociones tales como “inteligencia artificial” conllevan una idea de poder maquínico que oculta las varias capas de construcciones sociales y culturales que permiten operar a un sistema sociotécnico aplicado. Por ejemplo, al calcular si una mujer de piel negra está o no autorizada a entrar en determinado espacio, o si un video denunciando violencia policial será invisibilizado porque configura una violación de determinadas reglas de contenido en una plataforma de red social privada.
Estas narrativas no se quedan en el campo simbólico, sino que son instrumentos de poder que han sido movilizados para impulsar prácticas y políticas concretas, exclusivamente basadas en el determinismo tecnológico y a costa de la protección de los derechos humanos – como hemos identificado en distintos ámbitos- en los últimos años en América Latina.
Cuando el péndulo se inclina hacia el optimismo, observamos situaciones como la implementación de sistemas de reconocimiento facial en los más variados ámbitos y sin ninguna evidencia de que sean eficaces y libres de riesgos. A veces, incluso en ausencia de las infraestructuras necesarias para su implementación, lo que ha dejado cámaras sin uso en la región.
Cuando el péndulo se inclina hacia el pesimismo, se busca criminalizar tecnologías y las formas de utilizarlas, en vez de abordar los problemas que ese uso revela. Pudimos ver eso cuando la industria de entretenimiento emprendió su cruzada en contra de la piratería y las herramientas que permitían el acceso a contenidos protegidos por derechos de autor.
Pacto Digital Mundial
En la actualidad nos vemos atravesadas por diversas crisis sobrepuestas, algunas más visibles que otras. A la crisis ambiental se ha sumado la crisis de salud manifestada por la pandemia de COVID-19, además de las diversas crisis económicas, políticas, migratorias y sociales en la región. Pensar el futuro parece casi imposible frente a la incertidumbre que se impone.
Sin embargo, el Secretario General de las Naciones Unidas, António Guterres ha propuesto a los Estados construir una agenda de acción común que incluirá una Cumbre del Futuro y, en ese marco, desarrollar propuestas para el futuro digital. Según el Secretario General, la cooperación digital será crucial para que las tecnologías digitales se centren en el bien común y garanticen que «los daños potenciales del ámbito digital» no «corran el riesgo de eclipsar sus beneficios».
Un Enviado para la Tecnología fue designado por el Secretario General para liderar la construcción de un Pacto Digital Mundial, que parte de un proceso abierto y será finalmente definido por los gobiernos de todo el mundo.
Los temas puestos en discusión son: conectar a todas las personas a internet, incluyendo las escuelas; evitar la fragmentación; proteger los datos; aplicar los derechos humanos en línea; introducir criterios de responsabilidad para la discriminación y los contenidos engañosos; promover la regulación de la inteligencia artificial; el bien común digital como bien público global.
Hacia un futuro múltiple y multiplicado
No es la primera vez que la ONU lidera un proceso para pensar el rol de las tecnologías en la sociedad. Desde la primera Cumbre Mundial de la Sociedad de Información, hace 20 años, sabemos que los mismos derechos que las personas gozan fuera de línea, también deben ser protegidos en línea. Incluyendo la libertad de expresión, el acceso a la información y la privacidad.
Sabemos que existen brechas de acceso a las tecnologías entre los países y dentro de ellos. Sabemos que estas brechas incluyen brechas de género y que las violaciones a la privacidad afectan especialmente a niñes, mujeres y grupos vulnerables y marginalizados.
También sabemos que, además de los Estados, las empresas (incluidas las tecnológicas) tienen el deber de respetar y promover derechos humanos, y que las decisiones sobre gobernanza digital deben involucrar las múltiples partes interesadas: gobiernos, sector privado, academia y comunidad técnica, y la sociedad civil.
El Pacto Digital Mundial no puede retroceder en esos consensos, pero también debe ir mucho más allá. Debe escaparse de narrativas deterministas o polarizantes sobre tecnologías y pensar caminos que apunten a la superación de las brechas y desigualdades geopolíticas y sociales que se incrementan a raíz del desarrollo tecnológico.
Reconocemos que el proceso tiene límites y que debemos aún disputar los mecanismos para la participación de la sociedad civil en la redacción del texto final y en su implementación.
La consulta abierta llevada adelante por el Enviado para la Tecnología, disponible hasta el 31 de marzo, ofrece la oportunidad de incidir en la construcción de otras narrativas e imaginarios sobre tecnologías. Narrativas que no estén ancladas solamente en la protección de derechos y la búsqueda por justicia y equidad, sino también en siglos de conocimiento acumulado en la región sobre formas de pensar, hacer y relacionarse con las tecnologías, distintas al tecnosolucionismo predominante.
Escaparse de las trampas que nos encierran en un futuro controlado y monopolizado por modelos coloniales, extractivistas y de explotación es un desafío permanente. Podemos aprovechar la invitación de la ONU para atrevernos a experimentar e imaginar los múltiples futuros viables para nuestras sociedades.
¡Ahora es ya! Reconociendo desafíos y oportunidades desde la agenda internacional para las niñas en la era digital
Hoy en día nos encontramos con una desafiante brecha de acceso al internet entre hombres y mujeres. Según datos recientes de la Unión Internacional de Telecomunicaciones (UIT) tal brecha es del 17% a nivel global, y puede llegar a un 52% dependiendo del país. En este contexto, un reciente estudio demostró que las niñas además enfrentan una inserción a herramientas digitales más tardía comparada con la de los niños, y usualmente es restringida por sus tutores/madres/padres. Además de la brecha actual de acceso, otras brechas son generadas por el cómo se enseña y motiva a las niñas y mujeres jóvenes a interesarse en carreras relacionadas con el área STEM (Ciencia, Tecnología, ingeniería y Matemáticas) y por cómo se presentan recurrentemente situaciones de ciberviolencia hacia mujeres y niñas.
Estos son algunos de los retos a los que nos enfrentamos en la era digital. Por lo tanto, este año es clave reflexionar, porque no solamente el 11 de febrero es el Día Internacional de las Niñas y las Tecnologías de la Información (TICs), sino también porque la temática de la Comisión de la Condición Jurídica y Social de la Mujer N°67 (CSW67) de este año es: “La innovación y el cambio tecnológico, y la educación en la era digital para lograr la igualdad entre los géneros y el empoderamiento de todas las mujeres y las niñas”.
A través de esta columna, se identifican tres “por qué” claves en cuanto a estas temáticas.
¿Por qué hay que hablar de las niñas y las TICs?
Cuando las mujeres y las niñas tienen acceso a Internet y refuerzan sus habilidades para usar tecnologías digitales la sociedad se beneficia, como se indica a través de Bridging the Gender Divide. Según este estudio, existiría un beneficio para el desarrollo de sus vidas, con mayores oportunidades educacionales, laborales y acceso a la información; explicando que sin cerrar esta brecha digital no sería posible lograr superar los Objetivos de Desarrollo Sostenible. A su vez, el Foro Económico Mundial explica que 65% de los trabajos del futuro para niñas y niños serán plenamente dedicados a la innovación y a la tecnología, dónde las normas culturales e institucionales que no se actualizan generan límites bloqueando el potencial de las niñas en el área digital. Por último, de acuerdo con Plan International, la brecha tecnológica de género también afecta negativamente el potencial de crecimiento económico y desarrollo de los países explicando que, si en tres años 600 millones más de mujeres están conectadas a Internet, se traduciría en un aumento del PIB mundial de entre US$13 mil millones y US$18 mil millones.
Las tecnologías representan, efectivamente, innumerables oportunidades de fuentes de conocimiento, sobre todo considerando el potencial de cambio que poseen las herramientas tecnológicas para las niñas como futuras mujeres a nivel laboral, pero también como futuras líderes de cambio. Entendiendo que ya el 90% de los trabajos tienen un componente digital, se debe impulsar a que niñas se desarrollen y busquen oportunidades motivándolas desde las STEM.
Asimismo, la participación de niñas, mujeres y personas LGBTQIA+ en el espacio digital y la posibilidad de obtener sus beneficios solo se concretiza cuando tal espacio es seguro y receptivo. Factores como la seguridad digital y la respuesta a la violencia de género deben ser abordados no solo desde la regulación, pero también desde la industria, la cual actualmente es mayoritariamente masculina. Es clave contar con mayor participación de personas que representen a las diversidades en la producción tecnológica para avanzar hacia la construcción de espacios digitales seguros, receptivos y respetuosos, dónde compromisos y acciones concretas se muevan en tal dirección.
¿Por qué la CSW67 es importante para las niñas?
La CSW es una sesión de dos semanas organizada por Naciones Unidas donde Estados Miembros, líderes, organizaciones de la sociedad civil y personas con incidencia en la formulación de políticas públicas se reúnen para discutir avances y límites sobre los derechos de las mujeres e igualdad de género.
No se trata de una simple reunión, sino que también reafirma y fortalece los compromisos políticos de los actores previamente mencionados con los derechos de las mujeres y asegura la visibilidad de las temáticas por año. Allí se discuten temas emergentes y se promueve la generación de nuevos acercamientos de propuestas y acciones a las situaciones que mujeres y niñas enfrentan de forma desigual en el día a día.
La CSW67 de este año se llevará a cabo entre el 6 y el 17 de marzo, y es una instancia sumamente importante porque discutirá y establecerá la agenda sobre el cambio tecnológico en la era digital con perspectiva de género a nivel global.
Dentro de la temática principal de este año, existen diferentes temas que fueron destacados por la Reunión del Grupo Experto previo a la CSW67, entre los cuales se encuentran:
- Las brechas de género en el acceso y las competencias digitales.
- Ecosistemas de innovación inclusiva y transformación digital.
- Tecnología e innovación transformadoras de género.
- Abordar la violencia de género y la discriminación en línea y facilitadas por las TICs; y proteger los derechos de las mujeres y las niñas en línea.
- La necesidad de mejorar las métricas y los datos desglosados sobre las dimensiones de género de la innovación, el cambio tecnológico y la educación en la era digital.
La CSW es una herramienta importante para las niñas y mujeres jóvenes, ya que en esta se pueden levantar temáticas en las cuales ellas se ven afectadas e involucradas en el día a día. Y de manera más importante, considerar a través de todo este proceso las perspectivas de niñas y mujeres jóvenes es imprescindible para que la agenda tenga una perspectiva multidimensional e integral. La transversalidad de género no puede ser efectiva si se dejan atrás estas perspectivas. Es por esto que la CSW cuenta con espacios –como el diálogo interactivo con representantes líderes juveniles– dónde se comparten experiencias, principios y prioridades relacionadas a la innovación y cambios tecnológicos.
Consecuentemente, el hecho de que estos temas sean posicionados desde perspectivas tanto de niñas y mujeres jóvenes como de profesionales expertos, la importancia recae en que se plasmarán diferentes precedentes, en formato de acciones e información en concordancia a la temática, que serán cruciales para el futuro desarrollo de la era digital con perspectiva de género.
¿Por qué todavía no se soluciona la brecha digital?
Es necesario comprender que temas tan amplios no tienen una sola solución, sino que como su complejidad demuestra, se deben considerar una gran cantidad de variables para aportar desde perspectivas de género. Sobre todo desde la interseccionalidad que reflexione a partir de miradas regionales y locales que complementen soluciones integrales.
La brecha digital depende de cómo se entrega prioridad a los recursos y oportunidades para niñas en las TICs y muchas veces esto representa una dificultad, especialmente cuando los Estados no poseen recursos suficientes para esto. Dado lo anterior, existen múltiples iniciativas desde la sociedad civil para aportar para el desarrollo de estas temáticas para niñas y mujeres a nivel regional y global, desde Derechos Digitales existen diferentes instancias, desde publicaciones (clic aquí para la más actual), levantando proyectos como el Fondo de Respuesta Rápida hasta participando en instancias internacionales, tales como la CSW67.
Se precisan, a futuro, medidas que consideren el esfuerzo y compromiso de distintas partes, y a partir de instancias internacionales, como la CSW67, existe la oportunidad de considerar múltiples perspectivas para identificar las necesidades, prioridades y acciones que se requieren para avanzar hacia la igualdad de género, disminuir la brecha digital y mejorar el futuro para las niñas y las TICs.
UNESCO: Un proceso opaco y recomendaciones problemáticas para la regulación de las plataformas digitales
Texto disponível em português.
A fines de 2022, y de forma completamente sorpresiva, UNESCO inició un proceso de consulta para la generación de una guía para la regulación de las plataformas digitales.En noviembre de ese año, Derechos Digitales fue una de las organizaciones latinoamericanas que tuvo la oportunidad de participar de una consulta sobre el documento inicial, que contenía distintos aspectos problemáticas y al que hicimos varias puntualizaciones. Sin embargo, justo antes de las festividades de fin de año UNESCO inicio un proceso de consulta pública sobre una segunda versión del documento, que solo está disponible en inglés y francés.
La fecha límite para la realización de comentarios es el 20 de enero. UNESCO ha convocado una conferencia global, que tendrá lugar del 21 al 23 de febrero en su sede en París, y se ha anunciado que antes del evento se hará disponible una nueva versión del documento.
Lo primero que llama la atención es la premura y opacidad con la que se ha actuado y que no se condice con la manera en que se han desarrollado otros procesos de producción de lineamientos en materias relativas a internet. Por ejemplo, el proceso de construcción de los Indicadores de Universalidad de Internet (Principios ROAM) estuvo acompañado de un amplio proceso de participación abierta de múltiples partes interesadas. Por su parte, la conceptualización del documento “Por un internet confiable – Regular las Plataformas Digitales de Información como Bien Común” fue acompañada por un grupo de expertos sobre los que existe poca o ninguna información disponible.
Consideramos que el actual proceso presenta fallas desde su inicio, las que dificultan la participación efectiva de la sociedad civil organizada. Consideramos además que la producción de un documento que siga por la senda ya delineada pone en riesgo el ejercicio de derechos humanos, especialmente en los países de la “mayoría global”, que son los más ávidos por contar con guías de esta naturaleza, provenientes de organismos internacionales para la toma de decisión sobre sus regulaciones internas.
¿Qué nos preocupa?
Además de la escasa apertura y transparencia de proceso, en los comentarios realizados al documento compartido durante la consulta regional, hicimos varias críticas de fondo.
En primer lugar, existe una falta de definición respecto de los objetivos del documento. En su versión pública, el borrador indica que su propósito sería la «orientación de alto nivel para los Estados miembros y otras partes interesadas relevantes que están considerando cómo regular el contenido en línea». Sin embargo, a través de una lectura cuidadosa del documento, encontramos que todavía hay una oscilación entre establecer estándares y proporcionar guías, por lo que el objetivo continúa
siendo dudoso.
Una deficiencia fundamental de la propuesta tiene que ver con la conceptualización de lo que se propone. Hay problemas de falta de definición de conceptos clave. Por ejemplo, no hay claridad respecto a qué se entiende por “información como bien público”. Al mismo tiempo, es difícil encontrar conexión con experiencias previas de la propia UNESCO, por lo que no se ve claramente cómo el documento sirve para confirmar este concepto. Nos preocupa de sobremanera que este concepto aluda a una visión aséptica del espacio informacional, que es incompatible con el pluralismo y diversidad, que son parte esencial de la libertad de expresión.
Por otra parte, no se define específicamente cuál sería el contenido potencialmente dañino para la democracia y los derechos humanos que la propuesta busca combatir, a pesar de reconocer la falta de consenso global sobre la definición de lo que constituye contenido potencialmente dañino.
Tal como se presenta, el documento promueve la censura previa por parte de las plataformas y es incompatible con el artículo 13 de la Convención Americana sobre Derechos Humanos. Definir los conceptos es muy importante en la tarea de regular las plataformas. Sin embargo el más reciente borrador indica que esta conceptualización aún se está elaborando y se agregará en la próxima versión.
También se pierde la oportunidad de abordar problemas más sistémicos relacionados con el modelo de negocios basado en la explotación de datos personales de las grandes plataformas, sin atacar el problema de fondo, estrategia regulatoria que Shoshana Zuboff ha calificado como insuficiente pues «los daños sociales se aíslan y se tratan como crisis sin sentido«.
Las recomendaciones deben apuntar a las causas que producen determinados efectos sobre la moderación de contenidos, algo que no hace actualmente la propuesta aduciendo la complejidad de la coordinación con otros campos regulatorios.
Volver a comenzar, con un proceso confiable
Organizaciones de la sociedad civil, como Article 19, y redes de múltiples partes interesadas, como la Global Network Initiative (GNI) —de la que Derechos Digitales es miembro— han publicado posiciones que critican tanto el proceso como el contenido de la propuesta de la UNESCO. Consideramos que no es posible aprobar ningún documento o declaración en la conferencia que comienza en unos días en París, debido a este proceso turbulento y a la falta de definición de lo que la UNESCO y sus países miembros quieren hacer con este proceso.
Desde Derechos Digitales recomendamos no apresurar el proceso, pues se necesita realizar una consulta significativa y con múltiples partes interesadas.
En lo sustancial, nuestra recomendación es que la propuesta se centre en donde su contribución podría ser más útil, conforme a estándares internacionales de derechos humanos y a las guías de implementación provistas por los Principios Rectores de las Naciones Unidas sobre Derechos Humanos y Empresas. De este modo, debería concentrarse en aspectos tales como obligaciones de transparencia para las plataformas; procesos de reclamo expeditos y regidos por el principio de debido proceso en relación a decisiones de moderación de contenido; debida diligencia en la evaluación y mitigación de riesgos de las plataformas; mecanismos de reclamación, revisión y reparación en caso de decisiones erróneas, como se indica, por ejemplo, en los reportes de Al Sur sobre responsabilidad de intermediarios y moderación de contenidos desde una perspectiva latinoamericana.
Para lograr construir una internet confiable, desde hace años sabemos que los procesos de discusión, regulación y normalización también deben ser confiables, abiertos y transparentes, con un enfoque de múltiples partes interesadas y una participación significativa de la sociedad civil.
UNESCO tiene en sus manos todos los elementos para contribuir positivamente a este entorno, solo resta ponerlo en práctica de manera responsable, con un proceso transparente, con instancias adecuadas y el tiempo necesario de discusión.
UNESCO – Marco modelo para regular las plataformas digitales y asegurar la información como un bien común Borrador 1.0 – Comentarios de Derechos Digitales
Como parte de entrega de comentarios al borrador propuesto creemos importante poder formular algunas observaciones no solo a este texto, si no que también a la
estructura del proceso propuesto para su diseño.