Temática: Gobernanza de internet
Cómo se producen los estándares
Internet es una tecnología construida principalmente por hombres cis género, blancos, del Norte Global. Esa afirmación suele encontrarse en los análisis sobre brechas de acceso a internet y violencias facilitadas por las tecnologías digitales, entre otros temas. Pero, ¿sabemos quiénes son esos hombres?, ¿sabemos cómo construyen internet?
El Grupo de investigación y análisis de los procesos de estandarización (RASPRG por sus siglas en inglés) es un espacio interdisciplinario que se plantea preguntas como qué personas e instituciones han estado involucradas en el desarrollo de ciertos estándares, cómo se toman las decisiones en estos procesos, y cómo las políticas y normativas sobre patentes sirven de incentivo para que las empresas participen activamente en estos procesos.
Este esfuerzo no es nuevo. Desde hace tiempo, investigadores e investigadoras en universidades (del Norte) se han ocupado de estos temas, y como antecedente directo de la conformación de este grupo está el trabajo alrededor de BigBang, una herramienta para el análisis de datos que desde hace siete años se ha estado utilizando y adaptando al análisis de datos en comunidades de desarrollo de estándares abiertos, tales como IETF y W3C.
Durante la hackatón previa a la reunión 116 de IETF se ha propuesto trabajar en el desarrollo de una interfaz web para mejorar la accesibilidad de BigBang, para que personas sin conocimientos en programación puedan utilizar esta herramienta.
Aunque haya muchos otros elementos que dificultan un acceso más amplio a este tipo de herramientas y temas de investigación (empezando por el lenguaje, principalmente técnico y exclusivamente en inglés), esta iniciativa contribuye a hacer efectiva la promesa del conocimiento y las tecnologías abiertas. Esto es, que la información no esté solo disponible sino que se pueda acceder a ella.
Muy poco sabemos sobre los cuerpos de estandarización técnica. Estos espacios son opacos porque sus lógicas de funcionamiento restringen el acceso a muchas personas, especialmente de regiones como Africa y América Latina, pues se requieren saberes técnicos especializados, dominio del inglés, capacidad de financiación, y además mucha paciencia y visión de largo plazo para desarrollar un trabajo significativo en esos entornos.
Los procesos de estandarización son de largo aliento y dependen, no solo de su diseño, sino de los intereses inmersos en su implementación y despliegue. Conocer un poco mejor cómo trabajan estos cuerpos, contribuye a reducir la brecha de poder y agencia sobre las tecnologías que usamos a diario cada vez más personas en el mundo. La propuesta de RASPRG va en ese camino.
La reunión de este grupo de investigación (en inglés) será el próximo jueves 30 de marzo a las 4h (UTC), allí se compartirán los avances de la hackatón y se espera definir cómo seguir, qué preguntas se podrían incluir en el espectro de interés del grupo. Para participar de la reunión sin costo es necesario crear una cuenta en el Datatracker de IETF, hacer un registro de participación remota a la reunión 116, y pedir una exención de pago.
¿Tecnologías para la equidad y el empoderamiento? Notas para superar perspectivas coloniales y deterministas sobre las tecnologías
Esta semana se iniciaron los trabajos de la 67a Comisión de la Condición Jurídica y Social de la Mujer (CSW67, por su sigla en inglés). La CSW es una instancia auspiciada por Naciones Unidas que tiene como objetivo avanzar hacia la “igualdad y el empoderamiento de las mujeres”.
Este año, la Comisión tiene como tema prioritario “La innovación y el cambio tecnológico, y la educación en la era digital para lograr la igualdad de género y el empoderamiento de todas las mujeres y las niñas”. El tema ofrece muchas posibilidades de avanzar en acuerdos urgentes y necesarios sobre como las tecnologías digitales pueden efectivamente favorecer la equidad de género.
A la vez, representa una oportunidad para reforzar lineamientos que permitan establecer límites necesarios para que estas tecnologías no profundicen desigualdades. Sin embargo, el colonialismo, el punitivismo y el determinismo tecnológico pueden representar barreras importantes para que se alcancen conclusiones significativas. Peor que eso: sumados a la ausencia de una mirada interseccional y de derechos humanos, pueden implicar retrocesos en consensos que se vienen plasmando hace décadas a nivel internacional.
Derechos Digitales ha sido participante activa de las discusiones: en octubre de 2022 co-presidimos la reunión de expertas realizada en preparación para la CSW y participaremos intensamente de las actividades oficiales y paralelas a lo largo de toda la reunión en Nueva York.
En esta columna compartimos algunas impresiones y prioridades que creemos que deben ser consideradas en las discusiones, a partir de una detenida revisión del borrador inicial de conclusiones de la CSW67.
Una perspectiva de derechos para contrarrestar el determinismo tecnológico
Si bien podemos afirmar que desde el derecho internacional han habido avances en comprender que las normas de derechos humanos y su aplicación tienen que acompañar la transformación tecnológica, en la práctica vemos escasos compromisos por implementar tales consensos.
Como resultado, las brechas sociales y de género se amplifican y profundizan. El caso latinoamericano refleja cómo las desigualdades estructurales se replican en el entorno tecnológico y grupos históricamente excluidos del acceso a derechos encuentran no solamente las mismas barreras de acceso y uso de tecnologías, sino que están sujetos a nuevas y más complejas formas de violencia, explotación y exclusión.
Casos como el de Belén Whittingslow en Paraguay y de las trabajadoras en aplicaciones de limpieza son crudos ejemplos de las injusticias que se recrudecen alrededor de estos temas. En el segundo caso, también muestran como las mismas se automatizan en forma de códigos algorítmicos.
La vigilancia masiva o dirigida hacia periodistas, defensoras de derechos humanos y grupos feministas, evidencian cómo prácticas autoritarias de persecución, criminalización y silenciamiento de mujeres se refinan con apoyo de nuevas tecnologías de vigilancia.
Frente a evidencias de crecientes de abusos y vulneraciones de derechos facilitadas por las tecnologías en las últimas décadas, la comunidad internacional se vió obligada a superar el mito de la “independencia del ciberespacio” y reconocer las implicancias de las tecnologías digitales en los derechos humanos. Es fundamental que los gobiernos reunidos en la CSW67 construyan sus consensos a partir de la noción, duramente comprobada en la experiencia vivida de millones de personas, de que la tecnología no va a resolver problemas estructurales como los relacionados al hecho de que ciertas poblaciones han sido históricamente marginadas del acceso a derechos en su totalidad.
Además de compromisos concretos con garantizar efectiva diversidad en la producción tecnológica e incentivos al desarrollo de tecnologías alineadas con el respeto y protección de derechos humanos, los Estados deben garantizar un acceso significativo a internet para todas las personas y que los mismos derechos que ellas tienen fuera de línea se apliquen en línea. Se deben adoptar medidas para limitar y regular el desarrollo y uso de tecnologías con potencial discriminatorio y abusivo en relación a los derechos humanos.
Abordar a la innovación, el cambio tecnológico y la educación digital desde una perspectiva de derechos humanos, reconociendo los marcos existentes en la materia, es crucial para que éstos puedan tener algún rol en el alcance de la equidad de género. Cualquier recomendación distinta puede incrementar brechas de género, avalar prácticas autoritarias y retroceder en consensos duramente conquistados a nivel internacional.
El combate a la violencia y censura de género más allá de la criminalización y el paternalismo
Sabemos que la violencia de género facilitada por tecnologías es creciente, y genera múltiples y profundos impactos individuales y colectivos al implicar una forma de censura de género.
En América Latina, la violencia que se manifiesta en el entorno en línea es un duro reflejo de sociedades marcadas por el patriarcado, la misoginia y la homofobia y una extensión de múltiples violencias de género vividas en el ámbito doméstico y los espacios públicos.
La violencia política de género, por su parte, ha representado una barrera adicional a la participación de las mujeres y personas LGBTQIA+ en los espacios de poder y toma de decisión. Junto a la violencia contra periodistas defensoras de derechos humanos, es mucha veces perpetrada por funcionarios y autoridades públicas, como se ha observado en el caso de Brasil, El Salvador y México.
Es urgente el desarrollo de políticas públicas que respondan a esas violencias, responsabilicen a quienes la promueven – incluso cuando se trata de autoridades públicas – y establezcan mecanismos efectivos de reparación. Respuestas desde el derecho penal pueden ser necesarias, pero no son suficientes para dar cuenta de la complejidad del problema y la diversidad de experiencias de vida de las sobrevivientes.
Legislaciones penales promovidas sin perspectiva de derechos humanos pueden ocasionar criminalización y retrocesos en materia de acceso a derechos. El test tripartito y los criterios de legalidad, necesidad y proporcionalidad deben ser considerados en cualquier política o acción destinada a la restricción de contenidos de modo a evitar la criminalización y censura de expresiones legítimas, incluso de activistas mujeres y LGBTQIA+.
Es necesario que la CSW pueda incentivar el desarrollo de conceptos comunes y marcos basados en los derechos humanos para responder a todas las formas de violencia de género, incluyendo las mediadas por las tecnologías.
Por una transformación digital basada en la autonomía
La equidad de género jamás puede ser utilizada como argumento para la implementación de sistemas digitales sin criterios de atención a los derechos humanos, como observamos nuevamente en el caso latinoamericano.
Aquí, muchas de las iniciativas de uso de Inteligencia Artificial (IA) en el sector público se dirigen a grupos en situación de vulnerabilidad que terminan expuestos a la recolección de sus datos para distintos fines sin capacidad de ofrecer su consentimiento informado de manera previa y sin mecanismos efectivos de protección ni acceso a la justicia, incluso frente a decisiones automatizadas que se tomen sobre su presente y futuro.
Además de la garantía de derechos básicos a la protección de sus datos – con garantías especiales para la infancia –, las mujeres y personas LGBTQIA+ deben contar con mecanismos efectivos para participar en decisiones sobre el desarrollo y uso de sistemas con potencial de afectar su bienestar.
Tal como señala la Recomendación sobre Ética de la Inteligencia Artificial, adoptada por 193 países de la Unesco, los Estados deben generar medidas efectivas para la realización de estudios de impacto en derechos humanos en el desarrollo e implementación de este tipo de tecnologías. Especial atención debe darse a sus implicaciones en derechos económicos y sociales y al potencial impacto a grupos en condición de vulnerabilidad. Esos estudios deben efectivamente informar la toma de decisiones sobre su desarrollo y adopción, con el establecimiento de límites estrictos a aquellos que no cumplan con criterios mínimos – como ha recomendado la anterior Alta Comisionada de las Naciones Unidas para los Derechos Humanos, Michelle Bachelet.
Ningún tipo de innovación puede construirse con base en la vulneración de derechos, la explotación y el incremento de brechas e injusticias de género. Las empresas de tecnología deben cumplir con la responsabilidad de respetar y proteger los derechos humanos y los Estados deben adoptar medidas proactivas para promover marcos de transparencia y rendición de cuentas a tales empresas.
Por una innovación capaz de transformar estructuras de género
Es bien sabido que las tecnologías no son neutrales y que tampoco conllevan en sí mismas el poder de transformar realidades sociales. Sostener que la innovación y el cambio tecnológico pueden en sí mismos generar mayor equidad es ignorar la realidad en que las desigualdades e injusticias se plasman y automatizan en crueles códigos algorítmicos. No sólo eso: las brechas relacionadas al desarrollo tecnológico a nivel geopolítico – con las grandes empresas tecnológicas mayormente concentradas en pocos países del Norte Global – reproducen estructuras de extracción y explotación que nos remiten al contexto colonial.
Hay evidencias desde distintas fuentes y perspectivas de cómo tecnologías desarrolladas bajo lógicas comerciales basadas en la vigilancia no solo no contribuyen con la superación de brechas de género, sino que las profundizan. Cambiar esta lógica implica adoptar medidas concretas y proactivas para la promoción de una innovación no solo responsable, pero comprometida con la justicia de género.
Eso incluye avanzar efectivamente hacia la superación de brechas de género más allá de lo digital, pero también es necesario establecer políticas serias de inclusión y participación transversales y con perspectiva de género, reconociendo los avances y acuerdos relacionados a la gobernanza digital desde múltiples partes interesadas.
Son innumerables las iniciativas de producción tecnológica desde comunidades feministas en el Sur Global capaces de potenciar su uso hacia mayor equidad y justicia. Es urgente que los gobiernos reunidos en CSW67 incorporen miradas críticas a sus lentes tecno-solucionistas y adopten medidas para incentivar el desarrollo y la sostenibilidad de formas alternativas de pensar y construir tecnologías.
Sobre reivindicar el futuro
Hace décadas que nos enfrentamos a narrativas que intentan imponer una idea única de cómo las tecnologías irán a salvar o destruir a la humanidad. Navegamos entre extremos que van del optimismo al pesimismo, pero que se fundan en nociones deterministas de que las tecnologías – presentadas como neutrales – tienen por sí mismas, el poder de transformar el modo en que vivimos, para el bien o el mal.
Nociones tales como “inteligencia artificial” conllevan una idea de poder maquínico que oculta las varias capas de construcciones sociales y culturales que permiten operar a un sistema sociotécnico aplicado. Por ejemplo, al calcular si una mujer de piel negra está o no autorizada a entrar en determinado espacio, o si un video denunciando violencia policial será invisibilizado porque configura una violación de determinadas reglas de contenido en una plataforma de red social privada.
Estas narrativas no se quedan en el campo simbólico, sino que son instrumentos de poder que han sido movilizados para impulsar prácticas y políticas concretas, exclusivamente basadas en el determinismo tecnológico y a costa de la protección de los derechos humanos – como hemos identificado en distintos ámbitos- en los últimos años en América Latina.
Cuando el péndulo se inclina hacia el optimismo, observamos situaciones como la implementación de sistemas de reconocimiento facial en los más variados ámbitos y sin ninguna evidencia de que sean eficaces y libres de riesgos. A veces, incluso en ausencia de las infraestructuras necesarias para su implementación, lo que ha dejado cámaras sin uso en la región.
Cuando el péndulo se inclina hacia el pesimismo, se busca criminalizar tecnologías y las formas de utilizarlas, en vez de abordar los problemas que ese uso revela. Pudimos ver eso cuando la industria de entretenimiento emprendió su cruzada en contra de la piratería y las herramientas que permitían el acceso a contenidos protegidos por derechos de autor.
Pacto Digital Mundial
En la actualidad nos vemos atravesadas por diversas crisis sobrepuestas, algunas más visibles que otras. A la crisis ambiental se ha sumado la crisis de salud manifestada por la pandemia de COVID-19, además de las diversas crisis económicas, políticas, migratorias y sociales en la región. Pensar el futuro parece casi imposible frente a la incertidumbre que se impone.
Sin embargo, el Secretario General de las Naciones Unidas, António Guterres ha propuesto a los Estados construir una agenda de acción común que incluirá una Cumbre del Futuro y, en ese marco, desarrollar propuestas para el futuro digital. Según el Secretario General, la cooperación digital será crucial para que las tecnologías digitales se centren en el bien común y garanticen que «los daños potenciales del ámbito digital» no «corran el riesgo de eclipsar sus beneficios».
Un Enviado para la Tecnología fue designado por el Secretario General para liderar la construcción de un Pacto Digital Mundial, que parte de un proceso abierto y será finalmente definido por los gobiernos de todo el mundo.
Los temas puestos en discusión son: conectar a todas las personas a internet, incluyendo las escuelas; evitar la fragmentación; proteger los datos; aplicar los derechos humanos en línea; introducir criterios de responsabilidad para la discriminación y los contenidos engañosos; promover la regulación de la inteligencia artificial; el bien común digital como bien público global.
Hacia un futuro múltiple y multiplicado
No es la primera vez que la ONU lidera un proceso para pensar el rol de las tecnologías en la sociedad. Desde la primera Cumbre Mundial de la Sociedad de Información, hace 20 años, sabemos que los mismos derechos que las personas gozan fuera de línea, también deben ser protegidos en línea. Incluyendo la libertad de expresión, el acceso a la información y la privacidad.
Sabemos que existen brechas de acceso a las tecnologías entre los países y dentro de ellos. Sabemos que estas brechas incluyen brechas de género y que las violaciones a la privacidad afectan especialmente a niñes, mujeres y grupos vulnerables y marginalizados.
También sabemos que, además de los Estados, las empresas (incluidas las tecnológicas) tienen el deber de respetar y promover derechos humanos, y que las decisiones sobre gobernanza digital deben involucrar las múltiples partes interesadas: gobiernos, sector privado, academia y comunidad técnica, y la sociedad civil.
El Pacto Digital Mundial no puede retroceder en esos consensos, pero también debe ir mucho más allá. Debe escaparse de narrativas deterministas o polarizantes sobre tecnologías y pensar caminos que apunten a la superación de las brechas y desigualdades geopolíticas y sociales que se incrementan a raíz del desarrollo tecnológico.
Reconocemos que el proceso tiene límites y que debemos aún disputar los mecanismos para la participación de la sociedad civil en la redacción del texto final y en su implementación.
La consulta abierta llevada adelante por el Enviado para la Tecnología, disponible hasta el 31 de marzo, ofrece la oportunidad de incidir en la construcción de otras narrativas e imaginarios sobre tecnologías. Narrativas que no estén ancladas solamente en la protección de derechos y la búsqueda por justicia y equidad, sino también en siglos de conocimiento acumulado en la región sobre formas de pensar, hacer y relacionarse con las tecnologías, distintas al tecnosolucionismo predominante.
Escaparse de las trampas que nos encierran en un futuro controlado y monopolizado por modelos coloniales, extractivistas y de explotación es un desafío permanente. Podemos aprovechar la invitación de la ONU para atrevernos a experimentar e imaginar los múltiples futuros viables para nuestras sociedades.
¡Ahora es ya! Reconociendo desafíos y oportunidades desde la agenda internacional para las niñas en la era digital
Hoy en día nos encontramos con una desafiante brecha de acceso al internet entre hombres y mujeres. Según datos recientes de la Unión Internacional de Telecomunicaciones (UIT) tal brecha es del 17% a nivel global, y puede llegar a un 52% dependiendo del país. En este contexto, un reciente estudio demostró que las niñas además enfrentan una inserción a herramientas digitales más tardía comparada con la de los niños, y usualmente es restringida por sus tutores/madres/padres. Además de la brecha actual de acceso, otras brechas son generadas por el cómo se enseña y motiva a las niñas y mujeres jóvenes a interesarse en carreras relacionadas con el área STEM (Ciencia, Tecnología, ingeniería y Matemáticas) y por cómo se presentan recurrentemente situaciones de ciberviolencia hacia mujeres y niñas.
Estos son algunos de los retos a los que nos enfrentamos en la era digital. Por lo tanto, este año es clave reflexionar, porque no solamente el 11 de febrero es el Día Internacional de las Niñas y las Tecnologías de la Información (TICs), sino también porque la temática de la Comisión de la Condición Jurídica y Social de la Mujer N°67 (CSW67) de este año es: “La innovación y el cambio tecnológico, y la educación en la era digital para lograr la igualdad entre los géneros y el empoderamiento de todas las mujeres y las niñas”.
A través de esta columna, se identifican tres “por qué” claves en cuanto a estas temáticas.
¿Por qué hay que hablar de las niñas y las TICs?
Cuando las mujeres y las niñas tienen acceso a Internet y refuerzan sus habilidades para usar tecnologías digitales la sociedad se beneficia, como se indica a través de Bridging the Gender Divide. Según este estudio, existiría un beneficio para el desarrollo de sus vidas, con mayores oportunidades educacionales, laborales y acceso a la información; explicando que sin cerrar esta brecha digital no sería posible lograr superar los Objetivos de Desarrollo Sostenible. A su vez, el Foro Económico Mundial explica que 65% de los trabajos del futuro para niñas y niños serán plenamente dedicados a la innovación y a la tecnología, dónde las normas culturales e institucionales que no se actualizan generan límites bloqueando el potencial de las niñas en el área digital. Por último, de acuerdo con Plan International, la brecha tecnológica de género también afecta negativamente el potencial de crecimiento económico y desarrollo de los países explicando que, si en tres años 600 millones más de mujeres están conectadas a Internet, se traduciría en un aumento del PIB mundial de entre US$13 mil millones y US$18 mil millones.
Las tecnologías representan, efectivamente, innumerables oportunidades de fuentes de conocimiento, sobre todo considerando el potencial de cambio que poseen las herramientas tecnológicas para las niñas como futuras mujeres a nivel laboral, pero también como futuras líderes de cambio. Entendiendo que ya el 90% de los trabajos tienen un componente digital, se debe impulsar a que niñas se desarrollen y busquen oportunidades motivándolas desde las STEM.
Asimismo, la participación de niñas, mujeres y personas LGBTQIA+ en el espacio digital y la posibilidad de obtener sus beneficios solo se concretiza cuando tal espacio es seguro y receptivo. Factores como la seguridad digital y la respuesta a la violencia de género deben ser abordados no solo desde la regulación, pero también desde la industria, la cual actualmente es mayoritariamente masculina. Es clave contar con mayor participación de personas que representen a las diversidades en la producción tecnológica para avanzar hacia la construcción de espacios digitales seguros, receptivos y respetuosos, dónde compromisos y acciones concretas se muevan en tal dirección.
¿Por qué la CSW67 es importante para las niñas?
La CSW es una sesión de dos semanas organizada por Naciones Unidas donde Estados Miembros, líderes, organizaciones de la sociedad civil y personas con incidencia en la formulación de políticas públicas se reúnen para discutir avances y límites sobre los derechos de las mujeres e igualdad de género.
No se trata de una simple reunión, sino que también reafirma y fortalece los compromisos políticos de los actores previamente mencionados con los derechos de las mujeres y asegura la visibilidad de las temáticas por año. Allí se discuten temas emergentes y se promueve la generación de nuevos acercamientos de propuestas y acciones a las situaciones que mujeres y niñas enfrentan de forma desigual en el día a día.
La CSW67 de este año se llevará a cabo entre el 6 y el 17 de marzo, y es una instancia sumamente importante porque discutirá y establecerá la agenda sobre el cambio tecnológico en la era digital con perspectiva de género a nivel global.
Dentro de la temática principal de este año, existen diferentes temas que fueron destacados por la Reunión del Grupo Experto previo a la CSW67, entre los cuales se encuentran:
- Las brechas de género en el acceso y las competencias digitales.
- Ecosistemas de innovación inclusiva y transformación digital.
- Tecnología e innovación transformadoras de género.
- Abordar la violencia de género y la discriminación en línea y facilitadas por las TICs; y proteger los derechos de las mujeres y las niñas en línea.
- La necesidad de mejorar las métricas y los datos desglosados sobre las dimensiones de género de la innovación, el cambio tecnológico y la educación en la era digital.
La CSW es una herramienta importante para las niñas y mujeres jóvenes, ya que en esta se pueden levantar temáticas en las cuales ellas se ven afectadas e involucradas en el día a día. Y de manera más importante, considerar a través de todo este proceso las perspectivas de niñas y mujeres jóvenes es imprescindible para que la agenda tenga una perspectiva multidimensional e integral. La transversalidad de género no puede ser efectiva si se dejan atrás estas perspectivas. Es por esto que la CSW cuenta con espacios –como el diálogo interactivo con representantes líderes juveniles– dónde se comparten experiencias, principios y prioridades relacionadas a la innovación y cambios tecnológicos.
Consecuentemente, el hecho de que estos temas sean posicionados desde perspectivas tanto de niñas y mujeres jóvenes como de profesionales expertos, la importancia recae en que se plasmarán diferentes precedentes, en formato de acciones e información en concordancia a la temática, que serán cruciales para el futuro desarrollo de la era digital con perspectiva de género.
¿Por qué todavía no se soluciona la brecha digital?
Es necesario comprender que temas tan amplios no tienen una sola solución, sino que como su complejidad demuestra, se deben considerar una gran cantidad de variables para aportar desde perspectivas de género. Sobre todo desde la interseccionalidad que reflexione a partir de miradas regionales y locales que complementen soluciones integrales.
La brecha digital depende de cómo se entrega prioridad a los recursos y oportunidades para niñas en las TICs y muchas veces esto representa una dificultad, especialmente cuando los Estados no poseen recursos suficientes para esto. Dado lo anterior, existen múltiples iniciativas desde la sociedad civil para aportar para el desarrollo de estas temáticas para niñas y mujeres a nivel regional y global, desde Derechos Digitales existen diferentes instancias, desde publicaciones (clic aquí para la más actual), levantando proyectos como el Fondo de Respuesta Rápida hasta participando en instancias internacionales, tales como la CSW67.
Se precisan, a futuro, medidas que consideren el esfuerzo y compromiso de distintas partes, y a partir de instancias internacionales, como la CSW67, existe la oportunidad de considerar múltiples perspectivas para identificar las necesidades, prioridades y acciones que se requieren para avanzar hacia la igualdad de género, disminuir la brecha digital y mejorar el futuro para las niñas y las TICs.
UNESCO: Un proceso opaco y recomendaciones problemáticas para la regulación de las plataformas digitales
Texto disponível em português.
A fines de 2022, y de forma completamente sorpresiva, UNESCO inició un proceso de consulta para la generación de una guía para la regulación de las plataformas digitales.En noviembre de ese año, Derechos Digitales fue una de las organizaciones latinoamericanas que tuvo la oportunidad de participar de una consulta sobre el documento inicial, que contenía distintos aspectos problemáticas y al que hicimos varias puntualizaciones. Sin embargo, justo antes de las festividades de fin de año UNESCO inicio un proceso de consulta pública sobre una segunda versión del documento, que solo está disponible en inglés y francés.
La fecha límite para la realización de comentarios es el 20 de enero. UNESCO ha convocado una conferencia global, que tendrá lugar del 21 al 23 de febrero en su sede en París, y se ha anunciado que antes del evento se hará disponible una nueva versión del documento.
Lo primero que llama la atención es la premura y opacidad con la que se ha actuado y que no se condice con la manera en que se han desarrollado otros procesos de producción de lineamientos en materias relativas a internet. Por ejemplo, el proceso de construcción de los Indicadores de Universalidad de Internet (Principios ROAM) estuvo acompañado de un amplio proceso de participación abierta de múltiples partes interesadas. Por su parte, la conceptualización del documento “Por un internet confiable – Regular las Plataformas Digitales de Información como Bien Común” fue acompañada por un grupo de expertos sobre los que existe poca o ninguna información disponible.
Consideramos que el actual proceso presenta fallas desde su inicio, las que dificultan la participación efectiva de la sociedad civil organizada. Consideramos además que la producción de un documento que siga por la senda ya delineada pone en riesgo el ejercicio de derechos humanos, especialmente en los países de la “mayoría global”, que son los más ávidos por contar con guías de esta naturaleza, provenientes de organismos internacionales para la toma de decisión sobre sus regulaciones internas.
¿Qué nos preocupa?
Además de la escasa apertura y transparencia de proceso, en los comentarios realizados al documento compartido durante la consulta regional, hicimos varias críticas de fondo.
En primer lugar, existe una falta de definición respecto de los objetivos del documento. En su versión pública, el borrador indica que su propósito sería la «orientación de alto nivel para los Estados miembros y otras partes interesadas relevantes que están considerando cómo regular el contenido en línea». Sin embargo, a través de una lectura cuidadosa del documento, encontramos que todavía hay una oscilación entre establecer estándares y proporcionar guías, por lo que el objetivo continúa
siendo dudoso.
Una deficiencia fundamental de la propuesta tiene que ver con la conceptualización de lo que se propone. Hay problemas de falta de definición de conceptos clave. Por ejemplo, no hay claridad respecto a qué se entiende por “información como bien público”. Al mismo tiempo, es difícil encontrar conexión con experiencias previas de la propia UNESCO, por lo que no se ve claramente cómo el documento sirve para confirmar este concepto. Nos preocupa de sobremanera que este concepto aluda a una visión aséptica del espacio informacional, que es incompatible con el pluralismo y diversidad, que son parte esencial de la libertad de expresión.
Por otra parte, no se define específicamente cuál sería el contenido potencialmente dañino para la democracia y los derechos humanos que la propuesta busca combatir, a pesar de reconocer la falta de consenso global sobre la definición de lo que constituye contenido potencialmente dañino.
Tal como se presenta, el documento promueve la censura previa por parte de las plataformas y es incompatible con el artículo 13 de la Convención Americana sobre Derechos Humanos. Definir los conceptos es muy importante en la tarea de regular las plataformas. Sin embargo el más reciente borrador indica que esta conceptualización aún se está elaborando y se agregará en la próxima versión.
También se pierde la oportunidad de abordar problemas más sistémicos relacionados con el modelo de negocios basado en la explotación de datos personales de las grandes plataformas, sin atacar el problema de fondo, estrategia regulatoria que Shoshana Zuboff ha calificado como insuficiente pues «los daños sociales se aíslan y se tratan como crisis sin sentido«.
Las recomendaciones deben apuntar a las causas que producen determinados efectos sobre la moderación de contenidos, algo que no hace actualmente la propuesta aduciendo la complejidad de la coordinación con otros campos regulatorios.
Volver a comenzar, con un proceso confiable
Organizaciones de la sociedad civil, como Article 19, y redes de múltiples partes interesadas, como la Global Network Initiative (GNI) —de la que Derechos Digitales es miembro— han publicado posiciones que critican tanto el proceso como el contenido de la propuesta de la UNESCO. Consideramos que no es posible aprobar ningún documento o declaración en la conferencia que comienza en unos días en París, debido a este proceso turbulento y a la falta de definición de lo que la UNESCO y sus países miembros quieren hacer con este proceso.
Desde Derechos Digitales recomendamos no apresurar el proceso, pues se necesita realizar una consulta significativa y con múltiples partes interesadas.
En lo sustancial, nuestra recomendación es que la propuesta se centre en donde su contribución podría ser más útil, conforme a estándares internacionales de derechos humanos y a las guías de implementación provistas por los Principios Rectores de las Naciones Unidas sobre Derechos Humanos y Empresas. De este modo, debería concentrarse en aspectos tales como obligaciones de transparencia para las plataformas; procesos de reclamo expeditos y regidos por el principio de debido proceso en relación a decisiones de moderación de contenido; debida diligencia en la evaluación y mitigación de riesgos de las plataformas; mecanismos de reclamación, revisión y reparación en caso de decisiones erróneas, como se indica, por ejemplo, en los reportes de Al Sur sobre responsabilidad de intermediarios y moderación de contenidos desde una perspectiva latinoamericana.
Para lograr construir una internet confiable, desde hace años sabemos que los procesos de discusión, regulación y normalización también deben ser confiables, abiertos y transparentes, con un enfoque de múltiples partes interesadas y una participación significativa de la sociedad civil.
UNESCO tiene en sus manos todos los elementos para contribuir positivamente a este entorno, solo resta ponerlo en práctica de manera responsable, con un proceso transparente, con instancias adecuadas y el tiempo necesario de discusión.
UNESCO – Marco modelo para regular las plataformas digitales y asegurar la información como un bien común Borrador 1.0 – Comentarios de Derechos Digitales
Como parte de entrega de comentarios al borrador propuesto creemos importante poder formular algunas observaciones no solo a este texto, si no que también a la
estructura del proceso propuesto para su diseño.
Más allá de las elecciones en la UIT (o de la agencia de la que nunca has oído hablar)
El creciente número de incidentes y casos de ciberataques a empresas y gobiernos ha provocado numerosas discusiones sobre la necesidad de políticas públicas en ciberseguridad con enfoque de derechos humanos. Los derechos de los ciudadanos son doblemente vulnerados. Primero, porque sufren en carne propia los efectos perversos de estos ataques, y segundo, por la falta de inversión y coordinación por parte de los estados y las empresas. Por otra parte, hemos visto discusiones crecientes, a menudo acaloradas, sobre las regulaciones de inteligencia artificial.
El ámbito de la Unión Internacional de Telecomunicaciones (UIT) no fue la excepción. Como decíamos en un texto anterior, este año tuvieron lugar los tres mayores eventos de la UIT, la Asamblea Mundial de Normalización de las Telecomunicaciones (AMNT), en marzo en Ginebra, la Conferencia Mundial de Desarrollo de las Telecomunicaciones (CMDT), sin precedentes en el continente africano, acogida por Ruanda en junio, y la reunión de Plenipotenciarios, que tuvo lugar en Rumania en octubre. Desde Derechos Digitales participamos personalmente en las reuniones de Ruanda y Rumania.
Marcada por las elecciones de varios puestos de liderazgo, y cuyo máximo cargo como secretaria general fue ganado por Doreen Bogdan-Martin en una disputa que tenía connotaciones geopolíticas y puntos de vista diferentes entre la candidata estadounidense y su competidor ruso, la reunión de Plenipotenciarios discutió muchos temas que marcarán las actividades de la agencia en los próximos años.
En este texto evaluaremos algunos avances en el tema de ciberseguridad, principalmente desde el punto de vista de cuál ha sido el rol de la UIT y por qué su desempeño ha sido importante para los países del sur global. También analizaremos cómo una nueva resolución sobre IA en el ámbito de la UIT puede ser vista como una continuación de los proyectos de “IA para el bien” que la agencia ya venía desarrollando.
Las acciones de la UIT en el tema de la ciberseguridad
La UIT ha sido llamada la agencia de la ONU más importante de la que nunca has oído hablar. Es el organismo especializado de las Naciones Unidas para las tecnologías de la información y la comunicación (TIC), formada en 1865. Cada cuatro años, los Estados miembros se reúnen en la reunión de plenipotenciarios para discutir y planificar el curso de los próximos años. El tema de la ciberseguridad se ha discutido cada vez más en esta reunión y principalmente dentro del ámbito de trabajo de los sectores de normalización (UIT-T) y desarrollo (UIT-D).
Son múltiples los roles desempeñados por la UIT en el campo de la ciberseguridad, que resultan particularmente importantes para los países del sur global. Junto con otros actores como el Banco Mundial, la UIT publicó la “Guía para el desarrollo de una Estrategia Nacional de Ciberseguridad”, que actualmente se encuentra en su segunda edición. Además de abordar cuestiones básicas del proceso sobre cómo crear esta política pública, la Guía incluye buenas prácticas sobre el contenido de la propia estrategia. Esto es relevante para países que, como Chile y México, actualmente están discutiendo la evaluación y renovación de una estrategia nacional e incluso la creación de leyes de ciberseguridad.
Además, el Índice Global de Ciberseguridad ha servido durante años como indicador y referencia para la evaluación de los Estados en temas clave cuando se habla de ciberseguridad. La Agenda Global de Ciberseguridad es otra herramienta lanzada en 2007, que ha influido en la creación de políticas públicas a nivel nacional, especialmente en los países del sur global. Se trata de un instrumento internacional de cooperación lanzado en 2015, que hasta el día de hoy genera controversia por tratarse de un instrumento internacional fuera del mandato de la agencia, como pudimos ver en las intensas discusiones de la reunión Plenipotenciaria este año.
“IA para el bien”: consolidación del trabajo de IA
El trabajo de la UIT sobre inteligencia artificial (IA) no es nuevo. El programa “AI for Good” y junto con el Gobierno de Suiza y otras 40 agencias asociadas en el sistema de las Naciones Unidas, como la UNESCO, la UNCTAD, la FAO, por ejemplo, la UIT ha desarrollado proyectos para identificar aplicaciones prácticas de la IA, proporcionar soluciones a escalar para tener impactos globales y acelerar el uso de esta tecnología para cumplir con los Objetivos de Desarrollo Sostenible (ODS).
Funciona como una gran plataforma de IA en el sistema de la ONU, pero que vemos al margen de otras discusiones importantes sobre el uso de este tipo de tecnología contra los derechos humanos, como lo han destacado en varias ocasiones otros órganos de los sistemas de derechos humanos. La novedad este año fue la aprobación de una resolución específica sobre IA en el ámbito de la UIT ahora en Plenipotenciario, que consolida la actuación del organismo en esta materia. El riesgo en este caso es que la UIT ignore la existencia de violaciones de derechos o vaya más allá de su mandato.
La acción interinstitucional de esta agencia en temas de IA debe entenderse en el contexto de otros espacios multilaterales donde se discutan los usos de la IA contra los derechos humanos. Este es un factor de suma importancia para que los ejemplos de “AI for good” no oculten posibles sesgos discriminatorios y otros riesgos señalados en el uso de esta tecnología.
La perspectiva de derechos humanos
Debemos prestar atención a lo que se está discutiendo en la UIT. Primero, en el cumplimiento de la actuación de la agencia dentro de su competencia, por ejemplo, siguiendo su rol como mediadora/facilitadora de la línea de acción C5 de la Cumbre Mundial sobre la Sociedad de la Información (CMSI), en la creación de confianza y seguridad de las TIC. En segundo lugar, evitar que en este espacio se desarrollen temas ajenos al ámbito de la agencia en lugar de otros espacios idóneos, más participativos y multisectoriales.
Por un lado, vemos a la UIT jugando un papel importante en ciberseguridad para el sector público y privado, principalmente relacionado con actividades de investigación, normalización, difusión de buenas prácticas y formación.
Este rol resulta muy importante para los países del sur global, dado que es un referente. Es necesario entender que la apertura de la agencia es fundamental para fomentar la discusión de aspectos relevantes en la construcción de políticas públicas de ciberseguridad, que está relacionada con el cumplimiento de los derechos humanos.
Posibles caminos a seguir
Es necesaria una mayor participación de la sociedad civil en las decisiones y diseños que se hacen en la UIT. Quizás los resultados de las elecciones de la agencia apunten a un camino más abierto para la participación de las múltiples partes interesadas. Mientras tanto, las organizaciones pueden seguir uno de los cuatro caminos para participar en este espacio, descritos por la organización Artículo 19: afiliación a la UIT, participación en una delegación nacional, participación en consultas públicas o estar al tanto de los temas que la UIT pretende incluir en su ámbito de trabajo.
Tenemos por delante cuatro años de discusiones importantísimas en la UIT y necesitamos una mayor participación en temas de ciberseguridad e IA, ya sea discutiendo los temas de las comisiones de estudio de cada sector, contribuyendo en contribuciones locales o regionales a la agencia, demandando más espacio para la participación de la sociedad civil o participando en los proyectos desarrollados por la agencia.
Construyendo caminos hacia un futuro digital común: notas desde el IGF en Adís Abeba
El Foro para la Gobernanza de Internet (IGF), un evento anual que desde 2006 supone una instancia de discusión abierta, global y multisectorial sobre internet, con el patrocinio de la Organización de las Naciones Unidas, tuvo recientemente su decimoséptimo encuentro anual en Adís Abeba, Etiopía
El evento estuvo organizado alrededor de la consigna “Internet resiliente para un futuro sostenible compartido y común”. El programa, construido a partir de propuestas recibidas de la comunidad de gobernanza de internet, tenía como temas “Conectando a todas las personas y protegiendo los derechos humanos”; “Evitando la fragmentación de internet”; “Gobernando datos y protegiendo la privacidad”; “Facilitando la seguridad y rendición de cuentas”, y “lidiando con las nuevas tecnologías, incluso IA”.
Derechos Digitales estuvo nuevamente allí. Participamos de numerosos paneles y reuniones sobre inteligencia artificial, inclusión y regulación de plataformas (entre muchos otros temas), llevando preocupaciones y propuestas desde América Latina. Además, intervinimos en la sesión inaugural, buscando resaltar las desigualdades que permean el ecosistema de gobernanza de internet y demandar acciones proactivas que garanticen la participación equitativa de todas las partes interesadas.
El evento fue una oportunidad de reencuentro, articulación y profunda reflexión. Además, puso acento en la necesidad de coordinar debates globales y equilibrar voces. Es la primera ocasión en que el IGF vuelve a realizarse en un país del Sur Global, desde su décima edición en 2016. Y nuevamente se volvió destacar la necesidad de que estos países y sus comunidades tengan una participación activa en la definición de prioridades y la toma de decisiones.
Conectividad desde el Sur: inclusión digital entre contradicciones
La realización del IGF en Etiopía generó cuestionamientos en la sociedad civil, dentro y fuera del país. Mientras algunas personas y organizaciones optaron por no participar, otras, como la Asociación para el Progreso de las Comunicaciones (APC, de la cual Derechos Digitales es miembro), defendieron la participación en el evento para conectarse con organizaciones locales, visibilizar su trabajo y denunciar abusos a los derechos humanos ocurridos en el país. Eso fue reconocido por representantes de distintos sectores y países en la sesión de cierre, durante la cual una representante de la coalición de sociedad civil brasileña por derechos digitales agradeció la recepción local: “la historia de este país es inspiradora y todas deberíamos dedicar algún tiempo a aprender más sobre su lucha por la libertad”.
El foco principal de las demandas fue restaurar la conexión a internet en regiones como Tigré, en el norte de Etiopía, afectada por un conflicto armado entre fuerzas separatistas y el gobierno central desde fines de 2020. Los cortes de internet en el país y sus impactos fueron objeto de discusión en diferentes sesiones, actividades paralelas e, incluso, en eventos previos a la realización del IGF, que tenía la conexión de todas las personas como parte de sus temas centrales. Según el Consejo de Derechos Humanos de las Naciones Unidas, “las interrupciones del acceso a Internet menoscaban directamente los esfuerzos para cerrar la brecha digital […] lo que amenaza el logro de los Objetivos de Desarrollo Sostenible. Estas interrupciones socavan la capacidad de las personas de participar en los debates y las decisiones que configuran su vida y contribuyen a crear sociedades seguras y prósperas”.
Resulta inoficioso e inconsistente boicotear a un país del mundo mayoritario por sus situaciones de crisis de derechos humanos, mientras aceptamos aquellas provocadas o apoyadas desde el norte global. Tener parte del mundo conectado y parte del mundo excluido no es un problema meramente técnico o económico, ni un problema exclusivo del sur, sino un problema político global. Un futuro digital justo, inclusivo y sostenible demanda no solo un pacto global, sino responsabilidades compartidas, incluso desde los países más conectados en promover mecanismos de apoyo y cooperación que faciliten entornos propicios para su construcción.
Hacia un Pacto Digital Mundial
Más allá de las contingencias, debemos también considerar al IGF dentro del contexto global más amplio. En septiembre de 2021, la oficina del Secretario General de las Naciones Unidas lanzó el informe “Nuestra Agenda Común”, proponiendo un Pacto Digital Mundial (o “Global Digital Compact”), cuyo objetivo es esbozar “principios compartidos para un futuro digital abierto, libre y seguro para todos”. La propuesta orientó buena parte de las discusiones en el IGF17, así como en la reciente reunión de Latinoamérica y el Caribe del IGF.
Por cierto, se trata de un proceso amplio y extenso. Desde hace varios años, los miembros de la Organización de las Naciones Unidas han tomado más seriamente la gobernanza de internet, designando un Panel de Alto Nivel sobre la Cooperación Digital en 2018, cuyo reporte de 2019 fue usado como la base para la Hoja de ruta para la Cooperación Digital del Secretario General de la ONU en 2020. Se creó desde la cabeza de la ONU una Oficina del Enviado del Secretario General para la Tecnología (el “Tech Envoy”) y en 2022 se designó un Panel de Liderazgo del IGF.
Sin embargo, el Pacto Digital Mundial —que será objeto de ratificación por la ONU en la Cumbre del Futuro en septiembre de 2024— debería ser un producto de deliberaciones como las que tienen lugar en el IGF. Por esto, a medida que las decisiones sobre el futuro de internet ganan mayor importancia, la centralidad del IGF como plataforma de colaboración y coordinación efectiva de múltiples partes interesadas debería aumentar en lugar de disminuir.
Más allá de las buenas intenciones de la ONU y los loables fines de los informes de alto nivel, es necesario reconocer un contexto de creciente fragmentación y segmentación en las decisiones sobre gobernanza de internet, lo que genera nuevos desafíos para la participación, por ejemplo, de organizaciones de la sociedad civil en los distintos espacios de debate. Frente a ese escenario, el rol de organizaciones como Derechos Digitales es clave en reclamar espacios como el IGF desde el mundo mayoritario, como uno de los pocos espacios multisectoriales donde todavía es posible tener una voz para influir en el futuro digital.
El IGF sigue siendo una oportunidad valiosa de cooperación entre la comunidad internacional dedicada a la defensa de los derechos humanos en el entorno digital. Que esa interacción tenga impacto real depende tanto de la propia comunidad como de la membresía ONU que ha puesto la atención en ella. Sin fingir ignorancia sobre las fuerzas que intentan dar forma al futuro digital, la democratización de los espacios de gobernanza depende también de nuestra activa participación en los mismos.
Privacidad por diseño y otros asuntos necesarios
Hace algunas semanas se celebró la reunión 115 del IETF, un foro del que hemos hablado antes, donde se definen los protocolos técnicos con que funciona internet. Esta vez los derechos humanos fueron tema de conversación en varias sesiones de trabajo, incluyendo la reunión abierta del Comité de Arquitectura de Internet (IAB por sus siglas en inglés), su directiva técnica. Allí se discutieron los mecanismos de censura de internet, y en general el rol de la tecnología en la crisis política y social que se vive actualmente en Irán.
En esa misma sesión se presentó una primera versión del documento Particiones para la privacidad, que propone una terminología común para los distintos protocolos que buscan mejorar la privacidad manejando por separado la identidad (quién) y los datos (qué) de las personas usuarias. Este tipo de protocolos están siendo desarrollados en cuatro grupos de trabajo dentro de IETF, y desde el IAB se espera recibir comentarios de retroalimentación para definir mejor en qué consiste el principio de “partición”, reconociendo que no es una solución completa, sino apenas una herramienta para mejorar la privacidad en internet.
Uno de los primeros comentarios recibidos propone alimentar el documento con el RFC6973 sobre consideraciones de privacidad para los protocolos de internet. Allí se declara que la forma más simple de reducir los riesgos para la privacidad asociados al uso de cierto protocolo consiste en “limitar la cantidad de datos que se pueden recolectar” a través de este; otro comentario plantea la necesidad de aclarar que los efectos positivos o negativos sobre la privacidad en estas arquitecturas, dependen de quién tenga la capacidad de decidir hacia dónde se dirige el tráfico particionado, ya que las arquitecturas más complejas tienden a promover una mayor centralización del mercado.
Los dos comentarios apuntan a asuntos que transcienden el carácter técnico de la discusión, pues tienen que ver con el poder de decisión sobre la manera como las empresas implementan los protocolos, es decir, qué tipo de información se espera que manejen, y cómo. En lo técnico, la discusión no se ha centrado en cómo recolectar menos datos, sino en desarrollar protocolos más sofisticados para que la misma cantidad de datos se maneje con “mejor privacidad” para las personas usuarias. Y este asunto está presente en distintos escenarios de IETF. Por ejemplo, durante una reunión paralela cuya convocatoria partía de la siguiente pregunta: ¿es posible un filtrado web que preserve la privacidad?
Las opciones técnicas para responder a esa pregunta apuntan al cifrado, pero como mencionó uno de los asistentes, la cuestión no es técnica sino política y el foco del problema no es el filtrado sino el consentimiento de la persona usuaria. Sin su consentimiento, cualquier forma de filtrado se convierte en censura y requiere un despliegue técnico más complejo. ¿Y para qué se necesita? En este caso, para combatir la explotación sexual infantil. El problema con las infraestructuras de censura es que, una vez establecidas, se pueden usar para propósitos muy diferentes, y con casos como este se corre el riesgo de cerrar rápidamente el debate pues resulta difícil oponerse a la urgencia de proteger los derechos de los niños, niñas y niñes.
Como señala la antropóloga Corinne Cath-Speth en su artículo La tecnología que decidimos crear, la preocupación por el ejercicio de derechos humanos ha estado presente en IETF desde hace décadas. Sin embargo, la idea compartida de que quienes diseñan las tecnologías no deben ordenar la manera como estas deben ser usadas, dificulta mucho la posibilidad de sostener discusiones explícitas sobre derechos humanos durante el proceso de diseño de protocolos, pues se considera que todo lo que no pueda ser medido, probado estadísticamente y observado en la red, no puede hacer parte del proceso de diseño.
Este artículo fue ganador del Premio a la Investigación Aplicada en Redes 2022 por la descripción etnográfica que hace de la cultura organizativa del IETF y cómo esta limita la capacidad de quienes defienden los derechos humanos para incluir sus preocupaciones en los debates técnicos. Durante IETF 115 fue presentado en dos sesiones: la reunión abierta del Grupo de investigación de internet (IRTF por sus siglas en inglés) y el Grupo sobre consideraciones de derechos humanos en los protocolos (HRPC por sus siglas en inglés).
Para la autora, quien participó de la creación de HRPC en 2014, el panorama hoy ha cambiado bastante y este premio es una muestra de ello. Por eso, considera necesario pensar en cuáles son los siguientes pasos para continuar integrando las discusiones políticas dentro del desarrollo técnico. En concordancia, desde la coordinación de HRPC se propuso una revisión de los objetivos y alcance del Grupo, que se realizará de aquí a la próxima reunión, en marzo de 2023.
En nuestra experiencia como Derechos Digitales, que hemos intentado participar activamente desde 2017, en IETF se está abriendo un campo cada vez más propicio para la incidencia de temas de derechos humanos y justicia social, desde las etapas tempranas de diseño de tecnologías de internet. Todavía falta mucho, y vale la pena involucrarse en esta conversación.