Temática: Género

Espacios digitales más seguros, más libres y más inclusivos

 El miércoles 8 de marzo, las calles de diferentes cuidades de América Latina se llenaron de mujeres manifestando, por la igualdad de oportunidades, una vida sin violencia machista, la reducción de la brecha de género, entre muchas otras consignas.

Desde una perspectiva de género, ¿qué valor se da en el espacio digital  a los derechos de las mujeres? ¿Existe mayor libertad e igualdad para las mujeres, o se trata de un espacio con más violencia machista y con menor reconocimiento de derechos?

Los movimientos de mujeres se han apropiado de la tecnología como medio denunciar las desigualdades,  organizar campañas , para ocupar espacios en el sector TIC como usuarias, investigadoras, programadoras o creadoras de opinión. Para hacer públicas temáticas invisibilizadas, compartir opiniones, y debatirlas. Las redes favorecen la interacción y la sororidad digital: amplían la  posibilidad de activismo feminista,  la difusión de reclamos o denuncias a través de posteos. Constituyen una herramienta que comparte y expande.

Si embargo, basta analizar  cómo se producen las interacciones en entornos digitales, para percibir que  se reproducen los estereotipos sexistas presentes en entornos offline. Al tratarse de nuevos medios, en contínua evolución, no es raro que aparezcan nuevas formas de violencia de género y que se  intensifiquen las violencias tradicionales. Estas formas se refuerzan debido a la viralidad, permanencia y descentralización.

Es en este contexto, que se vuelven fundamentales los movimientos ciberfeministas (o el llamado feminismo ciberactivista). La defensa de los derechos y la visibilización de problemáticas sociales que estos medios traen aparejados, constituyen los ejes centrales sobre los que trabajan estos movimientos.

Si bien el ciberfeminismo se trata de un concepto en permanente construcción y movimiento  en torno a las diferentes formas de concebir la práctica feminista virtual, se pueden identificar algunos objetivos comunes: el modelo hegemónico del ciberespacio y del diseño industrial responde a un modelo heteropatriarcal, el empoderamiento de las mujeres se favorece mediante la apropiación en el acceso, uso, contribución, diseño y desarrollo de las TIC,  a mayor presencia de mujeres en las TIC, mayor autoridad femenina en la sociedad contemporánea, las TIC brindan la oportunidad de desafiar la autoridad masculina y las relaciones de dominación basadas en el género para crear prácticas más igualitarias.

La construcción de espacios digitales más libres, más seguros y más inclusivos es tarea de los gobiernos, de las empresas tecnológicas y de la sociedad civil. Las herramientas y los medios, en constante cambio, hacen que sea una tarea desafiante y en continua. Y no hay dudas, la construcción es colectiva.

¿Tecnologías para la equidad y el empoderamiento? Notas para superar perspectivas coloniales y deterministas sobre las tecnologías

Esta semana se iniciaron los trabajos de la 67a Comisión de la Condición Jurídica y Social de la Mujer (CSW67, por su sigla en inglés). La CSW es una instancia auspiciada por Naciones Unidas que tiene como objetivo avanzar hacia la “igualdad y el empoderamiento de las mujeres”.

Este año, la Comisión tiene como tema prioritario “La innovación y el cambio tecnológico, y la educación en la era digital para lograr la igualdad de género y el empoderamiento de todas las mujeres y las niñas”. El tema ofrece muchas posibilidades de avanzar en acuerdos urgentes y necesarios sobre como las tecnologías digitales pueden efectivamente favorecer la equidad de género.

A la vez, representa una oportunidad para reforzar lineamientos que permitan establecer límites necesarios para que estas tecnologías no profundicen desigualdades. Sin embargo, el colonialismo, el punitivismo y el determinismo tecnológico pueden representar barreras importantes para que se alcancen conclusiones significativas. Peor que eso: sumados a la ausencia de una mirada interseccional y de derechos humanos, pueden implicar retrocesos en consensos que se vienen plasmando hace décadas a nivel internacional.

Derechos Digitales ha sido participante activa de las discusiones: en octubre de 2022 co-presidimos la reunión de expertas realizada en preparación para la CSW y participaremos intensamente de las actividades oficiales y paralelas a lo largo de toda la reunión en Nueva York.

En esta columna compartimos algunas impresiones y prioridades que creemos que deben ser consideradas en las discusiones, a partir de una detenida revisión del borrador inicial de conclusiones de la CSW67.

Una perspectiva de derechos para contrarrestar el determinismo tecnológico

Si bien podemos afirmar que desde el derecho internacional han habido avances en comprender que las normas de derechos humanos y su aplicación tienen que acompañar la transformación tecnológica, en la práctica vemos escasos compromisos por implementar tales consensos.

Como resultado, las brechas sociales y de género se amplifican y profundizan. El caso latinoamericano refleja cómo las desigualdades estructurales se replican en el entorno tecnológico y grupos históricamente excluidos del acceso a derechos encuentran no solamente las mismas barreras de acceso y uso de tecnologías, sino que están sujetos a nuevas y más complejas formas de violencia, explotación y exclusión.

Casos como el de Belén Whittingslow en Paraguay y de las trabajadoras en aplicaciones de limpieza son crudos ejemplos de las injusticias que se recrudecen alrededor de estos temas. En el segundo caso, también muestran como las mismas se automatizan en forma de códigos algorítmicos.

La vigilancia masiva o dirigida hacia periodistas, defensoras de derechos humanos y grupos feministas, evidencian cómo prácticas autoritarias de persecución, criminalización y silenciamiento de mujeres se refinan con apoyo de nuevas tecnologías de vigilancia.

Frente a evidencias de crecientes de abusos y vulneraciones de derechos facilitadas por las tecnologías en las últimas décadas, la comunidad internacional se vió obligada a superar el mito de la “independencia del ciberespacio” y reconocer las implicancias de las tecnologías digitales en los derechos humanos. Es fundamental que los gobiernos reunidos en la CSW67 construyan sus consensos a partir de la noción, duramente comprobada en la experiencia vivida de millones de personas, de que la tecnología no va a resolver problemas estructurales como los relacionados al hecho de que ciertas poblaciones han sido históricamente marginadas del acceso a derechos en su totalidad.

Además de compromisos concretos con garantizar efectiva diversidad en la producción tecnológica e incentivos al desarrollo de tecnologías alineadas con el respeto y protección de derechos humanos, los Estados deben garantizar un acceso significativo a internet para todas las personas y que los mismos derechos que ellas tienen fuera de línea se apliquen en línea. Se deben adoptar medidas para limitar y regular el desarrollo y uso de tecnologías con potencial discriminatorio y abusivo en relación a los derechos humanos.

Abordar a la innovación, el cambio tecnológico y la educación digital desde una perspectiva de derechos humanos, reconociendo los marcos existentes en la materia, es crucial para que éstos puedan tener algún rol en el alcance de la equidad de género. Cualquier recomendación distinta puede incrementar brechas de género, avalar prácticas autoritarias y retroceder en consensos duramente conquistados a nivel internacional.

El combate a la violencia y censura de género más allá de la criminalización y el paternalismo

Sabemos que la violencia de género facilitada por tecnologías es creciente, y genera múltiples y profundos impactos individuales y colectivos al implicar una forma de censura de género.

En América Latina, la violencia que se manifiesta en el entorno en línea es un duro reflejo de sociedades marcadas por el patriarcado, la misoginia y la homofobia y una extensión de múltiples violencias de género vividas en el ámbito doméstico y los espacios públicos.

La violencia política de género, por su parte, ha representado una barrera adicional a la participación de las mujeres y personas LGBTQIA+ en los espacios de poder y toma de decisión. Junto a la violencia contra periodistas defensoras de derechos humanos, es mucha veces perpetrada por funcionarios y autoridades públicas, como se ha observado en el caso de Brasil, El Salvador y México.

Es urgente el desarrollo de políticas públicas que respondan a esas violencias, responsabilicen a quienes la promueven – incluso cuando se trata de autoridades públicas – y establezcan mecanismos efectivos de reparación. Respuestas desde el derecho penal pueden ser necesarias, pero no son suficientes para dar cuenta de la complejidad del problema y la diversidad de experiencias de vida de las sobrevivientes.

Legislaciones penales promovidas sin perspectiva de derechos humanos pueden ocasionar criminalización y retrocesos en materia de acceso a derechos. El test tripartito y los criterios de legalidad, necesidad y proporcionalidad deben ser considerados en cualquier política o acción destinada a la restricción de contenidos de modo a evitar la criminalización y censura de expresiones legítimas, incluso de activistas mujeres y LGBTQIA+.

Es necesario que la CSW pueda incentivar el desarrollo de conceptos comunes y marcos basados en los derechos humanos para responder a todas las formas de violencia de género, incluyendo las mediadas por las tecnologías.

Por una transformación digital basada en la autonomía

La equidad de género jamás puede ser utilizada como argumento para la implementación de sistemas digitales sin criterios de atención a los derechos humanos, como observamos nuevamente en el caso latinoamericano.

Aquí, muchas de las iniciativas de uso de Inteligencia Artificial (IA) en el sector público se dirigen a grupos en situación de vulnerabilidad que terminan expuestos a la recolección de sus datos para distintos fines sin capacidad de ofrecer su consentimiento informado de manera previa y sin mecanismos efectivos de protección ni acceso a la justicia, incluso frente a decisiones automatizadas que se tomen sobre su presente y futuro.

Además de la garantía de derechos básicos a la protección de sus datos – con garantías especiales para la infancia –, las mujeres y personas LGBTQIA+ deben contar con mecanismos efectivos para participar en decisiones sobre el desarrollo y uso de sistemas con potencial de afectar su bienestar.

Tal como señala la Recomendación sobre Ética de la Inteligencia Artificial, adoptada por 193 países de la Unesco, los Estados deben generar medidas efectivas para la realización de estudios de impacto en derechos humanos en el desarrollo e implementación de este tipo de tecnologías. Especial atención debe darse a sus implicaciones en derechos económicos y sociales y al potencial impacto a grupos en condición de vulnerabilidad. Esos estudios deben efectivamente informar la toma de decisiones sobre su desarrollo y adopción, con el establecimiento de límites estrictos a aquellos que no cumplan con criterios mínimos – como ha recomendado la anterior Alta Comisionada de las Naciones Unidas para los Derechos Humanos, Michelle Bachelet.

Ningún tipo de innovación puede construirse con base en la vulneración de derechos, la explotación y el incremento de brechas e injusticias de género. Las empresas de tecnología deben cumplir con la responsabilidad de respetar y proteger los derechos humanos y los Estados deben adoptar medidas proactivas para promover marcos de transparencia y rendición de cuentas a tales empresas.

Por una innovación capaz de transformar estructuras de género

Es bien sabido que las tecnologías no son neutrales y que tampoco conllevan en sí mismas el poder de transformar realidades sociales. Sostener que la innovación y el cambio tecnológico pueden en sí mismos generar mayor equidad es ignorar la realidad en que las desigualdades e injusticias se plasman y automatizan en crueles códigos algorítmicos. No sólo eso: las brechas relacionadas al desarrollo tecnológico a nivel geopolítico – con las grandes empresas tecnológicas mayormente concentradas en pocos países del Norte Global – reproducen estructuras de extracción y explotación que nos remiten al contexto colonial.

Hay evidencias desde distintas fuentes y perspectivas de cómo tecnologías desarrolladas bajo lógicas comerciales basadas en la vigilancia no solo no contribuyen con la superación de brechas de género, sino que las profundizan. Cambiar esta lógica implica adoptar medidas concretas y proactivas para la promoción de una innovación no solo responsable, pero comprometida con la justicia de género.

Eso incluye avanzar efectivamente hacia la superación de brechas de género más allá de lo digital, pero también es necesario establecer políticas serias de inclusión y participación transversales y con perspectiva de género, reconociendo los avances y acuerdos relacionados a la gobernanza digital desde múltiples partes interesadas.

Son innumerables las iniciativas de producción tecnológica desde comunidades feministas en el Sur Global capaces de potenciar su uso hacia mayor equidad y justicia. Es urgente que los gobiernos reunidos en CSW67 incorporen miradas críticas a sus lentes tecno-solucionistas y adopten medidas para incentivar el desarrollo y la sostenibilidad de formas alternativas de pensar y construir tecnologías.

Belén Whittingslow vs. Paraguay

En contextos de marcada desigualdad de género como en Paraguay y la región, son bien sabidos los niveles de discriminación, estigmatización y denegatoria de justicia que se evidencian en los casos donde mujeres denuncian ser víctimas de acoso sexual. Pero ¿Qué sucede cuando el acoso se ejerce mediante medios digitales? La respuesta no sorprende: la desprotección se profundiza.

Es así que el caso de Belén no puede ser analizado de manera aislada del contexto donde sucede. Un contexto marcado por altos índices de impunidad en casos de violencia de género, incluyendo casos de acoso sexual. Paraguay ocupa el puesto 100 de 153 países del mundo y 23 de 25 países de la región en el Global Gender Gap Index del Foro Económico Mundial del 2020, con una prevalencia de violencia de género de 17,9%. En particular, el caso tiene relación con los elementos estructurales que invisibilizan el acoso sexual como una forma grave de violencia, que ocurre de manera extendida y con impunidad en diversos ámbitos, especialmente los educativos y laborales.

Cuando las violencias son ejercidas a través de medios digitales, como en el caso de Belén, la falta de acceso a la justicia se agrava en tanto este tipo de violencia no ha sido abordada de manera integral por la legislación y las políticas públicas en Paraguay, al no considerarse que las TIC o las nuevas tecnologías profundizan la desigualdad de género y reproducen y/o refuerzan la violencia. 

Así, el caso de Belén evidencia muy claramente la falta de reconocimiento, por parte del Estado paraguayo, de que la violencia de género en línea constituye una violación de derechos humanos y una forma de discriminación y violencia.  Así también como la falta de aplicación debida de los instrumentos internacionales fundamentales de derechos humanos.

El proceso kafkiano al que fue sometida Belén

Mientras Belén estudiaba derecho en la Universidad Católica “Nuestra Señora de la Asunción” de Paraguay, fue víctima de acoso sexual por un profesor de la Universidad., En el momento de los hechos, el profesor era también agente estatal integrante del Consejo de la Magistratura y el Jurado de Enjuiciamiento de Magistrados de Paraguay, órganos con competencias fundamentales para el nombramiento y remoción de operadores judiciales.

El acoso sexual se inició de manera presencial dentro de la institución académica, en el marco de una relación estudiante-profesor, y continuó perpetuándose de manera digital, principalmente por medio de mensajes e imágenes enviadas a través de la aplicación instantánea de mensajería WhatsApp.

Tras una investigación deficiente y plagada de irregularidades, donde se destaca especialmente la negativa de realizar las pericias de los celulares (principal prueba del acoso), la denuncia fue desestimada.

La decisión fue ratificada mediante una resolución basada en estereotipos y prejuicios de género, donde el Fiscal Adjunto calificó el acoso sexual denunciado como una situación de “galanteo y cortejo”, ignorando abiertamente las manifestaciones de Belén y las pruebas adjuntadas que visibilizaban su clara disconformidad con la situación.

Sumado a esto, el sistema judicial fue utilizado como un medio para intimidarla y amenazarla. Así, inmediatamente después de la desestimación de la denuncia, Belén fue involucrada en dos procesos judiciales que continúan hasta el día de hoy.

Al día siguiente de haber sido notificada de la desestimación de la causa de acoso sexual, Belén fue imputada y posteriormente acusada penalmente sin pruebas en su contra, de haber pagado para falsificar calificaciones de la Universidad en exámenes que no rindió, dentro de la causa conocida como “Compra-nota”. Básicamente la Fiscalía presentó evidencias que correspondían a otras personas imputadas para sustentar los cargos, sin contar con ninguna que incrimine a Belén. Por otra parte, Belén se encuentra demandada en una acción civil por daños y perjuicios en la cual su acosador le reclama una indemnización de 450.000 USD, alegando que las declaraciones hechas por Belén  causaron daños a su imagen pública.

En ambas situaciones, la defensa de Belén ofreció reiteradamente la realización de la pericia de los teléfonos como forma de probar la conexión entre la denuncia de acoso con los dos procesos en cuestión. En la causa civil, resultaba especialmente evidente la necesidad de realizar la pericia dado que era la única forma de probar que las declaraciones no eran falsas. La producción de la prueba fue negada en ambos procesos. Vale destacar que uno de los argumentos utilizados en sede civil fue que la prueba ofrecida era sobreabundante e innecesaria por haber sido tratada en sede penal.

Por la causa penal de “compra-notas”, que está estrechamente vinculada a la intensificación de los mensajes e imágenes enviados a Beleén por su acosador, es que Beleén se encuentra actualmente como solicitante de refugio en Uruguay luego de que fuera declarada en rebeldía sin justificación legal, y fuera cancelada su defensa.

Marco internacional: pronunciamientos relevantes

Los instrumentos universales y regionales de derechos humanos establecen las obligaciones de los Estados de combatir todas las formas de discriminación contra la mujer, y de proteger sus derechos humanos, incluyendo el derecho de toda mujer a no ser objeto de violencia.

Si bien dichos cuerpos normativos no hacen referencia al ámbito digital- principalmente porque fueron elaborados previamente al desarrollo de Internet y las TICS- a medida que los espacios digitales se transforman y evolucionan, también deben hacerlo la aplicación y puesta en práctica de las normas de derechos humanos en ese sentido. Siguiendo el informe de la Relatora Especial sobre la violencia contra la mujer acerca de la violencia en línea de 2018, en el plano normativo, la interacción de la tecnología y las normas de derechos humanos de la mujer se caracteriza por el reconocimiento del principio de que los derechos de las personas también deben de estar protegidos en entornos digitales.

En el mismo sentido, la resolución aprobada por el Consejo de Derechos Humanos el 5 de Julio del 2018 reconoce que la definición de la violencia contra las mujeres y niñas se aplica de igual forma al espacio digital, condena todas las formas de violencia contra las mujeres y las niñas, incluida la violencia sexual y de género cometidas mediante el uso de las tecnologías digitales.

La CIDH ha manifestado que la violencia en Internet ha surgido como una nueva forma de violencia por razones de género, notando que se esté extendiendo rápidamente y que supone un peligro significativo. Mediante el informe “Violencia y discriminación contra mujeres, niñas y adolescentes: Buenas prácticas y desafíos en América Latina y en el Caribe”, reconoce que la violencia en línea contra las mujeres, adolescentes y niñas deriva en un riesgo elevado de actos violentos y de discriminación.

Conforme señalan las organizaciones litigantes, se espera que con la presentación de este caso ante el sistema interamericano,  llegue la tan esperada justicia para Belén y que el caso impulse a la generación de estándares interamericanos respecto a la violencia de género en línea, así como también políticas públicas adecuadas para la garantía de la independencia judicial en Paraguay. Desde Derechos Digitales, sumamos nuestras fuerzas a este caso que representa la realidad de muchas mujeres en la región.

¡Ahora es ya! Reconociendo desafíos y oportunidades desde la agenda internacional para las niñas en la era digital

Hoy en día nos encontramos con una desafiante brecha de acceso al internet entre hombres y mujeres. Según datos recientes de la Unión Internacional de Telecomunicaciones (UIT) tal brecha es del 17% a nivel global, y puede llegar a un 52% dependiendo del país. En este contexto, un reciente estudio demostró que las niñas además enfrentan una inserción a herramientas digitales más tardía comparada con la de los niños, y usualmente es restringida por sus tutores/madres/padres. Además de la brecha actual de acceso, otras brechas son generadas por el cómo se enseña y motiva a las niñas y mujeres jóvenes a interesarse en carreras relacionadas con el área STEM (Ciencia, Tecnología, ingeniería y Matemáticas) y por cómo se presentan recurrentemente situaciones de ciberviolencia hacia mujeres y niñas.

Estos son algunos de los retos a los que nos enfrentamos en la era digital. Por lo tanto, este año es clave reflexionar, porque no solamente el 11 de febrero es el Día Internacional de las Niñas y las Tecnologías de la Información (TICs), sino también porque la temática de la Comisión de la Condición Jurídica y Social de la Mujer N°67 (CSW67) de este año es: “La innovación y el cambio tecnológico, y la educación en la era digital para lograr la igualdad entre los géneros y el empoderamiento de todas las mujeres y las niñas”.

A través de esta columna, se identifican tres “por qué” claves en cuanto a estas temáticas.

¿Por qué hay que hablar de las niñas y las TICs?

Cuando las mujeres y las niñas tienen acceso a Internet y refuerzan sus habilidades para usar tecnologías digitales la sociedad se beneficia, como se indica a través de Bridging the Gender Divide. Según este estudio,  existiría un beneficio para el desarrollo de sus vidas, con mayores oportunidades educacionales, laborales y acceso a la información; explicando que sin cerrar esta brecha digital no sería posible lograr superar los Objetivos de Desarrollo Sostenible. A su vez, el Foro Económico Mundial explica que 65% de los trabajos del futuro para niñas y niños serán plenamente dedicados a la innovación y a la tecnología, dónde las normas culturales e institucionales que no se actualizan generan límites bloqueando el potencial de las niñas en el área digital. Por último, de acuerdo con Plan International, la brecha tecnológica de género también afecta negativamente el potencial de crecimiento económico y desarrollo de los países explicando que, si en tres años 600 millones más de mujeres están conectadas a Internet, se traduciría en un aumento del PIB mundial de entre US$13 mil millones y US$18 mil millones.

Las tecnologías representan, efectivamente, innumerables oportunidades de fuentes de conocimiento, sobre todo considerando el potencial de cambio que poseen las herramientas tecnológicas para las niñas como futuras mujeres a nivel laboral, pero también como futuras líderes de cambio. Entendiendo que ya el 90% de los trabajos tienen un componente digital, se debe impulsar a que niñas se desarrollen y busquen oportunidades motivándolas desde las STEM.

Asimismo, la participación de niñas, mujeres y personas LGBTQIA+ en el espacio digital y la posibilidad de obtener sus beneficios solo se concretiza cuando tal espacio es seguro y receptivo. Factores como la seguridad digital y la respuesta a la violencia de género deben ser abordados no solo desde la regulación, pero también desde la industria, la cual actualmente es mayoritariamente masculina. Es clave contar con mayor participación de personas que representen a las diversidades en la producción tecnológica para avanzar hacia la construcción de espacios digitales seguros, receptivos y respetuosos, dónde compromisos y acciones concretas se muevan en tal dirección.

¿Por qué la CSW67 es importante para las niñas?

La CSW es una sesión de dos semanas organizada por Naciones Unidas donde Estados Miembros, líderes, organizaciones de la sociedad civil y personas con incidencia en la formulación de políticas públicas se reúnen para discutir avances y límites sobre los derechos de las mujeres e igualdad de género.

No se trata de una simple reunión, sino que también reafirma y fortalece los compromisos políticos de los actores previamente mencionados con los derechos de las mujeres y asegura la visibilidad de las temáticas por año. Allí se discuten temas emergentes y se promueve la generación de nuevos acercamientos de propuestas y acciones a las situaciones que mujeres y niñas enfrentan de forma desigual en el día a día.

La CSW67 de este año se llevará a cabo entre el 6 y el 17 de marzo, y es una instancia sumamente importante porque discutirá y establecerá la agenda sobre el cambio tecnológico en la era digital con perspectiva de género a nivel global.

Dentro de la temática principal de este año, existen diferentes temas que fueron destacados por la Reunión del Grupo Experto previo a la CSW67, entre los cuales se encuentran:

  • Las brechas de género en el acceso y las competencias digitales.
  • Ecosistemas de innovación inclusiva y transformación digital.
  • Tecnología e innovación transformadoras de género.
  • Abordar la violencia de género y la discriminación en línea y facilitadas por las TICs; y proteger los derechos de las mujeres y las niñas en línea.
  • La necesidad de mejorar las métricas y los datos desglosados sobre las dimensiones de género de la innovación, el cambio tecnológico y la educación en la era digital.

La CSW es una herramienta importante para las niñas y mujeres jóvenes, ya que en esta se pueden levantar temáticas en las cuales ellas se ven afectadas e involucradas en el día a día. Y de manera más importante, considerar a través de todo este proceso las perspectivas de niñas y mujeres jóvenes es imprescindible para que la agenda tenga una perspectiva multidimensional e integral. La transversalidad de género no puede ser efectiva si se dejan atrás estas perspectivas. Es por esto que la CSW cuenta con espacios –como el diálogo interactivo con representantes líderes juveniles– dónde se comparten experiencias, principios y prioridades relacionadas a la innovación y cambios tecnológicos.

Consecuentemente, el hecho de que estos temas sean posicionados desde perspectivas tanto de niñas y mujeres jóvenes como de profesionales expertos, la importancia recae en que se plasmarán diferentes precedentes, en formato de acciones e información en concordancia a la temática, que serán cruciales para el futuro desarrollo de la era digital con perspectiva de género.

¿Por qué todavía no se soluciona la brecha digital?

Es necesario comprender que temas tan amplios no tienen una sola solución, sino que como su complejidad demuestra, se deben considerar una gran cantidad de variables para aportar desde perspectivas de género. Sobre todo desde la interseccionalidad que reflexione a partir de miradas regionales y locales que complementen soluciones integrales.

La brecha digital depende de cómo se entrega prioridad a los recursos y oportunidades para niñas en las TICs y muchas veces esto representa una dificultad, especialmente cuando los Estados no poseen recursos suficientes para esto. Dado lo anterior, existen múltiples iniciativas desde la sociedad civil para aportar para el desarrollo de estas temáticas para niñas y mujeres a nivel regional y global, desde Derechos Digitales existen diferentes instancias, desde publicaciones (clic aquí para la más actual), levantando proyectos como el Fondo de Respuesta Rápida hasta participando en instancias internacionales, tales como la CSW67.

Se precisan, a futuro, medidas que consideren el esfuerzo y compromiso de distintas partes, y a partir de instancias internacionales, como la CSW67, existe la oportunidad de considerar múltiples perspectivas para identificar las necesidades, prioridades y acciones que se requieren para avanzar hacia la igualdad de género, disminuir la brecha digital y mejorar el futuro para las niñas y las TICs.

Los Estados tienen la obligación de reforzar y no poner en peligro los derechos humanos

Como les contamos en abril del año pasado, se encuentra en marcha y avanzando a paso firme la elaboración de una “Convención internacional integral sobre la lucha contra la utilización de las tecnologías de la información y las comunicaciones con fines delictivos” por un Comité Especial (el “Comité Ad Hoc”) en el seno de Naciones Unidas. 

Derechos Digitales participó de la cuarta sesión de trabajo del Comité Ad Hoc que tuvo lugar en Viena entre el 9 y 20 de enero. En esta columna queremos compartir con ustedes nuestras principales preocupaciones, y por qué creemos que se trata de un tema al que todos deberíamos prestarle más atención desde América Latina.

El trabajo de la cuarta sesión se centró en la revisión de un documento de negociación consolidado (DNC). Previo a la sesión, y en conocimiento del documento preparamos en conjunto con otras 79 organizaciones de sociedad civil, una carta para comunicar al Comité y los Estados nuestras preocupaciones.

Desde el inicio del proceso no hemos estado convencidos de la necesidad de una Convención global sobre ciberdelincuencia. Sin embargo, a través de esta nueva carta, reiteramos la necesidad de un enfoque basado en los derechos humanos para su redacción.

Nuestras preocupaciones se centran en la necesidad de garantizar que los derechos fundamentales tengan prioridad en la forma en la cual se definen los delitos cibernéticos, la forma de producir pruebas respecto de ellos, y al establecer mecanismos de cooperación internacional o de asistencia técnica. 

Lamentablemente, el texto examinado en esta cuarta sesión todavía resulta demasiado amplio en su alcance y no se limita solamente a los delitos cibernéticos en los que la tecnología es parte esencial del delito.

El texto se  expande de forma ambigua hacia otros delitos -muchas veces ya regulados- cuando pueden ser facilitados o cometidos a través del uso de tecnologías de la información. Lo anterior es incompatible con obligaciones internacionales de derechos humanos, y amenaza con criminalizar las actividades legítimas con propósitos de interés público como el trabajo de periodistas e investigadores de seguridad. 

Estuvo en el centro de las discusiones la cuestión de reducir el ámbito de alcance de los delitos contemplados en la Convención a aquellos esencialmente vinculados con el uso de la tecnología, y no expandirlo a los que son meramente facilitados por ella. 

Muchos estados manifestaron su preocupación por la excesiva expansión del listado de delitos considerados, sin embargo al término de las negociaciones la criminalización expansiva de delitos de expresión sigue estando presente en el texto.

También hay en el texto limitadas salvaguardias respecto de los ciberdelitos definidos que pueden impactar negativamente en las actividades legítimas de periodistas, informantes, defensores de derechos humanos, investigadores de seguridad y de ciencias sociales, niños y adolescentes, mujeres, diversidades sexuales, grupos vulnerables, opositores políticos, víctimas de delitos, entre otros. 

Qué nos preocupa, por qué y por qué te debe importar

Organizaciones de la sociedad civil, empresas y organismos internacionales como la Oficina del Alto Comisionado en Derechos Humanos presentaron diversas preocupaciones sobre los temas discutidos en la sesión. Sin intentar ser exhaustivos en la lista, queremos llamar la atención sobre algunos puntos que nos parecen cruciales,  en los que se requiere que el texto de la futura Convención continúe refinándose de cara a la presentación del borrador cero.

Particularmente nos preocupan áreas en las que resulta crucial la atención de los representantes de gobiernos de nuestra región para garantizar la adecuada protección de derechos fundamentales en la persecución del ciberdelito, con miras a la realidad normativa e institucional de América Latina.

También nos ocupan cuestiones que creemos que merecen atención general, por el impacto que pueden tener en la habilidad de ejercer la libertad de expresión, el acceso a la información y resguardar la privacidad. 

Riesgos de criminalización de la labor de investigadores de seguridad y ciencias sociales, periodistas y defensores de derechos humanos

El texto necesita incorporar en los delitos esencialmente vinculados con el uso de la tecnología la referencia a que la acción sancionada debe sobrepasar barreras técnicas. Solo así podrá evitar la ambigüedad de que la violación de términos y condiciones de servicio o políticas de seguridad establecidas por empresas privadas puedan permitir criminalizar la investigación de interés público en el funcionamiento de sistemas informáticos.

Delitos de expresión propuestos son una herramienta para la censura y la represión

Algunos delitos propuestos, como los delitos relacionados con el extremismo o con el terrorismo, son incompatibles con los estándares internacionales de libertad de expresión y pueden ser utilizados por los estados con fines represivos y de control social. Adicionalmente, no existen definiciones uniformes de estos conceptos en el derecho internacional, y muchos estados se basan en esta ambigüedad para justificar abusos contra los derechos humanos.

Respeto por la evolución progresiva de niños y adolescentes

Los artículos referidos a la criminalización de los usos de material de abuso sexual a menores han sido en general acogidos como necesarios por los Estados parte de la negociación. Sin embargo, muchos han afirmado la necesidad de asegurar la consistencia con otros instrumentos en que la materia se regula y ya han sido adoptados, cuestión que aún no se ve bien reflejada en en el texto.

Resulta preocupante que las redacciones discutidas no reflejen aún la necesidad de que, tal como lo afirmó UNICEF en sus aportes durante la tercera consulta intersesional, se considere la evolución de los adolescentes, evitando criminalizarlos por actividad sexual consentida y sin explotación, siempre que no haya elementos de coerción, abuso de confianza o dependencia entre los adolescentes. No se debe responsabilizar penalmente a niños por la generación, posesión o intercambio voluntario y consensuado de contenido sexual de sí mismo u otros, únicamente para su uso privado.

Hay también algunas provisiones que extienden la criminalización a dibujos u otras representaciones visuales o auditivas creíbles de niños que amenazan considerablemente la libertad de expresión y las expresiones artísticas. 

Limitación de la distribución de imágenes sexuales no consentidas a expensas de la autonomía de las víctimas

En el caso de la criminalización de la distribución de imágenes íntimas no consentidas y otras conductas relativas a adultos que involucran el uso de imágenes de contenido sexual con fines de acoso, intimidación o extorsión, resulta preocupante la excesiva vaguedad de la forma en la cual se define el elemento de falta consentimiento respecto de tales materiales, lo que arriesga a una sobrecriminalización.

También preocupa  la ausencia de excepciones a la tenencia, uso o distribución de imágenes que pueden tener un interés público, como la cobertura periodística, la atención y acompañamiento de víctimas, o la misma investigación de las conductas. a criminalización de este tipo de conductas no parece contar con una visión centrada en la víctima.uchas veces lo  primoridal es evitar la revictimización a través de procesos criminales, y manifestar preferencia por otro tipo de mecanismos que puedan ser más eficaces en limitar la distribución del material respectivo considerado lesivo.

Salvaguardas de derechos humanos excesivamente débiles

Desde la sociedad civil y de muchos estados comprometidos con los derechos fundamentales se celebró la incorporación de dos artículos -uno en las provisiones generales y otro en las procedimentales- en los que se aborda la protección de los derechos humanos y el respeto por las consideraciones de género y las condiciones de grupos vulnerables.  Sin embargo, esas protecciones se diluyen en las demás disposiciones de la Convención.

Es necesario que el capítulo de medidas procesales exija autorización judicial previa para los poderes intrusivos que se consagran, así como para garantizar explícitamente el derecho a un recurso efectivo. Resulta esencial retener la referencia a los principios de legalidad, necesidad y proporcionalidad, y al reconocimiento de la privacidad como derecho humano. 

Ambigüedades que favorecen el hacking estatal, los intentos de retención masiva de datos y el debilitamiento del uso de tecnologías de privacidad

Las provisiones procesales están redactadas de manera poco precisa.  De este modo, pueden ser usadas como una excusa para justificar la vigilancia masiva de las comunicaciones y dan la posibilidad a los gobiernos de desarrollar acciones ofensivas que debiliten la seguridad de los sistemas a través de puertas traseras en tecnologías de privacidad -como el cifrado- u operaciones de hacking que se beneficien de la explotación de vulnerabilidades, forzando a los proveedores de servicios de internet a transformarse en colaboradores de estas prácticas, que pueden ser tremendamente dañinas para la seguridad integral de los sistemas.

¡Ojo acá, Latinoamérica!

Esta Convención tiene el potencial de impactar profundamente en millones de personas en todo el mundo, y es por esto que debemos dejar muy claro que la lucha global contra el ciberdelito no debe socavar el respeto por los derechos humanos.

En abril el Comité Ad Hoc volverá a reunirse para continuar la revisión del texto y esperamos muchos más ojos atentos a la posición de los gobiernos de América Latina en estas cuestiones escenciales para el ejercicio de nuestros derechos fundamentales.

Una última mirada a los derechos digitales en 2022

Cuando comenzamos 2022, una esperanza comenzaba a crecer en buena parte del mundo: las vacunas para reducir los contagios y los síntomas de la COVID-19 surtieron efecto y llegaron a más grupos de la población. Lentamente, aspectos de la vida prepandémica volvían a materializarse y, después de dos años dramáticos, el mundo parecía realinearse.

Pero el año inició con tumulto mundial: una invasión en Europa oriental creaba una crisis humanitaria de incalculable costo humano, que a su vez desviaba la atención de otras crisis en África oriental, en Asia meridional, en América Latina. Nuevas desigualdades, internas y externas, se hicieron patentes, ahora bajo la presión del riesgo vital de una pandemia que no termina.

Como en buena parte del mundo, América Latina ha visto el agravamiento de las distintas crisis superpuestas, agudizadas por un horizonte de crisis económica que está en pleno desarrollo. Aun así, grandes aires de esperanza se sintieron en la región, en la resistencia al abuso y la injusticia, y en la participación política en varias elecciones.

En América Latina, el 2022 partió con revelaciones de hackeo a periodistas en El Salvador, en una réplica de lo que fue descubierto años antes en México, revelando que el espionaje ilegal estatal con herramientas importadas continúa en la región.

A la vez, la vigilancia masiva todavía es una disputa inconclusa. En una insigne victoria para el activismo local, en México el invasivo Padrón Nacional de Usuarios de Telefonía Móvil (PANAUT), aprobado a fines de 2021, fue declarado inconstitucional, impidiendo la vinculación entre la identidad de un usuario de teléfono y su información biométrica, entre otros datos, en una decisión anunciada en abril. Poco antes, se había detenido en el metro de San Pablo, Brasil, el uso de un sistema de reconocimiento facial automatizado, aunque luego fue autorizado por la justicia. Esa batalla continúa, ahora contra una iniciativa por extender el reconocimiento facial a toda la urbe. En la Ciudad de Buenos Aires, en tanto, la justicia declaraba la inconstitucionalidad de un sistema de reconocimiento facial.

En Colombia, una preocupación constante por la incorporación de mecanismos legales para fórmulas riesgosas de identidad digital, como también un debate sobre neutralidad de la red y zero-rating se tomaron parte de la agenda después de la fuerte escalada de violencia de las protestas de 2021. El uso de máquinas digitales para el proceso electoral fue, como siempre, objeto de escrutinio.

Al igual que en Colombia, y ante los ojos del mundo, una nueva elección presidencial en Brasil ofrecía esperanza, pero también mostraba algunos de los peores temores de la región: torpes intentos de control de la desinformación amenazaban con alterar el funcionamiento de la mensajería personal, mientras varias acusaciones de desinformación enfrentaban al gobierno y a las iniciativas de empresas privadas por controlar el discurso en línea. Que todo eso ocurriera mientras aumentaba el gasto en tecnología de hackeo y vigilancia hacía temer por el futuro.

Por cierto, las protestas sociales de los últimos años no cesaron. En Ecuador, fuimos parte del reclamo de la sociedad civil en rechazo a la represión y la vigilancia en el marco de protestas sociales a mediados de año. Presentamos a la ONU múltiples antecedentes sobre situaciones de afectación de derechos, especialmente vinculados a la expresión y la protesta, en un informe dentro del contexto del Examen Periódico Universal. En paralelo, continúa el cuestionado juicio contra Ola Bini a pesar de las reportadas infracciones al debido proceso. También vimos que persiste la represión de la expresión y la protesta en Nicaragua, incluido el allanamiento y cierre de organizaciones y de medios de comunicación, alarmando a expertos internacionales que exigen visitar el país. Y, en Venezuela, informes tanto de la industria de las telecomunicaciones como de la sociedad civil, mostraron el nivel de vigilancia y represión en ese país.

Al mismo tiempo, Brasil progresaba en un área sensible para toda la región: la protección de datos personales. Sin ser un debate ajeno a la contingencia, Brasil avanzó en el otorgamiento de autarquía de carácter especial a su nueva autoridad de control de datos personales. Por su parte, Ecuador –que promulgó su ley en 2021– inició este año el proceso de reglamentación de la ley. En Chile, paso a paso se Avanza en un proyecto de reemplazo a una ley que hoy es ineficaz ante casos públicos de vulneración de los derechos sobre los datos.

También hubo otros relevantes debates legislativos en la región, para los que este recuento quizás no basta. Fuimos testigos de la discusión por una nueva ley de inteligencia artificial en Brasil, como también en iniciativas de leyes sobre ciberseguridad, sobre desinformación y sobre ciberdelitos en varios países de la región. Nuestro trabajo de monitoreo continúa con intensidad para identificar las oportunidades, los riesgos a las libertades y derechos que puedan acompañar a esas iniciativas. Nos involucramos en la discusión por una nueva constitución en Chile, con propuestas surgidas desde distintos lugares y grupos del país.

No obstante también aprovechamos instancias globales que afectan a América Latina. Como ejemplos, contribuimos a informes de oficinas de expertos de Naciones Unidas sobre apagones de internet y sobre inteligencia artificial y privacidad. Participamos en procesos como la reunión de plenipotenciarios de la UIT, en la peligrosa discusión por un nuevo tratado sobre ciberdelitos, en el debate global sobre normas para el comportamiento de los Estados en el ciberespacio, y mucho más.

Mirar hacia el futuro

Todo lo anterior es apenas una muestra de lo intenso que fue el trabajo del año desde nuestro activismo. No obstante, también hubo muchísima colaboración, la misma que creemos que es parte esencial de la proyección hacia el futuro de la labor de Derechos Digitales.

Como organización, el año también fue de oportunidades de cooperación cruciales para la región. Volvimos a albergar un evento virtual de difusión, intercambios y aprendizajes. Participamos muy activamente en la organización del Foro de Gobernanza de Internet de América Latina y el Caribe, el LAC IGF. Nos reunimos con nuestras aliadas de la coalición Al Sur para comenzar a pensar en el futuro, en un primer encuentro presencial después de años. Mantuvimos numerosos talleres y reuniones con organizaciones e instituciones a nivel regional y global. Y nos sumamos como socios organizadores, con esperanza, al Movimiento por una Mejor Internet.

Logramos también apoyar a 21 iniciativas de acción de 12 países de la región a través de nuestro Fondo de Respuesta Rápida, no solo facilitando la respuesta ágil a situaciones de emergencia, sino también favoreciendo el aprendizaje en múltiples contextos de activismo. Es a través de procesos como este que la colaboración de 2021 con el ODIA argentino ayudó en la declaración de inconstitucionalidad del sistema de reconocimiento facial en Buenos Aires. Mecanismos de apoyo como este Fondo demuestran que existen nuevas posibilidades para la articulación de organizaciones en la región.

Lo más importante: en una época global de grandes cambios, consolidamos un equipo sólido, de muy diversos orígenes y perfiles, fortaleciendo nuestra capacidad de trabajar en distintos ámbitos. Sabemos que en 2023 habrá más cambios, pero también que con ellos vendrán nuevas oportunidades de colaboración interna y externa.

Aunque ha sido un año desafiante, sentimos orgullo por el camino recorrido y mucha esperanza en el que queda por recorrer. La mirada introspectiva ha sido fuente de gran aprendizaje, como también de importante reflexión sobre lo que necesitamos seguir haciendo. Porque creemos en nuestro derecho y en nuestra capacidad de crear un futuro más justo para América Latina, reconocemos lo que significa el fin de 2022 y damos la bienvenida a 2023.

Cyber-violencia contra mujeres y niñas: el caso de los stalkerwares

Desde el inicio de la pandemia por COVID-19, la violencia contra mujeres y niñas se ha agravado. Este aumento se compone de diversas aristas, y comprende aquello que ocurre tanto los espacios “físicos” como en internet.

De acuerdo con un estudio de la Unión Europea sobre “ciber-violencia” contra niñas y mujeres, existen diferentes tipos de violencia en internet, de las cuales se destacan el cyber-stalking (equivalente al ciber-acoso), trolling, cyber-harrasment (equivalente al grooming), cyber-bullying, discursos de odio online, flaming (comentarios de odio, insultos y otros), abuso sexual basado en compartir imágenes no consensuadas y doxxing (publicación de documentos y datos privados al público).

En línea con el reciente Día Internacional para Eliminar la Violencia contra las mujeres y niñas, y dentro del contexto de 16 días de activismo de Naciones Unidas, es necesario reflexionar sobre el stalkerware, un tipo de software que habilita una forma particular de violencia.

¿Qué es un stalkerware?

Normalmente comercializados como herramientas de seguridad para controlar el acceso al contenido online de niños y niñas, el stalkerware es precisamente lo que indica su nombre en inglés: software diseñado para acechar (observar con atención y con cautela a alguien sin ser visto) y acosar (perseguir sin tregua ni descanso a una persona a una persona).

Se trata de software que en muchos casos está disponible en el comercio y que al ser instalados en un celular, computadora u otros dispositivos electrónicos, otorgan acceso de forma remota a la información contenida en los dispositivos, pudiendo incluir la ubicación geográfica, las búsquedas en la web, mensajes de texto, correos electrónicos, fotos y contactos. Usualmente el stalkerware se ejecuta en segundo plano, sin que la persona afectada haya dado su consentimiento o siquiera sepa que está instalado en su dispositivo, y es común que el uso de estas herramientas se realice en el marco de una relación afectiva, (amigos, novios, familiares, etc.), cuando una persona busca controlar a la otra.

Uno de los problemas principales es el gran desconocimiento sobre los stalkerwares: según un reporte publicado por Kaspersky, un 60% de las personas no sabe de su existencia. Esta falta de reconocimiento e información genera vulnerabilidades que pueden facilitar el sometimiento de una persona a esta forma de violencia.

Un estudio publicado por Women’s Aid documentó que, en al menos el 29% de los casos de violencia intra-familiar, las parejas o ex parejas utilizaron stalkerware; por ejemplo, en múltiples casos en Estados Unidos, los perpretadores reconocieron instalar el software en teléfonos que regalaron a sus hijos e hijas después de un divorcio, con el objetivo de vigilar a la expareja. En otros países se identifican dinámicas similares en casos de “amistad”, las cuales instalaban stalkerware en el dispositivo de conocidos o también en el caso de parejas que no necesariamente experimentaban violencia física.

Sin embargo, todos los casos son claro ejemplo de una intención, realizada sin consentimiento, con el fin de tener poder y control por sobre la otra persona, lo cual es una trasgresión a la privacidad, acoso, y, por ende, violencia. 

Impactos más allá de internet

Todas las monedas tienen dos caras. Aquí, una cara es aquello que ocurre en línea y la otra es lo que sucede fuera de internet. Uno de los aspectos que deben ser considerados al entender los impactos de la utilización de stalkerwares es que no solamente tienen repercusiones sobre nuestras acciones en línea, sino que el acceso a la información personal y sensible, sin autorización, por parte de un tercero extiende su capacidad de control fuera de internet, perpetuando esta situación de violencia.

Para tener una radiografía de la situación del cyber-stalking, un estudio reciente de Plan Internacional reveló que más de la mitad de niñas y mujeres jóvenes, entre los 15 y 25 años, han sido víctimas de esta forma de violencia, mientras que el el 1er Estudio Nacional de Ciber Acoso y Salud Mental realizado en Chile, y publicado en 2021, revela que un 47% de las personas entre 15 y 29 años declara haber sido víctima de “violencia digital” en los últimos tres meses; tanto en 2020 como en 2021 se observó que la mayoría de las personas afectadas eran mujeres.

El stalkerware no es una consecuencia directa del cyber-stalking, sin embargo, es necesario considerar desde una perspectiva más amplia el contexto, como se explica en el reporte “Protecting Women and girls from violence in the Digital Age”: en una sociedad patriarcal, quienes cometen actos de violencia probablemente tienen una red de apoyo que se comporta de la misma forma, justifica y normaliza la violencia. Estos aliados, que antes solamente podían encontrarse de forma off-line, hoy en día comparten ideas que se desarrollan, fomentan y fortalecen en internet. 

Desafíos a futuro

Si bien en la región existen diferentes políticas públicas que abarcan estos temas, con la intención de mitigar la violencia contra mujeres y niñas en el ámbito digital se identifican dos desafíos principales, que deben ser tomados en cuenta para avanzar hacia la erradicación de la ciber-violencia: primero, no existe una definición universal, ni regional, que considere las violencias en internet y fuera de internet en un mismo nivel, dejando el ámbito digital como un área subyacente de la violencia con las mujeres y niñas. Se genera así la percepción de una falta de priorización de las variables involucradas en este tipo de violencias. 

Por otro lado, es clave considerar la importancia de reflexionar sobre la existencia de medidas efectivas para la erradicación de estas prácticas, las cuales deben ser aprendidas de la historia, dejando de tomar medidas centradas en las víctimas, sino que deben considerar los problemas estructurales a nivel macro, que permiten que estos problemas ocurran. La educación a potenciales perpetradores de este tipo de violencia y el reforzamiento de estructuras legales, que regulen y no permitan la agravación de estas situaciones, son clave para generar avances sustantivos.

Daniela Horta es Cientista política de la Pontificia Universidad Católica de Chile y Máster en Políticas Públicas: Desarrollo y Gobernanza del Institute of Social Studies – Erasmus University Rotterdam y la University of York. Actualmente está cursando una especialización en la universidad Roma Tre (Italia) en Política y Género, y es pasante en Derechos Digitales.

Examen Periódico Universal

¿Qué es el EPU?

El Examen Periódico Universal (EPU) es una revisión del historial de derechos humanos de los Estados Miembro de Naciones Unidas. Cada cinco años, cada estado es sometido a examen. Todos los países son parte del proceso. Es una oportunidad para que los Estados analicen y comuniquen las mejoras implementadas en materia de derechos humanos. Además, pueden recibir recomendaciones por parte del resto de los estados miembro de Naciones Unidas, con el objetivo de impulsar mejoras constantes en materia de derechos humanos a nivel global.

Mira el video aquí.

Examen Periódico Universal 4to ciclo, sesión 41

ECUADOR

Resumen de recomendaciones al estado ecuatoriano

Summary of recommendations to the Ecuadorian state

Campaña de difusión

BRASIL

Resumo das recomendações ao estado brasileiro

Summary of recommendations to the Brazilian state

Este relatório da sociedade civil, elaborado por Privacy Internaciona e Derechos Digitales, se concentra apenas nas preocupações relacionadas ao uso da tecnologia educacional (’EdTech’) no Brasil e ao processamento subsequente (coleta, análise, retenção e compartilhamento) de dados de crianças e professores nas escolas

Esta submissão, elaborada por APC , Artículo 19, Derechos Digitales, Intervozes centra-se no cumprimento de obrigações de direitos humanos no contexto digital pelo Brasil e busca fortalecer recomendações focadas na garantia do acesso universal à internet de modo a viabilizar a livre expressão e associação, o acesso à informação, conhecimento, cultura e o exercício de direitos econômicos e sociais demaneira segura, respeitosa à privacidade, à autonomia e livre de qualquer forma de discriminação.

This submission, made by APC , Artículo 19, Derechos Digitales, Intervozes, focuses on Brazil’s fulfilment of human rights obligations in the digital context and seeks to strengthen recommendations focused on guaranteeing universal access to the Internet in order to make possible free expression and association; access to information, knowledge and culture; and the exercise of economic and social rights in a manner that is secure, respectful of privacy and autonomy, and free of any kind of discrimination

Este informe, elaborado por APC , Artículo 19, Derechos Digitales, Intervozes, se centra en el cumplimiento de las obligaciones de derechos humanos en el contexto digital por parte de Brasil y busca fortalecer recomendaciones enfocadas en la garantía del acceso universal a internet en orden de ejercer la libre expresión y asociación; el acceso a la información, al conocimiento y a la cultura; y el ejercicio de derechos económicos y sociales de manera segura, respetuosa de la privacidad y de la autonomía y libre de cualquier forma de discriminación.

Campaña de difusión

Hacia un marco feminista para el desarrollo de IA: de los principios a la práctica

Descargar PDF

¿Es posible desarrollar IA que no reproduzca lógicas de opresión? Para responder a esta pregunta, nos enfocamos en las relaciones de poder inmersas en el campo de la IA y hacemos un análisis interpretativo
de las experiencias, en el día a día, de siete mujeres que trabajan en algún campo de la IA o la ciencia de datos en la región, en diálogo con distintas declaraciones de principios y guías feministas para
el desarrollo y despliegue de tecnologías digitales.

Infraestructuras de autenticidad para los contenidos digitales

En los últimos años se han comenzado a buscar soluciones técnicas y regulatorias al problema de la desinformación en plataformas digitales, considerando la rapidez con que se difunde y sus impactos sobre la población conectada, en coyunturas críticas como procesos electorales o protestas sociales. Sin embargo, muchas de estas soluciones han tendido a restringir los derechos a la libertad de expresión y acceso a la información, constituyéndose en mecanismos de vigilancia y censura de contenidos, y afectando principalmente a las voces disidentes.

En este contexto, la aparición de los llamados deepfakes (audios o vídeos alterados con tecnologías de inteligencia artificial) plantea un escenario más complejo, de una parte porque su autenticidad es cada vez más difícil de verificar, pero también porque pone de frente, otra vez, que respecto de la información no hay aproximaciones técnicas suficientes, ya que se trata también de un problema social sobre cómo se configuran política y culturalmente las ideas de “confianza” y “verdad”. Esto, sin contar con que además los deepfakes se han convertido en una nueva herramienta para la violencia de género mediada por tecnologías digitales, entre otros problemas menos visibilizados.

Desde hace tiempo, Witness ha hecho seguimiento a este tipo de tecnologías emergentes, procurando entender los riesgos y oportunidades que presentan para los derechos humanos, especialmente para la protección de voces marginalizadas. Como parte de ese esfuerzo, se vinculó al grupo de trabajo sobre amenazas y daños de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA), una iniciativa empresarial dirigida por Adobe, Arm, Intel, Microsoft, BBC, Truepic y Twitter, que en palabras de la organización, es hasta ahora “el esfuerzo más consolidado que conduce hacia un uso más generalizado y potencialmente sistemático de la infraestructura de procedencia y autenticidad”.

C2PA es un estándar técnico para certificar la fuente y la historia de contenidos digitales como vídeos, audios, imágenes y documentos, a través de la creación de un manifiesto firmado por una autoridad de certificación, y protegido criptográficamente en cada plataforma digital donde el contenido ha sido intervenido. Por ser un estándar abierto, puede ser implementado en distintas aplicaciones como software de captura y edición de imágenes en dispositivos digitales, CMS, redes sociales o plataformas web de verificación. Con esto, se espera que la confianza sobre la autenticidad o no de contenidos se base en la identidad de los actores que firman sus datos de procedencia y no en el estándar mismo.

Junto con otras organizaciones de América Latina, venimos planteando hace años que el problema de la desinformación no es nuevo, ni propio de los entornos digitales, y que está muy relacionado con los monopolios de la información. Por eso es relevante reconocer que, aunque C2PA no se plantee como un ente de certificación, quienes promueven esta iniciativa lanzada oficialmente en enero de 2022, son grandes corporaciones como Adobe, Microsoft o Twitter, quienes cuentan con una ventaja comparativa como autoridades de certificación, al tener una capacidad temprana de implementar el estándar.

Sin embargo, también es relevante mencionar el proceso abierto y participativo mediante el cual se han desarrollado las especificaciones técnicas y otros documentos útiles como su guía de implementación, las recomendaciones sobre experiencia de usuarias para la implementación, las consideraciones de seguridad y el modelo de daños, de cuyo diseño la única organización de sociedad civil que ha participado es Witness.

Es relevante porque, para permitir la interoperabilidad entre distintos sistemas, los estándares técnicos deben no solo ser abiertos sino también flexibles y adaptables a diferentes contextos, necesidades y decisiones de implementación. Como herramientas puramente técnicas, los estándares son muy limitados para el resguardo, por diseño, de la privacidad y otros derechos humanos. Por eso, además de las necesarias preocupaciones y compromisos durante su desarrollo, es importante hacer un seguimiento permanente a la manera como los estándares son implementados, por quiénes, con qué capacidades e intereses y, sobre todo, qué impactos tienen sobre las personas, individual y colectivamente.

La existencia de un marco para la identificación de daños y abusos potenciales del estándar C2PA durante su diseño e implementación temprana, y también para garantizar la debida diligencia y la mitigación de daños cuando su despliegue sea más amplio, es una oportunidad para proteger la seguridad, la privacidad y otros derechos humanos dentro y fuera de los entornos digitales. Pero de poco sirve ese marco si no está siendo activamente utilizado, revisado y actualizado. Junto con la coalición, Witness continúa invitando a hacer aportes concretos (en inglés) sobre el estándar, y además abriendo espacios de trabajo sobre los riesgos y oportunidades que presenta, en diferentes regiones y con diferentes grupos sociales.

Este importante trabajo que adelanta Witness sirve para comprender mejor cómo puede funcionar este estándar en contextos tan diversos como los que hay en América Latina. Por ejemplo, cómo será afectada la visibilidad en redes sociales de contenidos producidos por medios independientes, que no cuenten con el estándar implementado en sus sitios web; cómo se reconfigura la normativa y la vigilancia sobre derechos de autor en contenidos digitales; o cómo se legitiman ciertas autoridades de certificación y otras no, entre otros asuntos relevantes.

Además de eso, sería muy interesante probar qué tan factible es, en términos técnicos y de infraestructura, que por ejemplo, una organización sin ánimo de lucro implemente el estándar. ¿Qué tan sencillo es el código?, ¿qué tantos recursos, habilidades o inversión de tiempo se requiere? Estas preguntas que quedan abiertas a manera de invitación.