Temática: Gobernanza de internet

“Oversight Board” de Facebook: una perspectiva desde América Latina y El Caribe

Las organizaciones que firman este documento forman parte del consorcio «Al Sur», un grupo organizado de la sociedad civil en América Latina que busca fortalecer los derechos humanos en el entorno digital. La razón principal de esta declaración es hacer presente nuestros comentarios conjuntos al llamado público hecho por Facebook para contribuir a su borrador «Draft Charter: An Oversight Board for Content Decisions».

Este «Oversight Board», que podemos traducir como una suerte de «Comité de supervisión», ha sido planteado por Facebook como un órgano independiente al que las personas pueden apelar las decisiones de moderación de contenido de la compañía. Esta iniciativa nace luego de las intensas críticas en el mundo (y de las que Latinoamérica y el Caribe no se han restado), sobre la falta de transparencia con la que Facebook desarrolla y aplica sus estándares comunitarios, lo que ha tenido como efecto el uso de la plataforma para campañas de desinformación, incitación a distintas formas de violencia, etcétera.

Valoramos que una plataforma del tamaño e importancia de Facebook (2,167 millones de usuarios en el mundo) se haya abierto a discutir la urgente necesidad de cambiar la forma en que hasta ahora se ha planteado la moderación de los contenidos. Pero, como veremos a continuación, creemos que este “Oversight Board” puede y debe tener un papel más activo en hacer dialogar las reglas de la comunidad de Facebook con estándares de derechos humanos. Sus decisiones deben tener como fin último la mejora de las políticas comunitarias como los procedimientos para aplicarlas, así como también se debe avanzar decididamente en su transparencia y la representatividad de regiones como la de Latinoamérica y el Caribe.

Así, nuestras recomendaciones se resumen en cinco puntos:

  • Alcance de su mandato

Sin importar la estructura o forma orgánica que adquiera el “Oversight Board” propuesto, y en orden a satisfacer su legitimidad y tener posibilidad práctica de cumplir con su mandato, creemos que el alcance último del “Oversight Board” debe comprender el de hacer recomendaciones de cambios a las políticas de la empresa y los procedimientos de aplicación de éstas, haciendo dialogar los estándares internacionales de derechos humanos con las reglas de comunidad de la empresa. 

Así, proponemos un cambio de la idea original planteada en el borrador de Facebook, y planteamos directamente que el “Oversight Board” tenga la facultad de impactar directamente el diseño regulatorio de las políticas de contenido de la misma plataforma. Entendemos que, para cumplir debidamente con este rol, el “Oversight Board” puede y debe analizar casos específicos ilustrativos, sobre todo, los más complejos y difíciles. Incluso debería sugerir a la empresa cambios en decisiones con efectos reparatorios para esos casos concretos. No obstante, su objetivo central serán las mejoras a las políticas y los procedimientos de cómo la empresa toma decisiones en relación con la moderación de contenido, teniendo la capacidad de establecer cuál debería ser el proceso a seguir, paso por paso, para tomar este tipo de decisiones, con fundamento en lo ya desarrollado en la materia por los estándares internacionales de derechos humanos. Por ejemplo, el llevar a cabo un análisis y ponderación de derechos que se apegue a los tests de necesidad, proporcionalidad e idoneidad. 

En esta propuesta, es importante repensar los insumos con los que contará el “Oversight Board” para hacer su trabajo, en tanto que los casos ilustrativos pueden no advertir a tiempo tendencias preocupantes en el uso de la plataforma y en la moderación de los contenidos. Proponemos, entonces, que además se abran otras instancias donde especialistas en la materia, con conocimiento de los contextos regionales pertinentes, puedan presentar evidencia preocupante de uso y moderación de contenidos en Facebook y que puedan afectar a grupos específicos que, por su vulnerabilidad u otros factores de marginalización, no puedan o no quieran acceder a este mecanismo.

Desde esta perspectiva, creemos fundamental que el organismo asuma tres tareas urgentes:

1) Transparencia algorítmica. Muchas de las decisiones que afectan las reglas de comunidad y, por ende, la moderación de contenidos, tienen efecto en las decisiones algorítmicas que la plataforma tiene sobre contenidos en particular. Este tipo de decisiones automatizadas son más opacas que la remoción de contenido per se (las explicaciones de cómo funcionan y cómo se evitan falsos positivos es más bien inexistente) y, por ende, afectan de igual manera la libertad de expresión. 

2) Aspectos formales de la toma de decisiones. Es urgente que un organismo técnico, representativo e independiente como el “Oversight Board” pueda hacer recomendaciones acerca de aspectos formales en la toma de decisiones de su proceso de moderación de contenidos, pues estos afectan los resultados del mecanismo. Se debe repensar desde la forma en que se notifica a las personas usuarias que su contenido fue removido, pasando por el currículum de los moderadores, hasta las condiciones laborales de estos últimos.

3) Mecanismos de apelación. Creemos también importante que Facebook asuma con urgencia la tarea de reforzar los mecanismos comunes de apelación que tienen las personas usuarias, adoptando criterios de debido proceso y sugerencias desde estándares de derechos humanos que el mismo “Oversight Board” pueda hacer.

Asimismo, el alcance limitado del “Oversight Board” debe ser explícito en dos sentidos para las personas usuarias: (1) el rol de la justicia y del análisis de afectaciones a derechos humanos sigue siendo una tarea del Estado, apegado al contexto local, y (2), las tareas del “Oversight Board” no reemplazarán a los mecanismos de apelación sobre el resto de los contenidos (que, como afirmamos anteriormente, es urgente que mejoren). 

De preferencia, las decisiones del “Oversight Board” tienen que ser vinculantes en primera instancia. Ello favorecería la legitimación de su establecimiento y la confianza de las personas usuarias respecto de su función, en tanto su implementación no estaría sujeta a la discreción de la plataforma. No obstante, si Facebook decide que así no sean, debiera al menos asegurar una explicación profunda y documentada al “Oversight Board” de su razonamiento en esas decisiones.  

  • Derechos humanos por sobre valores corporativos

Creemos que debe dejarse atrás la idea de que el “Oversight Board” responda a los “valores” de Facebook. Más bien, debe avanzarse decididamente a que su criterio principal sean estándares internacionales de derechos humanos.

Los “valores” de una compañía representan solo a su organización y a su cultura empresarial que está, asimismo, limitada a una forma cultural. Por esta razón, de ninguna manera esos “valores” deben ser el estándar de decisiones del “Oversight Board”.

Asimismo, la legitimidad y efectividad del “Oversight Board” queda en duda si sus decisiones se basan conforme a los «valores» o «estándares» fijados por la misma plataforma. La mejor manera de cumplir con la aspiración de imparcialidad e independencia en las decisiones de este organismo, y de generar una mayor confianza en este sentido, es apegarse a un proceso que ya ha sido establecido y elaborado por los estándares internacionales existentes de derechos humanos (como nuestro Sistema Interamericano de Derechos Humanos), y que permita decisiones transparentes y replicables. 

  • Alcance geográfico, diversidad y criterios de selección

Facebook plantea, en principio, un “Oversight Board” mundial con compromiso de “diversidad” con un número aproximado de 40 personas. En este sentido, y como parte de una comunidad del Sur Global y, aún más en particular, de América Latina y el Caribe, creemos que es importante garantizar la diversidad de la composición de este organismo, pero también su pericia técnica. 

Desde el punto de vista de la diversidad, es necesario que haya una composición con equilibrio de género y etnia. Además, creemos que la composición debe ser representativa de manera proporcional al número de las personas usuarias que Facebook tenga en cada región y de su proyección de crecimiento. Del mismo modo, es importante la multidisciplinariedad en sus miembros de manera de entregar visiones diversas a los problemas.

Desde el punto de vista de pericia técnica, debe buscarse en esa proporcionalidad regional, personas que cumplan con estándares claros y transparentes de idoneidad profesional como, por ejemplo, demostrada experiencia en temas de derechos humanos y libertad de expresión. Estos criterios deben ser propuestos y revisados públicamente, de manera que sean idóneos y factibles de cumplir en todas las regiones, y sean transparentes a la comunidad de manera de mejorar la rendición de cuentas de los mismos integrantes seleccionados del “Oversight Board”.

  • Reglamento interno e independencia. 

La independencia del “Oversight Board” debería ser garantizada por Facebook. Eso implica autonomía de este organismo para determinar las formas en que trabajarán, se comunicarán y las reglas con las que se regirán.

En este sentido, nos parece importante que una de las primeras tareas del «Oversight Board» sea trabajar en una propuesta de código de conducta que incluya procesos de denuncia y toma de decisiones. Este documento debe someterse a una consulta abierta. Su versión final debe ser pública, de tal forma de mejorar la transparencia y rendición de cuentas del organismo. Creemos importante que, en particular, el código de conducta debe estipular claramente asuntos como los conflictos de intereses de sus miembros. 

  • Periodo de observaciones.

Una vez que el “Oversight Board” lleve algunos meses de funcionamiento, debe establecerse explícita y públicamente un periodo para hacer observaciones a su funcionamiento, de tal forma de tener información de todas las regiones que permitan ajustar y mejorar este mecanismo. Este periodo de observaciones debe ser abierto y participativo. Sus resultados deben ser públicos, con la información completa sobre la determinación de qué ajustes hacer, así como un plazo adecuado para llevarlos a cabo. Debe, asimismo, contemplarse un mecanismo de observación periódica sobre el funcionamiento del “Oversight Board”, con características de transparencia y publicidad.

Este documento fue firmado el 7 de junio del 2019 por las siguientes organizaciones:

  • R3D: Red en Defensa de los Derechos Digitales, México
  • Fundación Karisma, Colombia
  • Asociación por los Derechos Civiles (ADC), Argentina
  • Coding Rights, Brasil 
  • Derechos Digitales, América Latina
  • Hiperderecho, Perú
  • Ipandetec, Panamá.
  • Tedic, Paraguay.

Libra(rnos) de Facebook

Esta semana, los diarios de tecnología a nivel mundial volteaban la mirada (de nuevo) hacia Facebook. Esta vez no se trataba de alguna nueva revelación que sumar a la incontable cantidad de pruebas respecto al manejo abusivo de datos por parte de esta empresa, ni de comparar la innegable fidelidad del deep fake que ha circulado en las redes. Ahora las notas cubrían el lanzamiento de un nuevo producto: una moneda llamada Libra.

Pero Libra no es el tema de esta columna, que tampoco trata de las recurrentes acusaciones sobre las políticas opacas, ni el mercado de los datos con los que esta empresa ha hecho fortunas millonarias; esta columna aborda un tema que, si bien no fue tan sonado como los casos ya mencionados, definitivamente podría cambiar por completo el entorno de internet en México: la conversación (virtual) que establecieron el Presidente Andrés Manuel López Obrador y Mark Zuckerberg.

Para comenzar a trazar los matices de este intercambio internacional -del cual muy poco se ha compartido con el público- partamos por identificar a los principales actores:

Andrés Manuel López Obrador, Presidente de México

Como ya hemos tratado en columnas anteriores, desde que asumió el cargo parece ser que la agenda en materia digital ha sido abandonada; principalmente en cuanto al desarrollo de las nuevas versiones de la Estrategia Digital Nacional y la Estrategia Nacional de Ciberseguridad, aplicables a su administración.

Ambas propuestas responden a una necesidad evidente ante el creciente uso de las tecnologías de información y comunicación, en un país donde el clima para la libertad de expresión se hace cada día más hostil mientras la violencia contra periodistas, la brecha digital y la desigualdad económica actúan en detrimento de las oportunidades para que estrategias de la sociedad civil –como las redes comunitarias– despunten como alternativas en la promoción de tecnologías descentralizadas, autónomas y accesibles.

Una de las promesas del ahora presidente es justamente brindar “internet gratis en todo México”, misma que -más allá del sensacionalismo- podríamos atribuir a un profundo desconocimiento de lo que implica la infraestructura de internet (el mantenimiento de la red y los dispositivos a través de los cuales se pretenda el acceso, o de la infraestructura necesaria para sostener y alimentar el consumo de electricidad por parte de todos esos sistemas, etc.); sin embargo, tratándose de un político con tanta experiencia, no podemos caer en semejante ingenuidad.

Más allá de la cálida invitación a la colaboración que le extendió a un actor tan controversial como Mark Zuckerberg, es interesante que -hasta ahora- el mandatario no haya hecho reconocimiento ni ofrecido apoyo a esfuerzos existentes de la sociedad civil en cuanto al despliegue de redes comunitarias: soluciones locales, viables y pertinentes para resolver los retos de conectividad en el país.

Mark Zuckerberg, CEO de Facebook

Después de una larga y controversial trayectoria liderando proyectos que han estado en el ojo del huracán por los constantes abusos reportados en torno a la explotación de datos sin consentimiento, este empresario no sólo ha innovado en cuanto a plataformas sociales sino que también ha puesto en marcha sus epifanías más altruistas en regiones marginalizadas donde cualquier esperanza de acceso tuviese eco suficiente para desencadenar funestas consecuencias.

Tal fue la experiencia de las personas de Myanmar, quienes -tras ser expuestas a un constante sesgo de información a través de Free Basics- vivieron episodios violentos potenciados por propaganda y cadenas de desinformación que recibían constantemente a través del servicio ofrecido por la empresa de Zuckerberg. Para el grupo rohinyá, minoría étnica en la región, esta polarización de la información devino en genocidio y desplazamiento de sus sobrevivientes. Para el equipo de Zuckerberg, estos no fueron motivos suficientes para retirar el proyecto, apelando a que “su compromiso por brindar el servicio las personas prevalecería” mientras que investigadores revelaban la forma en que este proyecto permitía a Facebook obtener los datos de navegación de las personas que accedían a internet a través de Free Basics (datos claramente redituables).

A pesar de esta experiencia, el espíritu del incansable emprendedor no cesó e incluso logró posicionar sus productos en otras latitudes; entre ellas: México, país donde -a través de operadores móviles como Virgin Mobile- Free Basics lleva alrededor de cuatro años en operación y al alcance de quienes aún usen teléfonos con tecnología SIM.

Otros caminos posibles…

Ahora se presenta la oportunidad de retomar la conversación sobre internet, para entender qué es, qué habilita y por qué necesitamos mantener los ojos abiertos ante los discursos tecnoptimistas que pretenden darnos “gato por liebre”. La información es poder y es en ese poder donde recaerán nuestras posibilidades no sólo de exigir al gobierno que garantice el acceso a internet (calificado como un derecho constitucional desde el año 2013), sino de ser capaces de verificar que los servicios que asegure el Estado mexicano cumplan con las condiciones establecidas: condiciones que garanticen a las personas el acceso a la información, sin estar supeditadas a las letras pequeñas de productos o servicios que no son internet.

Free Basics no es el único producto que parte de lo que conocemos como Zero-rating o tasa cero, una práctica controversial entre los proveedores de servicios de internet que menoscaba y limita el acceso a la red a conveniencia de sus intereses, vulnerando el principio de neutralidad de la red y lo que llamamos “Internet Abierta”: un enfoque que busca asegurar que el acceso a internet no esté impedido por incompatibilidad técnica, administración no apegada a buenas prácticas o abusos de poder en la transmisión de datos… Es decir, estos productos se oponen a la prestación de servicios de internet que habiliten el acceso indiscriminado a los contenidos que circulan en la red, sin sesgos, censura o restricciones opacas que beneficien particularmente los intereses de empresas o gobiernos.

Claro, en un párrafo no es viable resumir la complejidad detrás de años de debate que dieron origen a conceptos como neutralidad de la red, internet abierta o tasa cero; sin embargo, es importante apelar a la historia y recordar que estas discusiones ya han tenido lugar en foros globales, regionales y locales donde se ponderaron las desventajas de promover estos productos ante las posibles colusiones y malas prácticas que surgirían tras brindar tanto poder sobre el acceso a los operadores de servicios (como Facebook).

Para reducir la brecha digital, necesitamos diseñar estrategias que permitan la adopción de tecnologías que reflejen los compromisos hacia las comunidades que harán uso de ellas; es urgente apuntar que la ausencia de políticas públicas claras en materia de desarrollo digital vulnera los derechos de las personas mexicanas. La falta de una agenda digital enmarcada en los derechos humanos, pinta un panorama desalentador para todos los otros derechos que se potenciarían a través de propuestas en torno las redes comunitarias (que actualmente se están promoviendo en el país) y el acceso a una internet abierta.

Es momento de habilitar espacios de diálogo que permitan la interlocución entre las comunidades técnicas, la sociedad civil, las empresas, la academia y el gobierno mexicano; para trazar caminos claros que den pie a la transformación del entorno digital del país y llevar el acceso a quienes carecen de él: apoyando las iniciativas ya existentes y promoviendo soluciones locales que nos libren de los colonialismos digitales y productos tan inaceptables que nos podrían ofrecer a cambio de un sesgo permanente y un pase libre a la explotación de nuestros datos.

Aún pendiente, la Estrategia Nacional de Ciberseguridad

En México un reciente estudio de hábitos de usuarios de internet muestra que las personas con acceso a internet pasan alrededor del 31% de su tiempo conectadas a alguna red social y se han documentado incrementos significativos -en relación al 2018- respecto a las actividades económicas (como transacciones o consultas bancarias), el uso de plataformas de comunicación digital, el uso de dispositivos móviles y la participación de personas de 6 años en adelante.

De acuerdo a este estudio alrededor del 59% de las personas que usan internet en México actualmente llevan más de 8 años siendo internautas, sin embargo aún existen brechas importantes en cuanto al tipo de acceso y la cobertura que los proveedores de servicio de internet tienen la capacidad de brindar a la diversa población del país donde la cifra de personas activas en internet actualmente equivale al 70% de sus habitantes.

Mencionar estas cifras resulta relevante en un país cuyas políticas en materia de seguridad y desarrollo nacional están cada vez más perfiladas hacia promover el acceso a internet y banda ancha “como servicios fundamentales para el bienestar y la inclusión social”, como estipula el Plan Nacional de Desarrollo 2019-2024; donde el gobierno de Andrés Manuel López Obrador declara que buscará que el 95% de la población de México tenga acceso a internet al finalizar el sexenio.

A pesar de esta propuesta, en el país aún existen conversaciones pendientes en torno a la Estrategia Nacional de Ciberseguridad que, como señaló Candy Rodríguez, en un contexto donde el mismo Estado ha incurrido en el uso de tecnologías de vigilancia para perseguir a actores clave en fomentar la participación ciudadana, exigir rendición de cuentas e informar a la ciudadanía: es fundamental contar con un documento que permita entender cuál será enfoque en materia de seguridad digital al que se ceñirá esta administración.

En una nota para Proceso, Neldy San Martín apuntó que “el plan estipula que la cobertura de internet se garantizará mediante la instalación de internet inalámbrico en carreteras, plazas públicas, centros de salud, hospitales, escuelas y espacios comunitarios, sin dar detalles de plazos ni la forma en la que se pretende hacer esto.” Lo cual nos remite a pensar que si bien existen posibilidades para ampliar el acceso a la red, no es claro el camino que seguirán… Como tampoco lo son las políticas en cuanto a la seguridad de dicho acceso o las protecciones a la privacidad de las personas que accedan a internet mediante estas redes públicas.

Con la puesta en marcha de la Guardia Nacional militarizada, una medida señalada por las controversias que presenta ante la falta de regulaciones firmes que eviten que se institucionalicen -y de este modo legitimen- medidas que vulneran los derechos fundamentales de las personas en México, como apuntó el representante de la ONU-DH, nos queda preguntar cuál será el rumbo que tomarán las políticas públicas en materia de seguridad digital en el marco de las promesas realizadas por la actual administración.

Si bien se ha ganado cierto terreno en materia de rendición de cuentas y transparencia desde la labor monumental realizada por integrantes de organizaciones no gubernamentales y la sociedad civil, aún no se han resuelto los procesos para castigar a los actores responsables del abuso de la fuerza y los recursos de inteligencia del Estado que, ante recientes revelaciones, continúan promoviendo el clima de violencia contra las posturas disidentes y la libertad de expresión en el país a través del abuso de las tecnologías de espionaje.

¿Estamos viviendo la calma antes de la tormenta o nos encontramos en el ojo del huracán? En un país donde la violencia parece escalar día con día y el gobierno muestra desinterés por acabar con la impunidad donde se enmarca, es importante mantener una postura firme en torno a la defensa de los derechos humanos en cualquier terreno donde sean menoscabados: es momento de romper el silencio respecto a las medidas para proteger a la ciudadanía y agilizar la rendición de cuentas pendientes.

Protocolos para una internet libre y segura

¿Podemos imaginar una internet feminista? Imaginar es un primer paso, el siguiente podría ser darle forma y estructura, desarrollar los códigos, adecuarlos a los soportes más apropiados y diseñar las interfaces necesarias para que sea comprensible y accesible para un mayor y más diverso número de personas. Y luego hacerle mantenimiento permanente, para que se mantenga activa y segura.

Imaginar es potente y, sin duda, para muchas personas tradicionalmente discriminadas por su condición de género, etnia o clase, internet ha sido una posibilidad y una oportunidad de imaginar una sociedad distinta, más incluyente, justa y libre. Y sobre todo, para imaginarla con otras, sin importar la distancia geográfica o las diferencias sociales y culturales de por medio.

Por suerte, desde hace tiempo también ha habido personas imaginando y construyendo alternativas técnicas para que estos modelos ‘otros’ de sociedad habiten también en internet. Esto es, que la red no sea más un escenario de extensión de las violencias y desigualdades estructurales, sino un espacio de denuncia y transformación. Pero, ¿puede internet transformar la sociedad?

Esta pregunta es parte central del RFC 8280 en la IETF. Desde octubre de 2017, este documento ha servido como guía inicial y general para analizar el impacto que tienen los estándares y protocolos de internet sobre los derechos humanos, aunque todavía hay bastante por explorar sobre la manera como los protocolos impactan a distintos grupos sociales alrededor del mundo. Para hacernos una idea general de lo que estamos hablando, hace un tiempo escribimos sobre qué es IETF y los protocolos de internet, y por qué son importantes para nuestros derechos.

Cuando hablamos de violencia en internet, nos referimos a la extensión de formas tradicionales de violencia y discriminación, que en internet se perpetúan y se renuevan gracias a las posibilidades técnicas que permiten el registro permanente, junto con la difusión masiva e inmediata de contenidos. Y aunque esté en el espacio virtual, esta violencia es real, tiene impactos reales sobre la salud física y emocional de las personas que la enfrentan. Ahora, ¿es posible eliminar la violencia digital, mientras las formas estructurales de violencia se mantienen?

La respuesta es un rotundo no, matizado con los esfuerzos conjuntos que, en los últimos años, ha emprendido el movimiento feminista a nivel mundial, para erradicar las violencias dentro y fuera de línea. Para eliminar las violencias que ocurren en las redes sociales, por ejemplo, es necesario ajustar el diseño mismo de dichas redes, los mecanismos de regulación de contenidos así como los algoritmos y criterios sobre los cuales se procesan nuestros datos.

Junto con Article 19, hace poco comenzamos a desarrollar un documento que, tomando como referencia general los Principios Feministas de Internet, permita analizar y proponer recomendaciones sobre los impactos de los protocolos en grupos tradicionalmente discriminados y marginados. La primera versión del borrador sobre feminismo y protocolos fue presentada ayer durante la sesión del Grupo de Investigación sobre Consideraciones de Derechos Humanos y Protocolos (HRPC-RG) en la IETF104.

Nuestra propuesta es, de una parte, revisar la manera como se ha considerado el género, la diferencia y la diversidad en los documentos (Internet-Drafts y RFCs) que se desarrollan allí, al tiempo que incluimos casos concretos -a partir de cada Principio– para analizar cómo ciertos protocolos pueden tener impactos positivos o negativos sobre grupos sociales discriminados y marginados.

Creemos que es buen momento para plantear estos asuntos -y en estos términos- en una comunidad técnica cuyo objetivo central es “correr códigos que funcionen” para hacer una mejor internet. Sabemos que el camino apenas comienza, que será largo y quizás complicado, y esperamos que más personas se sumen a construir, desde aquí también, una internet feminista.

Por lo pronto, el próximo martes 2 de abril estaremos en el Internet Freedom Festival 2019 conversando más a fondo sobre este proceso, compartiendo ideas y trazando puentes. Esperamos que nos acompañen 😉

Directiva de Derechos de Autor de la UE: avanza la internet filtrada en Europa

El Parlamento de la Unión Europea está próximo a votar una nueva directiva para regular los derechos de autor en el entorno digital, tras una negociación en “triálogo” que acordó un texto final de la propuesta de Directiva sobre los derechos de autor en el mercado único digital.

Aunque a la distancia pareciera un avance de la regulación y de la negociación, basta acercarse un poco para darse cuenta de que es realmente la imposición de obligaciones absurdas para los proveedores de servicios en línea que incluye la exigencia de filtros automatizados para las subidas de contenidos, el pago de un “impuesto al enlace” por publicar fragmentos de noticias en agregadores y la necesidad de acuerdos con ciertas industrias de contenido. Arriesgando así el desarrollo de la internet abierta, interoperable y global en los países de la Unión Europea en nombre de los derechos de autor.

Camino a la internet “filtrada”

A pesar de que la intención de actualizar la Directiva 2001/29/CE llevaba algunos años, la introducción del proyecto de un Mercado Único Digital para la Unión Europea dio pie a la revisión de los marcos normativos vigentes. En septiembre de 2016, la primera propuesta de la Comisión Europea fue sujeta a revisión en varias ocasiones con serios cuestionamientos a su contenido y pasó ser votada por el Parlamento Europeo para convertirla en directiva a mediados de 2018.

Intensas campañas como #SaveYourInternet, cartas abiertas de expertos en tecnología y en derecho (incluyendo a figuras como Vint Cerf y Tim Berners-Lee), medidas dramáticas como el cierre temporal de Wikipedia, e incluso la intervención del Relator Especial para la Libertad de Expresión de la ONU, David Kaye, en contra de la iniciativa. La razón principal: el riesgo que la propuesta significaba para el desarrollo de internet, la participación de incontables internautas en la formación de una cultura digital de creación y recreación activa en comunidades accesibles a través la red. La presión tuvo éxito y, en julio de 2018, el Parlamento Europeo rechazó avanzar a la etapa de negociación y reabrir el debate meses después.

Sin embargo, el éxito en la defensa de internet fue efímero. En septiembre se reabrió el debate con un texto actualizado, sin mejoras sustantivas que hicieran cambiar el rechazo de actores relevantes de internet pero fue aprobado por amplia mayoría, dando pie a las negociaciones que acaban de terminar. Si tanto el Parlamento Europeo como el Consejo de la UE y la Comisión Europea aprueban el texto acordado, habrá una nueva directiva. Cada país de la UE deberá entonces implementarla en su legislación local.

Rompiendo internet en nombre del copyright

Desde el inicio la discusión se ha centrado con mayor fuerza en dos disposiciones específicas de la propuesta actualizada. Una de ellas, el artículo 11, conocido como el que impondría en la UE un “impuesto al enlace” creando un derecho para los editores de prensa para autorizar o prohibir la reproducción de fragmentos en agregadores de noticias de plataformas comerciales como Google News. Se trata de una solución que ya demostró ser un fracaso: en España Google News dejó de funcionar tras la aprobación de una ley que imponía un cobro irrenunciable a favor de los editores locales, lo que significó menor tráfico y la anulación del canon por el Tribunal Supremo tras reconocer la inoperancia de la iniciativa.

El caso más polémico es del artículo 13, que establece la obligación de revisar anticipadamente todo el contenido que las plataformas reciban de sus usuarios para prevenir la presencia de material infractor de derechos de autor. Según el mismo, los sitios que almacenan, optimizan y difunden contenidos provistos por usuarios con fines comerciales (como YouTube o Instagram) se consideran responsables por esos contenidos si son infractores de derechos de autor. El propósito es que las plataformas obtengan licencias de los titulares de derechos a modo de autorización y -a falta de licencias- realizar los “mejores esfuerzos” para prevenir la presencia de material no autorizado. Por cierto, existen en principio excepciones a esa responsabilidad para ciertos contenidos (como memes, parodias y otras limitaciones legales) y excepciones de las obligaciones para ciertas plataformas de menor tamaño. Pero eso no reduce la complejidad e inintelegibilidad del sistema, ni es un contrapeso efectivo a sus sesgos a favor de los derechos humanos.

En la práctica, la única forma eficiente de cumplir con la obligación principal del artículo 13  –a pesar de la negación de algunos promotores de la propuesta– es mediante filtros automatizados de baja precisión y dudosa viabilidad técnica. Por una parte, no existe uniformidad en las excepciones legales a los derechos de autor; por otra, las máquinas no están todavía capacitadas para distinguir un contenido infractor de uno que no lo es. Los yerros del sistema, en consecuencia, deberán ir por el lado de la censura de contenidos para prevenir responsabilidades. Las únicas formas de evadir ese riesgo serán mediante el cumplimiento de condiciones estrechas que no fueron diseñadas para ser cumplidas, o la adquisición o desarrollo de sistemas como el ContentID de YouTube, de costo prohibitivo para la mayor parte de las empresas que no son gigantes de internet.

Internet como espacio de intercambio de ideas, conocimientos, creatividad y memes, así como oportunidad para la innovación, se encontraría bajo riesgo constante para quienes no sean hoy poderosos miembros incumbentes de su economía.

Un mal modelo

Ignorando las críticas, la propuesta europea se mantiene como una amenaza concreta y próxima al ejercicio de los derechos fundamentales a libertad de información, la libertad de expresión, la participación en la vida cultural, la innovación y mucho más. Asimismo, su probable aprobación conllevaría una consolidación de las plataformas ya exitosas, como también la posibilidad de que varias de ellas dejen de operar en un entorno normativo asfixiante para la actividad de las usuarias. Es decir, el cumplimiento de las reglas propuestas podría ser más sencillo simplemente aislando a la UE de la internet mundial, volviéndola (aún más) diferenciada según la zona geográfica y restando el impacto global de las comunicaciones globales. O bien, en el peor de los casos, puede significar el sometimiento de toda la red a las peores reglas vigentes que pudieren ser objeto de fiscalización o sanción, extendiendo el alcance de la directiva.

Aún si ello no ocurre, el resto del mundo no está en mejor pie. En América Latina, los ejemplos de regulación de la responsabilidad de intermediarios son escasos y poco alentadores. Al positivo aunque limitado sistema aprobado en Chile, y el restringido marco ofrecido por el Marco Civil de internet en Brasil, le siguen noticias como la fallida regulación de la responsabilidad de intermediarios en Argentina, y el penoso compromiso de una reforma en línea con la DMCA en México.

Es quizás cuestión de tiempo para ver iniciativas tan malas o peores que las de la UE en nuestros países. Para la supervivencia de una internet abierta y global (y ojalá también libre, inclusiva y democrática), la lucha contra intentos regulatorios nefastos se mantiene vigente en todo el planeta.

DDHH en la primera línea de internet

En noviembre de 2015 el Gobierno de Chile hizo pública su Agenda Digital 2020, cuyo objetivo es desarrollar las capacidades tecnológicas, en todos los sectores y territorios, que permitan insertar al país en la Sociedad de la Información.

Dentro de los cinco ejes que componen la Agenda se contempla, como una de las medidas de Gobierno Digital, el desarrollo una Política Nacional de Ciberseguridad (en adelante PNCS) para Chile, la cual fue presentada por el Comité Interministerial sobre Ciberseguridad (CICS) a finales de 2016.

Pero el documento presentado no es, en sentido estricto, una política de ciberseguridad como se ha solido entender: dista de documentos como el de Estados Unidos o los de países europeos, pues Chile no cuenta con una legislación desarrollada en estas materias. Más bien se trata de una propuesta programática, un conjunto de medidas políticas y legislativas que deben implementarse para contar con una política funcional de ciberseguridad: proyectos de ley, políticas educativas y metas generales de desarrollo del país.

Sin embargo, la PNCS sí contiene diferentes directrices en áreas tradicionales y considera dentro de ellas el mandato del Estado de velar por los derechos fundamentales de las personas en el ciberespacio. Este es quizás uno de los pilares de la nueva política, porque varias son las amenazas que enfrenta la ciudadanía en el área de la seguridad digital: desde cibercrimen, políticas empresariales que no respetan los derechos de las personas en la gestión de datos, brechas de datos en organismos públicos y privados.

Como ciudadanas y ciudadanos nos encontramos expuestos a un gran número de riesgos respecto a los cuales, tanto el sector privado como público han de aunar esfuerzos para desarrollar un entorno digital que respete nuestros derechos, siendo la PNCS el instrumento que guíe tales esfuerzos.

Es en esta línea, han sido varias las declaraciones e instrumentos que han indicado la manera en que la relación entre ciberseguridad y derechos humanos ha de ser llevada. El criterio más claro y general ha consistido en indicar el simple hecho de que las personas contamos con los mismos derechos en ambientes dentro y fuera de línea, y por tanto los Estados tienen la obligación de proteger nuestros derechos fundamentales en los dos ámbitos por igual. Esto sería aplicable también para organizaciones privadas con las que como ciudadanos debemos interactuar en internet.

Pero esta afirmación por sí sola no es capaz de dar cuenta de la complejidad del fenómeno de la seguridad digital, y en este sentido indica la PNCS que “(…) todas las medidas propuestas por la política se deben diseñar y ejecutar con un enfoque de derechos fundamentales”, ¿qué debemos entender por enfoque de derechos fundamentales? No basta la simple afirmación de que son reconocidos y respetados dentro y fuera de la red.

En este sentido se han dado recomendaciones que dotan de contenido a esta expresión, señalando que implica comprender el desarrollo tecnológico a partir de los derechos fundamentales de las personas, a través de medidas concretas como:

“(…) 4. El desarrollo y la implementación de leyes, políticas y prácticas relacionadas con la ciberseguridad deben ser coherentes con el derecho internacional, incluidas las normas internacionales de derechos humanos y el derecho internacional humanitario.

5. Las leyes, políticas y prácticas relacionadas con la seguridad no deben utilizarse como pretexto para violar los derechos humanos, especialmente la libertad de expresión, asociación, reunión y privacidad.

6. Las respuestas a los incidentes cibernéticos no deben violar los derechos humanos.

7. Las leyes, políticas y prácticas relacionadas con la ciberseguridad deben mantener y proteger la estabilidad y la seguridad de Internet, y no deben socavar la integridad de la infraestructura, hardware, software y servicios. (…)”

También la Comisión Europea ha señalado que el enfoque de derechos humanos constituye uno de los medios ideales para el desarrollo y cooperación internacional en materia de seguridad, dando directrices específicas para su desarrollo en ciberseguridad. Así, las políticas que posean un enfoque de derechos humanos han de tener entre sus objetivos la persecución de un fin legítimo, ha de ser necesaria, proporcionada y considerar remedios efectivos, entre otros.

Al examinar las medidas que contiene la PNCS chilena parte importante de las recomendaciones dadas en materia de derechos humanos se encuentran presentes en algunos de los instrumentos que hemos indicado y creemos que estos criterios son los que han de informar la manera en que Chile se aproxime a los derechos humanos y la ciberseguridad.

Lo anterior no solo para reafirmar el compromiso del país con los derechos humanos y su desarrollo, sino porque la ciberseguridad destaca por una complejidad creciente en el desarrollo técnico de los medios de protección de la información donde el enfoque de derechos humanos podría servir como herramienta para solucionar conflictos.

En diversos países hay instituciones como el NIST o ENISA que ofrecen estándares o directrices técnicas tanto al sector público como privado de protección de la información, pero junto con estas directrices las organizaciones privadas cuentan con normas propias de ciberseguridad como las ISO, o en el sector público hay normas especiales de gestión de la información del Estado hacia sus organismos.

Todo este desarrollo legislativo y técnico hace que la ciberseguridad sea un área en donde existe una gran dispersión de posibles criterios de solución, por lo que llegado el momento de considerar cual ha de prevalecer sobre el otro puede resultar algo complejo. El enfoque de derechos humanos nos otorga un medio para dar una mayor claridad sobre los problemas y cómo solucionarlos.

¿Qué se debería hacer, por ejemplo, en el caso de una brecha de datos? Hay varias soluciones, por ejemplo seguir la norma técnica de mantención del servidor, que prevalezcan las obligaciones del responsable de la base de datos que indica la ley, o sostener otro criterio particular al caso. Una solución que considere el enfoque de derechos humanos nos llevaría a preguntarnos en primer lugar cuál derecho humano se ve afectado, y de qué manera puede y/o debería haber sido protegido. Esto permite dar una meta clara de solución al problema de ciberseguridad presentado, orientando las posibles soluciones a las que podría llegarse en vista de la protección del derecho vulnerado.

Esta clase de consideraciones caben no solo frente a incidentes de ciberseguridad, sino también al desarrollo y diseño de políticas e infraestructuras relacionadas con ciberseguridad. Esto permite orientar de manera clara los objetivos y medios que se consideran en esta materia en conformidad a los derechos humanos, valiéndose no solo de lo establecido en el derecho nacional, sino en el derecho internacional. El enfoque de derechos humanos requiere, en definitiva, un giro en la manera en que las intervenciones en las diferentes materias son conceptualizadas e implementadas.

La relación entre derechos humanos y ciberseguridad es una de las cuestiones de mayor relevancia y complejidad que se avecina para Chile con una nueva ley de protección de datos en camino, y con las medidas de la PNCS en desarrollo. Es el momento de comenzar de buena manera las nuevas políticas y leyes en esta materia.