Es tiempo que las ISPs chilenas se pongan del lado de sus usuarios

Chile vive tiempos convulsionados desde el inicio del estallido social en octubre del año pasado. El punto más álgido de la revuelta, sin duda se produjo con la quema de varias estaciones del metro de Santiago. Lo cierto es que a la fecha no sabemos quienes provocaron estos daños a la red subterránea y si se trató de un ataque coordinado. El gobierno -a pesar de no contar con ningún tipo de evidencia- ha puesto sobre la mesa la tesis de que se trata de un ataque motivado políticamente, organizado por grupos y gobiernos extranjeros.

En este contexto, el Ministerio Público ha echado mano a múltiples métodos investigativos y fuentes probatorias, desde peritajes respecto a los acelerantes utilizados a las grabaciones de cámaras apostadas en la cercanía de las estaciones. Sin embargo, la semana pasada los medios de comunicación dieron a conocer que la Fiscalía está buscando obtener pruebas a través de medios que no cumplen con la normativa vigente y que vulneran los derechos de los usuarios afectados.

El medio La Tercera dio a conocer que Fiscalía, a través de la Brigada de Investigaciones Policiales Especiales de la Policía de Investigaciones, solicitó a las distintas empresas de telefonía móvil del país la entrega de información relativa a la totalidad de números de telefonía móvil que se había conectado a ciertas antenas cercanas a la estaciones de metro afectadas, durante las horas en que ocurrieron los ataques. 

¿Y la orden judicial? 

Lo primero que llamó la atención e indignó a los usuarios, fue que parte de la información solicitada por Fiscalía fue entregada sin alguna orden judicial previa. Como consta en el relato de los medios, en primera instancia la Policía de Investigaciones solicitó a las compañías de telefonía la información sobre teléfonos conectados a las antenas presentando únicamente una instrucción del Fiscal a cargo de investigar la causa.

Ante ello, la mayoría de las empresas se negaron a entrega los antecedentes o los entregaron parcialmente, por tratarse de datos de carácter personal e información relativa a las comunicaciones privadas de sus clientes. Ante esta negativa, Fiscalía recurrió al 9no Juzgado de Garantía de Santiago y obtuvo una orden judicial autorizando la medida intrusiva. Una vez presentada la orden judicial, las empresas proveedoras de servicios de internet (ISP, por sus siglas en ingés) optaron por entregar la información solicitada. La única excepción fue WOM, que entregó los antecedentes solicitados sin requerir la presentación la orden judicial previa, es decir, únicamente con la instrucción del Fiscal de la causa.

Esto puede parecer una leguleyada, pero lo cierto es que es justamente en tiempos de crisis cuando el apegado al ordenamiento jurídico y las instituciones se pone realmente a prueba. Contar con una orden judicial previa es un requisito esencial e indispensable para poder autorizar diligencias de carácter intrusivo, que afecten, limiten o restrinjan el ejercicio del derecho a la protección de la vida privada y la inviolabilidad de las comunicaciones de los ciudadanos.

Estos requisitos, garantías y limitaciones no están establecidas en nuestro ordenamiento jurídico por mero capricho. Estas medidas buscan limitar la capacidad del poder político para entrometerse en la autonomía de los ciudadanos y evitar episodios de abuso de poder y vulneración de sus derechos, como vivimos recientemente en Chile con la llamada Operación Huracán.

Si bien este caso versa sobre información de las antenas telefónicas y los números conectados a ellas durante determinadas horas, es claro que esta información también entrega antecedentes respecto de la vida privada, las comunicaciones y el comportamiento de los clientes de las empresas telefónicas. De esta forma, el artículo 9 del Código Procesal Penal establece que “Toda actuación del procedimiento que privare al imputado o a un tercero del ejercicio de los derechos que la Constitución asegura, o lo restringiere o perturbare, requerirá de autorización judicial previa.

En este sentido, resulta sumamente preocupante que la empresa WOM haya decidido entregar los antecedentes sin exigir el cumplimiento de los requisitos establecidos en el ordenamiento jurídico. Esta preocupación se hace más patente si tenemos en consideración que WOM fue una de las empresas mejor evaluadas en la versión 2019 de Quién Defiende Tus Datos, un informe que justamente busca medir hasta qué punto las empresas de telefonía e internet protegen la privacidad y los datos personales de sus usuarios. Es de esperar que durante el 2020 la empresa revise en profundidad la relación entre lo que expresan sus términos y condiciones y lo que efectivamente sucede cuando la autoridad requiere información de sus usuarios sin cumplir con los requisitos establecidos por la ley. 

Incluso con orden judicial

La presentación de una orden judicial previa firmada por un Juez de Garantía es un requisito mínimo para entregar a la autoridad acceso a información relativa a las comunicaciones, la ubicación, conducta y los datos personales de los ciudadanos. Pero los jueces son seres humanos, susceptibles de equivocarse o dejarse presionar por las circunstancias políticas del momento.

En este caso, no corresponde que un Juez de Garantía autorice a la Fiscalía solicitar a las empresas de telefonía información respecto a todos los números de teléfono que se conectaron a las antenas de cierta zona a determinada hora. Como hemos señalado en el pasado, las diligencias de vigilancia -y los objetivos de su ejecución- siempre deben cumplir con los principios de legalidad, necesidad, proporcionalidad y respeto a los derechos fundamentales.

De esta forma, las diligencias que buscan recolectar antecedentes sobre la ubicación, comportamiento y comunicaciones privadas de los ciudadanos siempre deben ser de carácter individual, no de carácter amplio, abstracto o colectivo. En otras palabras, el Juez de Garantía puede autorizar que en base a antecedentes concretos que acrediten una sospecha fundada sobre la participación de un individuo en la comisión de un delito grave y -en la medida que la diligencia sea imprescindible para la investigación- que se autorice una diligencia de estas características respecto de ese individuo en particular.

Lo que no corresponde es que una medida de estas características sea decretada de forma abstracta, afectando a cualquier persona que simplemente se encontraba en el lugar de los hechos o simplemente es un vecino del sector, respecto de los cuales no existen antecedentes concretos que justifiquen una intromisión de estas características.

Si bien las empresas de telecomunicaciones tienen un deber de cooperación hacia la autoridad en lo que respecta a investigaciones penales, también tienen un deber moral y legal hacia sus clientes, de mantener reserva de los datos sensibles y relativos a las comunicaciones que obren en su poder a propósito del servicio que prestan. 

Este fue justamente uno de los parámetros que la versión 2019 de Quien Defiende Tus Datos buscó medir: hasta qué punto las empresas de telecomunicaciones están dispuestas a recurrir a tribunales o instancias administrativas para objetar instrucciones de la autoridad que no se ajustan a derecho. Durante el 2019 varias empresas se destacaron por objetar una solicitud desproporcionada de datos de sus clientes realizada por SUBTEL. Las empresas chilenas retrocedieron en su compromiso con sus clientes al no objetar judicialmente la solicitud de información de todos sus clientes que estaban conectados a las antenas cercanas al metro, es de esperar que durante el 2020 enmienden el camino y ante en nuevo episodio similar vuelvan a ponerse del lado de sus usuarios.

El Gobierno al escrutinio de las redes: lo que las imágenes ocultan

            “Acabamos de ver cómo el carro lanza agua… de gases, quiero decir, ha casi atropellado, parece, a un manifestante y han colisionado ambos carros lanza gases”.

            La narración que acompaña a las imágenes es confusa. Obligada a reaccionar en vivo, la periodista de Mega duda, se equivoca, sabotea su propio relato, del que pareciera colgar un gran símbolo de interrogación. Como si ella misma –contractualmente comprometida a explicarle a los telespectadores– no estuviera segura. Como si no diera crédito a lo que acaba de ver.  La narración es confusa, pero las imágenes son claras: Óscar Pérez de 20 años fue atropellado por un carro lanzagases el pasado viernes frente a la Plaza Baquedano, hoy rebautizada como Plaza de la Dignidad, punto cero del gran alzamiento social iniciado el pasado 18 de octubre en Chile y que se extiende ya por casi 70 días.

             Óscar Pérez se encuentra hoy con fracturas en ambas caderas, aunque fuera de riesgo vital, tras ser “comprimido contra la estructura lateral del costado izquierdo del otro vehículo blindado”, como tan coloridamente expresó el general de carabineros, Enrique Monrás. Las imágenes –transmitidas en vivo por televisión abierta– se volvieron tristemente virales la noche del viernes, lo que fue determinante en la agilidad con la que actuó el sistema legal: Mauricio Carrillo, conductor del carro lanzagases fue formalizado el sábado.

            El Instituto Nacional de Derechos Humanos se querelló por el delito de homicidio frustrado, pidiendo la prisión preventiva del conductor Mauricio Carrillo mientras se investiga su responsabilidad en el hecho. Pero a pesar de la brutalidad de las imágenes y la duda razonable respecto a la intencionalidad del atropello,  Carrillo –quien fue condenado en 2008 por atropellar a tres personas– solo fue formalizado por cuasidelito de lesiones graves; es decir, se estimó que obró con culpa no con intención de dañar y quedó en libertad y con firma mensual durante los 150 días que dure la investigación.

            Mientras tanto, en una celda de la Cárcel de Alta Seguridad, el profesor Roberto Campos Weiss cumplía la detención preventiva ordenada por el 12º Juzgado de Garantía de Santiago, por su participación en una jornada de protesta en la estación San Joaquín, el 17 de octubre. Al igual que en el caso de Carrillo, existe un video que lo inculparía, donde se le ve azotando un torniquete del metro. Pero a diferencia de Carrillo, que atropelló y fracturó a una persona, Campos Weiss fue considerado un peligro para la sociedad y fue ordenado a permanecer privado de libertad, por golpear un objeto inerte. De los 90 días originalmente estipulados, alcanzó a estar 53 días en prisión, hasta el pasado lunes cuando se ordenó su liberación. La investigación sigue en curso.

            Los casos de Mauricio Carrillo y Roberto Campos ilustran de forma muy precisa dos paradojas muy importantes para comprender el estallido social, su posterior desarrollo y el rol que ha cumplido el Gobierno de Chile en el manejo de la crisis. En primer lugar, pareciera quedar claro que para el Estado chileno la propiedad es mucho más importante que las personas: mientras entidades autónomas del Estado y organizaciones civiles narraban las distintas maneras en que la policía y los militares habían vulnerado los derechos fundamentales de los manifestantes en la sesión especial organizada por la Comisión Interamericana de Derechos Humanos en Quito, a los enviados por el Gobierno les pareció oportuno hablar de saqueos, los daños a supermercados y a otros establecimientos comerciales.

            En segundo lugar, establece un doble estándar preocupante y peligroso respecto al uso de registros de las manifestaciones en el marco de procesos legales. Mientras que los videos de abusos y violencia por parte de carabineros abundan –incluyendo carabineros lanzando piedras a los manifestantes, disparando bombas lacrimógenas al cuerpo de los manifestantes, golpeando a menores de edad, usando menores de edad como escudos humanos y atropellando transeúntes– pareciera ser que estos no son relevantes para el Gobierno que, a pesar de la evidencia, ha insistido en su llamado a no generalizar respecto al actuar policial y respalda a la institución.

            Por otro lado, Roberto Campos parece estar pagando no por su conducta, si no por la osadía de todos quienes se han manifestado durante los últimos dos meses. El foco de la policía parece puesto en la único persona a la que pudieron identificar mediante un video, generando un contraste caricaturesco con su incapacidad de identificar a los responsables de los numerosos actos de vandalismo que se han suscitado en los últimos 70 días.

            Esto es peligroso, puesto que el ejecutivo –incapaz de retomar el control político de la situación– ha hecho todo tipo de esfuerzos por proyectar la idea de que tienen la capacidad técnica necesaria y que los resultados serán prontamente visibles. Esto incluye alardear sobre sofisticadas técnicas de Big Data y el ahora infame informe confeccionado con ellas, que ponía liderando el descontento a cantantes, humoristas y músicos coreanos; un reporte realizado sin ninguna transparencia sobre metodologías, procesos de recolección o rigor científico en lo cual se apoyaría, pero que pone de relieve el detallado escrutinio que se está poniendo en la información que circula en redes –que tan importante ha sido para levantar con fuerza la alerta sobre la precaria situación de los derechos humanos en este contexto de protesta– con el fin de determinar responsabilidades penales. Se justifica el Gobierno en su más reciente comunicado señalando que este tipo de investigación “constituye una metodología eficaz y de uso común en las comunidades de inteligencia para el análisis de grandes volúmenes de información”, obviando que las investigaciones de inteligencia en Chile y el mundo están sujetas a normativa, control y transparencia que aquí se ha decidido ignorar.

            Así, el costo de mejorar la imagen de un Estado inefectivo es la vulneración de nociones básicas de justicia. Por una parte, la forma en que en el caso del profesor Campos se ha hecho uso de contenido audiovisual es dudosa mirados los estándares probatorios de nuestro sistema penal. La recolección de material desde redes sociales o de internet, independientemente del nivel de supuesto procesamiento tecnológico para el análisis de su contenido, debe estar sujeta a un alto nivel de escrutinio y a la posibilidad de su cuestionamiento por la defensa, máxime en razón del uso de la Ley de Seguridad del Estado como base de la persecución estatal. No solo para su eventual uso a modo de prueba, sino también como antecedente para justificar una medida cautelar tan restrictiva de derechos como la prisión preventiva. Información personal en redes sociales puede ser usada para confirmar la identidad de una persona, pero no su participación en un hecho, y da cuenta de una interpretación antojadiza del valor de lo que existe en internet.

            ¿Cuáles son los estándares en aplicación para definir el valor probatorio de imágenes de videos obtenidas en redes sociales? Esta fue una de las alertas que levantamos en nuestro reporte “Situación de derechos humanos y el uso de tecnología en el contexto de la protesta social en Chile”. Resulta asombroso que desde la audiencia de formalización, el profesor Campos haya sido calificado como “un peligro para la sociedad” para determinar la procedencia de la prisión preventiva, a partir de las imágenes de destrucción e inutilización de los controles de pago y acceso al Metro de Santiago. Mientras, en el caso de Carrillo, siendo los antecedentes más graves en función de la naturaleza del delito el bien jurídico afectado (la vida de una persona) y por la identidad de la persona infractora (un agente del Estado), similares antecedentes no dieron lugar a la misma calificación.

            El uso de las tecnologías por el Estado de Chile -y otros- no puede ser una excusa para saltarse los estándares de debido proceso, principio de inocencia y derecho a defensa consagrados en el sistema penal. Bajo esos principios conviene medir la prudencia de perseguir a una persona entre cientos, a través de inteligencia por fuentes abiertas, así como usar imágenes y contenido presente en las redes sociales como único elemento probatorio, sin contrastarlas con otro tipo de pruebas.

            El abusivo trato que el Estado ha brindado a Roberto Campos y el bochorno del informe Big Data del gobierno son evidencia clara de que existe una tarea pendiente de actualización de estándares normativos y transparencia en el uso de estas herramientas tecnológicas con la ciudadanía que prevengan nuevos y graves abusos siempre en nombre de la “paz social”, que como sabemos no es posible sin justicia y equidad.

Poner en riesgo la libertad no va a asegurarnos vivir sin violencia

En México, la violencia de género es una constante que este año se ha abordado con gran impacto a lo largo del país. Más allá de las importantes tomas del espacio público por parte de la sociedad civil organizada y las voces de miles de mujeres que han tomado las plataformas digitales como amplificadores de sus mensajes de denuncia, la energía en torno a una transformación que permita caminar hacia una realidad más justa en el país también ha catalizado alianzas que actualmente han logrado incidencia en espacios que anteriormente habían estado cerrados a posibilidades de colaboración para desarrollar o intervenir en las políticas públicas sobre violencia de género.

En el 2018, tras más de 10 años de trabajo sobre la versión publicada en 2007, se hicieron importantes reformas a la Ley de Acceso a las Mujeres a una Vida Libre de Violencia  (LAMVLV). Actualmente, se contemplan distintos tipos -y modalidades derivadas- de violencia y las medidas para atender a las víctimas de estas violencias: desde órdenes de protección hasta los servicios de albergue, sustento, salud y desarrollo (gratuitos, seguros e incluso confidenciales). En esta ley también se establecen algunas sanciones que corresponden a los tipos de violencia establecidos y aunque no se contempla de forma explícita alguna modalidad que haga énfasis en el uso de la tecnología, se abordan los diferentes tipos de violencia que se manifiestan a través de las plataformas digitales; las mismas manifestaciones de violencia que ya están tipificadas y para las cuales existen sanciones claras, por ejemplo: acoso, abuso, extorsión, difamación… E incluso se aborda la importancia de reconocer como violencia: “Cualesquiera otras formas análogas que lesionen o sean susceptibles de dañar la dignidad, integridad o libertad de las mujeres.”

Sin embargo, el descontento y el hartazgo persisten. Fuera de los slogans y la imposición del color rosa como estandarte de una “transformación incluyente” en la identidad gráfica de la Ciudad México, no ha habido una transformación que respondiera a las demandas de quienes viven diariamente con miedo a formar parte del promedio de 11 feminicidios que se llevan a cabo cada día en el país… Tampoco ha existido respuesta a las declaraciones de las mujeres que –de acuerdo a cifras del Instituto Nacional de Estadística, Geografía e Informática (INEGI)- han reportado un alza en las manifestaciones de violencia que viven, incluyendo al promedio de 9 millones de mujeres que han reportado ser víctimas de ciberacoso.

Victorias y retos

Este año, una iniciativa de reformas para tipificar los “delitos contra la intimidad sexual” y reconocer la violencia digital en la LAMVLV llegó a la Ciudad de México tras el éxito que anteriormente obtuvo en 19 de los 30 estados del país. Esta iniciativa es conocida como Ley Olimpia, a pesar de que no propone una ley en sí es importante reconocer el esfuerzo realizado por las mujeres que conforman la agrupación Defensoras Digitales (originalmente Frente Nacional para la Sororidad), así como sus aliadas en cada uno de los estados donde el proyecto impulsado inicialmente por Olimpia Coral logró consolidarse como una propuesta de articulación para que las mujeres víctimas de violencia a través de las tecnologías tuvieran un acercamiento a la construcción de la justicia que muchas veces suele omitirse ante la falta de funcionarios capacitados y sensibilizados para atender las denuncias de las manifestaciones de violencia que existen en las plataformas digitales y se traducen a impactos y consecuencias graves en las personas que las sufren, afectando todos los ámbitos de sus vidas y su desarrollo.

Si bien esta iniciativa refleja el descontento y la toma de acción por parte de las mujeres que buscan vías efectivas para encontrar justicia, es importante tomar en cuenta que esta también es la historia de mujeres que se han organizado en todo el país para hacerse cargo de las deficiencias que persisten por parte del las diferentes instancias para atender las falencias de un poyecto que lleva más de diez años en elaboración, sobre un tema que no solamente cuesta tiempo a quienes presentan denuncias que nunca se resuelven: es un tema que cada día cuesta vidas de mujeres que no son respaldadas en un sistema fundamentalmente machista y misógino.

Aunque la actual jefa de gobierno de la Ciudad de México, Claudia Sheinbaum, se ha comprometido a promover medidas para enfrentar las alertas de género de su dependencia, han sido pocos los espacios donde se pueden conocer, abordar de forma abierta y multidisciplinar en qué consisten las medidas que marcarán el rumbo de la consolidación del compromiso que adquirió. Más allá de posicionarse a favor del proyecto conocido como Ley Olimpia, no han existido verdaderos espacios de trabajo que incluyan a los grupos independientes de mujeres que llevan trabajando diversos ejes entorno a la violencia de género en la Ciudad de México y esto no es lo único alarmante, ya que al apostar por iniciativas que parten exclusivamente de una perspectiva punitivista también se deja de lado el análisis a fondo de las facultades que se le otorgan al Estado para fiscalizar cuestiones que podrían poner en juego tanto la libertad de expresión como el mismo desarrollo libre que se busca proteger al evitar la violencia de género en cualquier ámbito.

Además, como señala Agneris Sampieri desde la Red en Defensa de los Derechos Digitales (R3D), dentro de las modificaciones realizadas a la LAMVLV se “otorgan facultades a autoridades administrativas, como el Ministerio Público, para ordenar la interrupción, bloqueo, destrucción o eliminación de imágenes, audios o videos en Internet”. Esto, además de ser una medida anticonstitucional, por ir en contra de los artículos 6 y 7 de la Constitución Mexicana (así como el 13º de la Convención Americana sobre Derechos Humanos), supone sanciones desproporcionadas que además podrían desencadenar vías para legitimar la vigilancia de los espacios digitales.

Desde la organización Artículo 19, se ha advertido la importancia de analizar de forma más aguda las implicaciones de “limitar el debate a asuntos meramente contenciosos no abordará las raíces sociales que son base de los prejuicios que socavan la igualdad”; ya que esto ha demostrado construir brechas sociales donde el acceso a la justicia queda limitado a quienes ya cuentan con una serie de privilegios que podrían garantizar el respeto a sus derechos, mientras quienes viven en condiciones ya de por sí desiguales reciben medidas limitantes y fiscalizantes que actúan en detrimento de las necesidades básicas para ejercer y proteger sus derechos.

Por otro lado, desde Luchadoras y la coalición Internet Es Nuestra, hemos señalado la importancia de abrir espacios de diálogo que permitan poner estos temas a discusión para evitar que la contingencia por aprobar medidas contra la violencia de género nos prive de la elaboración de políticas públicas y medidas más sustantivas que permitan transitar a la construcción de procesos más justos para dar respuesta y atención a las víctimas de violencia, mientras construimos estructuras que incorporen la perspectiva de género y el respeto a los derechos fundamentales como ejes inalienables para el trabajo social así como las facultades que ejercen quienes representan al Estado.

La conversación que sigue pendiente

De 2017 a la fecha, en México y toda América Latina nos ha quedado claro que cuando el Estado no responde la sociedad se organiza. Este año, las mujeres han tomado las calles y los espacios digitales para dar un testimonio vivo de esto en diversas latitudes y es una celebración -un tanto amarga- que la lucha contra las violencias que vivimos diariamente sea cada vez más visible, cada vez más difícil de ignorar por quienes creían que podrían seguir impunes.

Sin embargo, ese hartazgo también viene de la simulación constante en torno a las medidas paliativas que se ofrecen para atender un problema que sigue desarrollándose sin mayor amenaza dentro de las mismas estructuras que supuestamente asumen compromisos para erradicar la violencia de género. El promover medidas sin un análisis detenido e incisivo no solamente refleja una forma lamentable de actuar para ganar puntos en la opinión pública, sino también un fuerte desconocimiento sobre el tema que se pretende atender; que además se agrava cuando no se abren espacios de diálogo diversos que puedan permitir -con tiempo, discusión, análisis y una planeación estratégica- la creación de medidas que respondan a la realidad que llevamos enfrentando por décadas. 

Resulta de una obviedad inmensa decirlo, pero los movimientos sociales que han tomado los espacios nacionales este año han sido el resultado de las violencias enfrentadas, heredadas y normalizadas por las mujeres mexicanas durante años: no son resultado de las tendencias en las redes sociales y la popularidad de Claudia Sheinbaum no es medida para grantizar que sus compromisos -a diferencia de administraciones previas- se cumplan.

Cuando hablamos de hacer frente a la violencia, no existen medidas universales que puedan atender de forma efectiva las implicaciones y el daño que las manifestaciones de la violencia de género tienen en las vidas de las mujeres que son victimizadas, en sus entornos inmediatos ni en el desarrollo de la sociedad que también se perjudica por el rezago que existe para evitar que la violencia siga existiendo en nuestras estructuras (familiares, escolares, profesionales, afectivas, etc.). Sin embargo, hacernos cargo de esto no debería suponer poner en riesgo los espacios que se han ganado, tanto para la libertad de expresión como para el goce de nuestra identidad, nuestra sexualidad y nuestro derecho a vivir sin miedo.

21N en Colombia, defender el anonimato en la protesta

El pasado 21 de noviembre en Colombia se celebró un paro nacional de dimensiones extraordinarias. Diferentes sectores de la población salieron a las calles de varias ciudades del país para protestar contra las reformas laboral y pensional, así como para exigir que se cumpla el Acuerdo de Paz, se adelanten medidas anticorrupción y se detenga el asesinato masivo de líderes sociales, entre otras demandas. Sin precedentes en la historia reciente del país, este paro se ha extendido por ocho días consecutivos, y se ha caracterizado por no tener una sola vocería ni un actuar coordinado de manera centralizada. Las manifestaciones van desde cacerolazos y asambleas vecinales hasta expresiones artísticas masivas, y a medida que pasan los días, más sectores se han sumado a la movilización.

En días previos al 21N fue noticia la militarización de la capital, así como otras “medidas preventivas” por parte de las Fuerzas Armadas en todo el país, con ocasión del paro. También se conoció de los operativos de allanamiento a artistas, medios de comunicación independientes e integrantes de movimientos sociales, muchos de los cuales fueron luego declarados ilegales al no encontrarse elementos que relacionaran a las personas afectadas con actos vandálicos o criminales.

Además de los allanamientos, que buscaban “identificar e individualizar a los encapuchados que en protestas anteriores han generado hechos de vandalismo y terrorismo en la ciudad”, el día anterior al paro varios medios de comunicación reportaron que durante la jornada de protesta la Policía de Bogotá estrenaría un sistema de reconocimiento facial instalado en el helicóptero Halcón, que desde principios de 2017 sobrevuela la ciudad adecuado con cámaras de alta resolución para apoyar desde el aire en la persecución del crimen.

De acuerdo con los reportajes, esta nueva tecnología -que también sería utilizada en la ciudad de Medellín, con la única diferencia de que allí se instalaría en cámaras estáticas y no en una aeronave-, tendría la capacidad de identificar, en tiempo real, las facciones alrededor de ojos y nariz de las personas que tuvieran su rostro cubierto durante las manifestaciones, para articular dicha información con las bases de datos de la Dirección de Investigación Criminal e Interpol (Dijín)y la Registraduría Nacional.

Todas estas acciones “preventivas” han sido fuertemente criticadas por generar un ambiente de tensión previo a la jornada de movilización nacional. En ese marco, vale la pena mencionar lo problemático que resulta el uso masivo de tecnologías biométricas, y específicamente de reconocimiento facial, para la vigilancia masiva y la persecución de delitos en un contexto de movilización social. Las tecnologías biométricas consisten en la recopilación, almacenamiento y procesamiento de datos derivados del cuerpo y sus movimientos. Un uso desproporcionado de este tipo de tecnologías atenta directamente contra los derechos a la privacidad, la integridad y la autonomía de las personas, y además puede tener consecuencias negativas como la discriminación de ciertos grupos sociales, debido a los sesgos de diseño e implementación, o la restricción de las libertades -de expresión, locomoción, asociación- de las personas en general, mediante un efecto silencioso de autocensura.

En el caso de la persecución de delitos, se trata de un atentado contra el derecho a la intimidad y a la presunción de inocencia, pues se alimentan bases de datos donde todas las personas vigiladas son consideradas sospechosas; en el caso de su uso en el marco de protestas con el fin de identificar a quienes tienen cubiertos sus rostros, como ocurrió el pasado 21N y posiblemente en los días siguientes, se trata además de un atentado contra el derecho al anonimato, directamente relacionado con la libertad de expresión y asociación. Sobre este punto, es importante señalar que en su guía práctica de bolsillo para salir a protestar Dejusticia advierte que si bien llevar el cuerpo cubierto o descubierto a una manifestación es una conducta protegida constitucionalmente, “muchos jueces o agentes policiales podrían tener opiniones distintas”.

Es preocupante, además, teniendo en cuenta que en el Congreso de la República se radicó recientemente un proyecto de ley que tipifica como conducta penal el vandalismo “que, valiéndose de una protesta, manifestación o movilización pública, dañe, atente o destruya los bienes públicos o privados [o] atente contra la integridad física de los miembros de la fuerza pública”, agravando la pena si la persona está ocultando total o parcialmente su rostro. Preocupante porque, aunque el Proyecto se justifique en la garantía del derecho a la protesta pacífica, en esta y otras jornadas de movilización se ha evidenciado cómo los abusos por parte de la fuerza pública superan con creces las expresiones de violencia por parte de la ciudadanía.

Por otra parte, como ha documentado en el pasado la Fundación Karisma, las millonarias inversiones en tecnología para la seguridad en Bogotá han carecido de estudios previos que garanticen la viabilidad de su implementación (por ejemplo porque no hay acceso a las bases de datos necesarias para que la tecnología de reconocimiento facial funcione efectivamente), así como de transparencia respecto a su adquisición e implementación. En cambio, han gozado de amplia promoción en medios de comunicación, con narrativas que lejos de proponer una perspectiva crítica sobre las implicaciones sociales o legales de su uso, alimentan discursos tecnosolucionistas.

Recientemente en América Latina se han comenzado a implementar sistemas de reconocimiento facial para distintos fines, sin un análisis profundo, ni político ni técnico, sobre los riesgos asociados a su uso. En los contextos de protesta que en los últimos meses se han vivido en distintos países de la región, donde se ha evidenciado una enorme participación ciudadana al tiempo que un uso desmedido de la fuerza y múltiples violaciones a los derechos humanos por parte de los gobiernos, es necesario alertar sobre el uso tecnologías de reconocimiento facial para vigilar la protesta social, y rechazarlo enfáticamente, así como las iniciativas de criminalizar y perseguir el uso de capuchas durante las manifestaciones, como se está intentando al menos en Chile y Hong-Kong. La protesta es un derecho, el anonimato también.

Periodismo y vigilancia en México: sin garantías para la libertad de expresión

El 29 de octubre, la aplicación de mensajería WhatsApp, propiedad de Facebook, tomó acciones legales contra NSO Group, la empresa de tecnología de vigilancia que desarrolló el malware espía “Pegasus” aquirido por el Gobierno mexicano, cuyo uso ha sido estudiado y denunciado desde 2016 por ONGs nacionales como R3D, SocialTIC y Artículo 19,  en el caso conocido como #GobienoEspía.

En mayo de este año, el equipo de seguridad de WhatsApp detectó una falla en la aplicación, que permitía inyectar spyware comercial en celulares mediante una simple llamada. Junto con desarrollar una solución al problema, se realizó una investigación que concluyó que la vulnerabilidad había había sido explotada por NSO Group, que también utiliza el nombre Q Cyber Technologies.

La preocupante novedad que plantea esta forma de ataque es que, al ejecutarse mediante un llamado, no requiere que la víctima habilite la instalación del software malicioso pinchando algún hipervínculo, lo que dificulta la obtención de evidencia y la toma de medidas precautorias para evitar, documentar y denunciar intentos de infección.

Más de 1400 casos fueron identificados y al menos 100 contra defensores de derechos humanos. En México, un número importante de infecciones ocurrieron durante abril y mayo de 2019, coincidiendo con las revelación del caso de Griselda Triana, viuda del periodista Javier Valdez y víctima del espionaje a manos de agentes estatales, pues según NSO Group, solo venden sus productos a gobiernos.

Vigilancia como violencia

Actualmente, México es el país más peligroso del mundo para ejercer el periodismo, lo que naturalmente pone en riesgo la salud de la libertad de expresión y, con ello, de la democracia misma del país: incapaz para garantizar la seguridad de sus periodistas y, consecuentemente,  incapaz de garantizar el bienestar y la autonomía de sus habitantes.La violencia contra las y los periodistas, que entre otras formas se expresa mediante el abuso de la tecnología de vigilancia por parte del gobierno mexicano, escala gracias al clima de impunidad que hace oídos sordos frente a las denuncias realizadas por comunicadoras, activistas y personas defensoras de derechos humanos, algunas de las cuales han perdido la vida o han tenido que migrar para preservarla.

Llama la atención de que, a pesar de los logros recientes de las ONGs que han presentado denuncias a NSO Group en cortes internacionales, la respuesta por parte del Gobierno no es más que una serie de promesas, vacías que denotan un claro desconocimiento entre quienes lideran el país sobre los abuso de las tecnologías en México.

Por otro lado, lejos de perseguir los abusos tecnológicamente posibilitados, la milicia nacional parece premiar a sus responsables con ascensos laborales. La misma milicia que hoy participa de la implementación de la Guardia Nacional, una estrategia para militarizar las calles del país como respuesta a la presencia del narcotráfico y que en su más reciente muestra de poder mostró ser completamente ineficiente.

Esto pareciera indicar que, mientras el presidente declara que su administración no participa en el uso ilegítimo de las tecnologías y anuncia “compromisos”, hay personas con poder actuando desde diferentes instancias estatales para tomar ventaja de los puntos ciegos de una administración fuertemente criticada por su falta de un liderazgo estratégico, incapaz de conocer y controlar el alcance de las acciones que sus subordinados realizan con el poder que se les otorgado para “preservar la seguridad en el país”. Tal vez el problema acá sea que nadie les ha aclarado que no se trata de su seguridad propia, sino de la seguridad de la mayoría: quienes necesitan del periodismo libre para producir decisiones informadas y tener los elementos necesarios para cuestionar al Estado y sus representantes cuando no cumplan sus obligaciones fundamentales.

Lo que queda pendiente

Desde 2016 la participación de organizaciones no gubernamentales nacionales e internacionales para frenar el abuso de la tecnología se ha articulado en redes para presentar casos e informes conjuntos, con el fin de denunciar los abusos que diferentes gobiernos hacen de las tecnologías para vigilar a quienes expresan posturas críticas a sus administraciones. Los esfuerzos articulados de personas con experiencia legal, en comunicaciones, en activismo, en defensa de derechos humanos y con trayectorias multidisciplinarias en América Latina y México han sido potentes y constantes.

Hace falta que gobiernos, como el mexicano, asuman la participación en espacios de diálogo que permitan articular las experiencias y trayectorias de estos grupos a las propuestas administrativas y de desarrollo en las que quieran involucrar despliegues masivos de tecnologías, que se plasmen en acciones claras y concretas. Las declaraciones y compromisos realizados por el presidente se vuelven palabras vacías si no existen políticas públicas que las respalden. Es la única forma de defender la democracia participativa en el país, pero también asegurar que los derechos humanos sean preservados y contemplados dentro de las estrategias de seguridad nacional.

Inquietudes relacionadas con las tecnologías en el contexto de protestas en Chile

PROBLEMAS DE CONEXIÓN

¿Las empresas o el gobierno están desconectando internet?

Hasta el momento, ninguna evidencia comprobable o declaración sugiere que sea el caso, incluso la Subsecretaría de Telecomunicaciones (Subtel) lo desmintió explícitamente y aclaró que están monitoreando la disponibilidad de los servicios de comunicaciones directamente con las empresas proveedoras.

Es normal que en ciertos puntos donde hay muchas personas conectadas a la red celular (siendo las manifestaciones masivas el ejemplo más claro) la capacidad de la red se vea saturada y algunos usuarios comiencen a ver su servicio degradado o incluso interrumpido, especialmente si gran cantidad de personas en la zona usan servicios que demanden alto ancho de banda, por ejemplo la transmisión de video.

Si vas a una marcha, puedes acordar con otras personas estar preparadas para comunicarse aún si se satura la red. Aquí recomendamos algunas aplicaciones de mensajería que pueden ser útiles, aunque también fallan.

¿Pueden estar desconectando el servicio de internet residencial?

A pesar de que se han recibido quejas por mal funcionamiento del servicio de Internet en zonas específicas, los proveedores correspondiente las han reportado como fallas aisladas que han sido o serán atendidas en la medida de las posibilidades, resultando en episodios puntuales no atribuibles necesariamente a cortes intencionales de servicio en el marco de la situación actual. De todos modos, es importante que la ciudadanía esté atenta a posibles interrupciones de servicio para documentar y reportar cualquier incidente futuro.

AFECTACIÓN DE REDES SOCIALES Y OTROS SERVICIOS

¿Están censurando tendencias en Twitter?

Se han reportado algunos casos de problemas en la visualización de tendencias. Twitter actúa frente a publicaciones o actividad dentro de la plataforma que pueda estar violando sus normas comunitarias. Sobre estas no tenemos conocimiento concreto, pero podemos decir que en ocasiones, justo en los primeros minutos en que una tendencia comienza a viralizarse tiende a no aparecer en varias de las páginas de Twitter hasta pasado algún rato. Este es el funcionamiento normal del algoritmo, que debe comprobar no estar respondiendo a una actividad inusual o artificial, promoviendo palabras o expresiones contrarias a sus términos de servicio. Más información en la sección ¿Existen reglas para las tendencias? de Twitter.

De todos modos, estamos buscando más información al respecto.

¿Se están bloqueando páginas y/o servicios web?

Hemos recibido reportes de potenciales bloqueos a sitios web, especialmente basados en estos resultados producto del uso de ooniprobe, herramienta que recomendamos en días previos para medir interferencias a la red. Si bien aparecen algunas anomalías en las pruebas descritas en los resultados de ooniprobe, estos parecen ser poco consistentes con bloqueos definidos por proveedor, zona geográfica o sitios web particulares. Los resultados apuntan a intermitencias o fluctuaciones de servicio al momento de realizar las pruebas. Seguimos recomendando el uso de herramientas como ooniprobe para medir potenciales interferencias, sin embargo aclaramos que en caso de bloqueos estructurados estos serán evidentes cuando varios usuarios que comparten el mismo criterio de bloqueo (geográfico, de proveedor o de servicio consultado) carguen sus resultados y puedan ser declarados una anomalía respecto a los datos usuales de la red (sin bloqueos) pero a su vez experimentado de forma masiva.

En cuanto a Twitter específicamente, hubo una caída parcial del servicio a nivel global el día martes 22 de octubre, que afectó a varios usuarios en Chile como fue reportado en redes sociales. Esta falla no apunta a ningún hecho concreto dentro del país dado que tuvo alcance global y fue prontamente resuelta.

CIERRE DE CUENTAS EN REDES SOCIALES

¿Por qué están cerrando cuentas en Facebook e Instagram?

Esta pregunta puede tener varias interpretaciones dependiendo de cada caso:

Algunos de estos servicios emplean controles de seguridad para proteger las cuentas de usuario que funcionan adecuadamente en situaciones normales pero en escenarios de conflictividad social, cuando los patrones de publicación de usuarios cambian radicalmente pueden resultar contraproducentes y pueden terminar en la suspensión de cuentas de usuarios por actividad inusual, por ejemplo cuando se publica en un ritmo nulo o muy bajo y súbitamente se incrementa la frecuencia de publicación.

En escenarios de polarización es usual que grupos de usuarios denuncien publicaciones incómodas como contenido que incita al odio, que puede herir la sensibilidad de los que se exponen al contenido (esto aplica especialmente a imágenes de heridos, fallecidos, hechos violentos, etc.) u otras violaciones a los términos de servicio de la plataforma correspondiente. Por otra parte, los mismos algoritmos usados por las plataformas para curar contenidos pueden detectar legítima o erróneamente alguna de estas conductas y activar procesos de suspensión o cierre de cuentas de forma automatizada.

En estos casos recomendamos:

  • Revisar los Términos de servicio por plataforma para consultar qué podemos y no publicar.
  • Documentar con capturas de pantalla, tomar horas de incidentes, etc., para facilitar cualquier trámite de apelación o de reactivación de cuentas.
  • En los casos que aplique revisar en comunicaciones a los administradores de cuentas las razones por las cuales algún contenido o cuenta fue afectado
  • En casos en donde existen anomalías con el servicio o la conexión, esperar e intentar conectarse después de algunos minutos antes de publicar que nuestras cuentas o contenidos particulares fueron afectados.

Puedes encontrar más información al respecto en este documento que hemos preparado.

Así también, Fundación Datos Protegidos está recopilando información sobre este tipo de casos. Puedes revisar su iniciativa aquí.

POSIBLES INTERVENCIONES DE CELULARES

¿Podemos saber si nuestros teléfonos celulares han sido intervenidos marcando *#62#?

La capacidad de desvíos de llamada existe desde hace muchos años y todos los teléfonos actuales los soportan, aunque ciertamente esta funcionalidad puede ser abusada con fines de vigilancia, recomendamos entender bien cómo funcionan estos desvíos para no terminar desconfigurando nuestros equipos de forma adversa. Generalmente esta configuración es hecha por nuestro operador celular para activar los buzones de voz, por lo que al marcar códigos como *#62# es normal que aparezcan números diferentes al nuestro. En este caso vale la pena consultar con otros usuarios del mismo proveedor para ver si comparten configuraciones similares. Por ejemplo, Si nuestro número es «+569 1234 5678» y lo tenemos contratado con Claro Chile, es normal que aparezca como número de desvío de llamadas «+56920012345678» que es muy similar al propio con algunos dígitos extra, sin embargo no representa ningún problema en términos de vigilancia. Es importante resaltar que estas configuraciones varían por operador.

Otro aspecto a verificar es qué tipo de desvíos están activos, existen cuatro tipos de desvíos posibles

1) Cuando nuestro número cae ocupado

2) Cuando no contestamos una llamada

3) Cuando no estamos disponibles (si no tenemos cobertura o está apagado el teléfono)

4) Siempre. Este último desvío en general no debería estar activado. En caso contrario vale la pena documentar y pedir ayuda, sin embargo, no lo hemos visto hasta el momento por lo que lo consideramos improbable.

APOYOS LEGALES

En estado de emergencia, ¿La ley permite grabar la actividad de un uniformado (militar o policía)?

Siempre es legal grabar a un Carabinero o militar que se encuentra realizando un operativo o una detención. Sea en espacios públicos o privados.  Ese derecho no se restringe por el Estado de E mergencia y ejercerlo será crucial para el futuro proceso de verdad y justicia. No hay ninguna prohibición explícita y está cubierto por la libertad de expresión (y derecho a defensa, eventualmente).

Si estás grabando en video una detención policial o una violacion de DDHH grita el día y hora, lugar donde estás, tu nombre y ojalá el de la persona que está siendo agredida o detenida. Así no se puede sacar de contexto el video a futuro y sirve como prueba. Hemos preparado este post explicándolo mejor.

¿Dónde puedo denunciar si soy víctima o testigo de una violación a los derechos humanos durante el Estado de Emergencia?

Varias organizaciones de la sociedad civil se han articulado para recopilar, curar, preservar, verificar e investigar evidencia visual relacionada con violaciones de derechos humanos y otros crímenes cometidos durante el Estado de Emergencia. Puedes seguirles en Twitter @Testigoenlinea o llenar el formulario habilitado en su sitio web testigoenlinea.cl/

El Instituto Nacional de Derechos Humanos INDH ha habilitado este formulario para recibir denuncias sobre vulneraciones de derechos humanos en el marco del Estado de Emergencia.

Si quieres denunciar ante la justicia alguna vulneración a los derechos humanos durante el Estado de Emergencia, la Corporación Fundamental tiene este instructivo para presentar recursos de amparo.

También puedes comunicarte en Santiago con:

  • Abofem, Natalia Bravo Correo: Nataliabravop@gmail.com + 56 9 6587 0284.
  • Defensoría Jurídica Universidad de Chile reciben denuncias al correo cdh@derecho.uchile.cl o al teléfono +569 36203403.
  • Pikete Jurídico FECH: Whatsapp DE DENUNCIA FECH +569 3620 3403, ABOGADO, Pikete: Joaquín Astorga Norambuena + 56 9 6433 7507, formulario.

¿Puedo denunciar y recibir apoyo si he sido víctima de violencia sexual durante el Estado de Emergencia?

  • El Colegio de Matronas mantiene una línea telefónica de orientación de violencia sexual  para mujeres que han sido víctimas de abuso durante el estado de emergencia. Prestan asesoría, apoyo y orientación para denunciar. El número es +56967136071
  • La organización Amaranta, con sede en Concepción, abrió un canal de apoyo y recopilación de denuncias a mujeres cis o transgénero que han sufrido violencia, abuso o acoso sexual durante el estado de emergencia. En Twitter @AmarantaOng correo voces@amarantas.org

¿Es posible restaurar nuestras cuentas o contenidos removidos de plataformas de redes sociales?

Los motivos no siempre son claros, así como tampoco el mecanismo que detonó la alerta de moderación, que puede ser automatizada – el sistema detecta contenido potencialmente infractor y levanta la alerta sin mediación humana- o producto de un reporte realizado por otro usuario o usuaria de la plataforma.

Junto con ello, es posible que el contenido que hayas publicado entre en conflicto con los términos de servicio de la plataforma. Un ejemplo de ello es el contenido que presenta violencia gráfica. Evidentemente, en un contexto de protesta y violencia social como el que estamos viviendo, no es inusual que la documentación del uso excesivo de la fuerza policial o militar adquiera una forma particularmente explícita y delicada, lo que en ningún caso resta su valor, sino al contrario.

La fundación Datos Protegidos tiene un formulario para apelar en caso de bloqueo de contenido en redes sociales: Numerosos casos de censura de contenidos en varias plataformas de RRSS. Desde la desaparición de contenidos al bloqueo o cierre de cuentas. Puedes denunciar tu caso completando este formulario.

Las fiscalías regionales han dispuesto correos electrónicos para recibir denuncias sobre actos delictivos.

OTRAS INQUIETUDES

Puedes escribirnos a prensa@derechosdigitales.org

Apagones de internet y censura en América Latina

Las casi dos semanas de protestas en Ecuador contra las medidas de austeridad del presidente Lenín Moreno, que culminaron hace apenas unos días con la derogación del decreto que diera origen a las protestas, fueron también el escenario de una serie de incidentes de disrupción al libre flujo de las comunicaciones y la información en internet. Según reportes de la organización Usuarios Digitales, servicios como WhatsApp y Twitter presentaron fallas en la descarga de videos e imágenes. Esta información fue reforzada a través del reporte publicado por la organización Netblocks, que señaló que los servidores de imágenes y contenido (CDN) de Facebook y WhatsApp estuvieron inaccesibles a través del operador de telecomunicaciones estatal -Corporación Nacional de Telecomunicaciones (CNT)- desde la noche del 6 de octubre, en momentos durante los cuales las redes sociales veían aparecer imágenes y videos de la represión de las protestas y de la muerte de uno de los manifestantes. 

La práctica de restringir el flujo de discurso y contenido multimedia durante protestas, especialmente en contextos de represión contra manifestaciones con carácter social y político, se ha presentado en la región en casos muy puntuales pero también sumamente preocupantes como son Venezuela y Nicaragua. En Venezuela, los bloqueos intermitentes de redes sociales se han vuelto una práctica constante -tal como ha reportado incansablemente la organización Venezuela Inteligente mediante su proyecto VESinFiltro– en combinación con bloqueos permanentes a medios de comunicación específicos:

Además de bloqueos indefinidos a medios hemos reportado el uso de bloqueos cortos y tácticos a algunas plataformas claves como Twitter, Youtube, Instagram, Periscope y también sitios como el de CNN en Español. (…) Mediante el monitoreo de internet que realiza VE sin Filtro, conocemos de más de 20 medios de comunicación bloqueados de forma indefinida al momento de esta publicación.

Andrés Azpúrua para VESinFiltro

En Nicaragua, según Netblocks, los cortes intermitentes de internet estuvieron presentes durante las protestas de 2018 y 2019 mediante “apagones” completos del internet en regiones específicas, que muestran una “fuerte correlación” entre los momentos de las disrupciones y apagones de la red y los momentos en que tenía lugar la represión de civiles. Lo anterior sugiere que estas medidas buscan ahogar el flujo de información durante los momentos clave de las protestas. Cabe recordar que situaciones similares se han presentado también en Venezuela, siendo quizá la más memorable el “apagón” de internet en el estado Táchira durante las protestas de 2014, que duró más de 36 horas y tuvo lugar en la zona más álgida de protestas durante el momento de mayor represión.

En todos los casos mencionados, los bloqueos y restricciones en el acceso a internet se han visto acompañados de otras medidas y ataques contra periodistas, defensores de derechos humanos y medios de comunicación tradicionales, marcando el debilitamiento del ecosistema de la información y la comunicación y -como consecuencia inevitable- el socavamiento del entorno democrático. En este contexto, el uso de las redes sociales como herramienta para la protesta y la participación política cobra particular relevancia al convertirse en una avenida alternativa para el ejercicio de las libertades civiles y políticas.

Aunado a esto, según un reporte de la Global Network Initiative, un país con conectividad alta puede perder al menos 1,9% de su PBI por cada día que los servicios de internet se ven afectados, un costo que equivale a 1% en el caso de un país de conectividad intermedia y 0,4% en un país de conectividad baja. Es decir, las disrupciones de la conectividad no afectan solo los derechos civiles y políticos de los ciudadanos de un país, sino que minan los derechos económicos y sociales colectivos, una preocupación especialmente grave en países en vías de desarrollo y en democracias frágiles y emergentes. Según la herramienta COST, desarrollada por Netblocks para medir el costo financiero de los apagones y bloqueos a internet, Venezuela ha perdido en total USD $402.803.069 a causa de los apagones, mientras que Ecuador ha dejado de percibir USD $82,146,854 y Nicaragua USD $4,724,285.

Ya en 2016, la Asamblea General de la Organización de Naciones Unidas declaró que las medidas intencionales para evitar o interrumpir el acceso o la diseminación de información en línea constituye una violación de las normas internacionales en materia de derechos humanos. Asimismo, la OEA ha repudiado de manera específica “los apagones y disrupciones arbitrarias para restringir el acceso a las redes de telecomunicaciones e internet”. 

Queda claro que este tipo de medidas dejan de manifiesto una intención de restringir la libertad de expresión e información de manera desproporcionada e ilegítima, una decisión que es por completo incompatible con el debido funcionamiento de una democracia.

Vigilancia, control social e inequidad: la tecnología refuerza vulnerabilidades estructurales en América Latina

Mientras la brecha entre ricos y pobres se incrementa en el mundo, América Latina sigue siendo la región donde la riqueza se distribuye de forma más desigual. Según la Comisión Económica para América Latina y el Caribe (CEPAL), existen marcados desequilibrios entre los distintos niveles socioeconómicos en aspectos como la esperanza de vida, la mortalidad infantil, la tasa de analfabetismo y el acceso a agua al interior de las viviendas. Así, la altísima inequidad que asola al continente influye directamente en el bienestar de sus habitantes, sus posibilidades de desarrollo y en el ejercicio de sus derechos fundamentales.

La implementación de programas que condicionan el acceso a servicios básicos a la vigilancia estatal y privada ejemplifican de manera clara no solamente el hecho de que las tecnologías no son neutras, sino que impactan de forma diferenciada a distintos grupos humanos, de acuerdo a su género, al color de su piel y a su clase social. 

Aprovechándose de las deficiencias de nuestros sistemas legales y explotando sus áreas grises, la industria ha impulsado agresivamente un tecnosolucionismo chauvinista, abrazado irresponsablemente por una clase política con ganas de figurar a la sombra de una idea tristemente reducida de progreso. Así, el negocio se transforma en la promesa de un beneficio acotado, que se consigue a costa de los derechos de quienes no tienen más opción que someterse al escrutinio constante, a la vigilancia, al control, a la discriminación. Hablar de desigualdad en América Latina es hablar de la ponderación que se hace entre los derechos de quienes pueden acceder a otras posibilidades y quienes no. 

La inequidad se esconde hoy tras una serie de muletillas de significado impreciso – big data, decisiones algorítmicas, inteligencia artificial – que en nombre de la eficiencia intentan naturalizar los sesgos bajo los cuales operan, haciendo inescrutables los sistemas que los procesan y la forma en que son usados para regular el acceso a programas sociales, el uso del transporte público o la asistencia a eventos populares.

Ejemplos no faltan. En Argentina, la provincia de Salta firmó en 2017 un acuerdo con Microsoft para utilizar inteligencia artificial en la prevención del embarazo adolescente y la deserción escolar. Según la empresa, a partir de datos recolectados por medio de encuestas a sectores vulnerables de la sociedad “los algoritmos inteligentes permiten identificar características en las personas que podrían derivar en alguno de estos problemas y advierten al gobierno para que puedan trabajar en la prevención de los mismos”.  Los datos recabados son procesados por servidores de Microsoft distribuidos alrededor del mundo y el resultado de ese procesamiento apunta específicamente a las adolescentes identificadas como personas bajo riesgo, afectando no solamente su privacidad, sino también su autonomía y generando amplio potencial de discriminación. Se trata, finalmente, de un mecanismo dirigido de control sobre personas en situación de vulnerabilidad que son expuestas a intervenciones sin su consentimiento, reforzando la vulnerabilidad de las personas que son privadas incluso de la posibilidad para decidir sobre esas intervenciones.

Aunque se argumente que los datos utilizados para la proyección son entregados voluntariamente, es cuestionable la idea de que las niñas y adolescentes afectadas por estas medidas –o sus responsables–  puedan prestar un consentimiento activo y realmente consciente sobre las implicaciones de entregar información específica sobre sus hábitos sexuales y potencial embarazo. Cabe señalar que Salta fue la última provincia argentina que dejó de impartir educación religiosa en las escuelas públicas después de un fallo de la Corte Suprema, reconociendo la existencia de violaciones a los derechos a la igualdad y a la no discriminación, así como a la privacidad de los ciudadanos y ciudadanas. El uso tecnológico descrito no es sino expresión de problemas más amplios para comprender los ámbitos de autonomía y privacidad de las personas, con un propósito político.

En Brasil, el Ministerio de Ciudadanía firmó un acuerdo con el gobierno de Salta y Microsoft para implementar un programa similar. En este caso, además de la prevención del embarazo adolescente y la deserción escolar, se pretende anticipar cuestiones como la desnutrición y enfermedades en la primera infancia. El país sería el quinto en la región en compartir la experiencia argentina. Además de dudas sobre el consentimiento informado y el acceso del Estado a informaciones sensibles sobre poblaciones vulnerables, quedan sin respuesta algunas preguntas sobre qué otros usos u previsiones se pueden extraer de esos datos y cuáles los límites para su tratamiento por parte de Microsoft y los gobiernos involucrados en el programa.

Por su parte, Chile inició en 2019 la implantación piloto de una herramienta que busca detectar a niños, niñas y adolescentes en situación de riesgo. Según el Ministerio de Desarrollo Social y Familia, Alerta Niñez es un instrumento preventivo que “identifica el conjunto de condiciones individuales, familiares, del entorno y de los pares de los niños y niñas y adolescentes, que tienden a presentarse cuando existe un riesgo de vulneración de derechos de niños, niñas y adolescentes”. El sistema se basa en el procesamiento estadístico de grandes cantidades de datos provenientes de organismos públicos para calificar a la población menor de 18 años, ordenando a las personas según su probabilidad de sufrir vulneraciones.

Aunque en este caso el sistema haya sido desarrollado por una universidad privada local, nuevamente se trata de una iniciativa invasiva de recolección de datos sensibles de menores de edad que conlleva gran riesgo de profundizar situaciones de prejuicio y estigmatización hacia grupos históricamente vulnerables. Además, estos procesos implican la transferencia de datos personales a terceros y la posibilidad de que esos datos sean usados para fines distintos a los que permitieron su recolección; sin bases legales ni garantías de que la información generada no será utilizada a futuro con otros propósitos, como iniciativas de policiamiento predictivo por ejemplo.

Dado que cuestiones como embarazo adolescente, evasión escolar y desnutrición son problemas estructurales en la región, es extremadamente cuestionable que las políticas asociadas sean mediadas o condicionadas a la recolección de grandes cantidades de datos. Que no exista a su vez una preocupación por los derechos de niños, niñas y adolescentes, concordante con instrumentos vigentes en toda la región, da cuenta de un problema más profundo.

Vigilancia, control y exclusión

En Chile, la implementación de sistemas de identificación biométrica en el sistema nacional de salud preocupa por las posibles limitaciones que podría generar a poblaciones marginadas y empobrecidas -e incluso a personas mayores, por la pérdida de legibilidad en rasgos como las huellas digitales- para su acceso a servicios básicos de salud.

La implementación del llamado “Sistema Biométrico para la Seguridad Alimentaria” en Venezuela, a través del cual se exige a los ciudadanos la verificación de su identidad a través de la huella digital para adquirir productos categorizados como de “primera necesidad” (productos alimentarios, de higiene y medicinas), ha generado denuncias por discriminación hacia personas extranjeras -documentadas e indocumentadas- y personas transgénero. La situación es particularmente preocupante dada la situación de escasez de bienes esenciales y la crisis humanitaria que se agrava en el país, principalmente afectando los derechos a la alimentación y salud de las poblaciones más vulnerables. 

En São Paulo se implementó hace dos años el uso de cámaras de reconocimiento facial en el sistema de transporte público, con la justificación de que ayudarían a evitar el fraude en el uso de beneficios sociales asociados al transporte, como descuentos a adultos mayores, estudiantes y personas con discapacidad. En estos dos años el sistema ha bloqueado más de 300 mil tarjetas supuestamente usadas indebidamente, o sea, no por sus titulares. Por otra parte, la municipalidad ha anunciado la suspensión total las tarjetas anónimas y ha implementado medidas para obligar el registro de las tarjetas con datos de identificación únicos y residenciales. Este tipo de medida puede impactar en el acceso de personas no registradas –como personas sin techo e inmigrantes– al servicio. En una ciudad de las dimensiones de São Paulo, las tarjetas que permiten la integración con descuento a distintos tipos de transporte son fundamentales para la locomoción de gran parte de la población al trabajo, escuela y actividades culturales. El bloqueo o imposibilidad de acceso a medios de transporte puede tener un gran impacto en la vida y el desarrollo de las personas.

Además de crear limitaciones al acceso a servicios públicos para grupos históricamente marginados de la población, los sistemas de identificación obligatoria y biométricos implican una “sobrevigilancia” hacia esos grupos. No se sabe cómo son utilizados, agregados y compartidos los datos recolectados de esos grupos, ni parece proporcional exigir un nivel tan alto de información para la entrega de beneficios limitados o condicionados. En el caso venezolano las bases de datos biométricas provienen del sistema electoral, para ser utilizadas tanto por operadores estatales -incluyendo funcionarios de migración y policías- como por cajeros de supermercados y farmacias, sin ningún tipo de requisito legal previo. En São Paulo, el gobierno municipal llegó a anunciar la venta de las bases de datos de las tarjetas utilizadas en el transporte pero, bajo presión pública y después de la aprobación de una ley de protección de datos en Brasil, cambió su posición.

No está demás reiterar que solamente se someten a esos sistemas a los usuarios de sistemas públicos de salud, asistencia social y transporte que, en general, no incluyen las élites locales que pueden prescindir de ellos y recurrir a prestadores privados; manteniendo mayor control sobre su información y preservando su privacidad.

Desigualdad, discriminación y pobreza

Que los mecanismos de vigilancia sean implementados de manera diferencial hacia los grupos más vulnerables no es novedad, esto remonta a procesos de control social y precarización que han estado en la base de la construcción de muchas de nuestras sociedades para asegurar tanto la dominancia de las clases sociales y económicas más privilegiadas como la explotación de los más vulnerables. Aún hoy, con las posibilidades ofrecidas por las tecnologías para optimizar la entrega de servicios de toda clase, vemos que esas tecnologías son usadas para mantener esa estructura social desigual. Con asistencia de la tecnología, la vulnerabilidad es castigada con vigilancia.

No tiene por qué ser así. La promesa de la tecnología es la mejora de nuestras vidas. Esa promesa debería ser transversal a toda la sociedad y no estar reservada para aquellas personas que puedan costear las mejoras, o que puedan pagar el precio de no tener que someterse a aplicaciones abusivas de la tecnología. Estos desarrollos y despliegues tecnológicos no deberían resultar en una nueva forma de discriminación que profundice otras desigualdades como un daño colateral que debemos asumir en favor de un supuesto bien mayoritario. 

Una aproximación de derechos fundamentales con una comprensión interseccional de los distintos tipos de exclusiones que las tecnologías promueven y clausuran es la única manera de hacer frente a la desigualdad a la que millones de personas están siendo sometidas en el continente. Solo así, las nuevas tecnologías quizás puedan convertirse en un factor que ayude al cierre de las brechas que enfrentamos ahora. 

Las apariencias engañan: falencias del reconocimiento facial y sesgo algorítmico

Según el antiguo cliché, el rostro es el espejo del alma. Algo por el estilo deben haber estado pensando los responsables en Unilever y otras compañías con sede en el Reino Unido, que han comenzado a utilizar un sistema de análisis de expresiones faciales en los procesos de selección de personal

The Telegraph explica que el sistema compara los videos de las entrevistas de los postulantes con una base de datos que contiene información facial y lingüística de aquellos empleados que se desenvuelven bien en el trabajo. Según Nathan Mondragon – psicólogo jefe de Hirevue, la empresa estadounidense que provee el servicio – «Las expresiones faciales indican ciertas emociones, comportamientos y rasgos de personalidad». 

Pero, ¿lo hacen realmente? La Association for Psychological Science quiso poner esta hipótesis a prueba y reunió a cinco expertos para intentar determinar cuánto de cierto había una idea arraigada en el sentido común, que la emoción puede determinarse de manera confiable mediante movimientos faciales externos. El resultado fue concluyente: no existe evidencia científica que respalde la noción de que el estado emocional de una persona se puede inferir fácilmente del modo en que mueve su rostro. 

Esto, por una serie de razones: las mismas emociones no se expresan siempre de la misma manera, las mismas expresiones faciales pueden indicar distintas emociones y las características culturales y contextuales influyen en el modo en que las emociones son expresadas. Las emociones son complejas y no necesariamente obvias de comprender, incluso para quién las experimenta, mucho menos para un observador externo.  

“Preferiría tener mi primera entrevista con un algoritmo que me trate justamente y no tener que depender de qué tan cansado esté el reclutador ese día”, argumenta Loren Larsen, director de tecnología de Hirevue, haciendo eco de aquella vieja idea de que las máquinas están libres de sesgos y, por tanto, son preferibles a los seres humanos. Pero como replica para el Telegraph Anna Cox, profesora de interacción humano-computadora en UCL, el sistema «va a favorecer a las personas que son buenas para hacer entrevistas en video y cualquier conjunto de datos tendrá prejuicios que excluirán a las personas que realmente habrían sido excelentes en el trabajo», eso sin mencionar sesgos de género, raza o etnicidad.

La búsqueda por una técnica que provea a la humanidad de un acceso directo a representar la realidad de forma objetiva es de larga data, e incluye la invención de la perspectiva en el renacimiento y la fotografía. Las técnicas algorítmicas y las “máquinas que ven” son la última adición a una lista larga. Y, sin embargo, se revelan tan dadas a los sesgos como cualquier otra. 

Un ejercicio interesante al respecto lo realizaron hace pocos días Kate Crawford y Trevor Paglen, responsables de la exhibición “Training Humans”. Como parte de la muestra, pusieron en internet ImageNet Roulette, un sitio web temporal (y ya no disponible en línea) que ponía a disposición de cualquiera con una conexión a internet un algoritmo entrenado con la base de datos ImageNet, uno de los sets de entrenamiento más utilizados para el aprendizaje de máquinas: para enseñarle a un computador qué es un perro, se le muestran miles de imágenes de perros, hasta que aprende distinguirlos de aquello que no es un perro. Las imágenes son etiquetadas a mano por personas que imprimen sus propios sesgos al hacer la tarea. Esto no es particularmente problemático cuando estamos hablando de perros, pero sumamente complicado cuando se trata de personas, también incluidas en la base de datos.

Como pudieron comprobar quienes visitaron ImageNet Roulette, el modo en que sus selfies eran clasificadas incluía términos como “terrorista”, “mujerzuela” o “nonentity”, definido como “una persona sin poder”. Todo esto, simplemente a partir de sus rostros. «El proyecto busca llamar la atención sobre los daños reales que los sistemas de aprendizaje automático pueden perpetuar», explica Paglen.

América Latina

En nuestra región, los usos de sistema de reconocimiento facial han comenzado a expandirse rápidamente, principalmente para la vigilancia del espacio público asociada a actividades de seguridad. En Paraguay, un sistema de reconocimiento facial está funcionando desde julio de 2018 en Montevideo, envuelto en un manto de secretismo total: a pesar de los esfuerzos de Tedic por obtener información respecto a la ubicación y los usos del sistema, poco se sabe respecto al funcionamiento de este. 

Cuestión similar ocurre en Buenos Aires, Argentina, que cuenta con un sistema de vigilancia por reconocimiento facial desde marzo de 2019. Se sabe que existen cerca de 200 cámaras equipadas con un sistema de reconocimiento facial en algunas estaciones de Subte y en la zona de trenes. Pero pese a los esfuerzos de ADC por conocer la ubicación de los dispositivos, la información ha sido negada por el Gobierno de la Ciudad, aduciendo razones de seguridad. 

En México, los sistemas de reconocimiento facial son cada vez más comunes. Solo en 2019, el Gobierno del Estado de Coahuila ha instalado 1282 cámaras de vigilancia pública equipadas con tecnología de reconocimiento facial en las calles de diversas ciudades. Ya en 2018 se reportó el uso de esta tecnología en los accesos a la Feria Ganadera de Sinaloa y, recientemente, unidades de patrulla en la Ciudad de México se han equipado con tecnología de reconocimiento facial.  En Brasil, Bolivia, Ecuador y Chile existen sistemas de reconocimiento facial o planes para su próxima instalación. 

En general, el planteamiento es poder agilizar la búsqueda de prófugos de la justicia y poder identificar rápidamente a los delincuentes. Pero los resultados distan de ser los esperados. Recientemente, un hombre estuvo seis días preso por error en Buenos Aires, gracias al sistema de reconocimiento facial. En Chile, las pruebas realizadas por la policía a un sistema de reconocimiento facial implementado por una cadena de centros comerciales arrojaron una taza de error que ronda el 90 %. 
Así, pareciera ser que las tecnologías de reconocimiento facial producen más problemas que los que son capaces de resolver, a la vez que las bases teóricas que sustentan sus supuestos beneficios se desmoronan ante la evidencia.  En Estados Unidos, varias ciudades han prohibido completamente el uso de estas tecnologías. Quizás sea el momento de seguir su ejemplo.

Consejo Asesor de Facebook: ¿La bala de plata para los problemas de la moderación de contenidos?

Es habitual encontrar quejas sobre el funcionamiento de grandes plataformas y sitios como YouTube, Twitter o Instagram; sea por quitar imágenes o videos de sus usuarias por infracción de sus políticas y condiciones de uso, o bien por mantener en sus sistemas comentarios constitutivos de amenazas o discriminación. En otras palabras: por quitar demasiado sin suficiente justificación o mérito, mientras los nazis circulan sin molestias.

Se trata a menudo de decisiones difíciles, intentando sopesar tanto el interés por la expresión libre con el respeto a la ley o a las reglas de convivencia en la interacción entre usuarios en la plataforma. En una escala planetaria, con cientos o miles de millones de personas haciendo lo mismo a la vez, la tarea de moderación es de una magnitud difícil de medir. A ello se agrega la complejidad de responder a distintas normas legales y sociales existentes entre distintos países y comunidades.

De allí nace el anuncio de un Consejo Asesor de contenido de Facebook, con la misión de actuar como árbitro último en la decisión de cuándo corresponde un retiro de contenido o no. Hace pocos días -y tras un intenso período de consultas en persona y por escrito- se incluyó la respuesta de la coalición Al Sur (p. 126), de la cual Derechos Digitales forma parte, y se realizó el anuncio oficial del Acta constitutiva que despeja varias de incertidumbres; dejando abiertas algunas interrogantes levantadas por diversas organizaciones de la sociedad civil durante el periodo de consultas. 

Un órgano diverso e independiente

Uno de los aspectos clave de la implementación de un Consejo como el planteado es la independencia funcional, esto es, que no se trate de un órgano que responda a Facebook. Por ello, el más reciente anuncio se anota un punto favorable al incluir la formación de un fideicomiso, que recibirá fondos de la compañía pero estará independientemente encargado de financiar la operación del Consejo, incluyendo la compensación por servir en el mismo. La forma de interacción entre los tres órganos está también contemplada en el Acta (art. 5).

El Consejo contará también con capacidad independiente para seleccionar los casos a los que se dedicará. Aunque resta conformar los estatutos para el funcionamiento del Consejo, será este mismo el que podrá modificarlos a futuro, idealmente asegurando así que la primera versión de ellos que producirá Facebook no afectará la forma en que se diseñe su proceso de toma de decisiones.

Por otra parte, la composición del Consejo (art. 1 del Acta) debe ser “diversa”, con entre 11 y 40 personas con un amplia gama de conocimientos, competencias, diversidad y pericia; evitando los conflictos de interés. Puesto que no hay un Consejo conformado todavía, aún no sabemos si en la práctica se cumplirán las aspiraciones de diversidad de voces y perspectivas anunciada, sin embargo ya está en marcha el proceso de selección de miembros iniciales. Aún no queda claro si los criterios para la remoción de miembros del Consejo (art. 1 s. 8), una vez establecidos, serán suficientes para garantizar que la permanencia sirva como modo de presión para la toma de decisiones en uno u otro sentido. Tampoco hay mecanismos establecidos para enfrentar las inevitables acusaciones de sesgo de quienes compongan el Consejo o alguno de sus paneles. Todos estos detalles pendientes resultan esenciales para una evaluación final de los requisitos que miran a la diversidad, independencia y legitimidad de la acción del Consejo Asesor.

La toma de decisiones sobre la expresión global

En principio, el Consejo estará llamado a responder a los casos que Facebook directamente someta a su decisión por su “importancia” y “dificultad”, para posteriormente recibir también solicitudes de las usuarias (art. 2). El Consejo, como hemos dicho, podrá decidir sobre la selección de casos. Las decisiones que se adopten por el Consejo en tales casos serán vinculantes y las medidas adoptadas en su cumplimiento deben ser informadas transparentemente por Facebook (art. 4).

Pero de manera mucho más crucial, las facultades del Consejo no estarán limitadas a lo que Facebook o sus usuarias indiquen sobre retiro de contenidos o comentarios, sino para interpretar las políticas de contenidos en general (art. 1 s. 2). Esto incluye no solo a las Normas Comunitarias, sino también otras cuestiones como el uso de herramientas automatizadas de moderación, o las políticas sobre avisos. Queda por ver si el Consejo extenderá su ámbito de acción, y si Facebook reconocerá esa ampliación. 

El Acta admite que el Consejo entregue “guía” a Facebook para la modificación de sus políticas (art. 1 s. 4), sin hacer obligatorio un cambio de esas políticas para la compañía. Si bien es comprensible que un órgano externo como el Consejo no tenga influencia directa en las reglas de la plataforma, la decisión de formulación de esas reglas continuará exclusivamente en manos de la compañía. Llama la atención a este respecto el lenguaje ambiguo utilizado respecto del carácter vinculante -o no- de las recomendaciones en materia de modificación de políticas, versus el reconocimiento explícito del carácter vinculante de las decisiones referidas a casos específicos que les sean sometidos. Dicha ambigüedad atenta contra las recomendaciones formuladas por Derechos Digitales y otras organizaciones durante el periodo de consultas. El mínimo esperable en este caso, si no existe un efecto vinculante de las recomendaciones del Consejo, es que Facebook se comprometa a proveer explicaciones suficientes y razonadas al Consejo que justifiquen su negativa.

El Consejo podrá también recabar información adicional (art. 3 s. 3), incluyendo opiniones expertas, peticiones de investigación, o traducciones. Es de esperar que no haya una limitación de recursos que haga inviables esas expectativas de información que puede ser crucial para comprender el contexto en que una expresión cuestionada se produce. Además, el Consejo podrá recibir opiniones no solicitadas de personas o grupos afectados o representados en el contenido respectivo, a modo de amici curiae. Por otro lado, se mantiene la posibilidad de someter al Consejo una decisión expedita en casos especiales, con hasta dos semanas para responder, un plazo menos que ideal por ser muy extenso para responder a una situación urgente y muy breve para una decisión razonada. Por ello, esperamos que el Consejo desarrolle mecanismos propios para enfrentar casos urgentes.

El proceso para llegar a una decisión y a su implementación por Facebook está centrado en la determinación sobre si una decisión de retirar contenido es consistente con las políticas de contenido y los “valores” de la compañía. Es decir, se trata de vigilar la observancia de reglas de una empresa privada, y no de reglas legales nacionales o internacionales, en situaciones de expresión que alcanzan a todo el planeta. Aunque se incluyen por primera vez menciones explícitas a la atención necesaria a las “normas de derechos humanos que protegen la libertad de expresión” en el Acta (art. 5 s. 2) y al derecho internacional de los derechos humanos entre los valores que inspiran las Normas Comunitarias (al menos, desde hace unas semanas), es necesario que un compromiso real a futuro con los derechos fundamentales sea más explícito y más amplio; así como que se reconozca de una jerarquía superior a los valores internamente establecidos por la compañía. Tan solo relevar valores de libertad de expresión y no otros derechos humanos implicados en la moderación de contenidos -muy en línea con la perspectiva estadounidense- es insuficiente para reconocer los entramados de derecho internacional de los derechos humanos y las complejidades normativas que pueden variar alrededor del mundo.

También aparece en el Acta la función de marcar “precedentes” de las decisiones (art. 2 s. 2) intentando proveer al mecanismo consistencia en sus decisiones. Sin embargo, se compromete su implementación limitada a lo técnicamente posible y a lo que no esté legalmente prohibido (art. 4), planteando nuevas dudas sobre el real apego a reglas tales como las propias del derecho internacional de los derechos humanos. 

El beneficio de la duda

Desde un inicio el anuncio del Consejo Asesor de contenido fue recibido ampliamente con un sano escepticismo, pero como una buena medida inicial para incrementar la transparencia, el debido proceso, la diversidad y la rendición de cuentas en la moderación de contenidos. Parece un piloto interesante para evaluar soluciones que abarquen más de una compañía o nuevos esfuerzos individuales, aún cuando falta una mayor recuperación del amplio legado del sistema internacional de derechos humanos. Es una preocupación que las decisiones difíciles y con impactos continúen siendo dejadas de este modo en manos privadas, sin primacía de procesos para ponderar la proporcionalidad de afectación a derechos propia del sistema internacional de derechos humanos; a pesar de contar con una larga historia de toma decisiones en casos complejos. 

El escepticismo en torno a la intención de proteger usuarias en lugar de proteger su éxito económico es comprensible, ya que el historial de la compañía hace difícil entregar el beneficio de la duda en un ámbito con consecuencias sensibles. Pero a la vez, podría significar un paso inicial para el reconocimiento de la responsabilidad que -en el marco internacional de los derechos humanos- recae en quien aloja buena parte de la expresión a nivel mundial.

Dada la alta complejidad en torno a mantener espacios a la vez libres de acoso y de contenido dañino, propicios para la expresión libre y ausentes de censura ilegítima, es difícil entregar confianza sobre el control de la misma a un sistema diseñado por una empresa privada por genuino que resulte el esfuerzo. La solución ofrecida por este Consejo Asesor está lejos, por tanto, de ser la -ansiada por muchos- bala de plata de la moderación de contenido.