Este informe describe cómo el Estado ecuatoriano ha limitado el goce de los derechos tales como vivir una vida libre de violencia, libertad de expresión y opinión, seguridad de personas expertas informáticas, privacidad y acceso a los derechos económicos y sociales, por medio de políticas y prácticas relacionadas con el entorno digital.
Temática: Vigilancia
Decisiones automatizadas en la función pública en América Latina Una aproximación comparada a su aplicación en Brasil, Chile, Colombia y Uruguay
Las reformas legales en El Salvador: un gran retroceso en los derechos humanos y el Estado democrático
La Asamblea Legislativa de El Salvador ha aprobado una serie de reformas al Código Procesal Penal y a la Ley de Delitos Informáticos y Conexos, con las que se modifican los parámetros para que ciertas conductas se tipifiquen como ciberdelitos, además de incluir nuevas medidas intrusivas para su investigación. Las reformas al Código Procesal Penal están pendientes de sanción presidencial.
La ambigüedad, imprecisión y amplitud de las reformas puede favorecer el abuso y la criminalización de actividades en ejercicio legítimo de derechos, así como poner en riesgo la privacidad y la libertad de expresión en el país, con graves consecuencias para su democracia. En un contexto en que hemos conocido situaciones de vulneración grave de derechos mediante la instalación de malware para la vigilancia de activistas y periodistas, cualquier reforma legislativa debe apuntar a mejorar las garantías de protección, defensa, debido proceso y acceso a la información y no aumentar las capacidades estatales para perseguir actividades legítimas mediante la vigilancia.
Por un lado, las reformas a la Ley de Delitos Informáticos y Conexos son imprecisas y deficientes en técnica legislativa. Uno de los artículos criminalizaría la mera obtención y transferencia de información considerada confidencial (artículo 25), estableciendo una sanción de 5 a 8 años de prisión. La medida pone en riesgo el ejercicio periodístico, la libertad de expresión, así como la protección de empleados de gobierno qué revelan irregularidades en el gobierno. Siendo habitual la carencia de información pública por parte del Estado, la utilización de fuentes anónimas e informantes es una práctica necesaria para favorecer la rendición de cuentas y el debate público. Además, sin ningún tipo de especificación o contrapesos, una medida así puede ser utilizada de manera maliciosa para criminalizar denuncias de corrupción, generando auto-censura y agravando un ambiente ya marcado por la persecución contra periodistas que intentan investigar temas de corrupción o gastos públicos.
Por otra parte, las reformas al Código Procesal Penal legalizan el empleo de técnicas de investigación y operaciones encubiertas invasivas a la privacidad y al derecho a la protección de datos personales, con la creación de una figura de “agente encubierto digital” y la autorización de uso de herramientas de extracción de información. De acuerdo al texto aprobado (artículo 259-D), las operaciones encubiertas digitales estarían a cargo de la policía y serían autorizadas previamente por el Fiscal General de la República no sería necesaria una orden judicial para este tipo de operación que podrían aplicarse a cualquier delito, sin importar su gravedad. La ley tampoco define el alcance y los límites de la intrusión, contrariando los criterios de necesidad y proporcionalidad establecidos por el Sistema Interamericano de Derechos Humanos en materia de intervención en comunicaciones privadas. No se establecen auditorías o controles para la actuación del agente encubierto digital o para las herramientas que podrían utilizarse para la vigilancia y extracción de información de la “evidencia digital”.
Además, en el procedimiento de registro de cadena de custodia e incorporación, producción, admisión y valoración de evidencia digital, se establecen reglas alejadas de estándares internacionales, para el manejo de la evidencia, tal como los “RFC 3227 Guidelines for Evidence Collection and Archiving”. Finalmente, la norma permitiría de manera amplia que el Ministerio Público solicite medidas cautelares al juez competente, consistente en el bloqueo de sitios, redes sociales y plataformas digitales de cualquier persona natural o jurídica en la fase de instrucción del proceso penal, sin hacer referencia expresa al deber de ponderar la necesidad o proporcionalidad de esa medida en casos concretos.
Por otra parte, son preocupantes las discusiones actuales para reformar la Ley de Acceso a la Información Pública para que la entrega o difusión de información reservada o confidencial, sea considerada una infracción muy grave, que recaiga también sobre particulares.
Desde nuestro rol como sociedad civil, vemos con preocupación los riesgos que corre la libertad de expresión en El Salvador, al legalizar y normalizar la vigilancia estatal y ampliar los poderes de investigación penal del ministerio público sin claras restricciones y en agravio al test tripartido de necesidad, proporcionalidad y legalidad consagrado en el Sistema Interamericano de Derechos Humanos.
No podemos dejar de señalar que, para dictar normas de esta naturaleza, es necesaria una discusión amplia con todos los sectores de la sociedad civil, que será la destinataria de leyes que pueden afectar sus derechos; así como también debe incorporar la opinión de expertos en la materia, cosa que no ha sido posible verificar en el caso de las reformas aprobadas.
Por todo lo anterior:
- Llamamos al presidente de la República de El Salvador a no sancionar las reformas al Código Procesal Penal, ya que no garantizan el respeto de los derechos humanos de sus ciudadanos. Instamos a que las reformas sean devueltas a sede legislativa, que se realice un análisis especializado de estas propuestas a la luz de las obligaciones de El Salvador en materia del Derecho Internacional de los Derechos Humanos, y que la discusión sobre las reformas sea plural y cuente con la participación de la mayor cantidad de partes interesadas.
- Instamos a la Asamblea Legislativa a no aprobar las reformas a la Ley de Acceso a la Información Pública; y, en general, a priorizar la adopción de leyes de protección a periodistas y activistas de derechos humanos, en línea con lo que establecen los estándares internacionales de derechos humanos firmados por el país.
- Instamos a los órganos públicos de El Salvador a cumplir con el resguardo de los derechos humanos de todas las personas en el país y a no incurrir en conductas de persecución, vigilancia o silenciamiento. La seguridad de la ciudadanía en ambientes virtuales o al utilizar las tecnologías de la información y la comunicación es un deber del Estado, como también el respeto de las garantías procesales, la privacidad de las comunicaciones y la libertad de expresión.
- Instamos las instituciones judiciales de El Salvador a investigar y punir los responsables por la instalación de software malicioso para vigilar a periodistas y activistas de derechos humanos.
- Llamamos a la comunidad internacional, en particular las instancias del Sistema Interamericano de Derechos Humanos, a mantenerse alertas sobre la situación del derecho a la libertad de expresión, libertad de prensa y acceso a la información pública en El Salvador, así como también sobre las situaciones de riesgo de derechos humanos que lleguen a su conocimiento.
Firmamos la presente:
- Derechos Digitales, América Latina
- Human Rights Watch
- Fundación Democracia Transparencia Justicia (DTJ), El Salvador
- Acción Ciudadana, El Salvador
- Asociación Transparencia, Contraloría Social y Datos abiertos (TRACODA), El Salvador
Casos de espionaje con Pegasus en El Salvador: una nueva estocada al derecho a la libertad de expresión
Algunos ejemplos como la toma del Instituto de Acceso a la Información Pública (IAIP) volviéndolo una institución irrelevante; la destitución ilegal de los 5 magistrados de la Sala de lo Constitucional y del Fiscal General, sustituidos también de manera ilegal por abogados leales a Bukele; así como la remoción de jueces incomodos al oficialismo, son solo parte de esta ofensiva que busca socavar los controles inter orgánicos, que en el fondo pretenden, según algunos analistas, proteger a su círculo de los señalamientos de corrupción que pesan sobre su gestión.
En este afán de disolver los controles sobre su administración, Bukele también finalizó abruptamente el convenio con la Comisión contra la Corrupción y la Impunidad en El Salvador (CICIES) que él mismo había instaurado y su Fiscal impuesto, disolvió la Unidad Anticorrupción de la Fiscalía General de la República (FGR) cuando se hizo público que investigaban algunos de los múltiples señalamientos de corrupción en el manejo de los fondos destinados para el combate a la pandemia, así como el pacto con la pandilla MS13.
Todo quien contradice a Bukele es un enemigo
Una de las principales características de Bukele y su maquinaria de propaganda es su desprecio por todo aquello que implique control y críticas a su gestión. Periodistas, académicos, universidades, organizaciones de la sociedad civil (OSC), defensores de derechos humanos, miembros de partidos políticos de oposición, etc., han sido víctimas, la mayoría de veces, de acoso digital. En otras, de persecución por parte de las instituciones que son usadas para acallar las voces disonantes.
El caso de Mario Gómez, detenido arbitrariamente por la Policía Nacional Civil (PNC) luego de manifestar críticas a la implementación del Bitcoin como moneda de curso legal; la violación a derechos humanos de personas encarceladas, llevada a cabo por la Dirección de Centros Penales contra el ex Alcalde de San Salvador, del partido Alianza Republicana Nacionalista (ARENA) y contra ex funcionarios de gobiernos del Frente Farabundo Martí para la Liberación Nacional (FMLN); la investigación abierta por el Fiscal impuesto a fiscales que formaron parte de la Unidad Anticorrupción de la FGR —que era liderada por el ex fiscal German Arriaza, hoy exiliado— son muestras de lo peligroso que se está volviendo el clima en El Salvador en lo referente al respeto a los Derechos Humanos en general y, en particular, al derecho a la libertad de expresión.
A estas acciones se suman dos casos más que retratan la naturaleza del régimen de Bukele en cuanto a la persecución de quienes considera sus “enemigos”: 1) la intención de aprobar una Ley de Agentes Extranjeros, por la cual se pretendía retener el 40% de cada transacción que recibieran las OSC y medios de comunicación, desde el exterior; y, 2) el caso del espionaje con el software Pegasus, realizado a por lo menos, 35 periodistas y miembros de OSC, recién hecho público.
Si bien la aprobación de Ley de Agentes Extranjeros fue detenida a raíz de las múltiples críticas que recibió, que incluyeron un llamado de la CIDH y la RELE para que el Estado salvadoreño se abstuviera de aprobarla, la intención de darle vida aún no ha sido descartada totalmente.
En el caso del espionaje con Pegasus, el informe que corrobora la existencia de la vigilancia con dicho software destaca que la infección ha sido especialmente insistente, con numerosos y prolongados accesos a algunos de los dispositivos intervenidos. Estas infecciones coinciden con los momentos en los que las víctimas de espionaje reporteaban sobre temas delicados que involucraban a la administración Bukele, como el caso del pacto con la pandilla MS-13 en el que esta se comprometía a reducir los homicidios a cambio de dar apoyo electoral a Bukele.
Aunque el gobierno ha intentado desligarse de este ataque, parte del informe señala que, si bien es cierto no ha podido establecerse el vínculo entre una infección particular con un usuario específico de Pegasus, si ha podido identificarse a un usuario que opera casi exclusivamente en El Salvador desde noviembre de 2019, el cual ha sido identificado como Torogoz.
Con todo este contexto, no es descabellado las pronunciaciones de alerta cuando son presentadas iniciativas de ley desde el Ejecutivo, como las reformas a la Ley de Delitos Informáticos y Conexos (LDIC) y al Código Procesal Penal (CPP).
En las reformas a la LDIC, que han sido aprobadas por la Asamblea Legislativa, pero aún no sancionadas por el Presidente, se reformó el art. 25 que penaliza la obtención y transferencia de información confidencial por medio de las tecnologías de la información, en un sentido distinto al articulado antes vigente. Mientras que la ley del año 2016 señalaba que la información obtenida de manera ilegal debería servir para vulnerar un sistema o datos informáticos, la actual reforma únicamente contempla el hecho de obtener o transferir información confidencial, eliminando el otro requisito del tipo penal: la vulneración de un sistema con esa información.
En un contexto en el que las instituciones públicas abusan de la declaratoria de reserva que la Ley de Acceso a la Información Pública (LAIP) permite, la obtención de información pública que a veces incluye información que debería ser oficiosa, se logra a través de fuentes que deciden colaborar con periodistas. Por ejemplo, el artículo en cuestión más parece ser una medida de disuasión para que las fuentes se abstengan de seguir dando información y que los/as periodistas se abstengan de publicar información obtenida en contra de este artículo. Esto constituye una clara violación al derecho de acceso a la información, en tanto que todas las vías información sobre la gestión gubernamental están siendo cerradas de manera acelerada.
Por su parte, en las reformas al CPP se contempla la inclusión de la “evidencia digital” que genera muchas dudas, principalmente sobre la autoridad responsable para autorizar y monitorear la operatividad del “agente digital encubierto”. También se cuestiona la forma en la que, para dar validez a la evidencia obtenida en la intervención de dispositivos tecnológicos en la investigación de un delito, no se requiere que quien intervenga el aparato sea un perito. Otro de los cuestionamientos tiene que ver con las medidas cautelares, que incluyen el bloqueo de cuentas, perfiles o sitios web que se estén investigando por algún delito.
A primera vista, preocupa la falta de referencia en el texto de la reforma a la idoneidad y proporcionalidad de este tipo de medidas propuestas. Sin embargo, uno de los temores más acuciantes es el contexto en el que se están proponiendo estas medidas: el de un gobierno que está intentando, por todos los medios, restringir el derecho de acceso a la información pública, esencial para el control ciudadano, y que, en el camino, tampoco tiene reparo en vulnerar la privacidad de sus ciudadanos/as.
En el marco de la derogatoria de la celebración de los Acuerdos de Paz, que puso fin al conflicto armado del país, los temores sobre la deriva autoritaria del régimen de los Bukele continúan haciéndose realidad a pasos agigantados.
En rechazo a la modificación del Código Procesal Penal que habilita la vigilancia sin controles ni contrapesos legales
Una Comisión Mixta del Congreso aprobó recientemente modificar el Código Procesal Penal para permitir al Ministerio Público solicitar datos personales de cualquier ciudadano a todo proveedor de servicios, sin orden judicial previa, mecanismos de transparencia ni de rendición de cuentas que permitan controlar el uso de una herramienta de vigilancia que, además, puede ser utilizada para la investigación de cualquier delito, incluidos delitos menores o de bagatela.
La norma aprobada, además, impone un deber de secreto que hará imposible conocer con certeza el despliegue de intrusiones estatales que podrían afectar no solo el derecho a la privacidad de los ciudadanos, sino también la labor de periodistas y sus fuentes, medios de comunicación, organizaciones y movimientos sociales.
Vemos con preocupación la ambigüedad del texto legal al establecer como único requisito la existencia de una “investigación en curso”, sin siquiera exigir una especificidad individual, abriendo un amplio margen para solicitudes genéricas e indefinidas. En definitiva, el texto carece de las garantías de respeto y protección de derechos fundamentales que nuestra sistema jurídico exige para permitir el acceso a los datos personales de los ciudadanos.
Esta normalización de la vigilancia estatal vulnera el derecho de todo ciudadano a no ser objeto de intrusiones gubernamentales injustificadas, uno de los pilares básicos de toda democracia, pues sin él resulta imposible el ejercicio de otros derechos tan fundamentales como la libertad de expresión, la libertad de asociación y la libertad de informar y ser informado, entre otros.
Siendo la separación y el control de los poderes de los organismos del Estado un eje central de todo sistema democrático, esperamos que el Congreso rechace cualquier norma que pretenda dotar al Estado de mayores herramientas de vigilancia sin contemplar los mecanismos necesarios para controlar su uso.
Adscriben:
Cuerpos y datos: Las tecnologías de identificación biométrica aumentan en América Latina
Si has caminado por el centro de Santiago de Chile durante los últimos meses, probablemente los has visto afuera de algún centro comercial, a la entrada de un parque o frente a un semáforo concurrido: dos personas con una esfera metálica, ofreciéndote dinero a cambio de una imagen de tu ojo. O algo así. El dinero no es dinero per se, sino el equivalente a 20 USD en Worldcoin, una criptomoneda. Y la imagen de tu ojo no es una simple imagen de tu ojo, sino un escaneo de tu iris, dato biométrico utilizado para identificarte. Todo con un aire a pacto faustiano muy de película sci-fi de bajo presupuesto. El propio Edward Snowden salió a criticar la iniciativa, que en Chile contabiliza alrededor de 10 mil inscritos. 10 mil iris escaneados.
Una cifra como esa es preocupante y un poco desmoralizante, la verdad. Pero a pesar de ello, comprensible: en un país con una ley de protección de datos personales del siglo pasado, donde el cliché de los-datos-son-el-nuevo-petróleo se repite como mantra, pero donde no se hace nada al respecto (al menos, para proteger mejor esos datos) y donde la información personal parece pasar de un lado a otro con absoluta promiscuidad, no es raro que para algunas personas entregar el iris a cambio de una cantidad potencial de dinero, por poco que sea, no es la gran cosa.
Y, sin embargo, debería ser una gran cosa. Más allá de lo anecdótico del caso, la creciente normalización del uso, recolección y exigencia de datos biométricos es una tendencia preocupante. De muestra un ejemplo: esta semana nos enteramos de que una administradora de fondos de pensión (AFP) está exigiendo validar la identidad de sus clientes a través de biometría facial. La excusa es siempre la misma: seguridad. ¿Pero la seguridad de quién? Saber que mis datos sensibles, relativos a mi cuerpo, están siendo almacenados y procesados quién sabe dónde, bajo quién sabe qué condiciones, por quién sabe quién, no me transmite ninguna seguridad. Al contrario, me da escalofríos.
Si una empresa dedicada a la gestión de dinero no es capaz de encontrar otras maneras de asegurar la recaudación que no impliquen generar y almacenar un modelo algorítmico de mi rostro, quizás a esa empresa no debería confiársele tal tarea. Porque el día de mañana, cuando esa base de datos se filtre, no hay nada que puedan hacer para devolverme el control sobre mi cara. Ese es el gran tema con los datos biométricos: una vez entregados, no hay vuelta atrás.
En la práctica, la identificación biométrica requiere ceder control sobre el propio cuerpo.
Reconocimiento facial
Cualquier discusión sobre identificación biométrica quedaría incompleta sin hablar de reconocimiento facial. Recientemente, las organizaciones reunidas en el consorcio Al Sur publicaron “Reconocimiento facial en América Latina: tendencias en la implementación de una tecnología perversa”, una investigación colectiva que identifica 38 sistemas de reconocimiento facial desarrollados en la región, al alero de distintas políticas públicas.
Alguna de la información recopilada, aunque poco sorprendente, constata sospechas fundadas: el número de sistemas de reconocimiento facial se ha incrementado de manera importante durante los últimos años, su finalidad principal es la vigilancia del espacio público y los procesos de auditorías externas para fiscalizar el funcionamiento de los sistemas casi no está considerando en ninguna parte, ni hablar de estudios de impacto en derechos humanos. Tampoco sorprende la dificultad para acceder a información básica respecto a las tecnologías utilizadas y sus proveedores, que ha sido la tónica en la mayoría de los esfuerzos realizados en la región a la hora de lidiar con este tipo de políticas públicas. Por ello es destacable el esfuerzo por recopilar información sobre proveedores y los países en los que operan. Una cuestión llamativa es una tendencia a la adopción de tecnologías por medio de donaciones, característica de algunas empresas chinas.
Pero más allá de la información recogida en el estudio (disponible además en un sitio web especialmente dispuesto para ello, que pueden visitar aquí), llama la atención cómo la región parece ir a contrapelo de la tendencia mundial, donde se parece haber alcanzado algún consenso respecto de la necesidad de tomar medidas contra este tipo de tecnologías, al menos hasta tener mayor certeza de sus efectos negativos y cómo sopesarlos desde una perspectiva de derechos humanos. Pero a pesar de la declaración de la Alta Comisionada de la ONU para los Derechos Humanos, las distintas localidades que han impuesto moratorias o prohibiciones de utilizar sistemas de reconocimiento facial hasta incluso el anuncio de Facebook de dejar de utilizar el sistema de reconocimiento facial en su plataforma, parece ser que esas noticias no han llegado a los oídos de los tomadores de decisiones en América Latina.
La pregunta es qué es lo que se requiere para poder hacer entender tanto a las autoridades como a la población en general sobre la necesidad de tomarnos este asunto en serio, cuando parece haber conciencia de los riesgos, existe experiencia internacional relevante, declaraciones de organismos internacionales y, sin embargo, la región parece un campo cada vez más fértil para la implementación de este tecnologías de identificación biométrica para cualquier cosa.
No bombardeen Buenos Aires: reconocimiento facial en CABA hoy
No hay dudas de que estamos ante un crecimiento exponencial en el uso de tecnologías automatizadas de reconocimiento facial en América Latina. El abaratamiento de la tecnología, junto con la expansión de los fines utilizados ha incrementado los casos de su uso por parte de Estados y empresas.
Sin embargo, la tecnología ha sido ampliamente cuestionada por organismos internacionales y por la sociedad, ya sea a través de manifiestos, protestas e incluso demandas. Por ejemplo, en algunas ciudades de los Estados Unidos se decidió prohibir el uso de reconocimiento facial, ya que no existen garantías para el respeto de derechos humanos.
En el caso de los Estados, ciudades como Salvador, São Paulo, Río de Janeiro, Lima, Nueva York, Londres y Buenos Aires han adoptado este tipo de sistemas para monitorear la población en diferentes lugares, alegando fines de seguridad pública.
Esta semana surgió un prometedor avance regulatorio en la ciudad de Buenos Aires, Argentina.
Críticas y acciones contra el sistema de reconocimiento Facial en la Ciudad de Buenos Aires
El “Sistema de Reconocimiento Facial de Prófugos” (SRFP) consiste en 300 cámaras de vigilancia en las calles y estaciones de metro, siempre siguiendo la línea que más tecnología aumentaría la seguridad y cuidaría a las personas. A pesar de las severas críticas, tomó 22 días la implementación del sistema.
El relator especial de Naciones Unidas sobre el Derecho a la Privacidad, criticó la falta de evaluación previa a su implementación y proporcionalidad de las medidas. Además, mostró preocupación respecto a la base de datos que alimenta la SRFP (Sistema de Consulta de Rebeldías y Capturas-CONARC), ya que fue realizada una inserción desproporcionada en la base de datos, divulgación indebida de datos, falta de información sobre qué delitos se imputan, errores y fallas y falta de actualización.
Respecto al caso específico, la ONG Human Rights Watch fue enfática sobre la existencia de graves daños a los derechos de la niñez y la adolescencia, ya que al analizar la base de datos se encontraron al menos 166 menores, incluidos niños sospechosos de haber cometido delitos de menor potencial ofensivo.
Acciones jurídicas impulsadas desde sociedad civil
Como si las críticas no fueran suficientes, el sistema fue impugnado por al menos dos juicios. Una demanda, presentada por la organización Asociación por los Derechos Civiles (ADC), solicita ante el Tribunal Superior de Justicia porteño que declare inconstitucionales los cambios legales. El otro, propuesto por el Observatorio de Derecho Informático Argentino (ODIA) pide un juicio de amparo en primer grado de competencia, que requiere el análisis del sistema a través de la constitucionalidad y convencionalidad, además de las medidas cautelares para suspender su uso.
El pasado 13 de octubre, Derechos Digitales fue admitida como amicus curiae en la demanda propuesta por ODIA. Se amplió la participación social en el caso, recibiendo también aportes de otras organizaciones, como Access Now y Asociación Trabajadores del Estado (ATE), además de la adhesión y participación de los ciudadanos como autores de la demanda.
Reflexiones sobre el caso Ciudad de Buenos Aires
Este proceso muestra claramente tres cuestiones centrales, que se reproducen de la misma manera otros países. El primero, es un tema técnico con implicancias sociales relevantes en cuanto al uso de la inteligencia artificial y lo que esto significa para la ciudadanía. El segundo tema, se relaciona con la democracia en sí y la transparencia del sistema. El tercer tema es el respeto a los derechos humanos.
Al principio, la cuestión de la velocidad con la que se desarrolló y entregó el proyecto es impresionante. Solo pasaron 22 días desde el lanzamiento del proyecto hasta su implementación, una velocidad que sería “envidiable e incluso sospechosa”, según ODIA.
1. Implicancias sociales: falsos positivos y la discriminación
Sin embargo, la cuestión técnica que tiene las mayores implicaciones sociales se refiere a la precisión y calidad de la base de datos utilizada. Los estudios más variados demuestran una menor tasa de aciertos en personas de piel oscura y mujeres.
El estudio “Gender Shades”, por ejemplo, demuestra que las tasas de error son diferentes según el grupo analizado, alcanzando más del 90% de identificación incorrecta para personas de piel oscura. Y menos del 1% de error para personas de piel más clara. Si bien puede ser un fallo en la calibración de los datos, ya sea por el uso de bases de datos sesgadas o por otros motivos, lo cierto es que hay que analizar si este tipo de tecnología incide desproporcionadamente en la garantía de igualdad a las personas tradicionalmente discriminadas y más vulnerables, como pueblos originarios, mujeres, niños, ancianos y personas trans.
2. Democracia y transparencia
En cuanto al tema de la democracia y la transparencia, parece que hay poco o ningún debate en el legislativo sobre la implementación de este tipo de sistema. Asimismo, en muchos casos existe una gran opacidad en cuanto al uso de la tecnología, bajo el argumento que el tema no debe ser debatido, que “es demasiado técnico” para una amplia participación social y que la transparencia no sería necesaria.
En el caso de Buenos Aires, tanto la ADC como el ODIA, plantearon importantes y extensas preguntas sobre la creación, contratación, uso y salvaguardas del sistema de reconocimiento facial. Obtuvieron poca o ninguna respuesta. Si bien las investigaciones muestran que la tecnología “generalmente se crea en el exterior y se utiliza en casa”, existe una falta de transparencia sobre cuáles son las empresas responsables de la implementación de la tecnología, especialmente, en los procesos de definición de la contratación.
3. Vigilancia y derechos humanos
Finalmente, el tema de los derechos humanos involucrado en la aplicación de tecnología de vigilancia masiva. Desde 2013, luego del caso Snowden, Brasil y Alemania propusieron una resolución a la Asamblea General de la ONU, sobre “El derecho a la privacidad en la era digital”.
Con la actualización de la citada resolución en octubre de 2021, se dio mayor robustez a las cuestiones sobre el uso de datos biométricos, con el reconocimiento expreso que los usos de la inteligencia artificial (IA) pueden suponer graves riesgos para el derecho a la privacidad, citando como ejemplo, el empleo de IA para identificación, reconocimiento facial, seguimiento, elaboración de perfiles, predicción de comportamiento y puntuación de personas.
La conclusión de la asamblea de la ONU es que los Estados deben garantizar que las tecnologías de identificación y reconocimiento biométrico —incluidas las tecnologías de reconocimiento facial por parte de actores públicos y privados— no permitan la vigilancia arbitraria o ilegal, incluidos quienes ejercen su derecho a la libertad de reunión pacífica.
¿Qué es peor: un sistema de reconocimiento facial que no funciona o uno que sí lo hace?
La semana pasada, el portal América Transparente publicó un reportaje realizado por María Fernanda Leiva y Tamara Silva, donde se denuncia una inversión millonaria realizada por dos municipalidades del sector oriente de la ciudad de Santiago de Chile por un sistema de reconocimiento facial que no funciona.
En total, la investigación consigna el pago de USD $582.880 (aproximadamente 390 millones de pesos chilenos) por el software de la empresa francesa INDEMIA, uno de los principales proveedores de esta tecnología en la región. Del total, la comuna de Las Condes habría aportado USD $517.880 y Lo Barnechea USD $65.000.
Cada comuna cuenta actualmente con diez cámaras de vigilancia conectadas al software de INDEMIA. Según la información recopilada por Leiva y Silva, a diciembre de 2020, un año después de su implementación, el sistema habría reconocido a diez personas. Al parecer, la pandemia habría hecho estragos en los modestos resultados del sistema: citado en el reportaje, el alcalde de Lo Barnechea dice que, debido al “uso masivo de mascarillas desde marzo de 2020, no han existido en ese periodo las condiciones necesarias que permitan evaluar la eficacia de las cámaras de reconocimiento facial”.
El reportaje además establece que el contrato se habría gestado por medio de una adjudicación directa, firmada la Asociación de Municipalidades para la Seguridad Ciudadana de la Zona Oriente (AMSZO), entidad que está siendo cuestionada por el manejo de miles millones de pesos sin ningún tipo de control o fiscalización.
Hasta acá, el reportaje es interesante porque contiene prácticamente todos los elementos ya característicos de las polémicas en torno a la implementación de tecnologías de reconocimiento facial en la región: sistemas incapaces de hacer lo que se espera de ellos, poca transparencia respecto a los procesos de contratación y puesta en marcha, la inexistencia de procesos de evaluación adecuados y ni hablar de evaluaciones de impacto en derechos humanos.
Además, toca un punto central que usualmente es dejado fuera del discurso de fabricantes y políticos ávidos de figuración pública: las tecnologías de reconocimiento facial no son mágicas y requieren de ciertas condiciones que permitan hacer capturas adecuadas para efectuar la comparativa de los rostros; cuestiones tan elementales como la ubicación de la cámara o si la persona usa sombrero o lentes pueden alterar la eficacia del sistema, lo que puede traducirse en que el sistema simplemente no sea capaz de reconocer o que reconozca equivocadamente.
Y sin embargo, la pregunta que me parece más importante plantear es la siguiente: ¿sería preferible que el sistema funcionara? ¿Estaríamos hablando de ello si en vez de 10 personas el sistema hubiese reconocido a 100 o a 10 mil? No quiero minimizar la importancia del concepto de transparencia, especialmente respecto al gasto de fondos públicos y todavía más cuando se ha gastado en algo que además no funciona. Pero lo que parece más grave acá es que dos comunas hayan decidido omitir cualquier debate respecto a la legalidad de implementar un sistema de estas características, que además no puede estar escindido de una discusión sobre derechos humanos.
Como hemos mencionado en otras ocasiones, la ley vigente en Chile sobre datos personales, en su artículo 10, prohíbe el tratamiento de datos sensibles, a menos que esté autorizado por la ley, exista consentimiento del titular o sean datos necesarios para la determinación u otorgamiento de beneficios de salud que correspondan a sus titulares. Queda a la vista que la creación de una infraestructura de vigilancia masiva no está considerada en este listado y, por lo tanto, es ilegal. Así, cualquier intención en esa dirección debería canalizarse por medio de una discusión legislativa respecto a si como sociedad estamos de acuerdo con el desarrollo de este tipo de tecnologías en el espacio público. Y no son pocos los municipios y ciudades alrededor del mundo que han respondido a esa pregunta con una prohibición o una moratoria.
Utilizar tecnología de reconocimiento facial para la vigilancia masiva y el combate de delitos comunes implica invertir el principio de presunción de inocencia en favor de un sistema totalitario de control del espacio público, mediante la gestión técnica de la identidad que tiene como consecuencia la alienación del propio cuerpo, por medio de la pérdida de control y autonomía sobre nuestros rostros, los que pueden ser utilizados en contra de nuestros intereses. ¿Es esa la sociedad en la que queremos vivir?
Incluso si la respuesta a esa pregunta es sí, la discusión legislativa permite establecer límites y controles respecto de sus usos, así como el listado de requisitos previos y posteriores a la implementación que deben ser satisfechos. No puede ser una cuestión que quede a la discreción y los recursos disponibles de una autoridad comunal. Más todavía cuando hemos visto que la implementación de este tipo de tecnologías, a pesar de presentar escasos resultados en términos de seguridad pública, sí puede constituir una efectiva técnica de marketing político. El mejor ejemplo de ello en Chile es precisamente el ex alcalde de Las Condes, Joaquín Lavín, como demostró en su más reciente (y fallida) incursión presidencial.
No podemos seguir permitiendo que estas discusiones se realicen por medio de subterfugios, apelando a áreas grises o lisa y llanamente ignorando la ley. Necesitamos responder desde una convicción democrática y comprometida con los derechos humanos. ¡No al reconocimiento facial en el espacio público!
¿Se han violado los derechos humanos en internet en Colombia? Necesitamos explorar esa posibilidad
Desde el pasado 14 de mayo, y a partir de las denuncias sobre presuntas violaciones a los derechos humanos en el marco de las protestas que se desarrollan a nivel nacional desde el 28 de abril, la CIDH solicitó al gobierno colombiano una visita urgente de verificación, la cual fue reiterada el 25 de mayo luego de que el gobierno propusiera hacerla después de la audiencia programada para el 29 de junio.
La visita será la próxima semana y no incluye en su agenda la revisión de afectaciones a los derechos humanos utilizando herramientas tecnológicas y en el ámbito digital. Por eso, la Fundación Karisma con apoyo de otras organizaciones locales ha enviado una carta a la CIDH, pidiendo que se incluyan estos temas durante las jornadas de verificación.
Incidentes en la red
El 28 de abril estallaron en Colombia una serie de protestas, primero contra el proyecto de reforma tributaria propuesto por el gobierno, pero también contra el proyecto de reforma a la salud y la crisis generalizada de derechos humanos, que durante la pandemia se ha intensificado. Las protestas se han mantenido por más de un mes y han convocado a los más diversos sectores sociales.
Desde el primer día de protestas las redes sociales se llenaron de denuncias sobre abuso de la fuerza, uso de armas no convencionales y de fuego por parte del Escuadrón Móvil Antidisturbios (ESMAD) de la Policía Nacional, y también sobre bloqueos de contenido y de cuentas que estaban haciendo estas denuncias en plataformas como Instagram, Facebook y Twitter. En aquel entonces, por unas horas, el sistema de tendencias en Twitter dejó de funcionar, lo que fue percibido como un acto de censura, aunque luego se reportó una falla técnica en varios países.
Además, el 6 de mayo muchas personas empezaron a reportar que las historias en Instagram relacionadas con #ParoNacional desaparecían. A las pocas horas, la plataforma informó que se trataba de una situación global y generalizada, no relacionado con algún tema en particular.
Una vez solucionado el problema, que afectó los destacados, historias y archivos de la plataforma, especialmente los contenidos compartidos, Instagram nuevamente comunicó que los reportes provenían principalmente de Colombia, comunidades indígenas en Estados Unidos y Canadá, y Palestina. Sin embargo, los lugares con mayor afectación fueron Estados Unidos y Brasil. Como manifestó Carolina Botero, directora de Karisma, la explicación de Instagram requiere mayor análisis dada la afectación particular sobre poblaciones que se encontraban en crisis sociopolítica por esos días.
Por otra parte, el 3 de mayo en la ciudad de Cali se transmitió en vivo el asesinato de un manifestante; esa misma noche, se denunció la muerte de al menos tres personas en el sector de Siloé, al occidente de la ciudad. En medio de la tensión, la noche del 4 de mayo muchas organizaciones de derechos humanos y medios alternativos denunciaron en redes que en los puntos de concentración en Cali (especialmente en Siloé) se estaba bloqueando completamente la conexión a internet, mientras la policía atacaba a les manifestantes.
En la mañana del 5 de mayo, Netblocks publicó un reporte que confirmaba la interrupción parcial del servicio en Cali. En respuesta a las denuncias, tanto el Ministerio TIC, como la Comisión de Regulación de Comunicaciones (CRC) y las empresas EMCALI y Movistar, emitieron comunicados donde se concluyó que sí hubo fallas técnicas en el servicio de internet fijo debidas al robo de un cable, y que por la situación de orden público no fue posible repararlas de inmediato; pero definitivamente “no hubo una interrupción deliberada del servicio”.
Esta conclusión, que corresponde con el reporte técnico, abrió otras interrogantes, dado que las denuncias de desconexión se estaban haciendo desde un sector al occidente de Cali y principalmente en internet móvil, mientras que el daño técnico se reportó al oriente de la misma ciudad, afectando principalmente conexiones fijas.
De acuerdo con Carolina Botero, si bien es posible que la red se haya saturado esa noche, también se podrían estar utilizando inhibidores de señal, los cuales están prohibidos en todo el territorio nacional, excepto para organismos de seguridad del Estado, quienes podrían utilizarlos sin autorización del Ministerio TIC, en casos relacionados con la seguridad pública. Además, también se denunció el uso de estos inhibidores el 12 de mayo, en los alrededores del Estadio Romelio Martínez de la ciudad de Barranquilla, donde se jugaba un partido de fútbol en medio de las protestas.
Teniendo en cuenta los cuestionamientos sobre la autonomía de la CRC y su falta de incidencia sobre la gestión del espectro, desde hace tiempo Karisma ha insistido en la necesidad de que existan mecanismos transparentes para regular y escrutar, no solo al sector privado, sino también al sector público. Esto se evidencia en la denuncia sobre el bloqueo de los dominios archive.org y ghostbin.co por parte de las empresas EMCALI y Avantel, en respuesta a una resolución expedida por la Superintendencia de Industria y Comercio, y vigilada por el Ministerio TIC.
Como también señaló Karisma, esta resolución podría ser legítima, pero desconoce el funcionamiento de internet y la imposibilidad de bloquear solamente una URL, lo que la hace completamente desproporcionada. Vale decir que la resolución surge en respuesta al filtrado de datos personales de altos mandos militares, realizado por Anonymous como forma de protesta el 4 de mayo.
Estas acciones, cuya legitimidad no es tema de discusión aquí, junto a otras como el saboteo a ciertos hashtag por parte de K-poppers, han servido al gobierno para alimentar una campaña de estigmatización a la protesta digital que, a través de lo que el Ministerio de Defensa ha denominado “ciberpatrullajes”, amenaza a libertad de expresión, según ha señalado la Fundación para la Libertad de Prensa (FLIP).
Este panorama es especialmente preocupante si recordamos las “medidas preventivas” desplegadas en Colombia previo a las manifestaciones del 21N de 2019, que supuestamente incluían la adecuación de aeronaves con sofisticados sistemas de reconocimiento facial, sobre los cuales no hemos tenido noticias durante estas jornadas de protesta.
Preocupante además, porque luego del escándalo sobre perfilamiento a periodistas, activistas y opositores al gobierno por parte del Ejército Nacional a principios de 2020, se denunció que la Policía planeaba comprar un sistema completo de “ciberinteligencia” por alrededor de un millón de dólares. Si bien esta compra fue cancelada, Karisma analizó sus características técnicas, que incluían no solo la capacidad de analizar información sino de infiltrarse en actividades a través de medios digitales.
Esperamos que la CIDH atienda al llamado que hacen las organizaciones locales en Colombia y que apoyamos en América Latina, para reconocer las graves afectaciones a los derechos humanos en el entorno digital durante las protestas en Colombia, que hoy cumplen 38 días consecutivos.
Los impactos de la vigilancia más allá de la privacidad
Mientras a nivel internacional avanza la demanda por prohibir el uso de las tecnologías de vigilancia hasta alcanzar estándares rigurosos en materia de derechos humanos, en América Latina observamos una nueva y silenciosa tendencia a adquirir y usar dichos sistemas para controlar el acceso a la protección social, es decir, a las políticas desarrolladas para disminuir la pobreza, la vulnerabilidad social y la exclusión.
Nuestra región —la más desigual del mundo— durante las últimas décadas se ha convertido en ejemplo internacional en la puesta en marcha de programas de protección social. Sin embargo, el aumento de las condiciones impuestas para acceder efectivamente a los beneficios, tanto explícitas como implícitas, atenta contra la finalidad de proteger y garantizar derechos básicos. Si sumamos la mediación tecnológica a través de sistemas biométricos, como el reconocimiento facial, la recolección de huella dactilar, aplicaciones web o registros digitales unificados, se corre el riesgo de profundizar las desigualdades que se intentan erradicar.
El relator especial de Naciones Unidas sobre la extrema pobreza y los derechos humanos ha identificado algunos usos de tecnologías en los sistemas de bienestar alrededor del mundo. El listado incluye la verificación de identidad, la evaluación de criterios para recibir ayudas, el cálculo y pago de prestaciones sociales, la prevención y detección del fraude, la clasificación de riesgo y necesidades, así como la comunicación entre autoridades y las personas destinatarias de las políticas de protección social.
Varios de los usos señalados ya existen en América Latina. En Venezuela, se han implementado sistemas biométricos para controlar la adquisición de productos de primera necesidad, lo que resultó en varias denuncias de discriminación hacia personas extranjeras y, especialmente, personas transgénero. Sumado a las discriminaciones prexistentes contra poblaciones históricamente vulneradas, este tipo de iniciativa implica el ejercicio de una vigilancia diferenciada, que agrava la desprotección de las personas en situación de mayor vulnerabilidad y que, por lo tanto, más dependen del apoyo del estado.
Medidas similares se han implementado en otros países de la región e incluyen el uso de reconocimiento facial para controlar el acceso de beneficios especiales en los sistemas de transporte de distintas ciudades de Brasil o, incluso, el ingreso a instituciones educativas; propuestas similares han sido presentadas en el marco del retorno a clases presenciales en Chile. En el contexto de la pandemia mundial por COVID-19, en El Salvador y Perú se han utilizado sistemas de reconocimiento facial para controlar potenciales fraudes en exámenes educativos realizados de manera remota, situación particularmente delicada al tratarse de personas menores de edad.
En el caso de Bolivia, observamos como la digitalización, presentada muchas veces bajo la promesa de mayor eficiencia en la gestión pública, no solo es insuficiente para solucionar problemas estructurales de acceso a servicios básicos del Estado, si no que además abre espacios para nuevas formas de discriminación. Un análisis exploratorio sobre el rol de las tecnologías en la entrega de ayudas económicas a la población en el marco de la pandemia de COVID-19 evidencia las diversas capas de complejidad que implica tal uso.
Brasil y su programa de auxilio de emergencia es otro claro ejemplo. La decisión de utilizar aplicaciones móviles para que las personas puedan solicitar la ayuda tuvo como consecuencia un incremento en las dificultades de acceso a los beneficios. Quienes más necesitan apoyo no siempre disponen de un dispositivo con conexión a internet, un número de teléfono o incluso (y más grave aún) un documento de identificación. El sistema propuesto no consideró las necesidades de las destinatarias. En este sentido, organizaciones brasileñas presentaron preocupaciones en relación a la transparencia y garantías de seguridad ofrecidas por la aplicación respecto a los datos recolectados.
Además, la implementación de tecnologías agrega nuevas capas y agentes al procesamiento de datos personales, e implica un aumento de vulnerabilidades en términos de seguridad y protección contra usos abusivos. Lo mismo es válido para las propuestas de integración e interoperabilidad de bases de datos, identidad única, automatización y predicción. En nuestra región estas prácticas abundan, sea en formato piloto o en propuestas de acción, impulsadas muchas veces por entidades financieras internacionales.
La publicación “Sistemas de identificación y protección social en Venezuela y Bolivia. Impactos de género y otros tipos de discriminación” aborda algunos de estos temas a partir de análisis de casos en ambos países, donde se alerta sobre las implicancias de la mediación tecnológica en relaciones entre estado y ciudadanía. Además, propone una reflexión sobre los impactos que las tecnologías de vigilancia pueden tener en el acceso a derechos sociales y económicos, y en cómo la digitalización puede profundizar la desigualdad, en especial, cuando implica el acceso a datos por parte de agentes privados o la mediación algorítmica por medio de sistemas de clasificación.
Consideramos que estos son puntos centrales que deben ser discutidos. Más todavía cuando la pandemia no muestra señales de detenerse en la región, y la pobreza y extrema pobreza alcanzan niveles inéditos.
“Sistemas de identificación y protección social en Venezuela y Bolivia. Impactos de género y otros tipos de discriminación” será lanzada el próximo miércoles 14 de abril, junto a un grupo muy especial de expertas y expertos que comentarán los casos presentados y aportarán sus propias perspectivas a la discusión. El evento se transmitirá en vivo. Si te interesa participar, toda la información la encuentras aquí.