Tecnología contra la pandemia: derechos fundamentales mucho más que daño colateral

Cuando el COVID-19 nos obliga a aislarnos socialmente para proteger la salud de todos y todas, surge la legítima pregunta de cómo puede la tecnología asistir un combate más efectivo a la pandemia. Desde la aceleración de la telemedicina a la predicción de riesgos de contagios, al control del aislamiento involuntario, a la eficiencia en la asignación de prioridad de testeo, la tecnología parece ofrecer un abanico atractivo de soluciones. Pero si la crisis es novedosa para la humanidad en sus desafíos, la respuesta debe venir de una experiencia acumulada por siglos de excesos y desaciertos.

Necesidad, adecuación y proporcionalidad en la respuesta tecnológica es lo que separa una crisis de salud global de una renuncia de los derechos fundamentales, tejido básico de sociedades como las nuestras, que se han jugado su sangre e historia por escapar del autoritarismo y garantizar una vida digna para todos. Las tecnologías de información pueden jugar un rol coadyuvante en el monitoreo y control de la pandemia, pero su implementación irresponsable puede impactar negativamente el ejercicio de los derechos humanos, particularmente la privacidad, el derecho a la integridad física y psíquica, y el derecho a no ser discriminado arbitrariamente (en el ámbito laboral, de salud, previsión social y acceso a beneficios sociales).  Así lo señalaron el 16 de marzo pasado expertas y expertos en derechos humanos de Naciones Unidas, precisando que los Estados no deben abusar de las medidas de emergencia para vulnerar derechos humanos: «Si bien reconocemos la gravedad de la actual crisis de salud y reconocemos que el derecho internacional permite el uso de poderes de emergencia en respuesta a amenazas significativas, recordamos urgentemente a los Estados que cualquier respuesta de emergencia al coronavirus debe ser proporcionada, necesaria y no discriminatoria».

La necesidad extraordinaria en este caso está representada por la emergencia sanitaria misma y que amenaza no solo la salud pública, si no también la estabilidad económica y social. Esto es particularmente cierto en los países de América Latina, con una fuerte precariedad laboral, representada por industrias extractivas y trabajo informal basado en el ingreso diario. 

En cuanto a la adecuación del sistema que se proponga, lo que típicamente separa las buenas de las malas ideas es formular preguntas rigurosas y contextuales acerca de la idoneidad de los sistemas para alcanzar los objetivos propuestos, y un diseño que incorpore la experiencia médica, las instituciones de salud y los enfoques científicos desarrollados, para aumentar lo que se sabe que funciona y no trabajar excluyéndolos o desafiando la confianza de la población en ellos. Los sistemas que se desarrollen deben encontrarse al servicio de la respuesta médica y del uso proporcionado de controles sociales para limitar la transmisión. La tecnología por si sola no es efectiva si no va acompañada de contextos de gobernanza institucional que aseguren el cumplimiento de sus objetivos.

La credibilidad de las instituciones de salud pública juega un papel importante en el éxito del cambio de comportamiento y respuesta que se pueda desarrollar durante la pandemia. Desarrollos tecnológicos que prescindan o hagan cuestionar esa respuesta coordinada pueden terminar resultandos contraproducentes para su combate. Un efecto no deseado de intervenir con tecnologías es generar confusión o una falsa seguridad en la población sobre la capacidad de las tecnologías de realizar un control efectivo, conduciendo al relajo de otras medidas más estrictas. Lo último que desearíamos en medio de una pandemia es que las instituciones de salud pública tengan que competir por la legitimidad, ya sea con otros órganos del Estado o con terceros intermediarios de las tecnologías provistas.

El objetivo no es evitar el uso de la tecnología, si no que precaver que cualquier sistema digital que se desarrolle lo haga desde criterios médicos que se sabe funcionan -al menos en circunstancias limitadas, basado en experiencias previas de respuesta específicas- y se implementen en una forma bien institucionalizada para causar aumentos marginales en la capacidad de combatir la pandemia. 

La experiencia internacional

El uso de tecnologías de vigilancia preestablecidas, como es el caso de China, Irán e Israel, resulta particularmente problemático. La emergencia no puede prestar ocasión a que se profundicen sistemas de control social implementados en forma oscura y sin mecanismos de rendición de cuentas, que usen la pandemia para realizar un lavado de imagen que les permita sobrevivir a la crisis con una renovada justificación autoritaria.

Además, hay que considerar que los países que se citan como ejemplos exitosos de contención de la pandemia a la fecha (China, Corea del Sur, Singapur y Taiwán) realizaron grandes inversiones en capacidad de testeo proactivo, infraestructura de respuesta y disponibilización de información confiable en forma coordinada, todos elementos que son citados por expertos como componentes vitales de una respuesta efectiva. El componente digital aporta solo una fracción de lo anterior y, por ejemplo en el caso de Corea, el despliegue de la Self-quarantine Safety Protection App a partir del 7 de marzo de 2020, se produce cuando las principales medidas de contención a través del testeo masivo y aislamiento de individuos y grupos infectados, ya se encontraban ampliamente desplegadas y la expansión de la pandemia mostraba signos relevantes de contención.

Una reflexión es necesaria en relación a la adecuación de la geolocalización como tecnología para el combate efectivo de la pandemia. Aquí cabe precisar que reportes de especialistas dan cuenta de que esta parece ser mucho menor a la que optimistas tecnológicos parecen atribuirle. Los datos que proveen las torres de celulares de las que se vale la telefonía móvil carecen de la granularidad requerida para monitorear contactos de 2 o 3 metros como los necesarios para el contagio del COVID-19; lo mismo sucede con personas que se conectan a una misma red WiFi. Un poco más precisas resultan en ciertas condiciones las redes de Bluetooth (usadas por ejemplo en Singapur). Las señales de GPS proveen un poco más de precisión, pero solo funcionan bien en el exterior, por lo que pueden determinar si dos personas estuvieron en un mismo edificio, pero no que tan cerca estuvieron la una de la otra.

Aproximaciones menos lesivas para el ejercicio de derechos son posibles de adoptar aprovechando el poder de los datos agregados para el combate de la pandemia. Ese es el tipo de trabajo que operadores de telefonía han estado desarrollando en Europa, en países como Alemania, Austria, Francia e Italia. En España, algunas de ellos han ofrecido sus capacidades de big data y de gestión de datos anonimizados y agregados de su red, datos de movilidad, centros de procesamiento de datos en la nube, así como capacidades de atención telefónica o digital para contener la expansión de la pandemia. Y la autoridad de Protección de Datos de la Unión Europa, señala a este respecto que: “Las reglas de protección de datos no obstaculizan las medidas tomadas en la lucha contra la pandemia de coronavirus”. Pero enfatiza que “incluso en estos momentos excepcionales, el controlador de bases de datos debe garantizar la protección de los datos personales de sus titulares».

La más reciente iniciativa presentada en este sentido se trata de un sistema en desarrollo en Alemania, con miras a expandir su uso en toda Europa, que busca preservar la privacidad de la información, pero proveyendo una herramienta tecnológica útil al control de la pandemia. Funciona bajo el principio de trazar proximidad de casos comprobados de contagios, no a través de datos de geolocalización, si no midiendo proximidad en una red Bluethooth. Se trata de una App voluntaria que generará un identificador único que se almacenará en forma cifrada en los dispositivos en forma local. La App descargada en un dispositivo almacenará localmente información de contacto de proximidad con otros dispositivos y luego, cuando se confirme un caso en esa red de proximidad, los miembros recibirán un mensaje de alerta. A partir de ahí, el usuario tendrá dos opciones: entregar toda su data cifrada almacenada en su dispositivo para análisis científico del caso o, a partir de la alerta, pedir acceso al test y partir con las medidas de cuarentena si el resultado es positivo. A partir de abril se pretende comenzar a desplegar esta tecnología en forma interoperable a nivel europeo, con interfaces usuario a nivel nacional y con la información de diagnóstico almacenada por cada autoridad de salud nacional.

Proporcionalidad

Luego de evaluada las implicancias de adecuación de la tecnología, cabe la ponderación de la proporcionalidad de su uso atendida la afectación de distintos derechos. Ello implica considerar las regulaciones que acoten los plazos de las facultades extraordinarias, que lo sujeten a las condiciones específicas de la emergencia para que no se extiendan a largo plazo, en formas no controladas e indefinidas.

Una clara distinción debe trazarse -aunque a veces sea difícil de establecer- entre la “vigilancia de la expansión del virus” y la “vigilancia de las personas” que resultan ser portadoras de este. ¿Y por qué esto es importante? Lo es desde la perspectiva de la proporcionalidad en el diseño, pues la información a la que se deba tener acceso excepcional, en relación con las reglas generales de privacidad, debe minimizarse a aquello que científicamente sea razonable para frenar la expansión del virus, pero no para generar un recuento exhaustivo de las vidas de los pacientes y su círculo de contactos. Debe tratarse de un sistema de vigilancia epidemiológico, con base científica sólida, no de la implementación de un sistema de control de la autonomía de los ciudadanos que permita ser fácilmente reconducido a otros propósitos de control social con posterioridad.

Es por ello que no es posible generar una autorización excepcional de acceso y uso a datos personales sin clara visibilidad de los criterios predictivos que se usarán para obtener modelos de intervención a partir de los datos a los que se quiere tener acceso. Ello porque sin tener acceso a esa caja negra no existe forma de entender la equidad (o falta de ella) subyacente a la adecuación de la herramienta, o poder pronunciarse acerca de la legitimidad de la intervención en función de la proporcionalidad de la afectación que significa un acceso irrestricto a bases de datos personales y datos sensibles de todos los ciudadanos. 

De larga data es el reconocimiento de que los derechos fundamentales no se plantean como imperativos absolutos, pero si como ejercicios de ponderación, y de ahí la necesidad de que cualquier restricción que se adopte a su ejercicio sea proporcionada y no afecte la esencia del ejercicio del derecho restringido. Ese trade-off requiere de salvaguardias en su autorización de limitación de ejercicio que se contengan en normas de carácter legal, ya que este es el instrumento democrático que permite balancear con transparencia los distintos derechos en juego. 

Así, una legislación de emergencia en el contexto de COVID-19 que busque una autorización extraordinaria para que a través del uso de tecnologías se pueda acceder a datos sensibles de salud de las personas (condición de encontrarse infectado de COVID-19, síntomas, monitoreo de tratamiento, entre otros) o de datos personales (información de geolocalización, contactos próximos, agenda de contacto en dispositivos, entre otros) en manos de diferentes servicios públicos o proveedores privados, requeriría de los siguientes componentes: 

  1. caracterizar en forma estricta la situación de emergencia y/o el plazo que habilita acceder a los datos personales y sensibles de salud en manos de los distintos órganos del Estado; 
  2. especificar quiénes estarán a cargo del acceso extraordinario a tales datos; 
  3. detallar cuáles son y cómo se utilizarán los datos a los cuales se solicita acceso extraordinario; 
  4. establecer provisiones de término del acceso y uso extraordinario a los datos con medidas efectivas de control de acceso o eliminación, en su caso; 
  5. ordenar medidas específicas de seguridad operacional para evitar acceso y uso malicioso de los datos; y
  6. establecer mecanismos de control externo y rendición de cuentas que permita fiscalizar y sancionar fuertemente la desviación de finalidad en el acceso y uso de los datos. Esto último en particular para proteger a los titulares de los datos personales y sensibles de salud de futuras discriminaciones arbitrarias en materia laboral, de salud, previsión o beneficios sociales, ya sea por el Estado o por agentes privados, por haber sido portadoras de COVID-19.

El uso de los datos asociados a la expansión de la pandemia COVID-19 debiera hacerse bajo técnicas de pseudonimización o disociación (con algoritmos de anonimización suficientemente robustos) cuando se trate de ofrecer información públicamente disponible, además de tener la seguridad como requisito indispensable, incluyendo el tránsito cifrado de la información y su almacenamiento seguro y resiliente.

La rápida acción para enfrentar la expansión del COVID-19 requiere de medidas excepcionales, pero no pueden llevarse a cabo violando los pilares de un Estado democrático regido por la regla de derecho. El combate de una pandemia no es ni puede ser antónimo del respeto de derechos fundamentales, ni la puerta al autoritarismo del que nuestro continente ha luchado tan duro por escapar.

Las malas ideas siguen siendo malas en tiempos de pandemia y este es un mal momento para experimentar con los derechos fundamentales que tanto vamos a necesitar cuando la emergencia pase, para construir sociedades más justas y solidarias que nos permitan superar las deficiencias estructurales que exacerban las inequidades de nuestra región. De esta salimos todos juntos y con nuestros derechos intactos. 

Ecuador: Las tecnologías de vigilancia en contexto de pandemia no deben poner en riesgo los derechos humanos

Las organizaciones firmantes, especializadas en la promoción y defensa de los derechos humanos, expresamos nuestra preocupación por el anuncio relativo al monitoreo satelital para la georreferenciación de las personas en el contexto del cerco epidemiológico en Ecuador. El anuncio, realizado el 17 de marzo de 2020 por la Ministra de Interior, María Paula Romo, [1] forma parte de las medidas adoptadas por el Gobierno para hacer frente a la crisis provocada por el COVID-19, en el marco de la declaración de estado de excepción. [2]

Las tecnologías de vigilancia y monitoreo deben usarse con criterios de necesidad y proporcionalidad

Si bien las medidas adoptadas en el contexto del estado de excepción se orientan a ralentizar la propagación del virus con el fin de resguardar la salud pública, es primordial asegurar que el uso de las tecnologías de información y comunicación — especialmente tecnologías de vigilancia y monitoreo de la población — se haga con apego a criterios estrictos de necesidad y proporcionalidad, para salvaguardar el ejercicio de los derechos humanos que pueden verse negativamente impactados por estas medidas, particularmente la privacidad, el derecho a la integridad física y psíquica, y el derecho a no ser discriminado arbitrariamente.

Así lo señalaron el 16 de marzo pasado expertas y expertos en derechos humanos de Naciones Unidas, precisando que los Estados no deben abusar de las medidas de emergencia para vulnerar derechos humanos. «Si bien reconocemos la gravedad de la actual crisis de salud y reconocemos que el derecho internacional permite el uso de poderes de emergencia en respuesta a amenazas significativas, recordamos urgentemente a los Estados que cualquier respuesta de emergencia al coronavirus debe ser proporcionada, necesaria y no discriminatoria «. [3]

Tal como explican las expertas y expertos en derechos humanos de las Naciones Unidas en su comunicado, existe peligro en que, justificándose en la emergencia, se implementen medidas que significan una reducción arbitraria de las libertades públicas y que –en ausencia de marcos legales e institucionales robustos– se vuelvan permanentes ante la imposibilidad de la ciudadanía de fiscalizar su adecuación, necesidad y proporcionalidad. Es por esto que recomiendan que «para evitar que tales poderes excesivos se conecten a los sistemas legales y políticos, las restricciones deben diseñarse limitadamente y deben ser el medio menos intrusivo para proteger la salud pública».

La condición de salud de las personas, objeto de protección reforzada

Por su vinculación con la dignidad humana, la información respecto a la condición de salud de las personas es confidencial y personal y, con base en lo establecido en la normativa tanto nacional como internacional, debe ser objeto de protección reforzada para evitar que pueda ser utilizada en forma discriminatoria. La mayor parte de las legislaciones a nivel global consideran los datos de salud como datos sensibles dentro de su estatutos legales de protección, ya sea general o de la normativa sectorial sanitaria, y los someten a criterios estrictos de autorización para su procesamiento y a medidas más estrictas de sanción ante la vulneración de sus reglas de uso, almacenamiento y comunicación a terceros.

En Ecuador, la normativa constitucional es muy clara al respecto. Se establece en el artículo 66, inciso 11, 19 y 20, la reserva de la información personal, incluida aquella relativa a los datos de salud, que solo pueden ser difundidos por mandato legal o autorización personal. De igual manera, ley de derechos y amparo del paciente en sus artículos 2 y 4 establece el derecho a la atención digna y a la confidencialidad de la información en salud, lo que se refuerza en el artículo 61 de la ley orgánica de salud que obliga a las instituciones y profesionales de la salud a garantizar la confidencialidad de la información entregada y recibida. El código penal contiene disposiciones que tienen el objetivo de proteger la información reservada, personal y confidencial, como lo son los artículos 179 y 180, que establecen a la revelación de secreto profesional y la circulación de información restringida como delitos penales.

El código penal contiene disposiciones que tienen el objetivo de proteger la información reservada, personal y confidencial como lo son los artículos 179 y 180 del mismo, que establecen a la revelación de secreto profesional y la a circulación de información restringida como delitos penales.

Considerando lo delicado de la información en salud y su carácter confidencial, cualquier medida que implique la identificación de individuos con la condición de pacientes de enfermedades específicas puede exacerbar condiciones de vulnerabilidad preexistentes y puede convertirse en una fuente directa — o colateral — de acciones de discriminación arbitraria por quienes tengan acceso legítimo o ilegítimo a esa información, creando un estigma social cuyas consecuencias pueden ser tan severas como las de la enfermedad física misma, tal como dan cuenta experiencias recientes con el desarrollo de la pandemia COVID-19 en Corea del Sur. [4] Es indispensable asegurar que la aplicación de las medidas de prevención y control de la pandemia no agrave la situación de vulnerabilidad de grupos minoritarios y personas que, por su condición económico-social u otros factores, presentan un mayor riesgo de afectación.

A tal preocupación se suma la evidencia existente sobre el alto nivel de imprecisión y falibilidad de los sistemas de vigilancia masiva, y del impacto que tienen en la seguridad personal y la privacidad de las personas debido a su nivel de intrusividad. En países que ya han reportado la utilización de sistemas de georreferenciación de su población con ocasión de la pandemia COVID-19 — incluso tratándose de sistemas no obligatorios para la población —, se han reportado errores en el sistema que permiten generar no solamente falsos positivos, sino también estigma en contra de determinados pacientes por las zonas geográficas de desarrollo de sus actividades cotidianas (por ejemplo, por encontrarse en las cercanías de barrios rojos). Además, permiten trazar vínculos entre pacientes que revelan información privada, lo que les hace susceptibles al escrutinio público, como en los casos de contagios en relaciones extramaritales o sometimiento a terapias específicas, por vía ejemplar. [5]

La falibilidad de las técnicas de georreferenciación adquiere aún mayor gravedad cuando su uso se enmarca en la facilitación de la persecución penal de individuos que infrinjan medidas de aislamiento sanitario. Por ello, se debe asegurar que los procedimientos legales en torno a personas señaladas como infractoras de las medidas establecidas en el estado de excepción y de emergencia sanitaria se realicen con apego al debido proceso y a los estándares internacionales de derechos humanos, y que la impartición de justicia se lleve a cabo de manera independiente, competente e imparcial. Cabe recordar que para que una prueba tenga validez dentro de un proceso judicial esta no debe haber ser obtenida con violación de la constitución y la ley.

Las preocupaciones aquí abordadas respecto de la utilización de sistemas de georreferenciación de pacientes infectados de COVID-19 tienen lugar incluso en países que cuentan con una normativa específica de protección de datos personales, que proveen de un marco institucional para limitar abusos en la recogida y uso de tal información. La situación tendría una mayor gravedad en Ecuador, ya que a pesar de la garantía consagrada en el artículo 66 numerales 11, 19 y 20 de la Constitución de la República, el país carece a la fecha de una normativa legal y de una autoridad técnica e independiente que permita una adecuada supervisión de que las medidas a implementarse respeten los principios de adecuación, necesidad y proporcionalidad compatibles con el estado de derecho.

Es indispensable proteger a quienes trabajan en la defensa de los derechos humanos

Instamos al gobierno ecuatoriano a brindar las garantías necesarias para que la aplicación de las medidas de vigilancia y monitoreo no afecten a personas cuyo trabajo es esencial para asegurar el ejercicio de derechos humanos, como defensores y defensoras de derechos humanos o expertos y expertas en seguridad digital, entre otros. Respecto a ellas, desde las Naciones Unidas se ha señalado en forma categórica que las declaraciones de emergencia basadas en el brote de COVID-19 “no deben funcionar como una fachada para la acción represiva con el pretexto de proteger la salud ni usarse para silenciar el trabajo de los defensores de los derechos humanos”.

Por último, es imprescindible que el gobierno ecuatoriano entregue información suficiente sobre el alcance de la medida anunciada: el tiempo que estará vigente, el tipo de tratamiento, y sobre las condiciones de acceso, almacenamiento y seguridad de la información que se recopile. Del mismo modo, deben comunicarse con claridad los protocolos que se adoptarán para evitar que terceros — dentro y fuera de la administración pública — accedan a la información recopilada y la usen con fines ilegítimos. Ello redundará en el reforzamiento del nivel de confianza en las acciones del gobierno para enfrentar la crisis, como condición esencial para la seguridad y el bienestar de la población, y proveerá un nivel mínimo de garantía de la legitimidad democrática de cualquier sistema adoptado, que asegure su deshabilitación una vez superada la emergencia.

Resulta indispensable que el gobierno ecuatoriano, que en tiempo reciente ha invertido ingentes esfuerzos en conducir a la digitalización del país, aproveche la oportunidad de utilizar las tecnologías de información y comunicación para responder a la emergencia propuesta por el COVID-19 de manera compatible con los estándares del Sistema Internacional e Interamericano de derechos humanos, que forman parte del orden constitucional del Ecuador.

Organizaciones firmantes:

  • Access Now
  • Asociación para el Progreso de las Comunicaciones (APC)
  • Asociación por los Derechos Civiles (ADC)
  • Confederación de Nacionales Indígenas de la Amazonía Ecuatoriana (CONFENIAE)
  • Datos Protegidos
  • Derechos Digitales
  • Digital Defenders Partnership (DDP)
  • Fundación Acceso
  • Fundación Karisma
  • Hiperderecho
  • LaLibre.net
  • Movimiento Indígena y Campesino de Cotopaxi (MICC)
  • Taller de Comunicación Mujer (TCM)
  • TEDIC
  • Surkuna

1 https://www.ecuadortv.ec/noticias/covid-19/romo-vigilancia-epidemiologico-covid19-

2 El art. 11 del Decreto Nº 1017 del presidente Lenin Moreno señala: “Para el cumplimiento de las restricciones del presente Decreto se podrán utilizar plataformas satelitales y de telefonía móvil para monitorear la ubicación de personas en estado de cuarentena sanitaria y/o aislamiento obligatorio, que incumplan las restricciones dispuestas, a fin de ponerlas a disposición de las autoridades judiciales y administrativas competentes”.

3 https://www.ohchr.org/EN/NewsEvents/Pages/DisplayNews.aspx?NewsID=25722&LangID=E

4 https://www.bbc.com/news/world-asia-51733145

5 https://www.theguardian.com/world/2020/mar/06/more-scary-than-coronaviru…

Sociedad civil pide a gobiernos de América Latina y el Caribe que tecnologías digitales aplicadas ante la pandemia COVID-19 respeten los DDHH

La pandemia mundial que se ha declarado por COVID-19 ya azota en estas semanas a los países de América Latina y el Caribe. Reconociendo la gravedad de esta crisis de salud y la posibilidad legal de los gobiernos de tomar medidas excepcionales con el fin de controlar la pandemia, es importante recordar que éstas deben llevarse a cabo en estricta conformidad con las normas de derechos humanos. En ese sentido, nos plegamos al llamado conjunto hecho por los relatores expertos de las ONU que, en una reciente declaración, recuerdan urgentemente a los Estados que cualquier respuesta de emergencia al COVID-19 debe ser proporcionada al riesgo evaluado, necesaria y no discriminatoria.

El apego a los derechos humanos también incluye todo desarrollo digital o despliegue tecnológico que, en el contexto de controlar esta crisis de salud, nuestros gobiernos quieran aplicar. Muchos países hoy recurren a las tecnologías digitales para reforzar sus medidas de información, seguimiento y control de las personas que padecen el virus, lo que nos alerta ante sus efectos en los derechos fundamentales de las personas.

En China, por ejemplo, se desarrolló la aplicación Alipay Health Code para vigilar a su población, en Corea del Sur también se usan tecnologías digitales para el control de la pandemia que ahora parecen ser un modelo para muchos países, como Estados Unidos. Otras usos de tecnologías para la vigilancia, aún más agresivas, han sido implementadas en países como Israel. Asimismo, inquieta que el solucionismo tecnológico prevalezca para controlar esta pandemia y se desplieguen tecnologías como las de Inteligencia Artificial, sin medir sus impactos en derechos fundamentales. 

En esta línea, la situación en América Latina y el Caribe intranquiliza. En Ecuador el gobierno autorizó el rastreo satelital de los celulares las personas que entren en el cerco epidemiológico por COVID-19, lo que levanta serias alarmas sobre la proporcionalidad de la medida y posibles usos abusivos. En Colombia el Instituto Nacional de Salud promociona (aunque no obliga a su uso) la aplicación CoronApp, que ha sido cuestionada por su deficiente protección de datos personales, su mal funcionamiento y su verdadero alcance en un país con 20 millones de personas sin acceso a Internet. Por su parte, en Chile, el gobierno se ha referido al desarrollo de una aplicación para “contacto personalizado con ciudadanos” con apoyo del gobierno de Corea del Sur, el que ya ha sido cuestionado internacionalmente por el impacto de dicha tecnología. Iniciativas privadas de aplicaciones también levantan dudas en Paraguay, así como el anuncio del gobierno de Uruguay de crear una aplicación para celulares con la intención de que los habitantes tengan una «georreferenciación» de las personas diagnosticadas con COVID-19. Asimismo, inquietan los efectos estigmatizadores que puede producir la falta de protocolos claros en el uso escáneres de temperatura que en muchas de nuestras fronteras se implementan, aunque su efectividad ha sido cuestionada.

El uso de tecnologías digitales para combatir esta pandemia no puede quedar excluido de un examen de necesidad y proporcionalidad ante eventuales efectos en nuestros derechos fundamentales. En esta línea, toda tecnología usada en el contexto de esta pandemia debe priorizar una fuerte protección de nuestros datos personales y sensibles, así como garantizar un uso acotado a la emergencia que enfrentamos, como habilitar procedimientos de rendición de cuentas. Todas estas medidas son claves, además, para evitar impactos desproporcionados en la discriminación de grupos más vulnerables y en la salud mental y posible estigma de las personas afectadas por el COVID-19. 

Esta crisis de salud es una oportunidad para que Estados, gobiernos y comunidades de la región resguarden y fortalezcan los derechos humanos en todas las dimensiones de nuestras vidas que se ven afectadas por esta pandemia. En Al Sur estaremos monitoreando que eso así suceda.

::::

Suscribe Al Sur, consorcio de 11 organizaciones de la sociedad civil y la academia de diversos países de América Latina y el Caribe que trabajan por fortalecer los derechos humanos en el contexto digital.

Los miembros de Al Sur son:

  • Red en la Defensa de los Derechos Digitales, R3D, México
  • IPANDETEC, Panamá.
  • Fundación Karisma, Colombia.
  • Hiperderecho, Perú.
  • Derechos Digitales, América Latina.
  • Asociación por los Derechos Civiles, ADC, Argentina.
  • Centro de Estudios en Libertad de Expresión y Acceso a la Información de la Universidad de Palermo, CELE, Argentina.
  • Coding Rights, Brasil.
  • Internet Lab, Brasil.
  • Instituto Brasileiro de Defesa do Consumidor, Brasil.
  • TEDIC, Paraguay.

La sociedad exige explicaciones sobre la implementación de sistemas de reconocimiento facial en América Latina

Por todos los casos de errores y fallas  que hemos visto alrededor del mundo, nos queda claro que la implementación de sistemas de reconocimiento facial puede generar innumerables riesgos al ejercicio de derechos humanos. Sin embargo, algo de que no solemos hablar es el costo que la adquisición y uso de esas tecnologías representan en los bolsillos de las poblaciones donde estos sitemas se implementan. 

La situación es particularmente grave en América Latina: a pesar de que el argumento de la crisis económica es constantemente utilizado para explicar la disminución de inversiones en servicios básicos como educación y salud, los gobiernos siguen invirtiendo en vigilancia. Y, peor aún, invierten en tecnologías incapaces de cumplir con sus propias promesas. 

Las justificaciones en general vienen de la necesidad de mejorar la seguridad pública, planteando la posibilidad de agilizar la búsqueda de prófugos de la justicia y una identificación más eficaz de delincuentes… Pero los resultados distan de ser los esperados. En 2019, un hombre identificado a través de un sistema de reconocimiento facial estuvo seis días preso por error en Buenos Aires. Lo mismo pasó con una mujer en Río de Janeiro que fue detenida tras ser confundida con otra persona por las cámaras instaladas en algunos barrios de la ciudad, hace alrededor de un año durante el Carnaval.

Nada de eso fue suficiente para impedir que el gobierno del estado de São Paulo decidiera invertir más de 13 millones de dólares (más de 58,6 millones de reales) en la implementación de un sistema de reconocimiento facial para su red de metros. El nuevo sistema puede afectar a millones de personas que circulan diariamente en las líneas donde serán instaladas las cámaras. A pesar de esto, ni el impacto financiero ni el humano fueron considerados suficientemente relevantes para que el proceso de contratación e implementación del sistema incluyera medidas de transparencia y participación. La existencia de obligaciones de rendición de cuentas previstas en la nueva ley general de protección de datos brasileña –que entra en vigencia en agosto de este año– tampoco fue considerada. 

Lo sociedad exige explicaciones

Frente a tal situación, seis organizaciones de defensa de derechos brasileñas decidieron presentar -el último 10 de febrero- una acción judicial demandando que se transparentara la información sobre el uso, procesamiento y almacenamiento de datos biométricos, así como las medidas de seguridad que serán implementadas para garantizar la privacidad de los millones de usuarios del metro. Y tuvieron éxito. Tras la solicitud de pruebas anticipada* de la Defensoria Pública do Estado de São Paulo, Defensoria Pública da União (DPU), Instituto Brasileiro de Defesa do Consumidor (Idec), Intervozes, ARTIGO 19, y el Coletivo de Advocacia em Direitos Humanos (CADHu) la Companhia Metropolitano de São Paulo tiene 30 días hábiles** contados desde la notificación a la empresa para entregar la información solicitada.

Estas organizaciones también han manifestado su preocupación por la falta de transparencia en torno a la adquisicón millonaria de tecnologías de vigilancia que han demostrado ser problemáticamente propensas a errores y sesgos en Brasil, así como en otras implementaciones a nivel internacional

La solicitud de pruebas presentada las organizaciones brasileñas se suma a una serie de movimientos en la región para exigir explicaciones sobre los razonamientos que justifican la compra y adopción de tecnologías de vigilancia basadas en la recolección de datos masiva, así como las medidas que serán adoptadas para mitigar los riesgos que estas implican al ejercicio de los derechos humanos. 

En Paraguay, Tedic actualmente cuestiona la inconstitucionalidad de reglamentos presentados para justificar la negativa de acceso a la información sobre un sistema reconocimiento facial que se encuentra implementando desde 2018 y sobre el cual poco se sabe. En Argentina, ADC ha iniciado una acción buscando que se determine la inconstitucionalidad de la resolución que autoriza el sistema de reconocimiento facial en la Ciudad de Buenos Aires, donde se implementaron cerca de 200 cámaras en el espacio público (incluyendo estaciones de metro y trenes).

Si bien no han sido pocos los casos donde se ha expuesto el alto índice de errores que los sistemas de reconocimiento facial han mostrado en su debut como medida de seguridad, es importante destacar que las medidas ya implementadas se han desarrollado sin mecanismos efectivos de rendición de cuentas que permitan auditar y apelar el uso de estas tecnologías en el espacio público; donde sus afectaciones terminan polarizando las brechas de desigualdad y vulnerando aún más a las personas que son perseguidas y reprimidas por parte de sus gobiernos.

Ante la implementación de mecanismos de vigilancia masiva que se anuncian como medida para incrementar la seguridad de las poblaciones donde se despliegan, es importante señalar que ninguna medida puede estar por encima de la obligación de proteger y promover el ejercicio de los derechos humanos.

Desde Derechos Digitales seguimos acompañando y apoyando las acciones tomadas por las organizaciones de Argentina, Brasil y Paraguay esperando que se traduzcan en mayores compromisos de parte de los Estados de la región y sirvan de ejemplo para otros países.

* La solicitud de prueba anticipada es un mecanismo por el cual se pide judicialmente que se generen medios probatorios antes que exista una demanda en curso.

** Traducción hecha por Access Now. 

Contra la vigilancia masiva: Hasta que la dignidad se haga costumbre

Mientras que en mayo del año pasado la ciudad de San Francisco (cuna de este tipo de tecnologías) prohibió la utilización de tecnología de reconocimiento facial en espacios públicos, la Unión Europea pondera seguir este camino o al menos implementar una moratoria de cinco años a la utilización de estos mecanismos en espacios públicos; en Chile se ha anunciado por Mercado Público una licitación para la compra de equipamientos para un “Sistema de Teleprotección Nacional” por más de 14 mil millones de pesos que incluye tecnología de reconocimiento facial. Este sistema forma parte del programa “Calle Segura”, la iniciativa más ambiciosa para aumentar de capacidad de vigilancia del Estado desde la vuelta a la democracia. 

En el contexto de protesta social en el que el país se encuentra sumido desde octubre del año pasado y ad portas de un proceso constituyente, donde las necesidades de expresarse públicamente y manifestarse pacíficamente mantendrán movilizada a parte importante de la población: ¿Qué podría salir mal?

Las razones que han llevado a la prohibición o moratoria de uso del reconocimiento facial en espacios públicos son claras y compartidas: este tipo de tecnologías entregan al poder político una capacidad ilimitada, desproporcionada e injustificada para identificar, perfilar y vigilar a sus ciudadanas; aún cuando la ejecución de estas actividades es incompatible con el Estado democrático de Derecho. 

La paradoja del reconocimiento facial

Una de las principales críticas a las tecnologías de reconocimiento facial es su tasa de falsos positivos, es decir, el porcentaje de veces que el sistema reconoce de forma equivocada al afectado. La policía londinense reportó que un sistema de estas características identificó erróneamente a los individuos en un 92% de los casos, en Nueva York se obtuvo un 80% de falsos positivos y en nuestro país, el sistema del Mall Plaza resultó en un 90% de casos erróneos ¿Existe alguna otra industria que pueda mantenerse lucrativa con esos resultados?

Más allá de su efectividad -y la cuestionable justificación económica de esa inversión por el Estado, frente a las múltiples demandas sociales que requieren urgente atención- lo que resulta realmente espeluznante del reconocimiento facial, para aquellos que amamos y defendemos la libertad, es que estamos ante una tecnología que entrega una capacidad completamente desproporcionada al Estado y le permite ampliar su poder político para identificar a sus ciudadanas en el espacio público, un verdadero estado policial de control que trata a las personas como permanentes sospechosas. Este es el Estado del que nos habló Orwell en 1984.

Hoy estamos, entonces, ante una paradoja. El reconocimiento facial es una mala inversión para los recursos del Estado porque no sirve -ya se ha demostrado que es incapaz de entregar el resultado que promete- y el precio lo pagarán con sus derechos y libertades aquellos erróneamente identificados por el sistema. Aún si fuese capaz de alcanzar su objetivo, las consecuencias en el ejercicio de los derechos de las personas serían irreversiblemente más graves; es por esto que la implementación de este tipo de tecnologías resulta incompatible con un Estado de Derecho. 

En el peor de los momentos

El anuncio de este sistema de vigilancia masiva ocurre en un momento particular, a la mitad de la revuelta social y política más importante que ha vivido Chile en los últimos 30 años. En un escenario en donde al menos tres organismos internacionales han constatado la existencia de gravísimas y generalizadas violaciones a los derechos humanos de la población. 

La implementación de este sistema de vigilancia masiva se produce, entonces, en un contexto en el que se constata una progresiva criminalización al legítimo derecho de la población a la protesta social. El sistema propuesto entrega una herramienta tecnológica adicional para acrecentar la capacidad de control del Estado sobre la expresión y la manifestación, como un ejercicio de poder sin contrapesos ni obligación de rendición de cuentas en su uso. Si previo al estallido social vivimos situaciones como la Operación Huracán o la vigilancia policial revelada por el Paco Leaks ¿qué garantiza que un sistema de vigilancia masivo con reconocimiento facial no será utilizado para perfilar a dirigentes sociales, perseguir a activistas, medios independientes u hostigar a oponentes políticos? 

Las bases de licitación son claras en entregar al sistema la mayor discrecionalidad y arbitrariedad posible, describiendo las cámaras como un mecanismo legítimo incluso para perseguir “incivilidades”. En otras palabras, se proponen como una solución para perseguir conductas que van desde cometer delitos hasta botar papeles en la calle, contraviniendo uno de los principios básicos de la disciplina jurídica de protección de datos personales: el principio de proporcionalidad

Las bases de licitación son además ambiciosas, pero poco precisas. Se establece que el sistema de vigilancia tiene que ser capaz de reconocer rasgos faciales, patrones de comportamiento y contar con algoritmos de aprendizaje de máquinas (machine learning); sin embargo, no establece definición alguna de qué parámetros técnicos deberán cumplir ni provee información acerca de los datos que serán usados para su entrenamiento. Tampoco hay mención a cualquier mecanismo de control o resguardo de los derechos de las personas sujetas a este sistema de vigilancia masiva.

La pretensión del gobierno por generar mecanismos de vigilancia masivos en espacios públicos se basa en una premisa errada que nuestros tribunales superiores de justicia han sido claros en descartar: que «no existe» la privacidad en el espacio público. Claro que las personas no gozan del mismo nivel de privacidad en la calle que en la sala de estar de sus casas, pero eso no quiere decir que uno renuncie totalmente a la privacidad al cruzar el umbral de la puerta. 

Y es que la privacidad y el anonimato son además condiciones necesarias para el ejercicio de otros derechos fundamentales, como la libertad de expresión, el derecho a reunión, petición, la libertad de culto y la no discriminación. De esta forma la implementación de sistemas de vigilancia masiva genera un efecto inhibidor donde, por miedo a represalias ulteriores, las personas podrían sentirse presionadas a no ejercer sus derechos o ejercerlos de forma limitada.

¿Podrán los chilenos seguir manifestándose con tranquilidad y libertad sabiendo que sus rostros están siendo identificados y que cada uno de sus patrones de comportamiento están siendo analizados por el mismo gobierno que los reprime? La respuesta es obvia.

Llamado a la acción

Desde Derechos Digitales nos oponemos a la implementación de este sistema de vigilancia incompatible con el Estado democrático de Derecho, que vulnera los derechos fundamentales de la población. 

La Subsecretaría de Prevención del Delito debe rendir cuenta a las chilenas de su actuar, y es por eso que tal como lo hemos hecho nosotros, invitamos a todos nuestros lectores a utilizar el mecanismo de acceso a la información pública para requerir información de cómo este plan de vigilancia masiva pretende ser implementado y les afecta. Para ello les compartimos un modelo de solicitud que pueden bajar acá. La solicitud se debe ingresar en el portal de transparencia de la Subsecretaría de Prevención del Delito, de forma que exijamos al gobierno transparentar los detalles de este sistema de vigilancia masiva a todas sus ciudadanas interesadas en proteger el respeto de los derechos humanos que les hizo salir a la calle en 2019: para exigir que la dignidad se haga costumbre. 

21N en Colombia, defender el anonimato en la protesta

El pasado 21 de noviembre en Colombia se celebró un paro nacional de dimensiones extraordinarias. Diferentes sectores de la población salieron a las calles de varias ciudades del país para protestar contra las reformas laboral y pensional, así como para exigir que se cumpla el Acuerdo de Paz, se adelanten medidas anticorrupción y se detenga el asesinato masivo de líderes sociales, entre otras demandas. Sin precedentes en la historia reciente del país, este paro se ha extendido por ocho días consecutivos, y se ha caracterizado por no tener una sola vocería ni un actuar coordinado de manera centralizada. Las manifestaciones van desde cacerolazos y asambleas vecinales hasta expresiones artísticas masivas, y a medida que pasan los días, más sectores se han sumado a la movilización.

En días previos al 21N fue noticia la militarización de la capital, así como otras “medidas preventivas” por parte de las Fuerzas Armadas en todo el país, con ocasión del paro. También se conoció de los operativos de allanamiento a artistas, medios de comunicación independientes e integrantes de movimientos sociales, muchos de los cuales fueron luego declarados ilegales al no encontrarse elementos que relacionaran a las personas afectadas con actos vandálicos o criminales.

Además de los allanamientos, que buscaban “identificar e individualizar a los encapuchados que en protestas anteriores han generado hechos de vandalismo y terrorismo en la ciudad”, el día anterior al paro varios medios de comunicación reportaron que durante la jornada de protesta la Policía de Bogotá estrenaría un sistema de reconocimiento facial instalado en el helicóptero Halcón, que desde principios de 2017 sobrevuela la ciudad adecuado con cámaras de alta resolución para apoyar desde el aire en la persecución del crimen.

De acuerdo con los reportajes, esta nueva tecnología -que también sería utilizada en la ciudad de Medellín, con la única diferencia de que allí se instalaría en cámaras estáticas y no en una aeronave-, tendría la capacidad de identificar, en tiempo real, las facciones alrededor de ojos y nariz de las personas que tuvieran su rostro cubierto durante las manifestaciones, para articular dicha información con las bases de datos de la Dirección de Investigación Criminal e Interpol (Dijín)y la Registraduría Nacional.

Todas estas acciones “preventivas” han sido fuertemente criticadas por generar un ambiente de tensión previo a la jornada de movilización nacional. En ese marco, vale la pena mencionar lo problemático que resulta el uso masivo de tecnologías biométricas, y específicamente de reconocimiento facial, para la vigilancia masiva y la persecución de delitos en un contexto de movilización social. Las tecnologías biométricas consisten en la recopilación, almacenamiento y procesamiento de datos derivados del cuerpo y sus movimientos. Un uso desproporcionado de este tipo de tecnologías atenta directamente contra los derechos a la privacidad, la integridad y la autonomía de las personas, y además puede tener consecuencias negativas como la discriminación de ciertos grupos sociales, debido a los sesgos de diseño e implementación, o la restricción de las libertades -de expresión, locomoción, asociación- de las personas en general, mediante un efecto silencioso de autocensura.

En el caso de la persecución de delitos, se trata de un atentado contra el derecho a la intimidad y a la presunción de inocencia, pues se alimentan bases de datos donde todas las personas vigiladas son consideradas sospechosas; en el caso de su uso en el marco de protestas con el fin de identificar a quienes tienen cubiertos sus rostros, como ocurrió el pasado 21N y posiblemente en los días siguientes, se trata además de un atentado contra el derecho al anonimato, directamente relacionado con la libertad de expresión y asociación. Sobre este punto, es importante señalar que en su guía práctica de bolsillo para salir a protestar Dejusticia advierte que si bien llevar el cuerpo cubierto o descubierto a una manifestación es una conducta protegida constitucionalmente, “muchos jueces o agentes policiales podrían tener opiniones distintas”.

Es preocupante, además, teniendo en cuenta que en el Congreso de la República se radicó recientemente un proyecto de ley que tipifica como conducta penal el vandalismo “que, valiéndose de una protesta, manifestación o movilización pública, dañe, atente o destruya los bienes públicos o privados [o] atente contra la integridad física de los miembros de la fuerza pública”, agravando la pena si la persona está ocultando total o parcialmente su rostro. Preocupante porque, aunque el Proyecto se justifique en la garantía del derecho a la protesta pacífica, en esta y otras jornadas de movilización se ha evidenciado cómo los abusos por parte de la fuerza pública superan con creces las expresiones de violencia por parte de la ciudadanía.

Por otra parte, como ha documentado en el pasado la Fundación Karisma, las millonarias inversiones en tecnología para la seguridad en Bogotá han carecido de estudios previos que garanticen la viabilidad de su implementación (por ejemplo porque no hay acceso a las bases de datos necesarias para que la tecnología de reconocimiento facial funcione efectivamente), así como de transparencia respecto a su adquisición e implementación. En cambio, han gozado de amplia promoción en medios de comunicación, con narrativas que lejos de proponer una perspectiva crítica sobre las implicaciones sociales o legales de su uso, alimentan discursos tecnosolucionistas.

Recientemente en América Latina se han comenzado a implementar sistemas de reconocimiento facial para distintos fines, sin un análisis profundo, ni político ni técnico, sobre los riesgos asociados a su uso. En los contextos de protesta que en los últimos meses se han vivido en distintos países de la región, donde se ha evidenciado una enorme participación ciudadana al tiempo que un uso desmedido de la fuerza y múltiples violaciones a los derechos humanos por parte de los gobiernos, es necesario alertar sobre el uso tecnologías de reconocimiento facial para vigilar la protesta social, y rechazarlo enfáticamente, así como las iniciativas de criminalizar y perseguir el uso de capuchas durante las manifestaciones, como se está intentando al menos en Chile y Hong-Kong. La protesta es un derecho, el anonimato también.

Declaración sobre la represión de la protesta social en América Latina a través de la violencia y el uso de la tecnología

Las firmantes, como organizaciones latinoamericanas trabajando en la intersección entre tecnología y derechos humanos, vemos con preocupación y horror la respuesta de nuestros gobiernos a las masivas protestas sociales que se están desarrollando en Colombia, Bolivia, Chile y Ecuador.

En particular, rechazamos el modo en que los gobiernos están utilizando distintas tecnologías digitales en favor de la represión, criminalización y persecución de las y los manifestantes y su legítimo derecho a reunirse y expresarse pacíficamente, de una manera que solamente puede ser definida como antidemocrática y contraria a los derechos fundamentales.

En Ecuador, la evidencia demuestra afectaciones e interrupciones temporales de determinadas redes sociales, comunicaciones móviles, sitios web y conexión a internet durante la protesta, interfiriendo sustancialmente con el derecho de las personas a organizarse, comunicarse e informarse. Si bien no existen pruebas concluyentes respecto a que el errático comportamiento de la red fuese producto de un ejercicio estatal de represión, esa posibilidad tampoco ha sido descartada.

En Colombia, el Gobierno ha realizado una agresiva campaña comunicacional de desincentivo a la protesta, utilizando todas las cuentas de redes sociales de las instituciones del estado con ese fin. Además, en la antesala de la fecha convocada para el paro, se enviaron mensajes que disuadían la participación a través de SMS a los abonados al servicio de telefonía celular. Adicionalmente se han desplegado prácticas abusivas por la policía como incluir en las requisas a manifestantes la exigencia de mostrar sus redes sociales y contactos en los celulares.

En Chile, se han reportado denuncias de investigaciones y acciones de amedrentamiento iniciadas por la policía, usando como base información obtenida producto del monitoreo de redes sociales en busca de dichos críticos del gobierno y de la policía, y en favor de la protesta. Al mismo tiempo, la Intendencia Metropolitana ha anunciado el incremento de número de cámaras de vigilancia operativas en la ciudad de Santiago y la implementación de un sistema de reconocimiento facial, lo que además coincide con una preocupante propuesta de ley que califica como un agravante el legítimo derecho de cubrirse el rostro durante una manifestación.

En Bolivia, se ha reportado que algunas prominentes cuentas de redes sociales dedicadas a la difusión de información relevante respecto a la protesta han visto su actividad restringida; al mismo tiempo,  se han denunciado acciones coordinadas con el fin de censurar contenidos relevantes y un significativo incremento de la violencia en contra comunicadores y comunicadoras, que incluyen agresiones, amenazas físicas y acciones de exposición de información privada y acoso en línea. Por otra parte, las fuerzas de seguridad han intentado limitar el registro de sus actividades durante las protestas, por medio de la confiscación de equipos, el uso indiscriminado de gas lacrimógeno y la amenaza de arresto contra quienes fotografían y graban el actuar policial. También se han denunciado casos en que la policía ha requisado dispositivos con el objetivo de recolectar información privada.

La protesta es un derecho consagrado por la Declaración Universal de los Derechos Humanos y por la Convención Americana de Derechos Humanos, y es uno de los fundamentos de toda sociedad realmente democrática, por lo que debe ser garantizado, asegurado y promovido por los gobiernos de la región. Condenamos enérgicamente la represión de la protesta, la inusitada violencia que se está desplegando y  la utilización de tecnología para exacerbarla.

Exigimos a nuestros gobiernos dar soluciones políticas a los profundos problemas expresados por la ciudadanía, en un marco de respeto y compromiso con los valores democráticos y los derechos fundamentales.

Firman:

  • Asociación por los Derechos Civiles (ADC)
  • Asociación para el Progreso de las Comunicaciones (APC)
  • Coding Rights
  • Derechos Digitales
  • Fundación Ciudadanía Inteligente
  • Fundación Internet Bolivia
  • Fundación Karisma
  • Intervozes
  • TEDIC
  • Sursiendo
  • IPYS Venezuela
  • Comité por la Libre Expresión (Honduras)
  • Cooperativa Tierra Común
  • C-Libre
  • Fundación Datos Protegidos
  • Access Now
  • Creative Commons Uruguay
  • Espacio Público (Venezuela)
  • Colectiva de Feminista para el Desarrollo Local
  • Article 19
  • Fundación Vía Libre
  • Usuarios Digitales
  • Electronic Frontier Foundation