Temática: Privacidad

Periodismo y vigilancia en México: sin garantías para la libertad de expresión

El 29 de octubre, la aplicación de mensajería WhatsApp, propiedad de Facebook, tomó acciones legales contra NSO Group, la empresa de tecnología de vigilancia que desarrolló el malware espía “Pegasus” aquirido por el Gobierno mexicano, cuyo uso ha sido estudiado y denunciado desde 2016 por ONGs nacionales como R3D, SocialTIC y Artículo 19,  en el caso conocido como #GobienoEspía.

En mayo de este año, el equipo de seguridad de WhatsApp detectó una falla en la aplicación, que permitía inyectar spyware comercial en celulares mediante una simple llamada. Junto con desarrollar una solución al problema, se realizó una investigación que concluyó que la vulnerabilidad había había sido explotada por NSO Group, que también utiliza el nombre Q Cyber Technologies.

La preocupante novedad que plantea esta forma de ataque es que, al ejecutarse mediante un llamado, no requiere que la víctima habilite la instalación del software malicioso pinchando algún hipervínculo, lo que dificulta la obtención de evidencia y la toma de medidas precautorias para evitar, documentar y denunciar intentos de infección.

Más de 1400 casos fueron identificados y al menos 100 contra defensores de derechos humanos. En México, un número importante de infecciones ocurrieron durante abril y mayo de 2019, coincidiendo con las revelación del caso de Griselda Triana, viuda del periodista Javier Valdez y víctima del espionaje a manos de agentes estatales, pues según NSO Group, solo venden sus productos a gobiernos.

Vigilancia como violencia

Actualmente, México es el país más peligroso del mundo para ejercer el periodismo, lo que naturalmente pone en riesgo la salud de la libertad de expresión y, con ello, de la democracia misma del país: incapaz para garantizar la seguridad de sus periodistas y, consecuentemente,  incapaz de garantizar el bienestar y la autonomía de sus habitantes.La violencia contra las y los periodistas, que entre otras formas se expresa mediante el abuso de la tecnología de vigilancia por parte del gobierno mexicano, escala gracias al clima de impunidad que hace oídos sordos frente a las denuncias realizadas por comunicadoras, activistas y personas defensoras de derechos humanos, algunas de las cuales han perdido la vida o han tenido que migrar para preservarla.

Llama la atención de que, a pesar de los logros recientes de las ONGs que han presentado denuncias a NSO Group en cortes internacionales, la respuesta por parte del Gobierno no es más que una serie de promesas, vacías que denotan un claro desconocimiento entre quienes lideran el país sobre los abuso de las tecnologías en México.

Por otro lado, lejos de perseguir los abusos tecnológicamente posibilitados, la milicia nacional parece premiar a sus responsables con ascensos laborales. La misma milicia que hoy participa de la implementación de la Guardia Nacional, una estrategia para militarizar las calles del país como respuesta a la presencia del narcotráfico y que en su más reciente muestra de poder mostró ser completamente ineficiente.

Esto pareciera indicar que, mientras el presidente declara que su administración no participa en el uso ilegítimo de las tecnologías y anuncia “compromisos”, hay personas con poder actuando desde diferentes instancias estatales para tomar ventaja de los puntos ciegos de una administración fuertemente criticada por su falta de un liderazgo estratégico, incapaz de conocer y controlar el alcance de las acciones que sus subordinados realizan con el poder que se les otorgado para “preservar la seguridad en el país”. Tal vez el problema acá sea que nadie les ha aclarado que no se trata de su seguridad propia, sino de la seguridad de la mayoría: quienes necesitan del periodismo libre para producir decisiones informadas y tener los elementos necesarios para cuestionar al Estado y sus representantes cuando no cumplan sus obligaciones fundamentales.

Lo que queda pendiente

Desde 2016 la participación de organizaciones no gubernamentales nacionales e internacionales para frenar el abuso de la tecnología se ha articulado en redes para presentar casos e informes conjuntos, con el fin de denunciar los abusos que diferentes gobiernos hacen de las tecnologías para vigilar a quienes expresan posturas críticas a sus administraciones. Los esfuerzos articulados de personas con experiencia legal, en comunicaciones, en activismo, en defensa de derechos humanos y con trayectorias multidisciplinarias en América Latina y México han sido potentes y constantes.

Hace falta que gobiernos, como el mexicano, asuman la participación en espacios de diálogo que permitan articular las experiencias y trayectorias de estos grupos a las propuestas administrativas y de desarrollo en las que quieran involucrar despliegues masivos de tecnologías, que se plasmen en acciones claras y concretas. Las declaraciones y compromisos realizados por el presidente se vuelven palabras vacías si no existen políticas públicas que las respalden. Es la única forma de defender la democracia participativa en el país, pero también asegurar que los derechos humanos sean preservados y contemplados dentro de las estrategias de seguridad nacional.

Inquietudes relacionadas con las tecnologías en el contexto de protestas en Chile

PROBLEMAS DE CONEXIÓN

¿Las empresas o el gobierno están desconectando internet?

Hasta el momento, ninguna evidencia comprobable o declaración sugiere que sea el caso, incluso la Subsecretaría de Telecomunicaciones (Subtel) lo desmintió explícitamente y aclaró que están monitoreando la disponibilidad de los servicios de comunicaciones directamente con las empresas proveedoras.

Es normal que en ciertos puntos donde hay muchas personas conectadas a la red celular (siendo las manifestaciones masivas el ejemplo más claro) la capacidad de la red se vea saturada y algunos usuarios comiencen a ver su servicio degradado o incluso interrumpido, especialmente si gran cantidad de personas en la zona usan servicios que demanden alto ancho de banda, por ejemplo la transmisión de video.

Si vas a una marcha, puedes acordar con otras personas estar preparadas para comunicarse aún si se satura la red. Aquí recomendamos algunas aplicaciones de mensajería que pueden ser útiles, aunque también fallan.

¿Pueden estar desconectando el servicio de internet residencial?

A pesar de que se han recibido quejas por mal funcionamiento del servicio de Internet en zonas específicas, los proveedores correspondiente las han reportado como fallas aisladas que han sido o serán atendidas en la medida de las posibilidades, resultando en episodios puntuales no atribuibles necesariamente a cortes intencionales de servicio en el marco de la situación actual. De todos modos, es importante que la ciudadanía esté atenta a posibles interrupciones de servicio para documentar y reportar cualquier incidente futuro.

AFECTACIÓN DE REDES SOCIALES Y OTROS SERVICIOS

¿Están censurando tendencias en Twitter?

Se han reportado algunos casos de problemas en la visualización de tendencias. Twitter actúa frente a publicaciones o actividad dentro de la plataforma que pueda estar violando sus normas comunitarias. Sobre estas no tenemos conocimiento concreto, pero podemos decir que en ocasiones, justo en los primeros minutos en que una tendencia comienza a viralizarse tiende a no aparecer en varias de las páginas de Twitter hasta pasado algún rato. Este es el funcionamiento normal del algoritmo, que debe comprobar no estar respondiendo a una actividad inusual o artificial, promoviendo palabras o expresiones contrarias a sus términos de servicio. Más información en la sección ¿Existen reglas para las tendencias? de Twitter.

De todos modos, estamos buscando más información al respecto.

¿Se están bloqueando páginas y/o servicios web?

Hemos recibido reportes de potenciales bloqueos a sitios web, especialmente basados en estos resultados producto del uso de ooniprobe, herramienta que recomendamos en días previos para medir interferencias a la red. Si bien aparecen algunas anomalías en las pruebas descritas en los resultados de ooniprobe, estos parecen ser poco consistentes con bloqueos definidos por proveedor, zona geográfica o sitios web particulares. Los resultados apuntan a intermitencias o fluctuaciones de servicio al momento de realizar las pruebas. Seguimos recomendando el uso de herramientas como ooniprobe para medir potenciales interferencias, sin embargo aclaramos que en caso de bloqueos estructurados estos serán evidentes cuando varios usuarios que comparten el mismo criterio de bloqueo (geográfico, de proveedor o de servicio consultado) carguen sus resultados y puedan ser declarados una anomalía respecto a los datos usuales de la red (sin bloqueos) pero a su vez experimentado de forma masiva.

En cuanto a Twitter específicamente, hubo una caída parcial del servicio a nivel global el día martes 22 de octubre, que afectó a varios usuarios en Chile como fue reportado en redes sociales. Esta falla no apunta a ningún hecho concreto dentro del país dado que tuvo alcance global y fue prontamente resuelta.

CIERRE DE CUENTAS EN REDES SOCIALES

¿Por qué están cerrando cuentas en Facebook e Instagram?

Esta pregunta puede tener varias interpretaciones dependiendo de cada caso:

Algunos de estos servicios emplean controles de seguridad para proteger las cuentas de usuario que funcionan adecuadamente en situaciones normales pero en escenarios de conflictividad social, cuando los patrones de publicación de usuarios cambian radicalmente pueden resultar contraproducentes y pueden terminar en la suspensión de cuentas de usuarios por actividad inusual, por ejemplo cuando se publica en un ritmo nulo o muy bajo y súbitamente se incrementa la frecuencia de publicación.

En escenarios de polarización es usual que grupos de usuarios denuncien publicaciones incómodas como contenido que incita al odio, que puede herir la sensibilidad de los que se exponen al contenido (esto aplica especialmente a imágenes de heridos, fallecidos, hechos violentos, etc.) u otras violaciones a los términos de servicio de la plataforma correspondiente. Por otra parte, los mismos algoritmos usados por las plataformas para curar contenidos pueden detectar legítima o erróneamente alguna de estas conductas y activar procesos de suspensión o cierre de cuentas de forma automatizada.

En estos casos recomendamos:

  • Revisar los Términos de servicio por plataforma para consultar qué podemos y no publicar.
  • Documentar con capturas de pantalla, tomar horas de incidentes, etc., para facilitar cualquier trámite de apelación o de reactivación de cuentas.
  • En los casos que aplique revisar en comunicaciones a los administradores de cuentas las razones por las cuales algún contenido o cuenta fue afectado
  • En casos en donde existen anomalías con el servicio o la conexión, esperar e intentar conectarse después de algunos minutos antes de publicar que nuestras cuentas o contenidos particulares fueron afectados.

Puedes encontrar más información al respecto en este documento que hemos preparado.

Así también, Fundación Datos Protegidos está recopilando información sobre este tipo de casos. Puedes revisar su iniciativa aquí.

POSIBLES INTERVENCIONES DE CELULARES

¿Podemos saber si nuestros teléfonos celulares han sido intervenidos marcando *#62#?

La capacidad de desvíos de llamada existe desde hace muchos años y todos los teléfonos actuales los soportan, aunque ciertamente esta funcionalidad puede ser abusada con fines de vigilancia, recomendamos entender bien cómo funcionan estos desvíos para no terminar desconfigurando nuestros equipos de forma adversa. Generalmente esta configuración es hecha por nuestro operador celular para activar los buzones de voz, por lo que al marcar códigos como *#62# es normal que aparezcan números diferentes al nuestro. En este caso vale la pena consultar con otros usuarios del mismo proveedor para ver si comparten configuraciones similares. Por ejemplo, Si nuestro número es «+569 1234 5678» y lo tenemos contratado con Claro Chile, es normal que aparezca como número de desvío de llamadas «+56920012345678» que es muy similar al propio con algunos dígitos extra, sin embargo no representa ningún problema en términos de vigilancia. Es importante resaltar que estas configuraciones varían por operador.

Otro aspecto a verificar es qué tipo de desvíos están activos, existen cuatro tipos de desvíos posibles

1) Cuando nuestro número cae ocupado

2) Cuando no contestamos una llamada

3) Cuando no estamos disponibles (si no tenemos cobertura o está apagado el teléfono)

4) Siempre. Este último desvío en general no debería estar activado. En caso contrario vale la pena documentar y pedir ayuda, sin embargo, no lo hemos visto hasta el momento por lo que lo consideramos improbable.

APOYOS LEGALES

En estado de emergencia, ¿La ley permite grabar la actividad de un uniformado (militar o policía)?

Siempre es legal grabar a un Carabinero o militar que se encuentra realizando un operativo o una detención. Sea en espacios públicos o privados.  Ese derecho no se restringe por el Estado de E mergencia y ejercerlo será crucial para el futuro proceso de verdad y justicia. No hay ninguna prohibición explícita y está cubierto por la libertad de expresión (y derecho a defensa, eventualmente).

Si estás grabando en video una detención policial o una violacion de DDHH grita el día y hora, lugar donde estás, tu nombre y ojalá el de la persona que está siendo agredida o detenida. Así no se puede sacar de contexto el video a futuro y sirve como prueba. Hemos preparado este post explicándolo mejor.

¿Dónde puedo denunciar si soy víctima o testigo de una violación a los derechos humanos durante el Estado de Emergencia?

Varias organizaciones de la sociedad civil se han articulado para recopilar, curar, preservar, verificar e investigar evidencia visual relacionada con violaciones de derechos humanos y otros crímenes cometidos durante el Estado de Emergencia. Puedes seguirles en Twitter @Testigoenlinea o llenar el formulario habilitado en su sitio web testigoenlinea.cl/

El Instituto Nacional de Derechos Humanos INDH ha habilitado este formulario para recibir denuncias sobre vulneraciones de derechos humanos en el marco del Estado de Emergencia.

Si quieres denunciar ante la justicia alguna vulneración a los derechos humanos durante el Estado de Emergencia, la Corporación Fundamental tiene este instructivo para presentar recursos de amparo.

También puedes comunicarte en Santiago con:

  • Abofem, Natalia Bravo Correo: Nataliabravop@gmail.com + 56 9 6587 0284.
  • Defensoría Jurídica Universidad de Chile reciben denuncias al correo cdh@derecho.uchile.cl o al teléfono +569 36203403.
  • Pikete Jurídico FECH: Whatsapp DE DENUNCIA FECH +569 3620 3403, ABOGADO, Pikete: Joaquín Astorga Norambuena + 56 9 6433 7507, formulario.

¿Puedo denunciar y recibir apoyo si he sido víctima de violencia sexual durante el Estado de Emergencia?

  • El Colegio de Matronas mantiene una línea telefónica de orientación de violencia sexual  para mujeres que han sido víctimas de abuso durante el estado de emergencia. Prestan asesoría, apoyo y orientación para denunciar. El número es +56967136071
  • La organización Amaranta, con sede en Concepción, abrió un canal de apoyo y recopilación de denuncias a mujeres cis o transgénero que han sufrido violencia, abuso o acoso sexual durante el estado de emergencia. En Twitter @AmarantaOng correo voces@amarantas.org

¿Es posible restaurar nuestras cuentas o contenidos removidos de plataformas de redes sociales?

Los motivos no siempre son claros, así como tampoco el mecanismo que detonó la alerta de moderación, que puede ser automatizada – el sistema detecta contenido potencialmente infractor y levanta la alerta sin mediación humana- o producto de un reporte realizado por otro usuario o usuaria de la plataforma.

Junto con ello, es posible que el contenido que hayas publicado entre en conflicto con los términos de servicio de la plataforma. Un ejemplo de ello es el contenido que presenta violencia gráfica. Evidentemente, en un contexto de protesta y violencia social como el que estamos viviendo, no es inusual que la documentación del uso excesivo de la fuerza policial o militar adquiera una forma particularmente explícita y delicada, lo que en ningún caso resta su valor, sino al contrario.

La fundación Datos Protegidos tiene un formulario para apelar en caso de bloqueo de contenido en redes sociales: Numerosos casos de censura de contenidos en varias plataformas de RRSS. Desde la desaparición de contenidos al bloqueo o cierre de cuentas. Puedes denunciar tu caso completando este formulario.

Las fiscalías regionales han dispuesto correos electrónicos para recibir denuncias sobre actos delictivos.

OTRAS INQUIETUDES

Puedes escribirnos a prensa@derechosdigitales.org

Las apariencias engañan: falencias del reconocimiento facial y sesgo algorítmico

Según el antiguo cliché, el rostro es el espejo del alma. Algo por el estilo deben haber estado pensando los responsables en Unilever y otras compañías con sede en el Reino Unido, que han comenzado a utilizar un sistema de análisis de expresiones faciales en los procesos de selección de personal. 

The Telegraph explica que el sistema compara los videos de las entrevistas de los postulantes con una base de datos que contiene información facial y lingüística de aquellos empleados que se desenvuelven bien en el trabajo. Según Nathan Mondragon – psicólogo jefe de Hirevue, la empresa estadounidense que provee el servicio – «Las expresiones faciales indican ciertas emociones, comportamientos y rasgos de personalidad». 

Pero, ¿lo hacen realmente? La Association for Psychological Science quiso poner esta hipótesis a prueba y reunió a cinco expertos para intentar determinar cuánto de cierto había una idea arraigada en el sentido común, que la emoción puede determinarse de manera confiable mediante movimientos faciales externos. El resultado fue concluyente: no existe evidencia científica que respalde la noción de que el estado emocional de una persona se puede inferir fácilmente del modo en que mueve su rostro. 

Esto, por una serie de razones: las mismas emociones no se expresan siempre de la misma manera, las mismas expresiones faciales pueden indicar distintas emociones y las características culturales y contextuales influyen en el modo en que las emociones son expresadas. Las emociones son complejas y no necesariamente obvias de comprender, incluso para quién las experimenta, mucho menos para un observador externo.  

“Preferiría tener mi primera entrevista con un algoritmo que me trate justamente y no tener que depender de qué tan cansado esté el reclutador ese día”, argumenta Loren Larsen, director de tecnología de Hirevue, haciendo eco de aquella vieja idea de que las máquinas están libres de sesgos y, por tanto, son preferibles a los seres humanos. Pero como replica para el Telegraph Anna Cox, profesora de interacción humano-computadora en UCL, el sistema «va a favorecer a las personas que son buenas para hacer entrevistas en video y cualquier conjunto de datos tendrá prejuicios que excluirán a las personas que realmente habrían sido excelentes en el trabajo», eso sin mencionar sesgos de género, raza o etnicidad.

La búsqueda por una técnica que provea a la humanidad de un acceso directo a representar la realidad de forma objetiva es de larga data, e incluye la invención de la perspectiva en el renacimiento y la fotografía. Las técnicas algorítmicas y las “máquinas que ven” son la última adición a una lista larga. Y, sin embargo, se revelan tan dadas a los sesgos como cualquier otra. 

Un ejercicio interesante al respecto lo realizaron hace pocos días Kate Crawford y Trevor Paglen, responsables de la exhibición “Training Humans”. Como parte de la muestra, pusieron en internet ImageNet Roulette, un sitio web temporal (y ya no disponible en línea) que ponía a disposición de cualquiera con una conexión a internet un algoritmo entrenado con la base de datos ImageNet, uno de los sets de entrenamiento más utilizados para el aprendizaje de máquinas: para enseñarle a un computador qué es un perro, se le muestran miles de imágenes de perros, hasta que aprende distinguirlos de aquello que no es un perro. Las imágenes son etiquetadas a mano por personas que imprimen sus propios sesgos al hacer la tarea. Esto no es particularmente problemático cuando estamos hablando de perros, pero sumamente complicado cuando se trata de personas, también incluidas en la base de datos.

Como pudieron comprobar quienes visitaron ImageNet Roulette, el modo en que sus selfies eran clasificadas incluía términos como “terrorista”, “mujerzuela” o “nonentity”, definido como “una persona sin poder”. Todo esto, simplemente a partir de sus rostros. «El proyecto busca llamar la atención sobre los daños reales que los sistemas de aprendizaje automático pueden perpetuar», explica Paglen.

América Latina

En nuestra región, los usos de sistema de reconocimiento facial han comenzado a expandirse rápidamente, principalmente para la vigilancia del espacio público asociada a actividades de seguridad. En Paraguay, un sistema de reconocimiento facial está funcionando desde julio de 2018 en Montevideo, envuelto en un manto de secretismo total: a pesar de los esfuerzos de Tedic por obtener información respecto a la ubicación y los usos del sistema, poco se sabe respecto al funcionamiento de este. 

Cuestión similar ocurre en Buenos Aires, Argentina, que cuenta con un sistema de vigilancia por reconocimiento facial desde marzo de 2019. Se sabe que existen cerca de 200 cámaras equipadas con un sistema de reconocimiento facial en algunas estaciones de Subte y en la zona de trenes. Pero pese a los esfuerzos de ADC por conocer la ubicación de los dispositivos, la información ha sido negada por el Gobierno de la Ciudad, aduciendo razones de seguridad. 

En México, los sistemas de reconocimiento facial son cada vez más comunes. Solo en 2019, el Gobierno del Estado de Coahuila ha instalado 1282 cámaras de vigilancia pública equipadas con tecnología de reconocimiento facial en las calles de diversas ciudades. Ya en 2018 se reportó el uso de esta tecnología en los accesos a la Feria Ganadera de Sinaloa y, recientemente, unidades de patrulla en la Ciudad de México se han equipado con tecnología de reconocimiento facial.  En Brasil, Bolivia, Ecuador y Chile existen sistemas de reconocimiento facial o planes para su próxima instalación. 

En general, el planteamiento es poder agilizar la búsqueda de prófugos de la justicia y poder identificar rápidamente a los delincuentes. Pero los resultados distan de ser los esperados. Recientemente, un hombre estuvo seis días preso por error en Buenos Aires, gracias al sistema de reconocimiento facial. En Chile, las pruebas realizadas por la policía a un sistema de reconocimiento facial implementado por una cadena de centros comerciales arrojaron una taza de error que ronda el 90 %. 
Así, pareciera ser que las tecnologías de reconocimiento facial producen más problemas que los que son capaces de resolver, a la vez que las bases teóricas que sustentan sus supuestos beneficios se desmoronan ante la evidencia.  En Estados Unidos, varias ciudades han prohibido completamente el uso de estas tecnologías. Quizás sea el momento de seguir su ejemplo.

Contra la persecución política a Ola Bini

Ola Bini es un reconocido activista por el software libre y experto en seguridad digital. Desde el 11 de abril de 2019 se encuentra sujeto a un proceso judicial en Ecuador, acusado de haber vulnerado sistemas informáticos. Tal proceso, sin embargo, ha sido ampliamente cuestionado por la multiplicidad de irregularidades cometidas y por estar bajo un sinnúmero de presiones políticas.

El primer elemento ha sido confirmado por el Habeas Corpus otorgado en junio pasado por parte del tribunal de la Corte Provincial de Pichincha y por las expresiones oportunamente realizadas por las Relatorías Especiales sobre la Libertad de Expresión de la Organización de Estados Americanos (OEA) y la Organización de las Naciones Unidas (ONU).[1] [2]

Por su parte, la Misión Internacional de la Electronic Frontier Foundation (EFF) enviada recientemente a Ecuador, tras conversar sobre esta situación con políticos, académicos y periodistas de distintas tendencias, ha concluido que la motivación tras el caso de Ola Bini es política, no criminal.[3] De hecho, todavía se desconoce cuáles son los sistemas informáticos de cuya vulneración se le acusó en un principio.

Junto con ello, una serie de hechos recientes han encendido nuevas alertas. En primer lugar, la vinculación de una nueva persona a la causa por el sólo hecho de mantener un vínculo profesional con Bini y a pesar de que en la audiencia respectiva no se presentaron los elementos jurídicos necesarios para cumplir con dicho trámite. Además, el Fiscal a cargo de la acusación decidió abrir dos nuevas líneas de investigación contra Ola Bini: por “defraudación fiscal” y “tráfico de influencias”. De tal forma, la fiscalía ahora se propone investigar por hasta el plazo de 2 años más al activista.

Esta última decisión sugiere que no se cuentan con pruebas que sustenten las acusaciones originalmente realizadas contra Bini y que la atención de la justicia y el gobierno ecuatoriano no está puesta en un delito, sino en una persona. Esto nos lleva a confirmar el temor expresado por algunas organizaciones internacionales que trabajan por los derechos humanos en internet que desde el momento de la detención de Ola Bini alertaron sobre la espiral de persecución política contra un activista de renombre internacional, cuyo trabajo es globalmente reconocido por la protección de la privacidad.

Considerando lo expresado más arriba y las conversaciones mantenidas en el marco del XII Foro de Gobernanza de Internet de América Latina y el Caribe (LACIGF por sus siglas en inglés), los abajo firmantes rechazamos el escenario persecutorio montado contra Bini, demandamos que se respete el debido proceso por parte de todas las funciones del Estado e instamos a que los actores políticos dejen de interferir en la justicia.

Firman:

  • Asociación para el Progreso de la Comunicaciones
  • Derechos Digitales
  • Electronic Frontier Foundation
  • Internet Bolivia
  • Intervozes
  • Fundación Karisma

[1] https://cnnespanol.cnn.com/2019/06/20/tribunal-de-ecuador-acepta-recurso-de-habeas-corpus-para-ola-bini/

[2] https://www.eluniverso.com/noticias/2019/04/15/nota/7287350/relatorias-onu-oea-cuestionan-detencion-ola-bini

[3] https://www.eff.org/es/deeplinks/2019/08/ecuador-political-actors-must-step-away-ola-binis-case

La oportunidad perdida del ‘gran hackeo’

  1. Big-data, algoritmos e “inteligencia artificial” se han convertido en muletillas que se arrojan al aire con la delicadeza con la que se descarga el equipaje facturado en un avión.

  2. Hoy en absolutamente todos los campos del saber humano hay alguien intentando compilar datos que serán analizados por un sistema de inteligencia artificial, construido a partir de complejos algoritmos, y así innovar de forma disruptiva, crear valor, generar experiencias inmersivas y, en última instancia, hacer del mundo un mejor lugar.

  3. Pero existía una compañía que no quería hacer del mundo un mejor lugar y estaba mucho más interesada en hacer dinero, a pesar de que ello convirtiera al mundo en un lugar peor. Esa compañía se llamaba Cambridge Analytica y utilizó big-data, algoritmos e inteliencia artificial para ganar unas elecciones en Estados Unidos y el Reino Unido. Básicamente de eso va The Great Hack, el documental de Netflix estrenado hace un par de semanas en latinoamérica bajo el inexplicable título de Nada es privado.

  4. En la superficie, The Great Hack es una moraleja respecto a los peligros que el extractivismo de datos plantea a la democracia y los derechos fundamentales de los individuos. Estos peligros son reales y necesitan ser abordados seriamente (que es lo que tratamos de hacer en Derechos Digitales).

  5. Al mismo tiempo, la película mitologiza las capacidades de la industria que critica; una industria que siempre se ha sentido más cómoda trabajando desde las sombras, esquivando las preguntas relevantes y creando mitos.

  6. The Great Hack mitologiza las capacidades de la industria datoextractivista dejando que sean los (ex) empleados de Cambridge Analytica los que expliquen cómo funcionaba el negocio, sin cuestionar su relato en ningún momento. Los documentalistas les dan todo el espacio necesario para pavonear sus capacidades, su inteligencia, su influencia y su poder.

  7. Por su puesto, no todo es culpa de los documentalistas. La verdad es que no sabemos mucho respecto a cómo funciona la industria del extractivismo de datos, cuáles son realmente sus capacidades y menos cuáles son sus limitaciones. Es posible que incluso quienes trabajan para empresas como Cambridge Analytica o Facebook tampoco lo sepan. Y tras ver The Great Hack es poco lo que podemos sacar en claro.

  8. Mucho se discute en The Great Hack respecto a la capacidad de Cambridge Analytica para acumular datos: la empresa se ufana de tener 5000 datos de cada uno de los votantes estadounidenses. Muchos de esos datos se obtuvieron a través de Facebook, por medio de cuestionarios sobre cuestiones triviales que permitían crear perfiles de votantes.

  9. Poco se discute en The Great Hack respecto a la capacidad real de Cambdrige Analytica para procesar esos trillones de datos que acumula: ¿Qué tan efectivo es realmente un test para establecer mi compatibilidad con las princesas de Disney como herramienta para crear perfiles de votantes? No estoy diciendo que esto no se pueda hacer, sino al contrario: ante una premisa así de fascinante es una lástima que los documentalistas no hayan hincado el diente en este tipo de detalles, que son precisamente los que desconocemos.

  10. Pero son precisamente esas omisiones las que obligan a mirar The Great Hack con cierta distancia ahí donde los datos se convierten en un fetiche. Esa creencia de que con suficientes datos no hay nada que no se pueda saber y anticipar. La acumulación de datos como condición de la omnipotencia.

  11. En ese sentido, The Great Hack decide concentrarse mucho más en los efectos: la elección de Donnald Trump en Estados Unidos y la salida del Reino Unido de la Unión Europea. Lo que la película sugiere es que estos resultados solo fueron posibles debido a la intromisión de Cambdrige Analytica: el Big-data, los algoritmos y la “inteligencia artificial” ganaron esas elección.

  12. Así, la película hace eco de cierta retórica negacioncista de algunos sectores que consideran mucho más reconfortante pensar que la derrota de Hillary Clinton y el resultado del referéndum sobre el Brexit solo pueden ser explicados gracias a algún tipo de hackeo al sistema democrático; que el actual panorama político es un error en la Matrix.

  13. ¿Cuánta injerencia tuvo realmente Cambridge Analytica en esos resultados? Es difícil saber. Quizás mucha, quizás no tanto. Hasta puede ser que incluso no haya tenido ninguna. ¿Cómo saber realmente?

  14. Probablemente los únicos que podrían tener respuestas son los miembros de la industria. Pero son precisamente estas personas las que tienen más incentivos para no dar respuestas verídicas. Porque como alguien afirma en The Great Hack, esta es una industria que mueve trillones y se sustenta en la premisa de que los datos pueden decirnos todo lo que necesitamos saber.

  15. El riesgo radica en que el Big-data, los algoritmos y la “inteligencia artificial” se utilizan para tomar decisiones cada vez más relevantes en los distintos campos del saber humano, sin que necesariamente exista una comprensión acabada respecto a cómo cada set de datos, cada algoritmo y cada sistema de inteligencia artificial funciona ni cuál es la lógica detrás de los resultados que emite. Y si no comprendemos estas lógicas, se vuelve mucho más difícil estimar cuándo los resultados son correctos y cuándo no.

  16. Esta incapacidad para comprender la tecnología y sus limitaciones, la imposibilidad de detectar sus errores y sesgos, puede dar pie a una peligrosa cualidad performática, donde las instituciones sociales actúan acorde a a la información entregada por el algoritmo, a pesar de que esta pueda ser errada. Caldo de cultivo para todo tipo de arbitrariedades, discriminaciones e injusticias.

  17. La única vía para evitar esto es exigir mayor transparencia respecto a las reales capacidades de la tecnología, que nos permitan entender realmente qué es lo que pueden y no pueden hacer.

  18. En ese sentido, The Great Hack es una oportunidad perdida.