Tipo de contenido (Recurso): Columnas

En línea, con todas (las partes interesadas)

Libertades de expresión y prensa, garantizadas por el artículo 19 de la Declaración Universal de los Derechos Humanos y, sin embargo, tan frágiles en todo el orbe. Cuidar de que estos derechos puedan ejercerse es una tarea colectiva. Más todavía en el escenario en que nos encontramos, donde la expresión y la prensa no habitan los soportes tradicionales, sino que se trasladaron al campo virtual. Campo poco regulado y en que las grandes compañías tecnológicas lideran lo que fluye al interior y desde sus plataformas.

Esta edición de la Conferencia del Día Mundial de la Libertad de Prensa se enfocó en cómo enfrentar la crisis climática a la luz de fenómenos recientes y acelerados relacionados con los desórdenes informativos. Además, se dedicó tiempo a profundizar en cómo dichos desórdenes están proliferando en internet. La visión tradicional de “la prensa” como grandes conglomerados dedicados exclusivamente a producir y difundir información bajo estrictos (en el mejor de los casos) criterios periodísticos, ha quedó obsoleta ante el auge de las plataformas que ofrecen un soporte similar, pero sin ningún tipo de control.

Como señala esta columna de Patricia Peña, “la relación de los medios periodísticos digitales se vuelve incómoda con las plataformas digitales, tanto las de los motores de búsqueda como las de redes sociales (…) porque actualmente son su principal competidor” en cuanto a las ganancias recibidas por avisaje. Esta tensión no se resolverá sola, y probablemente tampoco por vías judiciales, camino por el que han optado algunas empresas editoriales.

Apostamos por la incorporación de todas las partes interesadas en estos debates, en los que necesariamente debemos hilar muy fino. La responsabilidad de las empresas, las garantías que los Estados y gobiernos deben ofrecer, los términos y condiciones bajo los que las personas usuarias operan en los entornos digitales, y mucho más, requieren la colaboración de voluntades en una relación mutuamente beneficiosa. Es decir, donde conviven diferentes entidades como una compañía y una organización de la sociedad civil que en un principio pueden parecer poco similares, pero que trabajan en conjunto para beneficiarse las unas a las otras, en lugar del parasitismo al que, lamentablemente estamos acostumbradas.

Lo importante es participar y hacer amigas

Uno de los grandes y constantes desafíos que hemos encontrado a lo largo de los casi veinte años de historia de la organización es la comunicación de procesos cerrados de discusión sobre materias regulatorias de internet que se ejecutan, a veces, en secreto; que reúnen a autoridades de alto nivel tanto de gobiernos como de empresas, y que suceden en los idiomas del poder y los negocios (inglés y francés, por lo general), a un público latinoamericano y con acceso restringido a estas instancias.

Muestra de ello es lo difícil que se nos hace traducir la palabra multistakeholder, puesto que las definiciones sobre qué es una “parte interesada” seguramente son distintas dependiendo del país en América Latina y ciertamente difiere mucho la idea que tiene el Norte Global de ella respecto de cómo la concebimos en el Sur. Esto no impidió que el multistakeholderism o la preocupación por la incorporación de todas las partes interesadas en los debates sobre libertad de expresión y regulación de plataformas fuera protagonista durante el WPFD.

Nuestra realidad digital contemporánea está compuesta por múltiples actores: gobiernos; empresas; sociedad civil; la comunidad técnica, y la academia. Todos ellos tienen un puesto asegurado en las mesas donde se decide, a niveles globales, cómo hacer de esta realidad un ecosistema en que la relación entre dichas partes sea positiva para todas. No obstante, lo que hay también pone a prueba los límites de este esquema de gobernanza, puesto que los retos a los que nos enfrentamos solo aumentan.

La información no tiene dueño

La desinformación, el discurso de odio y el abuso de la inteligencia artificial para la creación de noticias falsas son algunos de los problemas asociados con el ejercicio del periodismo y la prensa libre. Esta situación rompe la promesa de la democratización de la información y el acceso libre al conocimiento. En la era digital caracterizada por el capitalismo de plataformas, las famosas plataformas no solo facilitan y controlan las interacciones entre usuarios y entre servicios, sino que también monetizan dichas interacciones y transferencias masivas de datos, creando fortunas jamás vistas hasta ahora.

Esta forma de generar riqueza es un divorcio radical de los modos tradicionales de organización de la actividad económica. No es que los dueños de los medios de producción hayan desaparecido, por supuesto que no, sino que a la par de estos emergió, en un pestañeo, una nueva clase propietaria de la información; y la información es lo que más abunda por estos días: en tu teléfono, en la vía pública, en tu refrigerador. Este escenario, tan próspero para tan pocos, se sustenta a partir de la datificación de afectos y anhelos. Una vida es igual a un bit que, a su vez, es igual a mercancía.

Para atender la evidencia patente de que compañías y personas lucran con difusión de contenidos falsos y/o maliciosos en línea, junto al desorden regulatorio en esta materia producto del frenético avance de todas las tecnologías, para el que los marcos normativos existentes parecen no poder seguirle el ritmo, es que la UNESCO se propuso como misión, en 2021, la creación de directrices para la regulación de plataformas digitales.

Derechos Digitales ha realizado contribuciones a este proceso en cuatro ocasiones (1, 2, 3, 4) y en todas hemos recalcado que los dueños de las plataformas deben hacerse cargo de las eventuales violaciones a derechos fundamentales que ocurran en ellas, que su quehacer se rija bajo estándares internacionales de protección de derechos humanos, y que incorpore una perspectiva de género transversal a todas sus políticas. También abogamos por la inclusión explícita de derechos a las comunicaciones privadas y al uso de tecnologías de cifrado, especialmente en defensa de ataques y persecuciones por parte de Estados.

A pesar de nuestras sospechas iniciales, en este punto de la discusión podemos reconocer que el proceso ha dado lugar a sinergias interesantes que abren la puerta para alianzas claves para equilibrar, en parte, las asimetrías de poder propias de estos espacios. El futuro de los entornos digitales está lejos de ser una asamblea directa, no cabe ilusionarse. Sin embargo, hemos recogido aprendizajes sobre cómo aproximarnos a los desafíos mencionados desde distintos enfoques, de la mano de diferentes actores y actrices, en un contexto situado en América Latina.

Todas las manos

En la recién estrenada edición del reporte Global Information Society Watch, Renata Ávila toma el tema del multistakeholderism y levanta tempranamente las alertas correspondientes: hay falta de referencias para las comunidades que desean ser parte sobre cómo hacer de su contribución una participación significativa, lo que resulta en que procesos que son presentados y dirigidos para múltiples partes interesadas deriven en un ejercicio de blanqueo para quienes participan siempre a través de la tokenización de minorías incorporadas a la mesa precisamente con ese propósito, como para decir: “sí, somos inclusivos” y rendir la cuenta respectiva.

Otro aspecto que es subrayado a lo largo de nuestras contribuciones al proceso es el imperativo de idear maneras constructivas para fomentar la inclusión verdadera y un ejemplo es la creación de consultas regionales sobre los temas que plantea UNESCO. Plazos rígidos y poco tiempo para estudiar las versiones del documento de Directrices que no están en inglés y participación limitada en los debates sobre los contenidos del texto van en la dirección opuesta.

Pero, pese a que el tamaño de la mesa de la toma de decisiones es reducido y las sillas, incómodas, la infraestructura de internet somos todas. Las libertades de expresión y prensa también son fundamentales para hacer de la participación algo valioso y viceversa: la buena participación multisectorial garantiza que estos derechos se ejerzan de manera cabal y en todo lugar. Estas son parte de las reflexiones que pudimos entregar durante la Conferencia y que, por cierto, seguiremos trabajando de aquí en adelante.

Repartidores de aplicaciones: precarización al servicio del algoritmo

*This text is available in english here.

Poca atención hemos prestado, por ejemplo, al uso y propagación de los eufemismos que dislocan el lenguaje, y que obligan a llamar de otra forma al trabajo que se desempeña con la intermediación de plataformas. No son llamados trabajadores, sino ‘usuarios’.

Pensemos en el trabajo de los repartidores de comida, ejercido por personas que encuentran allí su principal o única forma de sustento económico. Es un trabajo que sabemos que se presta sin garantías de estabilidad laboral, sin salarios mínimos ni formas de protección y seguridad social básica, como salud o pensión. Un trabajo expuesto al rayo del sol y el agua, y bajo pobres condiciones de seguridad vial.

Es una actividad donde los trabajadores son calificados como ‘usuarios’ de aplicaciones tecnológicas ofrecidas por plataformas digitales que les permiten utilizarlas – la mayoría de las veces cobrándoles por ello– para contactar a restaurantes con usuarios/consumidores.

Un trabajo donde los repartidores no perciben salarios sino ‘propinas’, y donde las órdenes no las dicta un jefe, sino un algoritmo exento de responsabilidad o rendición de cuentas, pero que indica el cómo y dónde de la actividad a desempeñar. 

Se trata de una forma de trabajo que las doctrinas canónicas del derecho laboral temen denominar como tal, pues no encaja en la fórmula tradicional de las relaciones laborales según la cual se denomina trabajo a toda relación de subordinación, en la que el empleador dicta las condiciones del trabajo a otro, un empleado, y vigila su cumplimiento.

Ahora ¿por qué no se denomina trabajo a la actividad desempeñada por los repartidores de comida? Porque según las plataformas de repartidores, son libres de ejercer de manera independiente su actividad.

No son trabajadores, sino ‘repartidores independientes’

Pero ¿qué libertad tienen quienes encuentran en entregar comida a otros su único o principal medio de supervivencia económica? ¿qué independencia puede ejercer la persona que se rinde al dictado del algoritmo que establece, de manera arbitraria, cuál debe ser la cantidad aceptable de domicilios diarios para asignarle los mejores pedidos? o ¿cuál debe ser el tiempo mínimo de su entrega para que el repartidor no se exponga a algún tipo de sanción como puede ser, por ejemplo, la no asignación de ningún pedido en la plataforma?

No es considerado trabajo, pese a que como en cualquier empleo, las plataformas digitales de domicilios de comida pueden sancionar a quien incumple los ‘términos y condiciones’ del servicio, a través del bloqueo de la cuenta. Un bloqueo que, más allá de poner en riesgo el sustento vital del repartidor, se efectúa la mayoría de las veces sin mediar derecho a réplica o explicación alguna.

En definitiva, un trabajo que plataformas digitales y a veces los mismos reguladores de nuestros países se abstienen de calificar como tal, pese a que, en un contexto de crisis, como la pandemia, pocos dudaron en calificar y tratar como ‘trabajo esencial’.

Los eufemismos en las Altas Cortes: el caso de Colombia

El poder que tienen los eufemismos para disfrazar la realidad de lo que no es, también radica en convencer a otros de que su tarea no es examinarlos ni desmontarlos, sino en apuntar la vista hacia otra parte.

Por ejemplo, en Colombia, la Corte Constitucional falló en febrero de este año, un caso que involucraba a un repartidor afiliado a Rappi, la empresa colombiana de entrega de domicilios más grande del país y que presta servicios en varios países de América Latina.

El caso es más bien sencillo, pero sus matices por los eufemismos en juego fueron obviados por la Corte. En la acción de amparo o tutela, un repartidor había reclamado judicialmente por la vulneración de su derecho al debido proceso, pues le había sido bloqueada su cuenta sin que mediara justificación de la empresa que, por su parte, aludió al incumplimiento de los términos y condiciones del servicio una conducta acostumbrada por Rappi al punto de que la compañía tuvo que crear, por demanda del sindicato de domiciliarios, una Defensoría del Repartidor.

El reclamo judicial fue resuelto por la Corte al decir que el debido proceso, que comprende el derecho a recibir explicaciones frente a la aplicación de sanciones entre particulares, también rige a la relación de consumo entre los repartidores y Rappi. Y, en consecuencia, ordenó a la empresa a explicar de manera fundada y suficiente los motivos de su actuar a la persona afectada.

Pero la Corte evadió cualquier consideración que permitiese dar claridad sobre la naturaleza de la relación jurídica entre repartidores independientes y la plataforma digital, tan necesaria para que, por ejemplo, estos puedan reclamar condiciones dignas para la prestación de su actividad ‘esencial’. Esta omisión no inhibió a la Corte de afirmar que el bloqueo de la cuenta había puesto en riesgo el derecho al mínimo vital del repartidor afectado, entonces ¿qué relación de ‘consumo’ es esta que, una vez interrumpida por la parte más poderosa de esa relación contractual, es capaz de poner en peligro la subsistencia económica de la otra?

Los eufemismos que contaminan el lenguaje con el que nos referimos a la relación entre los repartidores –y otro tipo de trabajadores- y las plataformas digitales ameritan ser vistas de cerca, para que no sean el instrumento con el que, en la práctica, validemos la precarización de nuevas formas de trabajo que no resultan convencionales ante viejos dogmas.

De esos análisis tendremos que ocuparnos también, en las discusiones que tengamos sobre el futuro del trabajo y de los trabajadores en nuestra región. Como la sucedida en Europa, que luego de dos años de negociaciones, se adoptaron reglas aplicables a los repartidores de comida y conductores de vehículos de alquiler –como Uber- que, a través de una Directiva reciente, los ha calificado como verdaderos trabajadores y no como simples ‘independientes’, presumiendo una relación laboral entre estos y las plataformas digitales.

Ola Bini y la criminalización del conocimiento

“El caso de Ola Bini se ha convertido en un emblema de la persecución que viven las personas expertas en seguridad digital en la región”, escribíamos hace unos meses en el marco de la presentación del libro “Colateral”, de Diego Cazar sobre el mencionado caso. Como organización que trabaja en la defensa de los Derechos Humanos en entornos digitales, hemos abordado este asunto en reiteradas oportunidades y apoyado la campaña #FreeOlaBini.

Se trata del programador sueco detenido en 2019 en Ecuador, acusado de ser cercano a Wikileaks y de participar en intentos para desestabilizar al gobierno ecuatoriano. En agosto de 2019, la fiscalía general del Estado lo acusó de acceso no consentido a un sistema informático de la Corporación Nacional de Telecomunicaciones (CNT) en el año 2015. 

Bini fue arrestado el 11 de abril de 2019 cuando pretendía viajar a Quito con destino a Japón, apenas unas horas después de que el Gobierno ecuatoriano, bajo el mandato de Lenín Moreno, pusiera fin al asilo de Julian Assange en su Embajada en Londres.

En esa ocasión, escribíamos que “no existen antecedentes suficientes ni para la inicial acusación de ser parte de una red de espionaje digital, ni de otras de ‘defraudación fiscal’ o ‘tráfico de influencias’, manteniéndose hasta hoy una investigación con características de persecución política”.

Ola Bini salió en libertad luego de 70 días mediante un recurso de hábeas corpus. El vínculo entre Bini y Assange fue utilizado en reiteradas ocasiones durante el juicio y luego de este. El 31 de enero del 2022 un tribunal ratificó, por unanimidad, la inocencia de Ola Bini.

Sin embargo, el viernes 5 de abril de 2024, más de un año después de haber declarado la inocencia de Ola, un tribunal de apelaciones revocó el fallo de inocencia dictado en 2023 y lo condenó a un año de prisión y a una multa de 1.840 dólares. El 8 de abril de este mismo año, tres días después del fallo, un tribunal de la provincia de Pichincha (Ecuador) aceptó la solicitud de suspención de la condena presentada por la defensa de Ola.  Además, estableció nuevas condiciones para el sueco que deberá “presentarse cada 15 días ante la autoridad competente, no salir del país sin autorización del juez, tener domicilio determinado, ejercer un trabajo, profesión u oficio; no ser reincidente y no ser procesado por otra causa”.

Durante estos años, la sociedad civil, y la defensa de Binihan denunciado diversas irregularidades en el proceso que deberían haberse resuelto en 2019, todo como resultado de un proceso que ha sido suspendido varias veces.

Más allá de la suspensión condicional de la pena de un año de cárcel impuesta por el delito de acceso no consentido a un sistema informático en grado de tentativa, el abogado a cargo del caso Carlos Soria Ávila, nos comentó que apelará para que en la instancia de casación los jueces de la Corte Nacional de Justicia analicen los fallos.

 Según palabras del abogado, el caso representó una “pena ambivalente”, es decir, “tiene un componente de privación de libertad en un centro de detención, un año, por haber sido un tema de tentativa, y no haberse consumado el supuesto delito”. Sin embargo “la pena fue suspendida para que pueda ser cumplida fuera de un centro carcelario, pero esto solo en caso de que perdamos la apelación y el recurso de casación”, proceso que todavía continúa.

Soria Ávila nos dijo que en su opinión “El fallo es completamente ridículo, antitécnico, antijurídico, incluso porque hacen precisiones ajenas al ordenamiento jurídico nacional, e incluso a nivel dogmático. El razonamiento de la pena es que, porque Ola tiene el conocimiento y tiene las capacidades para poder cometer un delito por su formación en este ámbito, lo hacen responsable de haber intentado cometer el delito”. Es decir, “ni siquiera es porque haya hecho algo, sino porque tiene las capacidades”. Se refiere a la pena como una “criminalización del conocimiento pura y dura, en la que se pretende generar miedo en las personas que se dedican a la seguridad y privacidad digital”. Destaca también, que “el profundo desconocimiento del tema técnico en el país es asombroso. Es preocupante, además porque se está persiguiendo a los defensores de los derechos digitales. Y esto es un aliciente perverso para el Ecuador”.

En una conferencia en 2013, Ola Bini propuso la posibilidad de transformar a Ecuador en un paraíso de la privacidad informática.  Hoy declara: “Yo pensé que en ese entonces existía la posibilidad, pero la verdad es que el panorama político ha cambiado mucho. Lamentablemente, no estoy seguro si es posible recuperar esta posibilidad ahora. Hay otras luchas más importantes, como por ejemplo reformas sobre ciberdelitos, o la figura de agente informático encubierto”.

En la condena a Bini se mencionó lo peligroso que podría ser debido a sus conocimientos técnicos. Al respecto, opina:  “Los jueces dijeron claramente que me condenan porque yo tengo la posibilidad de cometer delitos por mis conocimientos. Y claro, es muy peligroso para muchas personas en Ecuador, pero especialmente personas que trabajan con ciberseguridad”.

Asimismo, destaca que las auditorias de seguridad son medidas muy importantes para mantener la seguridad.  Sin embargo, es difícil determinar si el conocimiento adquirido podría ser suficiente para una condena.  Actualmente subraya, “sería muy peligroso estudiar estos temas. Vamos a quedar sin expertos que sepan cómo protegernos, y el resultado es que habrá más incidentes y ataques de ciberseguridad”.

La seguridad informática es un problema grave en Ecuador. En el año 2019, ocurrieron las filtraciones de Databook y Novaestrat, donde se filtraron datos personales de la población de todo el país. Estos casos marcaron el inicio de muchas filtraciones de datos y fallas de seguridad que no han parado desde entonces.

Dentro de este contexto, lo que Ecuador necesita son personas con conocimientos en seguridad digital para fortalecer los sistemas y garantizar la seguridad de los datos de la ciudadanía. En lugar de penalizar el conocimiento técnico, como si estuviéramos viviendo en la Edad Media, necesitamos fomentar un mayor conocimiento y una mayor investigación.

Es más urgente que nunca contar con conocimientos en seguridad informática que ayuden a tener sistemas más seguros.

Inteligencia artificial más allá de la polarización

La edad avanza y llegamos a un punto en la vida en que vemos con curiosidad que las cosas se repiten. Convivimos por décadas con un tecno-optimismo que nos hizo ciegas a la complejidad implicada en el desarrollo tecnológico. Discursos sobre el potencial de internet para facilitar el acceso a todo – la cultura, el conocimiento, la información, la educación, etc. – olvidaban que esas mismas tecnologías no se diseñan, ni se implementan en el vacío. Un escándalo tras la exposición de cómo las principales potencias mundiales utilizaban la misma infraestructura de internet para meterse en las comunicaciones privadas de todo el mundo – incluidos jefes de Estado – fue necesario para traernos de vuelta a la tierra. Sí, las tecnologías digitales pueden y han generado mayor democratización en algunos ámbitos de la vida y para algunas personas. Pero no, no se trata de una panacea que nos va a salvar de todos los males del mundo. Al contrario, puede exacerbar algunos de esos males.

Entra 2024 – 11 años desde las lecciones dejadas por las revelaciones de Snowden –, pero parece que retrocediéramos en el tiempo. Se reemplaza “internet” por “IA” y nuevamente se multiplican expectativas sobre los potenciales beneficios (en este caso, rara vez comprobados) de esta innovadora tecnología. Incluso, frente a críticas sobre su implementación y crecientes evidencias de sus impactos en el ejercicio de derechos, se apuesta a cómo nos ayudará a superar problemas históricos y estructurales que van desde la crisis climática hasta el acceso a salud de calidad y la inclusión de personas con discapacidad. Hay quienes dicen, incluso, que la IA ayudará a combatir la desinformación – quizás ignorando u olvidando que las decisiones algorítmicas automatizadas por detrás de la priorización de contenidos en las plataformas de redes sociales están entre las raíces del caos informativo en la esfera pública digital.

Una “inteligencia” socialmente construida

Lo que se conoce como IA hoy se refiere, en gran medida, a un conjunto de procesos y técnicas que permiten a un sistema computacional hacer cálculos estadísticos capaces de identificar patrones y a partir de ellos, predecir comportamientos. Podría parecer obvio, pero es importante resaltar que pese a la referencia a la inteligencia humana, este tipo de sistema está lejos de tener una capacidad crítica o empática, por ejemplo.

Ellos dependen de al menos (i) la disponibilidad de bases de datos que permitan “entrenar” determinados modelos matemáticos para sacar inferencias, (ii) la existencia de masas de trabajadoras clasificando y etiquetando estas bases de datos según diferentes criterios, (iii) el desarrollo de los modelos algorítmicos responsables de los cálculos, y (iv) una interfaz para la interacción con las usuarias finales o con otros sistemas. Para que la IA exista es necesaria también una infraestructura física, compuesta por cables de telecomunicación, satélites, centros de datos, súper computadoras con extrema capacidad de procesamiento, baterías, etc.

Más allá de la idea de automatización, cada uno de esos procesos implica un conjunto de decisiones humanas influidas por aspectos culturales, éticos, históricos y sociales y, en algunos casos, afectada por factores políticos y económicos. Como en el caso de cualquier tecnología, la IA no es neutral y tampoco fruto de cualquier tipo de magia.

Como sintetiza el investigador de la Universidad de Edinburg, Ben Williamson: esos sistemas materializan formas particulares de percibir el mundo y a su vez pueden influenciar y modelar la manera como las personas actúan en el mundo. Académicas feministas hace mucho apuntan a ese aspecto. La australiana Judy Wajcman, por ejemplo, ha explorado ampliamente cómo las relaciones de género se encuentran materializadas en las tecnologías – que no solo incorporan nociones de masculinidad y femineidades socialmente construidas, sino que luego pasan a ser parte en la construcción del significado de tales conceptos. Y Ruha Benjamin, profesora en la Universidad de Princeton, a su vez, presenta la idea de diseño discriminatorio al identificar cómo las jerarquías raciales son normalizadas en la producción tecnológica.

Por otro lado, tal como el diseño y la implementación de las tecnologías y la IA son permeadas por factores culturales y sociales, también lo son sus usos. Aplicaciones y sistemas desarrollados para ciertos fines, pueden muy bien ser utilizados para otros y los ejemplos abundan. Al contrario de una idea determinista de que los sistemas producirían por sí mismos ciertos resultados – positivos o negativos – en la sociedad, se trata de pensar que los usos de las tecnologías son múltiples y que están en constante interacción con los contextos en que son implementadas.

IA: ¿para el bien, o para el mal?

No es posible, por lo tanto, hablar de una AI for good, o “IA para el bien”. Ese tipo de idea además de mostrar como los aprendizajes, aunque dolorosos, pueden no ser duraderos, refleja nociones deterministas y simplistas sobre las tecnologías que perjudican las importantes discusiones sobre su gobernanza.

El énfasis en el (supuesto) objetivo de determinado sistema – como si hubiera fines legítimos “para el bien” que justificaran el no cumplimiento de determinadas obligaciones –, opera como una cortina de humo que nos distrae de los procesos productivos por detrás de su desarrollo y despliegue. Antes de emprender la imposible tarea de enumerar despliegues positivos o negativos de IA, como si las mismas nociones de “bien” y “mal” fueran estáticas y universales, nuestros líderes deberían reforzar los principios acordados en el marco internacional de derechos humanos a todas las etapas de producción de IA.

Eso implica garantizar que las bases de entrenamiento cumplan con estándares de protección de datos; que las personas que trabajan en la cadena de producción de la IA – sea en la extracción de minerales usados para la creación de productos tecnológicos, sea en el etiquetado de datos – reciban una compensación justa por su trabajo y tengan observados sus derechos laborales; que los data centers obedezcan la legislación ambiental; que las personas indígenas sean consultadas de manera previa antes de intervenciones que puedan impactar sus derechos. Algunas de estas recomendaciones incluimos en el insumo de Derechos Digitales al reporte intermedio del Órgano Asesor sobre IA de la Organización de las Naciones Unidas.

No hay magia

Ningún “bien” puede derivar de la vulneración indebida de derechos garantizados. Adoptar una perspectiva de derechos humanos al enfrentar los desafíos de la gobernanza de IA significa avanzar en mecanismos para lidiar con situaciones complejas y concretas. Tal compromiso debe ir mucho más allá de la creación de principios éticos o declaraciones vacías, pero garantizar, por ejemplo, que las empresas y los Estados sean debidamente responsabilizados en el caso de abusos derivados del desarrollo o despliegue de IA.

El marco de legalidad, necesidad y proporcionalidad es una buena referencia tanto para la resolución de conflictos, como para guiar la digitalización de manera que dichos procesos no impliquen ni un incremento en el deterioro ambiental o reemplacen necesarias inversiones en infraestructura básica de educación, salud, entre otras. Además, resulta fundamental llevar a cabo estudios de impacto en derechos humanos con una participación amplia y diversa para guiar decisiones de diseño y despliegue.

El avance de los Objetivos de Desarrollo Sostenible, la “modernización”, “progreso” o la “participación en la economía digital” no pueden ser excusas para la promoción de tecnología de manera irresponsable. La transformación social y la superación de desigualdades siempre dependerá de compromisos sostenidos de los Estados y del apoyo y participación de las distintas partes interesadas. La realidad muestra y reitera que no existen las fórmulas mágicas.

Fiebre de vigilancia en las gradas

En toda América Latina por décadas la afición al fútbol ha sido acompañada por la crónica roja, la presencia en los estadios de barristas a favor o en contra viene marcada por hechos de violencia, desde peleas entre barras bravas en las calles hasta invasiones de campo, en ocasiones con consecuencias fatales. Ejemplos, desafortunadamente, sobran. 

Pero tal como ocurre con la conmoción social asociada a la delincuencia en los espacios públicos, junto con cada reporte de violencia dentro o alrededor de los estadios de fútbol se alzan voces que exigen mayor seguridad. Más controles en la venta de entradas, más presencia de guardias armados, más presencia policial en los alrededores de los recintos deportivos y más represión.

Y tal como ocurre con los espacios públicos, con un oportunismo y entusiasmo por una transformación digital a través de sistemas biométricos para identificar a cada hincha, se ha incluido la implementación del reconocimiento facial en los estadios de fútbol. Si bien se presenta como una medida de seguridad y control de acceso eficiente, su adopción plantea desafíos éticos y legales significativos.

Marca personal

El funcionamiento del reconocimiento facial exige por una parte la digitalización del rostro de manera automatizada, y por otra un registro biométrico preexistente con el cual cotejar. Sea para verificar que se trata de una persona específica, o para identificarla entre un universo de posibles personas. Así, la identificación de personas impedidas de ingresar a estadios podría lograrse, en principio, con ayuda de tecnologías de reconocimiento facial. 

No obstante, lo que vemos avanzar desde hace varios años son sistemas de registro ex ante de las personas asistentes a estadios, mediante sistemas como el FAN ID que circula desde la Copa del Mundo de 2018 hasta el Registro nacional de hinchas que se exige en Chile desde 2024, como métodos de fría entrega de datos como condición previa para ser parte de una pasión de multitudes.

Con diferentes  tipos de despliegue en varios países de la región se han ido incorporando tecnologías de reconocimiento facial durante los últimos años. La industria se ufanaba en Uruguay de ser pioneros en la instalación de estas tecnologías en la década pasada. También entonces en Argentina se anunciaban avances tecnológicos y pasaportes digitales, que ya tenían el antecedente de una intensa videovigilancia. En Colombia la industria promueve su tecnología tanto para el fútbol como para otros espectáculos en estadios deportivos.

En Brasil, años después de exponer a la afición de toda la región en la Copa América de 2019 las noticias declaraban uso efectivo en un estadio y sucesivos anuncios de instalación en otros.  En México se aceleró la adopción tras una escandalosa batalla campal con decenas de heridos, y si bien la autoridad de control de datos personales intervino tras la creación de nuevas formas de identificación de hinchas, el uso de identificadores o “pasaportes” digitales como el FAN ID ha extendido su uso. 

En Chile, desde 2023 se prueban estos sistemas y cada vez más estadios en todo el país anuncian su instalación. La policía en Paraguay ha anunciado este año el uso de reconocimiento facial en estadios. Y así, nuevos anuncios de intenciones o de planes aparecen con frecuencia, azuzados por sus vendedores.

Peor que el VAR

Como hemos denunciado por años, la promoción de estas tecnologías está acompañada por discursos que le atribuyen efectividad para identificar individuos y así disuadir la violencia y garantizar un ambiente seguro para hinchas y sus familias. Es un elemento crucial la percepción de seguridad asociada a la presencia de elementos de vigilancia.

Sin embargo, esta aparente solución de seguridad plantea una serie de preocupaciones éticas y legales. En primer lugar, el uso generalizado del reconocimiento facial en los estadios de fútbol conduce casi necesariamente a una vigilancia masiva de los aficionados, erosionando su privacidad y sus libertades individuales. Además, existe el riesgo de errores y sesgos inherentes a los algoritmos de reconocimiento facial, lo que podría resultar en identificaciones erróneas y la exclusión injusta de espectadores inocentes. Esto plantea interrogantes sobre la equidad y la justicia en el acceso a los eventos deportivos, especialmente en una región tan diversa como América Latina. 

Por cierto, aún si los sistemas funcionan bien y sin errores, la intensa vigilancia que conlleva la captura y el uso de datos biométricos crea nuevas instancias de vulnerabilidad sobre las personas vigiladas.

La recopilación y el almacenamiento de datos biométricos, como las imágenes faciales, plantean riesgos significativos en términos de seguridad y potencial abuso por parte de las empresas, las autoridades o de terceros malintencionados: nuevas bases de datos que pueden ser explotadas por empresas sin criterios claros, o utilizadas sin autorización por bandidos cibernéticos, comercializadas inescrupulosa o ilegalmente, o entregadas sin resguardo alguno de debido proceso a la autoridad. Ninguno de esos riesgos debería ser aceptado como condición para ser parte de espectáculos deportivos o artísticos.

Goles y autogoles

Quizás uno de los aspectos más desmoralizantes de la insistencia por la securitización mediante tecnologías digitales, es la facilidad con que las autoridades políticas hacen propio el discurso de los mercaderes de la vigilancia.

A modo de ejemplo, mientras en Chile avanza discutiendo el detalle de los últimos artículos para renovar su Ley de Datos Personales, incluyendo mejor protección en el caso de datos biométricos, una comisión de la Cámara de Diputadas y Diputados aprobó de manera expresa la exigencia del uso de biometría en los estadios de fútbol profesional. 

Excelente momento para ser vendedor de tecnologías de vigilancia, pésimo momento para ser hincha. Como reconoce Aldo Rómulo Schiappacase, “para controlar a los más violentos se aplican medidas que afectan a todos los hinchas”, en otro esquema de recolección masiva de información y control sobre la totalidad de un grupo, en atención a la incapacidad de prevenir las incivilidades de algunos de sus miembros, o peor aún, de reconocer y prevenir las causas de la violencia en los estadios. En este caso, el grupo afectado es precisamente aquel que decide acudir presencialmente a atestiguar la gloria deportiva. Cada hincha, por ser hincha, pierde en parte su presunción de inocencia, su libertad de reunión pacífica, su autonomía individual.

Quién tiene la pelota

Todo lo dicho es más que sabido. Las preocupaciones han aparecido una y otra vez, e igualmente el discurso avanza en un único sentido: cada vez más vigilancia, sin resultar en mejoras sustantivas para la seguridad y hasta alejando a la afición de los estadios.

¿Hasta qué punto estamos dispuestos a sacrificar la privacidad y libertades individuales en aras de la seguridad y el orden público? Si bien es indudable que la seguridad en los eventos deportivos es prioridad, es crucial encontrar un equilibrio entre la protección de los aficionados y el respeto a sus derechos fundamentales. Y ese equilibrio no se alcanza con medidas tan intrusivas como lo es el reconocimiento facial.

Así, al menos lo consideró este año la autoridad de control de datos personales en España, al advertir a su poderosa Liga local frente a la licitación de sistemas de reconocimiento facial, un año después de haber ordenado el cese del funcionamiento de sistemas biométricos y la eliminación de la información recabada. Más importante; sugiere la búsqueda de alternativas menos intrusivas: que a un problema identificado se le busque la solución adecuada, en vez  de inventar ajustes para una solución ya elegida.

Podemos volver a repetir la importancia de enfoques que consideren la eficacia de la tecnología y sus implicaciones éticas, legales y sociales, como también la necesidad de salvaguardias adecuadas de transparencia, auditabilidad y rendición de cuentas. O reiterar que un enfoque equilibrado debe considerar a la vez medidas tecnológicas y políticas públicas sólidas, no centradas en vigilancia y represión como en prevención e inclusión, con participación significativa de la sociedad civil para garantizar que se aborden todas las preocupaciones pertinentes. Todo eso es valioso.

No obstante, un debate serio sobre la adopción de estas tecnologías debe enfrentar también la posibilidad real de no adoptarlas. El auténtico respeto por la afición exige no vulnerar sus derechos por una falsa expectativa de seguridad.

Las múltiples caras de la violencia contra periodistas en El Salvador

Ante el profundo cierre democrático que prevalece en el Salvador, el entorno digital se ha convertido en un canal indispensable para ejercer la libertad de expresión, libertad de prensa y la defensa de los derechos humanos.

Desde Derechos Digitales hemos documentado en varias oportunidades  las situaciones de censura, violaciones al derecho de acceso a la información, y limitaciones a la libertad de expresión que se viven en El Salvador desde hace años. 

En el difícil contexto, es sumamente importante reflexionar sobre el estado de medios, periodistas y personas encargadas de mantener informada a la población.

Violencia Digital hacia periodistas en elecciones

El domingo 4 de febrero de 2024 se realizaron las elecciones presidenciales en el país. Resultó reelecto el candidato del partido Nuevas Ideas, Nayib Bukele, con el 81% de los votos tras un proceso permeado por distintos cuestionamientos. 

En el período previo a las elecciones, entre julio de 2023 y febrero de 2024, la Asociación de periodistas de El Salvador (APES) monitoreó los ataques recibidos por la prensa y los periodistas.  El informe resultante reportó 64 casos, la mayoría ocurridos en el ámbito digital. Otro reporte de APES, sobre «Vulneraciones a la prensa» indica que los tipos de ataques más comunes limitan seriamente su labor como periodistas, debido a que la censura de la que son víctimas restringe el libre ejercicio de su profesión. Declaran que sufren declaraciones estigmatizantes, acoso, difamación, amenazas legales, vigilancia y ataques vinculados al género hacia periodistas mujeres. 

La situación tuvo repercusiones en medios y organizaciones del continente y el mundo. Reporteros Sin Fronteras, en conjunto con organizaciones internacionales vinculadas a la libertad de prensa y expresión, condenaron públicamente las agresiones sufridas por la prensa en el marco de las elecciones salvadoreñas. Su llamado fue “para que se establezcan las condiciones y garantías necesarias para que las y los periodistas puedan ejercer su labor, la ciudadanía esté informada, y se reconozca el papel de los medios en el fortalecimiento de la democracia”.

Violencia de género como norma

En este contexto de violencia, agresiones, censura y silenciamiento creciente, no debería sorprendernos que el componente de género ocasione impactos diferenciados. Decisiones gubernamentales como el del Ministerio de Educación de remover todo contenido relacionado a la perspectiva de género de materiales educativos bajo la amenaza de “despedir profesores” que los difundan, reflejan la preocupante postura estatal respecto a la desigualdad de género. Conforme ha sido referido por organizaciones de la sociedad civil, la medida no solamente implica un retroceso, sino que amenaza con elevar los índices de violencia sexual. 

De hecho, cifras como las identificadas en el “Informe sobre violencia digital basada en género dirigida hacia mujeres periodistas”, publicado también por APES en enero de este año, demuestran que la violencia sexual es central en los ataques recibidos. Dicho informe, indica que durante el período de análisis, entre el 1 de octubre de 2023 hasta el 10 de enero de 2024, se registraron un total de 45.530 ataques digitales. Las mediciones señalan que el 17.5% de todos los comentarios contra mujeres periodistas son de tipología de violencia sexual. A su vez, se identifica que el 7% de los ataques dirigidos a hombres periodistas se basan en contenido transfóbico, homofóbico y misógino; lo cual denota que existe un fuerte componente de violencia basada en género incluso cuando ésta está dirigida a los hombres.

El informe puntualiza que las situaciones de violencia suceden generalmente en reacción a posturas de periodistas sobre la administración actual, especialmente en el marco de investigaciones o coberturas periodísticas en el marco del contexto electoral.

Los análisis realizados por APES concluyen que los principales agresores han sido funcionarios públicos, además de las Fuerzas Armadas, partidos políticos, instituciones públicas, entre otros. Los perfiles están compuestos tanto por influenciadores afines al gobierno, como de cuentas anónimas o automatizadas – los bots, conocidos en El Salvador como “troles”- y utilizan direcciones IP localizadas en Estados Unidos. Esto significa que se trata de cuentas que en su mayoría, son muy difíciles de rastrear.

Cabe señalar que El Salvador no cuenta con una legislación específica sobre violencia de género en línea, y a pesar de que cuentan con leyes aplicables a estos ámbitos como la ley especial integral para una vida libre sin violencia (LEIV) y la ley de Delitos Informáticos, expertas señalan que «esto no ha dado una garantía ni una mayor protección legal hacia este grupo de personas, como son las mujeres«. En ese contexto, no se puede perder de vista que al ser los responsables de las violencias ejercidas miembros estatales o afines al gobierno – como indican los informes – inevitablemente, como mínimo, se dificulta la aplicación de la legislación existente.

Violencia y vigilancia institucionalizadas

El pasado 27 de marzo, se cumplieron dos años del régimen de excepción, que implicó una serie de reformas legales en un Estado que continúa evadiendo sus obligaciones en materia de derechos humanos. En febrero de 2022, la Asamblea Legislativa de El Salvador aprobó una reforma del código penal que legitimaba el espionaje digital, como parte de la consolidación del poder de Bukele. Desde el su primer mandato, la represión hacia la prensa ha aumentado a pasos agigantados. Bukele ha atacado continuamente a los medios de comunicación, acusándolos de promover “fake news”.

Un claro ejemplo de esto es el del periódico “El Faro”, uno de los principales medios de comunicación independientes de El Salvador, cuyos miembros han sido objeto de hostigamiento, amenazas, intimidaciones y estigmatización (principalmente en espacios digitales) en base a sus labores periodísticas. Así lo ha reconocido la Comisión Interamericana de Derechos Humanos (CIDH) mediante el otorgamiento de medidas cautelares a favor de 34 miembros del periódico y su posterior resolución de seguimiento. La resolución indica que la información presentada demuestra que los derechos a la vida y a la integridad física de los miembros de «El Faro» se encontraba en situación de gravedad y urgencia. Para ello, la Comisión consideró las amenazas, el acoso y las agresiones recibidas por las periodistas mediante redes sociales, así como el seguimiento de las oficinas del periódico por determinados periodos de tiempo, presuntamente por el Organismo de Inteligencia del Estado.

Además de los ataques por múltiples medios y formatos, una investigación liderada por Citizen Lab en conjunto con organizaciones latinoamericas identificó que el software espía Pegasus había sido instalado en los teléfonos de al menos 35 periodistas y miembros de la sociedad civil. En el caso de “El Faro”, las investigaciones señalan que durante un periodo de 17 meses se tuvo acceso total a los aparatos de más de la mitad de su personal en fechas específicas que coinciden con procesos de investigación específicos llevados a cabo por el medio y con acontecimientos relevantes en la vida política o ataques gubernamentales contra el periódico. La conjunción de hechos, más el peligro diario para sus trabajadores, llevaron al medio a emigrar a Costa Rica. 

Estos hechos no son aislados, sino que se insertan dentro de una preocupante estructura de vigilancia que se ha ido consolidando como estrategia de gobierno. Así por ejemplo cabe recordar el préstamo multimillonario de 109 millones de dólares para la ejecución de la Fase 3 del Plan de Control Territorial aprobado forzadamente tras la toma militar del congreso. Conforme señalaron los medios de comunicación, el préstamo consolida la militarización de la seguridad pública mediante la adquisición de tecnologías de vigilancia. Entre éstas se encuentran cámaras de vigilancia con un nuevo sistema de reconocimiento facial, además de drones y diversos centros de monitoreos para la policía y el ejército.

Una respuesta urgente

La libertad de expresión y la libertad de prensa son derechos humanos. Que la prensa esté informada, pueda acceder a la información, garantir la protección de sus fuentes e informar sobre lo que sucede sin temer por su integridad física o su continuidad laboral, debería ser una prioridad ineludible en defensa del derecho al acceso universal a la información.

Nada de eso está garantizado ahora en El Salvador. En tal contexto de institucionalización creciente de la violencia y la vigilancia, incluso contra periodistas, y frente a la amenaza latente de una mayor radicalización luego de la victoria electoral, es urgente que las instituciones internacionales refuercen el monitoreo de la situación y la exigencia de medidas concretas por parte del Estado salvadoreño. Además del restablecimiento de las garantías a los derechos fundamentales, es crucial que se incrementen los mecanismos de protección a periodistas.

Conociendo la influencia que el gobierno Bukele ha tenido sobre la extrema derecha latinoamericana, una respuesta fuerte de la comunidad internacional es crucial. Desde la sociedad civil seguimos en alerta máxima para que situaciones como las registradas en El Salvador en los últimos no se sigan repitiendo en nuestra región.

Volver a lo básico: la importancia de delimitar nuestros espacios de exposición 

Se puede pensar a la privacidad como tener el control de qué parte de nuestra vida compartimos y con quién. No es lo mismo una conversación de pareja, un intercambio familiar, que el que se tiene con amigos, o con colegas de trabajo. En cada conversación nos comportamos de una forma diferente, basada en el contexto, porque entendemos muy bien con quién nos comunicamos.

En internet esto no funciona así. Si bien hay quienes creen que la comunicación es anónima, la verdad es que cuando hacemos algo cotidiano, como enviar un mensaje vía WhatsApp, esta empresa conoce al remitente, destinatario, los teléfonos que intervienen, la hora y la frecuencia en que sucede la comunicación. Una empresa de telecomunicaciones puede acceder a información muy similar cuando utilizamos nuestro teléfono móvil. Quien tenga acceso a esos datos, a su vez, puede inferir mucho sobre nuestros hábitos más íntimos. Del mismo modo: el contenido que publicamos en Facebook puede ser visto por las personas que conocemos y queremos, pero también por personas totalmente desconocidas, a depender de nuestras configuraciones de privacidad y seguridad. El contexto dirá si tal acceso puede mostrarse peligroso o no.

La parte que nos toca

Ya sabemos de la vigilancia de las grandes empresas de tecnología y su relación con agencias de inteligencia. También de los mecanismos como podemos sufrir distintos tipos de intervención en nuestras comunicaciones de manera más o menos legítima.  Sin embargo, si bien hay situaciones en que es difícil escaparse de la intrusión de agentes externos, hay mucho que podemos hacer aún para proteger nuestra privacidad en las redes sociales.

Hay momentos en los que la información que queremos compartir debería llegar a todo el mundo y otros en las que no quisiéramos que personas (organismos, o empresas) específicas se enteren.

No es lo mismo promocionar un bien o servicio en Internet, emitir una opinión política o compartir una foto familiar. La opinión política, por ejemplo, podría poner en riesgo mi trabajo o mi emprendimiento. En algunos países, si se piensa en periodistas de investigación o activistas sociales, la exposición de ciertas informaciones personales de manera pública podría poner en riesgo sus vidas e incluso las vidas de sus familias.

La inteligencia de fuentes abiertas permite averiguar mucho de una persona basada en información pública, principalmente en internet. Es lo que utilizaría un periodista para investigar el perfil de un funcionario corrupto. También es utilizada por la policía para seguir a personas sospechosas. Los gobiernos, muchas veces la utilizan para monitorear redes sociales e identificar adversarios políticos. Delincuentes comunes utilizan esta información para conocer nuestros movimientos y así poder planificar actos criminales.

Algo tan sencillo como realizar publicaciones de Instagram en tiempo real, mostrando las maravillosas vacaciones que estoy teniendo podría alertar a un ladrón que no estoy en mi casa. El riesgo de esta situación se incrementa si además comparto esta información en estados de WhatsApp.

Utilizamos a diario esta plataforma para comunicarnos con gente cercana, pero también para interactuar de manera profesional con otras personas. De esta manera, en nuestros teléfonos, tenemos contactos de restaurantes, plomeros, albañiles, médicos y un largo etcétera de profesionales con los que interactuamos de manera cotidiana.

Muchas de estas personas utilizan estados para comunicar su trabajo y los servicios que ofrecen. Sin embargo, parte importante de ellas comparten su vida privada a través de estos estados. Personalmente me he encontrado en situaciones donde observo almuerzos familiares, bautizos, fiestas infantiles y un largo etcétera de situaciones de la vida privada de otras personas con las que no soy cercano.

Soy una persona con buenas intenciones y no quiero hacerle el mal a nadie, pero esta información es accesible a gente bien y mal intencionada. Como persona que trabaja en seguridad digital reflexiono sobre los riesgos a los que nos exponemos en este tipo de situaciones. ¿Qué es lo que haría un acosador, un ladrón, pedófilo o cualquier otro actor mal intencionado con esta información? Nos hemos preguntado, ¿qué tanto conocemos a las personas que tenemos como contactos en nuestros teléfonos?

(Re)tomando las riendas de nuestra información

Las redes sociales que utilizamos a diario tienen configuraciones de privacidad que nos permiten tener mejor control sobre quién puede, o no ver lo que publicamos. Es cierto también que estas configuraciones suelen ser complicadas y sus valores predefinidos son demasiado abiertos. Esto trae como primera consecuencia que la gente publique sin tener conciencia de quién lo verá o quién lo leerá.

Los estados de WhatsApp son accesibles para todas las personas que yo tengo registradas en mi teléfono y que me tienen registrado a mí, sin embargo se puede hacer una lista corta de quién puede leer lo que publico.  Instagram o X pueden ser configurados para que solamente las personas que nos siguen puedan ver las publicaciones y el seguimiento debe ser aceptado, de manera predeterminada cualquiera puede ver nuestras publicaciones. Incluso si la cuenta es privada, pero nos siguen cientos o miles de personas ya no es tan privada.

La privacidad sí importa

Internet ha traído cambios radicales en nuestras vidas, muchos de los cuales aún estamos intentando entender. Por un lado, podemos llegar con nuestros mensajes a cientos, miles y tal vez millones de personas. Por otro, nuestras vidas privadas pueden ser expuestas a audiencias indefinidas y personas mal intencionadas que podrían hoy o en el futuro usar esta información en nuestra contra.

Es importante pensar antes de publicar y utilizar Internet de una manera en la que podamos buscar nuestro beneficio. Si queremos compartir temas familiares mejor hacerlo en grupos pequeños donde conozcamos a las personas. Si queremos vender, informar, expresar nuestras ideas, pensemos cuáles son los mejores espacios de difusión.

Delimitar nuestros espacios de exposición nos protege, nos requiere reflexionar sobre los contenidos personales que compartimos diariamente. No todo está en nuestras manos, es verdad, pero un análisis acerca de cómo usamos nuestras redes está a nuestro alcance y puede ayudarnos a la hora de cuidar nuestra privacidad y nuestra seguridad en línea y fuera de ésta. 

La cara menos visible de la batalla por derechos y soberanía digital

This text is available in English here

La 13ª Conferencia Ministerial de la OMC, celebrada en Abu Dabi hace pocas semanas, concentró una serie de discusiones clave sobre el futuro de la gobernanza digital. Los debates ocurrieron lejos del ojo público y con la sociedad civil reportando patentes vulneraciones a sus derechos durante las negociaciones. En la ocasión, se adoptaron nuevos compromisos por limitar la acción de los gobiernos en materia de regulación de tecnologías, contrariando la presión por revisar medidas que ponen en jaque la soberanía digital de los países, especialmente del Sur Global.

Un pacto de desigualdad

Mientras agencias y organizaciones internacionales discuten mecanismos para construir un futuro digital basado en derechos, algunos Estados –a menudo aliados a intereses corporativos de su industria local– utilizan la agenda de comercio internacional para limitar el alcance y las posibilidades regulatorias de otros países. Uno de los ejemplos más conocidos de este tipo de estrategia es el de la moratoria sobre derechos de aduana.

Adoptada por la OMC en 1998, la medida prohíbe que los gobiernos apliquen impuestos aduaneros a “transmisiones electrónicas”. Si bien no hay una definición de “transmisiones electrónicas”, la moratoria ha implicado en la imposibilidad de tasación del comercio electrónico transnacional de servicios y productos, lo que incluye la compra de libros, películas, etcétera.

A la vez que –en más de dos décadas desde su adopción– el volumen y valor de tales transacciones escalaron a niveles estratosféricos, la medida se tornó una limitante a la posibilidad de distribución equitativa de los beneficios de la economía digital. Según documento presentado en 2021 por los gobiernos de India y Sudáfrica, “reconsiderar la moratoria es un factor crítico para que los países en desarrollo puedan preservar un espacio para regular la importación y generar valor a partir de un instrumento simple como los impuestos aduaneros y alcanzar la industrialización digital”.

En palabras del think tank South Centre, organización de investigación en políticas públicas que reúne diversos países del Sur Global: “sin claridad sobre la definición de las transmisiones electrónicas (TE) y, por tanto, sobre el alcance de la moratoria, la continuación de la moratoria de la OMC sobre los derechos de aduana sobre las TE puede dar lugar a importantes pérdidas de ingresos arancelarios para los países en desarrollo y menos desarrollados en el futuro”.

Las expectativas por no renovación de la moratoria en la 13ª Conferencia Ministerial era altas desde que Estados Unidos revisó algunas de sus posiciones en materia de comercio electrónico. Aún así, la medida fue renovada hasta la próxima Conferencia Ministerial de OMC, o el 31 de marzo de 2024, lo que ocurra antes, dice la decisión final sobre el tema.

Mucho más allá del comercio

La moratoria para transmisiones electrónicas es solo un ejemplo de los impactos que tratados de comercio pueden tener en la autonomía de los Estados en materia de políticas de tecnologías y sus consecuencias. Sin embargo, está lejos de ser la única materia de preocupación relacionada a derechos digitales.

Otro punto de atención son las discusiones alrededor de Iniciativa Conjunta sobre comercio electrónico (JSI, por su sigla en inglés). La declaración, impulsada inicialmente por el gobierno de Estados Unidos, viene debatiéndose desde 2017 y tiene como objetivo generar una regulación más amplia sobre el comercio electrónico. La novedad es que el JSI busca tratar temas que van mucho más allá del comercio, como la transferencia internacional de datos, la localización de datos, el acceso a códigos fuente, la neutralidad de la red, entre otros.

Otro problema con el mecanismo de “iniciativas conjuntas” es que se trata de negociaciones iniciadas por un grupo de países, abierta a participación de todos, pero sin necesidad de seguir los protocolos de la OMC sobre decisiones basadas en consenso. Por ese motivo, países como India, Namibia y Sudáfrica han cuestionado su legalidad.

La decisión de Estados Unidos, en octubre de 2023, de cambiar algunas de sus posiciones en la OMC se refería precisamente a la retirada del apoyo al texto en discusión. En la ocasión el gobierno estadunidense manifestó que se encuentra en una fase de revisión a su posición sobre el tema, con el objetivo de tener más “espacio regulatorio”.En otras palabras, esperan poder regular internamente cuestiones que antes se discutían en el ámbito de las políticas exteriores y los acuerdos comerciales, a menudo con Estados Unidos empujando acuerdos globales favorables a su industria.

La decisión de Estados Unidos fue celebrada por miembros de la sociedad civil, que hace años reivindican la necesidad de discutir de manera transparente cuáles serán los impactos negativos de este texto en los países en desarrollo. Como apunta una carta firmada por más de 60 organizaciones, el gobierno estadounidense “se ha dado cuenta ahora de que estas disposiciones cierran el espacio político para una regulación esencial».

Según los facilitadores Australia, Japón y Singapur, hubo avances significativos en el JSI durante la última Conferencia Ministerial y un «acuerdo es esperado” para mediados de 2024.

¿En beneficio de quiénes?

La OMC fue fundada en 1995 y su declarado objetivo principal es “ayudar a sus Miembros a utilizar el comercio como medio para elevar los niveles de vida, crear empleos y mejorar las vidas de las personas”. Pero las discusiones sobre comercio no se toman solamente en el ámbito de la OMC. Al contrario, un sinnúmero de acuerdos regionales o bilaterales sobre comercio internacional replican y profundizan los desafíos mencionados, avanzando sobre temas cruciales en la agenda de derechos digitales.

A pesar del “slogan” de promover “la apertura del comercio en beneficio de todos”, más de dos décadas de debates sobre comercio electrónico reflejan una política que, en la práctica, prioriza el beneficio de pocos. Más bien, el beneficio de los de siempre. La estrategia de mantener dispersión de acuerdos mediante negociaciones en la OMC, foros regionales o negociaciones internacionales hace muy difícil avanzar en una agenda que resista esas barreras. En un contexto en que muchos países de América Latina buscan avanzar una agenda de soberanía digital y regular las empresas de tecnologías y la inteligencia artificial, el primer paso es poner fin a las imposiciones de los tratados de comercio.

El segundo paso, como ya apuntó el Secretario General de la ONU, es encontrar maneras de aprovechar las tecnologías digitales para el beneficio de todes. Aún en sus palabras, necesitamos impulsar “arreglos de gobernanza que impidan su mal uso” y “moldear la innovación para que refleje valores universales humanos y proteja el planeta”. A través de la cooperación internacional que va más allá del comercio, como por medio del Pacto Digital Global y otros procesos, tenemos una oportunidad única –y quizás la última– de avanzar en esa visión en los distintos frentes de debates políticas globales en curso. Para eso, es fundamental que los gobiernos latinoamericanos no solo se comprometan con tal agenda, pero aboguen, ellos mismos, por una mayor transparencia y apertura en las negociaciones de comercio, aunque empezando por discusiones a nivel nacional.

Violencia digital y desigualdad de género: un círculo vicioso

This text is available in English here

Las dinámicas de poder históricamente desequilibradas, unidas a la discriminación sistémica por razón de género, han generado cada vez más atención a nivel global.  Sin embargo, a pesar de que la igualdad de género está reconocida en muchos instrumentos internacionales y regionales de derechos humanos, la violencia de género sigue siendo uno de los problemas estructurales más persistentes que afecta a todas las culturas y países.

En respuesta a la creciente preocupación por el aumento de la violencia de género facilitada por la tecnología (TFGBV) y su impacto de largo alcance en los individuos y la sociedad, se están haciendo esfuerzos a nivel mundial, regional y nacional para establecer normas y políticas para abordar esta cuestión. Mientras tales esfuerzos son, en muchos casos, aun insuficientes, investigaciones recientes revelan importantes deficiencias en los sistemas jurídicos locales para ofrecer una protección adecuada a las mujeres y las personas LGBTQIA+.

Entre los principales desafíos, se encuentran la falta de consideración de este tipo de violencia como una violación de los derechos humanos por razón de género, la prevalencia del uso del sistema de justicia penal para abordarla (y su interpretación abusiva), la falta de equilibrio de los derechos, las barreras experimentadas por las víctimas en el sistema judicial y la impunidad. La legislación, en muchos casos, no sólo ha sido ineficaz a la hora de proteger la expresión de las mujeres y las personas LGBTQIA+, sino que además las pone en peligro.

Nuevas formas de ejercer violencia de género y sus impactos

La violencia de género digital es una problemática que se presenta a nivel global, vulnerando los derechos humanos de las personas afectadas y en la sociedad de manera general. Tiene impactos diferenciados en grupos afectados por múltiples formas de opresión como la raza, etnia, identidad de género, clase social, estatus migratorio etc, y está profundamente arraigada en sistemas y lógicas patriarcales. Su manifestación no es un fenómeno aislado sino un continuo de la violencia de género estructural al ser tanto un reflejo como una consecuencia de sistemas sociales y estatales basados en discriminación de género.

El concepto de TFGBV va más allá de la idea de violencia en línea,  en tanto se manifesta no sólo en espacios digitales, sino también a través de diferentes tecnologías. Esto incluye teléfonos, dispositivos de localización GPS, drones, dispositivos de grabación, entre muchos otros. Puede, por lo tanto, afectar a personas que están conectadas a internet, pero también las que lo están. Eso significa que para algunas personas, la experiencia de violencia facilitada por tecnologías puede incluso preceder su posibilidad de acceder y beneficiarse de ellas, especialmente en contextos de exclusión.

Como señaló Dubravka Šimonović, ex Relatora Especial de la ONU sobre la violencia contra la mujer, sus causas y consecuencias, estas formas modernas de violencia deben entenderse dentro del ámbito más amplio de la violencia de género. Esta idea de un continuo pone de relieve cómo la TFGBV no es un fenómeno nuevo y aislado. Además, implica contemplar que así como la violencia que existe fuera de línea se traslada a los espacios en línea donde se reproduce, amplifica y reinventa en numerosas formas, las prácticas de violencia que ocurren en línea tienen implicaciones más allá del entorno digital, planteando graves amenazas a la seguridad y la integridad física de las mujeres y las personas LGBTQIA+. La violencia digital genera daños psicológicos, afecta a las relaciones sociales, fomenta la violencia sexual y física e incluso puede conducir al feminicidio. A su vez es considerada una forma de censura al generar un efecto paralizante (o chilling effect) que impacta tanto en la esfera individual como social, provocando efectos negativos para el debate público, esencial en las sociedades democráticas.

El silenciamiento producido por la TFGBV  no sólo implica que el público pierde voces y puntos de vista relevantes y diversos -la libertad de los medios de comunicación se ve comprometida, los contenidos relacionados con la equidad y los derechos humanos se reducen-, atacando el pluralismo como elemento esencial de la libertad de expresión y la democracia; sino que refuerza los roles, normas y estructuras patriarcales de género, conduce a un aumento de la brecha de género y consiste en una importante barrera para la igualdad de género y el cumplimiento de los Objetivos de Desarrollo Sostenible.

El combate a la violencia desde una perspectiva de derechos humanos

Combatir la violencia de género digital no es lo mismo que combatir a las tecnologías. Políticas públicas desequilibradas en este sentido, pueden tener graves consecuencias en la garantía de los derechos de mujeres y personas LGBTQIA+ y la lucha por la equidad de género.  Las tecnologías digitales han contribuido a contrarrestar la exclusión histórica de mujeres y personas LGBTQIA+ dentro del espacio público. Han sido ampliamente utilizadas por mujeres y activistas por los derechos LGBTQIA+ para incidir en el debate público y visibilizar demandas sociales.  Los resultados han sido significativos en el reconocimiento de derechos y el desarrollo de políticas públicas.

La obligación de los Estados de garantizar la protección de los derechos en línea como fuera de línea implica entonces un enfoque equilibrado, un elemento fundamental para el Estado de Derecho. La incorporación de criterios de derechos humanos como la legalidad, la necesidad y la proporcionalidad al desarrollar políticas para combatir la TFGBV es crucial para delinear los límites de este equilibrio entre derechos igualmente fundamentales a la libertad de expresión, privacidad y a vivir una vida libre de violencia y discriminación.

Más derechos para superar cualquier forma de violencia de género

Reconocer a la TFGBV como una manifestación de problemas estructurales subyacentes implica que los marcos jurídicos que abordan esta cuestión deben formar parte de una estrategia multifacética más amplia que incluya medidas no jurídicas destinadas a eliminar las barreras sistémicas y estructurales a la igualdad de género.

La TFGBV debe reconocerse como una violación de los derechos humanos enraizada en el género, que requiere una protección integral de todos los derechos dentro de un marco legal. No hacerlo podría suponer un riesgo significativo de socavar el potencial de expresión libre y segura de los mismos grupos que la legislación pretende proteger. Las iniciativas legislativas en materia de violencia sexual y por motivos de género deben integrarse en los marcos y las políticas establecidos sobre la violencia de género. Esto garantiza la coherencia y la sinergia a la hora de abordar las diversas formas de violencia de género.

Finalmente, la TFGBV debe dar prioridad a las necesidades y perspectivas específicas de las mujeres y las personas LGTBIQA+, evitando enfoques que pueden reproducir dinámicas de poder desiguales. Esto exige una perspectiva interseccional, centrada en las víctimas y que ofrezca medidas y enfoques variados. La creación de mecanismos participativos significativos a lo largo de todo el proceso de elaboración de políticas es fundamental.

En el día que marca la lucha histórica de las mujeres por justicia de género, resaltamos que la tecnología y los espacios digitales son claves para la defensa y resistencia de todas alrededor del mundo.  A la violencia no se la combate con censura, se la combate con derechos

(*) Marina Meira es abogada y colabora con Derechos Digitales en la construcción de estándares para el combate a la violencia de género facilitada por la tecnología (TFGBV).

Cuando algoritmo rima con racismo

El racismo algorítmico es un término que se ha vuelto cada vez más relevante en la era digital. Se refiere a la forma en que los algoritmos y sistemas de inteligencia artificial (IA) pueden perpetuar o incluso exacerbar sesgos y discriminación racial. Aunque la tecnología se presenta a menudo como objetiva y neutral, la realidad es que puede reflejar y amplificar las desigualdades sociales existentes.

Un ejemplo cotidiano de esto se encuentra en las búsquedas en internet. Al buscar términos como «mujer bonita» u «hombre exitoso», los resultados tienden a mostrar imágenes de personas blancas, excluyendo la diversidad racial. Este sesgo se extiende a otras áreas, desde la selección de empleados hasta el reconocimiento facial. En este último caso, los algoritmos muestran preferencias hacia ciertos grupos raciales y discriminan a otros.

El problema radica en cómo se entrenan los algoritmos de IA. Estos sistemas aprenden a partir de grandes conjuntos de datos que, si no son lo suficientemente diversos o están sesgados, pueden llevar a conclusiones erróneas. Otro ejemplo a mano está en los algoritmos de contratación de personal. Estos tradicionalmente son entrenados con datos históricos que favorecen a los candidatos blancos, perpetuando entonces dicha tendencia.

Estereotipos racistas

Como se indicó al comienzo, un experimento revelador consiste en solicitar a un sistema de IA texto-a-imagen que genere ilustraciones de «hombres exitosos» o «mujeres exitosas». Los resultados suelen ser de personas blancas en contextos profesionales. En cambio, al pedir imágenes de “hombres pobres en Latinoamérica”, el sistema asume que son indígenas. Del mismo modo, al solicitar la creación de una imagen de «hombres negros trabajando, su representación visual es la de obreros”, mientras que para «hombres blancos trabajando» los muestra en una oficina y con trajes.

Las imágenes a continuación fueron creadas con DALL-E, incorporado en la versión 4.0 del sistema de IA ChatGPT. Haz clic en cada una de ellas para verlas en alta resolución.

“Hombre exitoso”: lo crea como un hombre alto, delgado, blanco y con barba.
“Mujer bonita”: tiene cabello claro, es blanca y con ojos claros.
“Hombres pobres de Ecuador”: asume que son indígenas.
Sucede lo mismo cuando solicitamos la una imagen de “mujeres pobres de Latinoamérica”.
“Mujeres de Latinoamérica trabajando”: son representadas, del mismo modo: como indígenas y en actividades relacionadas al campo.
“Hombres negros trabajando”: los crea como obreros…
 
pero si le pedimos que cree una imagen de “hombres blancos trabajando” los representa en una oficina.

Lo que subyace al racismo algorítmico

Entre las causas apuntadas para tales situaciones, están:

  • Datos de entrenamiento sesgados: los algoritmos de IA aprenden a partir de datos históricos. Si estos datos reflejan desigualdades raciales o no representan adecuadamente la diversidad de la población, el algoritmo puede aprender y reproducir estos sesgos. Un estudio de 2019 mostró que los sistemas de reconocimiento facial tenían tasas de error más altas para personas de piel oscura, especialmente mujeres negras, debido a la falta de representación en los conjuntos de datos de entrenamiento.
  • Diseño algorítmico: la inteligencia artificial no es magia. Quienes diseñan y desarrollan los algoritmos y sistemas de IA pueden, con o sin intencionalidad, incorporar sus propios prejuicios en la creación de algoritmos. Las decisiones sobre cuáles variables incluir, cómo ponderarlas y de qué manera interpretarlas pueden influir en los resultados finales.
  • Interpretación y uso de resultados: incluso si un algoritmo es técnicamente imparcial, la forma en que se utilizan sus resultados puede conducir a prácticas discriminatorias.

La investigación de Tarcízio Silva aborda el impacto del racismo algorítmico en la visión computacional, destacando cómo los sistemas de inteligencia artificial (IA) y aprendizaje automático pueden perpetuar y amplificar prejuicios raciales a través de sus mecanismos de reconocimiento y clasificación de imágenes. Silva examina la construcción y expresión del racismo en la infraestructura online y las interfaces digitales, argumentando que tanto los algoritmos (el «back end») como las representaciones visuales y textuales (el «front end») son materializan estereotipos invisibles que afectan a grupos racializados.

A través de un análisis fundamentado en la Teoría Racial Crítica y estudios sobre la blanquitud, Silva propone un marco para comprender y desmantelar la opresión algorítmica, subrayando la necesidad de abrir las «cajas negras» de la tecnología para revelar y confrontar los sesgos raciales inherentes en los sistemas de visión computacional. Su trabajo resalta la importancia de abordar tanto los aspectos técnicos como los culturales y sociales en la lucha contra el racismo algorítmico, instando a una mayor diversidad e inclusión en los campos de la ciencia y la tecnología. 

El racismo algorítmico es un desafío significativo en la era de la IA. Es crucial que las personas en roles de desarrollo, investigación e, incluso, las usuarias sean conscientes de estos sesgos y trabajen activamente para crear algoritmos más inclusivos y equitativos. Esto implica diversificar los conjuntos de datos, y también cuestionar y revisar constantemente los supuestos subyacentes en el desarrollo de tecnologías. El fiasco de Google Gemini, por citar un ejemplo reciente, nos enseña que no se trata de corregir el racismo con más racismo, sino de desarrollar colectivamente algoritmos igualitarios.

La lucha contra el racismo algorítmico y la creación de tecnologías más equitativas se basa en un principio clave: aprender y enseñar cómo funcionan realmente los sistemas tecnológicos por dentro. Comprender el funcionamiento interno de los algoritmos y los sistemas de IA es esencial para identificar y corregir los sesgos y prejuicios que estos pueden perpetuar. Esto requiere un enfoque educativo y formativo que no solo se centre en las habilidades técnicas —necesarias para desarrollar y programar software— sino también en la sensibilización respecto de los impactos sociales y culturales de la tecnología. En este sentido, la educación en tecnología debe incluir un currículo que aborde la ética en IA, la justicia social y los estudios sobre el racismo y la discriminación, proporcionando a los estudiantes las herramientas para construir sistemas más justos y representativos.

Desde Latinoamérica y entre los grupos minoritarios, la creación de capacidades en tecnología es especialmente crucial para desafiar y cambiar las narrativas dominantes en el campo de la IA. Al empoderar a estos grupos para que participen activamente en el desarrollo tecnológico, se abre la puerta a una diversidad de perspectivas y experiencias que pueden informar y enriquecer el proceso de diseño de algoritmos.

Fomentar la inclusión de voces marginadas en la ciencia y la tecnología contribuye a reducir los estereotipos raciales y sesgos en los sistemas de IA, y promueve la creación de soluciones innovadoras que atienden a las necesidades y desafíos de todas las personas. Por último, construir una comunidad tecnológica inclusiva y diversa, en nuestra región y más allá, es un paso fundamental hacia la eliminación de estereotipos raciales y la creación de algoritmos que sirvan equitativamente a toda la sociedad.

Solo así podremos asegurar que la IA sea un aporte al desarrollo.