Temática: Economía digital

La cara menos visible de la batalla por derechos y soberanía digital

This text is available in English here

La 13ª Conferencia Ministerial de la OMC, celebrada en Abu Dabi hace pocas semanas, concentró una serie de discusiones clave sobre el futuro de la gobernanza digital. Los debates ocurrieron lejos del ojo público y con la sociedad civil reportando patentes vulneraciones a sus derechos durante las negociaciones. En la ocasión, se adoptaron nuevos compromisos por limitar la acción de los gobiernos en materia de regulación de tecnologías, contrariando la presión por revisar medidas que ponen en jaque la soberanía digital de los países, especialmente del Sur Global.

Un pacto de desigualdad

Mientras agencias y organizaciones internacionales discuten mecanismos para construir un futuro digital basado en derechos, algunos Estados –a menudo aliados a intereses corporativos de su industria local– utilizan la agenda de comercio internacional para limitar el alcance y las posibilidades regulatorias de otros países. Uno de los ejemplos más conocidos de este tipo de estrategia es el de la moratoria sobre derechos de aduana.

Adoptada por la OMC en 1998, la medida prohíbe que los gobiernos apliquen impuestos aduaneros a “transmisiones electrónicas”. Si bien no hay una definición de “transmisiones electrónicas”, la moratoria ha implicado en la imposibilidad de tasación del comercio electrónico transnacional de servicios y productos, lo que incluye la compra de libros, películas, etcétera.

A la vez que –en más de dos décadas desde su adopción– el volumen y valor de tales transacciones escalaron a niveles estratosféricos, la medida se tornó una limitante a la posibilidad de distribución equitativa de los beneficios de la economía digital. Según documento presentado en 2021 por los gobiernos de India y Sudáfrica, “reconsiderar la moratoria es un factor crítico para que los países en desarrollo puedan preservar un espacio para regular la importación y generar valor a partir de un instrumento simple como los impuestos aduaneros y alcanzar la industrialización digital”.

En palabras del think tank South Centre, organización de investigación en políticas públicas que reúne diversos países del Sur Global: “sin claridad sobre la definición de las transmisiones electrónicas (TE) y, por tanto, sobre el alcance de la moratoria, la continuación de la moratoria de la OMC sobre los derechos de aduana sobre las TE puede dar lugar a importantes pérdidas de ingresos arancelarios para los países en desarrollo y menos desarrollados en el futuro”.

Las expectativas por no renovación de la moratoria en la 13ª Conferencia Ministerial era altas desde que Estados Unidos revisó algunas de sus posiciones en materia de comercio electrónico. Aún así, la medida fue renovada hasta la próxima Conferencia Ministerial de OMC, o el 31 de marzo de 2024, lo que ocurra antes, dice la decisión final sobre el tema.

Mucho más allá del comercio

La moratoria para transmisiones electrónicas es solo un ejemplo de los impactos que tratados de comercio pueden tener en la autonomía de los Estados en materia de políticas de tecnologías y sus consecuencias. Sin embargo, está lejos de ser la única materia de preocupación relacionada a derechos digitales.

Otro punto de atención son las discusiones alrededor de Iniciativa Conjunta sobre comercio electrónico (JSI, por su sigla en inglés). La declaración, impulsada inicialmente por el gobierno de Estados Unidos, viene debatiéndose desde 2017 y tiene como objetivo generar una regulación más amplia sobre el comercio electrónico. La novedad es que el JSI busca tratar temas que van mucho más allá del comercio, como la transferencia internacional de datos, la localización de datos, el acceso a códigos fuente, la neutralidad de la red, entre otros.

Otro problema con el mecanismo de “iniciativas conjuntas” es que se trata de negociaciones iniciadas por un grupo de países, abierta a participación de todos, pero sin necesidad de seguir los protocolos de la OMC sobre decisiones basadas en consenso. Por ese motivo, países como India, Namibia y Sudáfrica han cuestionado su legalidad.

La decisión de Estados Unidos, en octubre de 2023, de cambiar algunas de sus posiciones en la OMC se refería precisamente a la retirada del apoyo al texto en discusión. En la ocasión el gobierno estadunidense manifestó que se encuentra en una fase de revisión a su posición sobre el tema, con el objetivo de tener más “espacio regulatorio”.En otras palabras, esperan poder regular internamente cuestiones que antes se discutían en el ámbito de las políticas exteriores y los acuerdos comerciales, a menudo con Estados Unidos empujando acuerdos globales favorables a su industria.

La decisión de Estados Unidos fue celebrada por miembros de la sociedad civil, que hace años reivindican la necesidad de discutir de manera transparente cuáles serán los impactos negativos de este texto en los países en desarrollo. Como apunta una carta firmada por más de 60 organizaciones, el gobierno estadounidense “se ha dado cuenta ahora de que estas disposiciones cierran el espacio político para una regulación esencial».

Según los facilitadores Australia, Japón y Singapur, hubo avances significativos en el JSI durante la última Conferencia Ministerial y un «acuerdo es esperado” para mediados de 2024.

¿En beneficio de quiénes?

La OMC fue fundada en 1995 y su declarado objetivo principal es “ayudar a sus Miembros a utilizar el comercio como medio para elevar los niveles de vida, crear empleos y mejorar las vidas de las personas”. Pero las discusiones sobre comercio no se toman solamente en el ámbito de la OMC. Al contrario, un sinnúmero de acuerdos regionales o bilaterales sobre comercio internacional replican y profundizan los desafíos mencionados, avanzando sobre temas cruciales en la agenda de derechos digitales.

A pesar del “slogan” de promover “la apertura del comercio en beneficio de todos”, más de dos décadas de debates sobre comercio electrónico reflejan una política que, en la práctica, prioriza el beneficio de pocos. Más bien, el beneficio de los de siempre. La estrategia de mantener dispersión de acuerdos mediante negociaciones en la OMC, foros regionales o negociaciones internacionales hace muy difícil avanzar en una agenda que resista esas barreras. En un contexto en que muchos países de América Latina buscan avanzar una agenda de soberanía digital y regular las empresas de tecnologías y la inteligencia artificial, el primer paso es poner fin a las imposiciones de los tratados de comercio.

El segundo paso, como ya apuntó el Secretario General de la ONU, es encontrar maneras de aprovechar las tecnologías digitales para el beneficio de todes. Aún en sus palabras, necesitamos impulsar “arreglos de gobernanza que impidan su mal uso” y “moldear la innovación para que refleje valores universales humanos y proteja el planeta”. A través de la cooperación internacional que va más allá del comercio, como por medio del Pacto Digital Global y otros procesos, tenemos una oportunidad única –y quizás la última– de avanzar en esa visión en los distintos frentes de debates políticas globales en curso. Para eso, es fundamental que los gobiernos latinoamericanos no solo se comprometan con tal agenda, pero aboguen, ellos mismos, por una mayor transparencia y apertura en las negociaciones de comercio, aunque empezando por discusiones a nivel nacional.

Elecciones, derechos digitales y desinformación: desafíos y aprendizajes a partir de la experiencia brasileña en 2022

Descargar PDF

La publicación analiza las especificidades del ecosistema de desinformación en las últimas elecciones presidenciales de Brasil, buscando ofrecer recomendaciones para otros países de la región que enfrenten esta problemática. El estudio fue realizado por la investigadora y docente brasileña, Anna Bentes, en el marco de una pasantía en Derechos Digitales entre noviembre de 2022 y mayo de 2023. Revisa el estudio completo aquí.

 

Mares y archipiélagos en la era digital

Tiempo atrás, un querido amigo de la industria de influencers recibió un curso, patrocinado por Huawei, acerca de TikTok y sus particularidades. El énfasis de la capacitación fue dar a entender la filosofía detrás de la —entonces incipiente— red social para fidelizar a personas dedicadas a generar contenido en línea. Su esencia, explicaron, es provocar la risa que hace que un niño repita una y otra vez alguna acción o, en un ejemplo más asible, “como cuando en El Rey León las hienas decían ‘Mufasa, uuuuuh’ reiteradamente”.

Esta noción está directamente emparentada con el significado detrás de la onomatopeya “Douyin” (抖音): sonido vibrante, como el de una carcajada. Hago esta mención porque, en Occidente y al comienzo de todo esto, se asociaba libremente a “TikTok” con el “tic tac” que hace un reloj análogo. No obstante, es Douyin —el nombre de la versión de esta aplicación en China— la clave para entender por qué TikTok ha tenido el impacto constatado hasta ahora y por qué, a pesar de múltiples intentos por desincentivar su uso, las y los usuarios parecen hacer caso omiso a tales advertencias.

Las características de TikTok han sido replicadas con éxito en otras aplicaciones: Instagram Reels, YouTube Shorts, Snapchat Spotlight, por nombrar algunas. Lo mismo ocurre con los desafíos, coreografías y memes popularizados en la primera de estas plataformas. Sin embargo, y aunque se trata de una de las aplicaciones más consumidas en el mundo, se cierne sobre ella la amenaza de la censura bajo diversas acusaciones: su algoritmo, supuestamente, promueve contenido dañino para niños, niñas y adolescentes; espionaje a periodistas; uso malicioso de datos, presuntamente recolectados por la aplicación, de menores de edad, lo que le valió una multa en Reino Unido; riesgo para la seguridad nacional de ciertos países, por mencionar algunas.

En Chile, desde donde escribo, un diputado se sumó al coro de voces que buscan restringir el uso de la conocida aplicación en equipos facilitados a funcionarios públicos, esgrimiendo las mismas razones sobre la protección a la seguridad nacional e infraestructura sensible del Estado y apelando a los argumentos expuestos anteriormente: “La inteligencia de Estados Unidos y algunos países de la Unión Europea han levantado una alerta respecto de las brechas que se generan a partir del uso de la red social TikTok, porque a diferencia de otras plataformas esta pertenece al Gobierno Chino”.

La controversia tuvo uno de sus puntos álgidos hace algunas semanas cuando el estado de Montana, en Estados Unidos, decidió prohibir el uso general de TikTok en todo el territorio, bajo el argumento de que las y los habitantes de este deben ser protegidos “de la vigilancia del Partido Comunista Chino”, aun cuando el CEO de ByteDance —la empresa detrás de la aplicación— Shou Zi Chew, compareció personalmente ante el Congreso de EE.UU. para negar cualquier vínculo entre la entidad que preside y el gobierno de China.

«Aquí hay dragones»

El trabajo realizado por investigadoras y artistas visuales como Ingrid Burrington y Louise Drulhe para avanzar hacia una “cartografía de internet” levantaron, en su momento, la preocupación por la concentración de la infraestructura de soporte para garantizar el acceso a esta: la dirección y distribución de los cables submarinos de red, en el caso de la primera; los nodos en los que se concentra la mayor cantidad de tráfico virtual, respecto de la segunda.

Ambas señalaron la relevancia de poner atención a la centralización del servicio —por parte de grandes compañías de telecomunicaciones (AT&T, BT) y gigantes de la tecnología radicados en Silicon Valley— a modo de alerta sobre cómo ha ido cambiando la noción general sobre qué es internet, y su tránsito desde un espacio abierto y sin límites hacia lo que conocemos hoy en día como splinternet o internet fragmentada. Internet Society la define como “un espacio donde no puedes confiar en que los nombres y direcciones te lleven a donde se supone que deben hacerlo. Un espacio con fronteras añadidas a un sistema sin fronteras. Un espacio en el que se restringe y suprime la libre circulación de información”.

Mapear es dominar. No en balde los imperios chinos y británicos del pasado se especializaron en la construcción de cartas de navegación y la geografía, como disciplina y representación espacial, determina el punto desde donde nos situamos y observamos el resto del mundo: conocido es el contraste entre la dirección de la aguja de la brújula entre oriente (el sur) y occidente (el norte). Un famoso mapa adquirido en Francia y fechado en 1510, el Globo de Lenox, tiene tal notoriedad por incluir la frase HC SVNT DRACONES (“aquí hay dragones”) en la costa del sudeste asiático. Frase que, en la antigüedad, era utilizada para referir a mares peligrosos y territorios inexplorados.

Hoy vemos que el mapa imaginario de la red se modifica desde otros flancos, aunque en respuesta, como es usual, a intereses que van más allá de la protección de las y los usuarios en línea. Que el gobierno chino esté vigilando los equipos de funcionarios estatales en Chile es tan plausible como afirmar que Instagram escucha nuestras conversaciones. No existen pruebas concretas que respalden ninguna de estas hipótesis, pero la posible restricción recae sobre ByteDance y no Meta, lo que da para pensar.

No matar al mensajero

Recientemente, en Brasil el acceso al servicio de mensajería Telegram, propiedad del magnate ruso Pavel Durov, fue suspendido temporalmente por no acceder al requerimiento —realizado por el Ministerio de Justicia de dicho país— de entregar datos completos sobre canales de carácter antisemita cuya actividad podría estar relacionada con ataques armados en escuelas ocurridos a fines del año pasado. Del mismo modo, Telegram también dejó de funcionar en Francia durante el sábado 13 de mayo producto del bloqueo de uno de sus dominios (t.me) por un “error humano” de la policía local al vincular dicha dirección, de manera general, con tráfico de material de explotación sexual infantil.

En los dos casos, el trasfondo que orientó las decisiones fue la protección de niños, niñas y adolescentes, tanto de discursos de odio como de pedofilia. Sin embargo, sorprende que siendo el 2023 se opte por acciones drásticas sobre las plataformas en vez de dirigir los esfuerzos hacia la raíz del problema. Me atrevo a afirmar que ninguna aplicación aquí aludida, en sí misma, es buena o mala sino que, como cualquier otra herramienta, su impacto depende directamente de quienes y cómo las utilizan.

Esto es especialmente importante en momentos en que en Brasil ya se discute cómo forzar a las plataformas a tomar acciones más radicales para mitigar la difusión de contenidos perniciosos, delegando en ellas una facultad que no les corresponde y que podría, en el peor de los casos, dotarlas de un carácter editorial que dibujaría nuevas fronteras en la red a completa merced del criterio de sus propietarios y de motores de búsqueda.

No es el único riesgo: el bloqueo de Telegram en Francia, si bien no superó las 24 horas, se materializo cuando las compañías proveedoras de internet fueron instruidas a redirigir a las y los usuarios del dominio “t.me” a un minisitio del Ministerio del Interior francés con un código javascript de rastreo que, aparentemente, catalogó a cada una de las personas que intentaron acceder al servicio de mensajería en una base de datos asociada a contenido de explotación sexual infantil.

Libre y justa

Desde el inicio de la guerra en Ucrania, es imposible acceder a los medios rusos RT y Sputnik en la Unión Europea (UE) al ser considerados agentes de desinformación y beligerancia y, por lo tanto, objeto de las sanciones contra Rusia. En Twitter, las cuentas de dichos medios, al igual que las que pertenecen a diarios y canales de China e Irán, están acompañadas con una advertencia que señala tal afiliación geográfica. En el reverso de esta cuestión, cuando Elon Musk anunció que extendería este etiquetado al medio NPR, de EE.UU., este medio se apresuró en aclarar que su cobertura en ningún modo está influenciada por el gobierno estadounidense y la oposición a la medida fue tal que Musk, finalmente, no ejecutó esta acción.

La libertad de expresión, como señala el artículo 19 de la Declaración Universal de Derechos Humanos, es un derecho de todas y todos, sin limitación de fronteras. Este año, en la celebración del Día Mundial de la Libertad de Prensa, UNESCO fue enfática en señalar que este derecho es una condición necesaria para el disfrute de todos los demás derechos humanos. Es imperativo garantizar la libre circulación de información y que todos los medios, tal como lo hizo NPR, puedan defender su independencia con argumentos. Sin pruebas concretas, no debería haber lugar para la censura.

La fragmentación de internet es un tema de larga data. En la actualidad, adquiere un carácter tutelar que resulta en una experiencia de navegación tremendamente limitada y cuya contribución a resguardar los derechos humanos en entornos digitales es más bien escasa. Todas las restricciones descritas son soslayables, sea a través de VPNs o navegación a través de Tor, pero tales operaciones son a veces engorrosas e, incluso, de cuidado. Para las personas usuarias, el mapa de la red estaría repleto de puentes cortados, metáfora que dista bastante de la concepción de internet como “supercarretera de la información” de hace veinte años.

Es cierto que, en algunos casos, internet facilita la comisión de delitos graves, pero no hay que olvidar que estos son producto de las decisiones de personas en la vida real. El resguardo de los derechos humanos en la era digital debe mantener un estándar único al juzgar direcciones, plataformas, contenidos, todo lo que “resida” en el otrora ciberespacio. La doble moral al restringir el acceso a tal o cual dirección no hace sino perjudicar a las personas usuarias adultas, suprimiendo su agencia en cuanto a decidir qué visita en línea. Nuestro mandato es preservar una internet libre y justa para todas y todos: navegar en ancho mar en vez de asentarnos en un millar de islas.

Regulación de plataformas en Brasil: ¿a qué costo?

El Congreso de Brasil está intentando aprobar una ley sobre “libertad, responsabilidad y transparencia en internet”. El texto, que actualmente se discute en la Cámara de Diputados, es una nueva versión del proyecto de ley de “fake news”, presentado en 2020 cuando el país enfrentaba una ola de desinformación alrededor de las medidas de combate a la pandemia de COVID-19. En la ocasión, sus primeras versiones fueron duramente criticadas por las amenazas que representaba a la libertad de expresión y la privacidad.

Gracias a un trabajo intensivo de incidencia de las organizaciones de sociedad civil brasileña, agrupadas en la Coalición Derechos en la Red, y de los sucesivos diálogos con distintos sectores, la versión del texto que finalmente llegó del Senado a la Cámara sufrió mejoras significativas, priorizando imponer reglas de transparencia a las plataformas en vez de medidas tendientes a la vigilancia, el control y la criminalización de conductas en internet.

Sin embargo, a mediados de abril de este año, una nueva versión del texto fue puesta en discusión, incluyendo nuevas obligaciones de moderación de contenidos para las plataformas y sanciones en el caso de que las empresas no cumplan con la ley. En su versión actual, el proyecto de ley exige a las plataformas actuar de forma proactiva para mitigar la difusión de contenidos racistas, terroristas, que constituyan violencia de género y que inciten crímenes que amenacen al Estado democrático. Además, se agregaron medidas relacionadas a la remuneración de contenidos periodísticos o protegidos por derechos de autor, y reglas sobre la protección de los datos de niños, niñas y adolescentes, entre otras modificaciones.

Vamos lento, que tengo prisa

América Latina ha presenciado con indignación la desidia con la que las empresas de internet han encarado su responsabilidad de proteger y promover los derechos humanos en sus plataformas. Hay ejemplos muy concretos en ese sentido, como el de WhatsApp, que adoptó políticas de privacidad y términos de servicio con protecciones distintas y desmejoradas para las personas en América Latina, en relación a las que adopta en Europa.

En el caso de Brasil, se suman denuncias e investigaciones de uso y manipulación de aplicaciones de mensajería para coordinar la difusión de informaciones falsas durante procesos electorales — incluso, por parte o con la participación de autoridades públicas — y para la realización de una grave serie de ataques a edificios gubernamentales en enero de este año.

No hay como negar que la concentración del discurso público en pocas plataformas (controladas por pocas empresas) tiene consecuencias negativas para la democracia y la libertad de expresión. Sin motivo para sorpresas, el mismo proceso de debate público sobre el PL 2639/2020 sugirió un potencial abuso de poder de estas empresas, al dirigir la atención pública a determinados contenidos favorables a sus intereses.

Disputar y contrarrestar el poder que concentran las plataformas es una tarea urgente y requiere, entre otras, de medidas de transparencia —como intenta impulsar el proyecto de ley brasileño—, además de un conjunto de acciones coordinadas en materia de regulación económica y fomento al desarrollo tecnológico local, desde una perspectiva de sostenibilidad, equidad y respeto por derechos fundamentales.

Sin embargo, las nuevas medidas agregadas al proyecto de ley no dan cuenta de esos aspectos. Al contrario, la discusión sobre la aprobación de la urgencia de votación del proyecto de ley 2630/2020 en la Cámara de Diputados evidenció como aún prevalecen en el escenario político brasileño nociones deterministas, que encuentran en las tecnologías tanto a las culpables como la solución a problemas sociales y políticos profundos. En un escenario polarizado, las posiciones parecen restringirse a los defensores de “los niños”  —en referencia al potencial rol preventivo del proyecto contra una ola de ataques en escuelas, al parecer coordinados por medio de redes sociales— contra los defensores “de las empresas”.

Evidentemente la disputa no es tan simple. Buena parte de la gran prensa nacional pasó a defender el proyecto, interesada en la regla sobre remuneración de contenidos periodísticos, que podría garantizarles acceso a parte de las ganancias de las empresas de internet. Lo mismo con los titulares de derechos de autor, que vieron agregada al texto una medida similar. A pesar de la visibilidad mediática que ganó el proyecto, hubo poca discusión sobre tales medidas y sus motivaciones: si bien las preocupaciones pueden ser legítimas, el coste-beneficio de las propuestas no es tan evidente y requieren mayor estudio y debate.

También quedaron mayormente fuera de la discusión pública cómo algunas de las reglas incluidas a último minuto en el proyecto podrían afectar la circulación de información en línea y los riesgos propios que conlleva obligar a un grupo muy pequeño de empresas a asumir el rol de policías de los discursos en el entorno digital.

Cuidado con el deber de cuidado

El actual proyecto de ley propone que las empresas tendrían un “deber de cuidado” que las obliga a “prevenir y mitigar prácticas ilícitas en el ámbito de sus servicios” y a “mejorar el combate a la distribución de contenidos ilegales por terceros”. El texto, además, propone cambiar el régimen de responsabilidad civil para casos en que haya “riesgo inminente de daños”, circunstancias en que las empresas podrán ser sancionadas por contenidos publicados por sus usuarios y usuarias.

Si bien la propuesta intenta delimitar los tipos de prácticas ilegales que las empresas deberían perseguir, es imperativo recordar que Brasil aún vive un contexto marcados por la criminalización de grupos y discursos críticos a los poderes políticos y económicos establecidos; estas prácticas han sido avaladas y validadas por el Poder Judicial, mientras que el Legislativo parece estar en una búsqueda constante por acomodar tipos penales que encuadren la actuación de los movimientos sociales dentro de determinados crímenes, incluyendo el de terrorismo.

Otro punto de alerta es que si la propuesta busca poner presión a mejores prácticas por parte de las empresas, ignora que su modelo de moderación de contenidos constantemente comete errores, tanto en la manutención como en la remoción de contenidos. Considerando el volumen de materiales compartidos en redes sociales (en 2022 fueron 500 horas de videos por hora enviados a Youtube, en 2023 son 350 millones de fotos subidas Facebook a cada día), las reglas referentes al “deber de cuidado” puede forzar la creación de filtros automatizados para la moderación de contenidos para protegerse de las sanciones. Estas medidas son similares a las implementadas a raíz de las obligaciones de notificación y retirada de materiales protegidos por derechos de autor, cuya tendencia al error bajo criterios de libertad de expresión está documentada y que, por lo tanto, supone un enorme potencial de afectación a contenidos legítimos.

Es verdad que el texto del PL 2630/2020 prevé mecanismos para mitigar este tipo de abusos, pero no está claro aún como su aplicación será supervisada en la práctica. Hubo discusiones sobre la creación de una autoridad administrativa independiente para cumplir con tal función, pero no hubo consenso sobre la medida, de modo que el punto sigue sin resolución. Agrava la situación el reciente historial de captura de instituciones públicas por intereses contrarios a los principios democráticos, con evidentes daños a la democracia en Brasil, y las dificultades para la creación de una autoridad con la debida independencia en el marco de la ley general de protección de datos.

La ausencia de mayor claridad sobre el mecanismo de supervisión no solo genera inseguridad jurídica, considerando que la ley toca temas bajo responsabilidad de otras instancias administrativas o judiciales, sino que puede dejar desprotegida la expresión de pequeños productores, periodistas independientes, organizaciones y movimientos sociales, y defensoras de derechos humanos, entre otras.

Avanzar, a partir de un marco de derechos

En el pasado, Brasil ha sido un país pionero. Frente a presiones similares para criminalizar conductas en línea, optó por crear un marco civil basado en la protección de derechos para regular el uso de internet. En este nuevo contexto, es fundamental que los y las legisladoras brasileñas recuperen este importante histórico y se abstengan de aprobar medidas que pueden implicar la disminución de derechos para toda la sociedad.

Ninguna tecnología puede explicar o resolver el complejo escenario político que enfrentamos en Brasil. Una respuesta adecuada requiere sumar voces y conocimientos diversos. Más que seguir avanzando de manera apresurada, es crucial que el Congreso separe las propuestas sobre transparencia de los otros puntos y que el gobierno genere y fortalezca espacio de discusión entre distintos sectores, como el iniciado por Comité Gestor de Internet.

Como mínimo, se debería separar del texto las previsiones de deber de cuidado y responsabilización, derechos de autor y conexos y contenidos periodísticos. Además, el Congreso debería remover completamente la provisión de inmunidad parlamentaria en redes sociales que puede generar inseguridad jurídica sobre un tema sobre el cual hay avanzada jurisprudencia.

Frente a la polarización del debate, es importante resaltar que defender la libertad de expresión no es lo mismo que defender la impunidad de las empresas de internet o de comunicación. Tampoco se trata de proteger discursos ofensivos, discriminatorios o violentos que, al contrario, son también una manera de silenciar otros discursos, en particular de las personas y grupos que han sido históricamente marginados del debate público. Más que una garantía individual, la libertad de expresión es un pilar clave para la construcción de sociedades democráticas al garantir que todas las personas puedan acceder a una pluralidad de opiniones e informaciones.

La protección de derechos y la promoción de un espacio público digital sano y al servicio de los derechos humanos, solo será posible con equilibrio. El aplazamiento de la votación del texto del PL 2630/2020 ofrece una oportunidad única de ampliar el diálogo hacia otros sectores y avanzar una respuesta a la altura de los desafíos puestos.

Latin America in a GLIMPSE

Download
(EN)		Descarga
(ES)		Baixar
(PT)

The eighth edition of Latin America in a Glimpse is composed of four investigations, conducted by Latin American organizations working in different countries: Corporación Cambio Sostenible of Colombia, Fundación Openlab of Ecuador, Espacio Público of Venezuela and MariaLab of Brazil.

The common theme of the publication is the idea of gaps, as a complex, multifactorial reality that is associated with a series of structural inequities that shape our experiences in digital environments.

The latest edition of Latin America in a Glimpse is available in Spanish, English and Portuguese.

_______________________________________________________________________

La octava edición de América Latina in a Glimpse está compuesta por cuatro investigaciones, realizadas por organizaciones latinoamericanas que trabajan en diferentes países: Corporación Cambio Sostenible de Colombia, Fundación Openlab de Ecuador, Espacio Público de Venezuela y MariaLab de Brasil.

El tema común de la publicación es la idea de las brechas, como una realidad compleja y multifactorial que se asocia a una serie de inequidades estructurales que configuran nuestras experiencias en entornos digitales.

La última edición de Latin America in a Glimpse está disponible en español, inglés y portugués.

Tratados de comercio digital no pueden impedir transparencia sobre IA

Hace unas semanas se publicó el AI Index 2023 de la Universidad de Standford, que analiza diferentes aspectos relativos a los avances de la Inteligencia Artificial, con una mirada comparativa de la Human-Centered Artificial Intelligence. Varios aspectos de esta publicación son dignos de mención. Entre ellos, el crecimiento en el número de incidentes y controversias relativas a la IA, que se ha multiplicado por 26 desde 2012, según datos del Algorithmic, y Automation Incidents and Controversies (AAIC).

Diversas investigaciones relativas, por ejemplo, a ChatGPT, también demuestran que los problemas relacionados con el uso de estos sistemas, ya sea por parte del sector privado o por parte de las autoridades, se hacen cada vez más evidentes y confirman las preocupaciones de varias organizaciones de derechos humanos dedicadas a estudiar la temática en los últimos años. Por otro lado, llama la atención el mapeo de importantes sistemas de aprendizaje automático atribuidos a investigadores de determinados países. Siguiendo la tendencia de años anteriores, en 2022 la gran mayoría de autores son de países del norte global, concretamente de Estados Unidos, algunos países europeos y China.

Destacamos un punto que amerita mayores consideraciones de los países latinoamericanos, en especial, la utilización de tratados de comercio digital para la regulación de inteligencia artificial, además de dispositivos que puedan impedir la transparencia del uso de varios sistemas de IA. 

Tratados de comercio: la agenda digital sin consideraciones de derechos humanos

Diversos tratados de comercio tienen consecuencias para los entornos digitales, regulando aspectos en temas como el comercio electrónico, la protección del consumidor en línea y el establecimiento de estándares para la inteligencia artificial. El Acuerdo de Asociación de Economía Digital (DEPA), firmado por Chile, Nueva Zelanda y Singapur, contiene un capítulo específico sobre IA, obligando a los Estados a adoptar marcos éticos para la gobernanza de esta tecnología.

Pero estos tratados de comercio digital también pueden prohibir exigir transparencia de los algoritmos, impidiendo la divulgación del código fuente de los softwares de IA, lo que puede limitar las posibilidades para la búsqueda de soluciones a estos problemas, excluyendo la participación de autoridades judiciales o reguladoras. Así, por ejemplo, lo establece la propuesta de reglamentación sobre IA de la Unión Europea, presentada en 2021 y que todavía está en discusión.

Actualmente se han suscrito una serie de acuerdos comerciales bilaterales y multilaterales con compromisos para permitir el libre flujo de datos a través de las fronteras, fortalecer las leyes nacionales sobre secretos comerciales y aplicar estrictas protecciones de propiedad intelectual para el código fuente y los algoritmos inclusive, esto viene en forma de una nueva prohibición para que los gobiernos exijan el acceso o la transferencia del código fuente del software, sujeto a ciertas excepciones, y cuenta con el apoyo activo de EE. UU., Australia, Canadá, Japón y Nueva Zelanda.

Los esfuerzos por inyectar otra capa de protección para el software en el derecho comercial digital pueden ser muy problemáticos. La cláusula del código fuente ya puede resultar demasiado restrictiva para las políticas digitales nacionales. Al mismo tiempo, se ha avanzado mucho menos en abordar los riesgos y daños transfronterizos asociados con la IA, en áreas como la política de competencia, la protección de datos personales, las protecciones contra el uso abusivo de algoritmos en los mercados laborales y de consumo, y el uso respetuoso con los derechos humanos, de forma transparente y responsable.

Haciendo un análisis histórico, las disposiciones que prohíben los requisitos de divulgación del código fuente fueron introducidas por EE. UU. en las negociaciones del Acuerdo Transpacífico de Cooperación Económica (TPP) y desde entonces han sido emuladas en muchos otros acuerdos comerciales, aunque muchos países en desarrollo se oponen firmemente a ellas. El TPP impide a los estados suscriptores solicitar la transferencia o el acceso al código fuente de software. El código fuente es la especificación de un proceso computacional que puede ser compilado y ejecutado por una computadora.  En contraste con el código fuente se encuentra el llamado «código objeto», que es el que convierte el código fuente (legible por el ser humano) en instrucciones legibles por la máquina, mediante un proceso conocido como «compilación». El código fuente de un programa informático puede estar protegido por propiedad intelectual y considerarse secreto comercial. De acuerdo con el artículo 10.1 del Acuerdo sobre los Aspectos de los Derechos de Propiedad Intelectual relacionados con el Comercio (ADPIC), de la OMC, los programas informáticos, tanto en código fuente como en código objeto, pueden protegerse mediante derechos de autor. Por lo anterior, estas disposiciones pueden amenazar el derecho de acceso a la información pública y, por tanto, el derecho a la libertad de expresión, según lo determinan la Constitución y las leyes de varios países latinoamericanos.

La transparencia, además de reforzar la confianza en las instituciones, constituye un derecho humano fundamental cuando se considera desde la perspectiva del acceso a la información. Este es un derecho consagrado en la Convención Americana sobre Derechos Humanos y, en el caso chileno, es una obligación del Estado prevista en la Constitución, en sus artículos 8 y 19 n. 14, en virtud del cual se presume pública toda la información que obre en poder de los órganos de la administración del estado y del principio de máxima transparencia o divulgación, expresamente definido en la ley de acceso a la información pública.

Pese a lo anterior, no se puede denegar la solicitud de acceso a información pública referida al código fuente de una aplicación estatal de reconocimiento facial, por ejemplo, en base a la supuesta vulneración de derechos de propiedad. La divulgación del código fuente de un software permite auditar su funcionamiento, participar en su mejora y controlar su seguridad, idoneidad y eficacia. Sin embargo, hay posiciones que lo consideran una forma de divulgación forzada de tecnología y como una barrera al comercio exterior. Así lo establecen los “Report on Foreign Trade Barriers” elaborados por EE. UU. en los años de 2022 y 2023, pero sin considerar los derechos humanos involucrados en estos casos.

El uso de la inteligencia artificial debe respetar los derechos humanos

Son cada vez más evidentes las consecuencias negativas de varios sistemas de IA, relativas a potenciales violaciones de derechos humanos y, particularmente, al incremento de la discriminación hacia grupos históricamente vulnerables, basado en sus ingresos, color de piel o género. El otro factor que llama atención en el reporte de AI Index 2023 es el aumento del interés de los formuladores de políticas en la Inteligencia Artificial, dado el creciente número de leyes y proyectos de ley que buscan regular el uso de la IA. En Brasil y Chile, actualmente existen diferentes propuestas normativas al respecto y una parte importante de estas discusiones es justamente sobre cómo brindar transparencia a la utilización de estos sistemas, para lo cual el acceso al código fuente y los algoritmos ciertamente tienen un rol fundamental.

Los estándares internacionales de la IA cubren sus usos y procesos, y es importante que reflejen los intereses públicos, en conformidad con los derechos humanos de las personas y los valores sociales. Sin embargo, el establecimiento de estándares está dominado por los principales actores de la industria y un número selecto de gobiernos del norte global. A las tecnologías de IA se les otorgan derechos de propiedad intelectual adicionales a través de acuerdos comerciales, incluidos los algoritmos y el código fuente, lo que presenta el riesgo de reforzar el poder de mercado de las empresas dominantes e impedir los avances hacia la transparencia algorítmica y la responsabilidad.

Transformar, dejar brechas atrás y unirnos para un futuro justo

¿Por qué es necesario hablar de economía digital y perspectiva de género? A pesar de ser campos que en el día a día son considerados de forma disyuntiva, ambas temáticas deben ser siempre parte de un análisis, que permita la construcción de acciones comprehensivas que lleven hacia la igualdad de género.

¿Qué es la economía digital?

Antes de indagar en el concepto de economía digital, debemos que comprender que es un sistema económico. Un sistema económico es la forma en la cual la economía funciona y estructura a la sociedad en base a la relación entre producción/oferta y consumo/demanda, incluyendo también temáticas de manufacturación, regulación, circulación, distribución, entre diferentes variables. Durante las últimas dos décadas, ha existido progresivamente una revolución digital que se mueve entorno a un nuevo ecosistema dónde las empresas con mayor capital en el mundo pertenecen al sector de tecnologías de la información. En nuestro día a día, interactuamos constantemente con herramientas y productos entregadas por estas empresas que avanza de forma muy rápida y exponencial. A esta nueva economía, que nace como expresión de la a veces llamada Revolución Industrial 4.0, le llamamos economía digital. Esta nueva economía no tiene precedentes y ha dado indicio a la transformación de estructuras no solamente ligadas a la producción económica del mundo, sino también a nivel social.

Lo anterior se ve reflejado en las ocho áreas de acción definidas por Naciones Unidas basadas en las recomendaciones del panel de alto nivel para la cooperación digital, presentando acciones que involucran avanzar para respetar y garantizar derechos humanos en la era digital, promover seguridad, asegurar inclusión digital, entre varios. Estos últimos años también se han posicionado perspectivas claves que destacan las nuevas oportunidades y desafían la reproducción de desigualdades que continúan hoy en día. Entre ellas destacan los enfoques desde la igualdad de género y desde los feminismos.

¿Por qué es necesaria la perspectiva de género en estas temáticas?

Estudios sobre economía desde una perspectiva de género y feministas han abierto campos de estudios esenciales para comprender como diferentes variables que directamente tienen dinámicas vinculadas con la economía, que afectan a mujeres y hombres de manera diferenciada. Por ejemplo, con las temáticas que tienen que ver con lo que es considerado como el “valor del trabajo”, destacando la importancia de considerar trabajos no-remunerados de cuidados o en los trabajos informales. Gracias al esfuerzo de estas perspectivas tenemos la posibilidad de acceder a información esencial de los sistemas económicos, tal como comprender que el trabajo de cuidado no remunerado y el trabajo doméstico representan entre un 10% y un 39% de PIB mundial, que mayoritariamente es realizado por mujeres/niñas y que hace décadas atrás era invisibilizado.

Es por esto que considerar perspectivas de género es crucial,  porque la existencia de injusticias estructurales se extienden (y no reflejan) en el área digital: las brechas de género en el de acceso a Internet, los sesgos de género en inteligencia artificial (IA), las brechas salariales entre hombres y mujeres en áreas STEM, el sexismo, entre otros escenarios; transcribiendo desigualdades que no provienen inherentemente de la Revolución Industrial 4.0 y las tecnologías, si no de los contextos desiguales en los que vivimos hoy en día. Por lo tanto, en esta situación es necesario asesorar desde el trabajo construido anteriormente para visualizar herramientas que nos ayuden a construir un futuro sin discriminaciones y menos desigualdades.

Unas de las perspectivas que han cambiado la forma en la cual observamos a nivel social como las desigualdades afectan de forma diferente a las mujeres es la perspectiva interseccional. En este sentido, si consideramos la economía digital desde una perspectiva interseccional, podríamos observar cómo son afectadas las mujeres por la brecha de acceso, pero de forma desagregada. Por ejemplo, la diferencia de la brecha de acceso de mujeres provenientes de países “en vías de desarrollo” con mujeres de países “desarrollados”, en esta situación, no solamente existe una discriminación generada por las brechas de acceso entre hombres y mujeres, sino que existe un contexto histórico, político, social y económico que les afecta y discrimina de mayor o menor manera dependiendo del país del cual provienen, su pertenencia a comunidades indígenas, su cultura, su edad, su color de piel, su orientación sexual, entre otras variables. La interseccionalidad es crucial también al considerar personas no-binarias y a la comunidad LGBTQIA+.

¿Cuáles son los mayores retos y oportunidades actuales en cuanto a esta temática?

Los sistemas económicos y específicamente la economía digital está ligada directamente a los contextos sociales a los cuales nos enfrentamos día a día, especialmente porque las herramientas de las cuales se “alimenta” la economía son impulsadas en base a la interacción que generamos con éstas y, por tanto, los datos e información que se generan a partir de esto (para otras referencias: la explosión del “big data” y la minería de datos). Dado el contexto, existen múltiples retos actuales  Dentro de estos se encuentran el crecimiento del trabajo informal a través de herramientas digitales, la minería de datos, los sesgos de género en datos, large language models e inteligencia artificial, temáticas de privacidad y seguridad de datos, violencia de género en línea, entre varios.

Por ejemplo, una de las áreas que ha sido destacada por una reciente investigación de Mozilla Foundation es cómo los sistemas de inteligencia artificial afectan desproporcionadamente a mujeres, niñas y personas no binarias. Estos sistemas de IA están usualmente ligados a impulsar a gobiernos a llevar a cabo servicios esenciales, lo cual está ligado intrínsecamente con el funcionamiento de las economías. A su vez destacan que el uso de estas IA no poseen suficientes regulaciones que protejan la información personal de las personas y que incluso, concibe la creación de algoritmos específicos o marketing que genera efectos negativos y discriminación de género.

Por otro lado, uno de los contextos que influyen y son influidos por la economía digital es sobre todo el trabajo. Como especificamos desde Derechos Digitales, el Foro Económico Mundial explica que 65% de los trabajos del futuro serán plenamente dedicados a la innovación y a la tecnología, dónde las normas culturales e institucionales que – si no se actualizan – generarán límites bloqueando el potencial de las niñas en el área digital y, por consiguiente, perpetuarán y acrecentarán desigualdades de género.

 Tal como cuestiona la Dra Becky Faith desde GenderIT en este sentido debemos cuestionar ¿Cuáles son las razones o motivaciones que llevan a buscar un contexto más balanceado (en términos numéricos) laborales? Pregunta que lleva a posicionar finalmente la necesidad de ir más allá de los números, si no que debemos destacar la importancia de medidas comprehensivas que intentan apuntar a la erradicación de las desigualdades de género.

A pesar de enfrentarnos a estos desafíos, este contexto desconocido representa una oportunidad para trabajar con las temáticas de una forma más innovadora e integral. Y es así cómo debemos seguir abriendo paso a la creación de evaluaciones, medidas, políticas públicas y legislaciones responsables que permitan entender las situaciones para tomar acciones en pos de avanzar hacia la igualdad de género.

Reflexiones sobre un futuro menos desigual: la economía digital con perspectiva de género.

Desde Derechos Digitales destacamos la importancia de considerar perspectivas reivindicativas del futuro, donde a través del trabajo y aporte en plataformas como la Cumbre del Futuro y el Pacto Digital Mundial de Naciones Unidas se invita a pensar más allá, disociándonos de las narrativas polarizantes a las cuales el área digital se encuentra sujeta y sobre todo, pensar en caminos que construyan la superación de desigualdades que aumentan con el desarrollo tecnológico.

Necesitamos resaltar la importancia de considerar políticas públicas interseccionales que nazcan desde el nivel local, dónde fortalezcan y establezcan el empoderamiento de mujeres y comunidades LGBTQIA+. Esto, finalmente para proteger su privacidad y datos; resguardando derechos humanos y garantías laborales para evitar la perpetuación de situaciones laborales informales y no remuneradas. Se deben habilitar espacios para concebir la importancia del rol de las mujeres, niñas y personas de la comunidad LGBTQIA+ no solamente desde el número de personas que están estudiando carreras STEM – lo cual sigue siendo sumamente crucial – sino que también integrando perspectivas que consideren otras aristas. Como, por ejemplo, el trabajo no remunerado de cuidados, su valor y extensión en la transformación digital, y analizando finalmente el modo en que les afecta y afecta a la economía digital.

Esto nos brinda la oportunidad de repensar cómo estamos configurando y siendo afectadas por la economía digital, y cómo podemos dar cabida a que estos temas se conciban desde las políticas públicas y acciones a nivel local y global.

 También la importancia a nivel individual, dónde finalmente la concepción de temáticas – como la privacidad y la seguridad de datos, la violencia de género digital, entre otras – sean concebidas como variables que afectan la economía digital y que deben ser trabajadas de forma comprehensiva e interseccional para el fortalecimiento de la democracia, disminución de desigualdades y avanzar hacia un futuro sostenible.

PubliElectoral Plebiscito 2022 Chile

Descargar PDF

La presente investigación tuvo por objetivo observar el impacto de las interacciones en Facebook/META en la campaña del plebiscito de salida para una nueva constitución realizado en Chile en 2022, y evaluar la compatibilidad de tales prácticas con la normativa electoral vigente.