Problemas globales, debates globales

Atravesamos un momento crucial en la gobernanza mundial de internet y las nuevas tecnologías, que podría determinar qué tan libre, segura y abierta será la red informática en el futuro.

Ha pasado la primera mitad de un año clave para el futuro de la comunicación global. Los países latinoamericanos han sido protagonistas de diversas maneras en estos foros globales sobre la gobernanza de internet y el mundo digital. Pero quedando todavía un largo y sinuoso camino al frente, necesitamos ver cómo una visión latinoamericana puede ayudar a avanzar en aspectos clave de estas discusiones.

El Foro para la Gobernanza de Internet (FGI) y el modelo de la CMSI

Hace unas semanas participamos en la Reunión de Alto Nivel del Foro 20 de la Cumbre Mundial de la Sociedad de la Información (CMSI+20), un evento que reunió en Ginebra a varios Estados, miembros de la sociedad civil y de la comunidad técnica, empresas y agencias de la ONU. Se trata de un proceso con un antecedente histórico importante: la evaluación del 20º aniversario de la CMSI, cuyos hitos fundantes fueron los eventos de Ginebra y Túnez en 2003 y 2005 respectivamente, llega en un momento en el que estamos debatiendo aspectos importantes del futuro de internet y la gobernanza digital en distintos lugares.

Aunque se trata de una revisión amplia de un sistema de gobernanza complejo y cambiante, dos puntos destacan en este debate. En primer lugar, la declaración de principios, junto con los documentos de la agenda, ha permitido a agencias de la ONU, como UNESCO y la Unión Internacional de Telecomunicaciones (UIT o ITU por sus siglas en inglés), entre otras, crear líneas de trabajo centradas en las personas. La publicación GISWatch 2024 publicada por APC (una de las organizaciones protagonistas de la CMSI) que evalúa estos 20 años, arroja luz sobre los retos a los que nos enfrentamos y explica por qué este compromiso es tan necesario. Ahora es el momento de evaluar si las promesas que se hicieron hace dos décadas se han cumplido y cómo podemos construir nuevas perspectivas para el futuro, en una realidad diferente, con déficits democráticos, la hegemonía de unas pocas corporaciones y el creciente uso de las tecnologías para fortalecer el autoritarismo, como describen Valeria Betancourt y Anita Gurumurthy.

El segundo punto es la importancia del modelo de múltiples partes interesadas, un enfoque de gobernanza de internet que tiene la visión de que las decisiones deben ser adoptadas por múltiples actores como la sociedad civil, la comunidad técnica y las empresas, además de los Estados. Este modelo ha sido clave para lograr los diversos consensos necesarios para procurar que el entorno digital no esté totalmente controlado por algunos actores, y también como espacio para buscar el respeto de los derechos humanos en la era digital, de manera que la sociedad de la información se adhiera a las necesidades de las personas, incluidas las más vulnerables. El Foro para la Gobernanza de Internet (FGI, o IGF por sus siglas en inglés) ha jugado un papel muy relevante como catalizador de este modelo, como espacio de discusión para mejorar la coordinación de la gobernanza de Internet y la cooperación digital, y como pieza central en el ecosistema de Internet, tal y como destacó Jamila Venturini en el IGF de 2022.

Si bien se trata de un modelo bajo constante tensión y cuestionamiento, sigue siendo una aspiración para una gobernanza legítima de las redes globales, como también de los distintos aspectos de su gobernanza a nivel regional y local. Hace unas semanas, por ejemplo, cuando hablamos de nuestra participación en el evento de UNESCO conmemorativo del Día Mundial de la Libertad de Expresión, hicimos hincapié en la necesidad y la importancia de que múltiples partes interesadas se ocupen colectivamente del entorno en línea y garanticen los derechos humanos, como la libertad de expresión y de prensa, más allá de intereses dominantes de empresas o de Estados.

La agenda digital de Brasil: G20 y NetMundial+10

Los países latinoamericanos intentan cada vez más erigirse en protagonistas de la discusión global sobre nuestro futuro digital. En este sentido, Brasil lleva más de una década liderando iniciativas locales y globales sobre la gobernanza de entornos digitales. Este año también se ha convertido en un actor clave en la construcción de una nueva agenda. El país ostenta actualmente la presidencia del Grupo de los 20 (G20), un grupo de países desarrollados y en vías de desarrollo, y entre cuyas prioridades digitales se encuentran la conectividad significativa, la inteligencia artificial, la integridad de la información y la inclusión digital.

En otras palabras, a partir de una agenda compartida por una veintena de países desde la perspectiva de sus economías, surge así una agenda que corre en paralelo a los procesos globales de gobernanza de internet. A través de la coordinación y el establecimiento de directrices globales que rijan en las medidas sobre conectividad, ciberseguridad y el desarrollo de infraestructuras digitales, pueden surgir así nuevos acuerdos separados de consensos globales. La participación de actores no estatales en esas negociaciones es clave para guiar a los Estados hacia decisiones que mantengan el foco en sus obligaciones sobre derechos humanos.

Además, siguiendo el modelo propuesto en su Marco Civil da Internet de 2014, este año Brasil también fue sede de NetMundial+10, un encuentro que tuvo como objetivo revisar el evento inicial que tuvo lugar en São Paulo en 2014 y que trajo grandes avances en el tema de la necesidad de la participación de las partes interesadas en los debates sobre las diversas formas de gobernanza en el entorno digital. El resultado de este año fue una declaración construida de forma participativa, que trae un elemento esencial para avanzar en aspectos prácticos: fijar directrices para los pasos de un proceso de múltiples partes interesadas que sea verdaderamente participativo. Aunque se trata de un paso importante, no fue suficiente debido a la baja participación de los Estados en el evento.

Llega septiembre: Cumbre del Futuro y Pacto Mundial Digital

La CMSI+20 no es el único espacio en el que tienen lugar debates globales sobre nuestro futuro digital. Hace unos años, el Secretario General de las Naciones Unidas lanzó el documento «Nuestra Agenda Común«, que propone entre otras cosas la creación de un Pacto Digital Mundial (GDC por sus siglas en inglés) que se firmará en la Cumbre del Futuro de Nueva York el próximo mes de septiembre.

Se ha criticado la forma en que se ha debatido el Pacto Digital Mundial.Esto porque el propio proceso de formulación del Pacto, que por ser un proceso multilateral (y no multisectorial) ha enfatizado cada vez más el papel de los Estados y ha obstaculizado la participación de la sociedad civil. Además, los diversos informes de representantes de la sociedad civil sobre las dificultades de participación, especialmente del Sur Global, también pueden verse en las cifras de estas participaciones. Según los datos de DNS RF, sólo el 40,59% de las contribuciones escritas recibidas para el Pacto procedían del Sur Global, con Asia-Pacífico a la cabeza con el 23,76%, seguida de América Latina con el 10,89% y África con sólo el 5,94% de las contribuciones.

Aspectos sustanciales también han sido cuestionados por la comunidad técnica y la sociedad civil. La versión tres del borrador del texto a aprobarse en septiembre, difundida esta semana, se encontraba en un proceso de consulta silenciosa, que se rompió por el desacuerdo de varios países sobre artículos concretos de la propuesta. La falta de priorización de los derechos humanos y la ausencia de compromisos específicos en materia de género son algunos de los puntos que decenas de organizaciones de la sociedad civil critican del texto, según una declaración también firmada por Derechos Digitales. Además, surge la preocupación de que los textos muy amplios o ambiguos pueden ser aprovechados por gobiernos autoritarios para justificar violaciones de los derechos humanos. Como indica Konstantinos Komaits, es importante que el GDC no se convierta en un «vehículo para cambiar las normas de gobernanza o acabe introduciendo nuevos procesos que puedan socavar Internet y el trabajo que han hecho las comunidades que lo han apoyado».

Una historia de aprendizajes

En un mundo cada vez más complejo y lleno de desafíos, es crucial no descartar las enseñanzas que hemos aprendido. La gobernanza digital y de Internet se ha fortalecido significativamente en años recientes, con el IGF y el proceso de la CMSI jugando roles fundamentales en este avance. Incidentes como apagones, filtraciones de datos y escándalos de vigilancia nos hacen conscientes de nuestra interconexión y subrayan la necesidad de enfocarnos en las personas al construir nuestro futuro digital. En septiembre, es vital que los países consideren estas necesidades y no ignoren las valiosas lecciones obtenidas a través de las décadas por gobiernos, la sociedad civil y otros actores no estatales. Un paso fundamental en esta dirección es perfeccionar el modelo de múltiples partes interesadas, fomentando una participación más amplia de las comunidades afectadas en los debates a niveles mundial, regional y local.

Histórica sentencia de la Corte Interamericana de Derechos Humanos: La protección de datos aplica en las tareas de inteligencia

El pasado 18 de marzo la Corte Interamericana de Derechos Humanos (CtIDH) emitió una sentencia histórica en el caso “Miembros de la Corporación de Abogados José Alvear Restrepo (o Cajar) vs. Colombia. La decisión es de relevancia —entre otros— porque, por primera vez en la historia de la Corte se reconoce el derecho a la autodeterminación informativa en las tareas de inteligencia de los Estados.

El caso: abuso estatal en las facultades de inteligencia

La sentencia condenó al Estado colombiano por haber sometido por más de 30 años a un colectivo de defensores de los derechos humanos y sus familias a actos de intimidación, acoso y vigilancia ilegal de manera sistemática que buscaban amedrentar, disuadir, difamar y estigmatizar su labor como defensores en un contexto de conflicto armado y paramilitarismo.

Para entonces, el Estado emprendió acciones de vigilancia ilegal sobre los miembros del CAJAR de diversas formas que incluyeron intervenciones ilegales de sus comunicaciones privadas, registro ilegal de su correspondencia, registros e intromisiones ilegales a sus domicilios, robos de información, infiltraciones de personal de inteligencia estatal en su organización y actividades, labores de inteligencia sobre sus familias —incluidos menores de edad—. Estas actividades, articuladas con amenazas y atentados a la vida de miembros del CAJAR, forzaron a muchos de sus miembros a vivir y trabajar desde el exilio.

Fruto de la impunidad de casi 4 décadas en la justicia colombiana, el caso de las personas defensoras del Colectivo de Abogados llegó en el 2020 a la CtIDH. La Corte elaboró su sentencia en 2023 y la comunicó a las víctimas el 18 de marzo pasado.

En la sentencia, la Corte declaró la responsabilidad del Estado por la violación de 14 derechos humanos, incluido el derecho a la autodeterminación informativa.

La decisión: la autodeterminación informativa también aplica a la inteligencia estatal.

La decisión de la CtIDH señaló, entre otros, que las personas objetivo de las tareas de inteligencia tienen el derecho a acceder a los archivos de inteligencia elaborado sobre ellas para solicitar que su información en manos del Estado sea revisada, corregida, actualizada, y depurada. Para entender la profundidad de esta decisión hay que considerar tres aspectos esenciales de las tareas de inteligencia.

En primer lugar, que por su naturaleza sigilosa y encubierta, la persona que está siendo objetivo de las tareas de inteligencia no consienteni suele tener conocimientode que está en la mira del Estado. Esta se entera, como suele suceder en nuestra región, por filtraciones de inteligencia que son dadas a conocer por la prensa.

En segundo lugar, que las tareas de inteligencia suelen estar exceptuadas de las regulaciones de protección de datos por razones asociadas a la seguridad nacional. Las razones de esta excepción suelen ser menos claras pero, en general, dotan a las actividades del Estado de una mayor opacidad, dificultando su escrutinio incluso por la vía judicial.

Y en tercer lugar, que en las tareas de inteligencia hay dos grandes categorías de información. La información accionable, es decir, información que fue analizada, puesta en contexto y revisada de cara a otras fuentes de información para orientar la toma actual de decisiones; y los archivos de inteligencia, la información que ya cumplió con su ciclo de vida útil y que el Estado conserva sea para su reutilización posterior u otras finalidades.

El fallo de la CtIDH se refiere precisamente a los derechos que tienen los titulares de los datos personales respecto de la información que reposa en los archivos de inteligencia.

Ahora bien, que las personas puedan, según el fallo, ejercer el control sobre la información que reposa en esos archivos, se traduce en que (i) éstas podrán ejercer escrutinio sobre las condiciones de legalidad, necesidad o razonabilidad en que se justificó el Estado entonces para recoger esa información, o para decidir sobre su conservación, y (ii) en que podrán demandar al Estado su eliminación, actualización o corrección, de ser el caso.

La Corte entendió que el ejercicio de esas facultades aplicable respecto de los archivos de inteligencia estaba amparado por el derecho a la autodeterminación informativa, es decir, el derecho a ejercer control sobre quién, cómo y bajo qué condiciones recoge y conserva nuestra información personal.

En el caso colombiano, la CtIDH llamó la atención para que ese derecho cobre vida en el marco de las acciones de depuración y desclasificación de los archivos de inteligencia, una práctica sugerida a los estados por distintos estándares en derechos humanos en materia de inteligencia que aconsejan identificar, caracterizar e inventariar la información de inteligencia que ya no se necesita pero que el Estado sigue teniendo en sus manos.

El reto a futuro: la vigilancia y sus nuevos despliegues o el “Ciberpatrullaje”

Los efectos regionales de este fallo están por ser explorados, pero sin duda que abre una puerta antes cerrada en la conversación sobre cuál, si alguno, era el control que podrían ejercer las personas sobre la información de inteligencia recogida y conservada por los Estados.

Ahora bien, este fallo seguro que tendrá incidencia en las discusiones actuales sobre actividades de inteligencia no convencional, como el Ciberpatrullaje, es decir, una modalidad nueva de la inteligencia estatal que se despliega en internet y que, bajo la excusa de la protección de la seguridad ciudadana en línea, habilita al Estado a la recolección de información asociada a las interacciones en línea de las personas que han sido declaradas como objetivo de seguimiento.

Si el fallo deja en claro que las personas tienen el derecho de acceder, solicitar la corrección, actualización y eliminación de la información personal que consta en archivos de inteligencia, aquella facultad debería poder ser exigible respecto de los archivos en que se documentan las tareas de “ciberpatrullaje”. Pero para llegar allá, hace falta recorrer un camino más largo en el que se reconozca al ciberpatrullaje como lo que es: una actividad de vigilancia.

Gobernanza sobre las plataformas digitales y el rol de los reguladores de medios

Recientemente, la ciudad de Dubrovnik fue sede de una conferencia para el futuro de la gobernanza de plataformas digitales a nivel global. Este evento, celebrado en junio de 2024, reunió a expertas y representantes de diversos reguladores estatales y sus redes, para discutir la implementación de sistemas de gobernanza de contenidos de manera coherente a nivel mundial, con los contenidos ilegales o potencialmente dañinos en internet como el foco de la preocupación.

La conferencia en Dubrovnik es el paso más reciente en un proceso que comenzó con la publicación de las Directrices de la Unesco sobre la gobernanza de plataformas digitales en noviembre de 2023. En febrero de 2023, la conferencia «Internet para la Confianza» buscó construir un consenso inicial sobre estas guías, sentando las bases para la discusión y el desarrollo de políticas más específicas. Entre ambos eventos, se llevaron a cabo múltiples consultas y reuniones técnicas para ajustar y afinar las estrategias regulatorias propuestas, no sin polémica.

Un largo trayecto, un hito más

Estos esfuerzos no están exentos de críticas y desafíos. La gestión de contenidos disponibles en línea debe encontrar un equilibrio entre la libertad de expresión y otros derechos potencialmente afectados. Organizaciones de la sociedad civil y expertos internacionales han señalado repetidamente que las políticas restrictivas, tanto a nivel estatal como de plataformas privadas, pueden llevar a la censura y a la limitación de la participación en el espacio cívico. Del mismo modo, la difícil armonización entre opciones regulatorias con múltiples ejemplos divergentes hace difícil pensar en soluciones únicas que sirvan a todos los intereses en juego. Incluso en la región, la Comisión Asesora contra la Desinformación en Chile subrayaba la importancia de pensar distintos esquemas de regulación, corregulación y autorregulación para combatir ciertas formas de discurso legal pero nocivo.

Una preocupación habitual en la región frente a las iniciativas por influenciar procesos regulatorios nacionales, es el riesgo de que la implementación de ejemplos comparados o de directrices internacionales sirva como excusa para implementar nuevas normas que sirvan como herramientas políticas para silenciar la disidencia política. Así ha pasado con varias otras leyes en la región, combatiendo supuestas preocupaciones como el discurso de odio, el cibercrimen o la desinformación. Todo lo cual podría socavar aún más la confianza en las plataformas digitales y fomentar la arbitrariedad en las autoridades encargadas de implementar nuevas reglas.

Organizaciones como Derechos Digitales expresaron preocupaciones afines durante la discusión de los borradores de las Directrices sobre la gobernanza de plataformas digitales de la UNESCO. También se ha señalado la falta de mecanismos claros para asegurar la participación significativa de todos los actores y se ha criticado la falta de un enfoque más inclusivo en el desarrollo de estas Directrices. Si bien el contenido de la versión final de las Directrices muestra un enfoque más equilibrado hacia la gobernanza de plataformas, con recomendaciones específicas para garantizar la transparencia, la rendición de cuentas y la protección de los derechos humanos en la regulación de contenidos en línea, persisten preocupaciones sobre la implementación efectiva de estas directrices, especialmente en contextos nacionales con marcos regulatorios débiles, instituciones poco preparadas, o tendencias autoritarias.

Competencias regulatorias bajo la lupa

La UNESCO ha promovido la creación de un Foro Global de Redes, reuniendo a su vez a distintas redes regionales de reguladores de medios, plataformas digitales y otros actores. El propósito declarado es compartir experiencias sobre mejores prácticas para implementar los principios de las Directrices a nivel nacional, regional y global. Las propias redes de reguladores (redes que en LatAm incluyen a PRAI https://prai.tv/) de medios y de seguridad en línea firmaron su compromiso con los objetivos de la UNESCO con ocasión de la conferencia de febrero de 2023, como también su voluntad de “desarrollar sistemas regulatorios coherentes” entre distintas regiones. No obstante, en el momento mismo de esos compromisos, el borrador 2.0 de las eventuales Directrices estaba siendo objeto de profunda crítica, en parte en torno a las propuestas de regulación allí contenidas.

Una cuestión crucial es el ámbito de competencia de tan distintos reguladores asociados a estas redes, y su efectiva capacidad de participación en la gobernanza de espacios digitales. Actualmente, los reguladores involucrados en estos foros internacionales tienen competencias variadas que incluyen la supervisión de la radiodifusión, la televisión, telecomunicaciones, y, en algunos casos, la regulación del comercio electrónico. Esta variedad de competencias plantea preguntas significativas sobre su capacidad para adaptarse a la regulación de plataformas digitales.

¿Tienen estos reguladores la experiencia y el conocimiento necesarios para gestionar eficazmente las plataformas digitales? ¿Es adecuado transferir las competencias regulatorias de medios tradicionales a espacios digitales dinámicos y en constante evolución? ¿Cómo se alinean en la práctica la postura de los reguladores digitales y los posicionamientos de agencias con diferentes ámbitos de acción? ¿Cómo se traducen los compromisos compartidos en acciones concretas a nivel nacional? ¿Cómo se suplen las faltas de facultades o de recursos que hagan imposible la implementación de políticas comunes entre países? Estas preguntas subrayan la necesidad de una capacitación y adaptación continua para los reguladores en todo el mundo, pero por sobre todo, ponen aún más en relieve diferencias institucionales significativas entre distintas regiones y distintas jurisdicciones. Las buenas intenciones pueden no ser suficientes para abordar los desafíos únicos del entorno digital. Menos aún si la conversación excluye a la participación multisectorial.

Reflexiones finales

Estas preocupaciones son especialmente relevantes desde la perspectiva latinoamericana. La región enfrenta desafíos críticos en términos de acceso a la tecnología, desigualdades socioeconómicas y marcos legales en desarrollo. La participación activa de la sociedad civil es crucial para asegurar que las políticas digitales no solo protejan los derechos humanos, sino que también fomenten la inclusión y el desarrollo sostenible.

La armonización de los esquemas de gobernanza de plataformas digitales a nivel global es un esfuerzo ambicioso que plantea importantes preguntas sobre jurisdicción, competencias regulatorias, derechos humanos y participación multisectorial. La UNESCO, a través de sus conferencias y redes, ha dado pasos significativos para liderar estas discusiones. Sin embargo, el éxito de las iniciativas de armonización dependerá de la capacidad de muy distintos reguladores para adaptarse a los nuevos desafíos, para la protección efectiva de los derechos humanos con inclusión de una amplia gama de actores en la toma de decisiones.

Assange y el acuerdo para la libertad

JULIAN ASSANGE ES LIBRE, anunció Wikileaks en sus redes sociales. Salió de la prisión de máxima seguridad de Belmarsh la mañana del 24 de junio, tras 1.901 días detenido.“Este es el resultado de una campaña global que abarcó organizaciones de base, defensores de la libertad de prensa, legisladores y líderes de todo el espectro político, hasta llegar a las Naciones Unidas. Esto creó el espacio para un largo período de negociaciones con el Departamento de Justicia de Estados Unidos que condujo a un acuerdo que aún no se ha cerrado formalmente”, informaron. Los posteos se acompañaron con un video de Assange subiendo a un avión. La prensa mundial cubrió su llegada a las Islas Marianas para la audiencia donde aceptarían el acuerdo propuesto entre el Gobierno de EE.UU. y Assange, y su posterior regreso a Camberra, Australia, el 26 de junio.

Los medios internacionales reportaron que el fundador, editor y portavoz del sitio web WikiLeaks obtuvo la libertad bajo fianza tras declararse culpable de un delito relacionado con filtraciones de material clasificado del gobierno de Estados Unidos. Wikileaks había publicado casi medio millón de documentos militares secretos relacionados con las guerras de Estados Unidos en Iraq y Afganistán, además de informaciones sobre lo que ocurría en la prisión de Guantánamo.

Las acusaciones y los años de prisión

Assange estuvo encarcelado en Inglaterra desde 2019, enfrentando una posible condena de 175 años de prisión. Antes, había permanecido siete años en la embajada de Ecuador en Londres, hasta que en abril de 2019, Ecuador le retiró su asilo. Luchaba contra la extradición a EE.UU, enfrentando 18 cargos penales por su papel en la obtención y divulgación de documentos clasicados de defensa nacional, algunos de los cuales exponían presuntos crímenes de guerra.

Los cargos contra Assange se presentaron en Estados Unidos durante la administración de Trump, en 2019, tras revisar una decisión previa de 2013 bajo la administración de Obama, que había concluido en no acusarlo, considerando la libertad de prensa. Sin embargo, con Trump, el Departamento de Justicia revisó el caso, imputando finalmente 18 cargos por manejo indebido de información clasificada.

Este año, expertos de la ONU mencionaron que una extradición y procesamiento en Estados Unidos del fundador de WikiLeaks podría tener graves implicaciones para la libertad de expresión. “El derecho internacional de los derechos humanos proporciona fuertes protecciones a los denunciantes, a las fuentes periodísticas y a los que informan en interés público”, afirmó Irene Khan, Relatora Especial sobre libertad de expresión. “Hago un llamado a Estados Unidos y al Reino Unido, que profesan defender el derecho a la libertad de expresión, a que respeten estos estándares internacionales en el caso de Julian Assange”, concluyó en su declaración.

El acuerdo para la libertad

Este 24 de junio de 2024 la defensa de Assange negoció una sentencia de 62 meses durante la que no estará bajo custodia estadounidense, ya que recibirá crédito por el tiempo que estuvo preso en Reino Unido. Assange, ante un tribunal federal en las Islas Marianas, territorio estadounidense en el Pacífico, se declaró culpable de «conspiración para obtener y revelar información relativa a la defensa nacional», según una carta del departamento de Justicia presentada ante el juzgado.

“Su caso no fue sólo una detención arbitraria que equivalía a tortura en su contra, sino también un intento de silenciar a la nueva generación de periodistas. Pero el coraje es contagioso y esto continúa”, manifestó Renata Ávila, portavoz y parte del equipo que defiende a Julian Assange.

La libertad no es algo inesperado

El diario Página 12 menciona que “El primer ministro de Australia, Anthony Albanese, había pedido en varias ocasiones a Estados Unidos que concluyera el caso. En abril, el presidente estadounidense Joe Biden dijo que lo estaba considerando”.

Desde su encarcelación, múltiples organizaciones internacionales que defienden la libertad de prensa piden su liberación, alegando a derechos como la libertad de prensa y libertad de expresión. «El eterno encarcelamiento y tortura de Assange fue un atentado contra la libertad de prensa a escala mundial», declaró el presidente de Colombia, Gustavo Petro a CNN.

La liberación de Assange y su exención de enjuiciamiento por su trabajo con Wikileaks son motivos de celebración. Sin embargo, es crucial que aprendamos de este caso para asegurar que los gobiernos, especialmente en América Latina, comprendan y reconozcan la importancia de preservar la libertad de prensa y expresión para fomentar la transparencia y combatir crímenes contra la humanidad.

Censura Digital: ¿Protección de derechos o herramienta de silencio?

Imaginen que deciden transmitir en Youtube los cantos y arengas de una protesta que están presenciando y en la que se reivindica algún derecho. De repente, la policía aparece con altavoces reproduciendo a todo volumen canciones de Taylor Swift. Obvio, la música también es capturada en vivo y transmitida en línea para cientos de espectadores.

Y ¿la intención de la policía? Instrumentalizar la activación automática de los mecanismos de “notificación y retiro” que, en plataformas digitales como Youtube, dan de baja a los contenidos que circulan en línea presuntamente sin permiso de su titular.

Previo a una notificación muy vaga y genérica, se justifica el retiro de un contenido que, en este caso —sucedido en la vida real— no buscaba violar los derechos de una artista o perseguir el lucro, sino registrar la ocurrencia de un evento social y quizás histórico.

Notificación y retirada: viejo como la moda de andar a pie

Este mecanismo de vieja data en la historia de internet, y criticado hasta la saciedad en distintas jurisdicciones que lo han apropiado –incluido Estados Unidos donde nació en el contexto de la Digital Millenium Copyright Act DMCA—, es problemático al menos por dos razones.

Primero, por vulnerar el derecho al debido proceso de las personas usuarias de internet. Las razones del retiro, en la práctica, pueden ser muy vagas o genéricas. El retiro, es ante todo, una decisión unilateral de un privado (la plataforma de internet). Y en caso de acudir a la justicia para defender la validez de su contenido, la persona deberá demostrar que no vulnera el derecho de autor de nadie, o que actuó de buena fe. Ahora, buena suerte reclamando en la justicia de países donde las plataformas sacan con frecuencia de la manga el argumento “allá no tengo domicilio; sobre mí no tienen jurisdicción”.

En segundo lugar, por vulnerar el derecho a la libertad de expresión de las personas usuarias de internet, y en concreto, por promover la censura. En el caso de más arriba, que la obra de Taylor Swift suene de fondo en un video de una protesta, y que la intención de la transmisión en vivo no sea la de perseguir el lucro con la reproducción de la obra de la artista, debería contar en las decisiones sobre la presunta infracción del derecho de autor.

Pero para la “notificación y retirada” el contexto no suele importar mucho. Ni antes del retiro ni después de este, pues cuando la persona afectada decide reclamar ya no en la justicia sino ante la misma plataforma —lo que recibe el nombre de “contra-notificación”— la evidencia sugiere que excepcionalmente, salvo que la persona afectado tenga poder de negociación fruto de su visibilidad, estos reclamos terminan siendo atendidos.

Pese a esto, la “notificación y retirada” recibió el aval reciente de la Suprema Corte de la Justicia de la Nación en México. En un fallo, cuyo texto aun no se publica, declaró constitucional la reforma que en 2020 modificó la Ley Federal de Derechos de Autor LFDA y que introdujo dicha figura, pero ¿por qué?

Tratados multilaterales y la colonización regulatoria

En México la recepción del mecanismo de “notificación y retirada” estuvo justificada por el tratado de libre de comercio entre México-Estados Unidos-Canadá (TMEC) negociado en 2018 y en vigor desde 2020. El tratado ordena, tal y como lo prevé el capítulo sobre “Derechos de Propiedad Intelectual” (arts. 20.89 y ss) su adopción para las partes.

Que México adoptase el mecanismo de “notificación y retirada” pese a lo problemático que pueda ser, trasciende al mero cumplimiento a toda costa de un compromiso multilateral previamente suscrito. Su adopción es ante todo fruto de los mecanismos de colonización regulatoria que ejercen países del Norte Global sobre los del Sur.

Uno de los países con mayor poder de presión regulatoria luego de suscrito un tratado de libre comercio es Estados Unidos que, cada año, publica el informe “Special 301” que acusa y señala las “deficiencias regulatorias” de los países —mayoritamente del Sur Global- que tienen compromisos comerciales sin cumplir, incluido el TMEC.

La publicación pone a los países en una “lista de observación” o la “lista prioritaria de observación”, para dar un énfasis más o menos ominoso y de reprobación al conjunto de países seleccionados como incumplidores. En ellas se encuentran México (en la lista de observación) a los que sugiere endurecer mucho más la regulación de propiedad intelectual para prevenir y combatir la piratería en línea.

Este mismo mecanismo de presión, de hecho, fue uno de los que influenció en 2011 el trámite sin éxito en Colombia de una reforma que, como la aprobada en México, buscaba adoptar el mecanismo de “notificación y retirada” en la ley de derechos de autor. Pese a que organizaciones de la región que hacen seguimiento anual al Special 301 enfatizan en la necesidad de abolir dicho informe, la presión regulatoria continúa.

¿Qué esperar ahora luego del fallo?

Ahora, conviene esperar la publicación íntegra del fallo, pues en él hay un voto disidente de la Jueza Norma Lucía Piña Hernández, presidenta de la CSJN que precisamente da voz a las preocupaciones sobre el impacto que la “notificación y retirada” en la protección de la libertad de expresión de las personas. La disidencia de hoy, puede ser la voz mayoritaria del futuro.

Pero hasta entonces, veremos cómo el mecanismo de notificación y retiro es instrumentalizado para silenciar a las personas, tal y como sucedió en las recientes elecciones donde opositores políticos lo emplearon para censurarse mutuamente. Casos como el de su uso por cuerpos de policía en contextos de protesta no será de extrañar tampoco.

Hasta que la posición de la Corte pueda mutar a futuro, conviene seguir cuestionando este mecanismo que, pese a ser tan viejo, no logra probar su eficacia en la lucha contra la infracción de los derechos de autor sin sacrificar en el medio los derechos de las personas usuarias de internet.

¡Cuidado, te están vigilando!

El Ministerio de Seguridad de la Argentina publicó la última semana de mayo, la resolución 428/2024, que establece “pautas, principios, criterios, recomendaciones y directivas para las labores preventivas de los delitos que se desarrollan en ambientes cibernéticos”. Este protocolo se suma a una serie de resoluciones orientadas a la utilización de fuentes abiertas para la prevención del delito, que fueron impulsadas durante el tiempo por distintos gobiernos, más allá de sus diferencias partidarias.

El primero fue publicado en 2018, durante la presidencia de Mauricio Macri, a través del Ministerio de Seguridad (con Patricia Bullrich como ministra). Dos años más tarde, en 2020, estos lineamientos fueron derogados y reemplazados por una nueva versión, a partir de la Resolución 144/20 del mismo Ministerio. Esta vez, en un nuevo Gobierno, bajo otro partido político, opositor al gobierno anterior: el gobierno de Alberto Fernández. Esta resolución fue derogada en 2022 por la misma gestión, el gobierno argentino estuvo sin un protocolo de vigilancia por fuentes abiertas hasta fines de mayo pasado.

En qué consiste el nuevo protocolo

El nuevo protocolo establece lineamientos enfocados en proveer a las fuerzas federales de un marco de acción para la vigilancia de fuentes en línea, limitadas a “sitios de acceso público, especialmente en redes sociales de cualquier índole, fuentes, bases de datos públicas y abiertas, páginas de Internet, Dark-Web y espacios de relevancia de acceso público”. Cabe aclarar que este limitante figura entre los considerandos y no en el texto de la resolución en concreto.

El mismo párrafo resalta que debe actuar bajo los parámetros de la Ley 25.326 de Protección de Datos Personales, lo cual es reforzado en los Artículos 1 y 3. Los “temas” objeto de estas tareas de vigilancia, están delineados en diecisiete incisos del artículo 2. Entre ellos, se encuentran las infracciones a las leyes de Tenencia y tráfico de estupefacientes (23.737), Armas Y Explosivos (20.429), Delito informáticos (26.388), de protección animal (14.346); así como amenazas, intimidaciones, ventas provenientes de ilícitos o falsificaciones, acoso o violencia por motivos de género, extorsión y acoso sexual, trata de personas, terrorismo, búsqueda de personas; entre otros.

Hay algunos puntos específicos que llaman la atención por su amplitud o, incluso, por su vaguedad. Entre ellos, el Artículo 2, Inc “o”, que destaca, entre los temas mencionados en el párrafo anterior, “Cualquier otro delito del que se pueda obtener noticia a través del ciberespacio”. El Artículo 3, Inc “d” afirma que “Se excluirán de la lista para su presunta judicialización aquellas conductas susceptibles de ser consideradas regulares, usuales o inherentes al uso de Internet y que no evidencien la intención de transgredir alguna norma”.

Estos ejemplos generaron una reacción en legisladores de la oposición, quienes trabajan en un pedido de informes en el marco de sus competencias en el Congreso Nacional. Fundamentan su inquietud por los riesgos de la vulneración del Artículo 19 de la Constitución Nacional, garante de la protección de la privacidad de las personas, así como diversos tratados internacionales de Derechos Humanos, también con rango constitucional en la Argentina.

Estas inquietudes pueden reforzarse a partir de otros puntos de la Resolución. El artículo 5 afirma que el uso de Inteligencia Artificial (IA), el cual da por sentado, “se ajustará a las estrictas necesidades” de la actividad regulada por el protocolo. Entre sistemas de IA incluye “el uso de softwares o cualquier dispositivo o herramienta tecnológica de tratamiento de la información automatizada basada en inteligencia artificial, aprendizaje automático, sistema experto, redes neuronales, aprendizaje profundo o cualquier otra que en el futuro se desarrolle”. Este punto en sí mismo despierta otra pluralidad de inquietudes, dadas las restricciones técnicas que implican los sistemas de vigilancia masiva basados en IA para restringir el procesamiento de datos a los casos donde solamente se detecte una potencial infracción a los delitos mencionados.

Ciberpatrullaje, labores preventivas, vigilancia de fuentes abiertas o ¿labores de Inteligencia?

Hasta aquí, algunos comentarios y dudas sobre el texto del nuevo protocolo. Con sus características a la vista, también cabe realizar algunos comentarios sobre la práctica en sí.

Expertas del Centro de Estudios en Libertad de Expresión y Acceso a la Información (CELE), en un artículo publicado en ocasión del Protocolo vigente durante 2020, ponen en duda la diferencia entre las tareas de “vigilancia” y las de “inteligencia”, a la hora de la utilización de fuentes abiertas por parte del Estado. Allí resaltan la normativa local respecto de las tareas de inteligencia, enmarcadas en los establecido por la Ley de Inteligencia Nacional (25.520), el Decreto 1311/15 y subsiguientes, la Ley de Seguridad Interior y el Código Procesal Penal de la Nación.

El punto radica en las zonas grises de esta normativa. Como afirman las autoras, si bien la Ley 25.520 no prohíbe expresamente la vigilancia sobre fuentes de acceso público, el Decreto 1311/15 sí hace mención explícita de estas fuentes, pues define a la información de inteligencia como “aquella que comprende las observaciones y mediciones obtenidas o reunidas de fuentes públicas o reservadas”. De esta manera, los principios y objetivos del nuevo protocolo entrarían dentro de este marco, desdibujando los límites entre las tareas de vigilancia e inteligencia.

En el mismo sentido, un reporte publicado por el Centro de Estudios Legales y Sociales (CELS) además de manifestar su preocupación entre la superposición de competencias entre las áreas de seguridad e inteligencia, analiza las afectaciones a la libertad de expresión y a la privacidad. Acerca del riesgo que implica la vigilancia de las redes sociales por parte de las fuerzas de seguridad, el CELS afirma que los casos judicializados como resultado de esas tareas de vigilancia fueron “profusamente espectacularizados”, lo que tiene un efecto “de amedrentamiento de las expresiones públicas” y un consecuente debilitamiento de la discusión y el debate públicos. De la misma manera, la organización Access Now resalta el “efecto inhibidor” que tienen estas prácticas para el discurso público, cuando las personas creen que el gobierno monitorea sus mensajes.

Protocolos para el espacio digital y para la vía pública

No es menor el dato: este protocolo es implementado por un gobierno que generó acciones tendientes a la criminalización de la protesta social. Entre ellos, otro protocolo, no para el espacio digital sino para la vía pública, el “protocolo para el mantenimiento del orden público ante el corte de vías de circulación”, fuertemente criticado por organismos como la Coordinadora Contra la Represión Policial e Institucional (Correpi). Este otro protocolo, también publicado por el Ministerio de Seguridad, establece el deber de identificar “autores, cómplices e instigadores, mediante filmaciones y otros medios digitales o manuales, con registro prioritario de los datos de sus líderes y organización con la cual se vinculan, sin perjuicio de proceder a su detención, cuando así corresponda legalmente”. En este sentido, puede haber una complementariedad entre ambos protocolos.

¿Qué puede salir mal?

Será necesario monitorear los avances en la implementación de estas nuevas políticas. En este sentido, la inclusión de una perspectiva de Derechos Humanos para la implementación de políticas de uso de tecnología no sólo en las áreas de seguridad, sino en toda la administración pública, se vuelve de extrema prioridad. Se trata de un argumento más en contra de la implementación de protocolos basados en principios, con límites difusos, sin establecer mecanismos de rendición de cuentas y autoridades de control.

Inteligencia Artificial en América Latina: Regulación no significa protección

Ha pasado medio año desde la última vez que observamos lo que ocurre en América Latina en materia de regulación de inteligencia artificial. Al igual que las tecnologías, que se expanden, desarrollan y se popularizan, aunque no a la misma velocidad, las regulaciones en la región también han progresado. Como es esperable, no se trata de sucesos aislados en el mundo, sino parte de una tendencia global que ya tiene algunos hitos significativos en el primer mundo, que amenazan con convertirse en modelos para realidades muy distintas.

Europa: ¿modelos a seguir?

A mediados de mayo, el Consejo de Europa adoptó el primer tratado internacional sobre inteligencia artificial, marcando un hito significativo en la regulación de esta tecnología emergente.

El Convenio establece requisitos de transparencia y supervisión adaptados a riesgos específicos, incluyendo la identificación de contenidos generados por IA. Las partes deben identificar, evaluar, prevenir y mitigar riesgos, y considerar moratorias o prohibiciones si la IA es incompatible con los derechos humanos. También se garantiza la rendición de cuentas y el respeto a la igualdad y la privacidad. Además, deben asegurar recursos legales y garantías procesales para las víctimas de violaciones de derechos humanos e informar a quienes interactúan con estos sistemas. El tratado requiere medidas para que la IA no socave las instituciones democráticas. El convenio incluye un mecanismo de seguimiento mediante una Conferencia de las Partes y exige un mecanismo de supervisión independiente, sensibilización pública y consultas con múltiples partes interesadas.

En tanto, después de una larga y tensa negociación, en marzo el Parlamento Europeo aprobó una ley histórica para regular la inteligencia artificial en la Unión Europea, en un movimiento pionero a nivel global. Este acto legislativo, conocido como la Ley de Inteligencia Artificial o «AI Act», tiene como objetivo establecer un marco regulatorio robusto para la inteligencia artificial, abordando preocupaciones tanto de innovación como de ética y derechos.

La nueva reglamentación prohíbe ciertas aplicaciones de inteligencia artificial que violan los derechos ciudadanos, como sistemas biométricos invasivos y la creación de bases de datos de reconocimiento facial mediante la captura indiscriminada de imágenes. Además, los sistemas de IA de alto riesgo deben evaluar y mitigar riesgos, ser transparentes y sujetos a supervisión humana.

Sin embargo, no todo es celebración. Críticas desde la sociedad civil han dado cuenta de que la AI Act está llena de vacíos legales y defectos que podrían socavar su eficacia en la protección del espacio cívico y el Estado de derecho. En particular, se han destacado fallas, excepciones y vacíos que podrían convertir las prohibiciones contenidas en la Ley en meras declaraciones vacías, sin efecto real.

América Latina y los “nuevos” modelos

Volviendo a la realidad regional, ha sido medio año de interesantes y preocupantes sucesos. Algunas de las propuestas que ya hemos mencionado han seguido su curso, con la continuación de la discusión en Brasil y una propuesta de reemplazo en Costa Rica, que simplifica y mantiene la propuesta más bien como un proyecto marco. Más de un proyecto en Argentina y alguno en México dan cuenta de la tendencia a presentar iniciativas, con muy variables contenidos y perspectivas de convertirse en ley.

Otros han avanzado más. El Perú, ejemplo de la primera ley sobre inteligencia artificial en la región a mediados de 2023, de limitado alcance por sí sola, ha visto recientemente la publicación de un reglamento para la ley, sometido a comentarios públicos. El especialista Carlos Guerrero destacaba las carencias técnicas de la propuesta reglamentaria, dando cuenta de las dificultades prácticas en la implementación de medidas que hagan efectivas las obligaciones asociadas al desarrollo de la IA.

En Colombia, en tanto, logró algo de tracción un proyecto de ley, originado en la Cámara de Representantes para regular la inteligencia artificial. En audiencia ante la Comisión primera, la Fundación Karisma destacó la necesidad de mejor comprensión del panorama antes de regular, como también la conveniencia de una mayor interacción con distintas partes interesadas, en línea con su profundo llamado a la participación ciudadana en estos procesos. Por cierto, un llamado que vale la pena reforzar frente a la serie de proyectos de ley sobre IA que han proliferado también en el Senado.

En Chile, en tanto, después de un proyecto de ley de la Cámara que había encontrado críticas y resistencia, el Ejecutivo envió su propio proyecto de ley de regulación integral de la inteligencia artificial, suscrito por once ministerios. El proyecto define los sistemas de IA de manera amplia para aplicar sus obligaciones a proveedores, implementadores, importadores, distribuidores y representantes autorizados en el país, definiendo distintos roles en la cadena de suministro de IA y centrándose más en el uso que en tecnologías específicas.

En comparación con la legislación de la Unión Europea y la regulación de los Estados Unidos, el proyecto establece un enfoque reactivo en lugar de preventivo. Se clasifican los sistemas de IA en categorías de riesgo, desde inaceptable hasta sin riesgo evidente, y se aplican prohibiciones y reglas específicas para cada categoría, incluyendo casos como la prohibición de análisis biométrico en tiempo real en espacios públicos. Se promueve la autorregulación de las empresas en la evaluación, de manera que cada empresa clasifique el riesgo de sus sistemas en base al listado que elabore un nuevo Consejo Asesor de IA.

El proyecto incluye medidas para incentivar la innovación, especialmente entre las pymes y las startups. Se proponen sandboxes regulatorios, como espacios de pruebas y validación para sistemas de IA, gestionados por entidades públicas como la eventual Agencia de Protección de Datos Personales. El Consejo Asesor de IA tendría así un papel clave en la identificación de sistemas de alto riesgo y limitado riesgo, así como en la elaboración de normativas. La eventual Agencia también tendría responsabilidad en la supervisión y aplicación de la ley.

Si bien buena parte del proyecto chileno suena heredado de otros esfuerzos como la AI Act, el gobierno chileno ha reconocido que tanto los intereses económicos como la seguridad pública son factores clave en la aproximación a la adaptación local. Esto es causal de alarma: aunque hay un criterio pragmático en no fijar obligaciones estrictas previas al funcionamiento en un mercado reducido como el chileno, se abandona una aproximación precautoria de derechos fundamentales. El problema se exacerba al notar la excepción a las reglas de la ley que se extiende, de manera general, a la seguridad nacional, y separadamente, a la aplicación en la seguridad pública para usos tales como el reconocimiento facial automatizado. Así, la oportunidad de una moratoria protectora de derechos no solo es desaprovechada, sino expresamente rechazada.

Las disputas que vienen

A medida que la regulación de la inteligencia artificial avanza en América Latina, surgen preocupaciones sobre la protección de los derechos fundamentales. La excepción a las reglas de la ley para la seguridad nacional y la falta de participación cívica en la implementación y supervisión podrían debilitar la capacidad de la regulación para salvaguardar los derechos de los ciudadanos.

Es fundamental trabajar en la promoción de regulaciones que fomenten la transparencia, la rendición de cuentas y la participación ciudadana en la toma de decisiones sobre el desarrollo y uso de esta tecnología emergente, con el objetivo de garantizar un equilibrio adecuado entre la innovación tecnológica y la protección de los derechos humanos. Derechos Digitales se encargará de participar activamente en las discusiones legislativas relacionadas con la inteligencia artificial, por lo que puedes esperar análisis más detallados sobre varias de estas propuestas.

Una propuesta de ley contra el activismo

¿Qué pasa en Venezuela?

Ya en junio de 2022 y en abril de 2023 se exploraron las potenciales implicancias de este tipo ley en un país sin separación de poderes, además de reseñar cómo ha sido la experiencia en otros países de la región como El Salvador y Nicaragua.

Básicamente se ha llevado adelante la discusión del proyecto de ley de forma unilateral por parte del gobierno y sin participación alguna de la sociedad civil. El borrador que circula de dicha propuesta de ley no es oficial, es decir, no hay certezas sobre los contenidos reales que se llevan a debate. Aun así, fue aprobada en primera discusión por la Asamblea Nacional en enero de 2024 desatando las alarmas de las organizaciones de la sociedad civil y de la comunidad internacional. Pero no es un tema nuevo, sino cíclico y recurrente y ya en septiembre de 2023, varias relatorías de las Naciones Unidas se pronunciaron sobre los efectos negativos de este tipo de ley en el espacio cívico del país.

Desde enero hasta mayo de 2024, la propuesta de ley hibernó cuando Diosdado Cabello anunció que la ley sería aprobada al día siguiente ya se trataba de una deuda con el país. Ante estas declaraciones se hizo evidente que esta propuesta de ley pone a las organizaciones sociales como el «enemigo interno» del país dejándoles además poco margen de reacción.

El 21 de mayo no se aprobó la ley en su totalidad (aunque sí se aprobaron nueve artículos) y se pospuso la discusión en la Asamblea Nacional. Es decir, la amenaza real sigue siendo potencial y como un peso que se balancea sobre la cabeza de la sociedad civil.

¿Por qué la alarma ante este proceso?

La cooperación internacional en sí misma no se limita a los fondos de otros países que puedan recibir las organizaciones sociales. Se basa en el principio de la colaboración entre países y eso incluye intercambio técnico y judicial entre otras formas de trabajo colaborativo.

Una ley que criminalice los fondos internacionales para la sociedad civil organizada envía un mensaje también a aquellos países con los que se tienen relaciones diplomáticas. No sólo con los países que se antagoniza en discurso sino con aquellos con los que se tienen relaciones más cordiales, además de afectar en igual medida a las organizaciones que son afines al gobierno.

Esta propuesta de ley se ha ido perfilando evolutivamente a un detalle en que se castiga a aquellas organizaciones sociales que son críticas al gobierno y que sirve de instrumento restrictivo.

¿Por qué ahora?

La amenaza de aprobar esta ley en un país con una crisis humanitaria compleja, una economía inestable y un panorama sociopolítico y que además tendrá elecciones generales el próximo 28 de julio, viene de alguna manera a atomizar la atención y la acción de las organizaciones sociales. Temen no sólo por el cierre del espacio cívico, sino por el impacto que tendrá esto en las comunidades a las que atienden. Se enmarca en un año donde el gobierno ha recrudecido las detenciones de políticos y activistas contando con más de 250 presos políticos en la actualidad y en donde el discurso sigue sin encontrar una vía para la reconciliación.

Mientras tanto…

El 13 de mayo en Perú, el congresista conservador Alejandro Muñante Barrios, propone el PL 7818/2023-CR, que solicita mediante la intervención del Ministerio Público, la posibilidad de disolución de asociaciones y fundaciones si estas reciben financiamiento para promocionar, realizar, desarrollar, o financie actividades consideradas “ilícitas” en territorio peruano, dejando abierta la interpretación de actividades ilícitas, en las que pueden incluirse organizaciones que trabajan por la despenalización del aborto, por ejemplo. Una propuesta que si bien no es exclusiva de quienes reciban fondos internacionales, estigmatiza la cooperación internacional y criminaliza a las organizaciones por su mandato y labor en la comunidad cuyo efecto será la reducción de la acción de la sociedad civil y el abandono de las comunidades a las que atienden dichas organizaciones.

Por otro lado, este proyecto de ley parece olvidar también que tanto en los convenios de cooperación como en los concursos para recibir fondos, las asociaciones explicitan siempre el uso que harán de los mismos. La propuesta de ley sigue su curso burocrático y de ser aprobado en el Legislativo, traería como consecuencia la disolución de ciertas ONG incómodas para el gobierno de turno y estos grupos religiosos que se han hecho del poder, reduciendo entonces el ejercicio democrático de participación. Perú se sumaría a la lista de países de la región que buscan reducir de forma proactiva la acción de la sociedad civil, tal como pasa en El Salvador y en Nicaragua.

Fuera de la región y más recientemente, Georgia sí aprobó la ley de agentes extranjeros parecido al modelo ruso de la ley que se basa también en el modelo del “enemigo interno”, y que etiqueta a todas aquellas organizaciones o medios de comunicación cuyos ingresos foráneos superen el 20% de su total, obligándoles a registrarse como “portadores de los intereses de una potencia extranjera”. Nuevos modelos de leyes constrictivas que no necesitábamos.

El costo invisible

Por otro lado, el costo invisible más grande que tiene esta amenaza de ley es el que pagan los activistas de las organizaciones, que trabajan en comunidades pero que también son ciudadanos y que se enfrentan por un lado a la inestabilidad laboral como consecuencia de este tipo de ley y que se suma a las condiciones económicas del país, y por otro, el temor a su seguridad personal por las posibles represiones. Es la carga mental de tener cuidado y hacer un activismo que negocia constantemente con ponerse en la línea de riesgo. Es un contexto que vulnerabiliza en todas las dimensiones posibles al activismo en un juego de desgaste constante en donde todos pierden.

La escuela de mañana, ahora

La pandemia lo cambió todo. Se sabe. Uno de los ámbitos que sufrió mayores transformaciones fue la enseñanza y así lo alertamos en su momento, desde una mirada regional. Pasar de la sala de clases, espacio físico que comporta cierta intimidad funcional al proceso de aprendizaje, a un contexto sin estas características y, peor aún, sin garantizar primero la infraestructura necesaria para la educación a distancia, provocó, de acuerdo con UNESCO en ese entonces, una tragedia.

Salto temporal al presente y ya no es solo la brecha de conectividad, la falta, la que está impactando de manera negativa al futuro de la humanidad; también la abundancia, expresada en la masificación de las herramientas de inteligencia artificial generativa (IA), pone en peligro la integridad de los conocimientos que adquieren, en este mismo instante, niñas, niños y adolescentes (NNA) en todo el planeta.

Todo esto ocurre al mismo tiempo en que la Unión Europea investiga a Meta, compañía a cargo de Facebook e Instagram, por una posible manipulación intencional a NNA mediante los algoritmos de estas plataformas y por no proveer las garantías suficientes de privacidad, seguridad y protección de menores, contraviniendo lo estipulado en la Ley de Servicios Digitales.

¿Alguien quiere pensar en los niños?

Se entiende que las plataformas sociales, por su nivel de alcance, sean el foco permanente de acciones legales e interpelaciones para rendir cuentas. Desconocemos, sin embargo, qué está pasando en cuanto a protección de datos y seguridad digital en las plataformas educativas. El paradero de los miles de datos recopilados durante una hora pedagógica por software “de ayuda” -intervenciones de estudiantes, materiales educativos, métricas de uso, etc.- es una incógnita.

Otro estudio publicado por UNESCO en 2023 es categórico al evidenciar los efectos negativos en la relación entre el uso de smartphones y los resultados educativos, pero también concluye que “si bien la prohibición de la tecnología en las escuelas puede ser legítima en ciertos casos, también se debe considerar su integración adecuada en el aprendizaje”.

Esta ambigüedad normativa se expresa en la falta de consensos mundiales al respecto. En San Pablo, Brasil, el mes pasado se anunció el uso de la IA para mejorar el currículo escolar producido por los profesores y las críticas no se hicieron esperar: cuál es el rol de las maestras en este cambio, cuáles son las líneas éticas que determinarán su uso y qué tipo de control existe sobre posibles afirmaciones falaces emitidas por estos sistemas, por mencionar algunas de ellas.

En Suecia, mientras tanto, la apuesta es por desescalar el avance de las tecnologías al interior de la sala de clases, luego de los magros resultados obtenidos por sus estudiantes, especialmente en cuanto a capacidades lectoescritoras, en mediciones internacionales. Tales efectos también fueron advertidos en nuestra región en 2018.

Como vemos, el problema es de larga data, pasan los años y, más allá de denunciar la guerra y el hambre, e implementar medidas absolutistas tipo “todo o nada”, desconocemos el verdadero impacto, en el mediano y largo plazo, de estas acciones en el aprendizaje escolar.

Un, dos, tres: Madurez

Contrario a las numerosas de voces de alarma que a diario alertan sobre un apocalipsis pedagógico que destruye la capacidad cognitiva de las infancias alrededor del mundo, lo cierto es que la tecnología, una vez más, es el chivo expiatorio de las malas decisiones que toma seres humanos como tú y como yo, a diferencia de que bajo su cargo tienen el destino del aprendizaje de millones de niñas, niños y adolescentes.

Fuentes consultadas para este análisis -madres y padres- así lo afirman: ven en los motores de búsqueda, aplicaciones de aprendizaje y, sobre todo, los juegos una enorme ayuda en la crianza de sus hijos, al permitir delegar en estas herramientas “la parte cuantitativa” de la educación y ocuparse ellas, en cambio, de entregar aquello que no puede medirse con calificaciones.

Un estudio publicado en 2023 en España, fruto de la colaboración público-privada, adopta un enfoque propositivo sobre este tema, preguntándose por el futuro de la IA en la educación, en América Latina. Sus conclusiones son optimistas: hay tiempo, de aquí al 2030, para meditar y establecer legislaciones claras sobre su uso en las aulas, llamando a todos los sectores (gobiernos, privados, academia, sociedad civil) a colaborar en este esfuerzo conjunto. En Latinoamérica nos toca generar instrumentos en esta misma línea, desde nuestro conocimiento de la realidad local a partir de la experiencia.

En este punto de la historia, “Papel v/s Pantallas” no es más que un título sensacionalista para atraer clics que, campañas de miedo o fearmongering mediante, reduce los desafíos en torno a la educación a una mera cuestión de soporte. La realidad nos muestra que el abrupto acceso a tecnologías que no podíamos siquiera describir hace cinco años trae consigo un deber de las personas adultas que las regulan, implementan y utilizan a comportarse como tales.

Un conocido refrán africano sostiene algo similar a la idea de que “Se necesita una aldea completa para cuidar de un niño”. Llegó la hora de hacernos cargo, aldea global.

¡Por elecciones más informadas! El urgente compromiso de las plataformas digitales con la transparencia en México

Se avecinan las elecciones en México, en las que elegiremos a la próxima presidencia de la república. Las tecnologías digitales resuenan dentro de los debates entre las candidaturas, quienes las utilizan como bandera del tecnosolucionismo para sus propuestas, pero también por su rol determinante en el proceso electoral debido al gran flujo de información que transita diariamente a través de plataformas digitales.

Por supuesto, en este ejercicio democrático, la desinformación está presente. De acuerdo con el Instituto Nacional Electoral (INE), “el 87% de mexicanas y mexicanos toman como la principal fuente de noticias las plataformas por internet”, por lo tanto, cuando circulan noticias falsas se vuelve un tema de interés público —por ejemplo, cuando el actual presidente demandó fallidamente investigar granjas de bots que le perjudicaban tanto a él como a la candidata de su partido—.

Sin embargo, una excesiva moderación de contenidos que no cumpla con las normas internacionales de derechos humanos puede mermar la opinión de la población, que no está exenta del recibimiento de este tipo de contenido y que, algunas veces, no cuenta con las herramientas para distinguir entre noticias falsas y verdaderas. En este escenario, se espera que las plataformas digitales se preparen, teniendo una amplia colaboración con las autoridades, pero también con una serie de acciones proactivas que promuevan la transparencia de sus actos ante la desinformación.

Entre la opacidad y los limitados esfuerzos por la transparencia

En este periodo electoral hemos visto casos en los que la transparencia de las plataformas digitales y las autoridades deja mucho que desear. En febrero de 2024, circularon noticias sobre la decisión de Instagram de limitar el “contenido político de cuentas que no sigues”. De acuerdo con la plataforma, esta acción fue tomada para que las personas usuarias de Instagram y Threads tengan una “excelente experiencia” en estos sitios, evitando recomendar de manera proactiva contenido político en secciones como en el feed o los reels; la plataforma asegura que esto no afectará la forma en que se muestra el contenido de las cuentas que sí sigue un usuario. Esta configuración se activó de manera automática y las personas no fueron explícitamente informadas.

¿Qué significa esto en un contexto electoral como el que está viviendo México? Que las personas usuarias son limitadas en su derecho a la información. Si bien es completamente válido que las usuarias no deseen recibir este tipo información y contenidos políticos, es necesario comunicarlo de la manera más transparente posible para respetar el derecho a decidir por cuenta propia. La falta de transparencia sobre el funcionamiento y configuración de las plataformas genera incertidumbre sobre la selección de contenidos que nos están mostrando al navegar por estos sitios.

Asimismo, en México se cuenta con un marco regulatorio desactualizado respecto a la publicidad electoral y su relación con las plataformas digitales. Hoy en día, en entornos digitales hay múltiples brechas y vacíos legales que le impiden a las autoridades mexicanas, como el INE, tomar decisiones imparciales y claras sobre los contenidos falsos o ilegales que circulan en redes sociales y otras plataformas.

De acuerdo con la campaña “Censura Electoral”, impulsada por organizaciones locales y regionales, el INE se ha valido de medidas cautelares para solicitar a las plataformas digitales la remoción de contenido, siendo en 2018 (en las elecciones presidenciales previas) uno de los años con más solicitudes. Al no requerir de una decisión de un juez competente, la medida cautelar promueve una arbitrariedad por parte del INE, poniendo en peligro la libertad de expresión de las usuarias y usuarios de estas plataformas.

Lo cierto es que, a pesar de la opacidad y arbitrariedad, las plataformas están colaborando con las autoridades electorales en el combate a la desinformación para este 2024. De forma conjunta, Meta, el INE y la organización Movilizatorio lanzaron el programa educativo Soy Digital, con miras a brindar herramientas a la ciudadanía para detectar y denunciar noticias falsas, estrategia que incluye un chatbot en WhatsApp para realizar preguntas directas al INE sobre estas elecciones.

Mientras tanto, Google lanzó su programa Transparencia México para combatir noticias falsas, que implica, entre otras cosas, ajustes en su buscador para mostrar información oficial sobre el proceso electoral; posibilidad de tener mayor información sobre las imágenes, por ejemplo, saber cuándo se indexó por primera vez ese contenido; alianza con proyectos de audio fact checking, y monitoreos de contenido de publicidad engañosa en YouTube.

En este entorno digital, en donde la inteligencia artificial (IA) juega un papel importante en la generación de contenido —mismo que algunas veces es difundido con la intención de generar desinformación— , tanto Meta con su política de anuncios sobre temas sociales, electorales y políticos lanzada en noviembre de 2023 y Google con su programa antes mencionado, buscan alertar cuando una imagen o contenido han sido creados o modificados con IA u otras tecnologías. A esto se suma una iniciativa proactiva de Meta: su biblioteca de anuncios, la que también ha sido implementada en otros países.

Para transparencia, lineamientos claros

La realidad del ecosistema de opacidad, tanto por parte del gobierno como de las plataformas digitales, genera una preocupación y una traba metodológica para realizar investigaciones sobre el panorama de desinformación en procesos electorales, tal como lo enfatiza Anna Bentes en su investigación sobre las elecciones brasileñas de 2022. La difusión de noticias falsas, la remoción de contenidos sin criterios claros de derechos humanos y la limitación de contenidos consumidos por las usuarias por decisión unilateral de las plataformas son una forma explícita de vulnerar los derechos humanos en entornos digitales como la libre expresión y el acceso a la información.

Existe una delgada línea entre la regulación y la injerencia que debe ser tratada cuidadosamente en las políticas públicas en esta materia. Por una parte, se debe fomentar que los marcos regulatorios en procesos electorales motiven la transparencia de las plataformas digitales sobre sus configuraciones, decisiones e infraestructura para combatir la desinformación con un enfoque de derechos humanos. Por otra, que la colaboración entre autoridades y plataformas no debe implicar la solicitud arbitraria de las autoridades para la remoción de contenidos. De esta forma se evitan abusos y vulneración a los derechos políticos electorales por parte de las plataformas y las autoridades.

Más importante aún, es necesario que las autoridades en México construyan una estrategia clara sobre la transparencia y la desinformación en elecciones, que tengan claridad de los lineamientos y estándares regionales e internacionales de derechos humanos y que las colaboraciones con plataformas se realicen basadas en una amplia comprensión del ecosistema de desinformación en México. Los programas existentes muestran un buen inicio para prevenir a la población, dotándole de herramientas para identificar noticias falsas o promover una cultura de la verificación de la información. Sin embargo, hace falta un mayor alcance de estas acciones para contar con elecciones más y mejor informadas.