Hacia una infraestructura global de responsabilidad para la IA

*Este artículo se basa en las reflexiones presentadas por las autoras durante el primer Diálogo Global de la ONU sobre la Gobernanza de la IA, incluidas las intervenciones de Jamila Venturini en el Diálogo oficial y de Marina Meira en eventos paralelos.

La producción de IA está altamente concentrada en unas pocas empresas y países que han venido dando forma tanto a las tecnologías como a los procesos de gobernanza hasta la actualidad. A su vez, son quienes tienen mayor interés en el avance de la IA dentro de determinadas regiones y sectores según sus propias condiciones. Las asimetrías de poder incluyen, en particular, la dependencia de los países del Sur Global respecto a los actores corporativos que activan múltiples estrategias para influir en cómo se llevará a cabo su integración en la economía de la IA.

Si bien los beneficios de la IA se concentran en unos pocos, su huella está distribuida. Como lo destacaron varias participaciones durante el primer Diálogo Global de la ONU sobre la Gobernanza de la IA, recientemente concluido, la IA implica una cadena de suministro que va desde la extracción de minerales hasta el procesamiento de datos y requiere una inmensa cantidad de recursos naturales para funcionar. Sus impactos en el medio ambiente, el trabajo y los derechos humanos en general son estructurales y afectan a personas trabajadoras, comunidades y territorios que, con frecuencia, están lejos de ser los principales beneficiarios de la economía de la IA.

La brecha en la rendición de cuentas de la IA

El actual escenario trae aparejada una brecha crítica de rendición de cuentas a nivel global, con múltiples dimensiones. Una dimensión jurisdiccional, derivada del carácter distribuido de las cadenas de suministro tecnológicas y del intento de las corporaciones de eludir el cumplimiento normativo, aprovechando la ausencia de presencia legal en ciertas regiones y países. Una dimensión regulatoria, que explica la variación en las capacidades y características regulatorias e institucionales dentro de diferentes contextos. Relacionada con la brecha jurisdiccional, esto significa que un mismo sistema de IA puede enfrentar un escrutinio riguroso en un país y casi ninguno en otro. También permite lo que se conoce como “jurisdiction shopping”, a través del cual las empresas aprovechan intencionalmente una brecha regulatoria como ventaja para eludir la rendición de cuentas a nivel de la cadena de suministro.

Otra dimensión de la brecha global de rendición de cuentas está relacionada con el poder. Las grandes empresas tecnológicas cuentan con recursos económicos, legales, financieros y políticos superiores a los de algunos países. Esto significa que muchos gobiernos, especialmente en el Sur Global, negocian con ellas desde una posición mucho más débil y que las comunidades más afectadas por los daños causados por la IA suelen ser aquellas con menor acceso a recursos, representación o justicia.

Por último, existe una brecha de evidencia o de información. Si bien los riesgos de la IA suelen presentarse como parte de escenarios futuristas propios de la ciencia ficción, ya se han documentado ampliamente los daños en múltiples ámbitos. Entre los ejemplos se incluyen la violencia de género facilitada por la IA, la vigilancia policial predictiva y el reconocimiento facial y emocional, entre otros. Sin embargo, no existe una fuente unificada de información sobre dichos daños a nivel de la cadena de suministro.

El Panel Científico sobre IA resumió la brecha de rendición de cuentas como un desafío de economía política derivado de la alta concentración del mercado: «si bien algunas jurisdicciones se benefician de leyes sólidas de privacidad y protección de datos, si se implementa fuera de los límites de seguridad, la capacidad concentrada de la IA genera preocupaciones sobre los impactos en la democracia y los derechos humanos, junto con una posible captura regulatoria y la falta de rendición de cuentas».

El reconocimiento de las desigualdades globales, la concentración del mercado, el impacto a nivel de la cadena de suministro y las brechas de rendición de cuentas representa un cambio clave en la narrativa dentro de los espacios globales de gobernanza de la IA y es, en sí mismo, un logro significativo de este Diálogo. Sin embargo, la pregunta que queda por resolver es cómo pasar del diagnóstico a la acción, de cara a su segunda edición en 2027. Abordar los impactos ambientales, laborales y de derechos humanos en general dentro de la cadena de suministro transnacional de la IA es una tarea urgente. Y el sistema internacional de los derechos humanos tiene un papel esencial que desempeñar para cerrar la brecha global de rendición de cuentas.

Cerrar la brecha

Si bien queda mucho por hacer para abordar los impactos de la IA en los derechos humanos, ya existe la base normativa para hacerlo. En los últimos años, los organismos de la ONU y el sistema de derechos humanos de la ONU han afirmado de manera consistente que los sistemas de IA deben cumplir con el derecho internacional de los derechos humanos a lo largo de todo su ciclo de vida, algo que también ha reconocido la Asamblea General desde 2024. Cuando el cumplimiento sea imposible, la respuesta adecuada no es la mitigación, sino la prohibición o la moratoria de la tecnología y su uso. En otras palabras, los Estados y otras partes interesadas deben abstenerse de utilizar dichos sistemas o dejar de hacerlo.

Lo que se necesita ahora es traducir estos compromisos en prácticas de gobernanza en todas las jurisdicciones y a lo largo de toda la cadena de suministro de la IA. Esto requiere una arquitectura internacional de rendición de cuentas basada en al menos dos pilares complementarios.

El primero ya se está configurando. El Panel Científico Internacional Independiente sobre IA se creó para evaluar la evidencia, identificar áreas de consenso e incertidumbre científica, y proporcionar a los responsables de la formulación de políticas una base independiente para la toma de decisiones. Al igual que el Panel Intergubernamental sobre el Cambio Climático (IPCC, por sus siglas en inglés), puede establecer una base probatoria compartida sobre la cual los gobiernos puedan debatir las opciones de políticas públicas.

Esta función es indispensable. Las decisiones sobre si determinados sistemas o usos de la IA cumplen con los umbrales establecidos por el derecho internacional de los derechos humanos no deben depender únicamente de los argumentos de las empresas o de prioridades políticas cambiantes. Sin embargo, el consenso científico por sí solo no puede sustentar la rendición de cuentas. La ciencia avanza con cautela, pero las comunidades y el planeta están sufriendo daños a un ritmo diferente y acelerado.

En otras palabras, la evaluación científica no puede abarcar todo el espectro de los daños causados por la IA. Muchos impactos son contextuales y surgen únicamente cuando los sistemas de IA interactúan con realidades sociales, políticas o ambientales específicas. La misma tecnología puede generar consecuencias profundamente diferentes dependiendo de dónde y cómo se implemente. Un centro de datos, por ejemplo, tendrá impactos ambientales dondequiera que se construya, pero la naturaleza y la gravedad de esos impactos dependen del contexto local. En una región que ya enfrenta una escasez crónica de agua, o donde los pueblos indígenas y las comunidades dependen directamente de los ecosistemas locales para su sustento, probablemente intensificará significativamente las presiones existentes.

Del mismo modo, los sistemas de IA pueden reforzar patrones existentes de discriminación, explotación laboral o represión política de formas que solo se hacen visibles a través de la experiencia local. Estos daños rara vez aparecen primero en conjuntos de datos globales o en revisiones científicas. Son identificados principalmente por las comunidades afectadas por ellos.

Es por eso que la arquitectura emergente de gobernanza de la IA aún carece de un segundo pilar, igualmente importante: un mecanismo internacional permanente para documentar los daños relacionados con la IA. Dicho mecanismo no debería reemplazar la evaluación científica. Por el contrario, la complementa al crear vías institucionales a través de las cuales la evidencia generada por -o con- las comunidades afectadas pueda informar a la gobernanza global antes de que se alcance un consenso académico.

Las organizaciones de la sociedad civil, el periodismo de investigación, los movimientos de base, los sindicatos y las personas investigadoras independientes, entre otros, suelen ser los actores mejor posicionados para identificar los daños emergentes, dada su proximidad a los contextos locales. Sin embargo, su trabajo suele carecer de recursos suficientes y estar desconectado de la toma de decisiones a nivel internacional.

Fortalecerlo no requiere necesariamente crear nuevas instituciones, sino conectar mejor y reforzar las ya existentes. Esto implica brindar a estos actores apoyo financiero e institucional sostenible e independiente, junto con estándares y metodologías de documentación compartidos, al tiempo que se crean canales formales a través de los cuales las evidencias que producen puedan evaluarse sistemáticamente, incorporarse a los procesos internacionales y utilizarse para informar la toma de decisiones.

El propio sistema de derechos humanos de la ONU también debe convertirse en un componente central de la rendición de cuentas en materia de IA. El Examen Periódico Universal (EPU), los órganos de tratados, los procedimientos especiales y el Consejo de Derechos Humanos, por ejemplo, ya investigan violaciones de derechos humanos, reciben evidencia y emiten recomendaciones. En lugar de duplicar estos mecanismos, la gobernanza de la IA debería reforzarlos, proporcionándoles recursos adecuados, mandatos más sólidos y una coordinación sistemática para que los daños relacionados con la IA se conviertan en una parte permanente de su ejercicio.

Finalmente, la gobernanza de la IA debe reconocer, al mismo tiempo, que la IA no es un sector sino una tecnología habilitadora cuyos impactos abarcan varias áreas como el trabajo, la salud, la educación, el medio ambiente, la democracia y el desarrollo. Por lo tanto, la rendición de cuentas en torno a este asunto no debe limitarse a instituciones específicas de la IA. El Panel Científico, el Diálogo Global y la arquitectura de rendición de cuentas más amplia deberían trabajar en estrecha coordinación con instituciones como la Organización Internacional del Trabajo (OIT), los organismos de gobernanza ambiental y el Comité para la Eliminación de la Discriminación contra la Mujer.

En conjunto, estos pilares podrían constituir la base de una verdadera infraestructura global de rendición de cuentas.

La oportunidad entre períodos de sesiones del Diálogo Global

Las normas de derechos humanos, incluidas las relativas a los derechos sociales y económicos, constituyen la base principal sobre la que construir un consenso en torno a los límites innegociables. Resulta alentador que, en los últimos años, los llamamientos a establecer límites innegociables internacionales para la IA hayan cobrado un impulso significativo, reuniendo a organizaciones de la sociedad civil, personas investigadoras, exjefes de Estado y otras expertas. A medida que esta conversación madura, se debe prestar mayor atención a la cuestión práctica de cómo estos compromisos pueden ponerse en práctica y adquirir concreción en la realidad.

El primer Diálogo Global sobre la Gobernanza de la IA ha creado un espacio para que se desarrolle este debate. El reto ahora es traducir ese impulso político en una arquitectura de rendición de cuentas capaz de documentar los daños, informar la toma de decisiones y respaldar la acción colectiva más allá de las fronteras. El período previo al segundo Diálogo, en 2027, ofrece una oportunidad única para comenzar a hacer precisamente eso.

El derecho a sostenerse: medios independientes frente a la concentración del poder digital

América Latina cuenta desde hace décadas con una amplia tradición de comunicación independiente. Radios comunitarias, periódicos locales y proyectos de comunicación popular surgieron para informar desde los territorios, fortalecer la participación ciudadana y visibilizar realidades (como derechos humanos, demandas de pueblos indígenas, comunidades rurales, o conflictos socioambientales) que con frecuencia quedaban fuera de las agendas comerciales.

La expansión de internet abrió un nuevo capítulo para estas iniciativas. La reducción de las barreras de entrada permitió que periodistas y organizaciones crearan medios digitales con costos significativamente menores que los requeridos por la prensa impresa, la radio o la televisión, lo que amplió las posibilidades para el surgimiento de nuevos proyectos periodísticos. Sin embargo, también trasladó buena parte de la infraestructura mediante la cual circulan las noticias hacia un reducido número de plataformas privadas.

La apertura que internet produjo para crear nuevos medios convive hoy una dificultad para sostener proyectos periodísticos. Entre 2015 y 2024 desaparecieron al menos 678 medios digitales independientes en América Latina. Detrás de esa cifra hay comunidades que perdieron una fuente de información cercana, investigaciones que dejaron de realizarse y espacios de deliberación pública que difícilmente serán reemplazados.

Su desaparición acelera la expansión de los “desiertos informativos”, y este vacío no queda libre; es rápidamente colonizado por contenidos desinformativos, narrativas polarizantes y campañas de manipulación que prosperan ante la falta de un periodismo que contraste y verifique los hechos.

Los nuevos intermediarios de la información

Si durante décadas los medios controlaban buena parte de la distribución de sus publicaciones, hoy esa función recae en gran medida sobre plataformas digitales que recomiendan información mediante sistemas algorítmicos, como analizamos en esta investigación de Derechos Digitales sobre gobernanza algorítmica y circulación de contenidos. Motores de búsqueda, redes sociales, aplicaciones de mensajería y, más recientemente, herramientas de inteligencia artificial generativa se han convertido en los principales intermediarios entre los medios y sus audiencias.

De acuerdo con el Digital News Report 2026 del Reuters Institute for the Study of Journalism, las redes sociales (54 %) superaron a los sitios web y aplicaciones de los propios medios (51%) como principal vía de acceso a las noticias. Esta tendencia refleja un cambio en el ecosistema informativo, ya que cada vez menos personas buscan directamente un medio de comunicación y más reciben las noticias a través de plataformas digitales.

Diversos informes de la UNESCO advierten que las grandes empresas de tecnología participan en la distribución de contenidos, administran buena parte de la publicidad digital, determinan sistemas de recomendación, gestionan métricas de audiencia y moderan publicaciones. Como también hemos señalado desde Derechos Digitales junto a otras organizaciones del Sur Global, estos sistemas no son neutrales: incorporan decisiones de diseño, criterios de priorización y objetivos comerciales (o, recientemente, alineados a tendencias políticas ultraderechistas). En consecuencia, una parte significativa de la circulación de información de interés público depende de decisiones adoptadas por éstas, cuyos criterios de funcionamiento suelen ser poco transparentes.

El Reuters Institute también señala que la incertidumbre provocada por los constantes cambios en los algoritmos de recomendación constituye uno de los principales desafíos para la sostenibilidad del periodismo. Una modificación en los criterios de búsqueda o en los sistemas de recomendación puede reducir drásticamente el alcance de un medio de un día para otro, afectando tanto su visibilidad como sus posibilidades de financiamiento. Al mismo tiempo, la incorporación de herramientas de inteligencia artificial introduce una nueva capa de intermediación: cada vez más personas obtienen respuestas directamente desde asistentes de IA, sin visitar necesariamente los sitios que produjeron la información original.

La asfixia económica y persecución política en el entorno digital

La reducción de las barreras para crear un medio digital no eliminó uno de los desafíos históricos del periodismo: encontrar un modelo económico capaz de sostener la producción de información de interés público.

La publicidad constituye una de las principales fuentes de financiamiento para los medios de comunicación y conforme las audiencias migraron hacia internet, también lo hicieron los anunciantes. El problema es que esos recursos ya no llegan en la misma proporción a quienes producen el contenido informativo. Según el informe World Trends in Freedom of Expression and Media Development, Google y Meta concentran aproximadamente la mitad del mercado mundial de publicidad digital. La concentración de la pauta publicitaria en estas plataformas reduce los ingresos disponibles para el periodismo independiente e incrementa la asimetría de poder entre quienes producen información de interés público y quienes controlan su distribución y monetización.

Cuando disminuyen los recursos disponibles para el periodismo independiente, también se reducen las posibilidades de financiar investigaciones, mantener corresponsales locales o cubrir comunidades alejadas. La sostenibilidad de los medios se convierte en un desafío para el pluralismo informativo.

En América Latina, esta inestabilidad financiera se entrelaza con presiones políticas. El ecosistema de medios independientes enfrenta escenarios donde la supervivencia está condicionada al alineamiento con los discursos oficiales. Como hemos documentado anteriormente desde nuestra organización, diversos medios independientes han enfrentado el retiro discriminatorio de publicidad estatal, demandas judiciales estratégicas, campañas coordinadas de desinformación, hostigamiento contra periodistas en espacios digitales y prácticas de vigilancia que comprometen su independencia editorial y la posibilidad de investigar asuntos de interés público sin represalias. Reportajes publicados recientemente por El País, muestran cómo las campañas de desprestigio contra periodistas, los ataques coordinados en redes sociales y los discursos hostiles provenientes de actores políticos contribuyen a erosionar la credibilidad de la prensa.

En este contexto, los medios independientes enfrentan un desafío doble. Por un lado, deben encontrar formas de sostener económicamente proyectos periodísticos de interés público en un mercado profundamente desigual. Por otro, necesitan reconstruir y fortalecer la confianza con sus audiencias en un entorno digital donde la atención es cada vez más escasa y la competencia por la visibilidad está mediada por sistemas de recomendación cuyos criterios de funcionamiento permanecen, en gran medida, opacos. La falta de transparencia sobre cómo las plataformas priorizan o limitan la circulación de contenidos genera incertidumbre para los medios y dificulta que puedan desarrollar estrategias de sostenibilidad.

Regular el poder corporativo para proteger el pluralismo

Si el problema es estructural, las respuestas también deben serlo. La innovación periodística es necesaria, pero insuficiente cuando las reglas del ecosistema digital continúan favoreciendo la concentración del poder económico y tecnológico. Proteger el pluralismo informativo requiere políticas públicas y marcos regulatorios capaces de equilibrar las relaciones entre plataformas, medios y ciudadanía desde un enfoque de derechos humanos.

Debemos reconocer el valor democrático de los medios comunitarios y sin fines de lucro, tal como señala la Relatoría Especial para la Libertad de Expresión de la CIDH y el Instituto Interamericano de Derechos Humanos. La CEPAL ha advertido sobre la creciente concentración de los mercados digitales y la necesidad de desarrollar políticas que promuevan una transformación digital más equitativa, incluyendo marcos que favorezcan la competencia, la transparencia y la diversidad informativa.

Organizaciones como ARTICLE 19, Access Now y la Asociación para el Progreso de las Comunicaciones (APC) y Derechos Digitales coincidimos en que la regulación de las plataformas digitales debe partir de un enfoque de derechos humanos. Entre las principales recomendaciones se encuentran fortalecer la transparencia de los sistemas algorítmicos que moderan y recomiendan contenidos, establecer mecanismos efectivos de rendición de cuentas y limitar las asimetrías de poder que hoy concentran las grandes plataformas tecnológicas, con el fin de proteger la libertad de expresión, el pluralismo informativo y otros derechos fundamentales.

¿Cómo estamos respondiendo en América Latina?

La UNESCO, a través de su Programa Internacional para el Desarrollo de la Comunicación (PIDC), ha impulsado proyectos en países como Costa Rica, Guatemala, Honduras, El Salvador, Uruguay y Venezuela orientados a fortalecer la sostenibilidad de los medios, promover reformas regulatorias para los medios comunitarios y desarrollar capacidades para enfrentar los desafíos del ecosistema digital.

SembraMedia ha documentado durante años la situación de los medios digitales independientes en América Latina y desarrolló programas de aceleración como Velocidad, acompañando a decenas de medios en la diversificación de ingresos, el desarrollo de modelos de membresía y la sostenibilidad financiera.

En el ámbito de las políticas públicas, organizaciones como OBSERVACOM han promovido propuestas para fortalecer el pluralismo en el entorno digital, mejorar las condiciones regulatorias de los medios comunitarios y garantizar mayor transparencia por parte de las plataformas digitales.

En Brasil, iniciativas como el Atlas da Notícia, impulsado por Projor, han contribuido a visibilizar los desiertos informativos mediante el mapeo sistemático del periodismo local. Además de generar evidencia sobre las brechas de acceso a la información, este proyecto ha fortalecido el debate público y la formulación de políticas orientadas a promover un ecosistema mediático más diverso y sostenible.

Las experiencias latinoamericanas dialogan con debates que hoy también avanzan en otras regiones. Australia fue pionera al establecer mecanismos para que las grandes plataformas negociaran compensaciones económicas con los medios por el uso de sus contenidos, mientras que Canadá adoptó un modelo similar mediante la Online News Act. Aunque las estrategias son distintas, todas parten de un mismo diagnóstico: cuando una parte significativa del valor generado por el periodismo es capturada por un pequeño número de plataformas digitales, garantizar la sostenibilidad de los medios deja de ser un asunto exclusivamente privado y se convierte en una cuestión de interés público.

Durante años defendimos el derecho a publicar. El desafío de hoy consiste en defender algo igual de importante: el derecho de las voces independientes a permanecer. Una democracia fuerte habilita las condiciones económicas, tecnológicas y políticas que hacen posible que esas voces sigan existiendo.

Cuando la vigilancia se vuelve parte del paisaje

Esta columna fue publicada originalmente en Global Voices

En América Latina, la vigilancia rara vez se presenta como lo que es. Suele instalarse bajo otras promesas: seguridad, eficiencia y orden. Y en ese proceso va colonizando espacios cada vez más cotidianos hasta que deja de parecernos extraña. Antes, una cámara de reconocimiento facial nos llamaba la atención, incluso nos hacía cuestionarla. Hoy se integra en el transporte público, en eventos masivos, en estadios de fútbol.

El avance de estas tecnologías no ocurre como una excepción ni como una medida temporal. Se instala de forma silenciosa y, muchas veces, sin debate público, sin transparencia y sin que las personas sepan realmente qué datos se están recopilando, quién los almacena o cómo podrían ser utilizados después. En el mejor de los casos, se esconde tras el consentimiento individual. En el peor caso, se asume que es lo que la población necesita.

Cantar también es un dato

En mayo de 2024, más de un millón y medio de personas se reunieron en Río de Janeiro en la playa Copacabana para el concierto gratuito de Madonna. Era una noche de celebración, pero también de vigilancia a gran escala, donde miles de agentes, drones y cámaras de reconocimiento facial fueron desplegados bajo el argumento de garantizar la seguridad. Desde Derechos Digitales documentamos lo que había ocurrido y lo incorporamos a un informe de la Relatoría Especial para la Libertad de Expresión.

Acá la vigilancia no se limitó al espacio físico. Según reportó la prensa brasileña, la Policía Militar de Río de Janeiro intensificó también el monitoreo de redes sociales como parte de la estrategia desplegada para el evento. El llamado ciberpatrullaje se realizó sin un marco jurídico claro que estableciera límites, controles o mecanismos de supervisión específicos. La multitud no solo era observada por cámaras en la playa, sino que también era seguida en sus publicaciones, comentarios e interacciones digitales.

El problema no es una tecnología aislada, sino cómo empiezan a combinarse entre sí. Cámaras, reconocimiento facial, drones y monitoreo de redes sociales terminan operando como parte de un mismo sistema de vigilancia total sobre el espacio público. Y esa lógica no afecta a todas las personas por igual. En ciudades como Río de Janeiro, organizaciones de la sociedad civil han advertido durante años que estos sistemas tienden a reforzar procesos de criminalización sobre poblaciones empobrecidas y afrodescendientes, además de generar un efecto inhibidor sobre quienes simplemente quieren participar de la vida pública, protestar o asistir a un evento cultural sin sentirse observados permanentemente.

Un año después, cuando Lady Gaga anunció un concierto gratuito en el mismo lugar, el escenario era casi idéntico. Desde Derechos Digitales decidimos actuar antes de que empezara: publicamos una alerta un día antes del show, advirtiendo que lo que habíamos documentado iba a repetirse. Y así fue. Dieciocho puntos de control con reconocimiento facial en las calles que conducen a la playa, un cinturón de vigilancia biométrica cubriendo toda la zona costera, cerca de dos millones de personas potencialmente escaneadas. Para el show de Shakira de este año el escenario de vigilancia también fue casi idéntico, donde utilizaron miles de agentes, drones y cámaras de reconocimiento facial conectadas al centro de comando de la ciudad para gestionar la multitud.

La ciudadanía iba a cantar, bailar y ser parte de una multitud y terminó formando parte de un proceso de recolección masiva de datos biométricos. Nadie firmó un formulario de consentimiento antes de entrar. Nadie eligió participar en ese sistema. Simplemente estaban ahí, celebrando, y eso fue suficiente para que sus rostros quedaran registrados en una base de datos cuyo destino, uso y tiempo de almacenamiento nadie explicó con claridad.

Moverse por la ciudad dejó de ser anónimo

En Chile, durante el 2025 el Ministerio de Transportes anunció un piloto para incorporar reconocimiento facial como forma de pago en el transporte público. La medida fue presentada como una mejora en la experiencia de usuario y limitada a quienes se inscribieran voluntariamente. Pero implicaba algo más profundo: la posibilidad de vincular de forma permanente la identidad biométrica de cada persona con sus desplazamientos diarios. Tomar el metro, el bus, ir al trabajo, volver a casa, todo eso dejaría de ser un acto anónimo para convertirse en una secuencia de datos registrables, analizables y potencialmente reutilizables.

Por quién y para qué, nadie lo explicó. La reforma a la ley de protección de datos personales de Chile había sido aprobada meses antes, pero no entrará en vigor sino hasta fines del 2026. No existe todavía una autoridad con capacidad real de fiscalizar. Sin transparencia, sin límites sobre retención de datos, sin garantías de consentimiento, subirse al sistema de locomoción colectiva podía convertirse así en un acto de entrega biométrica. No necesariamente porque exista una intención explícita de vigilancia, sino porque el sistema fue diseñado sin considerar sus impactos.

Desde Derechos Digitales advertimos sus riesgos, llamamos a frenar la iniciativa y dejamos en evidencia lo fácil que estas tecnologías logran instalarse en la discusión pública, como si fueran inevitables. Esa percepción tampoco surge sola: es el resultado de una narrativa deliberada que presenta la vigilancia como progreso y el cuestionamiento de la vigilancia como obstáculo al progreso.

Entrar a la cancha tiene un precio que nadie eligió pagar

En Brasil, esta misma lógica llegó a otro espacio. En varios clubes de fútbol, el reconocimiento facial se volvió obligatorio para ingresar en días de partido con capacidad de 20 mil personas o más. Millones de personas entregan sus datos biométricos como condición para participar en uno de los rituales más arraigados de la región. No como una opción, sino como un requisito. El argumento es, de nuevo, la seguridad: controlar la violencia, identificar a personas que representan un riesgo, garantizar el orden en espacios que históricamente han sido escenario de incidentes graves.

Pero en la práctica esto implica la creación de bases de datos masivas, muchas veces gestionadas por terceros, con escasa transparencia sobre su uso, almacenamiento o destino. La Autoridad Nacional de Protección de Datos de Brasil (ANPD) abrió una fiscalización a 23 clubes tras detectar irregularidades.

Y hay errores. Personas detenidas por identificaciones incorrectas, muchas veces afectando de manera desproporcionada a personas negras. No son fallas técnicas menores que el sistema irá corrigiendo con el tiempo. Son el síntoma de algo más profundo: algoritmos entrenados con datos sesgados que reproducen y amplifican desigualdades históricas, con consecuencias reales sobre personas reales. La narrativa de seguridad que justifica estos sistemas rara vez menciona ese costo.

Una infraestructura que nadie votó

Lo que estos tres ejemplos revelan, juntos, no son tecnologías aisladas, sino sistemas que empiezan a conectarse entre sí: reconocimiento facial, bases de datos biométricos, monitoreo automatizado y empresas privadas que participan en la expansión y administración de estas tecnologías a gran escala. Una infraestructura que avanza más rápido que cualquier marco regulatorio capaz de contenerla, y que recae de manera desproporcionada sobre quienes tienen menor capacidad de resistirla o cuestionarla.

La vigilancia registra lo que hacemos y, además, incide en cómo lo hacemos. Puede hacer que una persona dude antes de asistir a una protesta, que evite ciertos lugares, que modifique cómo se mueve o se relaciona con otros. Ese efecto no siempre es visible ni medible, pero es sostenido. Y con el tiempo cambia algo en la textura de la vida pública, en la sensación de que los espacios compartidos no son realmente nuestros.

Qué se puede hacer

Cuando estos sistemas empiezan a operar sin transparencia, sin límites claros y sin supervisión efectiva, el debate público llega tarde. Desde Derechos Digitales hemos dicho muchas veces que tecnologías como el reconocimiento facial son una de las tecnologías más intrusivas que existen y que, lejos de protegernos, vulneran nuestros derechos fundamentales.

Para quienes vivimos en estas ciudades, la primera forma de resistencia es no asumir que esto es inevitable. Preguntar qué tecnologías se usan en los espacios que habitamos. Exigir que los sistemas que capturan nuestros datos sean explicados, auditados y limitados. Apoyar a las organizaciones que documentan estos procesos y los llevan al debate público. Y cuando el próximo concierto masivo, el próximo piloto de transporte público o el próximo partido anuncie nuevas tecnologías de seguridad, hacer la pregunta que casi nunca aparece en la cobertura mediática: ¿quién decidió esto, cuándo y por qué nadie nos consultó?

La vigilancia se vuelve parte del paisaje porque dejamos de hacernos esas preguntas. La buena noticia es que cuando volvemos a hacerlas, el paisaje puede empezar a cambiar.

Nuevo convenio de la OIT reconoce la IA como herramienta de gestión laboral y sienta un precedente histórico

Entre el 1 y 12 de junio, Ginebra reunió a representantes de gobiernos, empleadores y personas trabajadoras de todo el mundo en la Conferencia Internacional del Trabajo (CIT) con el propósito de retomar uno de los temas centrales de la edición anterior: el borrador de un convenio y una recomendación sobre trabajo decente en la economía de plataformas. De aprobarse, dicho documento se convertiría en el primero de carácter normativo a nivel internacional orientado al reconocimiento y la regulación del ejercicio del derecho al trabajo a través de las nuevas tecnologías. Tras jornadas extenuantes de negociación, una noticia llegó para marcar un hito histórico para el sector: ¡se aprobó el convenio!

En esta columna, haremos un balance de las discusiones que rodearon la consecución del Convenio Nº 193, rescatando las principales demandas de los colectivos de trabajadores y trabajadoras, junto con sus matices y tensiones frente a los intereses y posicionamientos de los gobiernos y el sector privado. Nos detendremos en las disposiciones relativas a la gestión algorítmica del trabajo mediado por plataformas digitales, pues su inclusión en este instrumento representa uno de los grandes logros del proceso de negociación. Y es que, desde la expansión de esta modalidad de trabajo, las afectaciones que los sistemas algorítmicos generan en las condiciones de vida y laborales del colectivo han sido uno de los ejes de su lucha.

Un Convenio para plasmar y avanzar derechos

En publicaciones anteriores hemos explicado la relevancia de la CIT y de los acuerdos y recomendaciones que allí se discuten y adoptan para el mundo del trabajo. Cabe recordar que los convenios de la Organización Internacional del Trabajo (OIT) tienen como objetivo establecer principios mínimos que garanticen condiciones dignas y derechos fundamentales para toda la fuerza laboral, en todos los sectores, sin importar su estatus contractual. Cuando un Estado miembro ratifica uno de estos instrumentos normativos, queda obligado a trasladarlo a su legislación y práctica nacionales.

Entre las demandas presentadas por las personas trabajadoras, e incorporadas desde 2025 a las discusiones en la CIT, se encontraban: rendición de cuentas significativa en la toma de decisiones algorítmica; estructuras salariales y de asignación de tareas transparentes; garantías de que los costos relacionados con el trabajo sean asumidos por las compañías; y protección frente a la clasificación errónea que hacen las aplicaciones sobre las personas prestadoras de servicios como independientes o autónomas. Además, se exigía: establecimiento de la primacía de realidad; transparencia en los procesos de evaluación del desempeño, así como en las métricas utilizadas y su impacto sobre futuras oportunidades laborales; protección frente a los riesgos para la salud y la seguridad derivados del trabajo en plataformas; salvaguardas para la privacidad y claridad sobre el uso de datos personales; y garantías para la negociación colectiva y la libertad de asociación.

La antesala de estas demandas se encuentra en los pliegos de peticiones de organizaciones sindicales en todo el mundo, que contribuyeron a esbozar un estándar internacional incluso antes de la CIT de 2025. La agenda impulsada por las organizaciones de trabajadores de la economía de plataformas y su notable capacidad de articulación colectiva se erigieron como una fuerza movilizadora fundamental para la adopción de la nueva normativa.

Aprobado con 406 votos a favor y 8 en contra, el Convenio N° 193 se aplica tanto a personas trabajadoras en plataformas basadas en la web como a aquellas basadas en la ubicación, como las de transporte y entrega, lo que amplía su radio de protección en comparación con versiones anteriores del texto. El documento determina que trabajadores y trabajadoras sean clasificados correctamente, basándose principalmente en los hechos relacionados con la realización del trabajo y no en interpretaciones corporativas o subjetivas sobre su carácter de independencia. También cubre y reconoce la promoción y respeto de la libertad de asociación y la libertad sindical, así como del derecho a la negociación colectiva; contempla el derecho a negarse a realizar trabajos peligrosos sin represalias; y garantiza el derecho a la protección contra la violencia y el acoso, incluso cuando son perpetrados en línea o impliquen a clientes.

El nuevo instrumento también reafirma que las personas trabajadoras de plataformas digitales tienen derecho a solicitar el acceso, la rectificación y la supresión de los datos personales procesados por estas aplicaciones; prohíbe la suspensión o desactivación de cuentas o la finalización del empleo o contratación en base a motivos discriminatorios; insta a la intervención y revisión humana en la toma de decisiones algorítmicas destinadas a retener pagos, suspender o desactivar una cuenta de trabajo o la relación laboral misma; y exige que las firmas tecnológicas informen, antes de la contratación, sobre el uso de sistemas automatizados y su impacto en las condiciones de trabajo.

El reconocimiento formal de estos derechos, así como el establecimiento de principios para determinar y comprender el tipo de relación laboral existente en estas modalidades, resultan críticos en un contexto donde persiste la paradoja de la supuesta flexibilidad y autonomía en estos empleos, y mientras se continúan documentando suspensiones y bloqueos injustificados y masivos a cuentas de trabajo en plataformas basadas en la ubicación.

Ahora, ¿por qué es tan significativo que se hayan logrado incluir disposiciones sobre la gestión algorítmica del trabajo?

La gestión algorítmica como punto de tensión

Durante las discusiones, el grupo de empleadores representantes de las empresas mostró una postura particular frente a los artículos que abordaban el uso de sistemas automatizados. Según ellos, no sería parte del mandato de la OIT “regular la tecnología”, y hacerlo podría suponer un obstáculo para la innovación y el crecimiento económico, además de constituir una intromisión en las operaciones de las compañías privadas y en información comercial protegida por propiedad intelectual. Sus argumentos fueron apoyados por algunos gobiernos como el de Estados Unidos.

Excluir la gestión algorítmica del ámbito de acción de la OIT, tal como planteó este grupo, implicaría dejar las reglas sobre cómo los algoritmos asignan tareas, fijan remuneraciones o desactivan cuentas en manos de políticas corporativas y diseños técnicos poco transparentes que no necesariamente tienen en cuenta los derechos reconocidos a las personas trabajadoras. En ese sentido, los principios de supervisión humana y acceso a la información aprobados en el Convenio resultan fundamentales para hacer efectivas las protecciones frente al uso de algoritmos en este tipo de empleos.

Ahora bien, aunque la versión final del documento logra reunir algunas de las preocupaciones y pedidos de las personas trabajadoras, en la última parte se dispuso de forma amplia que “al aplicar el presente Convenio, todo Miembro adoptará medidas apropiadas para proteger la información comercialmente sensible de las plataformas digitales de trabajo”. Esto, si es aplicado al uso de algoritmos, algo que ya alegan algunos gobiernos a nivel mundial y defienden empresas a nivel regional, reabre las tensiones abordadas en múltiples análisis sobre la naturaleza de los algoritmos cuando toman decisiones importantes, como las que fueron mencionadas algunas líneas atrás. Dichas tensiones se concretan en una pregunta clave: ¿la gestión algorítmica es puramente para la asignación de mercado o implica la supervisión del trabajo?

Una tecnología que restringe derechos

Según las demandas de los colectivos de trabajadores, la gestión algorítmica no puede considerarse un instrumento de mercado neutral, porque en la práctica influye en los salarios, el tiempo de trabajo y las medidas disciplinarias, ámbitos tradicionalmente regulados por el derecho laboral. Abrir la puerta a que los Estados limiten las garantías establecidas en el Convenio en favor del secreto comercial tiene implicancias sobre los derechos y las condiciones de trabajo. Si bien la disposición final parece sugerir un conflicto entre derechos fundamentales que requeriría por parte de los Estados una evaluación de la necesidad, proporcionalidad y razonabilidad de la protección a la propiedad intelectual frente a los derechos laborales, eso no quedó explícito en el texto y puede dar margen para interpretaciones expansivas sobre las garantías ofrecidas a las corporaciones.

Pensemos por un momento: cuando una persona supervisa, asigna tareas y evalúa el desempeño, esto se reconoce como gestión y está sujeto a protecciones laborales. Las personas trabajadoras, en consecuencia, pueden exigir una remuneración justa, condiciones seguras y garantías de debido proceso. Entonces, ¿por qué cuando un algoritmo ejerce el mismo control, las empresas afirman que no se trata de gestión en absoluto, sino simplemente de una característica del diseño de servicios digitales? Las consecuencias son contundentes: está comprobado que los sistemas algorítmicos permiten la asignación de micro tareas en cuestión de segundos, la clasificación constante de sus empleados, la imposición de sanciones e incluso el bloqueo del acceso a la aplicación, a menudo con escasa o nula explicación.

Los argumentos sobre el carácter de secreto comercial de los algoritmos en estas modalidades de trabajo ya han sido objeto de decisiones judiciales en nuestra región. Que el Convenio introduzca una salvedad en el apartado de aplicación para proteger la información comercialmente sensible de dichas plataformas puede habilitar a que este principio se utilice para escudar los algoritmos opacos que subyacen a la gestión laboral. Esta opacidad no es incidental, es estructural al modelo de negocio y, dejar indefinido qué debe considerarse comercialmente protegible, sin reforzar la exigencia de evaluar su necesidad, proporcionalidad y razonabilidad, puede traducirse en que millones de personas trabajadoras tengan que luchar aún mucho más para protegerse frente al despliegue de la IA en la economía de plataformas. Y es que la relevancia mundial de los convenios emitidos por la OIT es considerable, ya que los gobiernos suelen recurrir a ellos como guía en materia de normas y políticas laborales.

Una lucha que persiste

El Convenio N° 193, como documento histórico para el trabajo en plataformas, sorteó un equilibrio complejo: establecer principios lo suficientemente amplios para adaptarse a las realidades cambiantes del sector, sin perder por ello la capacidad de ofrecer garantías concretas; y ampliar los derechos laborales sin sacrificar la flexibilidad operativa de los modelos de negocio. Asimismo, la Recomendación que lo acompañaría, y hacia la cual se movieron diferentes artículos de los borradores como resultado del proceso de comentarios tripartitos, quedó finalmente pendiente.

La norma recién aprobada no operará de forma aislada en los países que decidan ratificarlo. Los esfuerzos para regular estas modalidades de trabajo ya existen en todo el mundo y, en particular, en América Latina. En nuestra región, cinco países cuentan con una regulación para el trabajo en plataformas digitales basado en la ubicación. En ese sentido, el Convenio entrará a dialogar con los desarrollos normativos previos de los Estados, tanto en materia de economía de plataformas, como de leyes de protección de datos personales, libertad de asociación y negociación colectiva, inteligencia artificial, acceso a la información, políticas de competencia y propiedad intelectual.

Consolidar y expandir los avances alcanzados en este documento requerirá un esfuerzo articulado y sostenido por parte de sindicatos, organizaciones de la sociedad civil, Estados y ámbito privado. El sector trabajador centrará ahora su atención en impulsar que los gobiernos de sus países de origen ratifiquen el Convenio. Esto resulta clave pues, aunque este instrumento aborda disposiciones sobre remuneración, sistemas automatizados, datos personales, salud y seguridad, lo hace desde un enfoque basado en principios que deja en gran medida la responsabilidad última sobre su desarrollo en la legislación y las prácticas nacionales. El comportamiento del voto de representantes de gobiernos latinoamericanos como Argentina, Chile, Paraguay, Panamá y Costa Rica, quienes se abstuvieron de votar por el Convenio, ya vislumbra un escenario donde las organizaciones sindicales tendrán que movilizarse con esfuerzos particulares para lograr la esperada ratificación.

Además, será fundamental que la sociedad civil acompañe a los Estados y recomiende, en materia de gestión algorítmica del trabajo, herramientas que garanticen la efectividad de las medidas establecidas en el Convenio. Uno de ellos podría ser la disponibilidad de registros públicos de los sistemas automatizados desplegados en cada plataforma con información sobre su propósito, diseño y funcionamiento. Otro posible es el desarrollo de evaluaciones de impacto en derechos humanos centradas en las personas trabajadoras, revisando el efecto de sus productos en los salarios, la jornada laboral, la salud y seguridad, y la libertad sindical. Estas evaluaciones deben desarrollarse en colaboración con sindicatos y organizaciones representantes de las y los trabajadores.

Los algoritmos nunca deberían tener la última palabra sobre las condiciones de trabajo, el derecho a la libre asociación, o el destino de una persona trabajadora. El derecho a impugnar decisiones automatizadas debe ser garantizado, así como acceder a una revisión humana y buscar reparación a través de mecanismos del derecho laboral.

Una mirada realista a la seguridad digital de las organizaciones sociales

Las organizaciones sociales, comunidades y personas defensoras enfrentan cada vez más riesgos en los entornos digitales. El robo de cuentas, la pérdida de información, las campañas de hostigamiento, la vigilancia, las filtraciones de datos o la exposición de información sensible son situaciones que afectan con frecuencia a quienes realizan trabajo de defensa de derechos, acompañamiento comunitario o incidencia política. Distintas investigaciones realizadas en América Latina, incluido el informe En la Mira (2025) de Derechos Digitales, muestran que estos riesgos rara vez ocurren de manera aislada. Suelen entrelazarse con otras formas de violencia que ya afrontan las agrupaciones en sus territorios: amenazas contra liderazgos comunitarios, acciones de criminalización, conflictos por la tierra, persecución o ataques dirigidos. En ese contexto, proteger los datos y las comunicaciones se vuelve una necesidad cada vez más urgente.

Los incidentes más comunes no siempre son ataques sofisticados. Con frecuencia tienen que ver con la pérdida de acceso a cuentas institucionales, el robo de información, la exposición de datos sensibles o conflictos relacionados con la gestión colectiva de la información. En grupos donde varias personas administran redes sociales, correos o documentos compartidos, la ausencia de acuerdos claros sobre accesos y responsabilidades puede generar problemas que afectan la continuidad misma de los procesos organizativos.

Sin embargo, las organizaciones no enfrentan estos riesgos desde condiciones ideales. Muchas trabajan con equipos pequeños, recursos limitados y múltiples responsabilidades. Una misma persona suele encargarse de la gestión administrativa, las comunicaciones, la incidencia y, cuando surge algún problema, también de la tecnología. A esto se suman desafíos relacionados con la conectividad, la infraestructura tecnológica o la disponibilidad de equipos adecuados.

Además, para muchos colectivos la prioridad cotidiana no es la seguridad digital. Su prioridad es sostener procesos comunitarios, defender territorios, responder a situaciones de violencia, acompañar a sus comunidades o garantizar que su trabajo pueda continuar. Los cuidados digitales pueden ser un aliado para proteger esas iniciativas, pero conviven con múltiples urgencias que demandan tiempo, atención y recursos.

En este contexto, la pregunta no debería ser únicamente cómo aumentar los niveles de protección de una organización, sino cómo acompañar estos momentos de manera realista y pertinente. Comprender las condiciones en las que trabajan estos grupos es un paso fundamental para construir estrategias de protección que realmente puedan fortalecer su labor.

Recetas prefabricadas no siempre funcionan

Con frecuencia, quienes acompañamos procesos de seguridad digital llegamos a estos espacios con instrumentos, recomendaciones y buenas prácticas que consideramos necesarias. Sin embargo, no siempre nos detenemos a preguntarnos si las condiciones para implementarlas realmente existen.

En diferentes experiencias de acompañamiento a organizaciones sociales, comunidades y personas defensoras en América Latina aparece una realidad bastante distinta a la que suelen asumir muchas recomendaciones de seguridad digital. La conectividad no siempre es estable: en algunos territorios los cortes de energía son frecuentes y el acceso a internet puede verse afectado por problemas de infraestructura, conflictos sociales o incluso intereses privados.

A esto se suman otras limitaciones cotidianas. Los dispositivos suelen ser compartidos, antiguos o de uso personal. En zonas rurales, además, las dificultades de acceso a infraestructura tecnológica y los procesos de apropiación de las herramientas añaden nuevas capas de complejidad.

Nada de esto es excepcional. Por ejemplo, una recomendación frecuente consiste en separar la vida personal de la organizativa utilizando dispositivos distintos. En teoría, esta medida permite segmentar información y reducir riesgos. En la práctica, muchas personas no quieren ni pueden cargar dos teléfonos. Gestionar contactos, aplicaciones y comunicaciones en dispositivos separados implica tiempo y esfuerzo adicional. En algunos territorios, incluso, portar varios dispositivos puede generar sospechas o aumentar los riesgos durante desplazamientos en contextos de violencia o control territorial.

Algo similar ocurre con las propuestas de migrar hacia sistemas operativos, plataformas o tecnologías consideradas más seguras. Aunque muchas de estas alternativas ofrecen ventajas reales, también requieren dinámicas de aprendizaje, acompañamiento técnico y recursos que no siempre están disponibles. Para colectivos que trabajan con equipos pequeños y múltiples responsabilidades, abandonar plataformas que ya conocen puede representar una carga difícil de asumir.

La discusión, entonces, no se debe centrar únicamente en qué herramienta ofrece mayores garantías de protección. También se debe preguntar qué prácticas pueden sostenerse en el tiempo. Una medida técnicamente buena que se abandona después de unas semanas puede terminar ofreciendo menos protección que una práctica más sencilla que logra mantenerse de forma consistente.

Pero el problema no es únicamente que algunas recomendaciones resulten difíciles de implementar. En muchos casos, las organizaciones tampoco parten de cero. Antes de recibir un acompañamiento en seguridad digital, ya han desarrollado formas propias de proteger datos, reducir riesgos y cuidar a las personas que hacen parte de sus acciones.

Muchas de estas prácticas nacieron de experiencias concretas de hostigamiento, vigilancia, robos, filtraciones de información o amenazas dirigidas. Algunos grupos acuerdan no mencionar ciertos nombres en mensajes o llamadas, utilizan códigos para referirse a personas o actividades sensibles o limitan quién puede acceder a determinados registros. Otras digitalizan datos sensibles únicamente cuando es necesario y luego los eliminan de correos, dispositivos o incluso destruyen los documentos físicos para evitar que caigan en manos equivocadas.

También existen formas de protección que rara vez aparecen en las guías de seguridad digital. Hay personas que comparten su ubicación cuando se desplazan por territorios donde enfrentan riesgos, que dejan sus teléfonos en casa antes de una reunión sensible o que evitan llevar dispositivos a determinados encuentros. Algunas prefieren conversar temas delicados en espacios poco convencionales o aprovechan actividades cotidianas para reunirse sin llamar la atención.

No todas estas prácticas serían recomendadas por un manual de seguridad digital. Sin embargo, surgieron para responder a riesgos reales y forman parte de las maneras en que muchos colectivos cuidan a las personas, la información y las iniciativas que sostienen.

Por eso, uno de los principales desafíos no consiste en reemplazar estas estrategias con nuevas herramientas o procedimientos, sino en entender qué prácticas ya existen, por qué funcionan y cómo pueden fortalecerse sin perder de vista los contextos en los que surgieron.

Cómo podemos apoyar al fortalecimiento de la seguridad digital

Si las organizaciones ya desarrollan formas propias de protección y las recomendaciones no siempre pueden aplicarse de la misma manera en todos los contextos, entonces quizás el desafío no sea encontrar instrumentos cada vez más seguros, sino repensar la forma en que entendemos y acompañamos los procesos de seguridad digital.

Reconocer estas complejidades implica también cuestionar la idea de que el cuidado digital puede resolverse únicamente mediante herramientas o listas de recomendaciones. Desde hace varios años, colectivos, redes y organizaciones de la región vienen construyendo otras formas de abordar estos desafíos. A través de metodologías de educación popular, técnicas de acompañamiento comunitario, estrategias para enfrentar las violencias digitales e iniciativas que imaginan infraestructuras tecnológicas desde el afecto y el cuidado colectivo, estas experiencias comparten una misma preocupación: cómo construir protección desde las necesidades reales de las personas y las comunidades, y no únicamente desde los riesgos identificados por los equipos técnicos.

Aunque estas experiencias son diversas, comparten algo fundamental: parten de las personas antes que de las herramientas. En lugar de preguntar qué tecnología debería usarse, preguntan qué necesita una comunidad para cuidarse, qué riesgos enfrenta, qué capacidades tiene y qué prácticas ya forman parte de su vida cotidiana.

Esta mirada se acerca a las propuestas de las tecnologías feministas, que han insistido en que las tecnologías no son neutrales y que cualquier estrategia de protección debe construirse desde las experiencias concretas de quienes las utilizan. También dialoga con iniciativas de la región que han explorado las relaciones entre tecnologías, cuerpos y territorios, así como las formas en que las violencias digitales afectan de manera diferenciada a mujeres, personas LGBTIQA+, comunidades racializadas y otras poblaciones históricamente marginadas. Hablar de cuidado implica reconocer las desigualdades, las relaciones de poder y las condiciones materiales que atraviesan la vida de las personas. También implica aceptar que no existe una única forma correcta de hacer seguridad digital.

Tal vez ahí se encuentra uno de los principales desafíos para quienes trabajamos en este campo. No necesitamos que las organizaciones se adapten a la seguridad digital. Necesitamos una seguridad digital capaz de adaptarse a ellas. Una que sea capaz de reconocer los conocimientos que ya existen, fortalecer las prácticas que ya funcionan y construir nuevas estrategias sin perder de vista las condiciones reales en las que las personas viven, trabajan y resisten.

Si la protección digital pretende contribuir al cuidado de las personas y las comunidades, entonces no puede comenzar por las herramientas. Tiene que comenzar por escuchar, comprender y fortalecer las formas de cuidado que ya existen.

El Gemelo Digital y las falacias de la eficiencia tecnológica en la gestión pública

Esta columna fue publicada originalmente en Diario Perfil de Argentina

Días atrás, Javier Milei defendió, en un medio internacional, la actualización del modelo capitalista holandés del siglo XVII para incentivar empresas gestionadas por Inteligencia Artificial (IA) en la Argentina. Entre otras medidas, propone limitar su responsabilidad jurídica. Al trazar este paralelismo, el presidente omite una parte de la historia: aquel lucrativo modelo financiero colonial se sostuvo sobre la base de la explotación, tortura y tráfico de personas esclavizadas.

El modelo adoptado por Milei para posicionar a la Argentina como un centro financiero del futuro tampoco busca el bienestar humano. Más aún, puede profundizar nuevas vías de explotación de su población. El reciente anuncio de un Gemelo Digital Social se enmarca en este proyecto y, desafortunadamente, no es exclusivo del contexto argentino. El despliegue de tecnologías en el sector público en los últimos años ha servido ampliamente para validar iniciativas destinadas a restringir derechos y acceso a servicios esenciales.

Más allá de la ausencia de detalles sobre su operación, el Gemelo Digital, presentado como pionero, se basa en algunos pilares que ya son bien conocidos en procesos de digitalización de los Estados y conlleva problemas similares. El primero es la explotación intensiva de datos personales para distintos fines, vulnerando el derecho de las personas a poder definir quiénes, cómo, para qué, por qué y bajo qué condiciones utilizarán sus datos. Si bien se alega que el uso de datos facilita la toma de decisiones en materia de políticas públicas, no hay garantías de que las bases de datos no terminen en manos de fuerzas policiales, de inteligencia o de agentes privados. La lucrativa industria de datos los requiere para sostener modelos de negocios, entrenar sistemas de IA, generar perfiles de crédito, distribuir publicidad (y desinformación) electoral, entre otros usos. Las consecuencias para las personas y la sociedad son imprevisibles y pueden implicar incluso el acceso de agentes maliciosos para el fraude, la extorsión u otras formas de violencia.

El segundo problema reside en que la vigilancia y el control derivado de los esfuerzos de predicción no se dan de manera uniforme en la sociedad. Las élites son menos visibles para el Estado por su baja dependencia de servicios públicos y su poca frecuencia en espacios hipervigilados, como el transporte público. Ante la ausencia de información sobre los límites a la integración de bases de datos implicada en el despliegue de la iniciativa Gemelo Digital, es imposible saber la extensión de las intervenciones derivadas de su uso. Sin embargo, podemos asumir que impactarán en mayor medida sobre quienes ya se encuentran más expuestas -y no necesariamente en su beneficio-.

El tercero es la narrativa de neutralidad tecnológica que pone a las tecnologías predictivas como eficientes y alejadas de cualquier sospecha. Ellas serían capaces de tomar decisiones incluso de manera más objetiva que las personas. Más allá de la falsedad del argumento, la realidad es que los datos en poder de los Estados suelen estar incompletos, desactualizados, equivocados y fragmentados, y son poco representativos de la realidad social. Anclar políticas públicas en sistemas entrenados a partir de bases de datos de baja calidad, necesariamente implica ampliar sesgos y discriminación, como ha ocurrido en otros intentos de uso de predicción alrededor del mundo.

En síntesis, se busca validar políticas públicas en un sistema automatizado que no responde al escrutinio público o a las demandas sociales. Más que eso: siguiendo los planes de la Casa Rosada, ni siquiera estaría sujeto a forma alguna de responsabilidad por vulneraciones. Bajo la retórica de la innovación y la eficiencia, quedan rezagadas las (hasta hace poco defendidas) libertades individuales y bases de la democracia.

Faltan garantías de que el Gemelo Digital sea viable técnicamente o evidencias de su eficacia en la gestión pública. Pero si se consolida, sus costos para la sociedad argentina podrían ser enormes. Y si fracasa, igualmente habrá abierto una nueva vía más de extracción de riqueza, ya sea mediante datos, inteligencia o recursos públicos. Los riesgos son concretos, los beneficios siguen siendo una promesa.

¿Qué tienen que ver los derechos digitales con la crisis climática?

Esta columna fue publicada originalmente en Outras Palavras

Mientras los gobiernos latinoamericanos compiten por atraer inversiones extranjeras en materia de inteligencia artificial, centros de datos y minería para lo que han denominado una “transición digital”, se expande la engañosa narrativa según la cual la crisis climática podrá resolverse mediante la innovación tecnológica. La COP30, celebrada en Brasil en 2025, contribuyó a reforzar este imaginario al situar la digitalización, la inteligencia artificial y las llamadas “tecnologías verdes” en el centro de una parte importante de los debates sobre desarrollo y sostenibilidad.

La promesa aparece en discursos oficiales sobre ciudades inteligentes, monitoreo ambiental, agricultura de precisión, eficiencia energética e “innovación verde”, y se traduce en políticas como la digitalización de programas ambientales y agrarios, así como incentivos tributarios para actividades extractivas vinculadas a la tecnología. Según esta visión, el futuro sostenible sería también un futuro digital.

Pero ¿quién sostiene materialmente ese futuro? ¿Quién asume sus costos y quién obtiene realmente sus beneficios?

Este discurso también se beneficia de elecciones semánticas que ayudan a ocultar la materialidad de la economía digital. Tal vez el ejemplo más evidente sea la popularización de la expresión “computación en la nube”, que sugiere algo ligero, abstracto y distante del mundo físico, reforzando la idea de que los datos, las plataformas digitales y los sistemas de inteligencia artificial existirían en una esfera casi etérea. En la práctica, sin embargo, la infraestructura que sostiene estas tecnologías está lejos de ser invisible. Comienza en la minería, atraviesa complejas cadenas industriales, consume grandes cantidades de energía y agua, y depende de la ocupación de territorios para funcionar.

En otras palabras, lejos de ser inmaterial, la digitalización está profundamente arraigada en territorios y recursos naturales. Y sus impactos socioambientales recaen de manera desproporcionada sobre países del Sur Global -entre ellos, los latinoamericanos-, donde persisten dinámicas históricas de extracción de los recursos naturales que sostienen, ahora también, la expansión de la economía digital. Y la cuestión no se limita a la infraestructura: las tecnologías digitales también han pasado a mediar cada vez más las relaciones sociales, económicas y políticas vinculadas al medio ambiente, influyendo en la circulación de información y en la participación en decisiones que afectan a los territorios.

A medida que la gestión de recursos, los sistemas de monitoreo ambiental y la producción de información sobre los territorios dependen cada vez más de infraestructuras y plataformas digitales, derechos como el acceso a la información, la transparencia, la participación pública y la autodeterminación de los datos adquieren una dimensión ambiental cada vez más evidente. Por ello, si queremos enfrentar la crisis climática con seriedad, el debate debe incorporar los impactos de las tecnologías, y la lucha debe incluir también la defensa de los derechos digitales.

En la práctica, esto significa observar tanto las infraestructuras que sostienen la digitalización como las relaciones de poder que esta profundiza.

Cuando la tecnología encuentra el territorio

América Latina ofrece ejemplos reveladores de esta conexión. Brasil, por ejemplo, ocupa el segundo lugar mundial en reservas de tierras raras, de las cuales pueden extraerse minerales esenciales para la fabricación de chips, baterías, teléfonos inteligentes y muchos otros componentes utilizados en la infraestructura digital. No es casualidad que el interés geopolítico por estos recursos ha crecido rápidamente. En un contexto de disputa tecnológica entre Estados Unidos y China, los insumos considerados estratégicos para esta cadena han pasado a ocupar un lugar central en las políticas industriales y de seguridad nacional.

En este sentido, la pregunta que debemos hacernos va más allá de extraer o no extraer estos recursos. También debe considerar la posición que ocupan los países latinoamericanos dentro de esta cadena productiva. Aunque concentran una parte importante de las reservas minerales, continúan participando principalmente en las etapas de extracción y exportación de materias primas, mientras que el procesamiento industrial, el desarrollo tecnológico y los mayores beneficios económicos permanecen concentrados en el Norte Global. En el caso brasileño, investigadores han advertido que la carrera por las tierras raras puede profundizar una inserción subordinada en la economía digital global, basada en el suministro de recursos estratégicos sin una transferencia significativa de tecnología ni un fortalecimiento de las capacidades productivas locales.

Esta dinámica también se refleja en la expansión de los centros de datos en América Latina. En los últimos años, empresas tecnológicas extranjeras han dirigido cada vez más su atención hacia la región aprovechándose de estas condiciones favorables para instalar la infraestructura física necesaria para el almacenamiento y procesamiento masivo de datos. Además de la disponibilidad de energía, algunos países latinoamericanos ofrecen amplias redes de transmisión, conectividad internacional y disponibilidad territorial. A ello se suman decisiones preocupantes de diversos gobiernos, que han adoptado políticas para atraer estas inversiones, especialmente mediante beneficios fiscales y flexibilización regulatoria.

Paraguay es quizás hoy uno de los ejemplos más emblemáticos de este proceso. La energía generada por la represa de Itaipú ha convertido al país en un destino atractivo para proyectos vinculados a la infraestructura digital. No es casualidad que empresarios e inversionistas influyentes han intensificado su presencia en el país, entre ellos Peter Thiel, multimillonario de Silicon Valley y cofundador de Palantir, empresa ampliamente reconocida como una de las principales proveedoras de tecnologías de vigilancia para el aparato militar y de seguridad de Estados Unidos.

Resulta preocupante que el debate sobre los centros de datos aparezca principalmente en los discursos gubernamentales y empresariales como una oportunidad económica, con poca o ninguna atención a sus impactos ambientales y territoriales. Los centros de datos son instalaciones altamente intensivas en energía y agua. Operan de manera ininterrumpida, requieren sistemas permanentes de refrigeración y pueden ejercer presión sobre redes eléctricas y recursos hídricos ya disputados por otros usos sociales y económicos.

Sus efectos no se limitan al consumo de recursos. Un estudio reciente identificó la formación de lo que los investigadores denominaron “islas de calor de datos”, es decir, áreas alrededor de los centros de datos donde la temperatura superficial puede aumentar, en promedio, 2°C después del inicio de las operaciones. Según los autores, este impacto puede extenderse hasta 4,5 kilómetros alrededor de las instalaciones, alterando microclimas locales y produciendo efectos sobre poblaciones humanas y ecosistemas. Los casos analizados incluyeron regiones de Ceará y Piauí, en Brasil, así como polos de centros de datos en México.

También crecen las preocupaciones sobre los efectos de estas instalaciones en los territorios. Informes recientes elaborados por organizaciones de la sociedad civil señalan obstáculos para acceder a información sobre consumo de agua y energía, flexibilización de normas ambientales y debilitamiento de los mecanismos de consulta a las comunidades afectadas. En algunos casos aún más problemáticos, la expansión de esta infraestructura ha avanzado sobre territorios ocupados por comunidades indígenas, campesinas y otras poblaciones tradicionales, profundizando conflictos históricos que forman parte de la propia configuración de América Latina como región.

La preocupación por estos impactos ya alcanzó a los principales mecanismos regionales de derechos humanos. En febrero de 2026, la Relatoría Especial sobre Derechos Económicos, Sociales, Culturales y Ambientales (REDESCA) de la Comisión Interamericana de Derechos Humanos advirtió que la expansión acelerada de centros de datos puede poner en riesgo derechos como el acceso al agua, a la salud y a un ambiente sano, y sostuvo que los Estados deberían adoptar moratorias para nuevas autorizaciones hasta que existan salvaguardas adecuadas.

La política de la información ambiental

Los impactos de la digitalización sobre la agenda ambiental van mucho más allá de los territorios donde se extraen minerales o se instalan servidores. También se manifiestan en las decisiones políticas sobre cómo y dónde circula la información y sobre cómo se disputan públicamente temas como la sostenibilidad y la crisis climática.

La lucha contra el cambio climático depende de la producción y del acceso a información confiable. Esto incluye datos científicos, monitoreo ambiental, denuncias de violaciones socioambientales e información producida por comunidades afectadas por proyectos mineros, procesos de deforestación o grandes obras de infraestructura. Cuando estos flujos de información se ven comprometidos, también se ve afectada la capacidad de la sociedad para responder a la crisis climática.

En este contexto, el entorno digital se ha convertido en un espacio central de disputa. Existe amplia evidencia empírica que muestra cómo las plataformas digitales amplifican contenidos engañosos sobre cuestiones ambientales por beneficios económicos en base a modelos de negocio que se basan en maximizar la atención de las personas usuarias. La información errónea o sensacionalista tiende a generar más interacciones, aumentando tanto su alcance como su rentabilidad para las plataformas.

El problema no se limita al negacionismo climático tradicional. También incluye prácticas de greenwashing, término utilizado para describir estrategias que presentan a actores, productos, servicios o proyectos como ambientalmente responsables sin que ello se corresponda con la realidad, ocultando sus verdaderos impactos socioambientales. En América Latina, este tipo de narrativas ha sido utilizado especialmente por gobiernos y empresas, incluso en iniciativas asociadas a la expansión de la minería de minerales críticos, la instalación de grandes centros de datos y proyectos presentados como indispensables para la transición energética o digital, pese a sus efectos perjudiciales o insuficientemente evaluados sobre territorios, recursos naturales y comunidades.

El mismo entorno digital que amplifica narrativas negacionistas y campañas de greenwashing también ha sido ampliamente utilizado para intimidar, desacreditar y silenciar a quienes denuncian conflictos socioambientales. De hecho, América Latina es la región más peligrosa del mundo para las personas defensoras de la tierra y del medio ambiente. Colombia, en particular, encabeza el ranking de países más letales para este grupo, junto con México y Brasil.

Aunque la violencia física constituye su manifestación más extrema, no es la única forma de silenciamiento. Organizaciones de la sociedad civil han documentado el uso creciente de tecnologías digitales con este propósito, ya sea mediante estrategias de vigilancia, ataques a cuentas personales o campañas coordinadas de acoso en línea. Además de las personas defensoras del medio ambiente, periodistas y comunicadores que trabajan en estos temas también son objetivos frecuentes.

¿Son posibles otras formas de construir tecnología?

El panorama descrito hasta aquí puede conducir fácilmente al pesimismo. Sin embargo, es importante reconocer que los ejemplos presentados no implican necesariamente una crítica a la existencia de las tecnologías en sí mismas. Más bien, apuntan a la necesidad de cuestionar los modelos políticos y económicos que orientan su desarrollo. Al fin y al cabo, más allá de las tecnologías como tales, el debate debe centrarse siempre en quién define sus usos, quién se beneficia de ellas y quién asume sus costos.

La propia América Latina ofrece ejemplos de iniciativas que siguen una lógica distinta y buscan construir infraestructuras digitales a partir de principios diferentes a los que predominan en el modelo extractivista de las grandes plataformas y corporaciones tecnológicas. En lugar de depender exclusivamente de redes controladas por empresas privadas, diversas comunidades han desarrollado soluciones orientadas a sus propias necesidades de comunicación, organización y gestión territorial.

Un ejemplo destacado son las redes comunitarias de internet que se han implementado en distintos países de la región, entre ellos Brasil, México, Colombia, Argentina y Nicaragua. En estos proyectos son las propias comunidades -ubicadas en su mayoría en zonas rurales o aisladas, frecuentemente habitadas por pueblos indígenas y otras comunidades tradicionales- las que organizan sistemas autónomos de telecomunicaciones para garantizar conectividad en lugares históricamente desatendidos por las operadoras comerciales. Más que ampliar el acceso a internet, estas iniciativas fortalecen capacidades locales para gestionar la infraestructura de comunicación y aumentan la autonomía de las comunidades sobre tecnologías que afectan directamente su vida cotidiana.

Esta lógica también se refleja en otras experiencias de desarrollo tecnológico construidas a partir de las necesidades definidas por los propios territorios. Es el caso de la colaboración entre las organizaciones Técnicas Rudas, de México, y Diversa Studio, de Ecuador, junto al pueblo indígena yaqui. El proyecto combina inteligencia artificial, imágenes satelitales y análisis geoespacial para apoyar la gestión comunitaria del agua y el monitoreo de las transformaciones ambientales en su territorio.

El aspecto más relevante de esta iniciativa no radica en la tecnología utilizada, sino en la forma en que fue concebida. Los datos producidos permanecen accesibles para la comunidad, las prioridades de investigación se definen localmente y el objetivo no es alimentar plataformas comerciales globales, sino apoyar procesos de gestión territorial y toma colectiva de decisiones.

Al mismo tiempo, como señalan perspectivas feministas y comunitarias de la región, estas experiencias recuerdan que una transición digital más justa no implica necesariamente producir más tecnología. También exige preguntarse qué tecnologías son realmente necesarias, para qué fines se desarrollan y cómo reducir sus impactos sobre los territorios y los recursos naturales.

Donde las agendas se encuentran

En el Día Mundial del Medio Ambiente, celebrado cada 5 de junio, vale la pena recordar que, en una economía cada vez más atravesada por infraestructuras digitales, los debates sobre sostenibilidad y justicia climática deben incorporar también la manera en que las tecnologías son producidas, gobernadas y distribuidas. Y no solo eso, sino que es necesario seguir abordando esta discusión desde una perspectiva situada, reconociendo el lugar que ocupa América Latina como proveedora de insumos estratégicos y como escenario de impactos socioambientales desproporcionados.

La relación entre justicia climática y derechos digitales ya no es una cuestión accesoria. Tiene que ver con las condiciones bajo las cuales se está construyendo la transición digital y con quién participa en las decisiones sobre su futuro. Tiene que ver con la capacidad de las comunidades para influir en proyectos que afectan sus territorios, acceder a información de interés público y desarrollar tecnologías alineadas con sus propias necesidades y prioridades.

Mientras la expansión de la economía digital continúe reproduciendo patrones de concentración de poder y desplazando sus impactos ambientales hacia determinados territorios, la promesa de una transición sostenible seguirá siendo difícilmente alcanzable.

La búsqueda de la responsabilidad empresarial en la era de la desregulación

En toda la región se repite una misma escena: ante problemas que requieren obligaciones públicas, fiscalización independiente y sanciones reales, los gobiernos aceptan acuerdos voluntarios, estándares corporativos o promesas de inversión como si fueran política pública. En México, el gobierno firmó, en marzo de 2026, un criticado acuerdo de colaboración con Google, Meta y TikTok para combatir la violencia digital contra las mujeres, que no obliga legalmente a las empresas, no prevé verificación independiente y no garantiza sanciones claras. En Colombia, con 139 municipios clasificados “en riesgo extremo” de cara a las elecciones del 31 de mayo, no existe un régimen legal específico que obligue a las plataformas a reportar sistemáticamente cómo funciona su moderación ni cómo actúan frente a riesgos electorales. En Argentina y Chile, gobiernos de cercanía política presentan la desregulación como ventaja competitiva.

Brasil parece ir en un sentido muy distinto. En junio de 2025, el Supremo Tribunal Federal declaró la inconstitucionalidad parcial del artículo 19 del Marco Civil de Internet, cambiando dramáticamente el esquema de responsabilidad de la pionera Ley de 2014. En mayo de 2026, hace tan solo unos días, el gobierno publicó los decretos 12.975/2026 y 12.976/2026, que por una parte actualizan la regulación del Marco Civil, amplían las obligaciones de las plataformas sobre moderación y transparencia, y atribuyen nuevas facultades de supervisión e investigación a la autoridad de control de datos personales; y por otra establecen todo un esquema para la protección de mujeres en internet. Brasil llegó a ese punto con un costo político alto: la orden ejecutiva de la administración Trump del 30 de julio de 2025, posterior a la decisión sobre el Marco Civil, fijaba represalias comerciales contra Brasil castigando, entre otras cosas, sus decisiones judiciales sobre plataformas digitales. El mensaje para el resto de la región era unívoco.

Ese contexto geopolítico coexiste con un lobby corporativo significativo, en toda la región. Durante 2025, la investigación “La mano invisible de las Big Tech”, liderada por Agência Pública y el CLIP, registró miles de acciones de incidencia de empresas tecnológicas en diez países y la Unión Europea, sobre cientos de proyectos de ley y casos judiciales. Aunque la influencia política es una actividad legítima, puede a menudo coincidir con obstáculos a la capacidad pública de controlar el comportamiento de las empresas, como la exclusión de la categoría de alto riesgo de los sistemas de moderación y recomendación de contenidos en Brasil, o la limitación de la regulación para proteger la salud mental de niñas, niños y adolescentes frente a plataformas en Colombia. Como señalara nuestra coordinadora de Políticas Públicas Lucía Camacho en relación con el caso chileno, este escenario se complejiza en un contexto geopolítico donde la presión para no regular es también presión de Estado. ¿Cómo se previenen los riesgos en esas condiciones?

Cuando el riesgo reemplaza a los derechos

La pregunta de fondo no es si las plataformas deben gestionar riesgos o no. La pregunta es cómo se responsabiliza a empresas cuyas decisiones de diseño, moderación, recomendación y priorización algorítmica producen riesgos y daños, en un contexto donde regularlas es difícil, políticamente controvertido y profundamente desigual entre regiones. Para América Latina, la pregunta es todavía más compleja: los enfoques nacionales son divergentes, los recursos institucionales distan de los de países desarrollados, las prioridades políticas cambian con rapidez y la presión para no regular viene tanto de las empresas como de Estados con poder geopolítico.

El derecho europeo ofrece la respuesta más desarrollada disponible. Bajo el Reglamento de Servicios Digitales (DSA), las plataformas de muy gran tamaño deben identificar y evaluar riesgos sistémicos derivados del diseño y funcionamiento de sus servicios, incluyendo aspectos regionales y lingüísticos específicos; adoptar medidas de mitigación; publicar reportes de transparencia; dar acceso a datos para autoridades y personas investigadoras; y someterse a auditorías independientes anuales con obligación de responder ante hallazgos negativos. Ese esquema también reconoce explícitamente el papel de los estándares voluntarios como complemento, y promueve su desarrollo en organismos europeos e internacionales para facilitar el cumplimiento de varias de sus obligaciones. Así, en la DSA, los estándares no reemplazan al derecho, sino que buscan facilitar el cumplimiento de obligaciones legales que una autoridad pública puede exigir.

La apuesta por los estándares tiene respaldo empírico propio. Los estándares han sido fundamentales para la interoperabilidad global de internet; la conectividad universal existe gracias a acuerdos técnicos adoptados globalmente, no a legislaciones nacionales coordinadas. En materia de confianza y seguridad en línea, pueden ofrecer lenguaje común para auditorías, interfaces de datos, notificaciones y sistemas de moderación, y pueden evitar que cada regulación nacional genere incentivos para que las plataformas concentren cumplimiento en los mercados que más les importan comercialmente. En esa línea se ubica el estándar internacional ISO/IEC 25389:2025, The Safe Framework, basado en la especificación de la Digital Trust & Safety Partnership sobre prácticas de confianza y seguridad. Se trata de una guía práctica útil para la acción de las empresas, con lo cual la pregunta deja de ser por la utilidad de los estándares, y la duda radica más bien en quién define esos estándares, con qué transparencia, bajo qué mecanismos de rendición de cuentas, y –muy especialmente en nuestro contexto– cómo se conectan con obligaciones legales exigibles.

La experiencia acumulada muestra los límites de cada herramienta por separado. El examen de DSA Observatory tras el primer ciclo de auditorías DSA con 19 reportes publicados a fines de 2024, encontró que las auditorías se limitaron en su mayoría a verificaciones procedimentales: si la documentación existía, si los riesgos identificados estaban vinculados a mitigaciones declaradas, si el papeleo cumplía los requisitos formales. El referido “Safe Framework”, ahora norma ISO/IEC 25389, reconoce que constituye una guía más que un conjunto de requisitos, con lo que no puede certificarse la conformidad con el mismo. La Guía de Debida Diligencia para una IA Responsable de la OCDE se define explícitamente como “agnóstica” respecto de riesgos y deja a criterio empresarial qué riesgos priorizar y a qué partes interesadas consultar. Nada de ello vuelve inútiles esos instrumentos, pero sí impide tratarlos como equivalentes funcionales de una obligación legal, una auditoría robusta o una decisión de autoridad.

Al momento del cierre de esta columna, llegaba la noticia de que la Comisión Europea multó a Temu con 200 millones de euros por una evaluación de riesgo de 2024 que calificó de insuficiente porque estaba “basada en información general del sector en lugar de evidencia específica de su propia plataforma”, como expresa su anuncio público. Es la segunda sanción DSA en la historia, tras los 120 millones de euros de multa a Twitter (o X para quienes siguen ahí) en diciembre de 2025. Lo que ambos casos demuestran es que incluso bajo un régimen obligatorio con autoridad pública y sanciones reales, las evaluaciones corporativas pueden ser incompletas, genéricas o insuficientes para capturar el daño real. Desde el equipo académico del CELE-UP, Del Campo, Zara y Álvarez Ugarte lo formularon con precisión: cuando la pregunta deja de ser “¿se afectó un derecho?” para ser “¿se gestionó un riesgo?”, el lenguaje del derecho puede ser desplazado por el lenguaje del procedimiento. Estándares y auditorías son instrumentos necesarios, pero resultan insuficientes sin una autoridad con poder real de exigir, verificar y sancionar.

Distancias más que geográficas

La rendición de cuentas requiere una institucionalidad capaz de hacerla exigible. A falta de autoridades e instrumentos como los de la Unión Europea, son las autoridades nacionales las que en principio podrían responder a esos vacíos. Así, los decretos brasileños de mayo de 2026 ofrecen el punto de referencia más próximo en la región: la Agencia Nacional de Protección de Datos (ANPD) asumió nuevas facultades de supervisión e investigación sobre el comportamiento de las plataformas, con base legal, posibilidad de sanción y articulación con la doctrina de “falla sistémica” establecida por el Supremo Tribunal Federal en 2025. En el resto de la región, la ausencia de una autoridad equivalente con mandato específico sobre plataformas revela exactamente ese déficit: falta de mandato legal, de recursos, de acceso a información relevante y de capacidad sancionatoria. Lo que el caso europeo demuestra es que incluso la Comisión Europea, con todo ese aparato, tarda años en producir sanciones; sin él, el ciclo evaluación-auditoría-reporte produce, en el mejor de los casos, documentación de calidad variable.

El sistema interamericano de derechos humanos ofrece un punto de partida más robusto que cualquier taxonomía corporativa de riesgos. La Declaración de Principios sobre Libertad de Expresión de la CIDH, la jurisprudencia de la Corte Interamericana y los estándares de la Relatoría Especial para la Libertad de Expresión establecen que cualquier restricción al derecho debe ser legal, necesaria y proporcional, y que los Estados tienen obligaciones positivas para garantizar su ejercicio también frente a interferencias o abusos de actores privados con poder estructural. Los Principios Rectores de las Naciones Unidas sobre Empresas y Derechos Humanos establecen que las empresas deben respetar los derechos y remediar los daños, no gestionarlos como variable de riesgo reputacional u operativo. Que los marcos de responsabilidad corporativa no estén construidos sobre ese lenguaje tiene efectos políticos concretos.

La conclusión no puede ser que América Latina ignore los estándares globales o se repliegue en un popurrí de respuestas nacionales divergentes. Desde la región, es necesario participar activamente en la discusión de estándares globales para volverlos más transparentes y responsables, e impulsar al mismo tiempo dentro de la región instituciones capaces de convertir la responsabilidad en una obligación verificable. Los procesos de elaboración de estándares en organismos como ISO son formalmente abiertos a la participación de gobiernos y sociedad civil, pero esa participación requiere recursos, capacidad técnica y voluntad política sostenida. Además, para que tenga peso, esa participación debe venir acompañada de instituciones nacionales con capacidades y recursos, de procesos legislativos que resistan las presiones documentadas, y de una posición regional coordinada que afirme que la rendición de cuentas de las plataformas no es una anomalía latinoamericana, sino cumplimiento de obligaciones preexistentes.

Derechos exigibles, no responsabilidad decorativa

La salida no exige rechazar todo marco de gestión de riesgos ni toda guía de buenas prácticas. No se trata de reiterar posiciones en el viejo debate sobre si los intermediarios responden por contenidos de terceros, sino de reclamar la institucionalidad que hace que cualquier marco de rendición de cuentas, definido democráticamente, tenga consecuencias reales. Ello requiere exigir más de las empresas a través de nuestra institucionalidad. Requiere obligaciones públicas exigibles: reportes de transparencia desagregados, debido proceso para personas usuarias afectadas y reglas específicas para contextos de riesgo diferenciado, con sanciones efectivas ante el incumplimiento. Requiere estándares más transparentes y responsables, con procesos abiertos, participación real de sociedad civil, trazabilidad de aportes y conexión explícita con derechos humanos como referente normativo. También, exige contar con institucionalidad con capacidad de fiscalizar: autoridades con mandato, recursos, y poder sancionatorio. Todo ello debe venir asociado a una respuesta coordinada frente a la presión geopolítica, con el respaldo en la noción del sistema interamericano que sostiene que regular plataformas para proteger derechos no es sino el cumplimiento de obligaciones democráticas preexistentes.

Como hemos dicho desde hace años, las reglas hechas por otros para sí mismos no son el mecanismo por el cual nuestros derechos serán respetados y defendidos. Hoy, el tablero global es más desfavorable: el lobby es más extenso, la presión geopolítica es más explícita, y los marcos voluntarios están ganando terreno como la opción políticamente más cómoda. América Latina necesita marcos propios, anclados en obligaciones democráticas, instituciones con capacidad real de aplicarlos, estándares abiertos a la participación social y comunidades con poder efectivo sobre las reglas que organizan su vida digital.

Palantir: La piedra vidente que amenaza la soberanía de América Latina

Durante el último tiempo, Palantir se empezó a escuchar más fuerte en nuestra región. Su nombre está inspirado en las piedras palantíri, presentes en “El Señor de los Anillos”, que permitían ver aquello que sucedía en otros reinos. Los orígenes se remontan al año 2004, cuando la empresa fue creada en medio de la paranoia tras los ataques del 11 de septiembre de 2001. Su objetivo era analizar datos de distintas fuentes para generar inteligencia que permita identificar posibles atentados terroristas antes de que sucedan, mediante el cruce de información de distintas fuentes de datos.

Desde sus inicios, Palantir fue cercana al gobierno de EE. UU. y sus agencias de inteligencia. Uno de sus primeros financistas fue In-Q-Tel, fondo creado por la CIA para el desarrollo de tecnología de seguridad, que aportó dos millones de dólares para la compañía. El FBI, ICE y la NSA son algunos de los organismos norteamericanos más importantes que vienen siendo clientes de la compañía. En el caso de la NSA, Palantir ayudó a mejorar el sistema secreto de análisis de información XKEYSCORE, conocido públicamente gracias a las revelaciones de Snowden.

Palantir también fue utilizada por ICE como herramienta para deportar migrantes como lo documentamos recientemente en una columna. La herramienta ELITE es un sistema que funciona como un “Google Maps de personas deportables”: muestra en un mapa la ubicación probable de cada objetivo con una puntuación de probabilidad para deportación. Esta puntuación se calcula cruzando datos como direcciones en Medicaid, registros de GPS y capturas de cámaras de videovigilancia. Además, genera expedientes automáticos con antecedentes penales y órdenes judiciales. En 2025, el ICE invirtió USD 30 millones para expandir ELITE y crear ImmigrationOS, una plataforma que rastrea a las personas desde su entrada al país hasta su deportación, en tiempo real. El sistema reduce a las personas a casos con fechas estimadas de salida, sin posibilidad de réplica o defensa.

Como si fuera poco, esta compañía también viene teniendo una participación importante en escenarios de guerras. Entre sus productos se encuentran Gotham y Maven. Maven permite tomar decisiones con la ayuda de inteligencia artificial para definir blancos en una guerra de manera rápida y precisa. Se sabe que fue utilizado en el conflicto bélico de Medio Oriente y ayudó a identificar objetivos en el primer día de ataque de EE. UU. a Irán. Dentro de los posibles objetivos estuvo una escuela donde murieron 168 personas que incluyen a 110 niños y niñas. Un error en un sistema informático de banca puede dejar a gente sin dinero, un error en un sistema para la guerra puede terminar con la vida de personas civiles.

¿Quién está detrás de Palantir?

Vale la pena preguntarse quién está detrás de esta empresa, y quién se beneficia de un mercado tan expandido para sus capacidades. Dos de sus fundadores son personajes polémicos que también forman parte de las noticias del último tiempo en nuestra región: Peter Thiel y Alex Karp. El primero es presidente de la junta directiva de Palantir y el segundo es su CEO.

Peter Thiel es uno de los fundadores de Paypal junto a figuras como Elon Musk. En el año 2002 la empresa fue vendida a Ebay por USD 1500 millones, y con estos recursos empezó a financiar startups tecnológicos como LinkedIn y Yelp, entre otros. Thiel fue uno de los primeros inversores de Facebook y Mark Zuckerberg lo consideró su mentor.

Más allá de ser un empresario exitoso, también tiene posiciones políticas controvertidas. El Washington Post accedió a audios filtrados de un seminario que Thiel dictó en San Francisco titulado “El Anticristo: Una serie de conferencias en cuatro partes”, entre septiembre y octubre de 2025. Las charlas fueron organizadas por ACTS 17 Collective, una organización dedicada a predicar el cristianismo dentro de la industria de la tecnología. En sus charlas, Thiel afirma que el Anticristo aparecerá en forma de gente que se oponga al avance de la tecnología o defienda al medio ambiente. Llegó a mencionar a Greta Thunberg, defensora ambientalista, y a Eliezer Yudkowsky, investigador sobre IA y seguridad, como posibles personificaciones del Anticristo.

En 2009, Thiel publicó el ensayo “La Educación de un Libertario”, en el que argumenta que la libertad individual y la democracia son incompatibles, ya que esta última tiende a limitar derechos a través de la voluntad de la mayoría. Propone que los libertarios prioricen la innovación tecnológica y el mercado sobre la política tradicional, que considera ineficiente. Señala que la expansión del voto femenino y el Estado de bienestar en el siglo XX contribuyeron al crecimiento de formas de gobierno que erosionaron la autonomía individual. Destacó a Facebook como ejemplo de cómo la tecnología puede crear nuevas comunidades y formas de disidencia más allá de los Estados-Nación. Adicionalmente, en el ensayo afirma que el ciberespacio, las colonias marinas flotantes o el espacio exterior son lugares donde se podría recuperar la libertad individual sin depender de la política democrática.

Por otro lado está Karp, que en 2025 publicó el libro “La república tecnológica: Poder duro, pensamiento débil y el futuro de Occidente ” junto a su compañero de Palantir Nicholas W. Zamiska. En abril de 2026 la cuenta de Palantir en X publicó un manifiesto de 22 puntos que resume el contenido del libro. Un análisis de este manifiesto podría ocupar una columna completa, pero se destacan algunos puntos: el uso del software como herramientas para la guerra y la supremacía de los EE. UU. sobre otros países; el deber de apoyo de las empresas de tecnología al ejército norteamericano (“si el Ejército necesita un rifle, debemos crear el mejor”); la visión positiva del uso de armas potenciadas por IA para la guerra, entre otros.

Pero Karp no es polémico solamente por este libro y el manifiesto. En una entrevista con CNBC afirmó: “A mis amigos en la comunidad tecnológica: nadie en el mundo nos toleraría a nosotros y todo lo que hacemos si América [Estados Unidos] no tuviera el ejército más poderoso del mundo. Por lo tanto, apoyar al ejército no es solo una opción, es una obligación para aquellos que se benefician de nuestro sistema.” En una junta con financistas sostuvo: “Palantir está aquí para perturbar y hacer que las instituciones con las que trabajamos sean las mejores del mundo. Y, cuando sea necesario, asustar a nuestros enemigos y, en ocasiones, matarlos.”

Su expansión en América Latina

En enero de 2025, el presidente de Ecuador anunció su plan de transformación digital con la colaboración de empresas como Google, Healthbird y Palantir. En mayo de ese año, el gobierno formalizó la colaboración con Palantir para combatir el fraude aduanero. En ese momento, el presidente expresó: “La seguridad no se defiende solo con fuerza, también se defiende con inteligencia y el desarrollo de nuevas tecnologías”.

Karp y Noboa se reunieron en el foro de Davos en enero de 2026 donde anunciaron que la empresa abrirá oficinas en Ecuador, las primeras en América Latina. La colaboración con el gobierno ahora se extiende al combate a la minería y pesca ilegal y a la prevención de fraudes en préstamos del sector público. Si bien es pública la colaboración entre el gobierno y Palantir, no se conoce el contenido de los contratos que formalizan las mismas.

El pasado abril, Peter Thiel llegó a Argentina, donde compró una mansión histórica en el exclusivo barrio de Palermo Chico por aproximadamente USD 12 millones. Al momento de redactar esta columna, Thiel sigue en el país. Durante la visita se reunió a puerta cerrada con el presidente Javier Milei en la Casa Rosada y con otros integrantes del gabinete, entre los que se incluye a Santiago Caputo, quien conserva el control de la Secretaría de Inteligencia del Estado (SIDE).

Thiel hizo de Buenos Aires su centro de operaciones para el Cono Sur. El 13 de mayo viajó a Asunción donde se reunió con el presidente de Paraguay Santiago Peña. También viajó a Santiago de Chile a fines de abril y principios de mayo, donde sostuvo encuentros con figuras libertarias y neoliberales como Johannes Kaiser y José Piñera.

No se sabe cuánto Thiel viene hablando de Palantir y el uso de sus herramientas en los Estados del Cono Sur, sus intereses van más allá y está entusiasmado en invertir en actividades como minería y energía. Se especula que Thiel encuentra en la Argentina de Milei ese lugar donde pueda crear su “utopía” tecnológica, sin la necesidad de viajar al espacio o fundar colonias marinas.

La soberanía digital latinoamericana en riesgo

Palantir es una de las empresas con capacidad de análisis de datos e inteligencia artificial más poderosas del mundo. Sin controles democráticos, institucionales y técnicos adecuados, tanto sobre los gobiernos como sobre la propia empresa, existe el riesgo de que esta tecnología se convierta en una herramienta de vigilancia masiva que derive en regímenes autoritarios. Cabe preguntarse ¿qué habrían hecho dictadores como Videla o Pinochet con una capacidad de vigilancia y análisis predictivo como la que ofrece Palantir hoy?

En este contexto, preocupa que el gobierno de Ecuador haya aprobado una Ley Orgánica de Inteligencia en 2025, varios de cuyos artículos clave fueron suspendidos provisionalmente por la Corte Constitucional por posibles inconstitucionalidades. De igual forma y preocupante, Argentina modificó recientemente, vía decreto, su Ley de Inteligencia, ampliando los poderes de la SIDE.

Que los Estados de América Latina adopten nuevas tecnologías de vigilancia masiva es alarmante, sobre todo si recordamos las sangrientas dictaduras que vivió nuestra región. Hacerlo de la mano de una empresa como Palantir, con esta visión del mundo de sus fundadores, implica un riesgo adicional: que los países terminen siendo vigilados directamente por la empresa, perdiendo así su soberanía. Volviendo a Tolkien, Palantir actuaría como la “Piedra de Osgiliath”, la piedra palantíri que era capaz de espiar a las demás.

En “La República Tecnológica”, Alex Karp enfatiza en la importancia de defender los valores de Occidente mediante el ejercicio de la fuerza y la superioridad tecnológica y militar, con EE. UU. a la cabeza. Para Karp, Palantir y las empresas de tecnología son herramientas de poder que permiten fortalecer la supremacía norteamericana sobre otros países. Esperemos que nuestros gobiernos respeten la autodeterminación de sus pueblos y no sigan entregando nuestra soberanía para profundizar, cada vez más, la famosa idea del patio trasero de EE. UU.

LinkedIn y privacidad: nuevos métodos invisibles de perfilamiento detrás de las huellas digitales

¿Quién define hoy el límite entre lo público y lo privado? Atravesamos una era en la que los modelos de Inteligencia Artificial demandan enormes volúmenes de datos para ser alimentados, mientras los anunciantes y publicistas afinan su puntería hacia públicos específicos, y las plataformas perfilan a millones de personas, categorizándolas según sus preferencias, comportamientos y deseos. En ese marco, la carrera de las grandes empresas de tecnología se centra en desarrollar mejores algoritmos que sean capaces de conectar datos y estructurar toda esa información.

A esta maratón se sumó LinkedIn, la red profesional por excelencia que, más allá de conectar reclutadores y estudiantes, se convirtió en un repositorio masivo de hojas de vida recopilando desde estudios y experiencia laboral hasta aspiraciones y características ideológicas.

BrowserGate, experto en perfilamiento silencioso

Lo que parece un intercambio controlado de publicaciones y una personalización voluntaria de perfiles adquiere una dimensión alarmante cuando a la conversación se suma BrowserGate. Esta herramienta de LinkedIn analiza el navegador de las personas usuarias cada vez que visitan el sitio mediante un fragmento de código (script) capaz de detectar más de seis mil extensiones de Chrome instaladas y recolectar características específicas de los dispositivos desde donde las personas usuarias se conectan. Esta práctica sitúa en el centro del debate la preocupante precisión del fingerprinting (huella digital única), una técnica que permite identificar a un usuario sin necesidad de archivos de rastreo tradicionales.

El proyecto evolucionó drásticamente: de identificar 38 extensiones en 2017 a monitorear miles en la actualidad. Su modus operandi consta de tres fases consecutivas. Primero, intenta contactar una extensión de forma directa vía API, es decir manda un mensaje directo a la extensión esperando una respuesta. Luego, solicita archivos internos de configuración o rastros de uso del plugin mediante peticiones técnicas específicas. Por último, escanea la página de la extensión (DOM – Document Object Model) examinando cuidadosamente en busca de huellas que cada interacción de la persona usuaria deja en los complementos, permitiendo inferir información sumamente detallada.

¿Cuál es la preocupación si se puede usar navegación incógnita?

La importancia de hablar al respecto radica en que no se trata de cookies ni de consentimiento, sino de una identificación basada en extensiones y hardware alimentando el poder de inferencia de la plataforma. Además, esto implica la posible exposición de datos sensibles -como creencias, ideologías, neurodivergencias o condiciones de salud- sin que la persona los haya declarado en su perfil, basándose únicamente en los complementos instalados. Este procedimiento vulnera el principio de la protección de datos, sumado a preocupantes antecedentes ya conocidos como la venta de datos por parte de las plataformas y a través de ellas, como lo demostramos recientemente en un informe de Derechos Digitales respecto al mercado ilegal de datos personales en Telegram. Y como en toda red, esto transciende a la información personal hasta llegar a otros nodos con los que se haya relacionado, como una empleadora o una colega de trabajo o universidad.

Mientras LinkedIn argumenta una latente preocupación por evitar el web scraping (técnica que se utilizada para extraer información de sitios web de manera automatizada), proteger los datos de sus personas usuarias y mantener la estabilidad de la plataforma, lo cierto es que abre la puerta a una vigilancia masiva, opaca y difícil de eludir. Y esto no es todo, la empresa tendría la capacidad de detectar herramientas rivales como Apollo, ZoomInfo o Lusha, facilitando la identificación de empleados y empleadores, y planteando una sospecha: no sólo estaría recogiendo datos personales sino también estableciendo inteligencias comerciales y redes de conocimiento sobre organizaciones.

La infraestructura que propone más protección se convierte así en un método de extracción masiva de datos sensibles. Las herramientas de rastreo digital (tracking) no se declaran en su política de privacidad ni en las condiciones de uso. De lo que hablamos es de fragmentos de código incrustados en las aplicaciones para capturar datos y contribuir al perfilamiento, operando desde una lógica que las personas usuarias sin conocimientos técnicos no pueden detectar.

Implicaciones legales de la violación de privacidad

El hecho de que LinkedIn, de forma deliberada y planificada, escanee secretamente los navegadores web podría exponer a la plataforma y su matriz, Microsoft, a consecuencias legales y financieras alrededor del mundo. Si se considera el Reglamento General de Protección de Datos de la Unión Europea (GDPR), su artículo 9 (“Tratamiento de categorías especiales de datos personales”) lista los datos considerados sensibles y que pueden llegar a inferirse en base al comportamiento digital. Además, en el artículo 83 (“Condiciones generales para la imposición de multas administrativas”) se establece que la multa para empresas equivale al 4% como máximo del volumen de negocio total anual global. En el caso de la creadora de Windows, su ingreso anual al 2025 fue de $281.700 billones, lo que supone una posible multa de $11.286 billones.

A esto se suma la falta de transparencia con las personas usuarias ya que esta práctica no se explicita en la política de privacidad de la plataforma. En términos legales, esto viola el principio de consentimiento informado y las obligaciones de transparencia que el GDPR estipula en sus artículos 13 y 14. Esto aprovecha el desconocimiento de millones de usuarios, quienes no son plenamente conscientes del alcance que tiene sobre su privacidad, su vida laboral y personal.

Indistintamente de si alguna de estas interpretaciones será confirmada o no por parte de las cortes, el caso pone de manifiesto algo mucho más estructural: las leyes digitales actuales fueron pensadas en una internet de cookies visibles y de formularios de consentimiento más o menos sencillos. La técnica de fingerprinting contemporánea opera ya en otra escala. Lo hace de forma silenciosa, distribuida y en una lógica sumamente técnica, difícil de ser identificada por las personas usuarias, aún cuando eligieran no aceptar cookies o navegar en modo incógnito.

La investigación académica sobre el tracking post-cookie ya daba cuenta de que la industria tecnológica se había embarcado en un tránsito hacia mecanismos de tracking más persistentes y difíciles de detectar. Ahora, BrowserGate parece corroborarlo. En regiones como América Latina, donde la fragmentación normativa es la regla y cada país tiene su propia ley de protección de datos, el desafío de enfrenar estas técnicas de rastreo post-cookie parece aún mayor.

Medidas para reducir el impacto

Ante este escenario, las medidas de protección más efectivas se basan en prácticas diarias y persistentes, que pueden requerir más tiempo pero también brindar mayor tranquilidad: revisar las extensiones del navegador instaladas. Cada extensión que se añade no sólo amplía la superficie de ataque que puede experimentar vulnerabilidades o localizaciones, sino que, además, incrementa la noción de singularidad de la persona usuaria dentro de los sistemas de fingerprinting.

La mayoría de las personas mantienen extensiones que ya no utilizan, incluso cuentan con extensiones duplicadas y añaden otras sin necesidad, al tiempo que ignoran que cada extensión puede convertirse en una señal identificatoria. Lo recomendable es reducir al mínimo el número de extensiones, eliminar aquellas que ya no tienen mantenimiento y revisar periódicamente los permisos que tienen como una práctica de higiene digital básica.

Por la misma razón, hacer perfiles de navegación segmentados –diferenciados entre laboral, para ocio y para actividad en redes sociales- ayuda a que las diferentes plataformas no lleguen a unir y construir un único perfil que derive del cruce de hábitos, herramientas y comportamientos. Además, utilizar navegadores de privacidad, como Mozilla Firefox, nos brinda mecanismos de resguardo frente a técnicas de fingerprinting y de tracking más sofisticadas. Y a esto hay que añadir el uso de bloqueadores más avanzados, como uBlock Origin, que permiten restringir scripts de tracking invisibles que funcionan en segundo plano.

Ninguna de estas herramientas garantiza un completo anonimato, pero sí pueden limitar en buena medida las capacidades de las plataformas para crear perfiles persistentes y exhaustivos. La clave está en ser concientes que la privacidad no solo consiste en “no compartir demasiados datos”, sino también en la forma de controlar cuántas señales técnicas dejamos expuestas cada vez que abrimos el navegador. Con más información y estrategias de protección, podremos mejorar nuestra seguridad digital y seguir utilizando internet con mayor autonomía y privacidad.