Derechos humanos en el <i>credit scoring</i>

Derechos humanos en el credit scoring

Es probable que usted conozca a alguien que haya tenido un problema derivado de su puntaje de crédito (credit scoring). Esta ha sido una herramienta muy utilizada por bancos y comercios en general para evaluar la capacidad de pago de una persona. A pesar de ser útil para muchas personas a la hora de dar acceso al crédito en entidades financieras, poco se habla sobre los problemas relacionados con esta práctica.

Muchas veces no existe información adecuada sobre este registro. Es como una verdadera caja oscura con respecto a los datos personales: no se sabe de dónde provienen los datos, qué criterios se utilizan para su tratamiento y, principalmente, cómo se utilizan las técnicas de inteligencia artificial para determinar si una persona puede o no, por ejemplo, financiar un automóvil.

Esta columna analiza brevemente cómo el tema es cada vez más relevante para las personas, además de traer algunos ejemplos actuales de discusiones regulatorias y prácticas de mercado ante posibles denegaciones de crédito, discriminación, falta de transparencia, entre otros problemas encontrados.

Importantes discusiones de los EE.UU. a la Europa

El tema está regulado en Estados Unidos, principalmente por la Ley de informes crediticios justos (FCRA), modificada en gran medida por la Ley Dodd-Frank que trajo importantes medidas para la regulación del capital financiero y la protección del consumidor después de la crisis financiera de 2008.

Siguiendo la citada ley, la Oficina de Protección Financiera del Consumidor (CFPB), de EE.UU. publicó un reporte anual sobre los burós de crédito más grandes de EE.UU.: Experian, Equifax y TransUnion. Entre sus recomendaciones, se aconseja considerar cómo los procesos automatizados impactan a los clientes, particularmente aquellos que reportan un derecho deben considerar la carga del consumidor (consumer burden) y, sobre todo, si un cambio hacia la automatización requerirá que los consumidores tengan que sortear más obstáculos y lidiar con distintos organismos para ejercer sus derechos.

La medida cumple con algunas de las obligaciones establecidas en la ley FCRA, pero la CFPB quiere ampliar la discusión, tratando de entender cómo opera el mercado y cuáles son las posibles prácticas que pueden lesionar los derechos de las personas. Esta semana, en el día mundial del consumidor, la CFPB publicó un llamado solicitando informaciones sobre los data brokers y otras prácticas comerciales que involucran la recopilación y venta de información del consumidor. Además de supervisar las agencias de informes del consumidor, incluidas las tres agencias más grandes del país, la CFPB se esfuerza por obtener información sobre el alcance completo de la industria de data brokers.

En Europa, la Corte de justicia europea analizará un caso importante sobre este tema. El caso C-634/21 trata acerca de una agencia privada de información crediticia alemana (SCHUFA) que proporciona información sobre la solvencia de los consumidores a sus socios contractuales. SCHUFA establece puntajes de crédito donde la probabilidad del comportamiento futuro de una persona se predice sobre la base de ciertas características de esa persona, utilizando métodos estadísticos matemáticos.

Las organizaciones Algorithm Watch y Open Knowledge Fountation lanzaran la campaña OpenSCHUFA que, aparte de arrojar luz sobre el tema y visibilizar la conducta poco transparente de la empresa, también condujo a la evaluación de datos de más de 2000 consumidores por parte de periodistas de datos de BR Data y SPIEGEL Data. La investigación concluye que muchas personas son declaradas caso de riesgo sin culpa propia.

El caso europeo pretende definir cuestiones tales como si la calificación crediticia es una decisión basada únicamente en el procesamiento automatizado, incluida la elaboración de perfiles, y los límites de la ley europea de datos (RGPD) para aplicar el credit scoring. La Corte de Justicia va a analizar la aplicación del artículo 22 del RGPD, que trata del derecho del interesado a “no ser objeto de una decisión basada únicamente en el tratamiento automatizado, incluida la elaboración de perfiles, que produzca efectos jurídicos en él o le afecte significativamente de modo similar”. Esta semana, el Abogado General publicó su opinión en el caso de que, entre otros puntos, la conservación de datos por una agencia privada de información comercial no puede ser lícita “a partir del momento en que los datos personales relativos a una insolvencia se hayan suprimido de los registros públicos”.

Brasil: múltiples leyes para la protección de los derechos

En Brasil, la discusión también está caliente. A mediados de febrero, Idec publicó el libro “El consumidor en la era del puntaje de crédito”, coordinado por Juliana Oms y disponible en versión digital. El libro trae varios artículos que exploran cómo se puede entender el interés económico en relación con la protección de datos personales y la privacidad, además de profundizar en la producción de la regulación en Brasil sobre el tema en los últimos años, y analizar la perspectiva de defensa del consumidor sobre el tema.

Por un lado, la legislación brasileña, a pesar de estar inspirada en la legislación europea, define de manera muy amplia la protección del crédito como una de las hipótesis para el tratamiento de datos personales. Por otro lado, la ley específica sobre la materia (Lei do Cadastro Positivo) prohíbe el registro de información excesiva que no esté vinculada al análisis del riesgo crediticio del consumidor; e información sensible, como origen social y étnico, salud, información genética, orientación sexual; y creencias políticas, religiosas y filosóficas. Tal como lo entiende la jurisprudencia brasileña, el uso de este tipo de información sería un abuso de derecho, lo que está prohibido por el Código de Protección del Consumidor.

La inteligencia artificial, datos crediticios y sus riesgos

El tema aún está en discusión y, actualmente, se está abordando el riesgo de utilizar sistemas de inteligencia artificial (IA) para este propósito. En el marco brasileño de las discusiones del Proyecto de Ley sobre inteligencia artificial, la comisión de juristas encargada de analizar los proyectos de ley propuso la adopción de un sistema de calificación de riesgos, que debe ser un paso previo a la publicación de la oferta de estos productos ante los consumidores. Por lo tanto, los sistemas de IA considerados de alto riesgo han de adoptar medidas de mitigación, como realizar una evaluación de impacto algorítmico y adoptar medidas de gobernanza, y medidas de gestión de datos para aminorar y prevenir sesgos discriminatorios. El sistema de calificación crediticia, según la propuesta, sería un sistema de alto riesgo y, por ende, requiere del cumplimiento de las medidas mencionadas.

La solución propuesta por la comisión brasileña de juristas brinda mayor protección a los derechos humanos involucrados en este caso: la privacidad y la no discriminación. Sin embargo, aún queda un largo camino para que la ley sea aprobada y, posteriormente, sea aplicada efectivamente por las instituciones.

Hay mucho por hacer

Si, por un lado, hay un discurso que avala el uso de este tipo de herramienta, en tanto puede servir para tener un acceso más fácil al crédito con tasas más bajas, por otro lado, hay muchos riesgos que deben ser tomados en cuenta: denegaciones indebidas de acceso a crédito, discriminación, violación sistemática de la privacidad, uso indebido de datos sensibles, entre otros. Los factores se vuelven más complejos cuando se observa la falta de transparencia respecto de varios factores importantes de los sistemas utilizados, además de los problemas relacionados con el uso de herramientas automáticas para la evaluación.

Vemos que el análisis de algunas de las jurisdicciones apunta a la complejidad de este tema, en vista de las múltiples leyes de consumo, protección de datos y otros temas que están involucrados con el cumplimiento de los numerosos derechos humanos que se evidencia en este caso. Junto con ello, la existencia de varias instituciones encargadas de la supervisión, además del uso intensivo de herramientas de inteligencia artificial en este análisis, también son otras cuestiones que agregan complejidad al tema. Necesitamos ser conscientes de la necesidad de una mejor regulación y actuación de las autoridades sobre los datos crediticios, por el alto impacto que su uso y tratamiento tienen en la vida de las personas.

La industria de la desinformación y el papel de las plataformas en los ataques a la democracia brasileña

Texto disponível em português

El pasado 8 de enero, Brasil vivió escenas de terrorismo y violencia con actos golpistas que atacaron la propiedad pública y la democracia. Esto actos fueron perpetrados en Brasilia, por simpatizantes del expresidente Jair Bolsonaro .

Como las investigaciones indican, hay indicios de graves falencias -y posiblemente incluso de indulgencia y perjurios- en la actuación de las autoridades encargadas de la inteligencia y seguridad en los edificios de los tres poderes de la República, pues no habrían previsto ni estaban preparados para la escala de los ataques, que se fue articulando paulatinamente en las semanas previas.

Según apunta la investigación del medio Desinformante, los ataques fueron convocados por redes sociales y en grupos en aplicaciones de mensajería. A lo largo de toda la semana previa a los actos golpistas, grupos y canales bolsonaristas lanzaron llamados «con todo pagado» para atraer manifestantes en Brasilia.

Según una investigación de Agência Pública, los simpatizantes de Bolsonaro utilizaron el código “Festa de Selma” para coordinar la invasión. La expresión, acuñada por Steven Bannon, alude al término «Selva», utilizado por los militares. La investigación además muestra que la expresión había sido utilizada libremente por los bolsonaristas durante días en redes sociales abiertas como Twitter.

Además, mientras destruían propiedades públicas e invadían edificios de la República, los terroristas fotografiaban, filmaban y transmitían en vivo sus actos de violencia en plataformas como Facebook, Instagram y Youtube.

Fue solo después de la decisión de la Corte Suprema de suspender los perfiles de las personas que participaron en los actos que las plataformas tomaron medidas. Como apunta un informe de SumofUs, así como en el episodio en el Capitolio de EE. UU. el 6 de enero de 2021, las plataformas digitales facilitaron los ataques terroristas al permitir que contenidos extremistas fueran ampliamente compartidos durante meses, y que contenidos favorables a un golpe de Estado se recomendaran activamente a los usuarios , incluyendo llamados explícitos a la violencia.

Frente a esto, el tema se vuelve urgente en el contexto de las discusiones sobre derechos digitales: ¿cuál es el papel y la responsabilidad de las plataformas digitales en situaciones de crisis democrática como la ocurrida en Brasil el pasado 8 de enero?

El contexto tecnopolítico de los ataques golpistas y el negacionismo electoral de Bolsonaro

Durante años, el expresidente Jair Bolsonaro y sus partidarios estuvieron haciendo campaña contra las máquinas de votación electrónica, cuestionando la integridad electoral y fortaleciendo una narrativa de fraude. Según el informe «Desinformación en línea y disputas electorales: Quince meses de publicaciones sobre fraude en urnas electrónicas y voto impreso auditable en Facebook», elaborado por el proyecto Democracia Digital, una iniciativa de Escola de Comunicação, Mídia e Informação da FGV, «Entre noviembre de 2020 y enero de 2022, Se encontraron 394.370 posts sobre fraude en máquinas de votación electrónica y votos impresos auditables, publicados por 27.840 cuentas, entre páginas, perfiles personales y grupos públicos”. Entre las doce cuentas que concentran el mayor volumen de interacciones (más de 1 millón cada una) en publicaciones de Facebook sobre fraude electoral y voto impreso, el perfil oficial de Jair Bolsonaro es uno de sus principales voceros, junto al de otros políticos que lo apoyan, indica el estudio.

Los ataques a las urnas electrónicas y el discurso de fraude electoral no solo se vieron fomentados por las declaraciones del expresidente y sus seguidores en las redes sociales. Hubo un intento efectivo de aprobar una enmienda a la Constitución (PEC 135/2019) para introducir «la emisión de papeletas físicas», que pasó a ser conocida como PEC do Voto Impresso.

El negacionismo electoral de Bolsonaro se fortalece desde hace tiempo en sus declaraciones y acciones, y también es estimulado por una industria de desinformación, teniendo las plataformas digitales como principal medio para producir y difundir sus narrativas.

Como lo muestra el estudio de NetLab/UFRJ y un experimento realizado por GlobalWitness, durante el período electoral, el sistema publicitario de Meta no detectó el aumento de contenido de desinformación que atacó la integridad de las elecciones brasileñas de 2022.

En 2022, más de 100 entidades de la sociedad civil y la academia se unieron a la campaña «Democracia Pede Socorro» y publicaron un informe y dos balances con advertencias y recomendaciones sobre el papel de las plataformas digitales en la protección de la integridad electoral brasileña.

Entre los aspectos más destacados, las entidades señalan que la protección de la integridad electoral debe incorporarse como un valor reflejado en las políticas de moderación de contenidos y en sus condiciones de uso, que no deben restringirse al período electoral. Además de adaptar sus políticas al contexto brasileño, las plataformas deben establecer protocolos de gestión para cualquier crisis institucional de gran escala, como el ocurrido el 8 de enero. Otro punto destacado en las recomendaciones es que las plataformas no deben permitir la difusión de contenidos con denuncias infundadas de fraude electoral o que puedan atentar contra la integridad electoral, ni manifestaciones infundadas de cuestionamiento del resultado electoral tras la divulgación del Tribunal Superior Electoral (TSE).

A pesar de los ataques bolsonaristas al proceso electoral, el 30 de octubre de 2022 él fue derrotado en las urnas. Desde el final de las elecciones, los simpatizantes de Bolsonaro han cuestionado los resultados de las urnas, pedido un golpe de Estado, bloquearon carreteras, ocuparon la puerta de los cuarteles e demandaron la intervención de las fuerzas armadas para revertir los resultados de las elecciones. Todas estas acciónes resultaron en los atentados del 8 de enero.

Democracia y plataformas digitales

Si bien un episodio complejo como el del 8 de enero está asociado a diferentes aspectos sociales, históricos, políticos y coyunturales, los atentados golpistas en Brasilia también nos revelan la insuficiencia de las políticas actuales de las plataformas para prevenir movilizaciones antidemocráticas a través de sus redes sociales y/o aplicaciones de mensajería, así como para contener la difusión de contenidos de desinformación relacionados con la integridad electoral.

La articulación golpista por medio de las plataformas es, en parte, uno de los efectos de años de campañas de desinformación perpetradas por una industria publicitaria que produce y difunde fake news, teorías conspirativas y discursos de odio en las redes sociales: y que fue, poco a poco, contribuyendo a la polarización de la sociedad brasileña y la radicalización de la extrema derecha.

Reconocer el papel de las plataformas en la crisis de la democracia brasileña no implica atribuir una causalidad directa entre el intento de golpe y la gobernanza de las plataformas, sino comprender la centralidad de las grandes tecnologías en la mediación de la comunicación política actual.

Para evitar nuevos ataques a otras democracias en otros contextos, discutir la responsabilidad de las plataformas es fundamental en los debates sobre la regulación de plataformas en Brasil y en toda América Latina para garantizar mecanismos más efectivos contra la desinformación, protocolos específicos y más consistentes para enfrentar procesos electorales y crisis institucionales, así como más transparencia y control por parte de la sociedad civil.

*Ejemplo de mensajes que circularon en Telegram: https://desinformante.com.br/atos-antidemocraticos-redes-sociais/

*Convocatoria a a actos golpistas en una red social usando el código «Festa de Selma» https://apublica.org/sentinela/2023/01/bolsonaristas-usam-codigo-festa-da-selma-para-coordenar-invasao-em-brasilia/

*Anna Bentes es profesora adjunta e investigadora de la Escuela de Comunicación, Medios e Información de la Fundación Gertúlio Vargas en Brasil y actualmente trabaja como investigadora visitante en Derechos Digitales analizando la difusión de desinformación en el contexto electoral brasileño. Es miembro del Consejo de la Red Lavits.

Zero-rating: una discusión ineludible

Es probable que cuando hayas contratado un paquete de datos móviles, de prepago o pospago, tu proveedor te haya ofrecido el que incluye redes sociales “gratis” o “ilimitadas”, como Facebook, WhatsApp, Instagram o Twitter. En algunos casos, incluso puedes seguir utilizando estas aplicaciones una vez consumidos los datos móviles contratados. Esta práctica se denomina zero rating o “tarifa cero”.

En Derechos Digitales creemos que este modelo de acceso a internet vulnera el principio de la neutralidad de la red cuando es aplicado sin un diagnóstico sobre las necesidades de la población. Para que internet funcione de manera abierta y libre es necesario que los proveedores de servicios de internet (PSI) no intervengan el flujo de datos, privilegiando algunos contenidos, servicios y aplicaciones sobre otras. Eso es precisamente lo que hace el zero rating, favorece el uso de un grupo de aplicaciones. La consecuencia es que la experiencia de internet se reduce a aquello que circula en un puñado de redes sociales.

Por ello, la tarifa cero es en un tema de derechos humanos, pero que también compete al mercado. Cuando se aplica el zero rating, se promueve una “lógica de escasez artificial”, lo que significa que, al haber un cúmulo de información limitada (solo la que se encuentra en estas aplicaciones), las personas modifican su comportamiento y “eligen” usar aplicaciones “gratuitas”. Esto beneficia tanto a los PSI como a las empresas que logran generar este tipo de acuerdos, pues la “oferta” facilita atrae nuevos clientes. Sin embargo, perjudica a las poblaciones con menores ingresos, que solamente pueden experimentar esta versión reducida de internet, con limitaciones a su derecho al acceso a la información y a la libertad de expresión.

El caso colombiano ante la Corte Constitucional

El zero rating es una práctica extendida en toda América Latina. En Colombia, el artículo 56 de la Ley 1450 de 2011 establece que los PSI “podrán hacer ofertas según las necesidades de los segmentos de mercado o de sus usuarios de acuerdo con sus perfiles de uso y consumo, lo cual no se entenderá como discriminación”. Sin embargo, un grupo de ciudadanas y ciudadanos liderados por la activista Ana Bejarano, de la organización El Veinte, interpuso una demanda para solicitar la inconstitucionalidad de esta sección del artículo. En respuesta, la Corte Constitucional abrió un proceso de participación al que actores provenientes del sector privado, instituciones públicas, universidades y organizaciones de la sociedad civil realizaron un total de 24 contribuciones.

Derechos Digitales participó del proceso mediante la presentación de un amicus curiae. Además, la Corte Constitucional convocó a una audiencia pública que concentró a un grupo multisectorial para entregar opiniones especializadas en la materia. A lo largo de la audiencia hubo diversas posturas encontradas. Mientras que los representantes del sector privado y Gobierno defendieron el zero rating, por considerarlas medidas para la reducción de la brecha digital, la sociedad civil constató que es una práctica que limita el acceso a una internet libre, abierta e inclusiva.

Organizaciones como DeJusticia, R3D, Fundación Karisma y Derechos Digitales hicimos visible que el zero rating podría representar un falso dilema, en el que se cree que el acceso a redes sociales equivale a internet, siendo que en realidad solo representa lo que ocurre en un universo muy acotado de aplicaciones, beneficiando al mercado compuesto por PSI y plataformas digitales. Si bien desde sociedad civil se reconoce que el zero rating permite un primer encuentro con internet, también se sostiene que no resuelve la brecha de acceso.

En tal sentido, las propuestas fueron diversas. Por una parte, se planteó trabajar en la conectividad mediante la implementación de políticas públicas, en conjunto con una tarifa cero temporal que desaparezca con el paso del tiempo cuando la brecha se haya cerrado. Por otra, hay quienes propusieron un zero rating “agnóstico”, el cual no privilegia un grupo de aplicaciones, sino que propicia otras medidas basadas en las necesidades y posibilidades en las poblaciones, como, un número de datos gratis para ser usados en determinadas zonas geográficas o en horas específicas, por ejemplo, en horario de bajo tráfico en la madrugada.

También hay quienes proponen la inconstitucionalidad total de la medida y piden su prohibición. En la audiencia, el sector privado estableció que la oferta de tarifa cero se define con base en análisis de mercadeo, que tienen como insumo bases de datos anonimizadas. Esto resulta en la identificación de “preferencias” sobre las plataformas utilizadas. Frente a esto, la sociedad civil dejó entrever que los resultados de estos análisis no hacen referencia a las “preferencias”, sino a comportamientos que pueden estar influenciados por múltiples factores sociales y económicos.

Con estos argumentos, las organizaciones de la sociedad civil contribuyeron a favor de la demanda impuesta por el grupo de ciudadanas y ciudadanos, exponiendo los problemas que esta práctica implica para la libertad de expresión.

Colombia no es el único país que necesita una decisión judicial firme: la experiencia comparada

Uno de los puntos expuestos por la sociedad civil y los expertos convocados a la audiencia fue la experiencia de otros países. A diferencia de lo que afirman las empresas, existen importantes decisiones judiciales que reconocen que tales prácticas son incompatibles con la neutralidad de red.

El Tribunal de Justicia Europeo entiende que tales prácticas son ilegales, porque no cumplen con las salvaguardas del acceso a internet abierta y “sin discriminación, restricción o interferencia, e independientemente del emisor y el receptor, el contenido al que se accede o que se distribuye, las aplicaciones o servicios utilizados o prestados, o el equipo terminal empleado”. El regulador europeo actualizó recientemente su regulación en la materia para cumplir y dar seguimiento a estas decisiones judiciales. Las nuevas directrices del BEREC (la agencia de regulación del mercado de las telecomunicaciones en la Unión Europea), publicadas en junio de este año, se oponen explícitamente al uso de todas las opciones de zero rating en toda Europa.

Hoy BEREC considera que cualquier práctica de precios diferenciados que no sea independiente de la aplicación (application-agnostic) es inadmisible para las ofertas de los proveedores de internet. La decisión que tomará la Corte Constitucional de Colombia en este caso es fundamental en América Latina, pues sentará un precedente para garantizar la neutralidad de la red. Declarar la inconstitucionalidad, total o parcial, puede abrir una puerta para que otros países eliminen sus prácticas de zero rating o las transformen en iniciativas agnósticas o temporales basadas en necesidades locales.

De otro modo, declarar la constitucionalidad y mantener esta práctica, tal cual se aplica actualmente, puede perjudicar el debate en la materia. Está en las manos de las magistradas y magistrados de la Corte colombiana definir si tendremos un acceso a internet libre y abierto o un acceso limitado que no garantiza el cumplimiento de los derechos humanos.

Twitter: ¿El principio del fin?

Finalmente sucedió. Después de varios meses de especulación, y ante el riesgo de tener que ir a juicio, Elon Musk se convirtió en el dueño de Twitter. Y las cosas van más o menos como se esperaba: despidos masivos, una caída importante en los ingresos por avisaje y una sensación de caos generalizado al interior de la compañía.

Ciertamente, hay algo gratificante en ver fracasar a un multimillonario fanfarrón. Y, sin embargo, la eventual ruina de Twitter puede y debe ser entendida también como una pérdida para sus varios millones de usuarios y usuarias alrededor del mundo. Las expectativas crecen con cada nuevo chisme y con cada nuevo error. En este preciso instante, las oficinas de Twitter están cerradas, después de que una gran mayoría de los empleados haya optado por rechazar un ultimátum de Musk. Más que nunca, el futuro es incierto.

¿Es esto simplemente la obra de un hombre particularmente poco adecuado para el trabajo que compró o es sintomático de algo mayor? ¿Cómo nos afecta este fiasco a quienes usamos la plataforma? ¿Qué podemos aprender de todo esto y qué es lo que sigue?

La libertad de expresión en riesgo

La compra de Twitter ha estado ligada a una serie de declaraciones críticas realizada por Elon Musk sobre el rol de Twitter en relación con la libertad de expresión, que muchas veces hacen eco de predicamentos infundados de la derecha política estadounidense.

A fines de enero de este año, cuando recién había comenzado a comprar acciones en Twitter, Musk criticó a la plataforma por no “adherir a los principios de la libertad de expresión”. Tras la adquisición, a fines de octubre, Musk intentó clarificar su postura, señalando que por libertad de expresión entiende “aquello que la ley permite” (más precisamente, la ley de Estados Unidos).

Musk se autodefine como un absolutista en materia de libertad de expresión, pero su historial señala algo distinto: “Comedy is now legal”, decía una de las primeras publicaciones que realizó tras convertirse en dueño de Twitter, aludiendo a la idea de que la corrección política destruye no solo la comedia, sino a la civilización. Y sin embargo, quienes osaron burlarse del nuevo dueño vieron sus cuentas suspendidas. Tanto sus acciones como sus dichos demuestran la escasa comprensión que tiene Elon Musk de los complejos desafíos que supone defender la libertad de expresión en internet, en una plataforma de escala global.

Entre los primeros despidos estuvo el equipo de derechos humanos, el equipo encargado de la accesibilidad para personas discapacitadas y el equipo dedicado a la ética y transparencia algorítmica. Muy comentado fue el despido de Vijaya Gadde, jefa legal de la compañía y responsable de distintas decisiones en materia de libertad de expresión, moderación de contenido y seguridad de la plataforma: fue ella la que decidió vetar a Donald Trump y prohibir la venta de publicidad electoral en Twitter. En abril, Musk había compartido un meme burlándose de la ejecutiva, lo que le significó recibir gran cantidad de mensajes de odio.

La nueva administración está desmantelando la estructura creada por Twitter para combatir las verdaderas amenazas a la libertad de expresión: el discurso de odio, la violencia y la persecución política. Durante el fin de semana recién pasado, despidieron al equipo encargado de moderar este tipo de contenidos.

Los principales perjudicados de un brusco cambio de dirección en materia de libertad de expresión son los disidentes políticos, particularmente en países autoritarios y en las zonas de conflicto, además de las mujeres, las personas LGBTQI+ y los miembros de grupos históricamente marginados, quienes son las principales víctimas de acoso y violencia a través de Twitter.

Actualmente, Twitter está en medio de un litigio de muy alto perfil en India, enfrentándose a un Gobierno muy propenso a hacer uso de una ley que les faculta a exigir el bloqueo de plataformas y cuentas que han publicado información que consideran difamatoria. El impacto puede ser vasto, pero si continuarán con este proceso es un misterio. Como hemos mencionado antes, el respeto por los derechos humanos en la plataforma no puede depender de su propiedad, pero ese es el piso mínimo. Un verdadero compromiso con la libertad de expresión requiere tomar pasos extra, incluyendo enfrentar juicios que son largos, pesados y costosos. No obstante, la compleja situación económica en la que se encuentra Twitter hace difícil que esto pueda materializarse.

¿Cuánto vale Twitter?

¿De qué hablamos cuando hablamos del colapso de Twitter? No se trata de que, de un día para otro, la empresa simplemente deje de existir, sus servidores desconectados de internet, inaccesibles. Después de todo, los retazos de MySpace todavía están en línea. Más bien es el punto en el que, debido al desmantelamiento de los diferentes procesos y sistemas que establecen mínimos básicos de civilidad, la plataforma se torna suficientemente poco atractiva y las usuarios y usuarios dejan de utilizarla, al punto de la irrelevancia.

Se trata de un escenario plausible y frustrante, particularmente para quienes han invertido tiempo y esfuerzo creado redes y un número importante de seguidores en Twitter. Cambiar de plataforma implica no solamente dejar atrás un trabajo arduo y constante, sino que además es perder una audiencia. Tener que hacerlo por la incompetencia del hombre más rico del mundo es todavía peor.

Musk pagó 44 mil millones de dólares por Twitter y existe consenso respecto a que la cifra es excesiva, cuestión que él mismo ha reconocido (no olvidemos que intentó dar marcha atrás con el acuerdo y no pudo). Se estima que el valor real de la plataforma ronda los 25 mil millones de dólares. De cualquier forma, no valdría absolutamente nada si nadie la usara. El verdadero valor radica en la suma del esfuerzo invertido por cada persona que publica, comparte, comenta, lee, sigue y agrega a sus favoritos.

Siguiendo a Antonio Negri y Michael Hardt, podríamos denominar a esta lógica como bioeconómica, a partir del desarrollo del concepto foucaultiano de biopoder: “La vida ya no es producida en los ciclos de reproducción subordinados a la jornada laboral; por el contrario, la vida es la que infunde y domina toda la producción. De hecho, el valor del trabajo y la producción está determinado en las profundidades de la víscera de la vida. La industria no produce más excedente que el generado por la actividad social”.

No es la tecnología, son las personas. La plataforma y la tecnología constituyen los medios de producción para una forma particular de comunicación conocida como Twitter. La economía de las redes sociales está construida sobre la explotación de la totalidad de las relaciones sociales entre usuarios y usuarias, entendidas como trabajo y rentabilizadas en el mercado de valores y en la venta de avisaje. El producto no eres tú, si no los lazos comunicativos que estableces en la plataforma.

Por ello, tener que renunciar a Twitter es perder dos veces: es el despojo del valor de tu trabajo en la plataforma en tanto usuario, así como del capital social que has sido capaz de acumular. Por lo mismo, las especulaciones sobre un potencial modelo de suscripciones se siente como una estafa, y muy probablemente no funcione.

Sin embargo, no son muchas las opciones de Musk, quien está obligado a encontrar una forma en la que la plataforma genere dinero. Sin embargo, las transformaciones impuestas desde el inicio de su mandato apuntan en la dirección contraria.

Pero ¿es solo Twitter?

Mientras la atención estaba puesta en Elon Musk, Mark Zuckerberg aprovechó de despedir a 12000 empleados, aproximadamente el 13% del personal de la compañía y casi el triple de despidos que en Twitter. Las acciones de META han caído un 70% durante este año, perdiendo una capitalización de mercado cercana a los 800 mil millones de dólares.

Las razones son múltiples: demasiado personal contratado para trabajar en proyectos fracasados en un intento por retener un sitial que la compañía, alguna vez todopoderosa, ha comenzado a perder frente a competidores con los cuales no sabe cómo competir. La obsesión de Zuckerberg con construir el Metaverso tampoco ayuda. Reality Labs, la empresa encargada del desarrollo del Metaverso, perdió más de 21 mil millones de dólares entre 2019 y 2021, con otros 9.4 mil millones en pérdidas durante los últimos tres cuatrimestres.

Financieramente, las cosas son todavía peores en Twitter. En el último reporte cuatrimestral previo a la compra, la compañía reportó una pérdida de $344 millones de dólares. Para financiar la adquisición, Musk tuvo que reunir una deuda de alrededor de 13 mil millones de dólares, que acumulan anualmente alrededor de mil millones de dólares en intereses. Musk desesperadamente necesita hacer rentable la compañía, pero Twitter solamente ha logrado utilidades durante dos periodos en su historia.

Tanto la obsesión de Zuckerberg con la realidad virtual, como el desastroso intento de Musk de cobrar por verificación en Twitter dan cuenta de lo mismo: ambas compañías ven la necesidad de encontrar nuevas fuentes de financiamiento, distintas del avisaje. Si a ese cuadro agregamos las múltiples dificultades asociadas a la moderación de contenidos en plataformas con pretensiones globales —que constituye el núcleo fundamental de una plataforma que necesita atraer usuarios y publicidad— y el surgimiento de nuevas lógicas respecto al modo en que nos relacionamos con el contenido online, quizás lo que estamos presenciando sea el estallido de la burbuja, el fin de una era, el abandono próximo de una forma de producción en línea que no es sustentable.

Varias voces comienzan a declarar el fin de las redes sociales (algunas, con argumentos más conservadores que otras). Puede ser, si de algo podemos estar seguros es que todo termina, todo muere. ¿Y ahora qué? Durante los primeros días del reinado de Musk en Twitter muchas personas acudieron a Mastodon, una plataforma caracterizada como el anti-Twitter. Y aunque Mastodon tiene sus propios problemas y es difícil saber si este influjo de nuevos usuarios se mantendrá en el tiempo, hay algo respecto de los postulados con los que está construido que puede dar pistas respecto a las amplias posibilidades de la experiencia online.

Quizás el futuro pueda ser a escala humana: más pequeño, más localizado, más comunitario, más silencioso.

Veremos.

Las máquinas no son suficientes

Palabras como “bot”, “algoritmo” e “inteligencia artificial” se han vuelto parte de nuestro lenguaje cotidiano. A pesar de que muchas veces no tenemos del todo claro qué significan, aluden a un imaginario de total automatización, sistemas súper inteligentes capaces de tomar mejores decisiones, más rápido, sin sesgos, basadas en el análisis de grandes volúmenes de datos.

Sin embargo, la realidad está muy lejos. Y cuando hablamos de la moderación de contenidos en redes sociales son necesarias personas que trabajan como “escudos humanos de internet”, dedicadas a leer, escuchar y mirar todo lo que el resto del mundo no quiere ver.

La moderación de contenidos es un trabajo esencial en las redes sociales y tiene como función mantener los contenidos de las plataformas en un mínimo aceptable tanto para asegurar la experiencia de las comunidades de usuarias y usuarios, como para incentivar la inversión publicitaria. En 2021, los ingresos de compañías como Meta y TikTok superaron los 50.000 millones de euros, un negocio que solo es posible gracias a la moderación de contenidos.

Se trata de un trabajo que, en gran medida, se hace de forma manual: equipos de personas buscando y marcando textos, imágenes y audios inapropiados; clasificación que, a su vez, se utiliza para entrenar sistemas automatizados. Es decir, la capacidad de un algoritmo para identificar contenido nocivo descansa en trabajo humano. Cada vez que un contenido es retirado de una plataforma, este ha sido visto y marcado por un moderador de contenido humano o un sistema automatizado entrenado con datos proporcionados por un humano.

En general, se trata de un mal trabajo. En su libro GhostWork: How to Stop Silicon Valley from Building a New Global Underclass (Trabajo fantasma: cómo evitar que Silicon Valley construya una nueva subclase global) la antropóloga Mary L. Gray y el científico social Siddharth Suri analizan particularmente el rol de los etiquetadores de datos y moderadores de contenido.

Diariamente, el 98% de los contenidos violentos son retirados de las plataformas por humanos. Quienes realizan estas tareas están sujetas a múltiples riesgos, incluyendo daño psicológico, producto tanto del tipo de contenidos al que están expuestas —asesinatos, suicidios, pedofilia, accidentes y hasta canibalismo, lo peor de internet— y condiciones laborales precarias: vigilancia laboral extrema y jornadas extenuantes, en un trabajo de corta permanencia y alta rotación que no provee la atención psicológica necesaria. Algunas de las consecuencias que se han identificado son son síntomas de ansiedad, depresión y trastorno de estrés postraumático.

Además, es común que las compañías contraten empleados a través de empresas tercerizadas, lo que dificulta la sindicalización y la posibilidad de rechazar prácticas poco éticas o exigir mejores condiciones de trabajo.

Recientemente en Colombia, donde se encuentra uno de los principales centros de moderación de contenidos de TikTok en América Latina (el otro es Brasil), un grupo de empleados denunció sus condiciones laborales, que implican jornadas de 10 a 12 horas, 6 días a la semana, por un salario que apenas supera el mínimo. A cambio, deben analizar más de 1.200 vídeos cortos por turno, con escasos para tomar una decisión respecto a si el contenido viola o no las normas de la plataforma.

Además, deben mantener su cámara encendida durante todo el turno, para asegurar que nadie más vea el contenido, y su escritorio debe permanecer vacío, con excepción de un vaso transparente con líquido.

Mientras nos enteramos que una red social se vende por sumas exorbitantes y escuchamos sobre los miles de trabajadores despedidos en otra, es mandatorio que reflexionemos sobre el trabajo de las personas que permiten el funcionamiento de las plataformas, quienes aportan la materia prima sobre la cual se sustenta el negocio.

Salarios justos, beneficios laborales, entrenamiento, condiciones mínimas de seguridad y apoyo psicológico a quienes se enfrentan a contenidos que luego serán vetados debería ser una condición irrenunciable para quienes aspiramos a habitar espacios virtuales más democráticos y humanos.

Bloqueo de transmisiones: Un partido difícil

La idea de regular y dar de baja contenidos se viene discutiendo en el país hace ya tiempo. La búsqueda de soluciones a la “piratería” están en la mesa de diálogo de diferentes partidos políticos y cámaras empresariales. Sin ir más lejos, en el actual proyecto de “Rendición de cuentas y balance de ejecución presupuestal» , que se encuentra a estudio del parlamento uruguayo, se incluyen algunos artículos referidos a la temática.

Específicamente, el tema es tratado entre los artículos 214 y el 216, siendo el 215 una herramienta fundamental para el análisis de la propuesta que el actual gobierno pretende que se apruebe.

El mencionado artículo indica (entre otros puntos) que “La Unidad Reguladora de Servicios de Comunicaciones (URSEC) podrá solicitar la inhabilitación en tiempo real del acceso a contenidos ilegales de eventos deportivos en directo en línea”. Esto se podrá realizar “tras denuncia del titular de los derechos o representante con facultades suficientes, podrá dictar medidas cautelares de bloqueo que se ejecutan temporalmente, con un máximo de treinta días, para bloquear el sitio web infractor durante la duración del evento,independientemente del nombre de dominio o dirección IP utilizada, y sin necesidad de que se emita un nuevo amparo”.

Una vez que la medida cautelar sea dictada, “los intermediarios o los proveedores de acceso a internet (ISP), según corresponda, deberán retirar las emisiones ilegales de eventos deportivos en directo en línea o la desactivación del acceso a ellas, lo más rápido posible y que, en cualquier caso, a más tardar dentro de los treinta minutos a partir de la recepción de la notificación del titular de los derechos o de representante con facultades suficientes de la existencia de dichas emisiones ilegales, identificando con altísima precisión la retransmisión ilícita y un casi nulo margen de error”.

Lo que se busca es modificar el artículo 712 de la actual ley de Presupuesto, que actualmente permite el bloqueo de páginas web que ofrecen servicios de televisión para abonados a través de internet, con previa denuncia, pero no menciona a las transmisiones en vivo, en particular.

Los bloqueos que se pueden realizar hoy en Uruguay no son inmediatos y el proceso puede demorar hasta cuatro días desde que se presenta denuncia. El cambio central, entonces, consiste en que, de aprobarse el artículo incluido en la rendición de cuentas, los bloqueos serían automáticos y estarían incluidas las transmisiones hechas por intermediarios en redes sociales.

El nuevo sistema, según indica la propuesta de ley, funcionaría a través de un software que bloqueará automáticamente todos los contenidos ilegales que encuentre en la red.

El próximo mundial de fútbol en Qatar, que se realizará entre noviembre y diciembre de este año, es uno de los incentivos para promover el bloqueo automático ya que, según las palabras del director nacional de Telecomunicaciones, “no sirve hacer un bloqueo de estos eventos importantes a los tres o cuatro días de hacer la denuncia. Tenés que bloquear en el momento”.

La Asociación Latinoamericana de Internet —organización que reúne a empresas de internet multinacionales, como Google, Amazon o MercadoLibre— había advertido hace unos meses que el sistema que se propone es “poco claro”. En una nota enviada a la comisión parlamentaria que discute el proyecto, plantearon que “Si bien compartimos el espíritu de combatir este tipo de transmisiones, los artículos propuestos aportan riesgos de grandes dimensiones (bloqueo de contenidos incorrectos, afectación a la libertad de expresión y posibilidad de fragmentación de internet, entre otros) en relación a los potenciales beneficios que podría aportar para el logro de los objetivos planteados”. Añaden que también “se podría no intencionadamente generar un incentivo equivocado en el que, a los efectos de evitar sanciones, el intermediario elimine contenido en exceso, afectando los derechos de libertad de expresión”. Indican que los intermediarios, quienes brindan servicios de internet, “no puede” tener “carácter de autor o editor” de contenidos, ya que “únicamente tiene un rol pasivo como proveedor de infraestructura”.

A nivel de libertad de expresión y derecho a la información, la reforma planteada presenta diversos problemas. Por un lado, se otorgan más potestades a la Unidad Reguladora de Servicios de Comunicaciones y, por otro, se exime de responsabilidad a las empresas proveedoras de internet.

El procedimiento planteado no es claro, como lo indicó la senadora opositora al gobierno, Silvia Nane. El nuevo articulado le entrega poder de censura a las empresas de telecomunicaciones. Nane manifestó que “Si las disposiciones son para partidos de fútbol, por qué se pone en la redacción “para contenidos en general» ; si defienden algo específico, pero lo redactan de forma genérica”.

Gustavo Gómez, Director ejecutivo de Observacom, analizó el articulado, indicando que el sistema que se propone no garantiza “el debido proceso”, sino que es “un tembladeral jurídico” ya que “Te denuncian y tenés que defenderte después del bloqueo y no antes”. Señaló también que la propuesta da “más poderes al regulador para ordenar a redes sociales y telefónicas a eliminar contenidos audiovisuales y bloquear cuentas y sitios Web sin orden judicial”.

Pablo Siris, director de la URSEC por el partido opositor al gobierno, indicó que la facultad de solicitar bloqueos a los proveedores implicaría “una nueva dificultad” para la URSEC, dado que “es previsible que se vea sometida a recursos y diatribas entre privados sobre quién tiene derecho o no a hacer tal o cual cosa”.

Los intentos por regular las transmisiones ilegales no son una novedad, sin embargo, cuando se analiza esta nueva iniciativa desde una perspectiva de derechos humanos, es inevitable encontrar numerosas interrogantes a las que el gobierno uruguayo debería responder —consideramos— antes de implementar cualquier cambio: ¿Qué tipo de contenidos son los que se bajarán? ¿Cuáles son los criterios que se tomarán para el bloqueo de contenidos? ¿Qué potestades tendrán las empresas de telecomunicaciones? ¿Qué tipo de software será el utilizado? ¿Hay un análisis de impacto realizado previo a la implementación?

Respuestas claras y a tiempo evitarán que la búsqueda de “contenidos piratas” resulte, finalmente, en censura y privación del derecho a la información de la sociedad.

¿Quién defiende tus datos? 2022

Descargar PDF

El presente informe corresponde a la quinta entrega del reporte ¿Quién defiende tus datos?, una evaluación de la forma en que las compañías chilenas que proveen servicios de internet resguardan los datos
de sus clientes, especialmente frente a posibles abusos de la autoridad estatal, pero también en relación con las prácticas de tratamiento de datos personales de las propias empresas.

¿What’s up América Latina?

¿Qué datos y meta datos se recopilan? ¿Cuál es la base legal para esta recolección? ¿Con quién se comparten? ¿Con qué finalidades? ¿Y por qué no explicar todo esto de forma simple a las personas? Estas son preguntas que a menudo quedan sin una respuesta adecuada. Resulta que en otros casos, el uso indebido de los datos de la ciudadanía da como resultado una verdadera concentración del mercado. Pero, ¿qué está pasando en América Latina?

En una audiencia judicial en los Estados Unidos sobre el famoso caso del uso político de los datos personales, conocido como Cambridge Analytica, se confirmó la información divulgada por Motherboard a principios de año. Estos hechos demuestran y refuerzan lo que viene sucediendo en la dinámica de los últimos años: que la internet que fue pensada como libre, abierta e inclusiva cada vez más nos aprisiona en manos de pocas empresas, en un mundo extremadamente concentrado.

Regulaciones de todo el mundo intentan dar cuenta de todos estos problemas, ya sea mediante la creación de leyes más protectoras, como el Digital Service Act y el Digital Market Act en Europa, o aplicando multas más fuertes, como hemos visto últimamente con los gigantes tecnológicos. Esta semana, incluso, Google tuvo una multa de 4,12 millones de euros confirmada por el Tribunal de Justicia de la Unión Europea, debido a la imposición de restricciones ilegales a los fabricantes de dispositivos Android.

Lo mismo ocurre en América Latina. O al menos eso es lo que parece comenzar a suceder. A partir del análisis de un caso tratado por varias autoridades de diferentes países se revela un verdadero cambio de paradigma para lidiar con la competencia, protección de datos y de las personas consumidoras, según un estudio que Maria Paz Canales y yo publicamos en la revista GRUR International. El caso trata del cambio de las políticas de privacidad y de los términos de servicio en 2016 y 2021, y principalmente de la reacción de las autoridades y de la sociedad civil, con un enfoque especial en América Latina. Como se resaltó en un seminario reciente del Foro de la Sociedad Civil de la Red Iberoamericana de Protección de Datos, necesitamos comprender las implicaciones de «cuando los gigantes cambian las reglas”.

El valor de los datos y las promesas realizadas

Desde el anuncio de la compra de WhatsApp por parte de Facebook en febrero de 2014, la operación ha llamado la atención por el alto precio de la adquisición (alrededor de 19.000 millones de dólares) y por las promesas de Zuckerberg de «no cambiar los planes en torno a WhatsApp y la forma en que utiliza los datos de las personas usuarias».

A pesar de las promesas, la realidad fue mostrándose totalmente diferente. La empresa fue multada por la Comisión Europea en 110 millones de euros por proporcionar información engañosa sobre un tema crucial en la revisión de la operación de compra por parte del regulador europeo. Simplemente no informó correctamente sobre la posibilidad técnica de identificar y combinar a las personas usuarias de las dos plataformas.

Pero la confirmación de que las promesas no se cumplirían se verificó en 2016, cuando se produjo uno de los mayores cambios en la política de privacidad y los términos de uso del servicio. El cambio permitió el intercambio de datos y metadatos de consumidores de WhatsApp con las demás empresas del grupo Facebook. A la persona usuaria, se le permitió una sola oportunidad de oponerse a este intercambio de sus datos, y aún así esta opción sólo podría hacerse en 30 días.

Varias fueron las decisiones de autoridades de protección del consumidor/a, competencia y datos, que entendieron este cambio como abusivo, especialmente en los países europeos. Así, la empresa llegó a un acuerdo para cambiar la política para el continente europeo, de modo que entraría en vigor solamente cuando el reglamento de protección de datos estuviera vigente, además de ser evaluado por las autoridades competentes. Es el caso de la Comisión de Protección de Datos (DPC) de Irlanda, que solo llegó a una conclusión parcial del caso en 2021, aplicando una multa de 255 millones de euros a la empresa debido a la falta de transparencia en el procesamiento de los datos. Solo después de la multa millonaria, a fines de 2021, la compañía realizó cambios más sustanciales en su política de privacidad, pero tales cambios solamente son válidos para Europa.

¿Y en el resto del mundo? Las diferentes lentes del/a consumidor/a, la competencia y la protección de datos

En 2021, se anunció un nuevo cambio en las políticas de privacidad de WhatsApp, que consolidó y aumentó el volumen de datos recopilados por la empresa. Pero esta vez sin dar la posibilidad de no aceptar el cambio. Súbitamente, hubo mucha queja por parte de la sociedad civil organizada y de autoridades de todo el mundo. India y América Latina encabezaron una rebelión global en contra de las nuevas condiciones de la aplicación, según lo informado por la prensa en ese momento. La autoridad de competencia de la India ha tomado una decisión preliminar al suspender el cambio de política, por entender que esa era una conducta exploratoria y excluyente. En América Latina, las autoridades finalmente tomaron algunas decisiones importantes al respecto de esta política.

En Argentina, por ejemplo, la autoridad de competencia argentina tomó la decisión preliminar, confirmada posteriormente, que consideró el abuso exploratorio, la exclusión y la posición dominante del grupo Facebook en ese país, en vista de factores como la recopilación excesiva de datos, la ausencia de opciones reales a las personas para limitar esta recopilación y la subordinación de la prestación del servicio a la aceptación de la actualización. La decisión también resalta que no hay gratuidad del servicio, pues el activo esencial es la información y datos de las personas usuarias del servicio, que se transforman en ganancias monetarias por la publicidad en otras plataformas. Ya La Dirección General de Defensa y Protección al Consumidor multó a la empresa con un valor 5 millones de pesos argentinos, subrayando que las cláusulas y los cambios eran abusivos.

En Brasil, llamativamente, el caso fue uno de los primeros en ser analizados por la recién instituida Agencia Nacional de Protección de Datos (ANPD). La ANPD en conjunto con el Ministerio Público Federal, la Secretaría del Consumidor y el Consejo Administrativo de Defensa Económica (CADE), cariñosamente llamados los «cuatro fantásticos», recomendaron fuertemente a las empresas para que aplacen la entrada en vigor de la nueva política de privacidad. Solo después de meses, la ANPD terminó el análisis de la política de privacidad de la compañía basándose en la Ley General de Protección de Datosa LGPD, entendiendo que la compañía cumplió con las recomendaciones hechas por las áreas técnicas de la agencia. Sin embargo, en esa misma decisión, la ANPD abrió nuevos procedimientos, ahora para investigar otras cuestiones que aún no habían sido evaluadas: la posibilidad de procesamiento de datos de infancias y adolescencias, además del punto nodal del caso, que es la posibilidad de compartir los datos de los/as usuarios/as entre las empresas del grupo económico.

En Chile se ha abierto una investigación, aún no concluida, por la autoridad de competencia, ya que hasta el momento el país no cuenta con un organismo específico dedicado a la protección de datos.

Más allá de los Cuatro Fantásticos: colaboración interinstitucional e internacional

En Brasil, la cooperación interinstitucional entre los «cuatro fantásticos» fue un factor importante debido incluso a la reciente instauración de la ANPD. El intercambio también sirvió para consolidar una actuación más integrada entre las diferentes autoridades y posibilitar un análisis más completo y global de los temas tratados en el caso. Otra cuestión que llama la atención es que el caso continúa, o sea, todavía tendremos novedades en nuevos procesos que fueron abiertos.

Ya en Argentina, además de las decisiones ya citadas anteriormente, llama la atención la apertura de las autoridades hacia la sociedad civil y para la discusión internacional con otras autoridades sobre el caso, conforme lo visto en el encuentro virtual promovido por la Conferencia de las Naciones Unidas sobre Comercio y Desarrollo (UNCTAD), Public Citizen y Third World Network, que contó con la participación de varias autoridades de América Latina, Asia-Pacífico, Europa y África.

La sociedad civil organizada fue extremadamente activa en el caso. Entidades como la Coalición Derechos en la Red, Idec, Data Privacy Brasil, CGI, Fundación Via Libre, Tedic, Derechos Digitales y Al Sur, actuando en el ámbito nacional y regional, apenas para citar algunas organizaciones en el contexto latinoamericano. Tales organizaciones tuvieron una actuación importante en el debate, siendo proactivas en el diálogo con autoridades y con la empresa.

La lucha de David y Goliat continúa: la importancia de las organizaciones de la sociedad civil

No hay duda de la importancia de los datos para las empresas. Pero la transparencia y el respeto de los derechos de las personas siguen siendo puntos que merecen nuestra atención. Los procedimientos administrativos y judiciales relacionados con el caso de WhatsApp continúan en las jurisdicciones mencionadas aquí. Es por eso que debemos pensar las estrategias para que posibilite a David hacer que los gigantes cumplan las leyes y respeten los derechos humanos.

PubliElectoral Elecciones 2021 Chile

Descargar PDF

La presente investigación tuvo por objetivo observar el impacto de
las interacciones en Facebook/META en la campaña presidencial
realizada en Chile en 2021, y evaluar la compatibilidad de tales
prácticas con la normativa electoral vigente.

La venta de Twitter y el apoderamiento de los medios de expresión digital

Con el anuncio del acuerdo para la venta de Twitter al multimillonario sudafricano Elon Musk, varios días después de que el acaudalado tuitero anunciara sus intenciones, parece concretarse el cambio de propiedad. Si bien este tipo de transacción ocurre de manera cotidiana en el mercado, la diferencia es el papel que tiene Twitter como espacio representativo del debate público en el entorno digital. Así, los posibles cambios de propiedad entre inversionistas y empresarios se volvió una noticia de relevancia mundial.

Esa atención es, en principio, justificada. La importancia de la plataforma en el debate público global es indiscutida, más allá de las brechas existentes, principalmente en América Latina, que limitan su utilización por buena parte de la población. Aun cuando existen otros espacios de encuentro y múltiples plataformas en disputa de nuestra atención, es un hecho que personas en todo el mundo usan el servicio para buscar y difundir información, para debatir y expresarse, para denunciar el abuso y desmentir la desinformación.

En América Latina, la plataforma es comúnmente utilizada por gobiernos y agentes públicos para la difusión de información, por defensoras de derechos humanos para denunciar abusos, y es una relevante fuente para periodistas y medios de comunicación. Para organizaciones de la sociedad civil, académicas, comunicadoras independientes y defensoras de derechos humanos, la posibilidad de alcanzar grandes audiencias y tener influencia sobre políticas públicas y prácticas privadas por medio de Twitter se ha hecho crucial para el éxito de su actuación.

En consecuencia, se vuelve relevante la forma en que Twitter se gobierna: la plataforma tiene impactos potenciales y reales sobre los derechos humanos de sus usuarias. Y consecuentemente, tiene una responsabilidad por el respeto de esos derechos, que van mucho más allá de la protección de alguna noción de la libertad de expresión limitada a un contexto nacional específico. Cualquier cambio a la forma de operar puede tener impactos devastadores si no se consideran las posibles consecuencias sobre tan disímiles ejemplos de uso en tan distintas latitudes.

Más allá del espectáculo Musk

El caso de Twitter evidencia el complejo desafío de regular una plataforma de expresión en línea: un difícil rompecabezas de intereses, estándares y reglas locales y globales, que no se ha resuelto, en ningún caso, con soluciones sencillas. El ejemplo extremo es la empresa de venta de avisos que inventó su propia Corte de Apelaciones. La insatisfacción generalizada en la multiplicidad de modelos de moderación da cuenta de la dificultad del problema. Mientras para algunas personas hay demasiada censura, para otras hay demasiada facilitación de la violencia o la desinformación sin control.

La libertad de expresión, que ya tiene estándares para su limitación, también se ve afectada cuando el abuso y el acoso son el medio para acallar a las personas. Si bien la movilización en favor de los derechos humanos es urgente y bienvenida, es llamativo que el argumento de la libertad de expresión total sea utilizado en América Latina por personas que por la fuerza tratan de silenciar voces disidentes como mujeres, personas LGBTQIA+ y muchas otras. En ese contexto, cabe recalcar que ningún derecho es absoluto y ninguna defensa “absoluta” de la libertad de expresión se sostiene ante los pilares establecidos del derecho internacional.

Incluso las aparentes buenas ideas necesitan ser objeto de análisis y evaluación de impacto, pues a menudo esconden riesgos demasiado grandes. Un compromiso real con los derechos humanos, incluida la libertad de expresión, exige remover la arbitrariedad que encarna la dirección unipersonal de los criterios sobre esa expresión. La incorporación de mecanismos de transparencia, de salvaguarda de derechos humanos, incluidas las evaluaciones de impacto y la incorporación progresiva de múltiples partes interesadas en estándares y procedimientos de moderación, constituyen mínimos a los que una plataforma global de ejercicio de derechos no puede renunciar por caprichos (de) capitalistas. No se trata de buena voluntad: como lo han dicho y repetido diversos expertos y expertas internacionales, las empresas privadas sí tienen la responsabilidad de proteger y respetar los derechos humanos.

Cuestionemos los modelos

Los problemas relacionados a la moderación de contenidos en línea tienen raigambre en el modo de control de la plataforma, más que en la persona de su eventual dueño. Concentrarse en las fallas personales o las carencias conceptuales del comprador de turno es una distracción superficial e inconducente frente a los desafíos de más largo aliento que las economías digitales concentradas presentan. Los riesgos que existen en la gobernanza arbitraria de las plataformas de expresión se mantienen como tales mientras esa gobernanza dependa de personas específicas, en vez de reglas y estándares de aspiración universal. Tal como ocurre con el poder político, cuán benevolente sea un dictador es anulado por el hecho de tratarse de un dictador, y es desempoderante confiar en esa benignidad en situaciones de tanto impacto posible.

Es por eso que, además de seguir impulsando mejores formas de regulación estatal y mejores formas de gobernanza de las plataformas digitales, no debemos renunciar a cuestionar los modelos de propiedad de las mismas, ni del control de la información que ellas recolectan y manejan. No hay un dilema entre los accionistas actuales y el dueño eventual (si es que no recula), sino entre la concentración plutocrática y la apropiación de los medios de expresión digital por las personas que les dan vida. Si es que sería mejor una cooperativa, una institución sin fines de lucro, la propiedad por las trabajadoras, o por las usuarias; o bien, si es mejor avanzar en la federación y la interoperabilidad por sobre el control centralizado. Son cosas que ameritan una discusión seria. Una vez más: dado el poder que plataformas como Twitter representan, ¿por qué las únicas opciones son el control por uno o varios oligarcas?