Twitter: ¿El principio del fin?

Finalmente sucedió. Después de varios meses de especulación, y ante el riesgo de tener que ir a juicio, Elon Musk se convirtió en el dueño de Twitter. Y las cosas van más o menos como se esperaba: despidos masivos, una caída importante en los ingresos por avisaje y una sensación de caos generalizado al interior de la compañía.

Ciertamente, hay algo gratificante en ver fracasar a un multimillonario fanfarrón. Y, sin embargo, la eventual ruina de Twitter puede y debe ser entendida también como una pérdida para sus varios millones de usuarios y usuarias alrededor del mundo. Las expectativas crecen con cada nuevo chisme y con cada nuevo error. En este preciso instante, las oficinas de Twitter están cerradas, después de que una gran mayoría de los empleados haya optado por rechazar un ultimátum de Musk. Más que nunca, el futuro es incierto.

¿Es esto simplemente la obra de un hombre particularmente poco adecuado para el trabajo que compró o es sintomático de algo mayor? ¿Cómo nos afecta este fiasco a quienes usamos la plataforma? ¿Qué podemos aprender de todo esto y qué es lo que sigue?

La libertad de expresión en riesgo

La compra de Twitter ha estado ligada a una serie de declaraciones críticas realizada por Elon Musk sobre el rol de Twitter en relación con la libertad de expresión, que muchas veces hacen eco de predicamentos infundados de la derecha política estadounidense.

A fines de enero de este año, cuando recién había comenzado a comprar acciones en Twitter, Musk criticó a la plataforma por no “adherir a los principios de la libertad de expresión”. Tras la adquisición, a fines de octubre, Musk intentó clarificar su postura, señalando que por libertad de expresión entiende “aquello que la ley permite” (más precisamente, la ley de Estados Unidos).

Musk se autodefine como un absolutista en materia de libertad de expresión, pero su historial señala algo distinto: “Comedy is now legal”, decía una de las primeras publicaciones que realizó tras convertirse en dueño de Twitter, aludiendo a la idea de que la corrección política destruye no solo la comedia, sino a la civilización. Y sin embargo, quienes osaron burlarse del nuevo dueño vieron sus cuentas suspendidas. Tanto sus acciones como sus dichos demuestran la escasa comprensión que tiene Elon Musk de los complejos desafíos que supone defender la libertad de expresión en internet, en una plataforma de escala global.

Entre los primeros despidos estuvo el equipo de derechos humanos, el equipo encargado de la accesibilidad para personas discapacitadas y el equipo dedicado a la ética y transparencia algorítmica. Muy comentado fue el despido de Vijaya Gadde, jefa legal de la compañía y responsable de distintas decisiones en materia de libertad de expresión, moderación de contenido y seguridad de la plataforma: fue ella la que decidió vetar a Donald Trump y prohibir la venta de publicidad electoral en Twitter. En abril, Musk había compartido un meme burlándose de la ejecutiva, lo que le significó recibir gran cantidad de mensajes de odio.

La nueva administración está desmantelando la estructura creada por Twitter para combatir las verdaderas amenazas a la libertad de expresión: el discurso de odio, la violencia y la persecución política. Durante el fin de semana recién pasado, despidieron al equipo encargado de moderar este tipo de contenidos.

Los principales perjudicados de un brusco cambio de dirección en materia de libertad de expresión son los disidentes políticos, particularmente en países autoritarios y en las zonas de conflicto, además de las mujeres, las personas LGBTQI+ y los miembros de grupos históricamente marginados, quienes son las principales víctimas de acoso y violencia a través de Twitter.

Actualmente, Twitter está en medio de un litigio de muy alto perfil en India, enfrentándose a un Gobierno muy propenso a hacer uso de una ley que les faculta a exigir el bloqueo de plataformas y cuentas que han publicado información que consideran difamatoria. El impacto puede ser vasto, pero si continuarán con este proceso es un misterio. Como hemos mencionado antes, el respeto por los derechos humanos en la plataforma no puede depender de su propiedad, pero ese es el piso mínimo. Un verdadero compromiso con la libertad de expresión requiere tomar pasos extra, incluyendo enfrentar juicios que son largos, pesados y costosos. No obstante, la compleja situación económica en la que se encuentra Twitter hace difícil que esto pueda materializarse.

¿Cuánto vale Twitter?

¿De qué hablamos cuando hablamos del colapso de Twitter? No se trata de que, de un día para otro, la empresa simplemente deje de existir, sus servidores desconectados de internet, inaccesibles. Después de todo, los retazos de MySpace todavía están en línea. Más bien es el punto en el que, debido al desmantelamiento de los diferentes procesos y sistemas que establecen mínimos básicos de civilidad, la plataforma se torna suficientemente poco atractiva y las usuarios y usuarios dejan de utilizarla, al punto de la irrelevancia.

Se trata de un escenario plausible y frustrante, particularmente para quienes han invertido tiempo y esfuerzo creado redes y un número importante de seguidores en Twitter. Cambiar de plataforma implica no solamente dejar atrás un trabajo arduo y constante, sino que además es perder una audiencia. Tener que hacerlo por la incompetencia del hombre más rico del mundo es todavía peor.

Musk pagó 44 mil millones de dólares por Twitter y existe consenso respecto a que la cifra es excesiva, cuestión que él mismo ha reconocido (no olvidemos que intentó dar marcha atrás con el acuerdo y no pudo). Se estima que el valor real de la plataforma ronda los 25 mil millones de dólares. De cualquier forma, no valdría absolutamente nada si nadie la usara. El verdadero valor radica en la suma del esfuerzo invertido por cada persona que publica, comparte, comenta, lee, sigue y agrega a sus favoritos.

Siguiendo a Antonio Negri y Michael Hardt, podríamos denominar a esta lógica como bioeconómica, a partir del desarrollo del concepto foucaultiano de biopoder: “La vida ya no es producida en los ciclos de reproducción subordinados a la jornada laboral; por el contrario, la vida es la que infunde y domina toda la producción. De hecho, el valor del trabajo y la producción está determinado en las profundidades de la víscera de la vida. La industria no produce más excedente que el generado por la actividad social”.

No es la tecnología, son las personas. La plataforma y la tecnología constituyen los medios de producción para una forma particular de comunicación conocida como Twitter. La economía de las redes sociales está construida sobre la explotación de la totalidad de las relaciones sociales entre usuarios y usuarias, entendidas como trabajo y rentabilizadas en el mercado de valores y en la venta de avisaje. El producto no eres tú, si no los lazos comunicativos que estableces en la plataforma.

Por ello, tener que renunciar a Twitter es perder dos veces: es el despojo del valor de tu trabajo en la plataforma en tanto usuario, así como del capital social que has sido capaz de acumular. Por lo mismo, las especulaciones sobre un potencial modelo de suscripciones se siente como una estafa, y muy probablemente no funcione.

Sin embargo, no son muchas las opciones de Musk, quien está obligado a encontrar una forma en la que la plataforma genere dinero. Sin embargo, las transformaciones impuestas desde el inicio de su mandato apuntan en la dirección contraria.

Pero ¿es solo Twitter?

Mientras la atención estaba puesta en Elon Musk, Mark Zuckerberg aprovechó de despedir a 12000 empleados, aproximadamente el 13% del personal de la compañía y casi el triple de despidos que en Twitter. Las acciones de META han caído un 70% durante este año, perdiendo una capitalización de mercado cercana a los 800 mil millones de dólares.

Las razones son múltiples: demasiado personal contratado para trabajar en proyectos fracasados en un intento por retener un sitial que la compañía, alguna vez todopoderosa, ha comenzado a perder frente a competidores con los cuales no sabe cómo competir. La obsesión de Zuckerberg con construir el Metaverso tampoco ayuda. Reality Labs, la empresa encargada del desarrollo del Metaverso, perdió más de 21 mil millones de dólares entre 2019 y 2021, con otros 9.4 mil millones en pérdidas durante los últimos tres cuatrimestres.

Financieramente, las cosas son todavía peores en Twitter. En el último reporte cuatrimestral previo a la compra, la compañía reportó una pérdida de $344 millones de dólares. Para financiar la adquisición, Musk tuvo que reunir una deuda de alrededor de 13 mil millones de dólares, que acumulan anualmente alrededor de mil millones de dólares en intereses. Musk desesperadamente necesita hacer rentable la compañía, pero Twitter solamente ha logrado utilidades durante dos periodos en su historia.

Tanto la obsesión de Zuckerberg con la realidad virtual, como el desastroso intento de Musk de cobrar por verificación en Twitter dan cuenta de lo mismo: ambas compañías ven la necesidad de encontrar nuevas fuentes de financiamiento, distintas del avisaje. Si a ese cuadro agregamos las múltiples dificultades asociadas a la moderación de contenidos en plataformas con pretensiones globales —que constituye el núcleo fundamental de una plataforma que necesita atraer usuarios y publicidad— y el surgimiento de nuevas lógicas respecto al modo en que nos relacionamos con el contenido online, quizás lo que estamos presenciando sea el estallido de la burbuja, el fin de una era, el abandono próximo de una forma de producción en línea que no es sustentable.

Varias voces comienzan a declarar el fin de las redes sociales (algunas, con argumentos más conservadores que otras). Puede ser, si de algo podemos estar seguros es que todo termina, todo muere. ¿Y ahora qué? Durante los primeros días del reinado de Musk en Twitter muchas personas acudieron a Mastodon, una plataforma caracterizada como el anti-Twitter. Y aunque Mastodon tiene sus propios problemas y es difícil saber si este influjo de nuevos usuarios se mantendrá en el tiempo, hay algo respecto de los postulados con los que está construido que puede dar pistas respecto a las amplias posibilidades de la experiencia online.

Quizás el futuro pueda ser a escala humana: más pequeño, más localizado, más comunitario, más silencioso.

Veremos.

Las máquinas no son suficientes

Palabras como “bot”, “algoritmo” e “inteligencia artificial” se han vuelto parte de nuestro lenguaje cotidiano. A pesar de que muchas veces no tenemos del todo claro qué significan, aluden a un imaginario de total automatización, sistemas súper inteligentes capaces de tomar mejores decisiones, más rápido, sin sesgos, basadas en el análisis de grandes volúmenes de datos.

Sin embargo, la realidad está muy lejos. Y cuando hablamos de la moderación de contenidos en redes sociales son necesarias personas que trabajan como “escudos humanos de internet”, dedicadas a leer, escuchar y mirar todo lo que el resto del mundo no quiere ver.

La moderación de contenidos es un trabajo esencial en las redes sociales y tiene como función mantener los contenidos de las plataformas en un mínimo aceptable tanto para asegurar la experiencia de las comunidades de usuarias y usuarios, como para incentivar la inversión publicitaria. En 2021, los ingresos de compañías como Meta y TikTok superaron los 50.000 millones de euros, un negocio que solo es posible gracias a la moderación de contenidos.

Se trata de un trabajo que, en gran medida, se hace de forma manual: equipos de personas buscando y marcando textos, imágenes y audios inapropiados; clasificación que, a su vez, se utiliza para entrenar sistemas automatizados. Es decir, la capacidad de un algoritmo para identificar contenido nocivo descansa en trabajo humano. Cada vez que un contenido es retirado de una plataforma, este ha sido visto y marcado por un moderador de contenido humano o un sistema automatizado entrenado con datos proporcionados por un humano.

En general, se trata de un mal trabajo. En su libro GhostWork: How to Stop Silicon Valley from Building a New Global Underclass (Trabajo fantasma: cómo evitar que Silicon Valley construya una nueva subclase global) la antropóloga Mary L. Gray y el científico social Siddharth Suri analizan particularmente el rol de los etiquetadores de datos y moderadores de contenido.

Diariamente, el 98% de los contenidos violentos son retirados de las plataformas por humanos. Quienes realizan estas tareas están sujetas a múltiples riesgos, incluyendo daño psicológico, producto tanto del tipo de contenidos al que están expuestas —asesinatos, suicidios, pedofilia, accidentes y hasta canibalismo, lo peor de internet— y condiciones laborales precarias: vigilancia laboral extrema y jornadas extenuantes, en un trabajo de corta permanencia y alta rotación que no provee la atención psicológica necesaria. Algunas de las consecuencias que se han identificado son son síntomas de ansiedad, depresión y trastorno de estrés postraumático.

Además, es común que las compañías contraten empleados a través de empresas tercerizadas, lo que dificulta la sindicalización y la posibilidad de rechazar prácticas poco éticas o exigir mejores condiciones de trabajo.

Recientemente en Colombia, donde se encuentra uno de los principales centros de moderación de contenidos de TikTok en América Latina (el otro es Brasil), un grupo de empleados denunció sus condiciones laborales, que implican jornadas de 10 a 12 horas, 6 días a la semana, por un salario que apenas supera el mínimo. A cambio, deben analizar más de 1.200 vídeos cortos por turno, con escasos para tomar una decisión respecto a si el contenido viola o no las normas de la plataforma.

Además, deben mantener su cámara encendida durante todo el turno, para asegurar que nadie más vea el contenido, y su escritorio debe permanecer vacío, con excepción de un vaso transparente con líquido.

Mientras nos enteramos que una red social se vende por sumas exorbitantes y escuchamos sobre los miles de trabajadores despedidos en otra, es mandatorio que reflexionemos sobre el trabajo de las personas que permiten el funcionamiento de las plataformas, quienes aportan la materia prima sobre la cual se sustenta el negocio.

Salarios justos, beneficios laborales, entrenamiento, condiciones mínimas de seguridad y apoyo psicológico a quienes se enfrentan a contenidos que luego serán vetados debería ser una condición irrenunciable para quienes aspiramos a habitar espacios virtuales más democráticos y humanos.

Guacamaya: El espectro de color de su mensaje

Una vez más es a través de la acción de un grupo de activistas informáticos que varios países de América Latina (Chile, Colombia, El Salvador, México y Perú, hasta ahora) han conocido información acerca de las acciones reñidas con el estado de derecho que dan cuenta de la vigilancia selectiva de periodistas y activistas de derechos humanos, así como de otros ilícitos de corrupción, obstrucción de la justicia y asociación criminal.

La técnica utilizada por los especialistas informáticos no reviste el nivel de sofisticación a que la ciencia ficción nos tiene acostumbradas Más bien toma ventaja de la falta de diligencia de los organismos públicos implicados para protegerse de las vulnerabilidades de los softwares que utilizan en sus labores, las cuales venían siendo advertidas por los proveedores a sus usuarios desde marzo de 2021.

Pero más allá de la espectacularidad de la deficiencia de los ejércitos de la región implicados en las revelaciones -que se sirven de tecnología sofisticada de vigilancia, pero fallan en actualizar sus softwares más básicos- lo que nos interesa aquí es dedicar una reflexión a la tensión que esta nueva filtración revela entre el interés público y la proporcionalidad de los impactos de tal revelación para individuos y países.

La falta de mecanismos efectivos de control sobre la acción de fuerzas armadas y sistemas de inteligencia dependientes de éstas en nuestra región, nos deja sistémicamente con este tipo de filtraciones como la única fuente efectiva de información para que -mediada por la valiente acción de sus reveladores y de la prensa que la procesa- la ciudadanía tenga ocasión de exigir rendición de cuentas a estos organismos y al poder político que se supone los controla, pero que como la información muestra se presenta muchas veces como cómplice o encubridor de las acciones ilegales reveladas.

Aquí la reflexión se encamina hacia los componentes de una tormenta perfecta: por un lado, la tecnología de vigilancia continua su avance de sofisticación, la oferta de tecnología de vigilancia en nuestra región se hace más atractiva comercialmente, y los Estados acceden a ella con mayor frecuencia y facilidad, sin que su alto costo sea un obstáculo. Pero al mismo tiempo, nuestros países aún carecen de marcos normativos nacionales sólidos y estructuras de control independientes capaces de realizar el escrutinio de qué se adquiere, para qué y cómo se usa en la práctica.

La sociedad civil de nuestra región, enfocada en la defensa de los derechos digitales viene advirtiendo desde años la necesidad de robustecer los marcos normativos para poder exigir la rendición de cuentas de los organismos estatales que tienen acceso a tecnologías de vigilancia bajo razones de control de orden público y seguridad nacional, pero hasta ahora no existe ningún país en la región que esté a la altura de lo que requiere una protección efectiva de los derechos fundamentales y el estado de derecho. Aquí es que Derechos Digitales y otras organizaciones de la región venimos abogando por un rol para la Comisión Interamericana de Derechos Humanos a través de la creación de estándares anclados en la Convención Americana de Derechos Humanos que orienten a los países de la región en el control del uso de la tecnología de vigilancia para que respete los derechos humanos.

Además de los estándares de control del uso de la tecnología por los organismos estatales cabe preguntarse por el impacto de las revelaciones Guacamaya en el interés colectivo desde la perspectiva de su proporcionalidad. Bienvenido es saber de los ilícitos que se han cometido en el uso de la vigilancia ilegal y otros crímenes revelados, pero ¿qué pasa con todos aquellos que aparecen tocados por las revelaciones como testigos, víctimas o ejemplos de resistencia interna? ¿Cuánto sacrificio de su propia intimidad y derechos es admisible en miras del interés público de la revelación? ¿Es este ejercicio de balance efectivamente conducido en forma previa a la revelación por parte de los grupos activistas responsables de ellas? ¿Qué medidas pueden adoptarse proactivamente por las reveladoras o la prensa para prevenir el impacto individual negativo de las revelaciones?

Una última arista de la revelación de información sobre el accionar de las fuerzas armadas de este caso es el impacto que tal información puede tener en la soberanía y seguridad nacional de los países implicados, así como ellas evidencian pobres desempeños en la garantía de la ciberseguridad. Más allá de la absoluta necesidad de poner límite y fin a las acciones ilícitas reveladas, cuidado con arrojar el bebé junto con el agua de la bañera, ya que mucha de la información revelada también da cuenta de acciones estratégicas de los organismos y puede generar incentivos al desarrollo de acciones maliciosas contra la seguridad y estabilidad nacional, que a la larga repercuten en un ambiente más inseguro e inestable para el ejercicio de derechos de la ciudadanía.

Confiamos en que más allá del impacto de las concretas revelaciones de la filtración Guacamaya, estas sirvan para llamar la atención en nuestra región hacia la urgencia de: estándares (nacionales y regionales) de control efectivo del uso de tecnología de vigilancia; un activismo informático balanceado que resguarde proporcionadamente los derechos de la ciudanía que están implicados en este tipo de revelaciones; y una conducta responsable de los organismos públicos en la garantía de la ciberseguridad de sus operaciones en protección de su ciudadanía.

Ola Bini: Daños colaterales

El pasado 28 de agosto, el periodista Diego Cazar publicó en línea Colateral, libro en el que, a través de un relato periodístico, cuenta la persecusión vivida por Ola Bini, pero además profundiza en el aspecto humano. Yo trabajaba con Ola Bini al momento de su detención y pasé un momento difícil al convertirme en un personaje secundario en esta historia.

Mi trama fue relativamente tranquila comparada con las de otras personas que, de forma colateral, han sufrido debido a la persecución del Estado ecuatoriano a Bini. Uno de estos casos es el de Ricardo Arguello, que fue involucrado por una estrategia de la fiscalía para conseguir 30 días más de instrucción fiscal; o el del perito Fabián Hurtado que, tras realizar una pericia de parte, sufrió el allanamiento de su casa por la fiscalía, sin motivos claros.

Muchas veces nos indignamos con las historias que vemos en la prensa o en redes sociales y luego nos olvidamos, pero ¿Qué sucede con la gente a la que le tocó ser protagonista de una de estas historias? ¿Cómo se sintió el perito Hurtado y su familia luego de haber sido allanados de forma violenta en la madrugada? ¿Cómo se sintieron Ricardo y su familia al saber que serían parte de un juicio politizado en el que el adversario es el poder del Estado? En Colateral, las y los protagonistas cuentan sus historias. Historias de terror.

Me gustaría que en el libro se hablara de la justicia ecuatoriana, pero, lamentablemente, se trata sobre la injusticia presente en mi país. Mucho se dijo durante el gobierno de Lenin Moreno sobre la independencia del poder. Sin embargo, una rueda de prensa de la Ministra del Interior hablando de ataques informáticos y planes de desestabilización bastó para que Fiscalía inicie una investigación y que un juez determine la prisión preventiva contra Ola, que duró 70 días.

Además de la privación de libertad, todos los dispositivos informáticos de Ola Bini fueron confiscados y en un iPhone encontraron la prueba madre de la que se lo acusa ahora: una fotografía de pantalla tomada en el año 2015 cuándo Lenin Moreno todavía no era presidente. En otras palabras, Ola estuvo preso 70 días por algo distinto a lo que se le acusa.

Cuando no existe independencia de poderes, se podría esperar que la prensa cumpla su rol de informar a la ciudadanía y cuestione al poder. En el caso de Ola Bini, los medios de comunicación masivos y varios portales de internet se encargaron de posicionar el relato del gobierno y de estigmatizar a Bini, exponiéndolo como un ser extraño, capaz de destruir cualquier sistema informático. Pocos se tomaron el trabajo de conocer el trabajo de Ola y tratar de entenderlo.

Uno de esos pocos es Diego Cazar, que en Colateral cuenta varias de las ocasiones en la que los medios de comunicación —en vez de investigar y cuestionar al poder— hicieron eco de su relato o inventaron historias (como la de Ola Bini espiando a favor del gobierno de Moreno desde la cárcel).

Algo que siempre me llamó la atención de este caso es que nunca vi en la prensa la versión de la fiscalía. El libro rompe con este silencio a través de una conversación con el fiscal Chávez, donde queda claro que él no tiene conocimientos básicos de informática.

El caso de Ola Bini todavía no termina y el 11 de noviembre de este año se reanudarán las audiencias, siempre y cuándo no se suspenda, como sucedió en octubre de 2021 y en agosto de este año. A medida que escuchamos más voces, nos adentramos en los daños colaterales que siguen surgiendo del caso. La privacidad en internet está en riesgo permanente y es tarea de todes escuchar a las personas expertas en seguridad digital en lugar de ignorarlas y perseguirlas.

Quien quiera acceder al libro puede escribir a: info@tizarron.com

(Re)construir internet desde Latinoamérica y el Caribe

Esta historia comenzó así: hace diecinueve años, la Unión Internacional de Telecomunicaciones organizó la Cumbre Mundial sobre la Sociedad de la Información, con el fin de discutir y elaborar estrategias para eliminar la brecha digital en el acceso a internet y telecomunicaciones en todo el planeta. Los dignatarios reunidos en ella solicitaron, al Secretario General de las Naciones Unidas, levantar un Grupo de Trabajo sobre Gobernanza de Internet el que, luego de su establecimiento y elaboración de consultas abiertas sobre el tema en 2004 y 2005, propuso en su informe final la creación del Foro de Gobernanza de Internet (IGF, por sus siglas en inglés).

Desde entonces, el Foro de Gobernanza de Internet ha celebrado sesiones anuales en las que representantes de alto nivel del mundo, actores de la sociedad civil, sector privado, academia y otros se reúnen para debatir en torno a los temas más relevantes relacionados con internet y tecnologías. Estas discusiones se nutren de consultas previas, realizadas en línea y abiertas para todos, que perfilan las prioridades y asuntos claves a tratar durante el desarrollo del foro y, además, de los resultados emanados de las distintas iniciativas regionales que alberga el IGF.

De esta suerte nace el Foro de Gobernanza de Internet de América Latina y el Caribe, —conocido como LACIGF— en 2008 y que, a contar del lunes 24 de octubre, inicia su 15° edición. El evento se realizará de manera virtual y entre sus expositores estarán destacadas organizaciones de la región para reflexionar sobre los retos, perspectivas y experiencias de la gobernanza de internet desde una perspectiva latinoamericana, junto con posicionar asuntos de vital importancia en el contexto pospandemia, a saber, la protección de los derechos humanos en entornos digitales y de los datos personales, y pensar el futuro de la información en un escenario donde los contenidos engañosos campean a sus anchas en internet.

El LACIGF nos permite y faculta pensar nuestro lugar en el mundo. Si bien el evento es un foro de preparación previo al desarrollo del IGF, hoy creemos que esta versión regional es mucho más que eso y los resultados de su consulta pública lo demuestran: reducir la brecha digital es un objetivo noble, pero para la región no basta, ya que la demanda por acceso universal a internet se repite en múltiples ocasiones; asimismo, la protección de los datos personales y la aplicación de los derechos humanos en entornos digitales también es una cuestión crucial para entender cómo nos localizamos, desde Latinoamérica y el Caribe, en tanto habitantes de internet. No es posible que dicho espacio espejee las desigualdades estructurales observadas en el mundo entero, a lo largo de siglos. La principal virtud del LACIGF es que ofrece un espacio de carácter único, abierto a todos, donde todos los grupos de interés participan, efectivamente, en igualdad de condiciones.

Para esta edición queremos hablar en serio de gobernanza de internet y políticas digitales con perspectiva regional, y desarrollar una hoja de ruta que nos guíe hacia el establecimiento de un terreno común desde el cual construir una nueva forma de entender el ciberespacio, aportando con nuestras experiencias y conocimientos situados. Los desafíos son muchos y de enormes proporciones: la masificación de la inteligencia artificial, la consolidación de la economía digital y la tensión que existe respecto de la neutralidad en la red son los temas de vanguardia para los que no queremos esperar a que el norte global resuelva qué hacer.

¡Manos a la obra! Les invitamos a participar de este encuentro y a posicionar, en conjunto, a la región en la discusión global sobre internet con una voz autónoma y propia. Entre el lunes 24 y el miércoles 26 de octubre, en nueve sesiones, conversaremos estos temas y construiremos, de manera colectiva, el futuro de este bien común de la humanidad. Revisa aquí los detalles del evento y motívate a ser parte del LACIGF15. La inscripción está disponible en este enlace.

Bloqueo de transmisiones: Un partido difícil

La idea de regular y dar de baja contenidos se viene discutiendo en el país hace ya tiempo. La búsqueda de soluciones a la “piratería” están en la mesa de diálogo de diferentes partidos políticos y cámaras empresariales. Sin ir más lejos, en el actual proyecto de “Rendición de cuentas y balance de ejecución presupuestal» , que se encuentra a estudio del parlamento uruguayo, se incluyen algunos artículos referidos a la temática.

Específicamente, el tema es tratado entre los artículos 214 y el 216, siendo el 215 una herramienta fundamental para el análisis de la propuesta que el actual gobierno pretende que se apruebe.

El mencionado artículo indica (entre otros puntos) que “La Unidad Reguladora de Servicios de Comunicaciones (URSEC) podrá solicitar la inhabilitación en tiempo real del acceso a contenidos ilegales de eventos deportivos en directo en línea”. Esto se podrá realizar “tras denuncia del titular de los derechos o representante con facultades suficientes, podrá dictar medidas cautelares de bloqueo que se ejecutan temporalmente, con un máximo de treinta días, para bloquear el sitio web infractor durante la duración del evento,independientemente del nombre de dominio o dirección IP utilizada, y sin necesidad de que se emita un nuevo amparo”.

Una vez que la medida cautelar sea dictada, “los intermediarios o los proveedores de acceso a internet (ISP), según corresponda, deberán retirar las emisiones ilegales de eventos deportivos en directo en línea o la desactivación del acceso a ellas, lo más rápido posible y que, en cualquier caso, a más tardar dentro de los treinta minutos a partir de la recepción de la notificación del titular de los derechos o de representante con facultades suficientes de la existencia de dichas emisiones ilegales, identificando con altísima precisión la retransmisión ilícita y un casi nulo margen de error”.

Lo que se busca es modificar el artículo 712 de la actual ley de Presupuesto, que actualmente permite el bloqueo de páginas web que ofrecen servicios de televisión para abonados a través de internet, con previa denuncia, pero no menciona a las transmisiones en vivo, en particular.

Los bloqueos que se pueden realizar hoy en Uruguay no son inmediatos y el proceso puede demorar hasta cuatro días desde que se presenta denuncia. El cambio central, entonces, consiste en que, de aprobarse el artículo incluido en la rendición de cuentas, los bloqueos serían automáticos y estarían incluidas las transmisiones hechas por intermediarios en redes sociales.

El nuevo sistema, según indica la propuesta de ley, funcionaría a través de un software que bloqueará automáticamente todos los contenidos ilegales que encuentre en la red.

El próximo mundial de fútbol en Qatar, que se realizará entre noviembre y diciembre de este año, es uno de los incentivos para promover el bloqueo automático ya que, según las palabras del director nacional de Telecomunicaciones, “no sirve hacer un bloqueo de estos eventos importantes a los tres o cuatro días de hacer la denuncia. Tenés que bloquear en el momento”.

La Asociación Latinoamericana de Internet —organización que reúne a empresas de internet multinacionales, como Google, Amazon o MercadoLibre— había advertido hace unos meses que el sistema que se propone es “poco claro”. En una nota enviada a la comisión parlamentaria que discute el proyecto, plantearon que “Si bien compartimos el espíritu de combatir este tipo de transmisiones, los artículos propuestos aportan riesgos de grandes dimensiones (bloqueo de contenidos incorrectos, afectación a la libertad de expresión y posibilidad de fragmentación de internet, entre otros) en relación a los potenciales beneficios que podría aportar para el logro de los objetivos planteados”. Añaden que también “se podría no intencionadamente generar un incentivo equivocado en el que, a los efectos de evitar sanciones, el intermediario elimine contenido en exceso, afectando los derechos de libertad de expresión”. Indican que los intermediarios, quienes brindan servicios de internet, “no puede” tener “carácter de autor o editor” de contenidos, ya que “únicamente tiene un rol pasivo como proveedor de infraestructura”.

A nivel de libertad de expresión y derecho a la información, la reforma planteada presenta diversos problemas. Por un lado, se otorgan más potestades a la Unidad Reguladora de Servicios de Comunicaciones y, por otro, se exime de responsabilidad a las empresas proveedoras de internet.

El procedimiento planteado no es claro, como lo indicó la senadora opositora al gobierno, Silvia Nane. El nuevo articulado le entrega poder de censura a las empresas de telecomunicaciones. Nane manifestó que “Si las disposiciones son para partidos de fútbol, por qué se pone en la redacción “para contenidos en general» ; si defienden algo específico, pero lo redactan de forma genérica”.

Gustavo Gómez, Director ejecutivo de Observacom, analizó el articulado, indicando que el sistema que se propone no garantiza “el debido proceso”, sino que es “un tembladeral jurídico” ya que “Te denuncian y tenés que defenderte después del bloqueo y no antes”. Señaló también que la propuesta da “más poderes al regulador para ordenar a redes sociales y telefónicas a eliminar contenidos audiovisuales y bloquear cuentas y sitios Web sin orden judicial”.

Pablo Siris, director de la URSEC por el partido opositor al gobierno, indicó que la facultad de solicitar bloqueos a los proveedores implicaría “una nueva dificultad” para la URSEC, dado que “es previsible que se vea sometida a recursos y diatribas entre privados sobre quién tiene derecho o no a hacer tal o cual cosa”.

Los intentos por regular las transmisiones ilegales no son una novedad, sin embargo, cuando se analiza esta nueva iniciativa desde una perspectiva de derechos humanos, es inevitable encontrar numerosas interrogantes a las que el gobierno uruguayo debería responder —consideramos— antes de implementar cualquier cambio: ¿Qué tipo de contenidos son los que se bajarán? ¿Cuáles son los criterios que se tomarán para el bloqueo de contenidos? ¿Qué potestades tendrán las empresas de telecomunicaciones? ¿Qué tipo de software será el utilizado? ¿Hay un análisis de impacto realizado previo a la implementación?

Respuestas claras y a tiempo evitarán que la búsqueda de “contenidos piratas” resulte, finalmente, en censura y privación del derecho a la información de la sociedad.

Cuando la mentira se apodera de la realidad

La primera vuelta de las elecciones brasileñas terminó con algunas sorpresas y muchas lecciones. Contrariamente a las proyecciones de los principales institutos de investigación, Jair Bolsonaro obtuvo cerca del 43% de los votos válidos, contra el 48% del ex presidente Lula. Las ya frustradas tentativas de «tercera vía» no alcanzaron a sumar el 10% de los votos, un desempeño más insignificante de lo previsto.

El escenario se completa con la elección, para gobiernos provinciales y cargos en el Poder Legislativo, de importantes aliados/as y ex ministros/as del gobierno de Bolsonaro. Un gobierno marcado por escándalos de corrupción, una desastrosa y vergonzosa gestión de la pandemia —con más de 600 mil muertes— e innumerables denuncias de violaciones de derechos humanos.

Más allá de la sorpresa por la alta votación obtenida por Bolsonaro, cabe plantear dos preguntas a la sociedad brasileña: ¿Cómo se explica la diferencia entre los resultados y las estimaciones? ¿y cómo entender los más de 51 millones de votos que recibió el actual presidente?

Violencia, odio y manipulación

Las elecciones de 2018 pusieron en el centro de las preocupaciones a las «fake news» o noticias falsas, y su influencia en una opinión pública, al parecer, inocente. Fueron innumerables las acciones del Poder Judicial para contener la diseminación de este tipo de información, así como las iniciativas de medios de comunicación tradicionales, de la academia y de la sociedad civil, buscando entender y responder al fenómeno que, para algunas personas, era la raíz de la cada vez más frágil la democracia brasileña.

En cuatro años se desmantelaron redes de desinformación y discurso de odio, se retiraron contenidos de las redes sociales y se asumieron compromisos con las empresas para que contribuyeran con las investigaciones este fenómeno y adoptaran medidas para reducir la visibilidad de las noticias falsas. Sin embargo, nada de eso contuvo la máquina bolsonarista, que sigue fuerte y en campaña de cara a la segunda vuelta.

Circula en las redes un reportaje de CNN Brasil, editado y descontextualizado, que sugiere que de ser elegido, Lula confiscaría bienes financieros de la población. La publicación tuvo miles de visitas y fue compartida en las redes sociales por autoridades políticas, incluyendo a un diputado de Paraná. Otra publicación asocia al candidato del PT con el demonio, usando un video también manipulado. En ambos casos, vídeos reales se utilizan para crear un mensaje engañoso.

Pero las estrategias de manipulación de la opinión pública del presidente y sus partidarios/as va mucho más allá de la desinformación en las redes sociales y las aplicaciones de mensajería. Incluyen declaraciones polémicas, conflictos fabricados, ataques e incluso pseudo-partidarios pagados para provocar tensiones políticas.

Los ataques bolsonaristas a periodistas y opositoras/es —especialmente mujeres— ha alimentado un ambiente de odio y violencia política, característico del espacio público en los últimos años y que ha producido graves daños al ejercicio de derechos online y offline, y al sistema democrático, como reconocen diversas autoridades internacionales.

El caso más reciente ocurrió durante la campaña electoral e involucra a la periodista Vera Magalhães, que, después de ser ofendida en vivo por el presidente durante el primer debate presidencial, fue atacada por sus partidarios/as en las redes, bajo un esquema que parece seguir una receta bien definida, pues se repite en diversos casos.

Brasil tiene alrededor de 12,5 millones de hogares sin acceso a internet, pero casi todos los hogares tienen un televisor. Entre una prensa fuertemente comprometida con algunos de los proyectos bolsonaristas —principalmente en el ámbito de un irresponsable liberalismo económico— y una prensa pautada por la voz de las autoridades, la organizada máquina de desinformación y odio en las redes logró amplificarse. Más que eso, fue efectiva en distraer la atención de escándalos de corrupción y del deterioro de las condiciones de vida en el país, evidente durante la pandemia de COVID-19.

La mentira se hace realidad

Las mentiras dichas por un presidente pasan a constituirse en verdades cuando las instituciones y las autoridades actúan en consecuencia. Al principio de su mandato y sin ninguna prueba, Bolsonaro acusó que algunas ONG estarían detrás de una serie de incendios en la Amazonia. Meses después, integrantes de organizaciones de la sociedad civil que operan en la región fueron detenidas/os, tras ser objeto de una investigación, bajo la acusación de haber incendiado el bosque.

Este fenómeno puede explicar el desempeño superior del presidente en la primera vuelta en relación a lo previsto en las encuestas de opinión. Desde 2021 Bolsonaro apuesta a un discurso de cuestionamiento a las urnas electrónicas y al sistema electoral (el mismo sistema que lo eligió en 2018), y ha tanteado la posibilidad de no reconocer los resultados si no le son favorables. Nuevamente, sin pruebas, pero creando suficiente tensión para movilizar a las instituciones en respuesta a un problema que el propio Tribunal Superior Electoral (TSE) considera inexistente.

El 7 de septiembre (Día de la Independencia en Brasil), el presidente comenzó a intensificar los cuestionamientos a los institutos de investigación electoral que predecían la victoria de Lula con una diferencia de más de 10 puntos porcentuales en relación a Bolsonaro, y la posibilidad de victoria en primera vuelta. Las insinuaciones presidenciales fueron reproducidas por la prensa y luego se transformaron en ataques de los simpatizantes de Bolsonaro en las redes. Finalmente la violencia se volvió física, con registros de ataques contra investigadoras/es de esos institutos en su jornada de trabajo.

Lo que no se pudo averiguar en esta secuencia es si los votantes de Bolsonaro o de sus simpatizantes en los gobiernos provinciales y cargos legislativos fueron orientadas/os desde sus redes de mensajería organizadas a no responder a las encuestas de opinión o si fueron inducidos a ello a partir de las declaraciones del presidente. Esta es una de las diferentes hipótesis de las expertas/os para explicar la discrepancia entre las encuestas y el resultado de las urnas el domingo. Según la directora de Datafolha, uno de los principales institutos de investigación en el área, la hostilidad contra investigadoras/es durante la primera vuelta puede haber dificultado una medición más precisa de las intenciones de voto en Bolsonaro.

Después de los resultados, los/las partidarios/as del presidente volvieron a criticar a los institutos de investigación. Un ministro orientó, ahora explícitamente, a los/las electores a no responder a las encuestas para la segunda vuelta y otro solicitó la apertura de una investigación para identificar irregularidades en el funcionamiento de estas instituciones.

Enfrentar la verdad con los ojos abiertos

Otras hipótesis para explicar la diferencia de los votos de Bolsonaro tiene que ver con la ausencia de datos demográficos actualizados, debido a la negativa del propio gobierno federal a realizar el Censo que estaba previsto para 2020; o el cambio de votos a la última hora, influenciado o no por movilizaciones de última hora en las redes y difícil de ser considerado con antelación. Indicios de posible compra de votos y de coacción del empresariado hacia sus empleadas/os por el voto a Bolsonaro también comienzan a aparecer en los noticieros de la semana.

Más allá de las posibles justificaciones, lo que el resultado de las urnas manifestó es que el bolsonarismo sigue organizado y con fuerza, movilizando diversos segmentos conservadores y de extrema derecha en Brasil, con gran potencial para expandirse en la región. La masa verde y amarilla que ocupó los lugares de votación demuestra que las más de 600 mil muertes por COVID-19 en el país esto no impactaron en gran parte de la población, orgullosa de apoyar la agenda de Bolsonaro.

Bolsonaro es considerado por algunas personas como un «mito», por expresar el conservadurismo radical que nunca fue cuestionado después de la dictadura militar brasileña y por su defensa de la tortura y de los torturadores, del armamento, de la violencia y de la criminalización como políticas de seguridad. Para otras es un enviado de Dios. Y para otras tantas es el instrumento capaz de avanzar en pautas liberales y atraer el «mercado», que ahora manifiesta su preferencia.

Independientemente de los resultados de las urnas el 30 de octubre, cuando tenga lugar la segunda vuelta, la mirada a las declaraciones y comportamientos presidenciales y al papel de las redes tendrá que partir de esa constatación. Junto a las exigencias de responsabilización de aquellos que atentan contra la dignidad y los derechos humanos, tendremos que construir una agenda capaz de disputar la humanidad y los imaginarios de futuro de aquellas personas que ya no se ven representadas por la democracia y sus instituciones. La tarea es ardua y va a demandar muchas alianzas, movilización y esperanza.

Incidentes de seguridad en instituciones públicas: la deuda que los Estados aún no pagan

Hace algunos días la prensa daba cuenta de una alerta dentro del poder judicial de Chile, tras detectar el ataque informático en la forma de ransomware, afectando a un número importante de equipos con que funcionan los tribunales de justicia.

El ataque llevó a la paralización de muchas de las funciones regulares de la justicia en Chile. Ocurrió poco después de una enorme filtración de correos desde las Fuerzas Armadas chilenas tras otro ataque que explotaba una vulnerabilidad antigua y conocida. Fue semanas después de un ataque al Servicio Nacional del Consumidor en el mismo país. Son algunos de los tantos episodios solamente dentro del último año en la región, que también incluyen ataques y filtraciones en servicios públicos tales como sistemas de salud y de asistencia social en Brasil, servicios de importación y de supervigilancia de empresas en Colombia, servicios municipales y de tránsito en Ecuador, y una importante seguidilla de ataques en Costa Rica, con elevados costos.

Desde la perspectiva de los órganos atacados, resulta evidente que el riesgo de estos ataques termina siendo soportado por las personas usuarias de los servicios públicos, es decir, potencialmente toda la población y especialmente aquellos sectores con más interacción con el Estado. Es por ello que resulta crucial que los esfuerzos de seguridad mantengan a las personas en el centro, y que los riesgos se consideren de manera sistémica no como problemas de computadoras, sino como una posibilidad real de intensa afectación de los derechos de las personas. Sea en ámbitos de salud, defensa nacional o administración de justicia, la falla de sistemas del Estado puede tener consecuencias muy gravosas.

Desde la perspectiva del rol del Estado, se hace cada vez más necesario contar con herramientas para prevenir y mitigar daños, y de manera integral, para incorporar mejores prácticas organizacionales sobre seguridad y asegurar su actualización.

No es este el espacio para reiterar el sinnúmero de recomendaciones en términos de seguridad, sino más bien para reiterar aquello que con cada nuevo ataque se vuelve patente: es urgente que los Estados latinoamericanos se tomen en serio las necesidades de seguridad que ya son parte de sus agendas, políticas nacionales y estrategias de ciberseguridad.

Por cierto, ni los más avanzados sistemas tecnológicos de defensa son suficientes sin capacitación y buenas prácticas. Organizaciones como Derechos Digitales han sido insistentes en la promoción de prácticas de seguridad digital, que incluyen la concientización para hacer frente a los riesgos de la ingeniería social como forma de vulneración de sistemas informáticos. A la vez, es importante que exista institucionalmente capacidad para promover y exigir estándares altos de seguridad en la operación cotidiana.

Los caminos globales a un ciberespacio seguro

Una de las grandes preocupaciones en torno a los ataques cibernéticos es la relativa a los ataques iniciados a gran distancia geográfica o a través de las fronteras de distintos países y la seguridad de las redes de comunicación global. Así, la ciberseguridad será parte de la agenda de la Conferencia de Plenipotenciarios de la UIT. Por otra parte, la persecución de los delitos propiamente cibernéticos y de los delitos facilitados por el ciberespacio se ha vuelto una materia donde la cooperación internacional se torna necesaria. El Convenio de Budapest, de creciente adopción en la región, invita a la colaboración entre los Estados; su segundo Protocolo Adicional, en tanto, pretende justamente reforzar la colaboración entre estados. El análisis de ese protocolo por Veridiana Alimonti expone las debilidades del mismo para el resguardo de derechos en la investigación y persecución de delitos. Esa cooperación es también parte de la discusión en la ONU de un nuevo tratado sobre ciberdelitos.

El rol de los Estados en la preservación de la paz y la seguridad internacionales en el ciberespacio ha sido objeto de intensa discusión entre los Estados. Esa discusión también tiene su centro en el segundo Grupo de Trabajo de Composición Abierta sobre los Avances en la Esfera de la Información y las Telecomunicaciones en el Contexto de la Seguridad Internacional convocado por la Organización de las Naciones Unidas (el OEWG). Allí, se ha destacado con frecuencia el riesgo tanto a nivel interno como internacional que representan las amenazas en el ciberespacio. Ataques sobre servicios o infraestructuras críticas, incluyendo a servicios públicos y poderes del Estado, afectan no solamente los derechos y las posibilidades de desarrollo, sino también la paz y la estabilidad internacional. Especialmente preocupante es que tanto los Estados como actores no estatales han adquirido capacidades crecientes para conducir ataques sobre infraestructura crítica y sobre infraestructura crítica de la información. Pomover la colaboración como el aprendizaje mutuo y la formación de confianza se vuelven necesarias también a nivel internacional.

En el OEWG, durante la sesión de julio de 2022, una propuesta de varios países del mundo, incluidos Chile y Costa Rica, sugería incorporar al texto del informe de progreso del OEWG la mención explícita tanto a las capacidades cibernéticas militares de los Estados, como al ransomware como forma concreta de amenaza a sistemas críticos en el uso malicioso de las tecnologías de información y comunicación. Es significativo que países tan célebremente afectados por estos ataques destaquen que distintos países con distintas capacidades pueden sufrir de manera distinta y más grave con ataques informáticos sofisticados. Aunque el texto no llegó al informe final, y considerando también el largo camino que queda hacia el futuro en el OEWG, las tensiones geopolíticas propias del proceso pueden volverse así un obstáculo para el consenso mundial.

Octubre: el mes de la ciberseguridad

La responsabilidad de los Estados en relación con las tecnologías va más allá de la respuesta a incidentes específicos o al hackeo exitoso de la semana. Se requiere una conducta activa tanto para promover un ciberespacio seguro como para proteger su propia infraestructura, y medidas que acojan la pericia recogida por distintas partes interesadas, apoyándose en ellas para promover la capacitación y generar confianza, así como para generar los cambios que la seguridad requiere sin afectar negativamente intereses legítimos. Es llamativo que justo al iniciar otro mes de la ciberseguridad, la contingencia nos recuerde cuán en deuda están los Estados.

¿What’s up América Latina?

¿Qué datos y meta datos se recopilan? ¿Cuál es la base legal para esta recolección? ¿Con quién se comparten? ¿Con qué finalidades? ¿Y por qué no explicar todo esto de forma simple a las personas? Estas son preguntas que a menudo quedan sin una respuesta adecuada. Resulta que en otros casos, el uso indebido de los datos de la ciudadanía da como resultado una verdadera concentración del mercado. Pero, ¿qué está pasando en América Latina?

En una audiencia judicial en los Estados Unidos sobre el famoso caso del uso político de los datos personales, conocido como Cambridge Analytica, se confirmó la información divulgada por Motherboard a principios de año. Estos hechos demuestran y refuerzan lo que viene sucediendo en la dinámica de los últimos años: que la internet que fue pensada como libre, abierta e inclusiva cada vez más nos aprisiona en manos de pocas empresas, en un mundo extremadamente concentrado.

Regulaciones de todo el mundo intentan dar cuenta de todos estos problemas, ya sea mediante la creación de leyes más protectoras, como el Digital Service Act y el Digital Market Act en Europa, o aplicando multas más fuertes, como hemos visto últimamente con los gigantes tecnológicos. Esta semana, incluso, Google tuvo una multa de 4,12 millones de euros confirmada por el Tribunal de Justicia de la Unión Europea, debido a la imposición de restricciones ilegales a los fabricantes de dispositivos Android.

Lo mismo ocurre en América Latina. O al menos eso es lo que parece comenzar a suceder. A partir del análisis de un caso tratado por varias autoridades de diferentes países se revela un verdadero cambio de paradigma para lidiar con la competencia, protección de datos y de las personas consumidoras, según un estudio que Maria Paz Canales y yo publicamos en la revista GRUR International. El caso trata del cambio de las políticas de privacidad y de los términos de servicio en 2016 y 2021, y principalmente de la reacción de las autoridades y de la sociedad civil, con un enfoque especial en América Latina. Como se resaltó en un seminario reciente del Foro de la Sociedad Civil de la Red Iberoamericana de Protección de Datos, necesitamos comprender las implicaciones de «cuando los gigantes cambian las reglas”.

El valor de los datos y las promesas realizadas

Desde el anuncio de la compra de WhatsApp por parte de Facebook en febrero de 2014, la operación ha llamado la atención por el alto precio de la adquisición (alrededor de 19.000 millones de dólares) y por las promesas de Zuckerberg de «no cambiar los planes en torno a WhatsApp y la forma en que utiliza los datos de las personas usuarias».

A pesar de las promesas, la realidad fue mostrándose totalmente diferente. La empresa fue multada por la Comisión Europea en 110 millones de euros por proporcionar información engañosa sobre un tema crucial en la revisión de la operación de compra por parte del regulador europeo. Simplemente no informó correctamente sobre la posibilidad técnica de identificar y combinar a las personas usuarias de las dos plataformas.

Pero la confirmación de que las promesas no se cumplirían se verificó en 2016, cuando se produjo uno de los mayores cambios en la política de privacidad y los términos de uso del servicio. El cambio permitió el intercambio de datos y metadatos de consumidores de WhatsApp con las demás empresas del grupo Facebook. A la persona usuaria, se le permitió una sola oportunidad de oponerse a este intercambio de sus datos, y aún así esta opción sólo podría hacerse en 30 días.

Varias fueron las decisiones de autoridades de protección del consumidor/a, competencia y datos, que entendieron este cambio como abusivo, especialmente en los países europeos. Así, la empresa llegó a un acuerdo para cambiar la política para el continente europeo, de modo que entraría en vigor solamente cuando el reglamento de protección de datos estuviera vigente, además de ser evaluado por las autoridades competentes. Es el caso de la Comisión de Protección de Datos (DPC) de Irlanda, que solo llegó a una conclusión parcial del caso en 2021, aplicando una multa de 255 millones de euros a la empresa debido a la falta de transparencia en el procesamiento de los datos. Solo después de la multa millonaria, a fines de 2021, la compañía realizó cambios más sustanciales en su política de privacidad, pero tales cambios solamente son válidos para Europa.

¿Y en el resto del mundo? Las diferentes lentes del/a consumidor/a, la competencia y la protección de datos

En 2021, se anunció un nuevo cambio en las políticas de privacidad de WhatsApp, que consolidó y aumentó el volumen de datos recopilados por la empresa. Pero esta vez sin dar la posibilidad de no aceptar el cambio. Súbitamente, hubo mucha queja por parte de la sociedad civil organizada y de autoridades de todo el mundo. India y América Latina encabezaron una rebelión global en contra de las nuevas condiciones de la aplicación, según lo informado por la prensa en ese momento. La autoridad de competencia de la India ha tomado una decisión preliminar al suspender el cambio de política, por entender que esa era una conducta exploratoria y excluyente. En América Latina, las autoridades finalmente tomaron algunas decisiones importantes al respecto de esta política.

En Argentina, por ejemplo, la autoridad de competencia argentina tomó la decisión preliminar, confirmada posteriormente, que consideró el abuso exploratorio, la exclusión y la posición dominante del grupo Facebook en ese país, en vista de factores como la recopilación excesiva de datos, la ausencia de opciones reales a las personas para limitar esta recopilación y la subordinación de la prestación del servicio a la aceptación de la actualización. La decisión también resalta que no hay gratuidad del servicio, pues el activo esencial es la información y datos de las personas usuarias del servicio, que se transforman en ganancias monetarias por la publicidad en otras plataformas. Ya La Dirección General de Defensa y Protección al Consumidor multó a la empresa con un valor 5 millones de pesos argentinos, subrayando que las cláusulas y los cambios eran abusivos.

En Brasil, llamativamente, el caso fue uno de los primeros en ser analizados por la recién instituida Agencia Nacional de Protección de Datos (ANPD). La ANPD en conjunto con el Ministerio Público Federal, la Secretaría del Consumidor y el Consejo Administrativo de Defensa Económica (CADE), cariñosamente llamados los «cuatro fantásticos», recomendaron fuertemente a las empresas para que aplacen la entrada en vigor de la nueva política de privacidad. Solo después de meses, la ANPD terminó el análisis de la política de privacidad de la compañía basándose en la Ley General de Protección de Datosa LGPD, entendiendo que la compañía cumplió con las recomendaciones hechas por las áreas técnicas de la agencia. Sin embargo, en esa misma decisión, la ANPD abrió nuevos procedimientos, ahora para investigar otras cuestiones que aún no habían sido evaluadas: la posibilidad de procesamiento de datos de infancias y adolescencias, además del punto nodal del caso, que es la posibilidad de compartir los datos de los/as usuarios/as entre las empresas del grupo económico.

En Chile se ha abierto una investigación, aún no concluida, por la autoridad de competencia, ya que hasta el momento el país no cuenta con un organismo específico dedicado a la protección de datos.

Más allá de los Cuatro Fantásticos: colaboración interinstitucional e internacional

En Brasil, la cooperación interinstitucional entre los «cuatro fantásticos» fue un factor importante debido incluso a la reciente instauración de la ANPD. El intercambio también sirvió para consolidar una actuación más integrada entre las diferentes autoridades y posibilitar un análisis más completo y global de los temas tratados en el caso. Otra cuestión que llama la atención es que el caso continúa, o sea, todavía tendremos novedades en nuevos procesos que fueron abiertos.

Ya en Argentina, además de las decisiones ya citadas anteriormente, llama la atención la apertura de las autoridades hacia la sociedad civil y para la discusión internacional con otras autoridades sobre el caso, conforme lo visto en el encuentro virtual promovido por la Conferencia de las Naciones Unidas sobre Comercio y Desarrollo (UNCTAD), Public Citizen y Third World Network, que contó con la participación de varias autoridades de América Latina, Asia-Pacífico, Europa y África.

La sociedad civil organizada fue extremadamente activa en el caso. Entidades como la Coalición Derechos en la Red, Idec, Data Privacy Brasil, CGI, Fundación Via Libre, Tedic, Derechos Digitales y Al Sur, actuando en el ámbito nacional y regional, apenas para citar algunas organizaciones en el contexto latinoamericano. Tales organizaciones tuvieron una actuación importante en el debate, siendo proactivas en el diálogo con autoridades y con la empresa.

La lucha de David y Goliat continúa: la importancia de las organizaciones de la sociedad civil

No hay duda de la importancia de los datos para las empresas. Pero la transparencia y el respeto de los derechos de las personas siguen siendo puntos que merecen nuestra atención. Los procedimientos administrativos y judiciales relacionados con el caso de WhatsApp continúan en las jurisdicciones mencionadas aquí. Es por eso que debemos pensar las estrategias para que posibilite a David hacer que los gigantes cumplan las leyes y respeten los derechos humanos.

La prensa y el carácter mitológico de la tecnología

Reciente, hemos visto publicados estos tres titulares en medios de comunicación:

Inteligencia artificial: con algoritmos predicen qué liceales pueden abandonar o repetir y harán listas (El País, Uruguay).

Inteligencia Artificial demostró cómo se verán los humanos en un millón de años (Smart 13, Chile).

Cuadro generado por inteligencia artificial gana premio y desata polémica en el mundo del arte (Deutsche Welle, Alemania).

Esta pequeña y poco representativa muestra sirve para ilustrar algunas cuestiones relevantes respecto a la inteligencia artificial (IA) y las narrativas que se han creado en torno a ella.

Lo primero que salta a la vista es que se están usando sistemas de IA para un amplio abanico de tareas, que van desde cuestiones importantes en materia de política pública hasta otras completamente absurdas e inconsecuentes.

Una forma de explicar esta variedad de aplicaciones dispares es que nos encontramos en un estado temprano del desarrollo de estas tecnologías y no somos capaces de comprender completamente su potencial y sus límites, cuestión que probablemente será definida en un largo proceso de ensayo, error y descarte.

Pensemos, por ejemplo, en el teléfono, una tecnología cotidinana y obvia, que en la actualidad no requiere mayor explicación de nuestra parte. Sin embargo, no lo era para las personas de fines del siglo XIX. Antes de asentarse como una tecnología de telecomunicación, los desarrollos iniciales de la telefonía avizoraban distintos usos potenciales, incluyendo la transmisión de música orquestal a larga distancia, los que eventualmente fueron abandonados.

En la medida en que los sistemas de inteligencia artificial comienzan a ser adoptados por los gobiernos y las empresas privadas para asistir la toma de decisiones de cuestiones cada vez más relevantes en las vidas de las personas, el impacto de sus errores puede ser devastador. Seguramente en un futuro no tan lejano miraremos nuestro actual uso de la inteligencia artificial de forma similar a cómo evaluamos hoy la frenología, con una mezcla de vergüenza e indignación.

Son los estados y los organismos internacionales los principales convocados a establecer límites, procedimientos y regulaciones que impidan desenlaces catastróficos asociados al uso de sistemas de IA. Pero la tarea de crear conciencia sobre la necesidad de una aproximación más cuidadosa y responsable en torno a esta tecnología la corresponde a todos los actores sociales, incluyendo a la prensa.

El carácter mitológico de la tecnología

Esa es otra cuestión que llama la atención: de las tres noticias presentadas más arriba, una es absolutamente ridícula y otra es una exageración. La idea de que una inteligencia artificial pueda predecir el modo en que lucirán los seres en un millón de años no solamente es absurda, sino que al leer la noticia nos enteramos de que se trata del ejercicio ocioso de un usuario de Tik Tok, que carece de cualquier fundamento sólido. Por su parte, si bien es cierto que una obra creada con IA ganó un concurso, afirmar que se ha desatado una polémica en “el mundo del arte” parece demasiado si consideramos que el concurso en cuestión es organizado en el marco de la “Colorado State Fair & Rodeo”, no exactamente una renombrada institución artística, y la polémica se desató principalmente en redes sociales.

A pesar de que ambas noticias no son más que entretenimiento y los hechos relatados no conllevan mayores consecuencias, la suma de noticias de este tipo generan un imaginario y unas expectativas respecto de lo que la inteligencia artificial es, completamente desconectadas de sus condiciones materiales, dejando a la población mal posicionada para evaluar y entender mejor aquellos proyectos que sí pueden impactar sus vidas de forma importante, como es el caso del sistema anunciado en Uruguay.

Esta aparente disonancia entre el modo en que socialmente pensamos en las tecnologías y sus capacidades técnicas reales no puede ser simplemente descartada como ignorancia o falta de claridad, sino que es parte de lo que podríamos denominar el carácter mitológico de la tecnología, que lejos de constituir una fantasía inocua, tiene repercusiones bastante reales: cada vez que un político promete solucionar un problema social complejo por medio de un algoritmo, está apelando a esta mitología; y si el proyecto se concreta, dependiendo de cómo sea implementado, puede tener consecuencias importantes en la vida de las personas, para bien y para mal.

No es una varita mágica

Hay una cita de Arthur C. Clarke que se ha convertido en un cliché a la hora de hablar de tecnología: “Cualquier tecnología suficientemente avanzada es indistinguible de la magia”, que ha suscitado distintas interpretaciones. La frase parece ser particularmente acertada a la luz de una problemática común en el mundo de la inteligencia artificial, donde la trazabilidad de la toma de decisiones por parte de los sistemas no siempre está garantizada, convirtiéndolos en una verdadera caja negra a la que se alimenta con grandes volúmenes de datos esperando obtener alguna respuesta, pero sin ninguna capacidad de entender cómo se ha llegado a ella.

Los sistemas de inteligencia artificial muchas veces se parecen más a un oráculo que a los postulados racionalistas y empiristas sobre los que se sustenta el método científico. No solamente los resultados no son replicables, sino que además el proceso es misterioso.

Por eso es bueno leer que Héctor Bouzón, director ejecutivo de Gestión Institucional de la Administración Nacional de Educación Pública (ANEP) de Uruguay que el sistema que están implementando no es una “varita mágica”, sino que un instrumento más de diagnóstico, y que es necesario enseñar a leer los resultados que el sistema arroja —“ Hay que tener cuidado para no estigmatizar alumnos, alerta Bouzón: “Yo tengo una nómina, ¿pero qué significa?”—.

Existen experiencias anteriores en la región donde la toma de decisiones por medio de sistemas automatizados ha generado respuestas estigmatizantes. El caso más notorio es el de la Provincia de Salta en Argentina, donde se pretendió usar un algoritmo para predecir embarazos adolescentes, con resultados deplorables y que violaba derechos fundamentales de las niñas más pobres de la provincia.

Menos visible que el anterior, pero relevante para la evaluación, es el caso del Sistema Alerta Niñez en Chile, implementado en modalidad piloto y que tiene como objetivo estimar y predecir el nivel de riesgo de niñas, niños y adolescentes de sufrir alguna vulneración en sus derechos en el futuro, mediante un análisis de datos de diferentes fuentes administrativas.

Del análisis realizado por Matías Valderrama en el marco del proyecto “Inteligencia Artificial e Inclusión” de Derechos Digitales, se determina que el sistema no explica cabalmente el tipo de tratamiento de datos al que son sujetos los NNA con el Sistema Alerta Niñez; la opacidad con la que el sistema ha operado hasta ahora, sin documentación pública sobre el funcionamiento, rendimientos y efectos de los modelos predictivos, y la ausencia de procesos de participación o consulta ciudadana en el desarrollo e implementación del sistema, entre otros varios problemas asociados a su implementación.

Las alertas levantadas por Bouzón y otros funcionarios involucrados con el desarrollo del sistema de predicción de deserción escolar consultados por el artículo de El País demuestra un nivel de conciencia poco común respecto de los problemas y desafíos de lidiar con una tecnología de este tipo, lo que, en alguna medida, es tranquilizador.

Sin embargo, es tarea de la sociedad en su conjunto velar y exigir que la implementación de este sistema cumpla con los más altos estándares en la materia, incluyendo políticas de participación, transparencia y evaluación.