La infraestructura de internet, ¿soberanía o gobernanza?

Manuel Castells escribió hace tiempo que las redes constituyen la nueva morfología social de nuestras sociedades y que la lógica de la puesta en red determina ampliamente los procesos de producción, experiencia, saber, poder y cultura.

Las tecnologías de la información -incluida internet- son reflejo de cómo se estructura nuestra sociedad y por eso, desde hace varios años se han promovido los principios de internet: que sea una red descentralizada, que tenga interoperabilidad y que sea neutra. En este contexto es importante traer al debate la soberanía tecnológica como una práctica para la democratización y la descentralización, de la red pero también, y sobre todo, del poder y del conocimiento.

Aunque internet se define como una red de redes descentralizadas, dicha presunción es cuestionable debido a que la mayoría de capas que conforman su arquitectura pertenecen a grandes empresas privadas que ostentan el monopolio de la infraestructura física, lógica y de contenido, por ejemplo Google, Verizon, AT&T, Telxius, Facebook, T-Mobile, entre otras.

La monopolización de las telecomunicaciones en los países latinoamericanos comenzó en la segunda mitad del siglo XX, a partir de los años 70. A su llegada, internet se insertó en este modelo económico y si bien con la privatización fue posible extender los servicios de telecomunicaciones a lugares lejanos, también trajo consigo la dependencia de los pueblos indígenas y no indígenas, muchas veces divididos por fronteras políticas que no los representan, frente a las ofertas comerciales que todavía hoy ponderan el beneficio económico sobre el beneficio social de llevar la infraestructura tecnológica allí donde aún no ha llegado.

Pero al tiempo que las tecnologías comerciales de internet crecían, con ánimos profundos de promover otras formas de organización, poder y cultura, surgieron también los movimientos hacker, de software y cultura libres, cuyo principio es precisamente la soberanía tecnológica, un concepto que de acuerdo con Alex Haché nos remite a la contribución que hacemos cada una de nosotras al desarrollo de tecnologías, rescatando nuestros imaginarios radicales, recuperando nuestra historia y memorias colectivas, re-situándonos para poder soñar y desear juntas la construcción aquí y ahora de nuestras infraestructuras propias de información, comunicación y expresión.

La soberanía tecnológica es fundamental para evitar la censura, el control, la vigilancia, la opresión y la dependencia; es una práctica para la autodeterminación y la autonomía de las diversas naciones, pues ubica a las tecnologías de la comunicación como un derecho humano que debe ser revisado desde el enfoque del bien común. Pero reconociendo que todo esto está también en fierros donde la red existe, en la infraestructura física.

Sin embargo, hasta ahora este tema no se ha considerado como relevante para la gobernanza de Internet. Hace poco, en el Foro de Gobernanza de Internet realizado en Guatemala, el representante de ICANN señaló que no había mucho que discutir o por hacer sobre el tema de la infraestructura, así que no debía ser incluido en la agenda. Entonces, ¿qué pasa si un día quienes poseen los cables submarinos, terrestres, servidores, etc., deciden bloquear la transmisión de información? En algunos países ya ha pasado que durante protestas sociales se cortan las telecomunicaciones.

Mientras no se discuta esto, mientras se considere que la infraestructura es un tema de gigantes, ¿cómo aseguramos que las telecomunicaciones sean herramientas para la democracia? Apostar por la soberanía tecnológica implica grandes inversiones, por eso es necesario regular la propiedad e instalación de infraestructura física, pero en un modelo donde participen todos los sectores -sociedad civil, gobiernos y empresa-: una gobernanza de la infraestructura.

IETF: la política de los protocolos

¿Qué es el IETF? ¿Qué son los protocolos y por qué importan? La sigla se refiere al Internet Engineering Task Force, un organismo «informal» cuya misión es hacer que internet funcione mejor: desde identificar problemas técnicos hasta proponer soluciones y reglas. No es una corporación, no tiene directores ni miembros. Se reúnen tres veces al año y su código de valores de resume en una frase que ha sido plasmada en su código de comportamiento: «rechazamos reyes, presidentes y votos. Creemos en el consenso duro y en correr códigos que funcionen». Es pocas palabras, la regla en el IETF es que cuando algo funciona para la red, y tiene sentido para la mayoría de sus integrantes (casi todos voluntarios por cierto), entonces se ejecuta. Es un foro de personas y no compañías, con un enfoque muy pragmático en el que cantan «huuuummmm» en vez de votar.

No se encarga del hardware ni de los protocolos a nivel de aplicaciones, sino de lo que pasa en la arquitectura: las calles de internet que permiten que la información se mueva de un lugar a otro. Ahí es donde entran los protocolos: las reglas básicas del tráfico de internet que definen cómo se mueve la información, cómo y quién se conecta con otros contenidos y personas.

A medida que la tecnología permea nuestra vida, estas reglas técnicas afectan los derechos humanos. De entrada, internet es una herramienta de comunicación donde la libertad de expresión está casi siempre directamente implicada. Los protocolos no son la excepción. Por ejemplo, el XMPP (potocolo extensible de mensajería y comunicación) es un estándar que permite los mensajes de chat, incluyendo texto, voz y videos. Incluso los protocolos TCP/IP -inventados en 1970 y que hoy conforman la base de internet- permitieron que computadoras con distintos sistemas operativos pudieran comunicarse, ampliando nuestra capacidad para expresarnos desde cualquier parte del mundo.

De igual forma, en la medida en que tanto empresas como gobiernos vigilan estas comunicaciones, el derecho a la privacidad se entrecruza también con protocolos. Inicialmente, el estándar HTTP define la forma como nos comunicamos a un sitio. Sin embargo, el HTTPS (protocolo seguro de transferencia de hipertexto) asegura que cualquier información que escribamos o busquemos en una página cifrada. Se trata de proteger los contenidos de nuestra navegación, de cualquier persona conectada a nuestro mismo WiFi o proveedor de servicios de internet.

Al final todo es cuestión de diseño. Por eso los protocolos son políticos. Reflejan los valores y creencias de las personas que los crean. Y por lo mismo el IETF es tan importante, aunque su trabajo sea prácticamente invisible para la mayoría de los usuarios.

Es importante que los derechos humanos formen parte de estas discusiones. Podemos incidir. En teoría, cualquier persona puede formar parte del IETF, solo hay que inscribirse y pagar un registro aunque desde el Sur Global nos topamos con varios obstáculos que no son menores: es un foro súper técnico y aún pocas organizaciones de la sociedad civil cuentan con expertos técnicos en su equipo, además se lleva a cabo en inglés y además es costoso financiar la participación en las reuniones -viajes y registro-. Sin embargo, involucrar la participación del Sur Global es urgente para asegurar nuestra voz en el diseño de las reglas técnicas que luego nos gobernarán.

Los consensos al interior del IETF se plasman en Requests for Comments-RFC (petición de comentarios). Cuando se publican después de un proceso que asegura precisamente el consenso, se convierten en estándares o protocolos. Los más importantes están reflejados en este formato: el IP detallado en el RFC 791, el File Transfer Protocol para compartir archivos en el RFC 959, o el HTTP —escrito por Tim Berners Lee— en el RFC 2616.

Los RFCs expresan algo esencial: internet es un sistema de tecnología cambiante. Los documentos de hoy pueden cambiar mañana, y por lo mismo cualquiera puede entrar al proceso, siempre y cuando se sigan las reglas que el Tao y el BCP78 delinean.

En esencia, todo RFC empieza como un borrador; un texto a ser comentado. Cada ronda de comentarios se agrega al borrador. Luego, hay ocho áreas en el IETF: aplicaciones, general, internet, operaciones y manejo, routing, seguridad, transporte e investigación. En cada una hay un director de área que se encarga de llevar los borradores con los comentarios incorporados al Internet Engineering Steering Group, que es una especie de organismo directivo. Ahí se anuncia una última llamada para comentarios, se revisan, discuten e incorporan más criterios hasta lograr un consenso sólido que se convierte en RFC. Cada borrador se puede presentar a título individual o vía un grupo de trabajo adherido a alguna de las áreas.

Uno estos es el Grupo de Investigación sobre Derechos Humanos y Protocolos que precisamente se enfoca en ver cómo la arquitectura de internet fomenta y obstaculiza derechos humanos. El primer borrador de este grupo de trabajo está a algunos pasos de convertirse en RFC: por primera vez en la historia, los derechos humanos formarán parte de las discusiones técnicas, a pesar de ciertas resistencias por miembros del IETF quienes siguen sosteniendo que los protocolos no son políticos sino neutros.

Esta semana se celebra la sesión #IETF99. Junto con Artículo 19, desde Derechos Digitales escribimos un borrador para discutir de qué forma los protocolos y la arquitectura de internet impactan los derechos de asociación y de reunión. Estos dos derechos son cruciales en la era digital. Las redes son asociaciones y vínculos en sí mismos. Sin mencionar que en países autoritarios o con democracias débiles, los protocolos que permiten el uso de correos electrónicos o chats son esenciales para la organización de disidencias.

¿Cómo podemos diseñar la arquitectura para que estos derechos se protejan de mejor manera? ¿Qué criterios incorporar para minimizar los daños a la red, en el ejercicio de los mismos? De esto va la discusión en el IETF. Nuestro borrador ahora está en la segunda vuelta después de incorporar los comentarios del grupo de investigación sobre derechos humanos y protocolos. Con perseverancia, después de muchas discusiones pronto también se convertirá en RFC.

En estos tiempos la comunicación en internet está mediada por empresas privadas. No solo a nivel de aplicaciones como Google y Facebook, sino también a nivel infraestructura, tanto las líneas de transmisión como los cables y fibra óptica mediante los que nos conectamos. Los Estados están rebasados. El poder y las políticas de gobierno no alcanzan a regular -ni entender- la globalidad de internet. Por lo mismo, hemos pasado de un modelo clásico de gobierno a uno de «gobernanza»: ya no es un solo poder el que domina, sino una serie de entidades que luchan por plasmar sus intereses en las reglas, principios, políticas y estándares técnicos que determinan cómo opera la red. El IETF es uno de los organismos más importantes en este modelo de gobernanza. Como usuarios y sociedad civil, es importante que estemos al tanto de sus discusiones.

Fibra óptica al sur del mundo

Durante el segundo semestre de 2016 el gobierno de Chile lanzó por primera vez el llamado a licitación para la instalación de fibra óptica en territorios australes: la licitación quedó desierta, pues no hubo interés de los privados en participar del proyecto. Según reportes de prensa, el desinterés de las empresas privadas se comprendería en razón del insuficiente monto del subsidio propuesto por el Estado (US$ 100 millones) y la existencia de regulaciones tarifarias por parte del gobierno.

El desarrollo de una infraestructura adecuada para el acceso de alta velocidad a internet tiene fuerte incidencia en el desarrollo económico y social, tal como ha señalado la OECD. Para el caso particular del extremo sur chileno atendemos a la necesidad de desarrollar una estrategia de conectividad digital que sea capaz de hacer frente a la demandante geografía del país. Para promover dicha conectividad la implementación de redes de fibra óptica submarina se torna esencial, siendo justamente este requerimiento el que no contó con oferentes en el llamado de 2016.

La importancia de la provisión de acceso de calidad a internet ha sido estudiada desde una perspectiva comparada por el colectivo brasileño Intervozes, quienes postulan que “en Argentina, Australia e India, se ha hecho explícito que la iniciativa privada no es capaz de universalizar el acceso a internet”. Lo anterior supone que la extensión de las redes hacia territorios despoblados excede el interés privado en razón de la baja rentabilidad eventual de las inversiones. De ahí, entonces, que sea requerida una mayor agencia estatal, especialmente en zonas de difícil acceso como lo es el sur de Chile.

El modelo de concesiones públicas desarrollado en Chile hacia fines de los años noventa ha sido ampliamente celebrado: permitiría el desarrollo de infraestructura muy costosa para el estado, dinamizaría la economía y estaría garantizado por el estatuto jurídico. En el caso particular de las inversiones en obras públicas, como carreteras, las concesiones darían pie a un fortalecimiento del aparato estatal, toda vez que las obras mismas pasarían a ser propiedad del Estado luego del fin del período en comodato.

Recientemente, la Subsecretaría de Telecomunicaciones chilena ha relanzado el llamado a licitación para el proyecto de Fibra Óptica Austral. El nuevo llamado a licitación fue realizado junto a un Seminario del proyecto (cuyo registro audiovisual está disponible aquí). Entre las novedades de la nueva licitación resulta relevante destacar dos aspectos: en primer lugar, que las tarifas máximas serán determinadas por los oferentes, esto es, que el estado no pondrá un límite máximo a las tarifas de acceso a la infraestructura construida; seguidamente, a diferencia del modelo de concesiones existente para otras obras públicas, donde la infraestructura pasa a manos del Estado, en esta licitación la infraestructura queda en manos de los proponentes privados.

Será interesante verificar la existencia de interés por parte de los privados ante este segundo llamado para conectar una de las zonas más australes del mundo. El nuevo modelo de concesiones propuesto no solo establece menor capacidad de control del estado –tanto en lo referente a precios como en la propiedad de la infraestructura-; también eleva fundadas dudas sobre el tipo de incentivos que se busca ofrecer a los privados para la provisión de bienes públicos.

Es necesario poner atención a este tipo de iniciativas pues se encuentran en el núcleo de lo que luego constituirá un acceso democrático y equitativo a internet. Por más que se promueva el desarrollo de una infraestructura abierta y no discriminatoria, es justo preguntarse hasta dónde las licitaciones están resultando efectivas para la provisión de bienes públicos.

Por ahora, la promesa de acceso a internet resulta aún lejana para los habitantes de Villa O’Higgins, una de las localidades más aisladas de Chile, que no está considerada en el proyecto original de conectividad a través de fibra óptica y cuya cobertura, tanto en la primera como en la segunda licitación, es considerada como “puntaje adicional” para los oferentes en la licitación.

¿Quién y cómo controla lo que decimos en internet?

El domingo pasado, el periódico The Guardian publicó las guías y lineamientos que Facebook usa para “moderar” (y eliminar) los contenidos de su plataforma a través de contratistas externos. La empresa ha estado en el ojo del huracán recientemente porque mientras censura pezones femeninos, permite videos en vivo de actos tan violentos como un señor matando a su hija de once años. Los términos de uso nunca son del todo claros, y antes era imposible saber realmente cómo seguían los criterios que declaraban. Con esta filtración, ahora tenemos una idea de lo que implican.

Sin embargo, a cada duda respondida le siguen nuevas interrogantes. No es un problema nuevo: sus cientos de millones de usuarias y usuarios estamos en desprotección, sin reglas claras ni mecanismos de apelación o rendición de cuentas para responsabilizar a una de las empresas más poderosas del mundo, que además de manejar nuestra información privada controla también buena parte de nuestra expresión pública.

¿Qué solución podemos imaginar que respete derechos humanos? ¿Cómo hacer que Facebook sea más responsable? ¿Qué mecanismo es el ideal?

Los lineamientos publicados reflejan un estándar moral muy afín al norteamericano, que en los hechos funciona por encima de la ley de muchos países y que opera incluso al margen del derecho internacional de los derechos humanos. O bien, que se inclina por seguir la ley local solamente cuando puede existir una consecuencia legal real. Facebook es uno de los “soberanos de internet”, una de las empresas que median nuestros dichos y expresiones bajo sus propias reglas. La tensión es evidente. Por un lado, su posición “supraestatal” parece facilitar o fomentar el disenso en países autoritarios, como fue relatado a propósito de la propia Primavera Árabe. Por otro, elimina contenido de su plataforma bajo criterios arbitrarios y opacos, dejando otros contenidos nocivos intactos.

Para Facebook, frases como “alguien dispárele a Trump” deberían ser eliminadas porque el presidente de Estados Unidos es alguien “vulnerable”. Algo así bien podría ser una broma. Una expresión de frustración o sarcasmo sin intención de llevarlo a cabo. En este contexto, los criterios internacionales sobre libertad de expresión lo considerarían discurso especialmente protegido por referirse a un funcionario público. Sin embargo, instrucciones del tipo “para romperle el cuello a una perra, asegúrate de aplicar presión en el cuello” son permitidas, sin importar el contexto en que se dice.

Las guías están hechas para orientar a más de 4.500 empleados subcontratados, que vienen principalmente de Filipinas y de Polonia (aunque algunas fuentes dicen que son más de 100 mil, no lo sabemos bien). Cada “moderador” tiene en promedio diez segundos para decidir si eliminan o no una imagen con base en las instrucciones escritas que Facebook les entrega, sin entrenamiento posterior. Les pagan aproximadamente un dólar la hora. Ven contenidos explícitos todo el día –decapitados, muertes, suicidios– y no reciben atención psicológica suficiente. ¿En qué mundo es este el mejor sistema para decidir qué contenido se queda y qué contenido se elimina de la plataforma?

Con todo, en la era del capitalismo digital, la premisa principal es rechazar cualquier intervención estatal. La autorregulación es la norma, y en este sentido los usuarios son el primer filtro. Cuando estos reportan o denuncian alguna imagen, video o contenido se va a uno de los distintos Comités (odio y acoso, contenido abusivo o seguridad) para ser revisado por uno de los “moderadores”. Esto en sí trae un problema adicional, pues los criterios mayoritarios ponen en riesgo el disenso y las expresiones controvertidas. En una sociedad machista, discursos de odio en contra de las mujeres no se denuncian y se normalizan, mientras insultos a grupos privilegiados se reportan rápidamente.

En los Estados, estas decisiones sobre límites discursivos son tomadas por jueces –idealmente después de cuidadosos ejercicios de ponderación de derechos-. Como en cualquier dicho, todo depende del contexto. No es lo mismo decir “te voy a matar, perra” a una ex novia, a una dirigente feminista o a un amigo gay. O incluso, algo como “fulanita parece embarazada” puede ser un cumplido, o un acto de bullying.

Es este mismo contexto el que no permite que las decisiones sean enteramente automatizadas. Los algoritmos y programas de computación no entienden grises, y además tienen fuertes sesgos culturales y de programación. Sin embargo, los moderadores –mal pagados y mal entrenados– tampoco lo hacen. Mucho menos en diez segundos.

No hay solución perfecta. Estamos atrapados en la naturaleza corporativa de Facebook.

Mark Zuckerberg insiste en que son una empresa de tecnología y no un medio de comunicación. Sin embargo –y como vemos en los lineamientos publicados por the Guardian- la compañía toma miles de decisiones editoriales todos los días al decidir qué contenido se queda y cuál se censura. ¿Acaso es hora de empezar a regularlos como un medio? ¿Bajo qué legislación? ¿Qué implicaciones tendría esto para internet?

Las respuestas no son claras. Lo más lógico –dado que Facebook gana dinero a costa de nuestros datos personales– es exigir como mínimo que la empresa dé muestras reales de su intención de mejorar, transparentando la forma en que toma decisiones que afectan a todo el mundo. Además, debería invertir parte de sus ingresos en investigar, prevenir y resolver este tipo de conflictos (en vez de gastar millones de dólares en desarrollo de inteligencia artificial para predecir las emociones de sus usuarios, por ejemplo). La libertad de expresión debe ser un tema prioritario; la integridad de los usuarios también.

Es inconcebible que nos enteramos de esto porque el documento de Facebook se filtró a medios de comunicación. Porque era privado. Como usuarias y usuarios debemos exigir más transparencia sobre este tipo de decisiones. Ahora que los lineamientos son (un poco más) conocidos por el público, podemos tener un debate amplio sobre el tema y evaluar si estamos de acuerdo con lo que la plataforma permite, y por consiguiente si elegimos seguir usando sus servicios al estar o no de acuerdo.

Defender los derechos humanos en el entorno tecnológico. Nuestra apuesta desde América Latina

Alrededor del mundo estamos viviendo tiempos turbulentos, incluso en lugares que cuentan con una larga tradición democrática y una historia de lucha por el reconocimiento y protección de los derechos humanos. Pese a los avances, hoy América Latina se ve enfrentada a la proliferación de amenazas, desde el ámbito público y privado, para preservar la libertad de sus habitantes y el ejercicio más pleno de sus derechos fundamentales, tanto en lo referido a la seguridad personal, la libertad de expresión y la privacidad, como al ejercicio de derechos económicos, sociales y culturales, que garantizan una participación plena del bienestar social.

Los acontecimientos en el mundo físico parecieran tan graves y urgentes que a veces nos llevan a considerar el uso de las tecnologías como un elemento secundario dentro de un contexto de intolerancia, violencia y fragmentación social global. Sin embargo, las tecnologías han permeado la vida de las personas al punto que ya no es posible pasarlas por alto para concentrarse en la protección de los derechos de las personas o prevenir cualquier tipo de riesgo. Estamos en un mundo conectado a través de distintas tecnologías que, a estas alturas, ya no constituyen un privilegio sino una necesidad para la participación social y el acceso a una vida digna y de calidad.

El diseño, uso y regulación de la tecnología, ejecutado por entidades públicas o privadas, debe tener en el centro el reconocimiento de los seres humanos y su dignidad, resguardando que las consideraciones de seguridad pública, desarrollo económico, libertad de emprendimiento, entre otras, no sean las únicas puestas en la balanza a la hora de tomar decisiones para el desarrollo y la implementación de tecnologías. En este sentido, el análisis debe nutrirse de la experiencia en la lucha por el reconocimiento y defensa de los derechos fundamentales. Las amenazas a la ciberseguridad, la vigilancia a través de medios tecnológicos por parte de entidades públicas y privadas, las violaciones a la privacidad, la restricción de la libertad de expresión y los obstáculos a la difusión del conocimiento, son solo algunas de las formas en las que se concretan hoy, a través de la tecnología, las amenazas para los derechos humanos de los y las ciudadanas del mundo globalizado.

Desde la gestión que emprendo hoy a la cabeza del ya experimentado equipo de Derechos Digitales, asumo la misión de abordar estas problemáticas con una visión de colaboración, coordinación y trabajo conjunto con las personas y organizaciones que en América Latina hemos venido trabajando en temas de tecnología y derechos humanos. En este momento nos hemos propuesto cristalizar la experiencia acumulada por esta organización y ponerla al servicio de la región, entendiendo que el contexto latinoamericano es complejo y diferenciado. Consideramos urgente incorporar nuevas voces a la discusión y el trabajo, con el fin de construir una voz articulada desde América Latina y así, asegurar que el progreso prometido por la tecnología se materialice en esta parte del sur global, con el respeto de la dignidad humana en su centro.

Sabemos que mucho podemos recoger de las experiencias en otras latitudes, pero las particularidades económicas, sociales y culturales de América Latina nos fuerzan a mantener un espíritu crítico y vigilante ante el uso de las tecnologías, de manera que podamos acceder a sus beneficios, pero partiendo del respeto y garantía de los derechos humanos de quienes habitamos la región, y sabemos que en esta tarea no estamos solos, lo cual nos complace. Las diversas voces en defensa de los derechos humanos son esenciales para enriquecer la toma de decisiones en torno al uso de la tecnología; las batallas de hoy y las que se aproximan exigen de nosotros organización y suma de fuerzas en la protección, garantía y práctica de nuestros derechos humanos.

El Foro de Gobernanza de Internet en un país autoritario

México atraviesa una grave crisis de derechos humanos. Sin embargo, es la sede del Foro de Gobernanza de Internet (IGF) —un evento de Naciones Unidas que cada año reúne a gente de academia, gobiernos, activistas y empresarios para discutir los temas más controversiales en la red. Entre desapariciones forzadas, torturas, asesinatos de periodistas, corrupción e impunidad, cientos de personas de todo el mundo debaten algo crucial: cómo hacer de internet un espacio más democrático.

La paradoja es evidente. Los derechos humanos online y offline no pueden disgregarse. En la ceremonia de bienvenida, el gobierno mexicano se encargó de recordar la prohibición de protestar, repartir panfletos o hacer críticas dirigidas, y además organizó una cena de gala privada, rompiendo con la tradición del evento que busca reunir a los diferentes sectores. ¿Cuál es la razón de la exclusión? ¿Tanto temen a la crítica?

Hay que decirlo con todas sus letras: México no es ningún ejemplo de democracia digital. El espionaje ilegal es más que común y se usa para intimidar a periodistas y opositores políticos. Además, la violencia en línea es un método predominante de intimidación y las autoridades mexicanas hacen poco para contrarrestarla.

En cuanto a la vigilancia, sabemos que el gobierno interviene comunicaciones privadas y obtienen metadatos de usuarios y su geolocalización en tiempo real a través de medios ilegales. Según un reciente informe de la Red en Defensa de los Derechos Digitales, el 99% de estos actos se hacen sin orden judicial.

Red en defensa de los derechos digitales

El organismo de inteligencia nacional (CISEN) dice haber obtenido 2002 autorizaciones judiciales para intervenir comunicaciones privadas, pero los jueces aseguran que fueron únicamente 654. Además, la Policía Federal vigiló 1781 dispositivos, aun cuando solo tenía autorización sobre 205. Intervenir comunicaciones sin orden judicial va en contra de lo que dice la propia Constitución. Y dicha ilegalidad es muy preocupante en un país corrupto donde periodistas han denunciado los nexos del gobierno con el crimen organizado y donde desaparecen estudiantes y se reprimen protestas, entre otros crímenes: la vigilancia, lejos de ayudar a combatir el crimen, se usa para perseguir la disidencia.

Red en defensa de los derechos digitales

Pero resulta más grave el hecho de que el estado mexicano use malware de vigilancia para silenciar a periodistas y opositores políticos. El gobierno mexicano es el cliente más importante de Hacking Team –la empresa italiana que vende uno de los software más intrusivos en el mercado-, pero además ha comprado estos programas a otras empresas como NSO Group, usándolo para espiar a periodistas disidentes que han descubierto escándalos de corrupción del presidente Enrique Peña Nieto. Por si fuera poco, durante la campaña presidencial de 2012, quienes ahora ejercen el poder contrataron a un hacker para espiar a sus opositores políticos durante la campaña.

En este contexto, la libertad de expresión está bajo fuego constante. Según la organización Artículo 19, desde que empezó la llamada “guerra contra el narco” en el año 2000, 99 periodistas han sido asesinados. Además, el 46.7% de las agresiones contra la prensa vienen de los gobiernos. Estos actos tienen un potente efecto silenciador, tanto en el mundo offline como en internet. Por otra parte el acoso, especialmente mediante amenazas en plataformas de redes sociales, se ha consolidado como una forma para intimidar, infundir miedo y silenciar: tanto activistas feministas como periodistas y caricaturistas críticos han sido amedrentados por esta vía y las autoridades no han sabido responder frente a estos hechos.

Artículo 19

En México, como en el resto de América Latina, la realidad en línea es un reflejo del autoritarismo y la violencia que se vive día a día. No puede existir una seria discusión sobre la apertura y democracia en internet, con graves violaciones a derechos humanos de por medio. El gobierno mexicano tiene mucho por hacer.

Democracias más robustas necesitan de la sociedad civil e internet

Patricio Velasco y Pablo Viollier

Durante el 32º periodo de sesiones del Consejo de Derechos Humanos de Naciones Unidas se han tomado dos resoluciones con importantes implicancias para América Latina. En primer término, el Consejo ha resuelto que los estados deben comprometerse a proteger el espacio de la sociedad civil. La resolución, que puede ser revisada aquí, establece un precedente relevante y puede, además, ser leída como un llamado de atención hacia los países miembros del organismo internacional.

El mismo órgano internacional hizo noticia en los últimos días, pues formuló una resolución –de carácter no vinculante– sobre la promoción, protección y disfrute de los derechos humanos en internet (que puede ser leída aquí). La declaración condena abiertamente a los países que voluntariamente bloquen el acceso a internet, bajo la premisa de que los mismos derechos que las personas tienen offline han de ser protegidos en entorno en línea.

Estas resoluciones suponen un apoyo institucional fuerte a labores de organizaciones como Derechos Digitales en la defensa, desarrollo y promoción de los derechos y libertades en línea, desde la perspectiva de los derechos humanos y el interés público. No solamente por reconocer una vez más la importancia de internet y condenar las acciones contrarias a su disfrute, sino por impulsar una sociedad civil fuerte y activa en la formulación de políticas públicas en general.

En lo sustantivo, la resolución en torno a la sociedad civil establece una serie de lineamientos que los estados deben implementar en pos de favorecer el accionar de las organizaciones que forman parte de ésta. Así, el consejo resuelve que los estados han de comprometerse a:

Asegurar las condiciones para que los actores de la sociedad civil puedan buscar, obtener y utilizar recursos tanto de orden público como privado.
Mantener procedimientos institucionales accesibles para el registro y conformación de organizaciones.
Asegurar que los actores de la sociedad civil puedan tomar parte en las diversas etapas de la discusión legislativa; ya sea en el desarrollo de una ley, su debate, sanción, implementación o revisión.
Adoptar leyes y políticas claras que permitan la divulgación efectiva de la información pública.
Garantizar el acceso a la justicia y la rendición de cuentas, en vistas de poner fin a la impunidad hacia violaciones de derechos humanos y abusos contra los agentes de la sociedad civil.

Las orientaciones arriba señaladas suponen un amplio reconocimiento a la importancia de las organizaciones y agentes de la sociedad como promotores del “empoderamiento de los miembros de grupos minoritarios o vulnerables de la sociedad”. A lo anterior se agrega el rol de vigilancia y control que la sociedad civil cumple frente al estado, especialmente en lo relativo a eventuales violaciones de los derechos humanos. Es en razón de lo anterior que la declaración del Consejo de Derechos Humanos puede ser también leída como un fuerte llamado de atención a los países miembros de la organización que han entorpecido el actuar de la sociedad civil, incluso llegando a atentar contra los derechos de actores miembros de ésta. Una sociedad civil fuerte y autónoma es, finalmente, un indicador de la calidad de la democracia de los países y de su capacidad de resguardar los derechos fundamentales de la ciudadanía.

Por su parte, la resolución referida al rol de los derechos humanos en internet manifiesta una profunda preocupación por medidas “cuyo objetivo o efecto deliberados es impedir u obstaculizar el acceso o la divulgación de información en línea, vulnerando el derecho internacional de los derechos humanos”.

Para nuestro continente, lo anterior no es sólo una preocupación académica o abstracta. En un escenario donde los gobiernos de Latinoamérica se ven cada día más tentados a vigilar y controlar a sus ciudadanos y los intereses empresariales han colonizado de forma cada vez más profunda el proceso democrático, la existencia de organizaciones cuyo fin es velar por el bien público -y no por intereses particulares- resulta cada vez más necesaria y se ha visto catalizada por el uso de herramientas en línea. Por lo mismo, no es de extrañar que la sociedad civil en Chile haya logrado mejorar las condiciones de transparencia en el proceso legislativo chileno, que en Brasil se haya enfrentado al lobby empresarial en la negociación del Marco Civil y que distintas organizaciones de todo el continente se hayan aunado para rechazar en conjunto el Tratado Trans-Pacífico (TPP), entre otros logros.

Lamentablemente, Latinoamérica sigue siendo un lugar en donde las organizaciones de la sociedad civil deben luchar para cumplir su rol libremente. En muchos países esto se traduce en falta de espacios de incidencia, o espacios meramente testimoniales. Sin embargo, algunos gobiernos de la región han optado por una actitud derechamente hostil hacia las organizaciones de la sociedad civil y su labor. Casos como el asesinato de la líder indígena hondureña Berta Cáceres, las restricciones del derecho de asociación en Venezuela y el intento de disolución de la ONG Fundamedios en Ecuador -que ha desplegado una campaña en internet para dar cuenta del atropello a su accionar- deben servir como un llamado de alerta para el continente. No sólo respecto de la protección de la sociedad civil, sino que del estado real de nuestras democracias en el continente y el rol que internet puede jugar actualmente..

Particularmente, lo propuesto por Consejo de Derechos Humanos, en su resolución sobre la sociedad civil, levanta una voz de alerta en la región para países como Bolivia (que se abstuvo en la votación) y Venezuela (que rechazó la declaración). Resulta imperioso que los estados latinoamericanos desarrollen capacidades, políticas y mecanismos institucionales pertinentes, en vistas de garantizar el adecuado despliegue de la sociedad civil. Lo anterior se torna aún más acuciante al considerar que, como parte de la misma declaración, el Consejo solicita al Alto Comisionado de las Naciones Unidas para los Derechos Humanos la preparación de un informe que recopile información sobre los procedimientos y prácticas relativas a la participación de la sociedad civil en los países miembros. Es de esperar que los resultados de tal indagación sean capaces de otorgar más luces respecto a las debilidades y espacios de mejora existentes en la región.

Finalmente, resulta muy importante destacar la labor del Consejo de Derechos Humanos en lo referente al rol de internet para la promoción y defensa de los derechos fundamentales, especialmente al reconocer el escenario de irrupción y disrupción sobre el uso de internet que ha afectado a estados miembros del organismo.

Mejorar la cooperación internacional también debería ser parte del debate sobre el cifrado

Las evidentes amenazas que hoy rodean al cifrado y que con razón acaparan titulares con la denominada batalla entre Apple y el FBI, han enturbiado otras discusiones. Es el caso de la reciente detención del vicepresidente de Facebook América Latina, el argentino Diego Dzodan. Para muchos este es otro ataque directo al cifrado y una presión inaceptable a Facebook. Lo cierto es que una mirada más calmada a los pocos hechos que se saben del asunto permite ver otras aristas importantes al momento de discutir sobre el cifrado.

Los hechos que se conocen son limitados porque el caso es confidencial. Lo que se sabe hasta ahora es que la justicia brasileña emitió una serie de órdenes judiciales que obligaban a Facebook, empresa dueña de WhatsApp, a entregar el contenido de una conversación en grupo en la aplicación de mensajería, así como otros datos, incluidos los de geolocalización. Esto, en el marco de un delito grave: según la justicia brasileña, serían pruebas que se utilizarán en una investigación sobre el crimen organizado y el tráfico de drogas. Hasta acá, todo conforme a lo que el marco legal permite (y que continuamente ocurre entre la justicia y estas empresas): bajo orden judicial y en la investigación de delitos graves, pedir la entrega de información privada de los usuarios.

Según Facebook, esta vez se excusaron de entregar esos mensajes porque simplemente no tenían la información: al estar las comunicaciones de WhatsApp cifradas de punto a punto, es imposible para la compañía acceder a los contenidos de los mensajes. Finalmente, la justicia brasileña, luego de cuatro meses de insistencia y multas que alcanzaron un millón de reales al día por incumplimiento de las órdenes judiciales, detuvo a Dzodan por una noche y luego fue liberado por un Habeas Corpus: un juez dictaminó que fue detenido indebidamente porque Dzodan no ha sido nombrado personalmente en los procesos judiciales. El proceso sigue bajo estricta confidencialidad.

Lo poco que se sabe bastó para un barullo mundial. Las reacciones fueron particularmente alarmantes en los medios estadounidenses, alentadas de seguro por todos los ataques del gobierno de EE.UU. contra el cifrado. Pero más allá de eso, una lectura general mostraba no solamente al Estado brasileño como “el malo de la película”, sino también se vislumbraba un apoyo no tan solapado y bastante ciego a las empresas de Silicon Valley en su actuar en el extranjero. Venture Beat llegó a decir:

«Aunque Dzodan solo pasó alrededor de 24 horas en la cárcel, su detención demuestra que los gobiernos extranjeros pueden tomar medidas que son mucho más directas –e inmediatas– que las perseguidas por el FBI en su esfuerzo de obligar a Apple a desbloquear un iPhone.» (traducción propia).

Antes de calificar buenos versus malos, hay que comprender que si bien esta discusión se trata sobre cifrado, es imposible entenderla en su fondo sin considerar la dimensión política que lo rodea. De hecho, tomar en cuenta estos factores puede aportar a una agenda política más ambiciosa y propositiva respecto a la necesaria defensa del cifrado.

Sí. Por lo que sabemos ahora, la decisión del juez brasileño es una amenaza al cifrado, en tanto demuestra lo peligroso que es cuando las autoridades no comprendan en profundidad este mecanismo de comunicaciones seguras y, en este caso particular, que sea imposible para Facebook entregar los mensajes requeridos. Pero es una amenaza distinta, mucho menos grave de lo que ocurre hoy en Estados Unidos, donde el tribunal ordenó a Apple crear una nueva versión especial del sistema operativo iOS de Apple para pasar por encima de varias características de seguridad integradas en el sistema operativo de la compañía.

[left]El debate del cifrado ha sido reconocidamente un debate de hombres blancos. Hacerlo más diverso es también considerar los contextos políticos en que se desenvuelve la discusión en ámbitos locales.[/left]

Lo que acaba de ocurrir en Brasil es síntoma de un problema político general entre Silicon Valley y los países en vías de desarrollo. Como dice el interesante reportaje de Motherboard Brasil, a diferencia de lo que ocurre en Estados Unidos, donde hay una mayor cooperación entre las empresas y los servicios de inteligencia e investigación, las autoridades locales de otros países, especialmente en vías de desarrollo, tienen dificultades de base para que las compañías de Silicon Valley cumplan las leyes nacionales. Sin ir más lejos, WhatsApp, que tiene una administración diferente a Facebook, y con 100 millones de usuarios en Brasil, no tiene representación legal en el país. Este “detalle” es, como dice el reportaje, convenientemente omitido en los comunicados de la empresa en la detención de Dzodan.

Sin lugar a dudas, el cifrado está recibiendo certeros ataques por parte de muchas autoridades mundiales. Pero para proteger las comunicaciones seguras y, con eso, la privacidad y la misma integridad de internet, también es necesario plantear una agenda que avance en la cooperación internacional de forma amplia. En el marco de la investigación de crímenes, se debe avanzar en la cooperación internacional de pedido de datos de manera de hacerla más ágil y respetando el debido proceso. Pero también debe existir mejor cooperación de las empresas con los Estados: se debe avanzar decididamente en que las compañías de Silicon Valley comprendan, transparenten y faciliten su responsabilidad legal en los países en vías de desarrollo.

Asimismo, una agenda propositiva en la defensa del cifrado debe considerar cooperar con el entendimiento de nuestras autoridades judiciales sobre los alcances de este mecanismo: la importancia de un cifrado fuerte para los derechos de la población y de la integridad de internet, el porqué es imposible acceder a información fuertemente cifrada y la necesidad de recurrir a otras formas de investigación que no dañen este tipo de comunicaciones seguras.

El debate del cifrado ha sido reconocidamente un debate de hombres blancos, tanto para sus defensores como para sus detractores. Hacerlo más diverso es también considerar los contextos políticos en que se desenvuelve la discusión en ámbitos locales. Es justamente ese análisis el que puede ayudar a avanzar en una agenda política que de forma directa o indirecta proteja y fortalezca el cifrado.

La economía política de internet

Frente a cualquier desarrollo tecnológico es posible preguntar quiénes son los gestores de tal tecnología. Plantear la pregunta por “¿quién es el dueño?” nos entrega luces respecto de porqué una compañía estaría dispuesta a invertir en determinados proyectos. Así es posible comprender, por ejemplo, cuáles son las motivaciones de Facebook por promover el acceso a internet; como hemos visto, detrás de iniciativas como Free Basics no prima necesariamente una preocupación altruista sino, más bien, el interés de Facebook por contar con un mayor número de usuarios de sus servicios. Si no pagas por un producto es altamente probable que el producto seas tú. Esto es plantear la pregunta por la economía política de las redes y dispositivos que usamos cotidianamente: saber quiénes son los propietarios nos permite conocer sus intereses.

La penetración masiva de las nuevas tecnologías en la vida cotidiana ha llevado a algunos a sostener que el acceso a internet puede incluso constituir un derecho humano. El problema que surge de lo anterior tiene que ver con la provisión de tal (eventual) derecho y la economía política tras este. Pensemos, por ejemplo, en la provisión de un bien imperioso para la existencia de la vida: el agua. Diversos han sido los modos en los cuales los estados han respondido a la provisión de tal bien. Desde modelos completamente estatales, hasta escenarios privatizados donde el Estado opera como “garante” de la provisión y el acceso al agua -modelo que bien conocemos en Chile.

Uno de los ámbitos en los cuales este tipo de relaciones puede despertar un mayor número de preguntas se relaciona con el surgimiento de las denominadas “ciudades inteligentes” (o “Smart Cities”). La idea es que mediante el uso de tecnologías de la información en tiempo real sería posible gestionar de mejor manera las complejas interacciones que se dan en las grandes urbes: desde el tráfico hasta la gestión de catástrofes naturales (se puede leer más sobre el particular aquí).

Sin embargo, el que una ciudad pase de ser “tonta” (o, al menos “no-inteligente”) a “inteligente” comporta un inversión que no es menor, sobre todo al considerar que contempla la implementación de una infraestructura considerable. Cabe aquí entonces nuevamente la pregunta: ¿quiénes y respondiendo a qué intereses estarían dispuesto a realizar tal inversión?

Empresas como CISCO Systems y Siemens han sido de las compañías que más en serio se han tomado las “ciudades inteligentes”. A la fecha, CISCO ha desarrollado planes para Holanda, India y Corea, por mencionar ejemplos de contextos diversos. En Latinoamérica, por otro lado, ciudades como Santiago ya han manifestado su intención y planificación en vistas a alcanzar el tan anhelado adjetivo de “inteligente”. ¿Cuáles serán los acuerdos público-privado que regirán este tipo de políticas? ¿Cuál será el rol de la ciudadanía a la hora de tomar parte en tales planes de desarrollo?

Las implicancias de tales cuestiones exceden la mera preocupación por la economía política y se sitúan en planos que afectan directamente nuestros derechos fundamentales. Cuando nos hallamos en la arena de la tecnología, sabemos que debemos enfrentarnos a cuestiones tales como la privacidad y el manejo de datos personales. Sin embargo, en los planes propuestos, las más de las veces estos cuidados siquiera son mencionadas.

Las consideraciones respecto a lo que es visto como público puede fácilmente teñirse de un manto de duda al evaluar el rol que ejercen las compañías privadas. A modo de ejemplo, resulta interesante destacar la implementación de Facebook at Work (FAW) en el Gobierno argentino.

FAW es la aplicación de Facebook para la gestión del trabajo en organizaciones; la compañía sostiene que, dada la familiaridad con el entorno de la plataforma, es una herramienta de fácil adopción para organizaciones de todo orden, incluso administraciones estatales. Es lo que ha decidido el gobierno de Macri en Argentina, constituyendo el primer ejemplo de un país que adopta el servicio para la gestión gubernamental. Aún cuando existen quienes han manifestado sus precauciones en razón de la seguridad del servicio y las implicancias de éste la opción “modernizadora” parece haber tenido mayor valía para el Gobierno argentino. ¿Hasta dónde estarán resguardados los datos de una administración estatal en un servidor privado? ¿Existen las garantías requeridas respecto al manejo de los datos personales de los funcionarios? ¿Qué se hará con la información recabada?

Nunca está demás volver a plantear la pregunta por la economía política, en vistas de comprender qué es lo que impulsa el surgimiento de iniciativas como las “ciudades inteligentes”, Free Basics o, incluso, la plataforma de gestión organizacional de un estado. Responder tal pregunta nos ayuda a comprender estas iniciativas de forma más completa, habilitando a los diversos sectores involucrados y, especialmente, a la ciudadanía a tener elementos de juicio.

Free Basics y las batallas políticas de internet

Mark Zuckerberg, el CEO de Facebook, ha dicho que la misión fundamental de su compañía es conectar a las personas, por lo que no descansará hasta que los 5 mil millones que actualmente no tienen acceso a internet en el mundo, estén conectados a la «red de redes». Para lograrlo, implementó en diversos países en vías desarrollo el proyecto Free Basics (antiguamente conocido como Internet.org) el que, se suponía, debía ser recibido con los brazos abiertos por los habitantes locales.

Actualmente el servicio funciona así: Facebook se asocia con proveedores de internet locales y ofrece una aplicación que las personas pueden bajar en sus celulares -no necesariamente inteligentes- y obtener entonces acceso a ciertos servicios en línea (que incluyen Facebook y WhatsApp, más otros que varían en cada país) sin necesidad de gastar sus planes de datos. Para Zuckerberg, Free Basics es el impulso que necesita la gente pobre para valorar internet y decidirse a gastar parte de su presupuesto mensual en una conexión a toda internet.

No obstante, en la actualidad Zuckerberg enfrenta uno de los momentos más álgidos de su proyecto. Y es que a principios de diciembre del 2015, la Autoridad Reguladora de Telecomunicaciones de India (TRAI), ordenó al proveedor de internet Reliance Communications -socio de Facebook para ofrecer Free Basics- suspender temporalmente el servicio en el país. La razón se debe a una larga polémica sobre si a un operador de telecomunicaciones le debe ser permitido tener precios diferenciados para diferentes tipos de contenido. Mientras aquello se resuelve, no solo se suspendió temporalmente el servicio, sino que la TRAI se abrió a los comentarios de múltiples partes interesadas para su último documento que trata justamente esta materia.

Ahí se desató la batalla.

Por un lado, con una campaña destinada a desacreditar la opinión de activistas opositores, Facebook ha destinado enormes recursos para repletar de publicidad a favor de Free Basics las calles, los medios de comunicación y su propia plataforma. Por su parte, un importante sector de la sociedad civil, la academia y privados se han reunido bajo la coalición Save The Internet para levantar oposición al proyecto emblema de Zuckerberg.

Hasta ahora, parte importante de los argumentos en torno a la discusión sobre Free Basics y, en general, sobre servicios zero-rating tanto en India como en otros países, se concentran en si la neutralidad de la red es un principio real y deseable en internet, y si aquel -en su existencia- podría tener excepciones. Muy relacionado con esto, se discute si la neutralidad de la red es una barrera o una garantía para el acceso a internet y, más específicamente, si es conveniente -económica y políticamente- que sea Facebook y un puñado de empresas las que decidan qué aplicaciones son parte de una internet gratis y cuáles no.

Pero con la discusión en India queda en evidencia que una aproximación meramente técnica no es suficiente si no se consideran las diversas dimensiones de poder que cruzan el debate.

Y es que más allá de la discusión sobre la neutralidad de la red y el acceso, hay incomodidad en cómo Facebook ha llevado a cabo el proyecto Free Basics en los distintos países del tercer mundo: por un lado, con poca o nula participación local; y relacionado con lo anterior, con la receta lista desde el primer mundo de cuál es la internet que el tercer mundo merece, como si hombres blancos y acomodados de Silicon Valley supieran mejor lo que países en vías de desarrollo -nuestros países- necesitan.

Ante la crítica política, Facebook ha reaccionado agresivamente. Para sus defensores, los reclamos solo responden a una suerte de antiamericanismo presente en el país. De hecho, Zuckerberg escribió una editorial en India y calificó como “afirmaciones falsas” los argumentos contrarios a Free Basics, lo que le valió la respuesta, con algo de sorna, de Quartz India que tituló: “Mark Zuckerberg no puede creer que India no esté agradecida de la internet gratuita de Facebook”.

La reacción de Free Basic incluyó una campaña que, entre otros recursos offline, tiene como eje la propia plataforma de Facebook. Como miles de activistas y organizaciones alrededor del mundo que día a día utilizan Facebook para dar a conocer sus campañas de incidencia, esta vez el dueño del servicio decidió también ocuparlo para esos fines. No habría nada de malo en aquello, sino fuera por las acusaciones que denuncian las barreras que la compañía le impone a la campaña contraria, Save The Internet, además de otras acusaciones.

Se trata de preocupantes denuncias sobre la manipulación de la opinión pública local. Con todo, el hecho nuevamente demuestra que la batalla de Free Basics excede el debate sobre la neutralidad de la red y pone luz sobre otra preocupante dimensión política en las discusiones sobre derechos en internet: el poder del algoritmo.

Refiriéndose a este hecho y el poder de las corporaciones tecnológicas, Evgeny Morozov afirma que “podríamos estar presenciando el nacimiento de una nueva, potente y altamente descentralizada aproximación al lobby, donde los ciudadanos se fusionan con los algoritmos para neutralizar cualquier amenaza a[l] culto [de Silicon Valley]” (traducción propia).

Estas denuncias ponen de manifiesto la fragilidad de nuestros derechos cuando el algoritmo es cerrado, sin atisbos de transparencia, y ponen especial advertencia a la fragilidad de la libertad de expresión de miles de personas y organizaciones que usan plataformas privadas como Facebook para hacer activismo.

Pero el asunto se hace especialmente peligroso cuando ese algoritmo -poco transparente y con posibilidades de ser políticamente manipulado- es parte de las pocas plataformas a las que una persona puede acceder a través de servicios zero-rating como Free Basics. Cabe preguntarse entonces si es válido el argumento de que los servicios zero-rating son en cualquier condición habilitadores de derechos como la libertad de expresión de las personas. Se olvida muchas veces que estos se tratan de servicios muy específicos de corporaciones privadas con poder total sobre su código.

La reacción de Facebook ante los atendibles argumentos indios -no solo de activistas, academia y sector privado, sino también del Estado- hacen pensar que esta batalla va mucho más de los argumentos técnicos, sino que tiene claros ribetes de lucha de poder político en un país que representa el segundo mercado después de EE.UU. para la compañía. Se trata de una suerte de neocolonialismo digital que abunda en las discusiones políticas de internet, donde no solamente el norte reclama dominios sin contrapesos al sur, sino que muchas veces son las grandes corporaciones las que dominan la conversación por sobre cualquier soberanía local.

Considerando que Free Basics es una realidad en muchos de nuestros países de América Latina, creer que la discusión solo se trata de neutralidad de la red y acceso puede ser un equívoco: observar con atención lo que ocurre en India nos puede ayudar a entender el verdadero alcance de las discusiones “técnicas” en internet.