Tipo de contenido (Recurso): Columnas

La discusión en torno a las diferentes formas que puede adoptar el discurso nocivo en línea parece no tener fin: contenido falso, casos de acoso, doxxing, amenazas y ataques causados por racismo, misoginia, transfobia, homofobia y otros tipos de contenido dañino parecen haberse apoderado de internet, en especial de las plataformas de redes sociales.

Sin embargo, las conductas comprendidas dentro del concepto de discurso nocivo pueden ser elusivas y difíciles de definir, dado el delgado límite que demarca los tipos de discurso protegidos por la libertad de expresión y los estrictos parámetros que deben cumplirse para restringir este derecho.

En el centro de la discusión se encuentra el rol de las plataformas, espacios que en su inicio fueron vistos por los más idealistas como herramientas de un inmenso potencial para la masificación del acceso a la información, a la expresión y a la cultura, pero que hoy parecen verse constantemente bajo la acusación de servir de herramientas para causar daño a otras personas e, incluso, de capitalizar el discurso nocivo para ampliar su atractivo como servicio. No es un error, sino una característica: compañías como Facebook, que sustentan su modelo de negocio en la venta de publicidad, se han visto claramente beneficiadas por su implementación de estándares muy diferentes para el contenido publicado por la comunidad y el contenido proporcionado por sus anunciantes.

Compañías como Twitter, Instagram y Facebook administran espacios en los cuales, de manera simultánea, se permiten actos cotidianos de acoso, agresión y doxxing, mientras se censuran contenidos cuyo carácter dañino es altamente cuestionable: Facebook tiene un largo historial de censura de imágenes de mujeres amamantando, mujeres con sobrepeso o imágenes relacionadas con la menstruación. El modelo autorregulatorio parece resultar insuficiente al encontrarnos frente a compañías que responden a intereses económicos; tal como recientemente reportara Forbes, Twitter ignoró durante la mayor parte de su historia el contenido nocivo; solo sus intentos de vender –y el rechazo de varios potenciales compradores, al menos en parte debido al rol de la plataforma como espacio para el discurso de odio- desencadenaron los recientes de invertir fuertemente en medidas para limitar comportamientos abusivos.

Si bien es cierto que, como propietarios y administradores de espacios donde se desarrolla el discurso público, estas compañías tienen responsabilidad en el control de los actos que se cometen en sus plataformas, la capacidad de los intermediarios de internet para limitar el flujo del contenido debe estar sometida a parámetros sumamente estrictos y limitados, puesto que de lo contrario podríamos promover la privatización de la censura.

Frente a este problema, hay quien argumenta que la autorregulación ha funcionado bien por largo tiempo para los medios de comunicación tradicionales. Pero las plataformas en línea no son medios de comunicación tradicionales. Aunque desde un punto de vista estrictamente técnico la plataforma es “neutral”, en la práctica está regulada por algoritmos, políticas de contenido y empleados que toman decisiones con respecto al contenido “permitido”, no bajo lógicas periodísticas, sino lógicas de mercado. Como consecuencia, una determinada plataforma podrá considerar válido contenido que otra prohibirá, de acuerdo con lo que una comunidad considere permisible; lo que una comunidad como 4chan considera aceptable puede ser muy diferente de lo que se considera aceptable en Instagram, y estas plataformas no obedecen parámetros de derechos humanos, sino de masa crítica: lo que importa, en realidad, es optimizar el número de usuarios activos en el servicio, porque ese es el producto que se vende a los anunciantes.

Esto es una constatación del rol que juega la realidad económica frente a la libertad de expresión: tal como hemos visto, la única forma real de influir en cambios sobre los parámetros de contenido considerado aceptable en una plataforma determinada es lograr que un número crítico de usuarios se retire del servicio o conseguir que los anunciantes dejen de contratar publicidad. Fuera de esto, solo queda una última influencia: la posibilidad de los gobiernos de ejercer presión sobre las compañías.

A efectos prácticos, esto genera un ecosistema donde los parámetros del contenido aceptable están sujetos a cambios constantes, lo que por un lado imposibilita a los usuarios estar seguros de que están pisando firme al publicar determinado contenido (generando así un efecto de enfriamiento de la libertad de expresión) y por el otro, lleva a las compañías a restringir mucho más o mucho menos contenido del que sería exigible por ley.

Por último, si bien medidas como la remoción de usuarios falsos podría incrementar la confianza y la seguridad en una comunidad en línea, lo cierto es que las compañías no tienen incentivos económicos para hacerlo. Por el contrario, la meta es obtener más y nuevos usuarios. Al mismo tiempo, la toma de decisiones por la “conciencia colectiva”, como el reporte en masa que llevó al cierre de la cuenta de Al Jazeera en Twitter, a menudo no obedece a la existencia real de contenido nocivo, sino a los influjos de la ciertos sectores de la opinión pública.

Para más inri, en aquellos lugares donde los usuarios no poseen un peso crítico en términos comerciales, las comunidades no cuentan con la fuerza para lograr que sus protestas sean escuchadas: así, Maiol Sanaüja, independentista en oposición al gobierno de Cataluña, vio cerrada su cuenta de Twitter en marzo de este año, sin que ninguna protesta fuera capaz de recuperarla, viéndose forzado a abrir una nueva cuenta.

En última instancia, la mayor parte del acercamiento de las plataformas al contenido abusivo consiste en darlo de baja, una medida que no logra persuadir a las personas de dejar de “pensar, hablar y publicar” contenido dañino, sino que convierte la administración de estas plataformas en un ejercicio de cacería constante. Por un lado, las herramientas existentes para reportar abusos ponen un peso desproporcionado en la víctima, al punto de forzarla con frecuencia a abandonar la plataforma, lo que suele ser el objetivo principal de los atacantes. Por el otro, la búsqueda de herramientas de censura automática y algorítmica tienden a ser desproporcionales.

Cada vez más los estados están presionando a las plataformas de internet a borrar contenido, lo que inevitablemente llevará a la utilización de sistemas automatizados y al exceso de celo por parte de las plataformas que terminará en la restricción de mucho más contenido del que ordenaría, por ejemplo, una autoridad judicial. Para evitar daños irremediables al ecosistema de internet, necesitamos encontrar el balance entre el importante rol de permitir y preservar el discurso incómodo e impopular, y la preservación de espacios seguros para que los usuarios puedan expresarse libremente.

Sin embargo, a lo largo de las épocas, encontrar el balance entre la protección a la libertad de expresión y la demarcación de los límites del discurso que no se encuentra protegido por los derechos humanos ha sido delicado y riesgoso.

Recientemente, Alemania promulgó un decreto según el cual las compañías que administran redes sociales podrían enfrentar multas de hasta 50 millones de dólares si fallan en remover de sus plataformas los contenidos considerados como discurso de odio, y el Parlamento Europeo aprobó un plan que, de convertirse en ley, obligaría a las empresas a tomar medidas con respecto a este tipo de contenidos.

Esta tendencia no se limita únicamente a Europa: en Latinoamérica, el gobierno venezolano discute una ley que sancionaría a quienes publiquen contenidos catalogados como discurso de odio hasta con quince años de prisión, y permitiría al Estado bloquear las páginas web que considere incursas en este tipo de ilícito. En Ecuador, el ex-presidente Rafael Correa presentó a principios de este año un proyecto, y hace apenas unos días, el gobierno chileno presentó un proyecto de ley contra la incitación al odio; ambos textos contemplan sanciones de tipo penal.

La libertad de expresión tiene como norte la creación de condiciones para la existencia de una sociedad democrática y plural, y en este sentido, la Corte Interamericana ha señalado que el concepto de orden público requiere garantías a la circulación de la mayor cantidad posible de noticias, opiniones e ideas. Tanto el Pacto Internacional de Derechos Civiles y Políticos como la Convención Americana contemplan la necesidad de restricciones y establecen como límite, el primero, la apología al odio nacional, racial o religioso, y la segunda, el respeto a los derechos o a la reputación de los demás, o  la protección de la seguridad nacional, el orden público o la salud o la moral públicas. Sin embargo, en las Américas no existe un instrumento regional vinculante que regule de manera específica la prohibición de la discriminación por razones de origen nacional, racial o religioso. En este sentido, los parámetros con los que contamos para delimitar lo que puede considerarse discurso de odio surgen en referencia a la jurisprudencia de la Corte Interamericana y de otros órganos con mayor desarrollo en el tema, como la Corte Europea o la Organización de Naciones Unidas.

Así, la Declaración Conjunta del Relator Especial para la Libertad de Expresión de la Comisión Interamericana de Derechos Humanos de la Organización de los Estados Americanos, el Relator Especial de las Naciones Unidas sobre la Libertad de Opinión y Expresión, y el Representante sobre la Libertad de los Medios de la Organización para la Seguridad y la Cooperación en Europa (OSCE), se señaló que las expresiones que incitan al “racismo, la discriminación, la xenofobia y la intolerancia” son dañinas, y que si bien es necesario establecer medidas que rijan estas expresiones, dichas medidas pueden interferir con la libertad de expresión y por ende deben someterse a un conjunto de estándares mínimos de legalidad, legitimidad y necesidad. En este sentido, la Declaración Conjunta estableció que la normativa que regule el discurso de odio debe cumplir los siguientes parámetros mínimos:

• Nadie debe ser penado por decir la verdad;
• Nadie  debe  ser  penado  por  divulgar  expresiones  de  odio  a  menos  que se  demuestre  que  las   divulga con la intención de incitar a la discriminación, la hostilidad o la violencia;

• Debe  respetarse  el  derecho  de  los  periodistas  a  decidir  sobre  la  mejor  forma  de  transmitir  información  y  comunicar  ideas  al  público,  en  particular  cuando  informan  sobre  racismo  e  intolerancia

• Nadie debe ser sometido a censura previa, y
• Toda imposición de sanciones por la justicia debe estar en estricta conformidad con el principio de la proporcionalidad

Asimismo, la Corte Europea, en interpretación del artículo 10 de la Convención Europea, ha señalado que una restricción a la libertad de expresión, para estar justificada, debe ser “necesaria en una sociedad democrática” y perseguir “un objetivo legítimo”. Siguiendo este criterio, la Corte ha sostenido, por ejemplo, el derecho de un abogado turco al publicar panfletos que  exhortaban  a  los  “patriotas  demócratas  kurdos  y  turcos  a  que asumieran  sus  responsabilidades”, expresiones por las cuales el Tribunal de Seguridad Nacional turco lo condenó por incitación al odio. A pesar de que la interferencia estaba preestablecida en la ley, la Corte consideró que la condición de necesidad en una sociedad democrática no amparaba solo a las ideas que resultaran inofensivas, sino también a aquéllas que ofenden, perturban o distorsionan, por cuanto estas ideas son especialmente necesarias en una sociedad democrática.

Así, por ejemplo, la Corte Interamericana ha señalado que hay ciertos tipos de discurso que, lejos de estar exceptuados de protección, se encuentran especialmente protegidos por el amparo de la libertad de expresión, entre los cuales se encuentra el discurso político y sobre asuntos de interés público, el discurso sobre funcionarios públicos o candidatos a cargos públicos, y los discursos que configuran elementos centrales de la identidad y la dignidad personales. Esto trae como consecuencia, por ejemplo, que de acuerdo con los parámetros interamericanos, nunca debe protegerse la reputación de un funcionario público a través de sanciones penales, sino solo civiles, y en general las leyes denominadas “de desacato” son consideradas atentatorias a la libertad de expresión.

Cabe, pues, indicar que resulta peligroso el desarrollo de leyes que vinculen de manera inextricable una plataforma o conjunto de plataformas con la expresión de discurso de odio. Tal parece que se ha vuelto popular sostener la opinión de que las redes sociales son “espacios para el odio”, cuando éstas no son más que canales para la comunicación de ideas, como en tiempos anteriores lo han sido el teléfono, la prensa y el telégrafo. Las posibilidades de masificación del acceso a canales para la expresión del discurso no tienen ningún peso o influencia que afecte los parámetros para la protección de la libertad de expresión; los estándares siguen siendo los mismos independientemente del canal utilizado para la transmisión o difusión del discurso.

Por otra parte, responsabilizar a los intermediarios respecto a la remoción o -más grave aún- censura previa del contenido considerado como discurso de odio constituye un riesgo inadmisible por diversas razones, la primera de las cuales es que los intermediarios no pueden ser forzados a evaluar sustantivamente la legalidad del contenido de terceros, dado que esta responsabilidad corresponde única y exclusivamente a una autoridad de carácter judicial. Al convertir al intermediario en mediador del contenido, cada plataforma tiene sus propios estándares para lo que considera permisible, lo que en la práctica constituye tercerizar la administración de justicia a empresas que poseen y obedecen a sus propios intereses.

Por último, es importante entender que las posibles soluciones que un Estado puede plantear al problema del discurso de odio no son necesariamente -o no solo- de carácter punitivo. El odio como fenómeno social no es algo que sucede en el vacío, sino en el contexto de una sociedad y una historia con ciertas características, y en consecuencia, no es razonable pretender que la simple promulgación de una serie de prohibiciones corregirá la existencia del fenómeno, ni que censurarlo evitará otra clase de consecuencias. Así, la educación en derechos humanos y la educación para el respeto de la diversidad, la existencia de procesos y espacios para la justicia y la reconciliación, junto a la creación de sistemas que permitan la supervisión y la respuesta necesaria a las minorías vulnerables, son medidas indispensables que frecuentemente son olvidadas en el abordaje de este complejo problema.