¿Tenemos que explicarnos ante los algoritmos para ejercer nuestros derechos?

Dime qué contenido consumes «en internet» y te diré quién eres. Esta parece ser la premisa de las plataformas que desarrollan algoritmos tan sofisticados que sirven para identificar, clasificar e incluso intentar predecir comportamientos hasta el punto de sugerir contenido que “puede gustarte”. Sin embargo, ¿qué sucede cuando esa habilidad para leer gustos y preferencias deja de ser utilizada para personalizar una experiencia y se transforma en la manera de determinar qué contenidos se muestran, qué voces son encontradas y qué voces tienen posibilidades de ser escuchadas?

La injerencia de las redes sociales en la vida moderna requiere pensar en las estrategias necesarias para la participación en la vida digital sin el escrutinio constante, la verificación o clasificación injustificada. La conversación no se centra en exigir anonimato absoluto o en negar la necesidad de la identificación en situaciones legítimas. Por el contrario, debe incluir cuestionamientos sobre dónde están los límites, quién los define y qué pasa con quienes deciden no participar de estos sistemas o no pueden hacerlo.

En una sociedad, cada vez más mediada por plataformas digitales, la calidad e importancia de las  intervenciones en la discusión pública digital se miden por las veces que se comparte una publicación, las reacciones y la cantidad de comentarios . Esto, puede perjudicar al contenido que no tiene grandes objetivos comerciales, sino que por el contrario, busca llegar a un pequeño grupo e incidir en procesos de construcción colectiva. A esto se suma que un sistema informático termina definiendo qué contenido mostrar a partir de un perfil construido en base arasgos personales, características e incluso inferencias y sin que exista necesariamente un medio de apelación si las personas no se sienten realmente identificadas con la “categoría” a la que fueron asignadas.

¿Existe una participación justa en las redes sociales?

Tener una cuenta activa en una red social no es sinónimo de participación en igualdad de condiciones. Al igual que en el mundo físico, las desigualdades inciden en quién tiene «mayor alcance» y quién no. Publicar no significa tener visibilidad. El contenido de una cuenta puede cumplir con calidad, buena elección de tipografía e incluso abordar un tema de interés público y, sin embargo, quedar relegada por la decisión de un sistema de recomendaciones que encuentra de poco valor ese contenido para agregarlo al «feed».

Ahora bien, hay que considerar la competencia “justa” entre grandes empresas de IA generativa, que gastaron más de 1.000 millones de dólares en publicidad durante el 2025 y que cuentan con la participación de «influencers», frente a una organización social que tiene como finalidad la difusión de una denuncia medioambiental, una campaña sobre violencia de género o información sobre un conflicto que afecta a una determinada comunidad. Su participación en una plataforma dependerá de algo más que su capacidad para producir y publicar contenidos.

Sumado a esto aparece un nuevo fenómeno, el «slop content» o « IA slop» que se refiere al contenido generado masivamente con inteligencia artificial generativa de baja o poca calidad y que abunda en plataformas digitales. Ante la proliferación de este contenido, plataformas como Instagram han anunciado medidas para facilitar su identificación. Sin embargo, queda abierta la pregunta sobre cómo su circulación afecta la visibilidad de otros contenidos. Al fenómeno se suma LinkedIn, una de las plataformas más saturadas con este tipo de contenido, que concentra un 62% de todo el contenido generado con IA. Esto ocurre especialmente en los textos largos, ya que se identificó el uso de la IA en el 40% de las publicaciones extensas.

¿Qué dicen los antecedentes?

La experiencia latinoamericana permite saber que estas preocupaciones no son únicamente hipotéticas. Las plataformas digitales ejercen procesos de silenciamiento automático, moderación sesgada y estrategias de censura. Estas prácticas difícultan que las comunidades mantengan visibles sus sus voces y demandas, y muestran que la participación en internet va más allá de la posibilidad de acceder a una plataforma.

Tanto para las comunidades como para las personas, participar en medios digitales requiere ser legible para los sistemas. Es decir, que los algoritmos puedan comprender comportamientos para establecer perfiles y determinar a qué contenido prestará más atención, qué publicación supone más valor e incluso, qué prefiere ver. A nivel individual, esto también es preocupante. Bajo la premisa de una mayor personalización, surge el «profiling» o perfilamiento como una promesa de mejorar la distribución de contenido en respuesta a intereses de diferentes grupos de personas. Entre los riesgos más conocidos están la discriminación y los sesgos, pero ¿cómo apelar ante los algoritmos frente a un perfilamiento defectuoso?

Según la ley general de protección de datos personales de la Unión Europea establece mecanismos de transparencia en cuanto a qué datos se usan, indicando en su artículo 13  la información que debe ser compartida por el responsable del tratamiento con la persona cuyos datos se recopilan.  Por su parte, el artículo 21 establece el derecho de oposición, incluyendo el derecho a oponerse en cualquier momento a la elaboración de perfiles y, de forma particular, cuando estos tienen por objeto la mercadotecnia. Resulta igual de importante el artículo 15, dónde se menciona el derecho a conocer la lógica aplicada a procesos de decisiones automáticas, cuando corresponda. Sumado a esto, se encuentra el derecho a no ser objeto de determinadas decisiones automatizadas, incluida la elaboración de perfiles, en los términos establecidos en el artículo 22.

Aunque existe un amparo legal, las plataformas no tienen métodos simples para que cualquier persona pueda expresar su deseo de no recibir más contenido de determinado tipo. El método conocido e incluso recomendado es marcar publicación por publicación como “Me gusta” o “No me interesa”, volviendo el proceso cansado e incluso complicado. Otras opciones incluyen eliminar el historial de búsquedas dentro de las aplicaciones o borrar el caché de la app. La promesa de permitirte elegir qué ver se expresa en funciones como las de Meta, que en su centro de cuentas tiene una sección de Preferencias de anuncios, sin que termine siendo un método de fácil acceso para todas las personas que interactúan con la plataforma.

Entonces ¿cómo debería funcionar?

Nos preguntamos, ¿qué tan fiel es un perfilado digital a la realidad de una persona? Conviene hablar de privacidad, identidad y participación como conceptos independientes que convergen alrededor de las representaciones digitales y su impacto en la construcción de la identidad en línea. Pensar en privacidad importa por los datos que son recolectados, pero también por las inferencias que construyen a partir de esos datos, afectando la identidad de una persona hasta quedar reducida a una categoría que no da cuenta de su realidad y, peor aún, limitando su participación a categorías que determinan  qué información recibe, qué contenidos puede difundir y qué oportunidades tiene de ser escuchada.

El problema se profundiza ya que las plataformas digitales canalizan grandes campañas de comunicación que tienen incidencia pública, incluidas las campañas electorales de muchos países de la región. Tal es el caso de Brasil que pone en el centro de la conversación a Lula da Silva y Meta. La gigante tecnológica fue acusada de favoritismo hacia Flávio Bolsonaro y acciones de censura contra Lula que suman restringir el alcance de perfiles de Instagram, errores al buscar grupos en WhatsApp de militantes de da Silva, hasta respuestas negativas de su herramienta de inteligencia artificial para crear carteles promocionales. Meta respondió negando haber tomado partido y expresando que los fallos detectados son “incidentes técnicos”.

Una sociedad digital que protege los derechos humanos no debe requerir que cada persona sea completamente legible para sus sistemas ni limitar la participación a aquello que un algoritmo es capaz de medir. Se vuelve imperante la necesidad de garantizar que la identificación y el uso de datos pueda hacerse con fines legítimos, que las decisiones sobre contenidos sean transparentes, se puedan cuestionar y que las personas tengan la posibilidad de expresarse y acceder a información sin quedar sometidas a restricciones injustificadas..

El derecho a la privacidad no se justifica solo por la posibilidad de decidir qué se comparte. Esto exige que se cuestione quién puede interpretar o ver lo que determinada comunidad comparte, a qué conclusiones puede llegar y qué poder tiene para decidir sobre quién eres, sin comprometer el derecho a participar en internet. La participación digital no puede reducirse a tener una cuenta en una red social. Deben existir garantías para ejercer la libertad de expresión, acceder a la información y participar en la discusión publica, sin que nuestros derechos dependan de cómo nos clasifican los algoritmos.