Derechos Digitales promovió debates sobre violencia de género facilitada por las tecnologías en la CryptoRave de São Paulo

En el marco de la CryptoRave celebrada en São Paulo, un espacio de referencia en América Latina para el encuentro y debate sobre cultura digital, seguridad y privacidad, Derechos Digitales llevó a cabo la sesión titulada “Deepfakes, género y poder: desafíos técnicos y regulatorios para enfrentar la violencia facilitada por tecnologías”. El encuentro, realizado el sábado 9 de mayo, se propuso abordar de manera urgente la creciente difusión de aplicaciones de manipulación de imágenes y su impacto directo en la profundización de las dinámicas de violencia de género en entornos digitales.

Durante la actividad, se expuso cómo el avance y la popularización de las herramientas de deepfake están reconfigurando las agresiones facilitadas por las tecnologías, afectando de manera desproporcionada a niñas, mujeres y personas LGBTIQA+. Las participantes señalaron que la creación y difusión no consentida de imágenes íntimas desde esas aplicaciones de inteligencia artificial se inserta en un contexto global y regional de aumento de la violencia en línea, intensificación de discursos misóginos y un marcado viraje hacia el conservadurismo, particularmente entre hombres jóvenes. Ante esto, la sesión propuso articular dimensiones técnicas y marcos regulatorios desde un enfoque basado en los derechos humanos y la interseccionalidad.

Un eje fundamental de la jornada fue la presentación, a cargo de nuestra analista en Seguridad y Resiliencia Digital Ximena Cuzcano, de una reciente investigación realizada por la organización peruana Situada. Este estudio analizó 105 aplicaciones de deepfake disponibles en Google Play Store, revelando patrones preocupantes de opacidad y reproducción de estereotipos de género. Entre los hallazgos destacados, se identificó que casi la mitad de las plataformas no informaban quiénes eran sus desarrolladores y que sus interfaces ofrecían categorías diseñadas casi exclusivamente para la sexualización de las mujeres, operando bajo clasificaciones de contenido aptas para todo público y sin mecanismos técnicos en su diseño que prevengan efectivamente abusos.

Frente a las limitaciones de las respuestas actuales, el debate también se apoyó en la guía lanzada por Derechos Digitales en alianza con el Fondo de Población de las Naciones Unidas (UNFPA): Principios orientadores para una reforma legislativa y de políticas públicas frente a la violencia de género facilitada por la tecnología. Este documento proporciona recomendaciones clave para desarrollar o reformar marcos legales frente a la violencia de género facilitada por las tecnologías. Nuestra coordinadora de Políticas Públicas, Marina Meira, moderadora del evento, presentó las ideas principales de esta herramienta.

La sesión contó además con la participación de destacadas especialistas: Bianca Kremer del Instituto Dot; Julia Abad, coordinadora del IDEC; y Clarissa Mendes, asesora en Políticas Públicas del CGI.br. Las expositoras aportaron perspectivas complementarias desde el activismo y la academia, compartiendo sus reflexiones y actuación en casos concretos con enfoques de género y raza. La dinámica del encuentro combinó una primera etapa de exposición con una segunda parte dedicada al intercambio y debate con la audiencia asistente.

La sesión concluyó con un llamado a seguir construyendo reflexiones colectivas y situadas que permitan diseñar respuestas técnicas y políticas efectivas contra la violencia de género facilitada por la tecnología en la región.