Confianza digital y derechos humanos: expertas debatieron sobre los desafíos regulatorios frente a la expansión de deepfakes
En un contexto global marcado por el avance acelerado de la inteligencia artificial, la integridad del ecosistema informativo enfrenta desafíos sin precedentes. Entre ellos, se destaca la proliferación de contenidos engañosos y violentos como las deepfakes que, lejos de seruna preocupación técnica, representan una amenaza directa a la democracia, la libertad de expresión y la privacidad de las personas. Ante este panorama, el jueves 19 de febrero se llevó a cabo la jornada virtual “Confianza digital en tiempos de deepfakes”, un espacio multisectorial que reunió a voces referentes de la sociedad civil, la academia y la comunidad técnica para analizar el impacto de esta tecnología en América Latina.
La actividad fue convocada por Impacto Digital. Con la participación de Lucía Camacho, coordinadora de Políticas Públicas de nuestra organización, Derechos Digitales estuvo presente en el panel. Entre las expositoras, también hubo representantes de las organizaciones Access Now, Witness, Chequeado, Content Authenticity Initiative y California Initiative for Technology and Democracy.
Durante el encuentro, se destacó que la problemática no solo reside en la desinformación, sino también en las nuevas y graves formas de violencia que emergen en el entorno digital. En este sentido, la autora del informe “Violencia de género potenciada con IA”, Gisela Grunin, presentó el material que documenta cómo estas herramientas están siendo utilizadas para vulnerar la integridad de mujeres e infancias en la región.
Uno de los ejes centrales del debate fue la tensión entre la regulación y las libertades fundamentales. Las panelistas coincidieron en que los marcos normativos actuales presentan vacíos legales significativos frente a los daños reales provocados por la IA. No obstante, se subrayó la importancia de diseñar leyes que sancionen los usos maliciosos -especialmente en casos de creación de imágenes sin consentimiento- sin que esto derive en mecanismos de censura o restricciones desproporcionadas a la libertad de expresión, un equilibrio crítico para la salud democrática de nuestras sociedades.
Además de la dimensión legal, la jornada exploró la importancia de la infraestructura técnica para reconstruir la confianza ciudadana. Se discutieron estándares de procedencia y trazabilidad de contenidos, así como soluciones abiertas de identificación de imágenes falsas como RealPix. Algunas panelistas aportaron su visión sobre cómo la tecnología puede ser también una herramienta de defensa, permitiendo a las personas usuarias verificar el origen de lo que ven y consumen cotidianamente en internet.
Finalmente, el encuentro concluyó con un llamado a la acción multisectorial y transfronteriza para establecer estándares éticos y técnicos sólidos.
Para ver la conversación grabada completa, haz click aquí.
