Inteligencia artificial y procesos electorales: desafíos y propuestas desde América Latina
Derechos Digitales participó activamente en el lanzamiento del informe “Inteligencia artificial y elecciones: usos e impactos en la libertad de expresión y el derecho a la información en América Latina”, elaborado por la Alianza Regional por la Libre Expresión e Información y ARTIGO 19. Durante el evento de presentación del pasado 23 de abril, que contó con la asistencia de más de 50 personas en línea, Jamila Venturini, codirectora ejecutiva de la organización, analizó cómo la implementación de sistemas automatizados está moldeando el ecosistema informativo y la integridad democrática en la región.
La actividad habilitó un espacio enriquecedor de intercambio regional para discutir estos desafíos entre autoridades electorales, organizaciones de la sociedad civil, especialistas en tecnología y periodistas de Brasil, Colombia y Argentina, entre otros países.
En su intervención, Venturini advirtió sobre la creciente tendencia de los Estados latinoamericanos a adoptar sistemas de IA en la administración pública y electoral. Esta práctica suele estar acompañada de una “sed de datos” que, ante la falta de controles efectivos y supervisión, facilita la transferencia de información sensible a terceros. La integración de estas bases de datos en contextos de fragilidad democrática abre brechas para filtraciones que luego son utilizadas en estrategias de microsegmentación y desinformación dirigidas a los votantes.
Nuestra codirectora ejecutiva explicó que la disponibilidad creciente de herramientas de IA generativa permite escalar la producción de desinformación pero no reemplaza la acción humana que es clave en la definición de estrategias y mensajes, así como en la distribución que depende de plataformas tradicionales de redes sociales. En este esquema, el rol de los algoritmos de las plataformas y de actores como influencers resulta determinante para la amplificación artificial de mensajes de manera opaca.
Uno de los puntos más alarmantes de nuestra presentación fue el impacto diferenciado de estas tecnologías sobre grupos en situación de vulnerabilidad. Venturini señaló que la facilidad de acceso a herramientas para crear contenidos de carácter sexual (deepfakes) se utiliza sistemáticamente para estigmatizar y deslegitimar a candidatas mujeres y personas LGBTIQA+. Citando estudios globales, como State of Deepfakes 2023, se recordó que el 98% del contenido deepfake en línea tiene fines sexuales, una industria que se ve legitimada por la disponibilidad de estas aplicaciones en tiendas oficiales como Google Play.
Frente a este panorama, Derechos Digitales subrayó la necesidad de alejarse de respuestas simplistas y avanzar hacia reformas estructurales. Entre las propuestas planteadas se encuentra el fortalecimiento de las leyes de protección de datos durante períodos electorales y el seguimiento de los flujos de financiamiento (conocido como follow the money) para desmantelar las redes de distribución de desinformación y los intereses comerciales que las sustentan.
Asimismo, se enfatizó en la importancia de implementar reformas normativas con perspectiva de género e interseccional en los códigos electorales para abordar la violencia política facilitada por la tecnología. Venturini recalcó que es fundamental que cualquier marco de gobernanza de la IA sea el resultado de procesos participativos que incluyan a la sociedad civil y la academia, garantizando que el desarrollo tecnológico no comprometa los derechos fundamentales.
Finalmente, se reafirmó el compromiso de seguir impulsando políticas que potencien la pluralidad de contenidos. Esto incluye la protección del periodismo independiente y la seguridad de las y los defensores de derechos humanos, quienes desempeñan un papel crucial en la difusión de información confiable en una región donde el debate informado constituye la primera línea de defensa de la democracia.
El informe completo puede descargarse acá.
