Derechos Digitales impulsó debate en São Paulo sobre el uso de IA en la función pública
El pasado 14 de mayo, se llevó a cabo el evento “Integrando direitos humanos ao uso de IA pelo Poder Público” en la ciudad de São Paulo. El encuentro, desarrollado en formato de taller, fue organizado de manera conjunta por la Defensoría Pública de São Paulo, junto a Derechos Digitales, Electronic Frontier Foundation (EFF) y Escola da Defensoría Pública do Estado de São Paulo (EDEPE). La actividad resultó en un espacio estratégico de diálogo y construcción colectiva orientado a garantizar que la innovación tecnológica en el sector público avance en consonancia con la promoción y protección de los derechos fundamentales.
En representación de Derechos Digitales, nuestra codirectora ejecutiva Jamila Venturini aportó la perspectiva regional de la organización, enfatizando los límites éticos que deben regir el uso de la IA en los servicios del Estado. En su presentación, compartió los principales hallazgos de nuestro proyecto “IA & Inclusión en América Latina”, con más de 6 años de trabajo ininterrumpido.
El panel de debate contó también con una destacada convocatoria de especialistas y funcionarias del ámbito judicial y de la sociedad civil. Entre las participantes estuvieron la defensora general Camila Marques; Douglas Schauerhuber (DPESP – CTI); Guilherme Diniz (Corregedoria de la DPESP); Estela Waksberg (Núcleo Especializado de Defensa del Consumidor); Veridiana Alimont (EFF); Surrailly Youssef (Núcleo Especializado de Ciudadanía y Derechos Humanos); y Vinicius Silva (Núcleo Especializado de Promoción de la Igualdad Racial y de Defensa de los Pueblos y Comunidades Tradicionales).
La jornada promovió una profunda reflexión sobre los desafíos, impactos y responsabilidades institucionales en la implementación de nuevas tecnologías para la atención ciudadana. A lo largo del evento, las discusiones se estructuraron en torno a la necesidad de asegurar principios de transparencia, equidad y participación social en todas las etapas del desarrollo tecnológico, abarcando desde la planificación y ejecución hasta el monitoreo de los sistemas basados en IA.
Durante las intervenciones, se analizaron los avances y desafíos de herramientas específicas, como el sistema “Júlia” utilizado en la atención digital de la Defensoría Pública, evaluando su impacto real en el acceso a la justicia y la protección de datos personales de la ciudadanía. Asimismo, se manifestó una profunda preocupación en torno a los riesgos de la discriminación algorítmica y la profundización de las desigualdades sociales preexistentes.
