Este informe analiza la evolución de la ciberseguridad en Chile, destacando leyes como la de Delitos Informáticos y la Política Nacional de Ciberseguridad 2023-2028. Se enfoca en la protección de datos, derechos humanos e inclusión, y aborda los desafíos de coordinación y actualización normativa.
Tipo de contenido (Recurso): Investigaciones
Participación estratégica en la UIT-T: sumando voces desde América Latina
Este informe centraliza datos sobre la UIT, destacando el sector UIT-T para organizaciones civiles en América Latina. Expone agendas, espacios de participación y estrategias para establecer estándares técnicos con enfoque en derechos humanos y participación significativa de la sociedad civil.
En la mira: seguridad y principales amenazas digitales en América Latina
El informe “En la Mira” fue liderado por Derechos Digitales y desarrollado por el Observatorio Latinoamericano de Amenazas Digitales (OLAD). Estas 14 organizaciones atendieron 411 casos en América Latina sobre ciberataques, violencia de género digital, censura, espionaje y vigilancia masiva que son analizados en el reporte.
Latin America in a Glimpse: Reflexiones para una IA comunitaria y feminista
Un informe de Derechos Digitales que explora cómo la IA puede adaptarse a las necesidades y contextos culturales de América Latina, en lugar de imponer modelos extractivistas y coloniales. A través de conversaciones con investigadoras, tecnólogas y activistas de distintos países de la región, analizamos enfoques críticos y metodologías que responden a tres temas: educación, territorio y género.
Aprendizajes de la gobernanza de Internet para la gobernanza de la IA: Un enfoque de participación significativa desde América Latina
Este informe, realizado por Derechos Digitales, analiza cómo las lecciones aprendidas en espacios de gobernanza de internet —como la Cumbre Mundial de la Sociedad de la Información (CMSI) y NETmundial— pueden aplicarse para fortalecer la gobernanza de la inteligencia artificial (IA) desde una perspectiva latinoamericana. El estudio identifica buenas prácticas para garantizar una participación significativa, entendida como un proceso inclusivo y sustantivo que va más allá de la mera presencia física o virtual, e incorpora la voz de actores históricamente subrepresentados, especialmente la sociedad civil. Entre estas prácticas destacan: consultas abiertas en varios idiomas, acceso efectivo y equitativo a los foros, representación diversa, promoción de la equidad de género e interseccionalidad, adaptación constante de agendas y creación de espacios regionales con conexión a los debates globales.
El informe también identifica obstáculos que persisten en los actuales espacios de gobernanza de la IA, como la falta de claridad en los mecanismos de inclusión, oportunidades limitadas para incidir en las agendas, ausencia de apoyos financieros para la participación presencial y criterios poco transparentes para integrar a la sociedad civil en grupos de trabajo. Ante esto, propone recomendaciones a Estados y actores facilitadores, incluyendo: mayor transparencia operativa; eliminación de barreras materiales, financieras y lingüísticas; fortalecimiento de la participación multisectorial; enfoques centrados en derechos humanos; y procesos de consulta diversos y accesibles. El documento enfatiza que lograr una participación significativa requiere voluntad política y un compromiso sostenido para que las decisiones sobre IA reflejen el interés público y protejan los derechos fundamentales.
Inteligencia artificial, derechos humanos y justicia social: Construyendo futuros desde América Latina
Este informe, realizado por Derechos Digitales, con el apoyo del International Development Research Centre (IDRC), recoge los resultados de un encuentro regional celebrado en Río de Janeiro entre representantes de la sociedad civil, academia y organismos internacionales, para debatir sobre el desarrollo, gobernanza y regulación de la inteligencia artificial (IA) desde una perspectiva de derechos humanos y justicia social. A partir de los hallazgos del Global Index on Responsible AI (GIRAI) y de diversas experiencias latinoamericanas, el documento identifica los principales desafíos que plantea la IA, incluyendo la vigilancia masiva, la desinformación, la falta de transparencia, la reproducción de desigualdades y la ausencia de marcos regulatorios inclusivos. También examina los riesgos socioambientales y laborales vinculados a la infraestructura tecnológica necesaria para su funcionamiento.
El informe propone estrategias y oportunidades para que América Latina construya alternativas no hegemónicas y socialmente transformadoras, priorizando la diversidad, la cooperación internacional, la producción de conocimiento local y la inclusión de comunidades marginadas en los debates. Plantea la necesidad de marcos regulatorios con enfoque de derechos, estándares regionales comunes y metodologías de evaluación adaptadas a los contextos locales. Asimismo, subraya el papel clave de la sociedad civil y la academia para incidir en foros internacionales, fiscalizar el cumplimiento de compromisos y promover tecnologías que respondan a las necesidades sociales desde perspectivas feministas, interseccionales y decoloniales, buscando que la IA contribuya al bien común y no profundice las desigualdades existentes.
Inteligencia Artificial en el Estado: Estudio colectivo sobre experiencias y riesgos para los derechos humanos
Este informe, realizado por Derechos Digitales, con el apoyo del International Development Research Centre (IDRC), analiza diez casos de uso de inteligencia artificial y sistemas automatizados por parte de gobiernos en América Latina en áreas como empleo, protección social, seguridad pública, justicia, educación y gestión de trámites. A partir de una metodología común, el estudio examina el contexto nacional, regulatorio, técnico y operativo de cada caso, identificando riesgos para derechos fundamentales como la privacidad, la no discriminación, el acceso a la información y el debido proceso. Se observan problemáticas transversales como la baja calidad e interoperabilidad de datos, la opacidad en la toma de decisiones y la dependencia de proveedores privados, así como impactos diferenciados en grupos en situación de vulnerabilidad.
Si bien estos sistemas se presentan como innovaciones para optimizar políticas públicas, el informe advierte que su implementación suele carecer de evaluaciones previas de impacto en derechos humanos, mecanismos de rendición de cuentas y salvaguardas efectivas frente a sesgos y errores. La investigación subraya la necesidad de marcos normativos claros, prácticas de transparencia proactiva y estándares éticos vinculantes para que el uso de IA en el sector público sea compatible con las obligaciones estatales en materia de derechos humanos, evitando reproducir desigualdades o vulnerar garantías fundamentales.
Fiscal Watson: Estudio sobre el uso de inteligencia artificial en la fiscalía general de la nación en Colombia
Fiscal Watson: Estudio sobre el uso de inteligencia artificial en la fiscalía general de la nación en Colombia. Este informe, realizado por Fundación Karisma, bajo la dirección de Derechos Digitales y con el apoyo del International Development Research Centre (IDRC), analiza la implementación de “Fiscal Watson”, una herramienta basada en IBM Watson Explorer y Watson Discovery adquirida por la Fiscalía General de la Nación desde 2017 para asociar casos en el Sistema Penal Oral Acusatorio (SPOA). El estudio examina su funcionamiento, el marco regulatorio y las implicaciones para derechos como el debido proceso, la privacidad y la protección de datos, en un contexto de escasa regulación sobre inteligencia artificial en el sector judicial.
Aunque la Fiscalía presenta a Fiscal Watson como una innovación para agilizar investigaciones, el informe evidencia la falta de análisis de impacto en derechos, transparencia sobre su uso y claridad respecto al manejo y almacenamiento de datos, especialmente ante posibles alojamientos en infraestructura de terceros como IBM. También advierte sobre la calidad de los datos que alimentan el sistema, la dependencia tecnológica respecto a un proveedor privado y los riesgos para la soberanía de datos judiciales. El documento plantea la necesidad urgente de estándares claros de evaluación de riesgos, principios éticos, transparencia y mecanismos de monitoreo para que el uso de IA en la justicia sea compatible con las obligaciones estatales de garantizar derechos fundamentales.
SATPE: Análisis del sistema predictivo para la prevención del abandono escolar del estado de guanajuato, México
SATPE: Análisis del sistema predictivo para la prevención del abandono escolar del estado de Guanajuato, México.
Este informe, realizado por Paola Ricaurte y Jacobo Nájera, bajo la dirección de Derechos Digitales y con el apoyo del International Development Research Centre (IDRC), analiza la implementación del Sistema de Actuación Temprana para la Permanencia Escolar (SATPE) en Guanajuato, un modelo predictivo basado en datos educativos que busca identificar y prevenir el riesgo de abandono escolar en estudiantes de secundaria. A través de revisión documental, solicitudes de transparencia y entrevistas a actores clave, el estudio examina el contexto institucional, regulatorio, tecnológico y social en el que se despliega esta herramienta.
Aunque el SATPE es valorado por fortalecer la conciencia sobre el abandono escolar y ofrecer evidencia para la toma de decisiones, el informe advierte que su efectividad depende de insertarlo en una estrategia educativa más amplia que atienda las causas estructurales del problema. Persisten desafíos en la calidad e interoperabilidad de los datos, la transparencia en su uso, la rendición de cuentas y la mitigación de sesgos, así como en la articulación entre actores públicos, privados e internacionales. El documento ofrece recomendaciones para garantizar que políticas basadas en datos respeten los derechos humanos y respondan a los contextos complejos de México y América Latina.
Boti: Estudio sobre el chatbot con procesamiento del lenguaje natural del Gobierno de la Ciudad de Buenos Aires, Argentina
Boti: Estudio sobre el chatbot con procesamiento del lenguaje natural del Gobierno de la Ciudad de Buenos Aires, Argentina.
Este informe, realizado por la Asociación por los Derechos Civiles (ADC) bajo la dirección de Derechos Digitales y con el apoyo del International Development Research Centre (IDRC), examina el funcionamiento de Boti, el chatbot con procesamiento de lenguaje natural del Gobierno de la Ciudad de Buenos Aires. A través de entrevistas, análisis técnico y revisión normativa, el estudio analiza las implicancias de esta herramienta para la privacidad, la protección de datos personales y la rendición de cuentas en el uso de tecnologías automatizadas en el sector público.
Aunque Boti ha sido ampliamente reconocido como una innovación en la atención ciudadana, especialmente durante la pandemia, el informe evidencia preocupaciones relevantes sobre el consentimiento informado, la gestión de datos sensibles y la participación de actores privados sin mecanismos claros de supervisión. En un contexto de creciente digitalización de los servicios estatales, el documento plantea recomendaciones para fortalecer la gobernanza de la inteligencia artificial desde una perspectiva de derechos humanos.