Derechos Digitales y Data Privacy presentan el curso “Regulación de IA para sociedad civil y tomadores de decisiones”

El desarrollo de la inteligencia artificial (IA) y su implementación en cada vez más procesos sociales, plantea numerosas preguntas desde el punto de los derechos humanos y la necesidad de generar regulación acorde. Por ello, la gobernanza de la inteligencia artificial se ha convertido en un tema cada vez más debatido tanto en el contexto académico como normativo.

A fines de 2009, el Ministerio de Ciencia, Tecnología, Innovación y Comunicaciones de Brasil (MCTIC) promovió una consulta pública para el desarrollo de la Estrategia Brasileña de Inteligencia Artificial, lanzada oficialmente en 2021. En septiembre de ese año, la Cámara de Diputados de Brasil aprobó el “Marco Legal para la Inteligencia Artificial” (Proyecto de Ley 21/2020) que busca establecer las bases, principios y directrices para el desarrollo y aplicación de la inteligencia artificial en Brasil.

El proyecto fue muy criticado por investigadores y organizaciones de la sociedad civil, por aportar pocos elementos concretos a la regulación de la IA y un régimen subjetivo de responsabilidad civil, yendo en contra de las normas que se han desarrollado en el resto del mundo. Además, la discusión se desarrolló en poco tiempo y con poca participación multisectorial.

A fines de marzo de 2022 se constituyó una comisión de juristas para analizar el proyecto de ley, que ahora se encuentra en trámite en el Senado Federal. Esto abre una ventana de oportunidades para volver a discutir los puntos problemáticos en el proyecto de ley y aportar mejoras a la regulación.

Es en este contexto que Derechos Digitales y Data Privacy presentan el curso “Regulación de IA para sociedad civil y tomadores de decisiones”, una instancia gratuita y dirigida a personas ubicadas en Brasil, que busca presentar una perspectiva sociotécnica de los sistemas de IA.

Los módulos contemplados en el curso son “Gobernanza de IA”, “Conceptos técnicos de IA”, “Tendencias internacionales en la regulación de IA” e “IA y derechos humanos”. Las clases buscan presentar los principales conceptos asociados a cada una de estos tópicos de forma didáctica, especialmente a aquellas personas que no estén familiarizadas con el lenguaje técnico propio del derecho o la informática. Las clases se realizarán en portugués.

Para más información del curso, haz clic aquí.

Derechos Digitales participa de la la 6ta Mesa Redonda de Legislación Comparada del CELE

El próximo jueves 26 de mayo, a las 14:00 hrs. en Chile y Argentina, se realizará la 6ta Mesa Redonda de Legislación Comparada del Centro de Estudios en Libertad de Expresión y Acceso a la Información (CELE), con la participación de Michelle Bordachar, analista de Políticas Públicas de Derechos Digitales, para discutir los contenidos y alcances del proyecto de ley de regulación de plataformas digitales en Chile.

Se trata de una iniciativa legislativa promovida por los senadores Guido Girardi, Carolina Goic, Juan Antonio Coloma, Francisco Chahuán y Alfonso De Urresti, que contempla regular distintos aspectos relativos a la relación entre “consumidores digitales” y proveedores de “plataformas de servicios digitales”.

Derechos Digitales ha criticado aspectos formales y de fondo en la propuesta, destacando que introduce conceptos nóveles e inéditos en el sistema normativo judicial que dificultan la comprensión del alcance de lo que se busca regular, que no aprovecha la experiencia existente en propuestas regulatorias internacional y que el articulado del texto pretende legislar en múltiples materias, de diferentes naturalezas jurídicas, de un modo confuso y superficial.

Michelle Bordachar expondrá junto con Danielle Zaror, investigadora del Centro de Estudios en Derecho Informático (CEDI) sobre los temas relevados por la organización en el reporte “Comentarios al proyecto de ley que regula las plataformas digitales, Boletín Nº 14.561-19”.

Derechos Digitales participa de mesa redonda sobre gobernanza de la inteligencia artificial

El pasado martes 17 de mayo se realizó una mesa redonda de especialistas para discutir modelos globales alternativos para la gobernanza de la Inteligencia Artificial (IA). La instancia fue organizada por el Ada Lovelace Institute, cuyo objetivo es ayudar a científicos e investigadores a encontrar la solución a problemas científicos complejos utilizando inteligencia artificial (IA) y datos.

Especialistas de diversos países se reunieron para construir una taxonomía de aproximaciones a los datos y la gobernanza en IA, discutir sus alcances en cada contexto nacional y regional involucrado, y sus definiciones de acuerdo con cada territorio representado por las y los participantes.

Posteriormente, se exploró el potencial de la categorización elaborada en distintos tópicos, tales como la regulación de grandes empresas de tecnología, problemas holísticos y sectoriales, asuntos relativos a su aplicación transnacional, intereses colectivos, derechos fundamentales, y su uso al servicio de la seguridad nacional o políticas económicas.

Derechos Digitales participó de la discusión a través de su co-directora ejecutiva, Jamila Venturini, quien abordó en su presentación el trabajo realizado por la organización en el proyecto sobre Inteligencia Artificial e inclusión, y expuso las principales tendencias y desafíos en relación con la gobernanza de IA en América Latina, con particular énfasis en el caso de Brasil y su actual proceso de construcción de un marco regulatorio de IA.

Los resultados de la mesa redonda formarán parte de un informe sobre posibles futuros de la regulación de la IA a nivel global, que será desarrollado por la profesora Lilian Edwards para el Ada Lovelace Institute.

Derechos Digitales participa en panel sobre inteligencia artificial aplicada a la salud

Entre el 17 y el 19 de mayo se realizará el seminario internacional «Derecho a la Salud y protección de datos personales: desafíos contemporáneos y potencialidades», organizado por el Instituto Brasileiro de Defesa do Consumidor, IDEC.

El seminario busca fomentar el debate en torno a las nuevas tecnologías de comunicación e información, y las implicancias que tiene su uso en el campo de la salud, desde una perspectiva de derechos. El objetivo de la actividad es propiciar el intercambio de información y experiencias entre académicos, formuladores de políticas públicas y organizaciones de la sociedad civil.

Derechos Digitales será parte del seminario por medio de nuestra co-directora ejecutiva, Jamila Venturini, quien expondrá en el panel “Artificial intelligence and health”, junto a Nicoletta Dentico (Society for International Development, Italia) y Daniel Dourado (Cepedisa/USP / Health Law Research Centre – USP, Brasil). La moderación del panel estará a cargo de Analluza Dallari.

El panel se realizará el jueves 19 de mayo a las 11:00 AM (GMT -3). La actividad cuenta con traducción simultánea portugués-inglés. Para poder participar de esta y las otras actividades preparadas en el marco del seminario, basta con inscribirse aquí.

Ya está disponible la segunda edición de PubliElectoral Chile

Por segunda ocasión, Derechos Digitales junto a la Asociación por los Derechos Civiles (ADC) aplican en Chile PubliElectoral, una herramienta tecnológica de interés social que permite la recolección de información relativa a la publicidad electoral en redes sociales.

En este caso, la investigación tuvo por objetivo observar el uso de Facebook en la campaña política realizada a propósito de la elección presidencial de 2021, y evaluar la compatibilidad de tales prácticas con la normativa electoral vigente.

A partir de la información recolectada, se analizó el uso de Facebook para difundir publicidad electoral, la rendición de los avisos pagados en la plataforma ante la autoridad electoral y cumplimiento de los plazos estipulados para la campaña.

Del análisis se desprende que todas las fuerzas políticas utilizaron la plataforma para realizar campaña electoral y, por lo tanto, se trata de un espacio significativo en el marco del proceso eleccionario. Además, es relevante señalar que no hubo un apego estricto a los plazos de veda establecidos en la ley electoral, y que la información pública disponible no es suficiente para establecer si los gastos por concepto de publicidad en plataformas digitales han sido debidamente reportados.

El informe realiza recomendaciones de mejora a los instrumentos de transparencia implementados por Facebook/ META, y también a la autoridad electoral, en relación con la aplicación de la normativa vigente así como de sus propias disposiciones en materias tales el reporte de gastos de campaña y la disponibilización de esta información.

El reporte ya está disponible y puede ser consultado aquí.

Convenio de Budapest sobre la Ciberdelincuencia en América Latina

El Convenio de Budapest sobre Ciberdelincuencia es un tratado internacional creado en el año 2001 e impulsado por el Consejo de Europa, con el objetivo de incrementar la cooperación internacional y generar marcos legales armónicos entre las naciones con el objetivo de hacer frente a los delitos informáticos y a la actividad criminal en internet.

Con casi 20 años de existencia, además de haber sido el primer tratado internacional en la materia, sigue siendo uno de los principales textos legales sobre cooperación internacional con fines de persecución penal y lucha contra el ciberdelito. Argentina, Chile, Costa Rica, Colombia, Panamá, Paraguay, Perú y República Dominicana son los países latinoamericanos que han suscrito el Convenio, mientras que Ecuador, Guatemala, México y Brasil son observadores.

Recientemente se presentó el segundo protocolo adicional al Convenio y actualmente distintos países latinoamericanos están considerando su adhesión. Es en este contexto que publicamos «Convenio de Budapest sobre la Ciberdelincuencia en América Latina: Un breve análisis sobre adhesión e implementación en Argentina, Brasil, Chile, Colombia y México”, una investigación sobre las diferencias en el proceso de adhesión de distintos estados latinoamericanos.

La investigación estuvo a cargo de Bruna Martins dos Santos, quien utilizó una técnica de investigación documental, además de la realización de entrevista con miembros de las organizaciones del consorcio Al Sur.

El estudio concluye que hay una serie de características comunes en los procesos de adhesión de los países analizados, incluyendo celeridad en la discusión de leyes y decretos, falta de transparencia, falta de participación de sectores relevantes y el uso de la necesidad de adecuación al Convenio de Budapest para promover reformas integrales de la legislación penal y procesal penal vigente. Como consecuencia, las reformas han puesto en riesgo el ejercicio de derechos ciudadanos, tales como el derecho a la intimidad, el derecho a la protección de datos personales y el debido proceso.

Además del análisis, el estudio ofrece algunas recomendaciones dedicadas al diseño e implementación de políticas públicas en la materia, con un enfoque basado en la protección de los derechos humanos.

El estudio está disponible en castellano, inglés y portugués.

Derechos Digitales participa de la 42ª sesión del Comité Permanente de Derecho de Autor y Derechos Conexos de la OMPI

Entre el el 9 y el 13 de mayo de 2022 se realizó la 42ª sesión del Comité Permanente de Derecho de Autor y Derechos Conexos de la Organización Mundial de la Propiedad Intelectual (SCCR 42 de la OMPI).

Derechos Digitales participó de dicha instancia, por medio de nuestra analista de políticas públicas, Michelle Bordachar.

La participación se da en el marco del desarrollo del proyecto Right to Research in International Copyright Law,que aboga por mayores flexibilidades en el sistema de derechos de autor para el ejercicio de actividades de investigación, por medio de la promulgación de leyes y políticas internacionales.

Para esta ocasión, se conformó la Alianza de la Sociedad Civil Latinoamericana para el Acceso Justo al Conocimiento, compuesta por seis organizaciones de la sociedad civil latinoamericana: Fundación Karisma (Colombia), Fundación Vía Libre (Argentina), Datysoc (Uruguay), Hiperderecho (Perú), IBDAutoral e InternetLab (Brasil), y Derechos Digitales.

La alianza se presentó un informe que evidencia un grave atraso normativo en materia de excepciones y limitaciones en Latinoamérica.

Derechos Digitales participa de audiencia pública sobre inteligencia artificial en Brasil

El 12 de mayo, la co-directora ejecutiva de Derechos Digitales, Jamila Venturini, participó de la Audiencia Pública del Senado Federal de Brasil, donde presentó la contribución de Derechos Digitales al comité de juristas que se encuentra discutiendo la reglamentación del uso de Inteligencia Artificial.

La contribución está basada en la investigación y las experiencias de Derechos Digitales en América Latina. Los principales puntos que se ponen en manifiesto son:

El sector público ha jugado un papel importante para fomentar el uso de la IA en América, principalmente a través de la adquisición e implementación de estas tecnologías. Sin embargo, estos incentivos se dan a expensas de las obligaciones internacionales de derechos humanos de los Estados y las mejores prácticas en términos de transparencia, supervisión y rendición de cuentas.
Es importante enfatizar el proyecto de ley en cuanto a definiciones de IA, para mitigar riesgos. El contexto latinoamericano es diverso en cuanto a la implementación y detectamos la existencia de sistemas automatizados dentro del sector público que no necesariamente incluyen elementos de aprendizaje automático pero que también representan una alta capa de opacidad en la toma de decisiones políticas. Esto trae aparejado riesgo para afectar derechos fundamentales que merecen atención.
No es función del sector público fomentar el desarrollo y uso de tecnologías que puedan resultar en abusos a los derechos humanos y en el deterioro de las condiciones de vida de las personas. Además, no hay lugar para la experimentación o la libre innovación cuando se trata de tecnologías que presentan riesgos concretos para el ejercicio de los derechos fundamentales.
La adopción de sistemas basados en IA por parte del Estado debe estar condicionada a la implementación de análisis previos de impacto en los derechos humanos y mecanismos de supervisión, seguimiento y aplicación para fomentar el desarrollo económico sostenible de acuerdo con los más altos estándares existentes en la materia.
Reconociendo los esfuerzos para discutir este proyecto de ley en el ámbito del Senado Federal y de esta Comisión de Juristas, creemos necesario ampliar el período de trabajo de la comisión para dar cuenta de la complejidad que implica la regulación del tema y la necesidad de involucrar incluso más actores en esas conversaciones.

En los próximos días Derechos Digitales presentará la contribución por escrito.

El registro de la sesión está disponible a continuación:

Inteligencia artificial en la función pública: judicialización del acceso a beneficios sociales y “datos sucios”

Desde 2020, investigadoras e investigadores de la región han desarrollado una serie de estudios de casos enfocados en el análisis crítico de la implementación de tecnologías para la función pública en América Latina. Este esfuerzo, que ha sido canalizado por Derechos Digitales en el contexto del proyecto Cyber Policy Centre de IDRC, ha permitido conocer las principales características, objetivos y dificultades que han enfrentado los planes y programas públicos que han implementado diversos dispositivos tecnológicos como elementos nucleares o auxiliares de políticas destinadas a resolver problemas que incluyen, entre otros, la gestión de la pandemia de COVID-19 y la predicción del riesgo de vulneración de derechos de niñas, niños y adolescentes.

Esta semana conocemos los resultados de dos estudios que abundan en el esfuerzo arriba señalado. Nos referimos al análisis de la implementación del “Auxilio emergencial” (disponible en portugués e inglés) la política de transferencia de recursos implementada en Brasil durante la pandemia de COVID-19; y al Sistema predictivo del delito urbano (también en portugués e inglés) desarrollado en Chile para dirigir el patrullaje policial preventivo. Ambos estudios de caso fueron desarrollados por investigadoras de Brasil y Chile durante 2021, y permiten abundar en algunos de los aspectos críticos que fueron relevados durante la primera serie de investigaciones.

Uno de los aspectos críticos que han emergido recurrentemente en los análisis refiere a las implicancias de la inclusión de tecnologías como una capa adicional de complejidad al ejercicio de la función pública. Lo anterior resulta crucial a la hora de situar las innovaciones tecnológicas en la institucionalidad existente; desde las consideraciones por errores que puedan cometerse, hasta la requerida preparación de las y los funcionarios públicos para integrar adecuadamente las tecnologías en sus labores cotidianas. Pues aún cuando sea cierto que los dispositivos tecnológicos pueden ofrecer soluciones eficientes y eficaces a problemas complejos, no podemos olvidar que la resolución de tales problemas en el ámbito estatal exige múltiples resguardos con el fin de proteger los derechos de la ciudadanía. En otras palabras, las tecnologías no se implementan en el vacío, sino que deben articular un sistema que incluye factores institucionales, políticos, sociales y técnicos.

Tal complejidad se verifica en el caso brasileño a la hora de establecer reclamaciones a los resultados arrojados por el sistema algorítmico que decidió la asignación del “Auxilio emergencial”. Puesto que no existen mecanismos administrativos (humanos) para revisar la decisión automatizada, la ciudadanía ha tenido que buscar en el sistema judicial una resolución favorable que permita acceder al beneficio. Lo anterior, además de las dilaciones que puede implicar en el acceso a recursos en circunstancias de emergencia como la pandemia, también se asocia a las dificultades que pueden existir para el acceso a la justicia en un país tan vasto como Brasil.

Por otra parte, la investigación conducida en Chile en torno al sistema de policiamiento preventivo da cuenta de las dificultades existentes respecto de la generación de datos certeros de los eventos delictivos, todavía más cuando no existe información respecto al modo en que se configura la base de datos generada por Carabineros de Chile, y que constituye el elemento central para alimentar el procesamiento de datos orientado a anticipar la ocurrencia de delitos. Lo anterior resulta problemático, atendiendo a que la Contraloría ha señalado que no se puede verificar la integridad de los datos existentes y que, además, no existiría una política de seguridad de la información de tal base de datos. ¿Qué tan efectivo puede ser un sistema que se alimenta de “datos sucios”?

Ejemplos como los señalados reafirman la importancia que supone la implementación reflexiva de tecnologías para la función pública, no sólo a fines de lograr resolver las problemáticas identificadas, sino en hacerlo de una forma que favorezca el resguardo y promoción de los derechos humanos.

Organizaciones de la Sociedad Civil realizan recomendaciones sobre derechos humanos para Brasil y Ecuador

El Examen Periódico Universal (EPU) es un proceso especial creado por el Consejo de Derechos Humanos de Naciones Unidas, que supone una revisión periódica del historial de derechos humanos de los 193 Estados Miembro de las Naciones Unidas. Se trata de un proceso diseñado para impulsar, apoyar y mejorar la promoción y protección de los derechos humanos, proporcionado asistencia técnica a los Estados, y compartiendo buenas prácticas que ayuden a mejorar la situación de derechos humanos.

Los exámenes son realizados por el Grupo de Trabajo del EPU, conformado por los 47 miembros del Consejo de Derechos Humanos. No obstante, cualquier Estado Miembro de las Naciones Unidas puede participar de los diálogos con los Estados sujetos a revisión.

Actualmente está en curso el cuarto ciclo de la sesión 41 del EPU, que considera el examen de las situaciones de derechos humanos de varios países miembros de Naciones Unidas, incluyendo de Brasil y Ecuador. Conscientes de la relevancia de este proceso para la promoción del ejercicio de derechos humanos en relación al uso de tecnologías, Derechos Digitales ha preparado una serie de recomendaciones, trabajadas en alianza con organizaciones afines a nivel local e internacional, con el objetivo de que sean incluidas en las sugerencias finales que se le realicen a dichos países.

En el caso de Ecuador, trabajamos conjuntamente con la Asociación para el
Progreso de las Comunicaciones (APC). El informe destaca la importancia de realizar mejorías importantes en materias tales como la libertad de expresión, la privacidad, el derecho a vivir una vida libre de violencia y los derechos económicos y sociales, hoy limitadas por el Estado ecuatoriano, por medio de políticas y prácticas relacionadas con el entorno digital.

El punto de partida del análisis es la más reciente resolución del Consejo de Derechos Humanos de Naciones Unidas, dedicada a la promoción, protección y disfrute de los derechos humanos en internet, que reconoce la importancia del acceso a internet para el pleno disfrute de los derechos humanos, el fortalecimiento de la democracia, el estado de derecho y para alcanzar los Objetivos de Desarrollo Sostenible, y aconseja sobre la necesidad de reducir las brechas digitales, con especial foco en la brecha de género.

En el caso de Brasil, trabajamos en conjunto con APC, Artículo 19 e Intervozes. Si bien el Estado brasileño es considerado un referente internacional respecto a la protección de derechos en el entorno digital, asumiendo un papel central en la promoción de estándares internacionales a favor de la privacidad en la era digital. A nivel nacional la garantía de estos derechos encuentra limitaciones importantes, que han comprometido el ejercicio de derechos fundamentales, especialmente en los últimos cinco años, situación que se agravó durante la pandemia de COVID-19 en 2020 y 2021.

Las recomendaciones fueron especialmente enfocadas en las garantías del acceso universal a internet, el ejercicio de la libre expresión y asociación; el acceso a la información, al conocimiento y a la cultura; y el ejercicio de derechos económicos y sociales de manera segura, respetuosa de la privacidad y de la autonomía de las personas, libre de cualquier forma de discriminación.

Conjuntamente con Privacy International, presentamos un informe centrado en problemas relacionados al uso de la tecnología educativa en Brasil. Se enfoca también en el procesamiento posterior (recolección, análisis, retención e intercambio) de datos de niños y maestros en las escuelas.

Los documentos están disponibles en los links a continuación:

Brasil: Contribución Conjunta de las Partes Interesadas Revisión Periódica Universal 41° Periodo de Sesiones

Ecuador: Examen Periódico Universal 4to ciclo, sesión 41: Contribuciones sobre derechos humanos en el entorno digital

RELATÓRIO DA SOCIEDADE CIVIL 41a Sessão da Revisão Periódica Universal: Brasil Uma submissão realizada por Privacy International e Derechos Digitales