Derechos Digitales participa de mesa redonda sobre gobernanza de la inteligencia artificial

El pasado martes 17 de mayo se realizó una mesa redonda de especialistas para discutir modelos globales alternativos para la gobernanza de la Inteligencia Artificial (IA). La instancia fue organizada por el Ada Lovelace Institute, cuyo objetivo es ayudar a científicos e investigadores a encontrar la solución a problemas científicos complejos utilizando inteligencia artificial (IA) y datos.

Especialistas de diversos países se reunieron para construir una taxonomía de aproximaciones a los datos y la gobernanza en IA, discutir sus alcances en cada contexto nacional y regional involucrado, y sus definiciones de acuerdo con cada territorio representado por las y los participantes.

Posteriormente, se exploró el potencial de la categorización elaborada en distintos tópicos, tales como la regulación de grandes empresas de tecnología, problemas holísticos y sectoriales, asuntos relativos a su aplicación transnacional, intereses colectivos, derechos fundamentales, y su uso al servicio de la seguridad nacional o políticas económicas.

Derechos Digitales participó de la discusión a través de su co-directora ejecutiva, Jamila Venturini, quien abordó en su presentación el trabajo realizado por la organización en el proyecto sobre Inteligencia Artificial e inclusión, y expuso las principales tendencias y desafíos en relación con la gobernanza de IA en América Latina, con particular énfasis en el caso de Brasil y su actual proceso de construcción de un marco regulatorio de IA.

Los resultados de la mesa redonda formarán parte de un informe sobre posibles futuros de la regulación de la IA a nivel global, que será desarrollado por la profesora Lilian Edwards para el Ada Lovelace Institute.

Derechos Digitales participa en panel sobre inteligencia artificial aplicada a la salud

Entre el 17 y el 19 de mayo se realizará el seminario internacional «Derecho a la Salud y protección de datos personales: desafíos contemporáneos y potencialidades», organizado por el Instituto Brasileiro de Defesa do Consumidor, IDEC.

El seminario busca fomentar el debate en torno a las nuevas tecnologías de comunicación e información, y las implicancias que tiene su uso en el campo de la salud, desde una perspectiva de derechos. El objetivo de la actividad es propiciar el intercambio de información y experiencias entre académicos, formuladores de políticas públicas y organizaciones de la sociedad civil.

Derechos Digitales será parte del seminario por medio de nuestra co-directora ejecutiva, Jamila Venturini, quien expondrá en el panel “Artificial intelligence and health”, junto a Nicoletta Dentico (Society for International Development, Italia) y Daniel Dourado (Cepedisa/USP / Health Law Research Centre – USP, Brasil). La moderación del panel estará a cargo de Analluza Dallari.

El panel se realizará el jueves 19 de mayo a las 11:00 AM (GMT -3). La actividad cuenta con traducción simultánea portugués-inglés. Para poder participar de esta y las otras actividades preparadas en el marco del seminario, basta con inscribirse aquí.

Ya está disponible la segunda edición de PubliElectoral Chile

Por segunda ocasión, Derechos Digitales junto a la Asociación por los Derechos Civiles (ADC) aplican en Chile PubliElectoral, una herramienta tecnológica de interés social que permite la recolección de información relativa a la publicidad electoral en redes sociales.

En este caso, la investigación tuvo por objetivo observar el uso de Facebook en la campaña política realizada a propósito de la elección presidencial de 2021, y evaluar la compatibilidad de tales prácticas con la normativa electoral vigente.

A partir de la información recolectada, se analizó el uso de Facebook para difundir publicidad electoral, la rendición de los avisos pagados en la plataforma ante la autoridad electoral y cumplimiento de los plazos estipulados para la campaña.

Del análisis se desprende que todas las fuerzas políticas utilizaron la plataforma para realizar campaña electoral y, por lo tanto, se trata de un espacio significativo en el marco del proceso eleccionario. Además, es relevante señalar que no hubo un apego estricto a los plazos de veda establecidos en la ley electoral, y que la información pública disponible no es suficiente para establecer si los gastos por concepto de publicidad en plataformas digitales han sido debidamente reportados.

El informe realiza recomendaciones de mejora a los instrumentos de transparencia implementados por Facebook/ META, y también a la autoridad electoral, en relación con la aplicación de la normativa vigente así como de sus propias disposiciones en materias tales el reporte de gastos de campaña y la disponibilización de esta información.

El reporte ya está disponible y puede ser consultado aquí.

Convenio de Budapest sobre la Ciberdelincuencia en América Latina

El Convenio de Budapest sobre Ciberdelincuencia es un tratado internacional creado en el año 2001 e impulsado por el Consejo de Europa, con el objetivo de incrementar la cooperación internacional y generar marcos legales armónicos entre las naciones con el objetivo de hacer frente a los delitos informáticos y a la actividad criminal en internet.

Con casi 20 años de existencia, además de haber sido el primer tratado internacional en la materia, sigue siendo uno de los principales textos legales sobre cooperación internacional con fines de persecución penal y lucha contra el ciberdelito. Argentina, Chile, Costa Rica, Colombia, Panamá, Paraguay, Perú y República Dominicana son los países latinoamericanos que han suscrito el Convenio, mientras que Ecuador, Guatemala, México y Brasil son observadores.

Recientemente se presentó el segundo protocolo adicional al Convenio y actualmente distintos países latinoamericanos están considerando su adhesión. Es en este contexto que publicamos «Convenio de Budapest sobre la Ciberdelincuencia en América Latina: Un breve análisis sobre adhesión e implementación en Argentina, Brasil, Chile, Colombia y México”, una investigación sobre las diferencias en el proceso de adhesión de distintos estados latinoamericanos.

La investigación estuvo a cargo de Bruna Martins dos Santos, quien utilizó una técnica de investigación documental, además de la realización de entrevista con miembros de las organizaciones del consorcio Al Sur.

El estudio concluye que hay una serie de características comunes en los procesos de adhesión de los países analizados, incluyendo celeridad en la discusión de leyes y decretos, falta de transparencia, falta de participación de sectores relevantes y el uso de la necesidad de adecuación al Convenio de Budapest para promover reformas integrales de la legislación penal y procesal penal vigente. Como consecuencia, las reformas han puesto en riesgo el ejercicio de derechos ciudadanos, tales como el derecho a la intimidad, el derecho a la protección de datos personales y el debido proceso.

Además del análisis, el estudio ofrece algunas recomendaciones dedicadas al diseño e implementación de políticas públicas en la materia, con un enfoque basado en la protección de los derechos humanos.

El estudio está disponible en castellano, inglés y portugués.

Derechos Digitales participa de la 42ª sesión del Comité Permanente de Derecho de Autor y Derechos Conexos de la OMPI

Entre el el 9 y el 13 de mayo de 2022 se realizó la 42ª sesión del Comité Permanente de Derecho de Autor y Derechos Conexos de la Organización Mundial de la Propiedad Intelectual (SCCR 42 de la OMPI).

Derechos Digitales participó de dicha instancia, por medio de nuestra analista de políticas públicas, Michelle Bordachar.

La participación se da en el marco del desarrollo del proyecto Right to Research in International Copyright Law,que aboga por mayores flexibilidades en el sistema de derechos de autor para el ejercicio de actividades de investigación, por medio de la promulgación de leyes y políticas internacionales.

Para esta ocasión, se conformó la Alianza de la Sociedad Civil Latinoamericana para el Acceso Justo al Conocimiento, compuesta por seis organizaciones de la sociedad civil latinoamericana: Fundación Karisma (Colombia), Fundación Vía Libre (Argentina), Datysoc (Uruguay), Hiperderecho (Perú), IBDAutoral e InternetLab (Brasil), y Derechos Digitales.

La alianza se presentó un informe que evidencia un grave atraso normativo en materia de excepciones y limitaciones en Latinoamérica.

Derechos Digitales participa de audiencia pública sobre inteligencia artificial en Brasil

El 12 de mayo, la co-directora ejecutiva de Derechos Digitales, Jamila Venturini, participó de la Audiencia Pública del Senado Federal de Brasil, donde presentó la contribución de Derechos Digitales al comité de juristas que se encuentra discutiendo la reglamentación del uso de Inteligencia Artificial.

La contribución está basada en la investigación y las experiencias de Derechos Digitales en América Latina. Los principales puntos que se ponen en manifiesto son:

El sector público ha jugado un papel importante para fomentar el uso de la IA en América, principalmente a través de la adquisición e implementación de estas tecnologías. Sin embargo, estos incentivos se dan a expensas de las obligaciones internacionales de derechos humanos de los Estados y las mejores prácticas en términos de transparencia, supervisión y rendición de cuentas.
Es importante enfatizar el proyecto de ley en cuanto a definiciones de IA, para mitigar riesgos. El contexto latinoamericano es diverso en cuanto a la implementación y detectamos la existencia de sistemas automatizados dentro del sector público que no necesariamente incluyen elementos de aprendizaje automático pero que también representan una alta capa de opacidad en la toma de decisiones políticas. Esto trae aparejado riesgo para afectar derechos fundamentales que merecen atención.
No es función del sector público fomentar el desarrollo y uso de tecnologías que puedan resultar en abusos a los derechos humanos y en el deterioro de las condiciones de vida de las personas. Además, no hay lugar para la experimentación o la libre innovación cuando se trata de tecnologías que presentan riesgos concretos para el ejercicio de los derechos fundamentales.
La adopción de sistemas basados en IA por parte del Estado debe estar condicionada a la implementación de análisis previos de impacto en los derechos humanos y mecanismos de supervisión, seguimiento y aplicación para fomentar el desarrollo económico sostenible de acuerdo con los más altos estándares existentes en la materia.
Reconociendo los esfuerzos para discutir este proyecto de ley en el ámbito del Senado Federal y de esta Comisión de Juristas, creemos necesario ampliar el período de trabajo de la comisión para dar cuenta de la complejidad que implica la regulación del tema y la necesidad de involucrar incluso más actores en esas conversaciones.

En los próximos días Derechos Digitales presentará la contribución por escrito.

El registro de la sesión está disponible a continuación:

Inteligencia artificial en la función pública: judicialización del acceso a beneficios sociales y “datos sucios”

Desde 2020, investigadoras e investigadores de la región han desarrollado una serie de estudios de casos enfocados en el análisis crítico de la implementación de tecnologías para la función pública en América Latina. Este esfuerzo, que ha sido canalizado por Derechos Digitales en el contexto del proyecto Cyber Policy Centre de IDRC, ha permitido conocer las principales características, objetivos y dificultades que han enfrentado los planes y programas públicos que han implementado diversos dispositivos tecnológicos como elementos nucleares o auxiliares de políticas destinadas a resolver problemas que incluyen, entre otros, la gestión de la pandemia de COVID-19 y la predicción del riesgo de vulneración de derechos de niñas, niños y adolescentes.

Esta semana conocemos los resultados de dos estudios que abundan en el esfuerzo arriba señalado. Nos referimos al análisis de la implementación del “Auxilio emergencial” (disponible en portugués e inglés) la política de transferencia de recursos implementada en Brasil durante la pandemia de COVID-19; y al Sistema predictivo del delito urbano (también en portugués e inglés) desarrollado en Chile para dirigir el patrullaje policial preventivo. Ambos estudios de caso fueron desarrollados por investigadoras de Brasil y Chile durante 2021, y permiten abundar en algunos de los aspectos críticos que fueron relevados durante la primera serie de investigaciones.

Uno de los aspectos críticos que han emergido recurrentemente en los análisis refiere a las implicancias de la inclusión de tecnologías como una capa adicional de complejidad al ejercicio de la función pública. Lo anterior resulta crucial a la hora de situar las innovaciones tecnológicas en la institucionalidad existente; desde las consideraciones por errores que puedan cometerse, hasta la requerida preparación de las y los funcionarios públicos para integrar adecuadamente las tecnologías en sus labores cotidianas. Pues aún cuando sea cierto que los dispositivos tecnológicos pueden ofrecer soluciones eficientes y eficaces a problemas complejos, no podemos olvidar que la resolución de tales problemas en el ámbito estatal exige múltiples resguardos con el fin de proteger los derechos de la ciudadanía. En otras palabras, las tecnologías no se implementan en el vacío, sino que deben articular un sistema que incluye factores institucionales, políticos, sociales y técnicos.

Tal complejidad se verifica en el caso brasileño a la hora de establecer reclamaciones a los resultados arrojados por el sistema algorítmico que decidió la asignación del “Auxilio emergencial”. Puesto que no existen mecanismos administrativos (humanos) para revisar la decisión automatizada, la ciudadanía ha tenido que buscar en el sistema judicial una resolución favorable que permita acceder al beneficio. Lo anterior, además de las dilaciones que puede implicar en el acceso a recursos en circunstancias de emergencia como la pandemia, también se asocia a las dificultades que pueden existir para el acceso a la justicia en un país tan vasto como Brasil.

Por otra parte, la investigación conducida en Chile en torno al sistema de policiamiento preventivo da cuenta de las dificultades existentes respecto de la generación de datos certeros de los eventos delictivos, todavía más cuando no existe información respecto al modo en que se configura la base de datos generada por Carabineros de Chile, y que constituye el elemento central para alimentar el procesamiento de datos orientado a anticipar la ocurrencia de delitos. Lo anterior resulta problemático, atendiendo a que la Contraloría ha señalado que no se puede verificar la integridad de los datos existentes y que, además, no existiría una política de seguridad de la información de tal base de datos. ¿Qué tan efectivo puede ser un sistema que se alimenta de “datos sucios”?

Ejemplos como los señalados reafirman la importancia que supone la implementación reflexiva de tecnologías para la función pública, no sólo a fines de lograr resolver las problemáticas identificadas, sino en hacerlo de una forma que favorezca el resguardo y promoción de los derechos humanos.

Organizaciones de la Sociedad Civil realizan recomendaciones sobre derechos humanos para Brasil y Ecuador

El Examen Periódico Universal (EPU) es un proceso especial creado por el Consejo de Derechos Humanos de Naciones Unidas, que supone una revisión periódica del historial de derechos humanos de los 193 Estados Miembro de las Naciones Unidas. Se trata de un proceso diseñado para impulsar, apoyar y mejorar la promoción y protección de los derechos humanos, proporcionado asistencia técnica a los Estados, y compartiendo buenas prácticas que ayuden a mejorar la situación de derechos humanos.

Los exámenes son realizados por el Grupo de Trabajo del EPU, conformado por los 47 miembros del Consejo de Derechos Humanos. No obstante, cualquier Estado Miembro de las Naciones Unidas puede participar de los diálogos con los Estados sujetos a revisión.

Actualmente está en curso el cuarto ciclo de la sesión 41 del EPU, que considera el examen de las situaciones de derechos humanos de varios países miembros de Naciones Unidas, incluyendo de Brasil y Ecuador. Conscientes de la relevancia de este proceso para la promoción del ejercicio de derechos humanos en relación al uso de tecnologías, Derechos Digitales ha preparado una serie de recomendaciones, trabajadas en alianza con organizaciones afines a nivel local e internacional, con el objetivo de que sean incluidas en las sugerencias finales que se le realicen a dichos países.

En el caso de Ecuador, trabajamos conjuntamente con la Asociación para el
Progreso de las Comunicaciones (APC). El informe destaca la importancia de realizar mejorías importantes en materias tales como la libertad de expresión, la privacidad, el derecho a vivir una vida libre de violencia y los derechos económicos y sociales, hoy limitadas por el Estado ecuatoriano, por medio de políticas y prácticas relacionadas con el entorno digital.

El punto de partida del análisis es la más reciente resolución del Consejo de Derechos Humanos de Naciones Unidas, dedicada a la promoción, protección y disfrute de los derechos humanos en internet, que reconoce la importancia del acceso a internet para el pleno disfrute de los derechos humanos, el fortalecimiento de la democracia, el estado de derecho y para alcanzar los Objetivos de Desarrollo Sostenible, y aconseja sobre la necesidad de reducir las brechas digitales, con especial foco en la brecha de género.

En el caso de Brasil, trabajamos en conjunto con APC, Artículo 19 e Intervozes. Si bien el Estado brasileño es considerado un referente internacional respecto a la protección de derechos en el entorno digital, asumiendo un papel central en la promoción de estándares internacionales a favor de la privacidad en la era digital. A nivel nacional la garantía de estos derechos encuentra limitaciones importantes, que han comprometido el ejercicio de derechos fundamentales, especialmente en los últimos cinco años, situación que se agravó durante la pandemia de COVID-19 en 2020 y 2021.

Las recomendaciones fueron especialmente enfocadas en las garantías del acceso universal a internet, el ejercicio de la libre expresión y asociación; el acceso a la información, al conocimiento y a la cultura; y el ejercicio de derechos económicos y sociales de manera segura, respetuosa de la privacidad y de la autonomía de las personas, libre de cualquier forma de discriminación.

Conjuntamente con Privacy International, presentamos un informe centrado en problemas relacionados al uso de la tecnología educativa en Brasil. Se enfoca también en el procesamiento posterior (recolección, análisis, retención e intercambio) de datos de niños y maestros en las escuelas.

Los documentos están disponibles en los links a continuación:

Brasil: Contribución Conjunta de las Partes Interesadas Revisión Periódica Universal 41° Periodo de Sesiones

Ecuador: Examen Periódico Universal 4to ciclo, sesión 41: Contribuciones sobre derechos humanos en el entorno digital

RELATÓRIO DA SOCIEDADE CIVIL 41a Sessão da Revisão Periódica Universal: Brasil Uma submissão realizada por Privacy International e Derechos Digitales

En defensa de los derechos culturales y el fortalecimiento del dominio público en la Nueva Constitución

Tras el rechazo parcial de la primera propuesta sobre derecho de autor en el pleno de la Convención Constitucional, la Comisión 7 sobre Sistemas de Conocimientos, Culturas, Ciencia, Tecnología, Artes y Patrimonios realizó una segunda propuesta, que establece:

“Artículo 6. Derechos de autor. La Constitución asegura a todas las personas la protección de los derechos de autor sobre sus obras intelectuales, científicas y artísticas, comprendiendo los derechos morales y patrimoniales sobre ellas, en conformidad y por el tiempo que señale la ley, que no será inferior a la vida del autor.

Asimismo, la Constitución asegura la protección a los derechos de intérpretes o ejecutantes sobre sus interpretaciones y ejecuciones, de conformidad a la ley.

Las excepciones y limitaciones a estos derechos serán establecidas por la ley y velarán por el ejercicio de los derechos culturales, el goce de los beneficios de los conocimientos y demás derechos fundamentales.

El Estado adoptará las medidas necesarias para el fortalecimiento y divulgación del dominio público”.

Al respecto, nos parece importante señalar que:

Las menciones expresas a la promoción del dominio público, la defensa de los derechos culturales y el goce de los beneficios de los conocimientos constituyen una mejora sustantiva a la propuesta anterior y a la Constitución actual, que reinstala la noción de balance al que aluden todos los instrumentos internacionales en materia de derechos culturales, incluyendo la Declaración Universal de Derechos Humanos (art. 27) y el Pacto de Derechos Económicos, Sociales y Culturales (art. 15).
El dominio público constituye el patrimonio cultural común del país. Es un conjunto de obras artísticas, científicas y culturales invaluables, que por derecho todas las personas pueden usar y disfrutar libremente. Es además una de las piedras angulares de la regulación internacional de derechos de autor y proporciona las bases para toda nueva forma de creación. Su fortalecimiento y divulgación es de interés público y es una de las formas en que se asegura el derecho a acceso a la cultura y el conocimiento de todas las personas.
Todas las normativas de derechos de autor en el mundo reconocen limitaciones, tanto del plazo por el cual se conceden derechos de explotación exclusiva a los titulares de derecho, como respecto de ciertos usos de interés público que son considerados socialmente relevantes, que incluyen cuestiones como la accesibilidad (para traducir libros a braille), la libertad de expresión (para realizar parodias y sátiras), la realización de la crítica y los comentarios especializados (con la posibilidad de citar una obra) o la educación (para usar fragmentos en el aula), entre otros. Delegar esta tarea a la ley permite adaptar la normativa a los cambios y necesidades que surjan en el tiempo.
Ninguna de estas consideraciones afecta en absoluto la protección de los derechos de autor para sus titulares ni implica en forma alguna un retroceso de los beneficios de los que actualmente gozan, asegurados en los incisos anteriores de la propuesta y ampliamente protegidos en la ley. Además, los límites propios del proceso constituyente, que incluyen el respeto a los tratados internacionales suscritos y vigentes, hacen imposible cualquier retroceso en la protección de los derechos de autor.
En cambio, una propuesta constitucional que no incluya los últimos dos incisos limita severamente los derechos culturales de todas las personas y exime al Estado de garantizarlos. Por ello, hacemos un llamado a aprobar la nueva propuesta en su integridad. Rechazar los últimos incisos equivale a retroceder a una norma todavía más restrictiva que la Constitución de 1980.

Sonríe #EstamosVigilando

El Centro por la Justicia y el Derecho Internacional (CEJIL), Derechos Digitales, FLIP, IDHUCA, y Open Knowledge Brasil nos unimos para proteger a los derechos humanos que pueden verse afectados por el uso de tecnologías con capacidades de vigilancia sin las salvaguardas, restricciones y controles necesarios.

La pandemia del COVID-19 ha llevado a muchos países de la región a adquirir, desarrollar e implementar estas tecnologías como mecanismos de respuesta al virus. Sin embargo, desconocemos mucho sobre los alcances, eficacia e impactos que pueden tener sobre derechos fundamentales como la privacidad, la libertad de expresión, la igualdad y la integridad.

Esta información es clave para proteger nuestros derechos. Exigimos que durante la pandemia y en todo momento, la transparencia, la debida diligencia y el acceso a la justicia guíen la adquisición y la implementación de estas tecnologías como formas de garantizar su uso legal, necesario y proporcional.

La transparencia y la rendición de cuentas son fundamentales para garantizar que las tecnologías con capacidad de vigilancia no violen derechos humanos.

Los Estados deben generar procesos diligentes y garantizar el acceso a la información pública necesaria para fiscalizar la protección de nuestros derechos y permitir el acceso a la justicia. Buscamos promover el uso de los mecanismos de acceso a la información pública para empoderar el control ciudadano sobre la vigilancia llevada a cabo durante la pandemia.

Para esto, de forma simultánea hemos presentado solicitudes de acceso a la información en Brasil, Chile, Colombia, y El Salvador para conocer los alcances e impactos de las tecnologías utilizadas para responder a la pandemia y sobre los procesos llevados a cabo por los Estados para garantizar que las mismas respeten los derechos humanos. Las respuestas que obtengamos las compartiremos y analizaremos en el sitio

https://www.estamosvigilando-cejil.org/solicitudes/

Tipo de contenido (Noticia): Noticias y actividades