Investigación impulsada por Derechos Digitales contribuye a fiscalización de plataformas e IA en Brasil
La Agencia Nacional de Protección de Datos (ANPD) de Brasil inició una acción de monitoreo sobre 22 plataformas digitales, tiendas de aplicaciones y herramientas de inteligencia artificial generativa para verificar las medidas que están adoptando frente a la circulación y generación de contenidos ilícitos, con especial atención a los riesgos que afectan a mujeres, niñas, niños y adolescentes.
Entre los antecedentes utilizados por la autoridad se encuentra información compartida por Derechos Digitales a partir de una investigación desarrollada por Ximena Cuzcano, analista de Seguridad y Resiliencia Digital de Derechos Digitales, junto a la organización aliada Situada. El estudio analizó 105 aplicaciones de deepfakes disponibles en Google Play Store y los riesgos que estas herramientas representan para las mujeres en América Latina y el Caribe.
Publicada en la revista académica Veritas, la investigación “Inteligencia artificial y violencia de género: Casos de deepfakes en América Latina y el Caribe” analizó el diseño, la accesibilidad, los modelos de negocio y las funcionalidades de estas aplicaciones. Entre sus principales hallazgos, identificó que el 89,5 % de las aplicaciones estudiadas representaba un potencial peligro para las mujeres, mostrando cómo estas herramientas pueden facilitar y normalizar nuevas formas de violencia de género digital.
A partir de estos hallazgos, Cuzcano publicó en Derechos Digitales la columna “Deepfakes: cuando las tecnologías promueven la violencia de género digital”, en la que analiza cómo el diseño y la distribución de estas aplicaciones pueden facilitar nuevas formas de violencia contra las mujeres y plantea la necesidad de avanzar hacia mayores responsabilidades para las plataformas y regulaciones con perspectiva de género.
De la investigación a la incidencia
Esta investigación ha sido parte del trabajo de incidencia que Derechos Digitales viene desarrollando en Brasil. En abril de este año, Marina Meira, coordinadora de Políticas Públicas, y Ximena Cuzcano se reunieron en Brasilia con distintas áreas de la ANPD para presentar investigaciones y evidencia sobre deepfakes, violencia de género facilitada por tecnologías, seguridad digital y protección de datos.
Hoy, parte de esa evidencia está siendo utilizada por la autoridad. La Nota Técnica de la ANPD que sustenta la actual acción de monitoreo recoge información compartida por Derechos Digitales a partir de la investigación sobre aplicaciones de deepfakes.
El 21 de agosto, la Agencia comenzó a notificar a las empresas seleccionadas para verificar si están cumpliendo con las obligaciones establecidas por el Marco Civil de Internet, reglamentadas por el Decreto Nº 12.976/2026. Las compañías deberán responder a los requerimientos en un plazo de hasta diez días hábiles desde la recepción de la notificación.
Entre los servicios monitoreados se encuentran plataformas digitales como Instagram, Facebook, WhatsApp, Telegram, TikTok, X, Discord, YouTube y Reddit, además de tiendas de aplicaciones y herramientas de inteligencia artificial generativa como App Store, Google Play Store, Copilot, Claude, DeepSeek, Gemini, ChatGPT, Meta AI y Perplexity.
Uno de los focos del monitoreo será precisamente la generación y modificación de contenido íntimo de terceros. La nueva regulación brasileña prohíbe este tipo de usos mediante inteligencia artificial u otros recursos tecnológicos y obliga a los proveedores a implementar salvaguardas técnicas y procedimentales para identificar y bloquear solicitudes de generación de estos contenidos.
Que una investigación desarrollada desde la sociedad civil latinoamericana sea considerada por una autoridad pública en una acción concreta de monitoreo muestra la importancia de conectar investigación e incidencia. Para Derechos Digitales, producir evidencia sobre los riesgos de las tecnologías es fundamental, pero también lo es llevar esos hallazgos a los espacios donde se toman decisiones y pueden traducirse en medidas concretas para la protección de derechos.
Desde Derechos Digitales seguiremos de cerca este proceso y trabajando para que la protección frente a la violencia de género digital se traduzca en obligaciones y salvaguardas efectivas para las plataformas y empresas tecnológicas.
