Pesquisa impulsionada pela Derechos Digitales contribui para fiscalização de plataformas e IA no Brasil

A Agência Nacional de Proteção de Dados (ANPD) do Brasil iniciou uma ação de monitoramento de 22 plataformas digitais, lojas de aplicativos e ferramentas de inteligência artificial generativa para verificar as medidas que estão adotando diante da circulação e geração de conteúdos ilícitos, com especial atenção aos riscos que afetam mulheres, crianças e adolescentes.

Entre os insumos utilizados pela autoridade estão informações compartilhadas pela Derechos Digitales a partir de uma pesquisa desenvolvida por Ximena Cuzcano, analista de Segurança e Resiliência Digital da Derechos Digitales, em conjunto com a organização parceira Situada. O estudo analisou 105 aplicativos de deepfakes disponíveis na Google Play Store e os riscos que essas ferramentas representam para as mulheres na América Latina e no Caribe.

Publicada na revista acadêmica Veritas, a pesquisa “Inteligência artificial e violência de gênero: casos de deepfakes na América Latina e no Caribe” analisou o design, a acessibilidade, os modelos de negócio e as funcionalidades desses aplicativos. Entre suas principais conclusões, identificou-se que 89,5% dos aplicativos estudados representavam um potencial perigo para as mulheres, mostrando como essas ferramentas podem facilitar e normalizar novas formas de violência de gênero digital.

A partir desses achados, Cuzcano publicou na Derechos Digitales a coluna “Deepfakes: quando as tecnologias promovem a violência de gênero digital”, na qual analisa como o design e a distribuição desses aplicativos podem facilitar novas formas de violência contra as mulheres e aponta a necessidade de avançar em direção a maiores responsabilidades para as plataformas e a regulações com perspectiva de gênero.

Da pesquisa à incidência

Esta pesquisa tem sido parte do trabalho de incidência que a Derechos Digitales vem desenvolvendo no Brasil. Em abril deste ano, Marina Meira, coordenadora de Políticas Públicas, e Ximena Cuzcano se reuniram em Brasília com representantes de diferentes áreas da ANPD para apresentar pesquisas e evidências sobre deepfakes, violência de gênero facilitada por tecnologias, segurança digital e proteção de dados.

Hoje, parte dessas evidências está sendo utilizada pela autoridade. A Nota Técnica da ANPD que fundamenta a atual ação de monitoramento reúne informações compartilhadas pela Derechos Digitales a partir da pesquisa sobre aplicativos de deepfakes.

Em 21 de agosto, a Agência começou a notificar as empresas selecionadas para verificar se estão cumprindo as obrigações estabelecidas pelo Marco Civil da Internet e regulamentadas pelo Decreto nº 12.976/2026. As empresas deverão responder às solicitações no prazo de até dez dias úteis a partir do recebimento da notificação.

Entre os serviços monitorados estão plataformas digitais como Instagram, Facebook, WhatsApp, Telegram, TikTok, X, Discord, YouTube e Reddit, além de lojas de aplicativos e ferramentas de inteligência artificial generativa como App Store, Google Play Store, Copilot, Claude, DeepSeek, Gemini, ChatGPT, Meta AI e Perplexity.

Um dos focos do monitoramento será justamente a geração e modificação de conteúdo íntimo de terceiros. A nova regulamentação brasileira proíbe esse tipo de uso por meio de inteligência artificial ou de outros recursos tecnológicos e obriga os provedores a implementar salvaguardas técnicas e procedimentais para identificar e bloquear solicitações de geração desses conteúdos.

O fato de uma pesquisa desenvolvida pela sociedade civil latino-americana ser considerada por uma autoridade pública em uma ação concreta de monitoramento demonstra a importância de conectar pesquisa e incidência. Para a Derechos Digitales, produzir evidências sobre os riscos das tecnologias é fundamental, mas também é fundamental levar esses achados aos espaços onde decisões são tomadas e onde possam se traduzir em medidas concretas para a proteção de direitos.

Na Derechos Digitales, seguiremos acompanhando de perto esse processo e trabalhando para que a proteção contra a violência de gênero digital se traduza em obrigações e salvaguardas efetivas para as plataformas e empresas de tecnologia.