A Derechos Digitales promoveu debate sobre violência de gênero facilitada por tecnologias na CryptoRave de São Paulo

No âmbito da CryptoRave realizada em São Paulo, um espaço de referência na América Latina para o encontro e debate sobre cultura digital, segurança e privacidade, a Derechos Digitales conduziu a sessão intitulada “Deepfakes, gênero e poder: desafios técnicos e regulatórios para enfrentar a violência facilitada pelas tecnologias”. O encontro, realizado no sábado, 9 de maio, teve como objetivo abordar com urgência a crescente difusão de aplicativos de manipulação de imagens e seu impacto direto no agravamento das dinâmicas de violência de gênero em ambientes digitais.

Durante a atividade, foi exposto como o avanço e a popularização das ferramentas de deepfake estão reconfigurando as agressões facilitadas por tecnologias, afetando de forma desproporcional meninas, mulheres e pessoas LGBTIQA+. As participantes apontaram que a criação e a divulgação não consentidas de imagens íntimas a partir dessas ferramentas de inteligência artificial se inserem em um contexto global e regional de aumento da violência online, intensificação de discursos misóginos e uma marcante guinada ao conservadorismo, particularmente entre homens jovens. Diante disso, a sessão propôs articular dimensões técnicas e marcos regulatórios a partir de uma abordagem baseada nos direitos humanos e na interseccionalidade.

Um dos pontos centrais do evento foi a apresentação, feita pela nossa analista de Segurança e Resiliência Digital, Ximena Cuzcano, de uma pesquisa recente realizada pela organização peruana Situada. O estudo analisou 105 aplicativos de deepfake disponíveis na Google Play Store, revelando padrões preocupantes de opacidade e reprodução de estereótipos de gênero. Entre as principais conclusões, constatou-se que quase metade das plataformas não informava quem eram seus desenvolvedores e que suas interfaces ofereciam categorias projetadas quase exclusivamente para a sexualização de mulheres, operando sob classificações de conteúdo “livre”  e sem mecanismos técnicos em seu design que prevenissem efetivamente abusos.

Diante das limitações das respostas atuais, o debate também se baseou no guia lançado pela Derechos Digitales em parceria com o Fundo das Nações Unidas para a População (UNFPA): Princípios orientadores para uma reforma legislativa e de políticas públicas contra a violência de gênero facilitada pela tecnologia. Esse documento fornece recomendações-chave para desenvolver ou reformar marcos legais contra a violência de gênero facilitada pelas tecnologias. Nossa coordenadora de Políticas Públicas, Marina Meira, moderadora do evento, apresentou os principais conceitos desse material.

A sessão contou ainda com a participação de especialistas de destaque: Bianca Kremer, do Instituto Dot; Julia Abad, coordenadora do IDEC; e Clarissa Mendes, assessora de Políticas Públicas do CGI.br. As palestrantes trouxeram perspectivas complementares a partir do ativismo e da academia, compartilhando suas reflexões e atuação a partir de casos concretos com enfoques de gênero e raça. A dinâmica do encontro combinou uma primeira etapa de exposição com uma segunda parte dedicada à troca e debate com o público presente.

A sessão foi encerrada com um apelo para continuar construindo reflexões coletivas e contextualizadas que permitam elaborar respostas técnicas e políticas eficazes contra a violência de gênero facilitada por tecnologias na região.