Inteligência Artificial no Estado: um estudio colectivo sobre experiências y riscos para os direitos humanos

Este relatório, produzido pela Derechos Digitales com o apoio do International Development Research Centre (IDRC), analisa dez casos de uso de inteligência artificial e sistemas automatizados por governos da América Latina em áreas como emprego, proteção social, segurança pública, justiça, educação e serviços administrativos. A partir de uma metodologia comum, o estudo avalia o contexto nacional, regulatório, técnico e operacional de cada caso, identificando riscos a direitos fundamentais como privacidade, não discriminação, acesso à informação e devido processo. São destacados problemas transversais como baixa qualidade e interoperabilidade dos dados, opacidade nos processos de tomada de decisão e dependência de fornecedores privados, além de impactos diferenciados sobre grupos em situação de vulnerabilidade.

Embora esses sistemas sejam frequentemente apresentados como inovações para otimizar políticas públicas, o relatório alerta que sua implementação costuma carecer de avaliações prévias de impacto sobre os direitos humanos, mecanismos sólidos de prestação de contas e salvaguardas eficazes contra vieses e erros. A pesquisa enfatiza a necessidade urgente de marcos regulatórios claros, práticas proativas de transparência e padrões éticos obrigatórios para garantir que o uso da IA no setor público seja compatível com as obrigações estatais em matéria de direitos humanos, evitando a reprodução de desigualdades ou a violação de garantias fundamentais.