Fiscal Watson: Estudo sobre o uso de inteligência artificial na procuradoria geral da nação na Colômbia

Fiscal Watson: Estudo sobre o uso de inteligência artificial na procuradoria geral da nação na Colômbia. Este relatório, elaborado pela Fundación Karisma sob a direção da Derechos Digitales e com o apoio do International Development Research Centre (IDRC), analisa a implementação do “Fiscal Watson”, uma ferramenta baseada no IBM Watson Explorer e Watson Discovery adquirida pela Procuradoria-Geral da Nação da Colômbia desde 2017 para associar casos no Sistema Penal Oral Acusatório (SPOA). O estudo examina seu funcionamento, o marco regulatório e as implicações para direitos como o devido processo, a privacidade e a proteção de dados, em um contexto de pouca regulamentação sobre inteligência artificial no setor judicial.

Embora a Procuradoria apresente o Fiscal Watson como uma inovação para agilizar investigações, o relatório evidencia a ausência de análises de impacto em direitos humanos, a falta de transparência sobre seu uso e as incertezas quanto à gestão e ao armazenamento de dados — especialmente diante da possibilidade de hospedagem em infraestrutura de terceiros como a IBM. Também alerta para a qualidade dos dados que alimentam o sistema, a dependência tecnológica em relação a um fornecedor privado e os riscos para a soberania dos dados judiciais. O documento aponta para a necessidade urgente de adoção de padrões claros de avaliação de riscos, princípios éticos, requisitos de transparência e mecanismos de monitoramento para que o uso da IA na justiça seja compatível com as obrigações estatais de garantir direitos fundamentais.