Una investigación de la organización Reclaim The Net ha destapado la existencia de un algoritmo utilizado por el sistema penitenciario de California (Estados Unidos) para puntuar a las personas encarceladas según su probabilidad de reincidencia, a pesar de que las autoridades habían negado reiteradamente que dicha herramienta estuviera en funcionamiento. El hallazgo, publicado este jueves, reabre el debate sobre la transparencia algorítmica y los posibles sesgos en la administración de justicia.

Un sistema negado durante años

Según la documentación obtenida por Reclaim The Net, el programa —integrado en al menos seis sistemas de evaluación— asigna una puntuación a cada recluso basándose en variables como antecedentes penales, historial de violencia o incumplimiento de condiciones de libertad condicional. El objetivo declarado era predecir si un interno volvería a ser arrestado tras su puesta en libertad. Sin embargo, en repetidas ocasiones, portavoces del Departamento de Correcciones y Rehabilitación de California (CDCR) aseguraron que no se empleaba ningún algoritmo de este tipo.

La organización sostiene que la negativa de las autoridades constituye un grave fallo de transparencia que afecta a los derechos de los presos, ya que estas puntuaciones pueden influir en decisiones clave como la concesión de libertad condicional, el nivel de vigilancia o las condiciones de reclusión. Sin acceso público al código ni a los criterios exactos del modelo, resulta imposible verificar si incurre en sesgos raciales o socioeconómicos, un problema recurrente en herramientas predictivas similares en otros estados.

El escrutinio de la sociedad civil

Reclaim The Net ha exigido al CDCR la publicación íntegra del algoritmo y de los datos utilizados para su entrenamiento, así como una auditoría independiente que determine su impacto real en la población reclusa. La investigación se inscribe en una corriente más amplia de denuncias contra el uso opaco de inteligencia artificial en el ámbito penal en Estados Unidos. Casos como el del sistema COMPAS, utilizado en varios estados y criticado por sesgos contra minorías, han puesto de manifiesto los riesgos de delegar decisiones judiciales o penitenciarias en modelos de machine learning no auditables.

Por el momento, el gobierno californiano no ha emitido una declaración oficial sobre la filtración, pero fuentes internas citadas por la organización señalan que el algoritmo podría haber estado operativo desde al menos 2022. De confirmarse, la ocultación deliberada durante años podría tener consecuencias legales y políticas para la administración penitenciaria del estado.