¿Puede una probabilidad ser justa?

Hace poco vi Justicia artificial, de Simón Casal, y hubo una escena bastante sencilla que se me quedó dando vueltas.

Una jueza tiene delante a una persona a la que debe juzgar. Escucha, observa, intenta entender. A su lado, una pantalla hace otra cosa: calcula.
82 % de probabilidad de reincidencia.^[1]

Y ahí me quedé.

Porque reconozco que, a veces, viendo algunas decisiones humanas, una llega a pensar —medio en broma, medio en serio— que quizá los robots nos gobernarían mejor. No se cansan, no tienen un mal día, no se dejan llevar por simpatías y pueden procesar cantidades de información imposibles para nosotros.

Suena tentador.

Hasta que ese 82 % tiene una persona delante.

La película imagina un futuro cercano en el que se plantea sustituir a jueces y juezas por un sistema de inteligencia artificial que promete hacer la justicia más rápida, objetiva y menos influida por intereses humanos.

Y la pregunta me parece buenísima porque no tiene una respuesta tan cómoda como parece.

Los humanos tenemos sesgos. Interpretamos. Nos equivocamos. Podemos dejarnos llevar por emociones, prejuicios o intereses.

Pero también hacemos algo difícil de meter en una fórmula: miramos el contexto.

Una probabilidad de reincidencia puede estar construida con miles de datos y ser estadísticamente muy sólida. Pero sigue hablando de personas que se parecen a esa persona. No necesariamente de esa persona.

¿Y qué hacemos entonces con el 18 % restante?

Ahí aparece la empatía. Y también el problema.

Porque la empatía puede ayudarnos a comprender algo que un patrón no ve. Pero también puede equivocarnos. No siempre sentir más significa decidir mejor.

Quizá por eso la película me dejó pensando menos en humanos contra máquinas y más en qué parte de una decisión estamos dispuestos a delegar.

La IA puede ayudar a detectar patrones, recuperar jurisprudencia, comparar casos o estimar riesgos. En California, las evaluaciones de riesgo pueden aportar información al tribunal, pero no están pensadas para sustituir el criterio judicial ni ser la única base de decisión.^[2]

Pero pasar de ayudar a decidir a decidir por nosotros es otra cosa.

No sé dónde está exactamente la frontera.

Lo que sí intuyo es que cuanto mayor sea el impacto de una decisión sobre la vida de alguien, más importante será saber quién responde por ella.

Porque un algoritmo puede calcular una probabilidad. Lo difícil empieza justo después.