Pot ser justa una probabilitat?

Fa poc vaig veure Justicia artificial, de Simón Casal, i hi ha una escena ben senzilla que no em vaig poder treure del cap.

Una jutgessa té al davant una persona que ha de jutjar. Escolta, observa, intenta entendre. Al seu costat, una pantalla fa una altra cosa: calcula.
82 % de probabilitat de reincidència.^[1]

I aquí em vaig quedar.

Perquè reconec que, de vegades, quan veig algunes decisions humanes, penso —mig de broma, mig seriosament— que potser els robots ens governarien millor. No es cansen, no tenen un mal dia, no es deixen portar per simpaties i poden processar quantitats d’informació impossibles per a nosaltres.

Sona temptador.

Fins que aquest 82 % té una persona al davant.

La pel·lícula imagina un futur proper en què es planteja substituir jutges i jutgesses per un sistema d’intel·ligència artificial que promet una justícia més ràpida, objectiva i menys influïda per interessos humans.

I la pregunta em sembla molt bona perquè la resposta no és tan còmoda com sembla.

Les persones tenim biaixos. Interpretem. Ens equivoquem. Ens podem deixar portar per emocions, prejudicis o interessos.

Però també fem una cosa difícil de posar en una fórmula: mirem el context.

Una probabilitat de reincidència pot estar construïda amb milers de dades i ser estadísticament molt sòlida. Però continua parlant de persones que s’assemblen a aquella persona. No necessàriament d’aquella persona.

I què fem, doncs, amb el 18 % restant?

Aquí apareix l’empatia. I també el problema.

L’empatia ens pot ajudar a entendre alguna cosa que un patró no veu. Però també ens pot fer equivocar. Sentir més no sempre vol dir decidir millor.

Potser per això la pel·lícula em va fer pensar menys en persones contra màquines i més en quina part d’una decisió estem disposades a delegar.

La IA pot ajudar a detectar patrons, recuperar jurisprudència, comparar casos o estimar riscos. A Califòrnia, les avaluacions de risc poden aportar informació al tribunal, però no estan pensades per substituir el criteri judicial ni ser l’única base de la decisió.^[2]

Però ajudar a decidir i decidir per nosaltres són coses diferents.

No sé on és exactament la frontera.

El que sí que intueixo és que, com més impacte té una decisió en la vida d’algú, més important és saber qui n’assumeix la responsabilitat.

Un algoritme pot calcular una probabilitat. El més difícil comença just després.