Une probabilité peut-elle être juste ?

J’ai récemment vu Justicia artificial, de Simón Casal. Une scène toute simple m’est restée en tête.

Une juge doit rendre une décision au sujet d’une personne. Elle écoute, observe, essaie de comprendre. À côté d’elle, un écran fait autre chose : il calcule.
82 % de risque de récidive.^[1]

Et je me suis arrêtée là.

Je reconnais que, devant certaines décisions humaines, on peut se dire —à moitié pour rire, à moitié sérieusement— que des robots nous gouverneraient peut-être mieux. Ils ne se fatiguent pas, n’ont pas de mauvaise journée, ne se laissent pas guider par leurs sympathies et peuvent traiter une quantité d’informations qui nous dépasse.

La proposition est tentante.

Jusqu’à ce que ces 82 % se retrouvent face à une personne.

Le film imagine un avenir proche où l’on envisage de remplacer les juges par un système d’intelligence artificielle qui promet une justice plus rapide, plus objective et moins influencée par les intérêts humains.

La question me plaît justement parce que la réponse n’est pas aussi confortable qu’elle en a l’air.

Nous avons des biais. Nous interprétons. Nous nous trompons. Les émotions, les préjugés ou les intérêts peuvent nous influencer.

Mais nous faisons aussi quelque chose de difficile à mettre en formule : nous regardons le contexte.

Une probabilité de récidive peut s’appuyer sur des milliers de données et être statistiquement solide. Mais elle parle encore de personnes qui ressemblent à cette personne, pas nécessairement de cette personne.

Que faire alors des 18 % restants ?

L’empathie entre en jeu. Et avec elle, le problème.

Elle peut nous aider à comprendre ce qu’un motif ne voit pas. Mais elle peut aussi nous induire en erreur. Ressentir davantage ne conduit pas toujours à mieux décider.

Le film m’a peut-être moins fait penser à une opposition entre humains et machines qu’à la part d’une décision que nous sommes prêts à déléguer.

L’IA peut aider à repérer des régularités, retrouver de la jurisprudence, comparer des affaires ou estimer des risques. En Californie, les évaluations du risque peuvent éclairer le tribunal, mais elles ne sont pas censées remplacer le jugement judiciaire ni constituer l’unique fondement d’une décision.^[2]

Mais aider à décider et décider à notre place sont deux choses différentes.

Je ne sais pas exactement où se situe la frontière.

J’ai l’intuition que plus une décision pèse sur la vie d’une personne, plus il est important de savoir qui en répond.

Un algorithme peut calculer une probabilité. La difficulté commence juste après.