L’IA ne peut pas rendre justice

🎙️ Vous pouvez écouter cet article au format podcast.

IA partout. Où que l’on regarde, les tribunaux sont surchargés. Plutôt que de former et d’embaucher du personnel, de nombreux gouvernements préfèrent déléguer des tâches à des IA. En Chine, un système augmente la productivité des juges de 50 % en préparant les audiences à leur place. En Argentine, les magistrats de Buenos Aires vont bientôt pouvoir faire écrire leurs jugements par une IA. Le ministre de la justice turc veut de l’IA partout. Et la cour suprême indienne vient de casser deux jugements écrits par des IA.

En Belgique, la coalition au pouvoir prévoit (p. 156) d’introduire un outil d’évaluation automatique de la récidive. En France, le système DataJust, qui devait automatiquement calculer l’indemnisation en cas de préjudice corporel, est entré en service en 2020. Il a été arrêté en 2022 mais le gouvernement ne renonce pas pour autant à l’IA. Le système Astrée permet aux policiers de rédiger automatiquement certains éléments du contentieux en droit des étrangers. Le Canada utilise un système similaire, qui ne fonctionne d’ailleurs pas très bien. (On est là au ministère de l’intérieur et non pas de la justice, mais il ne fait aucun doute que l’augmentation des volumes à traiter sera utilisée pour justifier d’une automatisation des jugements eux-mêmes).

Juges rationnels. Pour Manuela Cadelli, juge au tribunal de Namur et autrice de l’excellent livre Justice et IA publié l’année passée, le jugement ne peut pas être automatisé. Elle explique que la vérité judiciaire ne peut émerger que par le débat, par l’examen de la situation individuelle des prévenu·es et des témoins.

Les systèmes automatiques gomment toute individualité et ramènent les prévenus à une identité de groupe, déterminée par les concepteurs des programmes informatiques utilisés. L’algorithme espagnol TVR, censé établir la dangerosité d’un détenu, considère par exemple que les étrangers sont deux fois plus dangereux que les Espagnols – toutes choses égales par ailleurs. Même si ces outils sont présentés comme des aides, les juges ne peuvent facilement s’opposer à leur diagnostic. Non seulement les humains ont tendance à trop faire confiance aux ordinateurs (c’est le « biais d’automatisation »), mais passer outre l’avis de la machine peut coûter cher en cas d’erreur.

Juges automates. À l’inverse, se tromper avec la machine n’est pas un problème – pour la personne qui prend la décision, pas pour celle qui la subit. La figure du « juge automate » n’est pas nouvelle. Certains penseurs des Lumières, comme Montesquieu, voyaient dans l’institution judiciaire la courroie de transmission du législateur. Toute interprétation du droit était interdite. Cette vision n’a pas résisté à la pratique et, dès les premières années du 19^e siècle et les débuts de l’État de droit, les juges ont été encouragés à adapter la loi aux situations particulières.

Pourtant, des voix à l’extrême-droite continuent de réclamer des juges « bouches de la loi ». Pour eux, la numérisation totale du réelle, qui supprime toute les ambiguïtés nécessaires à la compréhension d’un évènement, est souhaitable car elle empêche l’empathie. Les jugements automatiques ne sont pas seulement moins chers, ils font sauter le principal contre-pouvoir du gouvernement.

Miséricorde. Si l’IA peut détruire l’équilibre institutionnel, comme l’écrit Manuela Cadelli, pourquoi voit-on si peu de résistance à son utilisation ? Peut-être que, pour les justiciables, il n’y a finalement pas de grande différence entre la vérité rationnelle du juge et la vérité révélée d’une IA générative. Peut-être que les lenteurs et la complexité du système judiciaire tel qu’il est ont déjà détruit la confiance que les citoyen·nes doivent y placer pour que fonctionne l’État de droit.

L’IA ne serait plus alors la cause de la déréliction de la justice, mais sa conséquence. On reviendrait à une justice non plus fondée sur le droit comme c’est le cas depuis un peu plus de deux siècles, mais à une justice fondée sur la grâce. Une justice rendue au bon vouloir du seigneur et où la loi n’est plus qu’une spectatrice. Ce retour vers la justice de la monarchie absolue n’est pas qu’une hypothèse. La juriste Bernadette Meyler ouvre par exemple son livre sur la grâce au 17^e siècle par… la pratique de Donald Trump. Si la justice automatisée ressemble en théorie à la justice prémoderne, il y a une différence notoire. Le roi, sous son chêne, peut parfois faire preuve d’empathie. La machine, jamais.