Conséquences

Principe de base

L'éthique des conséquences nous invite à juger nos actes sur leurs conséquences. Le philosophe Jérémy Bentham introduit le concept d'utilité, consistant à répertorier toutes les conséquences engendrées par une action et leur attribuer une valeur afin de les additionner. Si cette somme est positive, cela indiquera que cet acte est majoritairement bon, une somme négative indiquera l'inverse. Pour déterminer l'utilité d'une conséquence, il faut se baser sur leur durée, intensité, puretré,...
John Stuart Mill propose d'aller plus loin en instaurant une hiérarchie des plaisirs, certains plaisirs dits "supérieurs" vaudraient plus que les autres et ce sont ces plaisirs qu'il faudrait maximiser. Ainsi, il serait préférable "d'être un homme insatisfait plutôt qu'un porc satisfait" de ses propres mots.
En somme, l'idée est de maximiser le bonheur du plus grand nombre.

Application à notre question

Dans notre cas d’étude, l’IA sera limitée à la prise de décision ou alors l’aide à la prise de décision d’un juge dans le cadre d’un tribunal.
Les seules conséquences qui en découlent seraient donc des changements dans la vie des accusés en positif ou négatif et ce qui en découlerait, ainsi que des changements dans le travail des juges et autres représentants de la loi (le facilitant ou le rendant plus compliqué).

Acteurs et parties prenantes

Evidemment, les accusés et les victimes sont les principales personnes touchées. Dans le cas où l’IA “collabore” avec l’homme pour rendre les jugements, les différents acteurs de la justice pourront aussi être affectés par les décisions prises (avocats, juges, jurés, …). Ensuite, l’entourage des accusés et des victimes peut aussi être impacté. Enfin, les témoins et dans certaines affaires, le grand public sont des parties prenantes possibles en matière de justice.

Actions possibles

• Utiliser une IA qui aide le personnel judiciaire à différents niveaux, notamment en classant les documents nécessaires et en permettant d’y retrouver des informations précises rapidement ou en détectant des traces de fraudes dans ces documents.
• Utiliser une IA qui va plus loin, étant capable d’analyser et de comprendre les enjeux liés aux différentes situations et ainsi rendre une ébauche de jugement, prémâcher le travail des juges ou leur donner des conseils afin de les aider à prendre la décision finale.
• Remplacer les juges par une IA, la machine est capable d’analyser la situation et de rendre un jugement complet et cohérent, la décision finale lui appartient.

Conséquences

Nous allons lister les conséquences des ces trois situations, positives puis négatives afin de calculer le score de chacune.

• La tâche des avocats et des juges serait rendue plus agréable, ils n’auraient plus à éplucher des montagnes de documents pendant des heures. Nous pensons que dans ce type de tâches, les ordinateurs sont plus performants car ils sont plus systématiques et ne sont pas sujets aux erreurs d'inattention, la recherche d’éléments pouvant enrichir la décision serait alors plus efficace. Enfin, cela accélérerait l’ensemble des procédures de justice.
  Cependant, cela pourrait engendrer un relâchement et donc des omissions au niveau de l’analyse de chaques affaires.
  3 - 1 = 2
  
• L’IA pourrait aider le juge s’il est passé à côté de certains éléments importants ou au contraire le conforter dans son idée afin qu’il puisse prendre sa décision en confiance.
  Par ailleurs, si jamais la machine, pour une raison quelconque, venait à rendre un jugement peu adapté, elle pourrait influencer le juge à s’orienter, au moins en partie, dans sa direction.
  2 - 1 = 1
  
• Les jugements seraient grandement accélérés. Les décisions seraient plus objectives et cohérentes entre elles (en considérant que la machine est optimisée).
  De nombreux emplois seront supprimés à cause de l’IA. De plus, il serait plus simple de remettre en cause les décisions et faire appel car les raisons qui poussent l’IA à faire un choix sont souvent difficiles à comprendre.
  2 - 2 = 0

Nous avons choisi de nous baser sur le point de vue de Bentham, qui consiste à simplement maximiser l’utilité globale sans différencier les types de plaisirs. Nous avons donc additionné les conséquences positives et soustrait les négatives, chacune ayant un poid de 1. Ainsi, la meilleure option serait la première.