La technologie guidant le peuple :
L'IA et les caméras de surveillance en Chine

Éthique


Eudémonisme


L’eudémonisme (pour Aristote) est une éthique dont le but ultime est le bonheur, que l’individu atteindra au travers de la vertu : en effet, c’est en étant vertueux, c’est-à-dire en agissant sans aucun excès, que l’homme peut atteindre l’équilibre précaire du bonheur. Il faudra donc veiller à être courageux, sans être téméraire ni lâche, à être humble, sans être orgueilleux ni effacé ou encore à promouvoir la vérité, et non le mensonge ou la retenue. Puisque l’homme est le point central de l’eudémonisme, et que chaque homme est différent, chacun va déterminer pour lui-même quel est le bon milieu entre les 2 vices.

Une manière concrète pour l’Homme de devenir vertueux est de se demander quel type, quel genre de personne il veut être, et en fonction de sa réponse, choisir une figure emblématique, un modèle à suivre afin d’agir comme ce dernier.

Mise en application de l’éthique des vertus à la thématique posée

Si on applique cette éthique pour répondre à la question précédemment citée, nous nous devons de définir l’acteur principal de l’application du crédit social et d’analyser toutes les vertus mises en cause dans cette application.

Il semble évident que le seul acteur ayant réellement un rôle dans notre cas est le gouvernement ou la police, ou toute personne ou entité qui va mettre en place et utiliser ce crédit social. Le gouvernement est en effet l’acteur principal, mais tous les services et les entreprises qui vont utiliser ce crédit social sont aussi à prendre en compte, puisqu’ils vont eux aussi agir en fonction du nombre de points de leur client.

Ensuite, la première vertu à considérer est la Sécurité et l’Ordre. En effet, le gouvernement pourrait appliquer ce système de surveillance en prônant la sécurité des citoyens et l’application des lois, mais sans tomber toutefois dans les excès : il faudrait éviter l’anarchie et un manque de sécurité, mais aussi éviter de surprotéger la population et de la contrôler. Dans ce cas de figure, on peut avancer qu’aujourd’hui, c’est à dire sans ces caméras et sans le système de crédit social, l’insécurité en Chine est parfois flagrante, que les autorités peinent à faire régner l’ordre. En appliquant ce système de points et de surveillance, le gouvernement aurait plus de facilité à réprimer la criminalité et à punir les délits. Toutefois, appliquer cette technologie en permanence pourrait mener à d’importants abus: même si l’excès de sécurité n’est généralement pas un problème, l’excès d’ordre et de respect des lois pourrait l’être, puisque la population ne pourrait plus s’exprimer correctement. Comme le dit la citation de Charles de Gaulle, “La parole du peuple, c’est la parole du souverain”, il faudrait donc tout de même permettre au peuple de s’exprimer et de ne pas être muselé comme par exemple à l’armée, où l’ordre règne, mais pas la liberté d’expression. La législation d’un pays reste rarement la même au cours du temps, même si parfois plusieurs années passent avant que cette dernière soit changée, et forcer le peuple à appliquer une loi alors obsolète semble illogique.

Une autre vertu qui devrait être prise en compte est celle du respect de la vie privée et de la liberté individuelle. Aujourd’hui, comme le sujet est très récent, il n’existe que peu de lois, et elles sont souvent mal utilisées (par exemple la RGPD (Règlement Général sur la Protection des Données) qui empêche l’utilisation des images de caméras de surveillance, même en cas de délit). Dans notre situation, le gouvernement doit trouver le juste milieu entre trop et trop peu de liberté. On pourrait affirmer que dans la situation actuelle, la vie privée et la liberté d’expression en Chine sont très limitées, et donc la question se pose directement : est-ce vertueux ou pas de priver la population de presque toute sa liberté? Si l’on suit l’exemple de Gandhi, la figure emblématique de la paix qui a milité pour la liberté de son peuple, on peut se dire que du point de vue de l’eudémonisme, limiter la vie privée de la population n’est pas une bonne idée.

Pour résumer, même si la sécurité pourrait être améliorée, le respect de la vie privée est une valeur extrêmement importante, et l’application du crédit social va à l’encontre de cette valeur, c’est pourquoi selon l’eudémonisme, le crédit social ne devrait pas être appliqué.

Déontologisme


Le déontologisme selon Kant, autrement appelée éthique des devoirs, affirme que chaque action humaine doit être jugée selon sa conformité (ou sa non-conformité) à certains devoirs, et élève donc le devoir comme seul but d'existence de l’humanité. Selon Kant, nous avons le devoir d’agir selon une loi morale absolue et universelle, ce qui, au sens déontologique, signifie plusieurs choses:

Mise en application de l’éthique des vertus à la thématique posée

L’application de cette éthique à notre thématique entraîne plusieurs point délicats, surtout au niveau des personnes instaurant les règles du crédit social. En effet, un des points clés du déontologisme est d’agir selon la motivation par la recherche non pas uniquement du bien être personnel mais aussi de celui des autres. Ceci voudrait dire que la personne ou institution chargée de rédiger les règles et pénalités du système de points devrait avant tout agir selon l'intérêt du peuple, sans mettre en avant des lois visant à favoriser ses propres fins.

En suivant à la lettre les bases de cette éthique, on pourrait même dire, que pour être conforme à cette dernière, le système ne devrait pas prévoir de pénalités(quelles qu’elles soient), puisqu'elles mineraient le bonheur des autres. Il faudrait alors revoir le système afin de récompenser ceux n’enfreignant pas les règles au lieu de punir les transgresseurs. De plus, selon Kant, toute action doit être universalisable, et donc la personne au pouvoir doit également être prête à se soumettre au système, sans privilèges particuliers, et respecter chacune des règles de celui-ci. Toutefois, l’histoire nous montre que les gouvernements respectent très rarement les deux conditions précédemment citées. Par exemple, en Chine, le crédit social est déjà utilisé comme technique de censure et/ou pour prévenir toute rébellion, ce qui est bien évidemment à l’idée de Kant puisque la liberté d’expression contribue au bonheur du peuple. De plus, puisque le gouvernement décide des lois, il décide de ne pas s’impliquer dedans et possède la liberté absolue, ce qui est en opposition avec le déontologisme

Afin que le crédit social soit éthique du point de vue déontologique, il faut donc que l’écriture des lois se fasse en visant le bien-être des autres, de telle façon que chacune de celles-ci soit universalisable et que le système se base sur un mécanisme de récompenses au lieu que de pénalités.

Conséquentialisme - Contexte


Selon Jeremy BENTHAM, l’essence même de l’éthique des effets réside sur deux piliers principaux : La peine et le plaisir. Dans son optique, l’Homme vise à agir tant en minimisant ses douleurs d’une part qu’en maximisant son bonheur d’autre part de sorte que le bilan résultant soit le plus grand possible.

En outre, il aborde les notions de pondération suivant divers facteurs, de transitivité, de modération et de commensurabilité entre peine et plaisir, et entre individu. Tant de paramètres que nous tenterons au travers de notre analyse d’en justifier quelques unes ou, a contrario, de les remettre en question.

Néanmoins, BENTHAM restreint déjà ses observations en adoptant également une vision universaliste dans laquelle tout individu est égal et traité de la même façon. Autrement dit, chaque personne possède le même poids face à une décision.

En guise d’illustration, si une centaine de citoyens doit voter pour une loi, il n’y aura pas un vote en particulier qui possède une plus grande importance qu’un autre. En d’autres termes, ça sera la majorité qui l’emportera.

Par ailleurs, avant d’aborder le vif du sujet, il est sans doute important de relever que BENTHAM a aussi énoncé quatre hypothèses supplémentaires dans sa conception des plaisirs et des peines que nous nous efforcerons d’appliquer dans la mesure du possible :

  1. "Seuls les plaisirs personnels (égoïstes) sont à prendre en compte (pas de plaisirs au niveau d'une famille, d'une communauté, …)."
  2. "Les facteurs de pondération (proximité, durée, …) sont ignorés."
  3. "Seuls les plaisirs matériels de la jouissance sont considérés (pas les plaisirs de l'esprit, des relations, de l'art, …)."
  4. "Il est nécessaire d'identifier un médium de comparaison : Bentham propose l'argent."

En conclusion, en vertu de cette philosophie, l’objectif de notre travail consistera à effectuer une introspection des différents acteurs impliqués dans la thématique étudiée à la vue des notions établies par BENTHAM en insistant sur sa vision conséquentialiste et universaliste de l’Homme.

Mise en application de l’éthique des vertus à la thématique posée

En appliquant l’éthique des effets à notre sujet, nous pouvons déjà faire un parallèle entre peine/plaisir et les malus/bonus liés au crédit social. En effet, la notion de pouvoir accéder à des privilèges pourrait être une source de bonheur ou de satisfaction (comme avoir des réductions) tandis que l’interdiction de quelques droits pourrait porter préjudice et nous procurer un certain désagrément (comme ne plus avoir accès aux transports aux communs ou ne plus pouvoir acheter de maisons).

Dans ce système de crédit social, l’être humain, de manière rationnelle, aura sans doute tendance à vouloir augmenter son score et à éviter d’en perdre tout comme cette notion de maximisation du bonheur et de minimisation des douleurs évoquée par BENTHAM. Une attitude que l’on pourrait caractérisée de monodirectionnelle.

Concernant les notions de pondérations, nous pouvons noter que la transitivité et la commensurabilité seraient d’application dans le sens où l’accès aux privilèges est classé suivant un nombre de point requis en fonction du comportement des habitants qui sont évalués et chiffrés par des algorithmes.

En outre, il est important de remarquer que ce système de crédit social suit la vision universaliste suivant BENTHAM étant donné que chaque individu est a priori considéré de manière égale face aux sanctions détectées par les caméras de surveillance. Autrement dit, tout individu est poussé à respecter la loi sans aucune exception.

Par conséquence, en lien avec les quatre hypothèses émises par BENTHAM, nous pouvons avancer; premièrement, que ce régime tend d’une certaine manière vers l’individualisme et donc aux plaisirs personnels ; deuxièmement, que les facteurs de pondérations sont potentiellement à prendre en compte ; troisièmement, que ce ne sont qu’essentiellement des plaisirs matériels et entre autres des services qui sont accordés ou non ; quatrièmement, que le médium de comparaison des plaisirs et douleurs se situe au niveau des points octroyés et des bonus ou malus qui sont en rapport avec l’argent tels que les amendes, les réductions de factures, etc.

En somme, la perception suivant BENTHAM concorde avec de nombreux aspects concernant notre thématique de part son côté conséquentialisme, où les actes de la population sont soit sanctionnés soit récompensés, et de part son côté universaliste, où tout individu est identique vis-à-vis de ce système.