Au terme de ce travail, passant tout d’abord par la documentation qui s’ensuit par des interviews pour finir sur la complétion d’un débat, chaque étape aussi enrichissante les unes que les autres, nous avons pu relever plusieurs pistes à nuancer qui nous semblent pertinentes dans la réflexion de l’éthique qu’implique l’utilisation des caméras de surveillance et de l’IA pour évaluer les comportements des habitants en fonction des lois en vigueur dans leur pays.
La première, le plus considérable, concerne la vie privée. Toutes nos sources convergent sur le fait que ces technologies auront un impact important et négatif sur la vie privée puisque la population sera identifiée et analysée en permanence. Cependant, elles seraient sans aucun doute utiles pour retrouver des personnes disparues et particulièrement les enfants disparus.
La deuxième piste aborde le sujet de la sécurité. Contrairement au point précédent, ces mesures pourraient être bénéfiques pour la sécurité, puisque la présence de caméras et de sanctions pourraient dissuader les crimes, et même permettre d’arrêter plus rapidement des malfaiteurs. Néanmoins, il ne faut certainement pas négliger le fait que la cybercriminalité risque notablement d’augmenter.
Un autre point concerne la liberté individuelle de penser et d’agir. Celle-ci pourrait être sévèrement atteinte étant donné que la surveillance est d’autant plus renforcée ce qui impactera inévitablement notre libre arbitre même si cette surveillance vise à respecter les lois. Dès lors, la population sera amenée à suivre une certaine norme plus stricte jusqu’au risque qu’elle ne se comporte comme des robots.
Ensuite, un quatrième facteur est le risque d’abus de pouvoir venant du gouvernement. Le risque d’omnipotence et de contrôle absolu est plutôt élevé. Malgré tout, ce pouvoir pourrait se justifier dans les pays en surpopulation où la gestion du pays serait plus aisée.
Le cinquième point abordé est celui de devenir un meilleur citoyen. Vérifier toutes les actions de la population et distribuer des récompenses ou des malus pourrait conscientiser plus fortement la population sur les conséquences encourues liées à leurs faits et gestes. Toutefois, les lois en vigueurs ne sont pas forcéments justes, ce qui pourrait donc produire l’effet inverse de celui escompté. De plus, cette technologie pourrait pousser la population à un certain individualisme où chacun n’étant plus préoccupé que par ses points.
La sixième piste qui dérive du point précédent est qu’une pression sociale plus accentuée peut émaner au sein de la population. En effet, ce système nous inciterait à faire le bien et les citoyens peuvent être menés à vouloir se dépasser, à agir le mieux possible tout en évitant de perdre des points. Ce comportement peut dériver et tourner à l’obsession étant donné que les habitants risquent d’avoir honte du fait que les mauvais comportements sont dénoncés et dévoilés aux grands publics sans aucune censure.
La dernière piste concerne l’absence de facteur humain dans le processus de jugement. En effet, l’identification de l’infraction et des personnes incriminées est automatique, et une absence de vérification humaine pourrait être problématique, puisqu’on ne peut se plaindre à une machine en cas d’erreur de la part de cette dernière. Dès lors, elle serait plutôt utile en cas d’aide à la décision comme étant un support.
Sur le papier, le crédit social semble vraiment intéressant, avec ses avantages nombreux sans compromis pour les personnes respectant les lois. Toutefois, de nombreuses dérives existent en réalité, il semble impossible de l’appliquer directement à un état.
Un système de cotation similaire existe et est appliqué actuellement par les compagnies d’assurance (payer plus cher son assurance si on est à risque), et la question à se poser est la suivante: Pourquoi personne ne s’en préoccupe? Deux hypothèses peuvent être avancées : soit parce que les gens sont d’accord avec cette idée dans ce cadre particulier (tant qu’il n’y a pas d’abus), soit parce que les gens s’y sont habitués. Dans les deux cas, on peut se demander pourquoi nous ne pourrions pas voir un jour un système de la sorte être appliqué à d’autres choses, dans des cadres restreints de la vie de tous les jours.
Si toutefois nous voulons appliquer le crédit social à un état, une solution envisageable serait d’instaurer des comités d'éthiques lors de la création de ces algorithmes. Malgré cela, le risque de dérives reste élevé et pourra poser problème.
Nous pensons qu’au final rien ne pourra stopper indéfiniment la technologie et qu’elle supplantera inévitablement l’Homme ce qui engendra une perte d'emplois dans divers secteurs. Les caméras intelligentes font déjà partie de notre quotidien et ont déjà fait leurs preuves de bien des façons. Là où le débat reste plus incertain concerne le crédit social. Tout ne peut pas se justifier avec des chiffres et le fait de réduire les gens à des cotes issues d’algorithmes mathématiques choisis par un comité restreint semble en totale contradiction avec la liberté individuelle, même si le crédit social prône la sécurité et le vivre ensemble.