Aujourd’hui, trois quarts du marché de la vidéo-surveillance combinée à la reconnaissance faciale appartient à la Chine. Cette technologie est utilisée notamment dans les lieux publics où les piétons sont réprimandés d’une part, en étant affichés aux grands publics sur des panneaux et d’autre part, par une amende d’environ 3€ lorsqu’ils ont traversé aux feux rouges. Par ailleurs, une autre utilisation insolite que nous pouvons relever parmi d’autres est d’éviter le vol abusif de papier hygiénique dans les toilettes publiques ou encore de payer par reconnaissance faciale par l’intermédiaire d’une caméra 3D qui assure que les clients ne puissent usurper un compte à l’aide d’une simple photo.
Une des conséquences positives, rapportée par les médias officiels, de cette décision d’instaurer des caméras dotées d’intelligence artificielle est qu’ils ont pu arrêter grâce à ce nouveau système un total de 2000 fugitifs dans une période de deux ans. Sans compter qu’un journaliste de la BBC a pu vérifier la véracité de ces faits en mettant au défi la police de le retrouver uniquement sur base d’une photo. Il est à noter qu’il a fallu seulement sept minutes afin que les caméras de surveillance puissent le localiser et envoyer les forces de l’ordre partir à sa recherche. En outre, l’objectif de la Chine, d’un point de vue technologique, est de pouvoir scanner l’entièreté de la population chinoise (autrement dit près de 1,4 milliard d’habitants) en une seule seconde sachant que statistiquement la machine peut éventuellement faire 1 erreur sur 100.000 contre 1 erreur sur 1000 pour un être humain !
Concernant l’avis de la population chinoise, cette pratique ne semble pas poser de problème à la majorité des personnes pour autant qu’elle permette de faire respecter la loi. Dès lors, cet état d’esprit émanant du public démontrerait que la Chine est moins préoccupée par l’éthique à propos de la vie privée, ce qui justifierait cette avancée technologique aussi rapide dans le pays. En effet, nous pouvons relever dans un reportage de Francetvinfo qu’un jeune citoyen chinois a cité : « l’atteinte à la vie privée, c’est le prix à payer pour notre sécurité ». De plus, un autre argument évoqué s’axe sur la surpopulation de la Chine qui sera d’autant plus facile à gérer grâce à la reconnaissance faciale qui va avertir immédiatement la police en cas de problèmes.
A contrario, il est important de mentionner que certains n’osent pas hausser la voix contre ce « totalitarisme numérique » au risque d’être arrêtés par les autorités et d’en payer les frais d’avoir une opinion différente au sujet de ce pouvoir d’omniscience aux mains du gouvernement. Un dissident écrivain, Xuecun Muron, a commenté : « Malheureusement, le gouvernement ressemble de plus en plus à Dieu. Il peut tout savoir et il est de plus en plus puissant. »
Par ailleurs, nous pouvons également citer un autre point de vue, celui de Tristan Nitot, ancien président de Mozilla Europe, qui estime qu’être surveillé altère inévitablement notre attitude qui tend vers une certaine normalité.
En somme, cet essor dans le progrès de l’intelligence artificielle permettrait donc au Parti Communiste chinois d’avoir, d’une certaine manière, une meilleure emprise sur divers aspects tels que la vie politique, sociale ou encore économique du pays.
L’instauration de la reconnaissance faciale au sein des caméras de surveillance amène le pays progressivement vers un régime régi par un système de crédit social. En d’autres termes, les citoyens se voient attribuer des bonus ou des malus en fonction de leurs comportements qui sont évalués et classés sur base de critères gardés secrets aux yeux du public.
En guise d’illustration, d’une part, des privilèges qui peuvent être accordés et d’autre part, les interdictions :
Néanmoins, un certain caractère arbitraire peut exister dans ce système dénoncé par Human Rights Watch. En effet, lors d’un déplacement professionnel en 2016, l’avocat Li Xiaolin a tenté d’utiliser sa carte d’identité afin d’acheter son billet d’avion de retour. Cependant, il se voit étonnamment refuser l’accès et apprend qu’il avait été mis sur une « Black List » en 2015 sans avoir été prévenu même si ces listes noires sont accessibles par internet. En résumé, les défenseurs des libertés publiques ne sont pas particulièrement adeptes à ce système qui réside sur le principe du «name and shame » où les gens doivent avoir honte de leurs « mauvais » comportements et ne peuvent que reconnaître leur tort.
Afin d’étoffer nos recherches, nous avons réalisé dans un premier temps une enquête auprès d’un échantillon réduit de la population (17 personnes interviewées) mais en prenant soin de bien représenter toutes les générations, puis dans un second temps, nous avons interrogé trois professeurs spécialisés dans les technologies et un professeur d’éthique.
Lors de notre enquête destinée au grand public, nous avons commencé par introduire les deux grands points de notre problématique (les caméras et l’intelligence artificielle, ainsi que le crédit social). Puis, nous avons continué en les questionnant à propos de leur ressenti vis-à-vis des caméras. Pour finir, nous les avons soumis à de petits dilemmes concernant l’application du crédit social afin de déterminer jusqu’à quel point les interrogés seraient prêts à accepter cette évaluation de la population.
Ensuite, nous avons posé aux spécialistes en technologie nos interrogations quant à la possibilité technique, à l’heure actuelle, de réaliser et de mettre en place tout ce système, puis nous leur avons demandé leur avis personnel. Enfin, nos questions adressées au professeur d’éthique visaient surtout l’impact des caméras et du crédit social sur la population.
Afin de connaître l’avis du grand public à propos de cette thématique, nous avons réalisé une enquête sur un échantillon de 17 personnes de milieux variés. Notre enquête se divisait en deux parties distinctes, l’une abordant l’aspect technologique des caméras dans les lieux publics et l’autre touchant le crédit social.
Dans cette première partie, nous leur avons tout d’abord posé des questions abordant la sécurité, et les avis concordaient en affirmant que mettre des caméras dans les lieux publics pouvait dissuader les criminels de passer à l’acte. Ce système pourrait, selon les interrogés, traquer des malfaiteurs ou permettre de revoir un accident pour déterminer si un conducteur est en tort.
De plus, tous les participants ont trouvé que cette technologie pourrait être très utile lors d’événements graves, comme par exemple après un attentat.
Concernant la sensation de sécurité, deux arguments opposés ont divisé les interrogés : ces caméras peuvent à la fois être un facteur rassurant, puisqu’on sait que les malfaiteurs vont hésiter avant de commettre un méfait, mais peut aussi au contraire apporter une sensation d’insécurité puisque les caméras sont souvent placées dans des endroits à risque, où la criminalité est la plus forte.
Nous avons continué le questionnaire en parlant de la vie privée, et ici, les avis étaient très mitigés. Certains affirmaient que puisqu’ils ne faisaient rien d’illégal, ça ne les dérangeait pas d’être filmés tant que les données ne sont utilisées que lors de cas spécifiques (c’est-à-dire lors de crimes, et non pas en permanence). Tandis que les autres parlaient d’une perte de liberté énorme et de grand danger politique dans certains pays, puisque cette technologie pourrait être utilisée comme un outil de surveillance de masse.
Dans la seconde partie, nous avons parlé de l’application du crédit social en abordant, tout d’abord, la question de son impact sur la sécurité. Un peu comme pour l’installation des caméras, les arguments positifs avancent que cela pourrait faire descendre le taux de criminalité, puisque tous les gestes de la population seraient surveillés. Toutefois, une des craintes des interrogés est celle d’une erreur de l’algorithme qui analyse les comportements et détecte les méfaits. De plus, les risques de piratage ou de détournement à des fins politiques rebutent énormément de monde. Enfin, des risques d’humiliation sociale (ex : un individu ayant peu de points et n’ayant accès qu’à peu de privilèges peut devenir la risée des autres) peuvent mener à des dépressions, voire des suicides, ce qui peut affecter la sécurité globale selon les interrogés.
Ensuite, concernant la vie privée et la liberté d’expression, aucun argument positif n’a été cité lors de l’enquête, tous les interrogés étant d’accord que l’impact sur la vie privée sera négatif puisqu’être observé et jugé en permanence est totalement opposé à la définition de la vie privée. De plus, d’après les interviewés, la population va se « formater », les gens vont être forcés à agir de la même façon, à correspondre à un moule bien particulier, et on ne pourrait plus suivre notre instinct (comme par exemple braver la loi pour sauver une vie). Les risques d’utilisation abusive sont, comme dans le point précédent, présents, puisque le gouvernement pourrait décider les actes qui sont bons ou mauvais.
Par après, nous leur avons demandé quel impact final l’application du crédit social pourrait avoir sur la société. Et encore une fois, les avis et les arguments recueillis étaient mitigés. D’une part, se savoir surveillé et chaque action inspectée pourrait pousser la population à se comporter mieux, à forcer les gens à réfléchir à chacun de leurs actes, et les bons citoyens seraient récompensés (ce qui n’est pas forcément le cas aujourd’hui). Par ailleurs, les punitions ou les avantages ne devraient pas être forcément liées à l’argent, afin de ne pas favoriser les citoyens les plus riches. D’autre part, beaucoup de participants ont donné l’argument que la société deviendrait beaucoup plus individualiste et que personne n’aiderait son prochain parce tout le monde serait focalisé par ses points et ses privilèges. De plus, certains avancent que ce système n’est pas sain, que l’infantilisation (système semblable à une classe de l’école maternelle) n’est pas une solution pour éduquer la population.
Pour conclure, peu de personnes sont prêtes à accepter ces technologies pour le moment. Cependant, plusieurs solutions ont été proposées lors de l’enquête afin de rendre le crédit social et le système de caméras et d’intelligence artificielle plus acceptable, comme par exemple ajouter un feedback effectué par un être humain à chacune des décisions à l’encontre de son espèce, ou encore de fixer des limites strictes d’utilisation pour éviter les dérives.
Nous avons également été à la rencontre d’experts dans le champ de l'intelligence artificielle et d'éthique afin d’avoir des avis plus techniques et l’avis de personnes travaillant à strict contact dans ce champ connaissant mieux les conséquences directes qu'un tel système pourrait avoir sur notre société.
Leurs avis face à cette politique de surveillance intensive, effectuée à l’aide de caméras munie de intelligence artificielle et reconnaissance faciale, se rejoignent sous différents points. Ils ont en effet tous évoqué le fait qu’un tel système doit obligatoirement être limité afin de pas envahir excessivement la vie privée des citoyens, et l’importance de la présence d'un facteur humain, autre que l’IA de la caméra pour l’attribution et le retrait de points.
Néanmoins, ils affirment qu'un tel réseau pourrait être utile dans certains cas (suivi de gens fiché S, chasse à l’homme, prévention des attentats, lieu particulièrement dangereux,...). Ils nous ont fait part de leur hostilité à étendre ce contrôle massif au-delà de ces situations spécifiques. En effet, mettre en place une installation semblable à celle de la Chine revient à non seulement suivre et filmer les actions de tout le monde, mais également mettre un nom aux acteurs de celles-ci grâce à la reconnaissance faciale. Il faudrait donc limiter cette capacité des caméras à étiqueter les personnes filmées aux situations de besoin réel. Ceci serait possible grâce à d'autres algorithmes déjà existants permettant d’analyser les comportements de foules afin de les normaliser et détecter des situations anormales ou de danger. Ils ont également évoqué l’importance d’indiquer la présence d'un tel système aux endroits où il est d’application, à l’aide de panneaux.
En ce qui concerne la nécessité de la présence d’un facteur humain pour l’installation du crédit social, celle-ci a été relevée à cause des limitations technologiques des machines. En effet, ces dernières ne prennent pas en compte les raisons pour lesquelles la personne n'a pas respecté la loi. Elle se contentent uniquement sur l’action en elle-même. Afin qu'un tel système soit juste, il faudrait prendre en considération la situation actuelle et les expériences de l’acteur avant de pouvoir le juger, ce qui est actuellement impossible pour un algorithme, sans compter l'énorme quantité d’informations qui devrait être contenue dans les bases de données utilisées pour la reconnaissance faciale. Cependant, à plusieurs reprises, il nous a été abordé le développement incroyablement rapide des technologies de deep learning et des algorithmes d’apprentissage des machines qui rendent impossible les prévisions des capacités de calcul futures des intelligences artificielles.
Plusieurs fois, ils ont également affirmé qu'un tel système n'aura jamais lieu dans notre société comme nous la connaissons aujourd'hui. L’acceptation de cette perte de liberté sous prétexte d'accroître la sécurité des citoyens est fortement liée à l’endroit où on se trouve, comme nous l’ont fait remarquer nos intervenants. Le peuple chinois a toujours été tres obéissant envers le gouvernement et peu sensible au respect de la vie privée. C’est sûrement pour cette raison qu'un réseau de contrôle et le crédit social ont pu se développer aussi rapidement sans rencontrer de réelles oppositions. Cependant, les experts interviewés étaient tous d'accord pour affirmer que ce ne serait pas pareil en Europe. Un tel système serait immédiatement condamné par l’opinion publique et violerait le RGPD (Règlement Général de la Protection des Données).
Au sein du débat animé dans le cadre du cours d'éthique, nous avons pu recueillir un grand nombre d’idées et d'avis. Voici les principaux :
L’acceptation partielle du système et la nécessité d’imposer des limites à celui-ci ont été citées, comme par exemple limiter la présence de caméras aux endroits publics. Cependant, même avec cette limitation, il reste un sentiment d’atteinte à la vie privée et la peur que des personnes mal intentionnées puissent avoir accès à nos déplacements et données personnelles : soit directement (si c’est une personne au pouvoir), soit par hacking externe du système. Sans compter la méfiance aux égards du gouvernement qui, grâce au crédit social, pourrait augmenter davantage son pouvoir de contrôle et manipuler le système d’évaluation à ses propres intérêts.
Malgré l’évocation de ces points, certains défendaient quand même le projet en faisant remarquer que nous pouvons trouver des problèmes et des dérives presqu'à toute innovation. Nous ne pouvons donc que nous préparer à ceux-ci et prendre en compte les aspects positifs. L’utilisation des algorithmes pour évaluer les personnes en fonction de leur comportement permettra en effet de savoir si quelqu’un est digne de confiance ou pas, ce qui peut nous éviter des mauvaises surprises dans certaines situations (ex : éviter de louer des appartements à quelqu’un qui a l’habitude de ne pas payer le loyer).
Un autre aspect essentiel ressorti du débat est la nécessité de la présence d’un aspect humain dans l’évaluation des actions pour le système de points étant donné qu'un algorithme analysera de façon froide et méthodique les actions de tous sans faire attention aux contextes dans lesquelles celles-ci ont eu lieu. On ne prend pas en compte le passé et le milieu social de la personne, ni les raisons pour lesquelles elle fait l’action. Il faudrait donc adapter le jugement à chacun, mais aussi au pays dans lequel on se trouve, en fonction des lois et traditions présentes.
Finalement, les sanctions trop importantes ont été critiquées, comme le fait d'empêcher une personne avec un bas score de louer un appartement. Ceci pourrait amener à une augmentation de la criminalité chez ces personnes, plutôt que de les encourager à accroitre les bons points pour retrouver une stabilité dans leur vie.
Á la fin du débat, une très grande majorité s’est montrée favorable au système de caméra intelligente, mais seulement une petite partie au crédit social. Ceci montre un peu jusqu'où on est prêt à sacrifier notre vie privée et notre liberté afin d’avoir plus de sécurité.
En conclusion, le système de surveillance avec des caméras intelligentes semble envisageable, à condition de ne pas atteindre nos espaces privés. Cependant, même les espaces publics sont parfois délicats, par exemple, on ne veut peut-être pas montrer qu’on va dans certains endroits publics, comme le CPAS). De plus, le fait de savoir qu'être surveillé en permanence, sans savoir qui nous regarde, peut être dérangeant. La grande différence avec les caméras actuelles, c’est que dans les surveillances d'aujourd’hui, la vision des enregistrements n'est uniquement destiné que pour les vérifications en cas de problème. Alors que dans le système chinois, le peuple est observé de manière continue.
En ce qui concerne le crédit social, les avis sont beaucoup plus négatifs. Les principaux reproches concernent le fait de ne pas prendre suffisamment en compte la situation des personnes; de mettre tout le monde dans le même sac; de ne pas permettre à ceux ayant commis une erreur de se racheter facilement et de se réintégrer dans la société; de pas respecter les Droits de l’Homme en niant certains droits de base (comme l’accès à la santé) aux « criminels ».