La morale désigne les mœurs, un ensemble de règles de conduite considérées comme bonnes de façon absolue. L'éthique, quant à elle, sert de réflexion sur la morale. La morale dit par exemple : « il ne faut pas tuer » alors que l'éthique demande : « pourquoi ne faut-il pas tuer ? » Plus généralement, elle pourra se demander : comment définir une action bonne, qu'est-ce qui fait qu'une action est morale ?
On peut postuler que l’action qui est moralement bonne est une action qui se conforme aux règles et aux lois. Celle-ci dit qu’il ne faut pas tuer. Mais déterminer si cette action est moralement bonne n’est peut-être pas aussi simple que cela. En effet est-ce vraiment la conformité aux règles qui fait qu’une action est moralement bonne ? [4] Est-il moral d'obéir à cette loi ? S'il est illégal de ne pas y obéir, il est peut-être moral de ne pas y obéir (car conforme à la déclaration des droits de l'homme : tous les hommes sont égaux en droit). La morale correspond plus à une idée, à un idéal. Elle se veut également absolue et non relative. Mais si l'action bonne moralement est donc celle qui n'est pas strictement conforme aux règles/lois, alors, quelle est-elle ?
Nous allons étudier un problème éthique contemporain dans le domaine de l'IA et des NTIC et les réponses apportées par trois grands courants éthiques qui sont : l'Eudémonisme, le Déontologisme et l'Utilitarisme. Ci-dessous, une description de ces courants de pensées et de leur fondateur :
La collecte des données personnelles peut relever une multitude de questions éthiques. Dans le cadre de ce travail, nous allons en traiter deux et aborder les problématiques de nombreuses autres.
Le concept de bulle de filtrage a été utilisé pour la première fois par le militant d'internet Eli Pariser. Selon lui, ce terme désigne principalement deux problèmes :
En récoltant les informations personnelles de chaque utilisateur, il est de plus en plus facile pour les entreprises de proposer un contenu personnalisé et adapté. L’utilisation du service est donc plus simple et satisfaisante. Cependant, cette personnalisation de contenu renferme l’utilisateur dans une bulle. Ainsi, chaque utilisateur accèderait à une version différente du web.
Grâce aux nouvelles lois du RGPD, les applications web et mobiles doivent informer et demander les autorisations aux utilisateurs concernant la collecte de données personnelles. Théoriquement, on pourrait penser que l’utilisateur est donc conscient des implications que cela engendre. Cependant, les informations fournies sont souvent peu claires et compliquées à comprendre. La modification des paramètres au sujet des données personnelles requiert plusieurs étapes. Certains utilisateurs tendent donc vers la facilité et vont accepter sans avoir pris connaissance des implications. [10]
Voici d'autres questions éthiques à creuser qui peuvent être abordées sur ce sujet mais qui ne le seront pas dans le cadre de cette étude.
Le respect de la vie privée est un thème général qui englobe les autres. Il comprend les concepts tels que la liberté, l'autonomie, la confidentialité et la solitude. C'est un sujet sensible lorsqu'on aborde la collecte et le traitement des données personnelles.
Durant notre vie, nous générons une quantité énorme de données. Que se passe-t-il lorsque nous décédons ? Comment supprimer toutes nos données personnelles présentes dans les bases de données ?
Ce problème est lié à l'émergence des informations en tant que système complexe: lorsque des données qui proviennent de différents contextes sont compilées, le résultat représente plus que la simple somme des parties. A notre époque, il est facile de recueillir un tas d'informations sur une personne à partir des réseaux sociaux, et un employeur pourrait prendre sa décision de l'engager ou non en fonction des données sensibles auxquelles il aura eu accès.
Il est très difficile, voire impossible de limiter l'utilisation de nos données. On ne sait jamais exactement ce que font les entreprises avec celles-ci. Il est important d'appréhender non seulement l'intrusion dans la vie privée mais aussi les formes plus subtiles d'atteinte à l'intégrité de la vie privée.
Ce problème est directement lié à celui de la réalité personnalisée. Le problème réside ici dans le fait qu'un modèle qui déduit les intérêts d'un utilisateur se fonde généralement sur le comportement passé de cet utilisateur et sur la collecte d'informations transmises par le passé. On peut donc dire que l'identité numérique d'une personne ne correspond pas à ce qu'elle est aujourd'hui mais se base sur ses actions passées.
Un bulle de filtrage aura des répercussions sur le comportement des utilisateurs, car on sera incité à conserver des intérêts passés au lieu de découvrir des possibilités potentiellement plus intéressantes. L’inconvénient sera mineur si l’utilisateur est conscient du fonctionnement des recommandations ou des systèmes de filtrage, mais la majorité des utilisateurs n’en ont pas conscience, ce qui a des retombées directes et les contraint à conserver leurs opinions précédentes, à l’image d’un « attracteur étrange ».
Ce problème est lié à la formation des opinions. Si par exemple, on défend une opinion politique sur les réseaux sociaux, les algorithmes vont nous conseiller en ami des personnes qui partagent nos opinions. A grande échelle, si ce processus se répand, cela peut devenir rapidement dangereux car cela va créer des sectes de personnes qui partagent exactement les mêmes opinions et qui pensent que leur point de vue est universel.
On remarque que de nos jours, il y a un déséquilibre entre les personnes qui génèrent les données et celles qui les collectent et les manipulent. Par exemple, si je m'équipe d'une montre connectée pour aller courir, je génère plein de données différentes : parcours, position, vitesse, rythme cardique, etc). Ces données sont utilisées par la producteur du matériel avec mon consentement, pour me fournir un service personnalisé, mais étonnamment, je ne suis pas propriétaire des données! D'un point de vue éthique, il serait intéressant de pouvoir télécharger et/ou supprimer les données en temps voulu, ce qui est légalement obligatoire mais qui n'est pas toujours simple à faire.
Il faut noter que les mégadonnées ne servent à rien si elles ne sont pas interprétées. Elles sont analysées par différents algorithmes, mais sont-ils neutres ?
Les algorithmes sont conçus par l'homme, par conséquent il existe probablement une certaine subjectivité. C'est d'ailleurs une question au centre des préoccupations chez Google AI, après que certains de leurs ingénieurs aient été viré après avoir dénoncé les problèmes liés aux algorithmes. Google donne tellement des données, sans forcément les trier, à ses différents algorithmes d'intelligence artificielle, que cela peut devenir dangereux.
La partialité des algorithmes est un sujet très vaste et ce n'est pas le sujet de notre réflexion mais si vous êtes intéressés, nous vous conseillons de regarder cette vidéo pour aller un peu plus loin, et comprendre ce qu'il se passe chez Google en ce moment : Google démantèle son éthique (et tout le monde s'en fout...)
Les individus peuvent se sentir impuissants face aux données. Par exemple, lorsqu'un utilisateur demande à une entreprise de supprimer ses données personnelles, même si celle-ci décide de répondre à la demande, il se peut que les données aient déjà été vendues à d'autres société, ce qui entraîne une perte de contrôle sur l'accès à ses propres données.
La question de confiance est essentielle pour qu'un utilisateur accepte de fournir ses données à caractère personnel à une entreprise. Ce n'est pas une question simple car cela dépend fortement du concept de vie privée qui évolue dans le temps, et de la prise de conscience des citoyens.
La notion de propriété est complexe car nous ne savons pas quel est le statut des données après la collecte et le traitement: appartiennent-elles toujours à l'utilisateur, à la société qui a collecté les données au départ, ou à la société ayant réalisé les analyses ? Pour cela, l'Union européenne essaye de limiter la possibilité de stocker les données des citoyens européens en dehors du "cloud de l'Union". Cette approche laisse de côté le problème du lieu de conservation des données déjà traitées et ne résout pas la question éthique de la définition philosophique de la propriété des données, qui se pose avant de passer à une approche plus terre-à-terre liée aux aspects juridiques et réglementaires.
De nos jours, avec le développement des technologies, les données sont analysées de plus en plus facilement et rapidement. Les applications connaissent notre position presque tout le temps et cela permet un suivi. Ce suivi a selon certains, renforcé la sécurité (ou sa perception) en Europe car le travail de la police est simplifié. Cependant, cette surveillance peut aussi poser question au niveau des libertés des citoyens, principalement dans les pays totalitaires.
L'identité numérique d'une personne correspond à son profil sur différents sites. Elle est renforcée par les algorithmes d'analyse qui permettent de cerner les caractéristiques d'une personne à partir des recherches sur internet, des likes sur les réseaux sociaux, des habitudes de consommation... Selon certains, le problème est que nous ne sommes plus jugés en fonction de nos actions mais en fonction de tout ce que nos données indiquent comme nos actions probables !
Nous savons que nos données sont analysées pour ensuite, nous recommander des résultats personnalisés lors de recherches. C'est la bulle de filtrage, cela veut dire que d'un côté, elle permettra à l'utilisateur de trouver ce qu'il veut rapidement grâce aux recommandations, mais d'un autre côté, à long terme, cela peut conduire à un manque d'exposition à d'autres idées. Cela pourrait conduire à un frein à la créativité et à l'établissement d'une attitude tolérante (manque de références politiques par exemple).
La question est arrivée récemment et avec l'augmentation des puissances de calcul des ordinateurs, on peut mettre en place plus facilement des techniques de désanonymisassion. Les techniques d'anonymisation actuelles tentent de rendre chaque donnée non identifiable en supprimant des informations uniques. Cela n'est pas suffisant face au profilage poussé à l'extrême, qui permet de réunir des informations en utilisant différentes sources pour lier des informations entre elles.
Ce terme fait référence aux difficultés que certaines personnes rencontrent lorsqu'il s'agit d'accéder à différents services numériques. Cela pose principalement problème lors de la recherche d'emploi.