L'utilitarisme a pour objectif que le bien-être collectif soit maximisé. Nous avons donc listé différents cas de figure requierant du recul ainsi qu'un travail de réflexion de chacun. Nous avons décidé de procéder graduellement en 3 niveaux pour les diverses situations ; en octroyant de moins en moins de moyens au robot. Cela permet de s'intéresser à plusieurs aspects et de dresser un bilan plus objectif. Les cas de figure sont les suivants:
Éléments en faveur d’utiliser de tels robots:
- Les performances du robot peuvent surpasser celle de l’humain dans plusieurs domaines
- L’humain est libéré du poids de certaines décisions de vie ou de mort. Il peut également assouvir le sentiment de culpabilité et frustration.
- Le robot n’est pas influencé lors de sa prise de décision par des facteurs tels que les émotions, les sentiments ou encore le stress. La décision est donc plus aisée pour le robot démuni de ces contraintes. Il est donc sur ce point de vue plus efficace qu’un être humain lors d'une mission.
- Il peut être perçu comme une réelle autorité et permet ainsi le maintien de l’ordre au sein de la population
Éléments en défaveur d’utiliser de tels robots:
- Le robot peut nuire à la liberté de chacun. En effet, certaines actions peuvent être mal interprétées par le robot (exemple: un homme essaie de rattraper son enfant qui court). Toute action, aussi innocente qu'elle soit, pourrait avoir des conséquences.
- Le robot est susceptible de commettre des erreurs étant donné qu'il se limite à ce qu'on lui a appris (les données d'entrainement).
- Le robot peut être la cible de piratage contre sa volonté.
- Perte du pouvoir de décision de l’homme étant donné que le robot est capable de prendre des décisions seul.
- Manque d’esprit critique de la part du robot. Comment peut-il discerner le bien du mal; peser le pour et le contre. Il devrait suivre une certaine éthique mais celle-ci est loin de pouvoir être définie de manière universelle.
- Le robot n'a pas la notion de l'improvisation tel qu’un être humain. L'humain possède une certaine intuition de par son expérience.
- En cas d’erreur commise par le robot ou de bug informatique, la sécurité de beaucoup d'individus pourrait être mise en péril. De plus, qui est responsable?
- Des mises à jour sont à effectuer sans cesse pour garantir la sécurité.
Verdict:
Lorsque l’on dresse le bilan des divers arguments, l’utilitarisme est plutôt contre les robots autonomes disposant du droit d'ôter la vie. En effet, les arguments d’insatisfaction sont plus nombreux et importants que ceux en faveur de ces robots. Les arguments tels que la diminution du pouvoir de décision de l’homme; l'intrusion dans la vie privée ainsi que l'atteinte à la liberté personnelle sont des paramètres cruciaux pour tout être humain. À cela s'ajoute le risque d'erreur pouvant avoir pour conséquence la mort d'une personne innocente; ce qui pèse énormément selon nous. Il est cependant important de noter que nous n’avons pas comptabilisé la mort d’un être humain comme une peine infinie.
Verdict nuancé => Le robot est situé sur un lieu de guerre:
En ajoutant cette nuance, on s'est aperçu dans notre sondage que les personnes sont plutôt favorables à ces robots. L'enquête révèle cette tendance lorsqu'il s'agit de missions très périlleuses (terroriste, sauvetage, etc).
2. Le robot dispose d'armes/moyens non létaux:
Éléments en faveur d’utiliser de tels robots:
- Contrairement au scénario précédent, la question de vie ou de mort ne se pose à priori pas dans ce cas-ci.
- En cas d’erreur de jugement, les conséquences sont diminuées étant donné que le robot ne dispose pas de moyen d'ôter la vie.
- Permet d’assister les autorités dans leurs tâches afin que celles-ci soient plus efficaces, sécurisées et/ou rapides
- En opérant sur le terrain, il peut protéger les autorités en encaissant les chocs et en laissant ces dernières s'occuper de toute intervention avec armes létales.
Éléments en défaveur d’utiliser de tels robots:
- La "non létalité" du robot ne pourrait pas être assurée dans la situation où le malfrat disposerait d'une condition physique particulière (exemple: taser & pacemaker)
- Le choix de l’arme non létale est important car certaines armes peuvent engendrer des blessures permanentes (exemple: flashball)
Verdict:
Contrairement à la situation précédente, les avantages et inconvénients sont plus ou moins équivalents en terme de poids. En effet, dans certaines circonstances (type de mission, …) ou en fonction des armes mises à disposition du robot, la maximisation du bien-être ne penche selon nous pas de manière flagrante d’un côté de la balance.
3. Le robot est une vidéo surveillance intelligente avertissant les autorités en cas de problèmes
Éléments en faveur d’utiliser de tels robots:
- Peut traiter un plus grand nombre d’images que l’être humain.
- Permet une surveillance constante sur les zones qui lui sont assignées
- Le drone peut atteindre des zones dangereuses et difficiles d'accès pour l’être humain(zones inondées, en feu, attaquées,…).
- Le drones se déplace plus rapidement qu’un être humain
- Le choix final de l’intervention ou de l’arrestation est toujours sous la supervision d’un être humain
- Permet aux autorités d’agir en disposant d'une quantité d’informations plus grande (telle que le nombre de personnes dans un bâtiment; le type d'accès au sein d'un batiment).
Éléments en défaveur d’utiliser de tels robots:
- Atteinte à la vie privée étant donné que tout est surveillé et enregistré.
- Profiling discriminatoire. La vidéo surveillance intelligente peut mal interpréter certaines situations sur base de stéréotypes qu’elle aura appris lors de son apprentissage. En effet, tout ce qu'elle connaît provient des données qu'on lui a injecté. De plus, ces données peuvent être influencées par des origines, une religion,...
- Constantes mises à jour. Un comportement suspect aujourd’hui pourrait dans un futur proche devenir normal ou l’inverse
- Les drones pouvant être de très petite taille pourraient infiltrer des zones secrètes sans être repérés (dans de mauvaises mains ou par ignorance ceci est un problème).
Verdict:
Les désavantages pouvant être contrôlés ou évités en mettant en place un système respectant des règles bien précises, d’un point de vue purement utilitariste, ces robots sont acceptés.