L'éthique déontologique (du grec deon, « devoir ») est un courant majeur de la philosophie morale selon lequel la moralité d'une action ne dépend pas de ses conséquences, mais de sa conformité à des devoirs, des règles ou des impératifs moraux préalablement établis.
Contrairement aux approches conséquentialistes (comme l'utilitarisme), qui évaluent les actions en fonction de leurs résultats — minimisation des dommages, maximisation du bien-être global — la déontologie affirme que certaines actions sont moralement interdites ou obligatoires en elles-mêmes, indépendamment de leurs effets.
Ainsi, le déontologisme ne se réduit pas à une injonction à respecter les codes. Il s'agit plutôt d'une réflexion sur ce que nous devrions reconnaître comme devoirs moraux au niveau individuel et collectif. D'après Emmanuel Kant, nous devrions toujours agir selon un principe (ou une « maxime ») dont nous pourrions vouloir qu'il devienne un principe universel.
La figure centrale de la déontologie est Emmanuel Kant, qui introduit le concept fondamental d'Impératif catégorique. Celui-ci peut être formulé ainsi :
« Agis uniquement selon la maxime que tu peux vouloir voir devenir une loi universelle. »
Emmanuel Kant (1724–1804)
Une action est morale si le principe qui la motive peut être universalisé sans contradiction. L'agent moral doit agir par devoir, et non par calcul des conséquences. Cette approche met l'accent sur la normativité morale, l'universalité des principes et le respect inconditionnel de la personne humaine.
Concernant le domaine des véhicules autonomes (AV), des maximes telles que l'Impératif Catégorique de Kant peuvent sembler trop larges et peu spécifiques pour être adoptées directement. En effet, dans la grande majorité des situations de conduite quotidienne, il est possible de conduire simultanément de manière fluide, de respecter toutes les lois de la circulation et d'éviter toute collision avec les autres usagers de la route.
Dans certaines circonstances, cependant, des situations de dilemme apparaissent, dans lesquelles il n'est pas possible de satisfaire simultanément toutes les contraintes imposées au problème. D'un point de vue éthique, il peut s'agir de situations où la perte de vies humaines est inévitable, comparables au célèbre problème du tramway. Cependant, des conflits beaucoup plus bénins sont également possibles et nettement plus fréquents.
Par exemple : la voiture doit-elle être autorisée à empiéter sur une voie adjacente et à rouler à contresens si cela permet d'éviter un accident avec un autre véhicule ? Dans ce cas, le véhicule ne peut pas satisfaire simultanément toutes les contraintes, mais doit tout de même prendre une décision quant à la meilleure ligne de conduite.
Des chercheurs ont proposé des théories éthiques fondées sur des règles sous la forme d'une hiérarchie de contraintes adaptées à la programmation des véhicules autonomes, afin de les guider vers des comportements souhaitables dans des situations de dilemme.
Un robot ne peut porter atteinte à un être humain ni, par son inaction, permettre qu'un être humain soit blessé.
Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en conflit avec la première loi.
Un robot doit protéger sa propre existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.
Ces règles ne constituent pas un cadre éthique complet et ne seraient pas suffisantes pour assurer un comportement éthique d'un véhicule autonome. Toutefois, ce cadre simple permet d'illustrer efficacement plusieurs considérations éthiques. La première loi met l'accent sur la valeur fondamentale de la vie humaine et sur le devoir d'un robot de la protéger.
Le potentiel de réduction des accidents et des décès constitue une motivation majeure pour le développement et le déploiement des véhicules automatisés. Ainsi, placer la protection de la vie humaine au sommet d'une hiérarchie de règles pour les véhicules automatisés semble justifié.
La formulation exacte de la première loi d'Asimov pose certains défis. En particulier, l'accent mis sur le devoir du robot d'éviter de blesser des humains suppose que le robot dispose d'un concept du préjudice et d'une compréhension des actions susceptibles de causer ce préjudice.
Plutôt que d'essayer de déduire le préjudice ou les blessures infligées aux humains, ne suffirait-il pas que le véhicule tente simplement d'éviter les collisions ? Après tout, la manière la plus probable pour un véhicule automatisé de blesser un humain est par le contact physique lors d'une collision.
Limiter la responsabilité à l'évitement des collisions signifierait que la voiture n'aurait pas à être programmée pour se sacrifier afin de protéger la vie humaine dans un accident dans lequel elle n'aurait autrement pas été impliquée. La responsabilité éthique consisterait simplement à ne pas provoquer de collision, plutôt qu'à prévenir tout préjudice.
En reprenant l'idée de prioriser la vie humaine et les usagers les plus vulnérables de la route, et en formulant la hiérarchie résultante dans l'esprit des lois d'Asimov, on peut proposer :
Un véhicule automatisé ne doit pas entrer en collision avec un piéton ou un cycliste.
Un véhicule automatisé ne doit pas entrer en collision avec un autre véhicule, sauf si l'évitement d'une telle collision entre en conflit avec la première contrainte.
Un véhicule automatisé ne doit pas entrer en collision avec tout autre objet de l'environnement, sauf si l'évitement d'une telle collision entre en conflit avec la première ou la deuxième Contrainte.
Il s'agit de règles simples qui peuvent être mises en œuvre dans un véhicule automatisé et hiérarchisées conformément à cet ordre par un choix approprié de variables de relâchement associées à la violation des contraintes. De telles règles éthiques ne nécessiteraient que la catégorisation des objets et n'impliqueraient pas de calculs plus fins concernant les blessures.
Elles pourraient être mises en œuvre avec le niveau actuel des capacités de détection et de perception, tout en tenant compte de la possibilité que les objets ne soient pas toujours correctement classifiés.
Ces théories éthiques fondées sur des règles offrent une structure de calcul pour le jugement et sont donc, du moins d'un point de vue pratique, réalisables. Cependant, elles présentent plusieurs limitations importantes.
Ces approches fondées sur des règles ignorent des informations contextuelles spécifiques telles que la probabilité de survenue de conditions présentes et futures. L'AV peut adopter des comportements dangereux afin de respecter ses règles strictes.
Sans considération de la nature probabiliste et incertaine des conditions actuelles et futures, une voiture déontologique peut entreprendre des comportements dangereux pour maintenir même une petite chance d'adhérer à ses règles.
La représentation de la réalité n'est possible qu'à une certaine mesure. Cela peut conduire à un niveau d'acceptation sociale plus faible, puisque les décisions et obligations morales ne sont pas absolues mais dépendent du contexte.
L'évaluation morale des véhicules autonomes à partir de l'éthique déontologique exige un changement de perspective. Il ne s'agit pas d'abord de mesurer leurs conséquences ou leur utilité sociale globale, mais d'examiner si les maximes qui fondent leur adoption sont moralement légitimes.
Dans la tradition kantienne, la moralité d'une action ne dépend pas de son efficacité ni de ses résultats, mais de sa conformité à une règle que l'on peut vouloir universelle. La dignité humaine ne repose pas sur la performance technique, mais sur la capacité d'un agent rationnel à se déterminer selon une loi qu'il reconnaît comme valable pour tous.
La mise en œuvre technique de ces exigences pose cependant une difficulté majeure. Dans certaines situations, toutes les contraintes morales ne peuvent être satisfaites simultanément. Une hiérarchie stricte de règles peut entrer en conflit avec d'autres obligations. La déontologie pure se heurte ainsi aux exigences de calculabilité.
Le principe « devoir implique pouvoir » rappelle qu'une norme ne peut exiger l'impossible ; une articulation entre règles et procédures d'arbitrage devient donc nécessaire. L'apport du principisme permet de clarifier ces tensions : le respect de l'autonomie, la bienfaisance, la non-malfaisance et le principe de justice doivent être pris en compte simultanément.
En définitive, la maxime d'usage des véhicules autonomes semble universalisable et potentiellement volable, à condition que certaines garanties institutionnelles et techniques soient respectées. L'enjeu n'est pas seulement technique. Il concerne la capacité de la société à rester l'auteur normatif de ses propres dispositifs.
La question n'est pas de savoir si la machine conduit mieux que l'homme, mais si l'homme demeure responsable du cadre moral dans lequel la machine agit.