L’éthique de la responsabilité développée par Hans Jonas se positionne vis à vis de l'évolution de la puissance de la technologie dans le monde moderne.
Face aux transformations profondes provoquées par les progrès scientifiques et technologiques, Hans Jonas estime que les morales classiques ne suffisent plus à encadrer l’action humaine. Dans son ouvrage Le Principe Responsabilité (Das Prinzip Verantwortung), il affirme que l’humanité doit désormais agir en tenant compte des conséquences de ses actions sur l’avenir et sur les générations futures, dans l'objectif de préserver une vie authentiquement humaine sur Terre.
Qui doit définir les règles morales guidant une voiture autonome face à un accident inévitable, et sur quelle base éthique, étant donné la diversité des valeurs et des biais humains ?
Dans la perspective de Hans Jonas, la responsabilité n’est pas distribuée de manière égale entre tous. Elle dépend des rapports de pouvoir, de savoir et de capacité d’action.
Les utilisateurs ordinaires n’ont à priori ni accès au code source, ni compréhension complète des modèles de décision, ni véritable capacité d’influence individuelle sur l’architecture morale du système. À l'inverse, ceux qui ont le savoir technique (ingénieurs, experts IA), le pouvoir économique (entreprises) et le pouvoir normatif (autorités publiques, législateurs) ont d'avantage de responsabilité morale.
Nous sommes donc face à des rapports non réciproques : certains acteurs décident, d’autres subissent potentiellement les conséquences. Cette asymétrie fonde des obligations unilatérales.
Les ingénieurs et experts IA décident de l’architecture des systèmes, des seuils de sécurité et des règles de réaction. Leur savoir technique leur donne une responsabilité directe.
Elles disposent du pouvoir économique, choisissent les stratégies de développement et décident souvent entre sécurité, rapidité de mise sur le marché et rentabilité. Leur responsabilité est donc majeure.
Ils ont le pouvoir normatif de fixer des cadres de contrôle et des limites légales.
Appliqué à la voiture autonome, cet impératif signifie que les règles morales intégrées au système doivent viser à protéger la vie humaine, préserver la dignité des personnes et éviter de réduire l’humain à une simple variable d’optimisation. Une programmation ne peut pas traiter les personnes comme des données ou comme de simples coûts à minimiser. Même lorsqu’un accident semble inévitable, la logique technique ne peut pas banaliser la mort ni convertir la valeur d’une personne en un paramètre.
Chez Hans Jonas, l’éthique de la responsabilité repose sur plusieurs dimensions fondamentales.
L’humain est un être libre, donc un être responsable. Même si la décision immédiate est déléguée à la machine, la responsabilité de cette délégation reste humaine.
Chaque personne impliquée dans un accident possède une dignité propre. Elle ne peut pas être réduite à un score, un profil ou une donnée probabiliste.
Les situations d’accident sont précisément des situations de vulnérabilité extrême.
La responsabilité ne porte pas seulement sur ce qu’on a fait, mais sur ce qu’on permet de rendre possible dans l’avenir. Il faut donc anticiper les effets futurs de l’automatisation.
Cette dimension prospective est essentielle. En effet, dans le cas des voitures autonomes, il ne suffit pas d’attribuer une responsabilité après un accident. Il faut concevoir maintenant des systèmes qui ne relègue pas au second plan la sécurité, la liberté ni les capacités morales des générations futures.
Une innovation n’est moralement acceptable que si elle constitue un héritage soutenable et authentiquement humain.
Conduire mobilise l’attention, l’anticipation, la coordination, l’évaluation du risque et la responsabilité immédiate. Si ces compétences ne sont plus exercées, elles peuvent s’affaiblir. Une génération future pourrait ne plus être capable de reprendre le contrôle lorsque la technologie échoue.
Plus une technologie devient généralisée, plus ses dysfonctionnements prennent une ampleur collective. Si l’ensemble du transport dépend de systèmes automatisés, une défaillance globale pourrait immobiliser des villes, perturber les secours et désorganiser l’économie.
Le danger n’est pas seulement pratique, il est moral : en habituant la société à transférer la décision à l’algorithme, on peut affaiblir l’idée même que l’humain doit répondre de ses actes et de ses choix techniques.
Une société entièrement structurée autour de l’automatisation pourrait devenir extrêmement vulnérable. Si plus personne ne sait conduire manuellement et si les infrastructures n’acceptent plus l’intervention humaine, la résilience collective s’effondre.
Pour compléter l’analyse, on peut formuler quelques exigences cohérentes avec Hans Jonas. Elles ne résolvent pas à elles seules tous les dilemmes, mais elles définissent un cap moral clair.
Les critères de décision des systèmes ne devraient pas rester opaques lorsqu’ils peuvent mettre des vies en jeu.
La technologie devrait rester un outil sous responsabilité humaine, et non une autorité morale autonome.
En cas d’incertitude grave sur les effets futurs, la prudence doit l’emporter sur la seule logique d’innovation rapide.
Les règles morales ne peuvent pas être abandonnées à des intérêts privés ; elles doivent être discutées collectivement.