Les Éthiques

Définitions

Vertu : La vertu renvoie à la qualité morale d'un agent capable de manière stable et durable de prendre des décisions et d'agir de manière bonne. Une action est bonne si et seulement si elle est accomplie pour une bonne raison d'agir et de la bonne manière.

Eudémonisme : Théorie selon laquelle le but de l'action est le bonheur conçu non comme quelque chose de sensible, mais comme une valeur intellectuelle, comme le souverain bien : « L'individu qui est bel et bon est heureux, alors que celui qui est injuste et mauvais est malheureux. » (Platon)

Application aux algorithmes de recommandation

L'éthique des vertus, appliquée à la neutralité des algorithmes de recommandation, se concentre sur l'idée que l'humain cherche son épanouissement dans l'harmonie. Dans ce cadre, un algorithme n'est pas jugé uniquement sur son efficacité technique, mais sur sa capacité à favoriser la « sagesse pratique » (ou phronèsis) de l'utilisateur qui en est l'auteur ou le sujet. Pour être considéré comme "bon", l'outil doit aider l'agent à se situer dans un juste milieu entre deux vices, par exemple entre l'isolement dans une bulle de filtres et l'exposition excessive à des contenus toxiques.

A contrario, un algorithme de recommandation biaisé aura tendance à déstabiliser les rapports humains en introduisant ces biais dans les utilisateurs du dit algorithme. Pour être plus précis, l'algorithme de recommandation va alors avoir tendance à pousser les utilisateurs vers les extrêmes, ce qui est contraire au juste milieu nécessaire à la vertu.

Dimensions morales

Les 4 vertus pratiques sont la sagesse, la justice, la tempérance et le courage. Voici les vertus pratiques identifiées avec leurs vices correspondants (Défaut - Vertu - Excès) :

• Insensibilité - Tempérance - Intempérance
• Lâcheté - Courage - Témérité
• Injustice par défaut (léser autrui) - Justice - Injustice par excès (s'avantager indûment)
• Imprudence - Sagesse pratique - Procrastination
• Ignorance - Sagesse - Théorisme
• Dissimulation - Honnêteté - Indiscrétion
• Indifférence - Intégrité - Boycott abusif

L'honnêteté fait référence à dire la vérité avec justesse.

Filtrage des options par partie prenante

Pour les Utilisateurs :

• Choisir de regarder ou non les recommandations ne relève pas spécialement de la sagesse pratique. En effet, la sagesse se fait dans la balance et il est compliqué d'imaginer ne pas utiliser du tout les algorithmes de recommandation tellement ils sont implantés dans notre vie. Le tout est de respecter la tempérance.
• Signaler les mauvaises recommandations contribue à améliorer la sagesse pratique aussi bien à l'échelle individuelle qu'à l'échelle globale. En effet, cela va contribuer à améliorer les recommandations aussi bien pour lui que pour les autres utilisateurs de la plateforme.
• Prendre du recul sur le contenu proposé pour comprendre s'il résulte d'un choix personnel ou d'un biais algorithmique correspond à la vertu de la sagesse. C'est la compréhension profonde de nos propres actions.

Pour les Concepteurs :

• La capacité des concepteurs et plateformes à discerner l'impact réel de leur code sur la société relève de la sagesse pratique.
• Rendre lisible et explicable l'algorithme relève de l'honnêteté. Cela contribue à la liberté d'information dans la société et permet aux utilisateurs de prendre des choix plus éclairés quant à l'utilisation de la technologie.

Pour les Plateformes :

• Informer sur les impacts et le fonctionnement correspond à l'honnêteté.
• Prioriser la sécurité et les garde-fous à la rentabilité correspond à la justice. C'est la volonté de privilégier le bien commun plutôt que l'intérêt financier.

Pour l'État et les Régulateurs :

• L'État peut mettre en place des lois ou des régulations sur la transparence de ces algorithmes. Cela correspond à la justice.

Pour les Victimes et les proches :

• Elles peuvent aussi porter plainte, cela concerne principalement leur vertu de justice et courage. On peut également imaginer qu'elles pourraient permettre à d'autres personnes dans une situation similaire d'aussi aller porter plainte, ce qui améliore le courage et la justice à l'échelle de la société.

Pour les Créateurs (Problématiques ou non) :

• Les créateurs de contenus problématiques peuvent choisir de supprimer leur contenu. Cela améliore la vertu de tempérance à l'échelle de la société mais on peut également argumenter que cela réduit la liberté, car certaines personnes ne pourront plus voir ce contenu alors qu'ils le veulent.
• Ils peuvent sensibiliser leur communauté. Cela revient à améliorer la tempérance et la sagesse à l'échelle globale.
• Ils peuvent également se plaindre, cela relève de leur vertu de justice et de courage.

Pour les Annonceurs :

• S'assurer que leurs ressources ne servent pas à financer des finalités contraires à leurs valeurs relève de l'intégrité.

Pour les Modérateurs :

• Leur décision en tant qu'arbitre relève de la sagesse pratique.

Pour les Chercheurs :

• Leur activité relève de la sagesse car ils essayent de comprendre les biais et les fondements du système technique.

Pour les ingénieurs

Votre technologie favorise-t-elle l'épanouissement de ses utilisateurs et le développement de leurs vertus ?

Un algorithme de recommandation oriente, qu'on le veuille ou non, le caractère de ceux qui s'en servent quotidiennement. Mal conçu, il peut nourrir la haine, la xénophobie ou l'enfermement dans des opinions de plus en plus tranchées. Pour qu'il soutienne plutôt la justice et la tempérance, l'ingénieur doit intégrer dès la conception des critères qui freinent la radicalisation et qui ouvrent l'utilisateur à une variété de contenus. Ce n'est donc pas la performance technique brute qui prime, mais la capacité du système à accompagner l'utilisateur vers un comportement équilibré.

Votre technologie aide-t-elle l'utilisateur à exercer son discernement et à trouver le juste milieu ?

Un algorithme dont le fonctionnement reste caché transforme l'utilisateur en consommateur passif, incapable de prendre du recul sur ce qui lui est proposé. À l'inverse, un code lisible et publiquement documenté permet à chacun de comprendre les logiques à l'œuvre et de juger par lui-même. La lisibilité devient alors un levier de sagesse pratique : l'utilisateur garde la main sur son usage au lieu de le subir.

Quel type de personne votre technologie suppose-t-elle ? Respecte-t-elle l'humain dans sa globalité ?

Un système qui réduit l'utilisateur à un profil de données ou à un temps d'attention à monétiser ne respecte pas sa dignité. L'éthique des vertus suppose au contraire une personne capable d'épanouissement, dont l'intelligence et la liberté ne se ramènent pas à une suite de clics. L'ingénieur doit donc concevoir son outil en gardant en tête que l'utilisateur possède un jugement et des fins propres, et qu'aucun de ces aspects ne se résume à des métriques d'engagement.

Définition

Conséquentialisme : La valeur morale d'une action est déterminée par ses conséquences. Pour les philosophes conséquentialistes, les humains évaluent leurs actes et agissent selon les conséquences de leurs actes au regard de la fin considérée comme le bien moral suprême. En d'autres termes, l'action est évaluée en fonction du but qu'elle vise : la fin justifie les moyens.

Application aux algorithmes de recommandation

Dans ce contexte, les options possibles correspondent aux différentes actions entreprenables par les parties prenantes. Chacune de ces actions peut entraîner des conséquences positives (bénéfices, satisfactions) et des conséquences négatives (risques, insatisfactions) pour les autres acteurs. Il est donc important d'analyser ces différentes conséquences.

Pour cette analyse, nous avons scindé les actions possibles en deux catégories, les satisfactions et les insatisfactions. Ces deux sous-ensembles sont ordonnés de l'action considérée comme étant la plus grave à celle considérée comme ayant la gravité la moins importante.

Nous pouvons alors constater que les actions envisagées génèrent davantage de satisfactions que d'insatisfactions. Cependant, ce simple comptage ne suffit pas à déterminer quelle décision est moralement la plus juste. En effet, différentes approches éthiques permettent d'analyser une situation selon des perspectives différentes.

Différentes approches

• L'approche de Bentham : Celle-ci consiste en le choix de l'action qui maximise l'utilité globale. Dans notre contexte, ce serait « la mise en place d'une loi sur la transparence de ces algorithmes » car cette action est celle qui aurait l'impact le plus important sur le bonheur général.
• L'approche de Mill : Celle-ci consiste en une utilité hiérarchisée, c'est-à-dire une hiérarchisation qualitative des conséquences, certaines formes de bien-être étant jugées moralement plus importantes que d'autres. Dans notre contexte, ce serait « rendre lisible et explicable l'algorithme pour tous ».
• Utilitarisme de la règle : Il convient de privilégier les actions conformes à des règles dont l'application générale permet de maximiser l'utilité collective. Ainsi, l'action consistant à informer les utilisateurs des conséquences de ces algorithmes apparaît conforme à une règle favorisant la transparence et l'autonomie des individus. Le respect systématique de cette règle permettrait de limiter les risques de manipulation et d'améliorer la confiance dans les systèmes numériques.

Pour les ingénieurs

Quelles sont les conséquences de votre technologie pour les différentes parties prenantes et pour le territoire ?

Une des principales conséquences est la course au "clic" qui risque de dégrader la qualité du contenu. Une autre conséquence est l'isolement des utilisateurs dans des "bulles", ou encore l'amplification des messages des créateurs problématiques.

Les conséquences ne concernent pas uniquement les acteurs mais également le territoire dans lequel ces technologies sont déployées. Elles ont un certain impact économique, en effet en modifiant la visibilité entre les créateurs de contenu, elles modifient donc par extension également leurs revenus. Par ailleurs, leur influence sur la diffusion de l'information peut affecter le débat public.

Votre technologie pourrait-elle apporter le plus grand bonheur au plus grand nombre ?

Actuellement, non. L'objectif de ces systèmes est souvent d'apporter le plus grand profit à la plateforme qui les exploite, mais pas le plus grand bonheur. Pour que ce soit le cas, l'ingénieur devrait coder l'algorithme pour qu'il privilégie la qualité et la santé mentale de l'utilisateur plutôt que le simple "temps passé" sur l'application et donc de prioriser le profit de celle-ci.

Pourriez-vous faire en sorte que votre technologie ait des conséquences (plus) positives ? Pouvez-vous inclure une réaction corrective aux effets négatifs observés ?

Cela est possible, à condition de travailler sur les conséquences négatives précédemment identifiées. Rendre les algorithmes et leur fonctionnement transparents, filtrer le contenu proposé afin de supprimer le contenu problématique ou encore informer les utilisateurs des conséquences de ces algorithmes pourrait permettre d'aller dans ce sens.

Pour l'éthique des devoirs, la dignité humaine réside dans la liberté d'agir selon sa conscience. La valeur d'une action ne dépend pas de ses conséquences mais de sa conformité à une loi morale universelle que l'agent se prescrit par sa raison.

Formulation des maximes par partie prenante

Les Utilisateurs :

• On doit exercer son libre arbitre en refusant les contenus polémiques pour ne pas alimenter les biais de l'algorithme.
• Il faut signaler activement les mauvaises recommandations pour garantir un environnement numérique sûr.
• On doit maintenir une vigilance critique pour distinguer ses choix propres des suggestions algorithmiques.

Les Concepteurs :

• On doit intégrer des critères éthiques dans le code pour prévenir les biais inconscients et les effets sociaux négatifs.
• Il faut rendre l'algorithme lisible et explicable pour respecter l'intelligence des utilisateurs.

Les Plateformes :

• On doit assurer une transparence totale sur les principes de fonctionnement et les impacts de la personnalisation.
• Il faut prioriser la mise en place de garde-fous sécuritaires face à la recherche de rentabilité.

L'État et les Régulateurs :

• Il faut instaurer des lois imposant une transparence et une responsabilité éditoriale aux plateformes.

Les Victimes et leurs proches :

• Il faut contester juridiquement la promotion de contenus illégaux pour défendre le droit à la dignité.

Les Créateurs (Problématiques ou non) :

• On doit supprimer volontairement les contenus franchissant la limite de la haine ou de la désinformation.
• Il faut produire des contenus nuancés et pédagogiques pour offrir une alternative aux discours extrêmes.
• On doit dénoncer les mécanismes de plateforme qui dégradent la qualité de l'information.

Les Annonceurs :

• On doit exercer une pression économique en retirant les budgets des plateformes ne garantissant pas une éthique responsable.

Les Modérateurs :

• Il faut arbitrer avec discernement entre liberté d'expression et protection des personnes vulnérables.

Les Chercheurs :

• Il faut documenter scientifiquement les dérives et alerter le public pour pousser le système vers plus d'éthique.

Filtrage des options (Impératifs catégoriques)

Conformément à la méthodologie déontologique, nous soumettons nos maximes aux tests de raison pratique pour valider leur moralité.

1. Universalisabilité

L'agent peut-il concevoir et vouloir que tout le monde agisse selon cette maxime ?

• Conception : L'agent peut concevoir un monde où la transparence, le signalement des abus et la vigilance critique sont la norme. À l'inverse, l'universalisation de l'opacité ou de la manipulation rendrait toute vie en société impossible par la destruction de la confiance.
• Volonté : L'agent veut que la responsabilité (État, plateformes) et l'intégrité (annonceurs, créateurs) soient universelles car cela garantit un environnement numérique sûr et juste pour tous, y compris pour lui-même.

2. Dignité (Fin en soi)

L'agent considère-t-il autrui comme une fin en soi ou simplement comme un moyen ?

• Analyse du problème : Actuellement, la technologie risque de traiter les utilisateurs comme un simple moyen de générer du profit (stock de données, temps de cerveau disponible).
• Application des maximes : Les maximes de transparence, d'explicabilité et de libre arbitre traitent autrui comme une fin en soi, car elles visent à restaurer l'autonomie et la capacité de choix de l'individu.

3. Consentement moral (Institutionnalisation)

L'action pourrait-elle recevoir le consentement moral d'autrui ?

• Les actions proposées (signalement, lois de transparence, suppression de contenus haineux) peuvent recevoir le consentement moral de la société car elles visent le bien commun, même si elles peuvent déplaire à certains acteurs économiques (perte de profit immédiat).
• Le fonctionnement actuel "en boîte noire" des algorithmes, s'il était totalement exposé dans sa dimension de manipulation, ne recevrait probablement pas ce consentement.

4. Droit effectif

L'action répond-elle à un droit effectif ? Selon la perspective de Constant, tout devoir moral trouve sa source dans un droit d'autrui.

• Droit à la protection : Le devoir de signaler et de supprimer les contenus problématiques répond au droit des personnes à un environnement sûr et à la protection contre les contenus nuisibles.
• Droit à la liberté : Le devoir de choisir librement ses contenus et de bénéficier d'algorithmes lisibles répond au droit fondamental à la liberté d'expression et d'information.
• Droit à la vérité : Le devoir de transparence des plateformes répond au droit des citoyens de ne pas être trompés par des mécanismes invisibles.

Pour les ingénieurs

À quoi ressemblerait le monde si tout le monde utilisait votre technologie ?

Dans un scénario positif, cela permettrait un accès rapide, personnalisé et efficace aux contenus pertinents. Cependant, cela pourrait aussi entraîner des effets de manipulation, d'enfermement, de renforcement des biais et une perte d'autonomie critique.

Dans votre technologie, traitez-vous les gens avec respect et non pas uniquement comme un moyen d'atteindre un objectif ? Sinon, que pourriez-vous faire pour les traiter d'abord comme une fin ?

La technologie risque de traiter les utilisateurs comme un moyen si elle cherche uniquement à maximiser l'engagement, sans considérer leur bien-être ou leur capacité de choix. Pour les traiter comme une fin en soi, il faut :

• Rendre les algorithmes explicables et compréhensibles ;
• Permettre un véritable contrôle utilisateur (désactiver, paramétrer, refuser certaines recommandations).

Utiliseriez-vous votre technologie ? Et si tout le monde savait que vous l'utilisez, serait-ce un problème ?

En tant qu'ingénieur, l'utilisation de cette technologie, bien que la nôtre, ne devrait avoir lieu que si elle respecte les utilisateurs et ne les manipule pas.

De plus, on peut considérer qu'une technologie est acceptable uniquement si on peut l'assumer publiquement sans gêne. Cacher son fonctionnement ou éviter qu'il soit rendu public indiquerait qu'elle pose un problème éthique.

Principe

L'éthique Ubuntu, résumée par « Je suis parce que nous sommes », décrit une chose moralement juste si elle renforce la capacité de chacun à vivre avec les autres en harmonie.

Impact sur le tissu social

L'éthique Ubuntu nous invite à regarder comment les algorithmes de recommandation transforment la nature des relations humaines.

Un système technique est problématique lorsqu'il encourage la compétition et l'isolement plutôt que la coopération. Or, les algorithmes de recommandation actuels enferment les utilisateurs dans des catégories qui les isolent et limitent leur exposition à d'autres opinions. Le système mène souvent les débats à la division en poussant une personne à aller de plus en plus vers l'extrême de sa pensée, en accordant une visibilité aux discours polémiques, ce qui aboutit à la stigmatisation de certaines communautés. C'est donc une technologie qui fragmente le tissu social et qui pose une problématique éthique selon Ubuntu.

La dignité humaine comme valeur centrale

L'Ubuntu insiste sur le fait qu'on ne doit jamais réduire une personne à un simple moyen. Les algorithmes traitent les personnes comme des ressources de données à exploiter. Leur comportement est calculé et guidé pour maximiser le temps passé devant l'écran. On réduit donc la personne à un moyen économique plutôt que de la traiter humainement. Ce qu'il faudrait pour s'inscrire dans l'éthique d'Ubuntu, ça serait que les développeurs et les plateformes créent et utilisent un algorithme inspiré par la confiance et le respect de la dignité de l'utilisateur, sans chercher en priorité à monétiser celui-ci.