Avis de l'Équipe

Notre positionnement sur le problème éthique

Article scientifique : YouTube, le grand radicaliseur ?

Introduction : le mythe de la neutralité

Le monde d'aujourd'hui est marqué par une forte consommation des réseaux sociaux. Tout particulièrement dans la société américaine où YouTube représente la plateforme sociale la plus populaire. En effet, celle-ci était utilisée par 81 % des Américains en 2022 et dont 70 % du contenu regardé provenait des recommandations de son algorithme. L'impact qu'a ce système de recommandation sur les utilisateurs de YouTube est donc loin d'être négligeable. Pourtant, l'algorithme de recommandation de YouTube est une « boîte noire » opaque qui privilégie l'engagement et la consommation de ses utilisateurs afin de maximiser le profit de la plateforme et ce, au détriment de la diversité des opinions. Cet article vise dans un premier temps, à prouver scientifiquement l'existence d'une dérive radicalisante des algorithmes de YouTube mais propose ensuite une intervention permettant aux utilisateurs de reprendre le contrôle de leur expérience numérique.

Le diagnostic : le cercle vicieux (Loop Effect)

Comment YouTube crée un environnement fermé renforçant les opinions ?

Les trois piliers de l'isolement :

La création du cercle vicieux :

L'interaction entre ces trois facteurs crée ce que l'on appelle « l'effet de boucle » : un cycle dans lequel, au fil du temps, le système devient de plus en plus biaisé idéologiquement. L'utilisateur se retrouve dès lors exposé de manière répétée à des contenus qui lui sont familiers, réduisant progressivement la visibilité de points de vue opposés. Ce cercle vicieux diminue donc la neutralité de la plateforme YouTube et a pour conséquence d'augmenter le risque de radicalisation idéologique de ses utilisateurs.

Illustration de l'effet de boucle
Illustration de l'effet de boucle dans les systèmes de recommandation sociale.

La preuve scientifique : les « Sock Puppets »

Afin de lever l'opacité de la « boîte noire » de YouTube, les chercheurs ont déployé 100 000 sock puppets, des faux comptes créés dans le but d'imiter des utilisateurs réels. Cette étude à grande échelle a permis notamment le visionnage de plus de 15 millions de vidéos au total sur plus de 110 000 chaînes. Celle-ci a permis de confirmer trois phénomènes majeurs :

Répartition des recommandations « À suivre »
Répartition des recommandations « À suivre » pour chaque compte fantôme. L'axe des x correspond à la profondeur de la séquence, tandis que l'axe des y montre la répartition des recommandations « À suivre » visionnées par chaque compte fantôme à cette profondeur. La profondeur 0 correspond à la vidéo de départ et reste constante sur tous les graphiques.
Slant moyen des vidéos
Le slant moyen des vidéos partageant la même idéologie visionnées par chaque compte fantôme dans les recommandations suivantes. Par exemple, la ligne rouge du haut correspond à l'orientation moyenne des vidéos de droite visionnées par le compte fantôme de droite. Les lignes pointillées et en pointillés correspondent respectivement à un écart-type de 1 et au slant moyen au niveau 1 du parcours. On constate que la moyenne et l'écart-type deviennent progressivement plus extrêmes pour les comptes fantômes de gauche et de droite.

La solution « Bottom-Up » : CenterTube

YouTube n'ayant aucun intérêt financier à limiter les biais de son algorithme de recommandation lui générant du profit, les chercheurs ont développé CenterTube. Au contraire d'une approche « Top-Down » (désignant une intervention conçue et imposée directement par les concepteurs de la plateforme), il s'agit ici d'une approche « Bottom-Up » (désignant une intervention directe de l'utilisateur pour reprendre le contrôle de son flux).

CenterTube fonctionne grâce à un modèle RL (Reinforcement Learning), celui-ci se divise principalement en trois étapes clés :

Les résultats obtenus, comme le montre la figure ci-dessous, permettent de neutraliser l'apparition de biais, que ce soit pour une radicalisation de gauche ou de droite :

CDFs illustrant la distribution des angles
CDFs (Cumulative Distribution Functions) illustrant la distribution des angles pour les faux comptes avant et après l'intervention (pour différentes valeurs de m, c'est-à-dire le nombre de vidéos d'intervention diffusées).

Sur le plan éthique, cette technologie transforme l'utilisateur : celui-ci cesse d'être un simple Bestand (un stock de données passif) pour devenir un agent capable de réguler son environnement numérique.

Conclusion éthique : vers une responsabilité partagée

Cet article scientifique démontre que l'algorithme de recommandation de YouTube n'est pas neutre. En effet, il agit comme un Gestell (un système de commande) qui transforme l'utilisateur en Bestand (une ressource de données) et ce, afin de maximiser le profit au détriment de la diversité des opinions. Face à cette « boîte noire », la responsabilité est désormais collective :

Finalement, l'éthique des algorithmes dépend d'un équilibre entre vigilance des utilisateurs, régulation politique et transparence des concepteurs et des plateformes et non d'un seul acteur.

Débat réalisé avec nos camarades de classe

Afin d'obtenir davantage de retours sur notre question éthique et de récolter différents points de vue, nous avons organisé dans le cadre du cours d'éthique un débat ouvert avec certains de nos camarades de classe sur cette question.

Contenu du débat

Lors de ce débat, les avis et arguments de chaque intervenant ont été riches. Le début de celui-ci a été marqué par la mise en avant d'un des intervenants de la responsabilité de chacun sur sa consommation de contenus, et plus particulièrement sur sa consommation de contenus dits « problématiques ». Une réponse pertinente à cet argument a été de souligner le manque de transparence sur le fonctionnement de ces algorithmes de recommandations. Cet argument soulève une question importante :

Dans quelle mesure sommes-nous responsables des contenus que nous consommons lorsque ces systèmes de recommandations manquent de transparence quant à leur fonctionnement ?

Une autre question sur ce même sujet est :

Comment décider et sur quels critères juger qu'un contenu est bannissable ?

La suite du débat s'est ensuite portée sur le manque de régulation de ces algorithmes de recommandations, les avis ont tantôt convergé, tantôt divergé montrant la complexité de cette question éthique.

Le débat s'est alors terminé sur une question ouverte invitant à la réflexion :

Si un contenu n'est légalement pas bannissable mais que les systèmes de recommandations empêchent celui-ci d'être promu, n'est-ce pas de la censure ?

Cette réflexion mène à une question encore plus vague, dont une simple réponse ne peut permettre d'obtenir satisfaction de l'ensemble :

Où se trouve finalement la limite d'acceptation de la promotion des contenus sensibles ?

Pour conclure, ce débat a apporté différents points de vue, mettant ainsi en avant la difficulté à trouver un accord sur la réponse à fournir.

Avis personnels

Antoine Patoux

Je pense que les effets des réseaux sociaux et des algorithmes de recommandation sont négligés par la majeure partie de la population. Faire ce projet m'a permis de réaliser que ces algorithmes ont une influence réelle sur notre vie et sur notre manière de penser et qu'ils ont malheureusement tendance à réduire l'esprit critique en ne nous montrant que des contenus avec lesquels on est déjà d'accord. Je pense que cet effet est une des raisons des divergences croissantes dans notre société.

Si on fait le lien avec Aristote, je trouve que l'idée que la vertu se trouve dans le juste milieu est bien adaptée à ce problème étant donné que les algorithmes ont justement tendance à nous pousser vers les extrêmes.

Je pense que les solutions évoquées comme le cadre réglementaire peuvent être intéressantes mais que la nécessité est plutôt de faire comprendre aux gens le fonctionnement de ces algorithmes pour qu'ils perçoivent les conséquences de ceux-ci dans leur vie.

Sacha Malray

Pour moi, l'algorithme de YouTube n'est clairement pas neutre, et il pousse vraiment les gens vers la radicalisation. CenterTube est une bonne idée, mais à lui seul ça ne réglera rien. Tant que les plateformes ne jouent pas le jeu, c'est à nous de rester critiques.

Alex Thayse

Après avoir passé tout ce temps à décortiquer le fonctionnement des algorithmes de recommandation, mon regard a vraiment changé. Au départ, on a souvent l'impression que ce sont de simples outils pratiques, là pour nous faciliter la vie. Mais en allant plus loin, le constat est assez effrayant.

Ce qui me dérange le plus, c'est de voir à quel point on perd le contrôle sans même s'en rendre compte. En cherchant toujours à capter notre attention pour générer des revenus publicitaires, l'algorithme nous enferme doucement dans une bulle. Savoir que notre temps de cerveau et nos réactions sont considérés comme de la simple marchandise à exploiter ce « Bestand » évoqué dans notre réflexion me pose un vrai problème éthique. Sous prétexte de nous donner ce qu'on aime, ces systèmes finissent par diviser les gens et pousser les opinions vers les extrêmes, tout simplement parce que la polémique fait cliquer et rapporte plus.

Face à ça, je ne crois pas que les plateformes vont changer d'elles-mêmes, puisqu'elles n'y ont aucun intérêt financier. À mes yeux, la solution doit venir de deux côtés. D'abord, il faut que l'État s'implique plus fortement et impose des lois strictes pour obliger ces entreprises à être transparentes. Ensuite, les idées techniques comme CenterTube prouvent qu'on peut utiliser la technologie pour se défendre, en cassant nous-mêmes ces fameuses bulles de filtres. Cette solution est d'autant plus intéressante que chaque personne qui se soucie de ce problème peut l'utiliser dans son quotidien.

Pour résumer, il est évident qu'on ne pourra plus se passer de ces réseaux et de ces algorithmes. Mais je trouve qu'il est nécessaire d'arrêter de se comporter en consommateurs passifs qui subissent ce qu'on leur donne. Nous devons reprendre la main sur ces outils pour qu'ils recommencent à nous servir, au lieu de se servir de nous.

Lucas Bricoult

Selon mon avis, les algorithmes de recommandations représentent une avancée technologique utile facilitant notre accès à l'information tout en personnalisant notre expérience numérique. Sans eux, il serait beaucoup plus difficile d'accéder si rapidement aux contenus pour lesquels on porte de l'intérêt. Cependant, en privilégiant les contenus générant le plus de réactions et donc d'engagement, ils manquent de neutralité et favorisent ainsi le risque de diffusion de contenus extrêmes, de désinformation ou de discours haineux.

Je trouve également problématique le manque de transparence de ces systèmes, les utilisateurs manquent d'informations sur la manière dont sont produites leurs recommandations et donc sur l'influence de ces algorithmes quant aux contenus qu'ils visionnent. Malgré cela, je ne pense pas que supprimer complètement ces technologies représente la meilleure solution car celles-ci font maintenant partie de notre quotidien numérique. Selon moi, il faudrait plutôt un meilleur encadrement de leur fonctionnement grâce à plus de transparence mais aussi une meilleure éducation des utilisateurs sur le sujet. Finalement, je pense que la responsabilité devrait être partagée entre les plateformes, les concepteurs, l'État mais aussi les utilisateurs eux-mêmes.