Que nous disent les philosophes ?
1. Gestell et Bestand (Heidegger)
Gestell (arraisonnement) : Tendance à considérer tout ce qui existe (nature, objets, humains) uniquement comme une matière première exploitable et calculable.
En appliquant la pensée d'Heidegger, nous pouvons considérer l'algorithme de recommandation comme un Gestell. Il ne se contente pas de suggérer du contenu, il arraisonne l'esprit de l'utilisateur en provoquant systématiquement son attention et ses émotions pour en extraire une valeur calculable.
Bestand (stock disponible) : État de disponibilité permanente de tout ce qui existe une fois réduit à une simple réserve de ressources prête à être mobilisée, consommée ou remplacée.
Toujours dans le cadre de la pensée d'Heidegger, l'utilisateur devient un Bestand. Il est réduit à une réserve de temps de cerveau disponible. Le contenu également, qu'il soit informatif ou controversé, n'est plus une idée ou une opinion mais une simple unité de stock prête à être distribuée pour maximiser le rendement de la plateforme.
2. Système Technicien (Jacques Ellul)
Technique : La technique désigne les méthodes rationnelles qui visent à l'efficacité et qui s'étendent à tous les domaines de l'activité humaine. Ces différentes techniques ou technologies se maillent pour constituer un système technicien qui englobe tout de la société moderne.
Notre technologie de recommandation fait partie intégrante du système technicien décrit par Jacques Ellul. Ce n'est pas juste un outil que l'on utilise de temps en temps mais un ensemble de méthodes qui cherchent l'efficacité maximale dans tout ce que nous faisons sur le web. Les algorithmes, les bases de données et les serveurs se mélangent pour former un réseau qui finit par encadrer toute notre vie numérique.
Cette appartenance au système technicien se voit à travers ces points clés :
- L'impératif d'efficacité : La technologie ne cherche pas ce qui est vrai ou juste, mais ce qui fonctionne le mieux. L'objectif principal est d'optimiser les résultats, même si cela doit mettre en avant des contenus polémiques.
- La totalisation : La technique ne laisse aucun espace vide. Elle s'étend partout : de nos recherches Google à nos réseaux sociaux, en passant par nos publicités. Elle finit par englober tous les aspects de notre quotidien, créant un environnement dont on ne peut plus sortir.
- L'autonomie et l'auto-accroissement : Le système semble avancer tout seul. Les algorithmes apprennent et s'améliorent sans que l'on intervienne constamment. On finit par créer des solutions techniques pour corriger les problèmes créés par la technique elle-même, ce qui renforce encore plus le système.
- L'unité et l'universalité : Ces mécanismes sont les mêmes partout dans le monde. On ne peut pas séparer le côté pratique de l'outil de ses effets négatifs (comme la xénophobie ou l'antisémitisme), car ils font partie du même bloc technique indissociable.
Pourrait-on s'en passer ? Aujourd'hui, il est presque impossible de s'en passer totalement. Nous sommes dans une sorte de verrouillage (lock-in) : la société est construite autour de ces outils. Ne plus utiliser ces algorithmes reviendrait à se couper du monde du travail, de l'information et des relations sociales. On a l'impression d'avoir le choix, mais le système est devenu notre nouveau milieu de vie (L'illusion du choix). Le vrai défi n'est donc pas de supprimer la technique, mais de reprendre le dessus pour qu'elle serve à nouveau des valeurs humaines plutôt que de simplement chercher la performance à tout prix (Maîtrise).
3. Culture technique (Simondon)
Culture technique : À côté de l'éducation littéraire ou scientifique, il peut y avoir place pour une éducation technique. Connaître le fonctionnement de tel ou tel équipement technique ne relève pas d'une compétence subalterne, mais d'un accès à l'esprit et aux gestes humains qui se sont cristallisés dans cet équipement. Il attire alors l'attention sur un certain nombre de caractéristiques de la technique, qui devraient faire partie de cette culture commune.
Pour intégrer les algorithmes de recommandation à une culture technique, il faut d'abord les sortir de leur statut de boîte noire. Selon Gilbert Simondon, notre sentiment d'aliénation ne vient pas de la machine elle-même, mais de notre méconnaissance de son fonctionnement interne. Pour rendre cette technologie lisible, nous devons cesser de la voir comme un outil étranger et y reconnaître une cristallisation de l'intelligence et des gestes humains.
Concrètement, cela implique d'expliquer les schèmes techniques qui dirigent ces algorithmes, comme les boucles de rétroaction qui adaptent le contenu à nos réactions. En comprenant ces mécanismes, l'utilisateur passe du statut de consommateur passif à celui de chef d'orchestre. Dans ce rôle, l'humain devient un régulateur capable d'interpréter les résultats et de donner un sens aux processus techniques plutôt que de simplement les subir.
Pour mettre ces idées en pratique, les plateformes pourraient remplacer leurs menus opaques par des tableaux de bord interactifs. Cela permettrait d'afficher clairement les critères utilisés par l'algorithme, comme l'importance donnée aux clics ou au temps passé sur une vidéo. En créant ces systèmes transparents, on permet à l'utilisateur de régler lui-même ses préférences de recommandation. Il quitte alors son rôle de simple consommateur pour devenir le régulateur de son propre outil. Enfin, une éducation technique nous aiderait à comprendre que l'algorithme est une création humaine que l'on peut critiquer et modifier selon nos valeurs, et non plus pour la seule efficacité automatique.
4. Nos relations avec la technologie (Don Ihde)
La relation que nous entretenons avec les algorithmes de recommandation n'est jamais neutre. Elle transforme notre manière de percevoir le monde et d'agir. Selon l'approche de Don Ihde, nous pouvons identifier trois types de relations principales avec cette technologie :
- Relation d'arrière-plan : La plupart du temps, ces algorithmes fonctionnent de manière invisible. Ils créent le contexte de notre navigation (sur une boutique ou un réseau social) sans que nous y prêtions attention, conditionnant nos choix silencieusement.
- Relation herméneutique : L'algorithme nous fournit une représentation du monde (une liste de produits, un fil d'actualité) que nous devons interpréter. Le risque est que cette représentation soit perçue comme une vérité absolue alors qu'elle n'est qu'une sélection calculée.
- Relation d'altérité : Parfois, l'algorithme devient un partenaire avec lequel nous interagissons, comme un assistant qui semble deviner nos goûts.
Points d'attention : Toute technologie amplifie certains aspects de l'expérience humaine au détriment d'autres. Ici, l'algorithme amplifie l'efficacité de la recherche et la personnalisation, mais il réduit simultanément notre champ de vision et la diversité des opinions.