Introduction

Recherchez sur Internet le mot « écolier », vous trouverez des dessins et des photos de petits garçons avec un cartable. Effectuez ensuite la même recherche, mais au féminin cette fois, en tapant le mot « écolière ». Le moteur de recherche vous renverra cette fois des photos de femmes adultes hyper sexualisées et dénudées.

Ces résultats sont pourtant basés sur les préférences des utilisateurs. L’IA n’est donc que le reflet de la Société et de ses discriminations. Mais faut-il laisser les déviances humaines entretenir ces biais ?

Dans le monde actuel, l’Intelligence Artificielle est de plus en plus présente et rendue obligatoire pour effectuer certaines tâches avec de grandes responsabilités. Nous citerons notamment son utilisation dans le domaine médical, par exemple pour trouver des traitements efficaces pour un profil de patient, ou encore dans le domaine du recrutement, de la justice, de la publicité, etc.

Les IA sont formées sur des données réelles comme des décisions ayant déjà été prises dans le cadre du recrutement et de la justice. Elles peuvent être basées sur des statistiques en fonction de différents critères dans le but de fournir le meilleur résultat pour l’utilisateur. Ces nouvelles aides numériques sont donc un précieux gain de temps et donnent souvent des performances satisfaisantes.

Au vu de l’ampleur des impacts que l’IA peut avoir sur son domaine d’action et de son large panel d’application, il est important de s’interroger sur sa fiabilité et les conséquences que celle-ci peut entraîner. Il faut se demander où poser les limites entre la satisfaction des utilisateurs et le sens moral de neutralité qu’on veut donner aux résultats fournis.

Notre question éthique est donc la suivante:

« Faut-il laisser l’IA reproduire les comportements discriminatoires humains au détriment de la volonté de performance ? »

Définitions

Selon le Petit Larousse Illustré, édition 2011 :

L’Intelligence Artificielle (IA) : ensemble des théories et des techniques mises en œuvre pour réaliser des machines dont le fonctionnement s’apparente à celui du cerveau humain.

Discrimination (n.f. ) :

• Action d’isoler et de traiter différemment certains individus ou un groupe entier par rapport aux autres. Discrimination sociale, raciale.
• Litt. Distinction, différence.

Discrimination positive : action visant à réduire des inégalités subies par certains groupes ou communautés en leur accordant des avantages préférentiels (insaturation de quotas, notamm.).