Dans cette section, nous allons parler du conséquentialisme qui fait partie des éthiques dîtes téléologiques et forme donc l’ensemble des théories morales qui soutiennent le fait que seules les conséquences d’une action doivent être utilisées pour tout jugement moral. Ainsi, les humains évaluent leurs actes et agissent selon les conséquences de ceux-ci au regard de la fin considérée comme le bien moral suprême.
Ainsi, pour le cas des décisions qui doivent être faites par les réseaux sociaux face aux publications avec des propos haineux, il faut évaluer les conséquences que pourraient engendrer chacune des actions. En effet, il faut comparer les conséquences de laisser une publication malveillante ou de la supprimer, et ce, dans un premier temps, par un humain. Nous aborderons ensuite, le fait que cette suppression se fasse par une IA car, au final, pour l’éthique du conséquentialisme, les différences sont assez minimes étant donné qu’on ne s’intéresse qu’aux conséquences de l’action et non pas à l’action en tant que tel.
Si une publication comportant des propos haineux n’est pas traitée par un réseau social, cela peut éventuellement causer d’une part, du mal-être chez les personnes visées par cette publication et d’autre part, cela peut engendrer des réponses elles-aussi malveillantes. On rentre ainsi dans un cercle sans fin qui n’aurait que des conséquences néfastes pour les personnes concernées. De plus, jusqu’à maintenant, le fait que certains propos haineux n’aient pas été supprimées a provoqué de nombreuses critiques. En effet, twitter a notamment été accusé de laisser prospérer des contenus de propagande, d’incitation à la haine ou au djihad.
Par contre, dans le cas où cette publication est traitée, cela peut provoquer une incompréhension pour le publieur étant donné qu’on limite sa liberté d’expression. De plus, dans certains cas, cette suppression peut être injustifiée mais nous y reviendrons plus tard. La personne voyant sa publication supprimée peut être confrontée à un sentiment d’inégalité si elle voit d’autres publications comportant elles-aussi des propos « mauvais » .
Dans cette seconde partie, nous allons aborder le cas où les publications/comptes sont supprimés, avec la seule différence que ces décisions seront prises par une IA.
Si la publication est supprimée par une IA, la détection et le traitement adéquat de cette publication seront faits de manière plus rapide. Ainsi, moins de personnes ont le temps de visionner cette publication et donc moins de mal-être de manière générale. De plus, au niveau des conséquences, cela évite aux personnes traitant des publications nuisibles de devoir lire des propos déplacés, à longueur de journée. Il y a donc une purification des publications présentes sur les réseaux sociaux mais cela permet également d’alléger psychologiquement les personnes qui font ce travail quotidiennement ou de les remplacer entièrement.
Cependant, étant donné que l’IA peut également faire des erreurs concernant la compréhension de la publication traitée, cela peut causer de l’incompréhension chez certaines personnes, ne comprenant pas pourquoi leurs publications ont été supprimées. Même si cette frustration est présente, il faut être conscient que l'erreur faite par une IA pour la suppression d'une publication par erreur est plus facilement acceptable que s’il s’agissait d’une erreur pour une décision dans le cadre médical, par exemple.
Si on regarde d’un point de vue de l’utilitarisme, c’est-à-dire regarder la somme des plaisirs d’un côté et les peines de l’autre afin de voir la balance, un autre sentiment pourrait se faire sentir pour les personnes fréquentant les réseaux sociaux, c’est celui de l’impuissance. En effet, chaque publication serait en quelque sorte remise en question par l’IA.
On aurait donc d’un côté la « purification » des réseaux sociaux avec la limitation de la visibilité de certaines publications et de l’autre côté le sentiment d’impuissance et l’entrave à la liberté d’expression.