Intelligence artificielle et inégalités sociales : un panorama des approches existantes
Dans une agence de recrutement, un algorithme de tri de CV écarte systématiquement les candidatures féminines pour des postes techniques, non parce qu’une règle explicite l’exige, mais parce qu’il a appris sur des données historiques où ces postes étaient majoritairement occupés par des hommes. Ce cas, documenté par plusieurs chercheurs en éthique algorithmique, illustre la manière dont un outil supposément neutre peut reproduire, voire amplifier, des disparités sociales préexistantes.
Face à ce constat, différentes stratégies techniques, juridiques et organisationnelles ont été développées. Leur objectif commun est de limiter les biais discriminatoires des systèmes d’IA, mais leurs méthodes, leurs champs d’application et leurs limites divergent considérablement.
Corriger les données et les modèles en amont
La première famille d’approches agit en amont du déploiement du système, sur les données d’apprentissage et la conception du modèle. L’idée centrale est que si un algorithme apprend à partir de données biaisées, il reproduira ces biais. Il s’agit donc de « nettoyer » ou de rééquilibrer les jeux de données.
Plusieurs techniques existent. L’une consiste à supprimer les attributs sensibles – comme le genre, l’origine ethnique ou l’âge – des données d’entraînement. Cette méthode, dite « d’ignorance », s’avère souvent insuffisante : d’autres variables, comme le code postal ou le nom de famille, peuvent servir de proxys indirects pour ces attributs et permettre au modèle de reconstituer l’information que l’on cherchait à masquer. Une autre approche consiste à rééchantillonner les données pour que chaque groupe social soit représenté de manière équitable, ou à modifier les poids des exemples d’apprentissage afin de pénaliser davantage les erreurs commises sur les groupes minoritaires.
Ces corrections ont un coût en performance globale. Un modèle rééquilibré peut faire moins de prédictions exactes sur la population majoritaire qu’un modèle non contraint. Le choix d’une telle correction relève donc d’une décision politique : accepter une légère baisse de précision pour garantir une meilleure équité entre les groupes. Ce compromis n’est pas toujours explicité par les développeurs, et son acceptabilité dépend du domaine d’application.
Auditer les systèmes et les contraindre juridiquement
La seconde approche ne modifie pas l’algorithme lui-même, mais encadre son usage par des contrôles externes. Elle repose sur des audits de biais, réalisés avant la mise en service ou de manière continue, par des équipes indépendantes de celle qui a développé le système. Ces audits consistent à tester le modèle sur des données spécifiquement conçues pour révéler des traitements différenciés selon des critères protégés.
Dans l’Union européenne, la législation sur l’intelligence artificielle, adoptée en 2024, introduit une obligation de ce type pour les systèmes classés à « haut risque » – notamment ceux utilisés pour le recrutement, l’accès au crédit ou les services publics. Les organismes qui déploient ces systèmes doivent réaliser une évaluation de leur impact sur les droits fondamentaux, documenter leurs procédures et permettre aux autorités de contrôle d’accéder aux données techniques. En cas de non-conformité, des sanctions financières sont prévues.
Cette voie présente des limites pratiques. Les critères d’équité à vérifier ne font pas l’objet d’un consensus : faut-il exiger des taux de sélection identiques entre groupes, des performances équivalentes pour des profils équivalents, ou une absence totale de corrélation avec les attributs sensibles ? Selon la définition choisie, un même système peut être jugé équitable ou non. Par ailleurs, l’audit ne capture qu’un instantané du comportement du modèle ; celui-ci peut évoluer lorsque de nouvelles données sont intégrées, rendant nécessaire une surveillance continue dont le coût est rarement anticipé.
Repenser la place de l’IA dans la décision humaine
Une troisième approche, plus organisationnelle, consiste à ne pas traiter l’IA comme un décideur autonome, mais comme un outil d’aide dont les résultats peuvent être contestés. Cette conception modifie le rôle des humains dans la chaîne de traitement. Elle suppose que les agents – recruteurs, travailleurs sociaux, médecins – disposent d’une formation suffisante pour interpréter les sorties du système, en connaître les angles morts et avoir l’autorité de passer outre.
Plusieurs expérimentations en France et à l’étranger ont montré que cette marge de manœuvre humaine est fragile. Face à un système perçu comme fiable, les opérateurs ont tendance à suivre ses recommandations sans les examiner, un phénomène appelé « automatisation du biais » ou « complaisance algorithmique ». D’autres facteurs, comme la charge de travail ou la peur d’être tenu responsable d’une décision contraire à la suggestion du système, réduisent encore l’autonomie réelle des professionnels concernés. Pour que cette approche fonctionne, il ne suffit pas d’ajouter un bouton « désaccord » sur une interface ; il faut repenser les procédures de contrôle, les voies de recours pour les personnes concernées et les critères de responsabilité en cas d’erreur.
Cette perspective soulève également la question de la transparence. Si un citoyen conteste une décision – refus d’un prêt, exclusion d’une liste d’attente –, il doit pouvoir comprendre sur quels éléments elle s’est fondée. Or, les modèles les plus performants, comme les réseaux de neurones profonds, sont difficilement interprétables, même pour leurs concepteurs. Des techniques d’explication « post hoc » existent, mais elles fournissent des approximations qui peuvent être trompeuses. Le choix d’un modèle moins performant mais plus transparent est donc une option sérieuse, notamment dans les secteurs où la décision engage les droits des personnes.
Les trois familles d’approches ne sont pas mutuellement exclusives. Plusieurs organisations combinent le rééquilibrage des données, l’audit externe et le maintien d’une supervision humaine. Aucune ne garantit une élimination complète des inégalités : les biais peuvent provenir de la formulation du problème lui-même, des catégories utilisées ou des objectifs assignés au système. La question de savoir si l’IA doit corriger les inégalités sociales, ou simplement ne pas les aggraver, reste ouverte et dépend des choix collectifs faits lors de la conception et du déploiement de ces outils.
