Recrutement : les modèles d’IA fabriquent leurs propres préjugés
Aujourd’hui, votre CV a de bonnes chances d’être lu par un modèle de langage avant d’arriver sur le bureau d’un recruteur. Et on sait déjà que ces modèles reproduisent les stéréotypes présents dans leurs données d’entraînement. Une étude présentée en juillet 2026 lors de la conférence ICML, à Séoul, ajoute un problème de plus. Les modèles n’héritent pas seulement de nos préjugés, ils en inventent de nouveaux à partir de leur propre expérience. Et dans le test mené par les chercheurs, ils le font plus vite et plus fort que les humains.
Table of Contents
Un jeu de recrutement pour observer la formation des stéréotypes
Des équipes de l’université de Princeton et de l’université de Chicago ont repris un protocole issu de la psychologie, conçu à l’origine pour étudier la façon dont les humains construisent des stéréotypes. Elles l’ont adapté à plusieurs modèles parmi les plus utilisés, dont ChatGPT, Claude et Gemini.
Le scénario est le suivant : chaque modèle est présenté comme le consultant du maire d’une ville fictive, chargé de pourvoir 20 postes. La liste couvre des métiers très différents, du médecin à l’avocat en passant par l’aide à l’enfance et l’agent d’entretien. Les candidats appartiennent à quatre groupes ethniques inventés pour l’occasion, sans aucun lien avec des populations réelles.
À chaque tour, un poste est ouvert et quatre candidats se présentent, un par groupe. Le modèle choisit, puis apprend immédiatement si son recrutement a été un succès ou un échec. L’opération se répète sur 40 tours, avec une consigne unique, faire le maximum de recrutements réussis. Le point important tient en une phrase que les modèles ignoraient. Tous les candidats avaient exactement les mêmes chances de réussir, quel que soit le poste et quel que soit leur groupe.
Une généralisation à partir de presque rien
Très vite, les modèles se sont mis à répartir les groupes par type de métier, en s’appuyant sur une poignée d’observations faites en début de partie.
Le mécanisme est facile à suivre. Un modèle apprend qu’un candidat d’un groupe donné a échoué comme médecin, un poste auquel il associe un niveau élevé de compétence et de bienveillance. Il cesse alors de recruter des médecins dans ce groupe et oriente ses membres vers des métiers qu’il juge moins exigeants sur ces deux critères, comme l’entretien. Un échec isolé, dû au hasard, devient une règle appliquée aux 39 tours suivants.
Pour mesurer ce phénomène, les chercheurs utilisent une échelle de ségrégation qui va jusqu’à 2, valeur atteinte lorsque chaque groupe est entièrement cantonné à sa propre niche professionnelle. Les participants humains de l’étude d’origine obtenaient 0,84. Les modèles se situent environ 65 % au dessus, et le modèle de raisonnement o3 d’OpenAI monte à 1,83, proche du maximum.
Autre constat, les modèles récents dotés de capacités de raisonnement renforcées, comme o3 ou R1 de DeepSeek, affichent les biais les plus marqués. Les versions censées mieux réfléchir sont aussi celles qui tranchent le plus vite.
Lire aussi : Comment négocier son salaire lors d’une embauche
Pourquoi les modèles se trompent sur ce terrain
L’explication avancée par les auteurs tient à la façon dont ces systèmes sont entraînés. Les modèles apprennent sur des problèmes de mathématiques, de code et de sciences, c’est à dire des tâches où savoir généraliser à partir de deux ou trois exemples est un atout. Cette aptitude est récompensée pendant l’entraînement, elle devient un réflexe.
Le problème, c’est que ce réflexe ne se désactive pas quand le sujet change. Tout décideur, humain ou machine, arbitre en permanence entre répéter ce qui a marché et tester autre chose qui marcherait peut être mieux. Les psychologues parlent de dilemme entre exploration et exploitation. C’est le choix entre le restaurant que vous connaissez et celui qui vient d’ouvrir en bas de la rue. Les modèles arrêtent l’exploration trop tôt. Sur un problème de logique, cette précipitation passe souvent inaperçue. Sur des décisions qui portent sur des personnes, elle produit des stéréotypes.
Les consignes de neutralité ne suffisent pas
Demander au modèle d’être équitable ne change quasiment rien à son comportement. Soit la consigne reste théorique et n’est pas traduite en actes, soit elle passe au second plan derrière l’objectif principal, maximiser le nombre de bons recrutements.
Deuxième enseignement, l’objectif lui même est le vrai levier. Quand les chercheurs ont promis aux modèles un bonus pour la diversité des profils recrutés, les biais ont fortement reculé. La leçon est nette pour toute entreprise qui déploie ce type d’outil. Ce sont les critères de succès inscrits dans la tâche qui orientent le résultat, pas les rappels de bonne conduite ajoutés dans le prompt.
Troisième enseignement, la qualité des informations fournies compte. Dans une autre expérience de la même étude, les modèles devaient répartir des membres de différents groupes dans plusieurs villes du Canada. Avec des données pertinentes sur chaque personne, comme l’âge ou le niveau d’études, la ségrégation par groupe diminuait. Avec des informations sans rapport avec la tâche, comme la couleur des cheveux ou la forme d’un tatouage, les modèles revenaient à leur tri par appartenance ethnique.
Le lien avec la mémoire des assistants IA
Ce résultat arrive au moment où les éditeurs généralisent la mémoire et la personnalisation dans leurs assistants. Un chatbot qui s’appuie sur l’historique de vos échanges peut accorder trop de poids à ce qu’il a déjà observé et se forger des habitudes de jugement à partir de cas isolés.
Réduire la mémoire n’est pas une réponse satisfaisante, puisque c’est précisément la fonction que réclament les utilisateurs. Le dosage reste à trouver, et il n’existe pour l’instant aucune règle claire sur la quantité d’informations qu’un assistant devrait conserver.
Dès que des retours commencent à remonter, un modèle peut leur donner un poids excessif et ajuster ses décisions suivantes sur cette base. Or les systèmes de langage servent déjà à filtrer des candidatures, à rédiger des questions d’entretien et parfois à mener ces entretiens.
À mesure que ces outils s’installent dans le recrutement, l’accès au crédit ou les décisions judiciaires, la question ne porte plus seulement sur les biais hérités des données. Il faut aussi surveiller ceux que les modèles construisent seuls, au fil de leur expérience, et que personne ne leur a enseignés. Ceux là ne figurent dans aucun jeu de données d’entraînement, ce qui les rend plus difficiles à repérer et à corriger.
