Les techniques d’embauche évitent-elles les préjugés ou les renforcent-ils? Cette préoccupation fondamentale est apparue comme une source d’inquiétude pour les partisans de la technologie ainsi que pour ses sceptiques, mais la réponse à cette question est plus avancée qu’il n’apparaît. L’utilisation des services de n’est presque jamais un choix, mais plutôt l’aboutissement de choix plus compacts et séquentiels. Les techniques remplissent diverses fonctions tout au long de cette procédure: certaines orientent les annonces de tâches vers des candidats particuliers, tandis que d’autres signalent des candidats non agressifs au recrutement. L’analyse prédictive de l’équipement et le pointage de crédit reprennent, et aident les administrateurs d’embauche à évaluer les compétences des prospects en nouvelles techniques, en utilisant chacune des données traditionnelles et innovantes. On s’attend beaucoup à ce que les techniques aident les créateurs de sélection d’hommes à prévenir leurs propres préjugés en persistant dans l’approche de sélection. Mais les techniques apportent de nouveaux dangers. Ils pourraient reproduire les biais institutionnels et historiques, amplifiant les inconvénients cachés dans des facteurs d’information tels que la fréquentation scolaire ou les scores globaux d’analyse de performance.

Même si des règles éliminent une part de subjectivité de votre procédure de recrutement, les êtres humains continuent d’être fortement associés aux choix d’embauche définitifs. Les arguments qui font que les techniques «objectives» sont aussi justes et plus précises que les humains faillibles oublient de bien savoir que, dans la plupart des cas, jouent également un rôle. Pour comprendre les préjugés dans la sélection des algorithmes et les moyens de les minimiser, nous devrons explorer la façon dont la technologie prédictive fonctionne à chaque changement d’application de votre approche. Même s’ils partagent fréquemment une partie de l’unité d’apprentissage, les ressources utilisées précédemment dans le processus peuvent être fondamentalement différentes de celles utilisées par la suite. Même les instruments qui semblent effectuer exactement le même processus pourraient dépendre de plusieurs types de données, ou présenter des prophéties de manière très différente. Notre analyse de l’équipement prédictif dans le cadre de la méthode de recrutement vous aide à expliquer exactement ce que font les «algorithmes de recrutement» et comment et où des préjugés peuvent entrer dans la méthode. Malheureusement, nous avons découvert que la plupart des ensembles de règles d’embauche dériveraient au détriment des préjugés. Même si leur contribution probable à la réduction des préjugés interpersonnels ne doit pas être minimisée, seuls des outils permettant de gérer de manière proactive des disparités encore plus profondes vous donneront l’espoir que l’innovation technologique prédictive pourrait aider à promouvoir les garanties, au lieu de les atténuer. L’approche d’emploi commence effectivement juste avant qu’un demandeur d’emploi soumette un logiciel.

Au stade du «sourcing» ou de l’embauche, aide prédictive à l’innovation technologique destinée à promouvoir les possibilités d’emploi, informe les demandeurs d’emploi sur les emplois les plus susceptibles de plaire, et propose aux employeurs potentiels des candidats potentiels à la surface. Pour attirer des individus, de nombreuses entreprises utilisent des programmes d’annonces algorithmiques et des panneaux de tâches pour atteindre les chercheurs d’emploi les plus «pertinents». Ces méthodes, qui promettent aux entreprises une meilleure utilisation des budgets de dépenses de recrutement, produisent généralement des estimations remarquablement superficielles: elles ne prédisent pas qui peut réussir dans le poste, mais qui cliquera probablement simplement sur cette offre d’emploi. Ces prévisions font souvent en sorte que les offres d’emploi soient fournies de manière à soutenir les stéréotypes sexuels et raciaux, même lorsque les entreprises n’ont pas ce genre d’intention. Dans une recherche que nous avons menée récemment avec des collègues de la Northeastern University ou d’un collège et de l’USC, nous avons notamment constaté que les annonces généralement ciblées sur Facebook ou sur MySpace pour des postes de caissiers sur le marché alimentaire avaient été prouvées devant un public composé de 85% de femmes. avec les compagnies de taxi ont accompagné les téléspectateurs qui avaient été environ 75% de couleur noire. C’est vraiment une circonstance parfaite de votre algorithme reproduisant les préjugés du monde réel, sans implication humaine. Entre-temps, des panneaux de tâches personnalisés tels que ZipRecruiter tentent de comprendre automatiquement les préférences des recruteurs et utilisent toutes ces estimations pour solliciter des personnes similaires.

A l’instar de Facebook ou de Twitter, ces méthodes de suggestion sont spécialement conçues pour localiser et reproduire les schémas de comportement des consommateurs, en modernisant les estimations de manière dynamique à mesure que les entreprises et les demandeurs d’emploi se rencontrent. Lorsque le processus constate que les employeurs se connectent plus fréquemment avec des hommes blancs et brillants, il peut très bien localiser des mandataires pour les caractéristiques des personnes (par exemple, devenir Jared ou participer à une crosse au lycée) et reproduire cette conception. Ce type d’impact indésirable peut avoir lieu sans formation explicite, et pire, sans reconnaissance individuelle. Traquer des algorithmes ne sera probablement pas une surface d’imagination pour la plupart d’entre nous chaque fois qu’ils pensent «algorithme d’embauche». Cependant, les décisions informatisées prises au début de la phase à partir de l’entonnoir employé sont très répandues. À titre d’exemple, l’instrument mis au rebut par Amazon sur le marché en ligne pour les filles défavorisées n’était pas un outil de variété pour évaluer des personnes réelles, mais un outil permettant de révéler les personnes inactives que les employeurs pouvaient obtenir. Le repérage d’algorithmes ne permet pas nécessairement de décliner ouvertement les personnes, mais comme le dit Pauline Kim, juriste, «ne pas dire aux individus leur chance d’emploi est un obstacle très efficace» pour les personnes à la recherche d’un emploi. Ces outils peuvent ne pas toujours être efficaces pour les lignes de commande dystopiques, mais ils jouent néanmoins un rôle essentiel pour déterminer qui a accès aux services de procédure par quelque moyen que ce soit.