#2 - 👷Qui décide de qui travaille ?

Ce qu'elle montre avant tout, c'est que les entreprises qui ont recours à ces solutions ne sont pas suffisamment critiques envers leurs défaillances massives. En guise de calculs, ces systèmes produisent surtout des approximations généralisées. Sous l'apparence de scientificité des scores et des chiffres qu'ils déterminent se cache en fait beaucoup de pseudo-science, de comparaisons mots à mots peu efficaces. Quand on s'intéresse au fonctionnement concret de ces outils, on constate surtout que leur caractéristique principale, ce n'est pas tant qu'ils hallucinent, mais de nous faire halluciner, c'est-à-dire de nous faire croire en leurs effets.

L'industrie RH se contente parfaitement de la situation, souligne-t-elle. Les avocats américains recommandent d'ailleurs aux services RH des entreprises de ne pas enquêter sur les outils qu'ils utilisent pour ne pas être tenu responsables de leurs dysfonctionnements ! A croire que la responsabilité sociale fonctionne mieux avec des œillères !

Ainsi, dans la moitié des outils d'analyse automatisés testés par son équipe, avoir un trou de 6 mois dans sa carrière conduit à une exclusion automatique, quelle que soit la raison de ce passage à vide (congé natalité, maladie…) et ce même si la candidature est par ailleurs très bien notée.

Les descriptions de postes se complexifient, écartant certains postulants, et notamment les femmes qui ont tendance à postuler que si elles sont convaincues qu'elles satisfont à l'essentiel des exigences d'un poste.

L'avocat spécialiste des questions de travail Ken Willner a ainsi montré que des termes comme "Afric" ou "Latin", qu'ils soient associés à un travail où à un hobby (comme le fait de pratiquer la danse Afro par exemple) pouvaient dégrader le score d'un CV juste parce que la présence du terme renvoie à des publics afro-américains. Sur les douzaines de systèmes d'embauche que l'avocat a examinés, il a trouvé des variables problématiques dans plus d'un quart ! Pour Willner, les entreprises qui développent ces outils ne font même pas le travail liminaire de contrôle et de non prise en compte de termes potentiellement discriminatoires. Willner en a trouvé bien d'autres, comme la pratique du baseball et du softball, le second surtout joué par des femmes, dont l'occurrence pouvait être prise en compte pour dégrader le score des secondes.