Gestion quotidienne & pilotage stratégique :
éliminez vos doutes, contactez un expert SVP

    Algorithme et data : opportunité et danger pour le recrutement…

    17 septembre 2019

    83% des entreprises ont déclaré que l'IA – intelligence artificielle - était aujourd'hui une priorité stratégique pour leur entreprise. Elles y voient de multiples opportunités d'accélération de processus et d'automatisation des taches. Mais ne jouent-elles pas parfois les " apprentis sorciers " ?

    De bons outils…

    Les data, les bases de données, sont des outils dont ne peut plus se passer un DRH. De plus un bon algorithme reproduit les meilleures pratiques de l'être humain sur un sujet donné et permet de lui faciliter la tache dans certaines de ses fonctions .Dans le processus de recrutement par exemple cela présente des avantages certains en terme d'efficacité et de coûts.

    …mais qui ont aussi des limites

    À l'heure actuelle, en raison d'un manque d'explicabilité concernant l'IA et l'apprentissage automatique, il est difficile de savoir comment un algorithme parvient à sa décision. Il est donc difficile de savoir quand une faute ou une erreur s'est produite

    Le fonctionnement de l'algorithme peut s'avérer indémontrable, difficile à appréhender et ensuite à corriger. On parle d'effet " boite noire "

    Les limites dans les RH

    Car oui si l'algorithme est un facilitateur, il doit néanmoins s'intégrer dans les règles humaines et légales du droit du travail.

    II a été effectivement démontré que de nombreux algorithmes pouvaient aboutir à des décisions considérées comme discriminantes. On appelle cela le " biais algorithme ". En effet les algorithmes sont " nourris " de nombreux jeux de données résultant d'actions humaines afin qu'ils puissent apprendre à faire des choix. Mais leur faiblesse vient du fait qu'ils vont de ce fait reproduire les biais inconscients contenus dans les jeux de données !

    Par exemple, un algorithme utilisé pour du recrutement et analysant un service dans lequel il n'y a que des hommes, procédera à une sélection de profils …uniquement masculins.

    L'intelligence artificielle est totalement objective, mais elle ne l'est que par rapport aux données introduites dans le système.

    Et l'humain ?

    Le meilleur des outils ne suffira pas à faire face à la malveillance ou aux biais potentiels d'un individu. Donc pour lutter efficacement contre les discriminations intentionnelles il est nécessaire de faire monter en compétences les managers, bâtir une culture de l'inclusion et de la diversité. C'est un travail sur l'humain que le DRH connait bien !

    Le rôle accru du DRH

    Pour autant, c'est bien sur le sujet de l'outil que le DRH est aujourd'hui inexpérimenté. Car à la base c'est l'humain qui détermine les choix de la machine, qui déterminent ensuite les choix de l'humain…

    Pour un DRH socialement responsable et au-delà des actions menées sur les personnes et les processus, il est nécessaire de définir un ensemble de bonnes pratiques en matière de gestion des données par des outils digitaux.

    Car aujourd'hui il y a un réel risque pour l'atteinte des objectifs RH, mais également une potentielle destruction de la valeur sociale de l'entreprise risquant d'être noyée dans les flux digitaux toujours plus importants.

    ” Plus que jamais, avec l'omniprésence du digital et de son rôle prépondérant dans les décisions, les DRH devront véritablement jouer leur rôle de régulateurs sociaux, en garantissant un traitement équitable et juste en toutes circonstances. Pour y parvenir, ils devront lutter contre de nombreux risques induits par les nouvelles pratiques, comme le risque de déshumanisation des interactions, le risque de stupidité artificielle, et le risque de discrimination par l'algorithme “. comme le dit Miche Barabel

    Un risque potentiel dans le processus de recrutement

    Le DRH va être appelé à respecter et faire respecter le principe de non-discrimination. Dans le code du travail l'article L 1132-1 prévoit : " Aucune personne ne peut être écartée d'une procédure de recrutement ou de nomination ou de l'accès à un stage ou à une période de formation en entreprise, aucun salarié ne peut être sanctionné, licencié ou faire l'objet d'une mesure discriminatoire, directe ou indirecte "

    Un algorithme " mal nourri " peut s'avérer très dangereux et aboutir à des abus et des discriminations pouvant à la fois générer une sanction civile si un salarié victime demande réparation par le biais de dommages et intérêts mais également une sanction pénale.

    Cette lettre est réalisée par : Anne-catherine Auzanneau, Delphine Guidat, Richard Arjoun

    Les articles des experts SVP sur le même thème :