Comment Pôle emploi construit une « IA de service public, éthique et citoyenne »
Par Philippe Guerrier | Le | Solutions d'évaluation
La Charte de Pôle emploi pour une IA éthique recense les enjeux soulevés par l’IA. Richard Ruot, représentant de la direction Offre de Services de Pôle emploi, et Samira Bounaasse, cheffe de projet dédiée, précisent la portée.
Comment rendre l’exploitation de l’intelligence artificielle compatible avec la recherche d’emploi ?
En avril 2022, Pôle emploi a édicté une « charte pour une utilisation éthique de l’intelligence artificielle » qui repose sur 7 principes :
- Finalité et légitimité des algorithmes,
- L’humain au centre,
- Equité et non discrimination,
- Liberté de choix,
- Transparence,
- Sécurité,
- Impact environnemental.
Richard Ruot, directeur en charge du Développement et Ancrage des Pratiques au sein de la direction Offre de Services de Pôle emploi, et Samira Bounaasse, cheffe de projet éthique IA à Pôle emploi, abordent ce sujet dans un entretien croisé.
Comment Pôle emploi lie l’éthique à l’IA ?
Richard Ruot : Notre démarche éthique & IA est née d’une réflexion liée au projet Intelligence Emploi que j’ai porté avec Michel Cottura à partir de 2018 au sein de Pôle emploi dans le cadre d’un appel à projets du FTAP (Fonds de transformation pour l’action publique).
Nous avions déjà mené des POC sur l’IA depuis 2014 et nous avions reconnu sa valeur et sa pertinence technique. Depuis, nous avons atteint une certaine maturité. Mais si nous voulions vraiment intégrer l’IA comme un levier d’efficience de transformation, et d’amélioration de la qualité de service rendu auprès des usagers, des conseillers et des recruteurs, il fallait sortir de cette dimension de POC.
En menant le projet Intelligence Emploi entre 2019 et 2021 (finalement étendu jusqu’en octobre 2022), Pôle emploi peut vraiment embarquer l’IA dans une vision systémique et l’appliquer dans nos 896 agences de proximité et relais Pôle emploi de sites d’accueil sur le territoire national voire l’étendre dans la sphère publique pour faire bénéficier de notre expérience à d’autres organismes.
Dans ce contexte, nous avons compris que l’éthique pouvait servir :
- de colonne vertébrale pour supporter nos travaux autour de sept grandes familles de capacités qui permettent de passer l’IA à l’échelle au sein de Pôle emploi : éthique, conduite du changement, compétences & expertises, gouvernance des données, socles technologiques, méthodologies et comités, écosystèmes),
- de boussole pour structurer notre démarche et prioriser nos travaux.
Nos objectifs consistent à :
- livrer une IA de service public à la fois citoyenne et éthique au nom de la souveraineté de la France et de l’Europe,
- s’appuyer sur les analyses de nos comités éthiques (interne et externe) sur l’IA,
- pousser le développement des solutions IA dans les pratiques opérationnelles de Pôle emploi pour qu’il soit incarné dans nos processus digitaux, de data sciences et de gestion de projets,
- accompagner la conduite du changement pour que les conseillers Pôle emploi comprennent la finalité des cas d’usages des solutions IA et qu’ils en informent les demandeurs d’emploi.
Samira Bounaasse : Les premières réflexions pour une IA éthique remontent en 2019 à travers la constitution d’un groupe pluridisciplinaire composé de demandeurs d’emplois et de conseillers Pôle emploi. Ce qui a permis de poser les bases de notre approche en prenant en compte les comportements humains et informatiques.
Une validation des premiers objectifs de la charte pour une IA éthique a vu le jour en 2020 par le conseil d’administration de Pôle emploi.
En prenant en compte cette charte pour une IA éthique basée sur 7 enjeux qui vient d’être publiée, nous avons élaboré un outil d’évaluation qui accompagne la réflexion des chefs de projets dans leur travail de développement de services utilisant de l’IA.
Sur les 7 principes édictés dans cette charte, quels sont les principaux points à retenir ?
L’objectif n’est pas de faire de l’IA à tous crins.
Richard Ruot : Je pense que ceux portant sur l’équité très lié avec la non-discrimination, la transparence et la liberté de choix font partie de l’ADN d’un service public.
L’IA a une réelle plus-value dans certaines partie des process métiers mais elle doit être intégrée de façon raisonnée et efficiente avec l’apport de valeur de la compétence des humains.
L’objectif n’est donc pas de faire de l’IA à tous crins. Elle doit toujours rester au service de l’humain. L’impact environnemental, également inscrite dans la charte IA, est aussi un parti pris fort pour une IA raisonnée, responsable et de confiance.
Pour télécharger en version PDF la charte éthique de Pôle emploi pour une intelligence artificielle éthique
Pour assurer la transparence des algorithmes, quels efforts réalisez-vous du côté de Pôle emploi ?
Samira Bounaasse : Pôle emploi prend le soin d’informer l’utilisateur final de l’exploitation de solutions qui comportent de l’IA.
- Pour le conseiller Pôle emploi comme pour le demandeur d’emploi, le choix de suivre la recommandation de l’IA ou de faire son propre choix est toujours possible, cela correspond à notre enjeu, l’humain au centre et la liberté de choix.
- Une ligne éthique & déontologie a été mise en place en interne pour les conseillers qui souhaitent avoir des précisions sur les usages des services IA. Nous disposons aussi d’un réseau de 19 correspondants régionaux en charge de l’éthique.
Richard Ruot : La question de la transparence des algorithmes s’inscrit dans le prolongement :
- de la loi pour une République numérique promulguée le 7 octobre 2016,
- de la Mission Bothorel « pour une politique publique de la donnée » de 2020.
Il est possible d’afficher le code source mais cela ne rendra pas la démarche plus transparente, compte tenu des compétences techniques pré-requises pour saisir l’approche.
En revanche, en termes de recommandation méthodologique et pédagogique, nous dissocions le volet des prédictions issues de l’algorithme IA et les règles de gestion métier qui les exploitent pour favoriser l’explicabilité et éviter que l’IA soit perçue comme une boîte noire.
Cette charte IA est applicable à combien de services exploités par Pôle emploi ?
Richard Ruot : 8 services ont été généralisés pour répondre aux besoins des conseillers, des demandeurs d’emploi et des recruteurs. Une vingtaine d’autres sont en cours de qualification ou exploités sous forme de POC.
Categories de solutions IA | Noms des applications | Objets d’exploitation |
Solutions orientées conseillers | Gestion des contacts via mails A1 | Optimise le traitement des mails des conseillers et renforce la personnalisation er la réactivité des échanges par mails |
Solutions orientées demandeurs d’emploi | Recommandations personnalisées | Propose des services du catalogue de Pôle emploi et ses partenaires comme des leviers au retour à l’emploi du demandeur d’emploi (déploiement sur les régions Bourgogne, Franche Comté et Centre Val de Loire + sur les départements des Landes et de l’Aisne). |
Analyse automatique de CV | Met en qualité le profil des demandeurs d’emploi sur la base d’extraction des données du CV (mis en service pour les demandeurs d’emploi primo inscrits). | |
Accès simplifié à l’information | Améliore l’expérience utilisateur sur la recherche d’information depuis le site pole-emploi.fr. | |
Solutions orientées recruteurs | Prédiction de la probabilité de pourvoi d’une offre à 30 jours | Apporte une aide à la priorisation des actions de relance des conseillers pour anticiper le contacte des recruteurs pour les offres dont le délai de pourvoir risque de dépasser les 30 jours. |
Contrôle automatique de légalité d’une offre | Reconnait des offres légales/illégales et de gère la validation de la légalité des offres. | |
VADORE | Permet de réaliser un projet mené dans le cadre du partenariat entre Pôle emploi et l’institut Polytechnique de Paris - mobilise toutes les données disponibles pour améliorer le rapprochement entre la demande et l’offre d’emploi en utilisant au-delà des critères communs de recherche, des informations à forte valeur (tests en cours). | |
Solution déployée en interne | Smart emploi/Data emploi | Analyse le marché de l’emploi à une maille territoriale et expose une base d’indicateurs locaux certifiés sur le marché du travail accessible pour l’interne comme pour l’externe Pôle emploi. |
(Adaptation d’une interview diffusée le 10 mai 2022 sur News Tank RH. Pour accéder à une offre découverte)