b. Leviers d'action

Le contexte

Dans le cadre de la loi européenne sur l'IA, dans l’hypothèse de recours à des systèmes d’IA à haut risque à des fins professionnelles, les "déployeurs" auront des obligations qui visent à s'assurer qu'ils utilisent les systèmes en accord avec les instructions qui les accompagnent. Ils seront aussi tenus d'assurer un contrôle humain dans l'utilisation des systèmes et de garantir la formation des personnes concernées. Ils seront aussi contraints de respecter certaines obligations de tenue d’un journal et d’analyse d’impact relative à la protection des données. Ces obligations s’appliqueront aux systèmes considérés à haut risque au sens de la loi sur l'IA. Tous les systèmes d'IA utilisés dans le cadre des ressources humaines (emploi, gestion des travailleurs, accès à l'emploi, utilisés pour prendre des décisions concernant les conditions de travail, etc. seront donc concernés par ces obligations.

Les représentants du personnel vont avoir un rôle essentiel à jouer dans ce contexte, ne serait ce que parce que l'approche retenue par la loi sur l'IA, qui repose principalement sur l'auto évaluation, n'exclue pas la possibilité que certains systèmes, une fois déployés, présentent des risques notamment en matière de droits fondamentaux, pour la santé et la sécurité , etc.

De quoi s'agit-il ? Finalité et objet

Il serait utile dans ce contexte d’instaurer un outil de suivi des systèmes IA installés dans les organisations. Au vu de l’omniprésence des outils d’IA au travail sous des formes très variées, ce registre permettrait de visibiliser ces dispositifs et de les porter à la connaissance de l’ensemble des parties prenantes pour en permettre une meilleure compréhension. Les participants aux ateliers du projet DIALIA ont en effet beaucoup souligné que les outils d’IA sont souvent utilisés sans que l’on ait conscience qu’il s’agit d’intelligence artificielle.

A l'image du RGPD et de son registre de traitement des données collectées (registre qui, il faut le préciser, n'est pas transmis aux représentants du personnel mais tenu à disposition de l'autorité de contrôle), serait mis en place un registre de suivi des systèmes d’IA tels que définis dans la loi sur l'IA et utilisés dans les organisations dans le cadre du travail. Ainsi, cette proposition s’insère dans le prolongement de l’article 2 de la loi sur l'IA permettant aux États membres de compléter le règlement IA au niveau national dans un sens plus favorable aux travailleurs. Elle propose aussi, dans l'esprit de l'accord cadre de juin 2020 des partenaires sociaux européens, d'étendre les études d'impact (au delà, en particulier, de l'analyse d'impact relative à la protection des données de l'article 35 du RGPD) et de prévoir la transmission de ces études d'impact aux représentants du personnel (dans l'esprit de ce que prévoit la Directive Européenne sur les travailleurs de plateformes).

Cette proposition complète ainsi le journal des événements prévu tout le long du cycle de vie du système à l’article 12 du règlement en l’enrichissant avec des éléments concernant l’usage dans le cadre du travail et en l’étendant au-delà des seules pratiques à haut risque.

Ce registre intégrerait une description et une évaluation des logiciels ou services existants basés sur l’IA et permettrait d’impliquer très tôt toutes les parties prenantes de l’organisation pour renforcer la responsabilisation grâce à la prise de décision collective et au suivi : direction (superviseurs), département informatique (exécutants), utilisateurs (RH, chaîne d’approvisionnement, etc.), syndicats, département des achats (apporter les contrats et toutes les informations nécessaires).

Concrètement, le registre permettrait de suivre les décisions, de réinterroger les choix effectués.
Il pourrait prendre la forme suivante (voir registre)

Intégrer les enjeux soulevés par les SIA dans le dialogue social en entreprise – approche globale pour des représentants du personnel

De quoi s’agit-il ?

Cette fiche présente une approche globale pour intégrer les enjeux de l'IA dans le dialogue social et la gestion des ressources humaines (évolution des emplois et compétences, conditions de travail, etc.). Cette technologie, itérative et souvent implicite car s’adossant à des outils numériques existants, n’est pas neutre en termes d’investissements, d’organisation du travail, d’évolution des compétences et des emplois. C’est donc un sujet commun d’attention pour l’employeur et les salariés.

La problématique à adresser est la suivante :

Comment identifier l’IA dans l’entreprise et l’amener à devenir un objet de dialogue social au regard de cet intérêt commun entre l‘employeur et les salariés ?

Il s’agit ainsi d’outiller une stratégie syndicale devant permettre de développer le dialogue social, ceci dans un contexte où les directions sont rarement enclines à encadrer l’introduction et le déploiement de l’IA via des accords collectifs (de branche ou accord cadre en entreprise) ou des démarches de consultation innovantes des représentants des salariés.

Deux dimensions peuvent alors coexister :

• Faire avec les outils français légaux existants
• Si possible, les dépasser pour initier des pratiques de dialogue social toutes aussi spécifiques et itératives que le sont les SIA.

Quatre principaux leviers sont identifiés dans cette fiche :

• comment rendre visibles les SIA en place dans l’entreprise et leurs impacts potentiels,
• comment mobiliser les canaux d’information et les consultations obligatoires du CSE,
• comment intégrer les impacts des SIA dans la négociation d’un Accord de Gestion des Emplois et des Parcours Professionnels,
• comment proposer des pratiques et outils innovants de dialogue social itératif.
   
   
  1. Identifier et rendre visible l’IA dans l’entreprise, le groupe, l’administration pour l’amener à devenir un outil de dialogue social

Plusieurs leviers peuvent être activés en regard des caractéristiques et impacts possibles des SIA mais aussi des spécificités de l’entreprise

1.1 Mobiliser le Règlement Général sur la Protection des Données (RGPD) :

Les SIA supposent d’être alimentés par des données, dont certaines sont des données personnelles des salariés au sens du RGPD. En conséquence, le RGPD offre certains leviers pouvant permettre aux représentants du personnel d’identifier le recours à des SIA :

• S’appuyer sur le DPD/DPO. Le DPD/DPO est un acteur clé de la gouvernance des données personnelles au sein de l’organisation. Les représentants du personnel peuvent donc le mobiliser : Aller voir le DPD/DPO pour analyser avec lui les informations déjà portées au sein du registre de traitement des données personnelles (obligatoire pour toute organisation, transmis le cas échéant à la CNIL) et de l’analyse d’impact sur la protection des données (AIPD) ; demander une présentation par le DPD/DPO de son rapport d’activité annuel en CSE central. Nota : le DPD/DPO peut ne pas répondre, en principe il répond au responsable de traitement (l’employeur).
• Demander en CSE une cartographie des traitements des données personnelles des salariés ainsi que la base légale justifiant légalement le traitement des données. NOTA : voir la fiche levier « Le RGPD et l’IA » pour des éléments complémentaires sur les moyens de mobiliser le RPGD dans le contexte de déploiement des SIA.
   
  1.2 Recueillir des informations techniques sur les usages potentiels de l’IA associés à certaines solutions logicielles largement diffusées :

mobiliser toutes les documentations et ressources disponibles identifiant les risques associés et usages potentiels de l’IA (fiches applications IA comme Workday, Copilot, Watson). Cette collecte sera d’autant plus utile qu’elle peut être en lien avec des outils numériques déjà utilisés dans l’entreprise. Ex : vous évoluez dans un environnement Microsoft. L’outil COPILOT développé par Microsoft peut s’inviter dans les propositions d’évolution des logiciels installés.
 
1.3 Mettre en place un registre des SIA, en lien avec la mise en place de la loi européenne sur l’IA.

La loi européenne sur l’IA adoptée en mai 2024 et publiée en juin 2024 au journal officiel de l'UE entrera en vigueur progressivement jusqu’à mi-mai 2026. Elle impose de faire un tri dans les produits d’IA entre ceux qui portent un risque inacceptable pour les droits fondamentaux (et donc interdits), un haut risque (notamment en matière RH) et des risques spécifiques. Il est donc utile de se familiariser avec cet environnement car les directions qui vont acheter des SIA devront s'assurer auprès de vendeurs que leur produit répond correctement au règlement européen. La fiche outil registre donne des indications sur les moyens d’instaurer un outil de suivi des systèmes IA installés dans les organisations, pouvant être mobilisé par les représentants du personnel. La fiche outil Loi sur l'IA donne des indications sur les articles pouvant être mobilisés par les représentants du personnel.
 
1.4 Optimiser l’accès aux informations sur les stratégies des groupes et d’entreprises transnationales :

L’objectif est de capitaliser les informations présentées par la direction à chaque niveau de représentation du personnel. Cette capitalisation permet de mieux cerner les politiques conduites en matière IA de façon globale et de mieux discerner leur cohérence ou non… 

1.4.1 Les informations présentées au comité de groupe
Le comité de groupe, lorsqu’il est institué, reçoit les informations sur l’activité, la situation financière, l’évolution et les prévisions d’emploi annuelles ou pluriannuelles et les actions éventuelles de prévention envisagées compte-tenu de ces prévisions, dans le groupe et dans chacune des entreprises qui le composent. Il reçoit communication des comptes et bilans consolidés ainsi que le rapport du commissaire aux comptes correspondant. Il est informé dans ces domaines des perspectives économiques du groupe pour l’année à venir. Il est réuni une fois par an. Il peut recourir à une expertise comptable à la charge de l’employeur.
Les représentants des salariés au comité de groupe peuvent échanger avec les représentants des salariés dans les organes de direction (conseil d’administration, conseil de surveillance) des sociétés composant le groupe afin de recouper les communications sur des stratégies et investissements relatifs à des SIA. partager ces informations avec les autres niveaux de représentation du personnel.

1.4.2 Les informations présentées au Comité d’Entreprise Européen (CEE) et au comité de la société européenne 

Dans les entreprises transnationales d’une certaine dimension ou ayant opté pour la forme juridique de société européenne, il existe des instances européennes de représentation des salariés. Les stratégies dites transnationales doivent obligatoirement donner lieu à une information / consultation de ces instances. Il peut en aller ainsi dans le cas de déploiement de solutions IA à l’échelle d’un groupe transnational. Par ailleurs, ces instances réunissent des représentants du personnel de différents pays et peuvent donc permettre à ces derniers, par l’échange entre eux, d’identifier des initiatives pilotes dans un pays ou un autre (et susceptibles d’être étendues) relatives à l’utilisation de l’IA.

Plus globalement dans ce type de situation, il est aussi possible pour des représentants du personnel français de s’inspirer des pratiques et droits reconnus aux représentants des salariés dans d’autres pays pour alimenter leurs propres initiatives et demandes auprès de la direction en France

L'exemple allemand
Les Betriebsräte (comités d’entreprise) allemands disposent de prérogatives très étendues susceptibles d’infléchir les politiques unilatérales de l’employeur en regard de l’introduction de SIA. Plus particulièrement, sur certains domaines, le comité d'entreprise doit donner son accord avant que l'employeur ne puisse aller de l'avant. A défaut d’accord du Comité, l'employeur devra persuader le « comité de conciliation » (Einigungsstelle) d'accepter ses propositions. Il en va ainsi notamment de questions tout à fait susceptibles d’impliquer des SIA : l'introduction de caméras ou d'autres dispositifs pour mesurer le travail ou vérifier le comportement des employés ; le contenu des questionnaires destinés au personnel et les données personnelles détenues sur les employés à des fins d'évaluation. Le fait que toutes ces questions puissent être soumises à un comité de conciliation en cas de litige signifie que, pour bon nombre d'entre elles, le comité d'entreprise sera en mesure de conclure des accords écrits avec l'employeur régulant ces situations. Le droit d'expertise des comités d'entreprise en matière de SIA a été renforcé en 2021 avec l'introduction d'un «droit à l'information et au conseil lors de la planification de processus et de méthodes de travail y compris du déploiement de l’intelligence artificielle (§ 90 de la Loi de modernisation des comités d'entreprise) ».
 
2. Mobiliser les canaux d’information et les consultations obligatoires du CSE

Les CSE disposent en premier lieu de droits à information et consultation récurrents sur trois grands domaines. Ces consultations sont annuelles en vertu de la loi, mais une temporalité différente (triennale au maximum) peut être mise en place par accord collectif d’entreprise. Ces consultations doivent être l’occasion pour les représentants du personnel de questionner la stratégie IA et ses impacts. De ce point de vue, compte tenu du caractère très mouvant de ces sujets, des consultations régulières sont idéales mais tout dépendra du rythme en place dans chaque entreprise.

2.1 La consultation sur les orientations stratégiques :

En vertu du Code du travail, le « comité social et économique est consulté sur les orientations stratégiques de l'entreprise, définies par l'organe chargé de l'administration ou de la surveillance de l'entreprise, et sur leurs conséquences sur l'activité, l'emploi, l'évolution des métiers et des compétences, l'organisation du travail, le recours à la sous-traitance, à l'intérim, à des contrats temporaires et à des stages. Cette consultation porte, en outre, sur la gestion prévisionnelle des emplois et des compétences, sur les orientations de la formation professionnelle et sur le plan de développement des compétences »
Dans ce contexte, cette consultation peut permettre aux représentants du personnel :
– D’interroger l’entreprise sur sa stratégie IA de manière large : que veut faire l’entreprise de l’IA ? Une telle interrogation peut déboucher sur une revue stratégique de l’IA dans l’entreprise par l’employeur.
– De questionner l’évolution des métiers et compétences en regard du déploiement de SIA et donc la gestion prévisionnelle des emplois et compétences : comment les métiers vont-ils être impactés ? Quelle politique de formation en regard ?

2.2 La consultation sur la situation économique et financière :

Cette dernière inclut également la politique de recherche et développement. Elle peut permettre aux élus, notamment en CSEC, de demander une présentation du plan d’investissements à trois ans (au moment de l’établissement du business plan) et questionner la part des investissements logiciels. Le cas échéant, la mise en place au sein d’une CSE d’une commission spécialisée recherche et développement (non obligatoire) peut permettre d‘outiller davantage cette consultation régulière
 
 2.3 La consultation sur la politique sociale de l'entreprise, les conditions de travail et l’emploi :

Cette dernière porte notamment sur  l'évolution de l'emploi, les qualifications, le  programme pluriannuel de formation, les actions de formation envisagées  par l'employeur.
 
Ces trois consultations récurrentes sont préparées au sein des commissions dédiées du CSE. Les SIA peuvent ainsi être un des sujets abordés dans des commissions prévues par le code du travail (CSSCT, économique, égalité pro, formation) et l’on peut ajouter des commissions thématiques non obligatoires, comme par exemple la commission R&D ou une commission usages numériques.

 2.4 Droit à une consultation ponctuelle sur l’introduction de nouvelles technologies

En sus des consultations générales récurrentes, le code du travail donne au CSE le droit d’être informé et consulté ponctuellement en cas « d’introduction de nouvelles technologies, de tout aménagement important modifiant les conditions de santé ou de sécurité ou les conditions de travail » (article L. 2312-8). Dans ces situations, le code du travail reconnait également le droit du CSE de recourir à une expertise technologique (article L.2315-94). Une décision récente du Tribunal judiciaire de Pontoise (20 avril 2022) est venue préciser l’interprétation à donner à ces textes depuis la réforme en 2017 du recours à  l’expertise.

En vertu de cette décision, l’introduction d’une nouvelle technologie justifie à elle seule le droit de recourir à une expertise sans qu’il soit nécessaire de démontrer l’existence de répercussions sur les conditions de travail des salariés.

S’il s’agit là d’un élargissement des prérogatives du CSE, un doute peut subsister quant à la notion même de « nouvelle technologie ». Si la jurisprudence a déjà reconnu de longue date qu’une technologie nouvelle au sens du code du travail n’est pas forcément une technologie inédite au sein de l’entreprise, il reste à clarifier si la simple évolution d’un logiciel d’IA déjà en place dans l’entreprise (cas extrêmement fréquent) peut répondre à cette définition.

Mandater une expertise « nouvelle technologie » peut permettre aux représentants du personnel d’instruire  :
· Les impacts du SIA sur les données personnelles des salariés
· Les impacts du SIA sur l’organisation du travail et l’emploi
· Les aspects techniques du SIA : spécificités de l’IA, biais algorithmiques, sources des données etc.
· Le coût économique de la solution IA
· La soutenabilité de la solution IA

L’avis du CSE suite à l’expertise pourra utilement préconiser un suivi dans le temps du déploiement du SIA et de ses impacts, compte tenu de la temporalité spécifique à l’IA : demander à la direction de l’entreprise une revoyure régulière sur ce sujet (voir la fiche clause de revoyure). Il pourra également préconiser une expérimentation du SIA au sein de l’entreprise de manière à en cerner plus précisément les impacts. Ces arguments pourront soutenir des demandes plus ambitieuses des représentants du personnel, notamment la négociation avec l’employeur d’un accord de méthode ou d’un accord cadre prescrivant des modalités plus adaptées d’implication des représentants du personnel en cas d’introduction de nouveaux outils IA.

 3. Mobiliser la procédure d’évaluation des risques professionnels (DUERP) :

Le déploiement de SIA peut être porteur de risques pour la santé au travail, le DUERP doit donc en porter la trace et être mis à jour le cas échéant (par exemple à l’occasion de l’introduction d’une application IA). Le CSE est informé des mises à jour qui doivent intervenir au mois une fois par an et peut consulter à tout moment le DUERP.
 
4 Intégrer les impacts des SIA dans la négociation d’un Accord de Gestion des Emplois et des Parcours Professionnels (GEPP)

La négociation d’un accord collectif de Gestion des Emplois et des Parcours Professionnels est une obligation triennale pour les entreprises de plus de 300 salariés. Elle est facultative dans les entreprises plus petites et simplifiée quant à son contenu.

Cette négociation doit être nourrie par les résultats de la consultation obligatoire sur les orientations stratégiques et donc s’articuler au mieux avec cette dernière de manière à établir un diagnostic de départ sur l’IA et ses impacts métiers (cartographie des emplois et métiers, notamment les métiers fragilisés ou en transformation, en regard des projets numériques de l’entreprise à 3 ans). Dans les entreprises de plus de 300 salariés, la négociation doit ensuite et notamment permettre de définir les grandes orientations à trois ans de la formation professionnelle dans l’entreprise. Il s’agit donc bel et bien de recourir à cet outil pour anticiper et accompagner les impacts métiers des SIA.

Un point essentiel à souligner dans le cadre de telles démarches négociées : le suivi de l’accord. Une commission de suivi devra être mise en place et se réunir à intervalles aussi réguliers et rapprochés que possible. Le suivi ainsi conduit permettra de préparer et d’anticiper les informations/consultations récurrentes des représentant du personnel. 

5. Proposer des pratiques et outils innovants de dialogue social itératif

La conclusion d’un accord de méthode pour organiser un dialogue social itératif :
Cet accord qui marque une maturité de dialogue sur le sujet d’IA et consacre son importance pour l’entreprise du côté de la direction comme des représentants des salariés, peut s’articuler autour des chapitres suivants : 
· Qui dialogue : OS/Direction/CSE, comité de groupe, CEE, DPD … ;
· A quel moment on dialogue : en amont et aval de chaque mise à jour des logiciels et au minimum 2 fois par an;
· Comment on dialogue : à travers un comité de Suivi et à partir d’outils de suivi des SIA, tels qu’un registre de SIA sur le modèle du registre des traitements des données personnelles ; une clause de revoyure qui permet dans certains conditions d’examiner les possibles évolutions et de décider si elles sont acceptables ou non.

L'instauration d’outils spécifiques de suivi des SIA :
Si un accord de méthode ne paraît pas adapté ou n’est pas conclu, il est toujours possible d’envisager l”instauration d’outils rendant explicites et visibles les SIA utilisés dans l’entreprise. C’est possible avec le registre des SIA (cf. fiche dédiée). Il est possible aussi d’essayer de mettre en place une clause de revoyure (voir la fiche dédiée). Cette clause consiste à ouvrir un dialogue lorsque les évolutions du SIA remplissent certaines conditions et permettre de prendre une décision, après évaluation des impacts et dialogue, de ne pas poursuivre le développement du SIA. 
Il est également possible de susciter l’adoption par l’employeur d’une Charte éthique et d’usage des IA dans les pratiques professionnelles : il s’agit ici pour l’employeur de souscrire unilatéralement à des engagements généraux  visant à réguler le recours et le déploiement de SIA (légitimité du recours à l’IA, transparence, contrôle humain, non discrimination), et d’assurer le suivi de leur application. La Charte de Pôle Emploi pour une intelligence artificielle éthique (2022) est un bon exemple de ce type d’initiatives.

Intégrer les enjeux soulevés par les SIA dans le dialogue social en administration– approche globale pour des représentants du personnel

Cette fiche propose une approche globale pour intégrer les enjeux liés à l'intelligence artificielle (IA) dans le dialogue social au sein de la fonction publique d'État, avec un focus sur la gestion des ressources humaines et l'évolution du travail des agents (transformation des emplois, compétences, conditions de travail, etc.). L'IA, souvent intégrée de manière itérative à travers des outils numériques déjà en place, n'est pas neutre en matière d'organisation du travail, de formation des agents, et de restructuration des métiers. C'est donc un sujet qui nécessite une attention particulière de la part des administrations.

L'enjeu d'un dialogue social technologique :

L'introduction des systèmes d'IA transforme profondément la manière dont le travail est organisé et réalisé dans les administrations. Cette transformation nécessite de repenser le dialogue social pour garantir que les outils technologiques s’adaptent au travail réel des agents, et non l’inverse. En effet, l'IA peut parfois inverser les rôles : les agents risquent de devenir de simples exécutants au service des décisions algorithmiques, perdant ainsi leur autonomie et leur capacité à influer sur leur travail. Cet enjeu est d’autant plus important dans le secteur public, où le service rendu à l’usager doit rester au centre des préoccupations.

Il s’agit alors de s’assurer que l’intégration de l’IA dans le travail des agents respecte deux principes fondamentaux :
• L'adaptation des technologies au travail humain, afin que les outils numériques soient en phase avec la réalité des tâches, des contraintes et des compétences des agents. L’objectif est de ne pas réduire les agents à de simples relais d’un système automatisé, mais de valoriser leur expertise et leur savoir-faire.
• La préservation de la capacité d’agir des agents sur leur travail, en refusant la logique où l'humain s'adapte aux machines. Il s’agit de garantir que l'IA soit un support au travail et non une contrainte supplémentaire qui déforme les finalités mêmes de l’activité des agents.

Spécificité de l’administration :
En tant que service public, l’administration répond aux besoins de la population ce qui implique un enjeu démocratique fort dans la mise en œuvre des technologies d'IA. Il est crucial d'ouvrir des discussions sur la finalité de ces outils, car ils peuvent avoir des conséquences directes sur la qualité du service public et sur l’équité de traitement des usagers. Les IA connues pour introduire des biais algorithmiques potentiellement responsables de discriminations, rendent cette réflexion indispensable afin de garantir une égalité de traitement pour toutes et tous.

Problématique à adresser :
Comment détecter l’introduction des IA au sein de l'administration et en faire un objet de dialogue social, dans l'intérêt partagé des administrations et des agents ?
L'enjeu est d’élaborer une stratégie syndicale permettant de renforcer le dialogue social sur ce sujet, dans un contexte où les administrations se montrent réticentes à encadrer l'introduction de l'IA par des accords collectifs ou à travers des démarches de consultation des représentants des agents.

Deux dimensions peuvent être explorées pour structurer cette stratégie :

1. Utiliser les dispositions réglementaires existantes pour encadrer l'usage des SIA.
2. Prendre en compte le caractère évolutif et rapide des technologies , ce qui nécessite une consultation régulière et fréquente des instances.

Quatre principaux leviers sont identifiés dans cette fiche :
• Rendre visibles les systèmes d'IA déployés dans l’administration et leurs impacts potentiels sur les agents et le service public.
• Mobiliser les canaux d'information et les consultations obligatoires des instances représentatives du personnel, telles que le Comité Social d'Administration (CSA) et leurs formations spécialisées.
• dans la gestion prévisionnelle des effectifs, des emplois et des compétences (GPEEC) et dans les plans de formations, s’assurer de la préservation des emplois et de la technicité des personnels
• Proposer des pratiques et des outils pour un dialogue social itératif, en phase avec l'évolution rapide des technologies.

1. Identifier et rendre visible l’IA dans l’administration pour l’amener à devenir un outil de dialogue social

Plusieurs leviers peuvent être activés en regard des caractéristiques et impacts possibles des SIA

1.1. Mobiliser le RGPD

Les systèmes d’IA reposent sur l’exploitation de données, dont certaines sont considérées comme personnelles selon le RGPD. Le RGPD encadre le traitement des données personnelles sur le territoire de l’Union Européenne. Il offre plusieurs leviers permettant aux représentants du personnel de surveiller et de questionner l’usage des SIA dans les administrations.

Voici les principales pistes à explorer pour identifier et encadrer ces systèmes :

1.1.1. S’appuyer sur le DPD/DPO
Le Délégué à la Protection des Données (DPD/DPO) est chargé de veiller au respect du RGPD au sein de l’administration (art. 38). Les représentants du personnel peuvent le mobiliser pour obtenir des informations sur les traitements de données liés aux SIA, en agissant sur plusieurs axes :
Le registre des traitements des données personnelles (art 30) : Ce document recense l’ensemble des traitements de données personnelles effectués par l’administration, y compris ceux impliquant des systèmes d’IA. Les représentants peuvent y vérifier les types de données traitées, les finalités, les durées de conservation et les mesures de protection mises en place.
• Analyses d’Impact sur la Protection des Données (AIPD) : Pour les traitements susceptibles d’engendrer des risques élevés pour les droits des individus, le RGPD impose la réalisation d'une AIPD. Les représentants du personnel peuvent demander l’accès à ces analyses pour évaluer les risques spécifiques liés à l’usage de l’IA dans la gestion des agents et des services.
• Présentations annuelles au Comité Social d'Administration (CSA) : En demandant au DPD/DPO de présenter son rapport d’activité annuel en CSA , les représentants peuvent identifier les évolutions en matière de traitement des données, les nouveaux risques identifiés, et les mesures mises en œuvre pour garantir la conformité des systèmes d'IA.
Nota : Bien que le DPD/DPO ne soit pas tenu de répondre directement aux représentants du personnel, cette approche permet de sensibiliser les acteurs de la gouvernance des données aux enjeux de l’IA et de susciter des échanges sur le sujet.

1.1.2. Demander une cartographie des traitements en CSA

Les représentants peuvent formuler une demande officielle en Comité Social d'Administration (CSA) pour obtenir :
• Une cartographie des traitements de données personnelles des agents : Cette cartographie permettrait de recenser les traitements automatisés, y compris ceux utilisant des systèmes d’IA, et leur base légale. Elle permet de mieux cerner les finalités et l’étendue des données collectées.
• La base légale des traitements : Il est essentiel de vérifier que chaque traitement de données, notamment ceux qui impliquent des décisions automatisées ou de la surveillance, repose sur une base légale valide. Cela peut inclure le consentement des agents, le respect d'une obligation légale, ou encore la nécessité pour la gestion des ressources humaines.

1.1.3. S’appuyer sur les droits individuels des agents

Le RGPD garantit aux salariés des droits spécifiques concernant leurs données, qui peuvent être activés pour mieux encadrer les SIA. Un salarié peut ainsi demander à son employeur l’accès et la communication des données personnelles qu’il a en sa possession (art 15). L'exercice du droit d’accès permet de savoir si vos données personnelles sont traitées et d’en obtenir la communication dans un format compréhensible. Il permet également de contrôler l'exactitude des données et, au besoin, de les faire rectifier ou effacer.

1.1.4. Réclamer une évaluation des risques spécifiques des SIA au regard de la CNIL

La Commission Nationale de l'Informatique et des Libertés (CNIL) offre un cadre d’accompagnement pour les organisations déployant des systèmes d’IA, incluant des recommandations spécifiques pour la protection des données. Les représentants du personnel peuvent :
• Demander une saisine de la CNIL pour obtenir un avis sur certains traitements ou pour signaler des risques particuliers liés à l’utilisation des SIA.
• S’appuyer sur les recommandations de la CNIL pour exiger la mise en place de bonnes pratiques au sein de l’administration, telles que la minimisation des données collectées, la transparence sur les algorithmes utilisés, et l’évaluation régulière des impacts sur la vie privée.
Nota : Les agents et leurs représentants peuvent également déposer des plaintes auprès de la CNIL en cas de manquements graves aux obligations du RGPD, notamment si les traitements de données liés aux SIA sont jugés disproportionnés ou non conformes.

1.1.5 Demander les documents en lien avec le FTAP (Fond de transformation à l’action publique)

1.1.6 Demander les études d’impact des SIA sur les conditions de travail dans les instances dédiées – formations spécialisées

1.1.7 Demander les bilans des expérimentations

1.1.8 Demander les avis du Conseil scientifique numérique (ou conseil d’éthique)

1.1.9 Si absence de communication et d’information de la part de l’Administration : saisine de la CADA

2. La gouvernance numérique de l’État

La Direction interministérielle du numérique (DINUM) est un service stratégique rattaché au Premier Ministre, placé sous l’autorité du ministre de la Transformation et de la Fonction publiques. Sa mission principale consiste à définir la stratégie numérique de l’État et à en piloter la mise en œuvre. L’importance croissante accordée à la transformation numérique s’est notamment matérialisée à travers le plan « Action Publique 2022 », qui identifiait le numérique comme l’un des trois piliers de la transformation publique. Différents Comités Interministériels de la Transformation Publique (CITP), présidés par le Premier Ministre, ont positionné le numérique au cœur des priorités stratégiques du Gouvernement. Créé dans le prolongement de la feuille de route de 2023, le CITP vise à garantir l’adhésion des ministères à ces orientations et à coordonner leur déploiement.

La DINUM s’appuie sur quatre missions « socles » pour conduire la transformation numérique des administrations : l’ouverture des données publiques,la gestion du réseau interministériel de l’État, la
promotion de l’innovation numérique, l'expertise et la sécurisation des grands projets numériques.

La gouvernance numérique de l’État présente une limite importante : le manque de concertation avec les représentants du personnel et les instances de dialogue social. Les stratégies définies par le Gouvernement, bien que structurantes pour l’ensemble des agents de la fonction publique, ne sont pas systématiquement soumises à l’examen des instances comme le conseil commun de la fonction publique. Cette absence de consultation prive les représentants des agents de la possibilité de débattre des implications des projets numériques sur les conditions de travail, la formation, et l’évolution des métiers.

Cette carence dans le dialogue social numérique a des conséquences directes sur la mise en œuvre de la transformation numérique au sein des administrations.

3 Proposer des pratiques et outils de dialogue social itératif

Organiser un dialogue social itératif qui peut s’articuler autour des chapitres suivants :

2. Qui dialogue : OS/Direction/CSA,comités de suivis, groupes locaux utilisateurs , DPD … ;
3. A quel moment on dialogue : en amont et aval de chaque mise à jour des logiciels et au minimum 2 fois par an;
4. Comment on dialogue : à travers un comité de suivi et à partir d’outils de suivi des SIA, tels qu’un registre de SIA sur le modèle du registre des traitements des données personnelles ; une clause de revoyure qui permet dans certaines conditions d’examiner les possibles évolutions et de décider si elles sont acceptables ou non.

L'instauration d’outils spécifiques de suivi des SIA : Il est toujours possible d’envisager l”instauration d’outils rendant explicites et visibles les SIA utilisés dans l’administration . C’est possible avec le registre des SIA (cf. fiche dédiée)
Il est possible aussi d’essayer de mettre en place une « clause de revoyure » (voir la fiche dédiée). Cette clause consiste à ouvrir un dialogue lorsque les évolutions du SIA remplissent certaines conditions et permettre de prendre une décision, après évaluation des impacts et dialogue, de ne pas poursuivre le développement du SIA. Elle consiste également en un mécanisme de réévaluation périodique ou conditionnelle pour examiner les résultats et les impacts du projet d’IA, notamment dans des domaines en évolution rapide.

Il est également possible de susciter l’adoption par l’employeur d’une Charte éthique et d’usage des IA dans les pratiques professionnelles : il s’agit ici pour l’employeur de souscrire unilatéralement à des engagements généraux visant à réguler le recours et le déploiement de SIA (légitimité du recours à l’IA, transparence, contrôle humain, non discrimination), et d’assurer le suivi de leur application. La Charte de Pôle Emploi pour une intelligence artificielle éthique (2022) est un bon exemple de ce type d’initiatives.

Gardons à l’esprit que ces Chartes sont non contraignantes et qu’elle souvent utilisées comme élément de communication par l’administration pour rassurer de l’utilisation prétendument éthique des SIA.

Et pour les usagers?

Les SIA ont des conséquences parfois néfastes sur les usagers. A ce titre, il est indispensable que les points suivant soient évoqués dans les instances des dialogue social : proximité du service public, respect des libertés individuelles, informations sur les décisions algorithmiques, transparence sur l’utilisation des données.
A cette fin, ces SIA doivent pouvoir être audités afin de garantir l’égalité de traitement des usagers et le maintien au service de l’intérêt général.

Finalité et objet

Parce que les outils à base d’IA s'interfacent avec l'organisation du travail, parce que leurs effets sur les différents métiers, les différentes tâches, ne peuvent être pleinement évalués et mesurés qu'une fois qu'ils sont déployés, parce qu'ils sont de nature évolutive et auto-apprenants, il est essentiel de trouver les moyens de dépasser l'approche par trop "statique" du dialogue social institué, de lui donner la possibilité d’agir avant, pendant, et après l’introduction de l’IA dans l’entreprise. L'objectif de la clause de revoyure est de permettre de se donner la possibilité de « retour en arrière », en entreprise, dans une organisation, dans le secteur public.

Cette clause contribuerait à organiser un dialogue périodique et itératif entre les acteurs sociaux au sein de l’entreprise ou de l'administration sur l’évolution des outils à base d’IA. La clause de revoyure permet de formaliser entre les acteurs une série de rendez-vous connus de tous à l’avance dans leur principe et leur objet et qui se tiendront lorsque les conditions prédéterminées seront réunies.

Cette clause peut être inscrite dans un contrat, dans un accord collectif ou dans une déclaration du chef d’entreprise ou une charte traduisant alors un engagement juridiquement contraignant de sa part.

Comment s’y prendre pour la mobiliser dans mon organisation?

Les rendez-vous de revoyure pourraient être déclenchés lorsque l’un des événements suivants est réalisé :

Événements externes à l’entreprise :

• mise à jour publique par le fournisseur de la notice de l’outil ainsi que toute évaluation établie par le fournisseur du système d’IA en application de son devoir de surveillance après commercialisation (article 13 sur les obligations de transparence et de fourniture d'information pour les fournisseurs de systèmes d'IA, article 26 de la loi sur l'IA sur les obligations des "déployeurs" de suivre ces instructions) dès lors que cette évaluation révélerait potentiellement un manquement aux exigences imposées par la loi sur l'IA pour les systèmes d’IA à haut risque.
• signalement d’un Comité Éthique européen ou national ou de l'autorité nationale de contrôle de la législation numérique (CNIL dans le cas de la France) publié sur son site web. Il convient de souligner le fait que la loi européenne sur l'IA met en place un système de gestion des risques tout au long du cycle de vie du système, et qu'elle reconnait explicitement (article 82) que certains systèmes pourraient présenter des risques en matière de droits fondamentaux ou de santé et sécurité au travail une fois déployés, nécessitant des actions de la part des fournisseurs, demandées par les autorités de contrôle ;

Événements internes à l’entreprise :

• nouveau développement des outils mis en place (mise à jour ou nouvelles fonctionnalités de l’outil en lien avec l’outil proposé du « registre ») ;
• signalement à la direction de l’entreprise du Délégué Éthique aux systèmes d’IA ;
• mention dans le rapport annuel du DPO d’enjeux sur la collecte et le traitement de données personnelles au travail
• résultats d'études d'impacts ou d'expérimentations
• En fonction des évolutions de tous domaines qui touchent à l’activité de l’entreprise, qui ont un impact direct ou indirect notamment sur les salariés, la clause de revoyure peut être activée.

La clause serait activée a minima une fois par an, ou sinon par accord ou négociation d’un accord interne.

Le rendez-vous a pour objet :

• d’informer les participants de la teneur de l’événement déclenchant le rendez-vous ;
• d’évaluer les impacts de cet évènement sur l’outil utilisé ;
• d’examiner les mesures à prendre ;
• de caler le suivi de la mise en place de ces mesures.

Exemple de rédaction d’une clause de revoyure :

Suivi de l'accord / Clause de rendez-vous :
Les parties conviennent de se revoir en cas de modifications légales, règlementaires ou conventionnelles, interprofessionnelles ou de branche, des règles impactant significativement les termes du présent accord.
Les parties conviennent de se réunir (mentionner une temporalité) afin d’établir un bilan d’application de l’accord et d’échanger sur son éventuelle révision.

Autre variante :
Les parties conviennent de mettre en place une commission paritaire de suivi du présent Accord. Cette commission est composée de (mentionner le nombre de représentants par organisations syndicales représentatives ainsi que pour la Direction).
Cette commission se réunira au moins (mentionner la temporalité). La première réunion se tiendra au cours de l’année (à mentionner).

Elle a pour objet de vérifier les conditions de l’application du présent accord, notamment de suivre les engagements de l’accord, l’avancement de sa mise en œuvre, de procéder à un bilan du nouveau mode de fonctionnement ainsi que de ses impacts sur les salariés, et cætera… (reprendre notamment la liste déjà établie dans le cadre du projet SeCoIA Deal en mentionnant que cette dernière n’est pas exhaustive).

 Révision de l'accord :
Durant la période d’application de l’accord, chacune des parties pourra en demander la révision en tout ou partie, conformément à l’article L2261-7-1 du Code du travail.
Cette demande devra être motivée et notifiée par écrit à l’ensemble des parties signataires. En cas de demande de révision, les parties se réuniront dans un délai de (mentionner une durée) afin de négocier un éventuel avenant de révision.
A défaut de parvenir à conclure un tel avenant, le présent accord continuera de s’appliquer.
La validité de tout avenant de révision au présent accord est soumise, comme l’accord initial, à la condition d’agrément par l’autorité administrative compétente ainsi qu’aux mêmes procédure de notification, de dépôt et de publicité.

De quoi s’agit-il ?

Il s’agit dans cette fiche de donner des indications pour aider les représentants du personnel à identifier les bonnes informations à obtenir par l’expertise pour ouvrir la « boite noire » du système d’intelligence artificielle. Cette fiche est principalement adaptée au contexte des entreprises, mais peut aussi être mobilisée dans le cadre des administrations. Elle doit être pensée en articulation avec la fiche registre, ainsi qu’avec l’outil du projet APIDOR.

Comment s’y prendre ?

Instruire le projet:

• Le CSE ( ou CSE C) doit faire une synthèse de toute les informations connues sur le projet.
• Obtenir un descriptif du cas d’usage et de sa justification autant économique que qualitative (amélioration d’un process).
• Obtenir ( s’il existe) le cahiers des charges donné au prestataire. Sinon obtenir le DOU ( document of understanding) que ce dernier a rédigé, suite à ces discussions avec la direction concernée par le projet et/ou la direction informatique).

L’expert doit demander à l’entreprise si une fiche projet a été faite avec des éléments de justifications du projet :

• Date de départ, date d’arrivée.
• Planning/ Séquencement du projet.
• Liste des tâches à effectuer (équipe prestataire, client, etc.),
• Evaluation des coûts : gérer les impondérables, etc.
• Qui fabrique, comment, d’où vient l’expertise extérieure ?
• Est-ce un nouveau prestataire, d’où vient il ?

Les impacts du SIA sur les données personnelles des salariés

• demander un descriptif des données utilisées par l’IA ainsi que les données "créées" par le cas d’usage utilisant le système d’’IA.
• Essayer de repérer les points, les données qui pourraient permettre de mener des opérations de surveillance des salariés

Les impacts du SIA sur l’organisation du travail et l’emploi :

• Faire établir la liste des postes de travail impactés.
• Tracer les contours des modifications d’organisations qui seront mises en place.
• Regarder à quel point on peut évaluer les postes avec diminution ou hausse de la charge de travail.
• Management algorithmique/contrôle humain : impact sur l'autonomie. Obtenir un schéma du process pour comprendre s’il y a ou pas subordination des salariés à l’IA et contrôle de son temps et rythme de travail par l’IA.
• Règles de gestion et d'enrichissement du modèle d’IA apportées par les experts métiers intégrés dans le groupe métier, présence ou pas de ces règles de gestion apportées par les métiers.

Les aspects techniques du SIA : spécificités de l’IA, biais algorithmiques, sources des données, etc.

• Obtenir des informations sur l’ossature utilisée pour mettre en place l’IA : quel est le moteur (Chatgpt, LLama,etc...).
• Quel « entrainement » (pré apprentissage) a eu lieu avant d’être installé dans l’entreprise ? Sur quels jeux de données ?
• Quid de l’entrainement une fois en exploitation dans l’entreprise/l’administration ?
• Les données sur lesquelles le modèle continuera d’être entraîné resteront elles dans l’organisation ?
• Où seront elles stockées ?
• Les règles seront elles propriété de l’entreprise ?
• Quelle valorisation de la valeur créée pour le prestataire par l’entraînement des données dont l’entreprise/l’administration est propriétaire ?

Le coût économique de la solution IA

Sur ce point voir également si la formation des utilisateurs est bien prévue et chiffrée ainsi que mesurer les opérations de conduite du changement prévues (formation, support, etc...)

La méthode APIDOR a été développée dans le cadre d'un autre projet soutenu, comme DIALIA, par la Fabrique CTO de l'ANACT. La rencontre avec les porteurs du projet APIDOR a été structurante pour le projet DIALIA. La méthode d'accompagnement APIDOR, qui s'applique de façon générale à tous les projets informatiques, nous a semblé par de nombreux aspects très complémentaire des outils et leviers proposés dans cette partie.

Voici le lien vers le projet

Et voici un court descriptif du projet :

APIDOR : une méthode d’accompagnement des projets informatiques par et pour le dialogue social
Les systèmes d'information numériques sont l’affaire de tous les acteurs de l’organisation. Le dialogue social autour de ces systèmes est indispensable pour traiter des enjeux qu’ils représentent pour la vie des salariés au travail, pour la performance de l’organisation et pour l’avenir même de celle-ci.
La technologie numérique présente des caractéristiques propres qui doivent être prises en compte. Le dialogue social autour du numérique doit ainsi être soutenu par des outils méthodologiques spécifiques. Pour qu’ils soient efficaces, ces outils ne doivent pas considérer les systèmes numériques comme des boîtes noires, mais doivent au contraire comprendre finement leurs modes d’impact sur la vie des salariés, les collectifs et l’organisation dans sa globalité.
APIDOR est une méthode d’accompagnement des projets informatiques par et pour le dialogue social. Elle se situe dans une logique de prévention des risques, notamment (mais pas exclusivement) de santé et de bien-être au travail, en favorisant le dialogue social pendant les projets numériques.
APIDOR considère le dialogue social comme devant faire partie intégrante de la gestion d’un projet numérique. Ceci implique que les acteurs du dialogue social soient considérés comme des acteurs à part entière du projet numérique et puissent ainsi coopérer avec les autres parties (décideurs financiers, spécialistes du numérique, acteurs du domaine métier concerné…).
APIDOR se positionne comme un outil d’aide à la médiation entre les acteurs « classiques » du projet numérique et les acteurs du dialogue social, dans le but que le système qui sera développé garantisse le bien-être au travail de ceux qui l’utiliseront et, plus largement, participe à la performance de l’organisation.
Dans cette perspective, la méthode offre un ensemble d’aides pour comprendre le fonctionnement d’un projet numérique (vocabulaire, types d’acteurs, phases, contraintes…), afin de rendre possible tout au long du projet l’expression des besoins portés par les acteurs du dialogue social et leur intégration dans le futur système. Pour chaque phase du projet, APIDOR propose des pistes pour mener à bien le dialogue social pendant la phase.
Le dialogue social autour du numérique en général, et au cours des projets informatiques en particulier, est trop peu pratiqué dans les organisations et reste encore mal connu. APIDOR peut être un soutien pour un apprentissage organisationnel à ce dialogue, à destination aussi bien des acteurs du dialogue social que des décideurs et acteurs habituellement impliqués dans le numérique.