Le contrôle humain des décisions automatisées au travail : quel contrôle ? quels acteurs ? quelles compétences ?

Cette communication vise l'étude du contrôle humain des décisions automatisées au travail, en s'appuyant sur le règlement général sur la protection des données (RGPD), la loi sur l'intelligence artificielle (RIA) et la directive relative à l'amélioration des conditions de travail dans le cadre du travail sur des plateformes (directive Plateformes de travail).

Selon Maxwell (Université Paris Panthéon-Sorbonne, 2022), le contrôle humain peut intervenir d'abord, lors de sa conception et de la vérification de sa conformité à la protection des données et des droits fondamentaux, puis durant la phase opérationnelle pour superviser son fonctionnement, et enfin au moment de la décision automatisée individuelle pour fournir une explication du résultat.

Au travail, l'essor des outils numériques associé à présent à l'introduction de l'intelligence artificielle (IA) a permis des transformations conduisant à une numérisation croissante des métiers. Suivant la même tendance, la gestion du personnel s'automatise.

Ainsi dans ce domaine, la mise en oeuvre de processus algorithmiques d'aide à la décision ou de décisions automatisées rationalise les activités dites fastidieuses mais sert aussi à prédire les évolutions ou les comportements et participe in fine à l'élaboration des choix stratégiques.

Dans ce contexte de mutation de la gestion des ressources humaines, où la décision automatisée pourrait être amenée à jouer un rôle majeur dans les processus décisionnels, la question de la place du contrôle humain est centrale.

À l'échelle européenne, l'ambition de garantir un contrôle humain des décisions automatisées ressort très tôt, de nombreuses communications (2018, 2019). Dans les textes, il est envisagé dès le RGPD. Toutefois, au fil de l'élaboration du cadre juridique européen, il revêt des formes et une intensité variable.
Ainsi, alors que le RGPD aborde le contrôle humain en amont des décisions automatisées, la directive « Plateformes de travail » est à la fois plus précise et plus ambitieuse, sous réserve de sa transposition. Toutefois, elle ne concerne qu'une catégorie de travailleurs. Le RIA pour sa part, prévoit schématiquement un contrôle permettant d'une part, une surveillance du fonctionnement afin d'interrompre le système en cas de risque, et visant d'autre part, à garantir le respect d'une autonomie décisionnelle humaine.

L'étude transversale des trois instruments juridiques européens est l'occasion de mettre en perspective les enjeux et de souligner les questions centrales qui restent ouvertes, telles que les compétences nécessaires pour mettre en oeuvre efficacement ce contrôle ou la place des représentants du personnel.
Dès lors, face à la transition de la gestion organisationnelle du personnel vers une gestion algorithmique, le contrôle humain présenté par la Commission européenne comme indispensable à la mise en place d'une IA digne de confiance, apparaît autant indispensable que complexe à garantir.