Intervention de Régis Chatellier

Nous avons mené des travaux sur l'usage des algorithmes et de l'intelligence artificielle dans le cadre des métiers et de l'emploi. Les pratiques que l'on observe dans les plateformes de l'économie à la demande peuvent avoir une influence sur le marché de l'emploi dans des secteurs traditionnels. Dès 2017, nous avons publié un rapport de sensibilisation sur les enjeux éthiques des algorithmes et de l'intelligence artificielle intitulé Comment permettre à l'homme de garder la main ?

Le laboratoire d'innovation numérique de la CNIL a aussi exploré ces sujets de manière à éclairer la CNIL dans ses travaux sans nécessairement produire de la doctrine. Il a notamment publié un dossier sur le travail qui recoupe largement le sujet de votre mission. Enfin, nous avons organisé en juin 2020 avec le Défenseur des droits le colloque qui a donné lieu à la publication du document évoqué par M. Kanhonou.

L'usage des données pour le recrutement et certaines formes de management s'est répandu. La technologie est neutre, mais son usage et les données sur lesquelles elle s'appuie peuvent avoir des effets importants sur les personnes. Cet usage peut optimiser la gestion de la connaissance, ou encore l'orientation professionnelle, mais il comporte aussi des risques importants pour la protection de la vie privée, ou encore la dignité humaine, du fait des biais et des discriminations qui peuvent s'y faire jour. On relève aussi des risques de perte d'autonomie, d'augmentation du temps de travail, de disparition des temps morts, pourtant nécessaires, et du contact humain, ou encore l'augmentation du contrôle et de la surveillance des travailleurs.

En matière de management algorithmique, le secteur des plateformes s'est construit sur ce principe de distribution des services et des tâches par un système automatisé. On voit bien les effets que peuvent avoir ces pratiques. Le design des interfaces lui-même a ainsi un effet important sur la manière dont ces outils sont utilisés, suivant ce qu'on a pu appeler des dark patterns, ou encore du nudge, incitant chauffeurs et clients à toujours plus utiliser l'application. Des algorithmes plus traditionnels identifient les collaborateurs les plus à même d'être performants. Certaines pratiques nous interrogent davantage, notamment des outils portant sur des phénomènes comme l'absentéisme ou la prédiction de risques psychosociaux. Plus problématique encore, on a pu enfin repérer, surtout à l'étranger, des systèmes de notation mutuelle entre salariés, des capteurs physiologiques placés sur le travailleur pour mesurer sa productivité, voire des systèmes de captation des émotions dans la voix, notamment au sein de centres d'appel. Rappelons que la surveillance au travail reste l'un des principaux motifs de plaintes reçues par la CNIL.

Concernant le recrutement algorithmique, on constate en la matière un recours accru à des algorithmes ou à des systèmes de traitement de données, notamment pour le repérage des candidats sur les réseaux sociaux, ou encore pour des tests de personnalité. L'usage de la vidéo pour analyser les émotions des candidats débute également en France, mais il ne s'agit pas de pratiques présentes à grande échelle en France aujourd'hui.

Ces sujets sont importants pour la CNIL, car les données personnelles constituent bien là le matériau que les utilisateurs de ces systèmes veulent faire fructifier. Les travailleurs des plateformes ne sont pas une exception : ils ont les mêmes droits que tout le monde au regard du RGPD. Il est important de rappeler les principes qui s'appliquent en la matière.