Intervention de Sarah Benichou

Nous insistons sur le fait que le droit à la non-discrimination s'applique de la même manière que celle-ci soit directe ou indirecte. Des dispositions protectrices par rapport aux règles du jeu qui président au recrutement des candidats à l'embauche existent déjà dans le code du travail et s'appliquent aux algorithmes.

On peut s'interroger sur la méthodologie qui préside à la construction des algorithmes, au-delà même de la question des données mobilisées.

De la même façon que l'on utilisait auparavant la graphologie pour en déduire des compétences ou des performances, on emploie aujourd'hui, en matière de recrutement et sans doute aussi d'évaluation et de management, des méthodologies qui sont parfaitement contestables d'un point de vue scientifique. On vend des outils qui ne servent à rien et qui vont éventuellement déboucher sur des discriminations. Le droit du travail offre quelques outils susceptibles d'aider à l'utilisation de méthodologies objectives.

L'ordonnance prévoit une forme de rééquilibrage et un renforcement des acteurs sociaux, seuls capables d'épauler un travailleur de plateforme qui aurait des doutes.

Nous avons identifié, en Europe, les deux premières jurisprudences sur les travailleurs « ubérisés » : l'une a été rendue par une cour d'Amsterdam et l'autre par un tribunal de Bologne. Elles portent sur des systèmes de notation et d'évaluation qui permettaient aux travailleurs d'accéder aux créneaux les plus favorables, notamment ceux de midi ou du week-end. La manière de désigner ceux qui pouvaient accéder prioritairement à ces créneaux lésait les travailleurs considérés comme n'étant pas assez disponibles, mais qui, de fait, avaient peut-être été malades ou en grève.

L'article 22 du RGPD a été utilisé par ces travailleurs pour contester ces systèmes d'évaluation et de classement et leur transparence. Le but était également d'obtenir des informations à leur sujet. À Bologne, le système a été considéré comme discriminatoire, sauf que, entre-temps, la plateforme concernée l'avait modifié, et plutôt dans le bon sens. À Amsterdam, l'article 22 a également été utilisé pour exiger cette transparence. Celle-ci est une première étape avant même de pouvoir envisager des biais discriminatoires, lesquels sont très difficiles à caractériser à l'échelle individuelle - il y a tellement de données utilisées que l'on peut toujours justifier une différence de traitement.

C'est à l'échelle collective que les résultats de ces algorithmes doivent être analysés, ce qui demande que l'entreprise réalise ex ante une étude d'impact avec des spécialistes du secteur concerné. C'est ce que nous souhaitons et c'est ce que propose en partie la proposition de règlement. Les chercheurs connaissent normalement les risques discriminatoires qui peuvent classiquement exister dans les différents domaines. Cela implique, notamment pour les algorithmes d'apprentissage, qui continuent d'intégrer de nouvelles données et de nouvelles corrélations, des analyses de résultats au fil de l'eau, ce qui demande beaucoup de moyens.

Nous aimerions qu'une réflexion soit menée sur un éventuel rapprochement entre les obligations s'appliquant aujourd'hui aux algorithmes dits « publics », qui sont, du reste, parfois issus du secteur privé, et celles qui s'appliquent aux algorithmes utilisés dans le secteur privé, sur lesquels nous disposons de moins d'informations, et qui peuvent discriminer à la fois les travailleurs, mais aussi les clients des plateformes, s'agissant des prix ou des questions de géolocalisation.