Interventions sur "algorithme" de Pascal Savoldelli

...atif d’attribuer à la HATVP les ressources correspondant à l’élargissement de ses missions. Par ailleurs, en ce qui concerne les personnes physiques ou morales visées par ce répertoire, nous vous proposerons d’adopter un amendement tendant à protéger la liberté de la presse et la confidentialité des avocats. Enfin, nous nous opposons fermement à l’article 3, qui ouvre la porte à l’utilisation d’algorithmes par les services de renseignement en matière d’ingérence étrangère. Cette mesure soulève des questions cruciales sur l’équilibre entre exigences de sécurité nationale et respect des droits individuels. Elle s’inscrit dans une tendance inquiétante, déjà amorcée par des décisions antérieures. Je pense notamment à l’article 3 de la loi d’orientation et de programmation du ministère de la justice, ...

L’article 3 ouvre la voie à l’utilisation d’algorithmes par les services de renseignement en matière d’ingérences étrangères. Comme je l’ai souligné lors de mon intervention liminaire, cette mesure soulève des questions cruciales sur l’équilibre entre sécurité nationale et droits individuels, d’autant qu’elle s’inscrit dans une tendance inquiétante : la banalisation de la surveillance algorithmique, déjà amorcée par plusieurs décisions antérieures. ...

Monsieur le ministre, je ne pense pas que l’on nous ait fait part au cours de l’examen de cette proposition de loi de la nationalité de l’algorithme… Un algorithme n’a pas de nationalité, c’est le donneur d’ordre qui en a une. C’est d’ailleurs pour cette raison que vous avez évoqué d’autres pays. Ce débat est important ! Il concerne des traitements automatisés visant à détecter des connexions ou des navigations sur internet susceptibles, par exemple, de révéler à un stade précoce l’existence d’une menace. La technique consiste non pas en un...

Notre État de droit repose sur la garantie des droits fondamentaux. Le Conseil d’État et la Cnil doivent pouvoir contrôler le cadre réglementaire de la technique de l’algorithme appliquée aux ingérences étrangères. On ne peut pas étendre cette technique sans contrôle. C’est bien le rôle de l’autorité administrative indépendante de veiller à ce que l’informatique ne porte atteinte ni aux droits de l’homme, ni à la vie privée, ni aux libertés individuelles ou publiques. Par cet amendement, nous demandons de nouveau que soient instaurées des garanties suffisantes pour que...

Le texte ne comporte aucune information ou garantie sur les biais algorithmiques, qui constituent pourtant un enjeu majeur. Je vais prendre l’exemple, très explicite, du logiciel PredPol (Predictive Police), utilisé par la police dans plusieurs villes américaines. Son algorithme permet en principe d’orienter les interventions des forces de l’ordre. Or plus le logiciel se tourne vers un quartier, plus les forces de police s’y rendent, et plus l’algorithme l’y oriente. Si ces biais ont des conséquences très graves en matière de discriminations, ils en ont aussi en termes d’efficacité. En l’espèce, le recours aux algorithmes comme technique de renseignement pourrait souffr...

Je vais tenter de vous convaincre de voter l'article 1er, mes chers collègues. Je vous ai écoutée avec attention, madame la ministre : vous avez affirmé que les dispositifs existants en matière de dialogue social et de lutte contre le salariat déguisé étaient bons. Or cet article définit l'algorithme au plan juridique comme un pouvoir de direction et de contrôle. Madame la ministre, allez donc voir les livreurs, les femmes qui font le ménage, tous ces travailleurs dont le métier est détourné par les plateformes numériques de travail ! Ils disent tous : « mon patron, c'est un algorithme ! »

Je me propose d'essayer d'interpréter cette demande de scrutin public : à travers le sujet de l'algorithme, différents problèmes ont été évoqués par plusieurs de nos collègues sur toutes les travées, ils concernaient notamment les questions du temps de travail, de la définition du salaire ou de la valeur ajoutée. Or ces questions ne sont pas propres à la gauche. Beaucoup de gens se mobilisent actuellement au sein du mouvement contre la réforme des retraites, parce que ce sujet les préoccupe, mais aus...

...uction ! Ces coûts, ils s'appellent Franck Page, 18 ans, étudiant et coursier pour Uber Eats. Le soir du 17 janvier 2019, il livrait un repas à vélo lorsqu'il trouva la mort, renversé par un camion. Uber Eats estime que ce décès n'est pas de sa responsabilité : un dramatique accident de la route, mais pas un accident du travail. Pourtant, cet itinéraire lui avait été imposé par la boîte noire, l'algorithme – ce même algorithme qui le menaçait de le déconnecter s'il n'allait pas assez vite. Il s'agit ici d'un coursier, une figure parmi les plus visibles de l'ubérisation. Pourtant, ce modèle touche à tous les pans de l'économie : le transport, les services à domicile, ou encore les microtravailleurs du clic, ces tâcherons qui se trouvent parfois à l'autre bout du monde pour réaliser des microtâches ...

...comme les plateformes numériques, qui contestent, concurrencent et, bien souvent, finissent par remplacer des entreprises traditionnelles, lesquelles invoquent une concurrence déloyale. Au-delà des plateformes de mobilité ou de livraison de repas, des pans entiers de l'économie, d'emplois et de secteurs traditionnels seront, à terme, concernés. Ces plateformes organisent leur activité à l'aide d'algorithmes, dont la rapidité et l'accélération des processus entérinent leur succès organisationnel et favorisent leur développement économique. Ainsi, de nombreuses autres entreprises s'inspirent de plus en plus de ces méthodes et utilisent de plus en plus ces outils numériques, aussi bien pour le recrutement que pour la gestion des ressources humaines. Toutefois, les plateformes de mobilité utilisent le...

... par une réflexion, au sein d'un groupe de travail, sur la question d'un tiers-statut ; à défaut, nous risquons de nous retrouver en situation d'opposition, sans pouvoir émettre de proposition. Nous devons nous investir sur le contenu du dialogue social pour répondre à cette question, qui n'est pas idéologique. Si nous parvenons à avancer sur la rémunération et la responsabilisation sociale de l'algorithme, une partie du chemin sera faite. Nous examinerons ensuite les autres sujets, sachant que différents pays ont choisi différentes voies, certains en étant revenus. Je suis disponible pour travailler.

Cette audition tombe à point nommé : vos réponses aux questions que nous avons fait parvenir et à celles que nous allons vous poser représentent une étape importante de notre travail autour des travailleurs des plateformes, de leur liberté et de leur accès aux « boîtes noires » que sont trop souvent les algorithmes en cause. Pouvez-vous d'ores et déjà nous présenter vos réflexions au regard des questions que nous vous avons adressées ?

Vous avez évoqué le principe de finalité qui s'impose aux algorithmes. Selon vous, qu'il s'agisse de la reconnaissance faciale, de la géolocalisation ou de la vidéosurveillance, ces usages sont-ils proportionnels à la finalité recherchée par les acteurs économiques qui les utilisent ? Font-ils l'objet de plaintes, en dépit des difficultés à faire reconnaître ses droits ? Le principe de vigilance ne permettrait-il pas d'accorder aux data scientists des prérogative...

Je veux relayer une question de Mme la présidente de la mission d'information. Les acteurs des plateformes vous sollicitent-ils, vous demandent-ils des conseils, des vérifications ? J'ai beaucoup apprécié que vous parliez, pour les algorithmes, d'une chaîne de responsabilités. C'est un élément important pour notre mission. Cela implique qu'il y ait un superviseur et que l'algorithme organise une relation contractuelle. Nous avons constaté que soit les initiateurs de ces plateformes, soit ceux qui travaillent sur ces dernières ont été confrontés à un rapport social sans relations, ce qui n'est pas conforme à notre modèle économique t...

...larial, nous nous interrogeons sur l'absence de statut. Nous posons la question directement : qu'est-ce qui lie le travailleur à la plateforme de travail ? Quelles sont, également, les conséquences de ce développement de l'auto-entreprenariat sur les rémunérations ? La plupart des auto-entrepreneurs toucheraient moins que le SMIC, est-ce vrai ? Comment se passe concrètement la gestion par les algorithmes, en particulier le dialogue social ? Quelles sont les différences entre ces relations de travail et celles qui existent avec les sociétés d'intérim ? L'algorithme est le moyen reconnu de subordination. Comment fonctionne-t-il, quels sont les critères principaux de son fonctionnement pour atteindre vos objectifs ? Un seul algorithme est-il utilisé pour gérer les commandes et le personnel ? Co...

Je vous remercie mais je demeure dans le flou : vos réponses me paraissent confondre les données personnelles et les données professionnelles, alors qu'elles ne se recouvrent pas. L'algorithme manie des éléments qui peuvent relever de la loi, c'est pourquoi nous devons travailler ensemble, pour parvenir - vous parlez de transparence - à une transparence des responsabilités, de la chaîne des responsabilités. Vous dites que la réglementation européenne est claire. Je n'en suis pas si certain, en particulier sur l'usage de l'intelligence artificielle. La Commission européenne distingue ...

Il y a de la passion sur la fin de votre intervention. C'est aux travailleurs d'organiser l'expression sociale de leur statut, de leur protection sociale, de leur contrat et de leur travail. Pour ma part, j'ai vu des travailleurs renvoyés à une totale solitude face à un outil de management qui s'appelle l'algorithme. Dans votre rapport, vous avez fait 15 recommandations. J'ai particulièrement noté la recommandation n°12 sur la protection des droits et libertés numériques des travailleurs. Je voudrai voir avec vous comment pourraient être traduites sur le plan législatif, trois types de problématiques sur la portabilité des données personnelles, sur les décisions prises par les algorithmes et sur l'explicabil...

...exécutée exclusivement par La Poste, et qui l'est désormais également par Stuart, une nouvelle plateforme numérique de travail ayant reçu une délégation de service public (DSP) ? Comment imaginez-vous la représentation de ces travailleurs, ainsi que les éventuelles négociations collectives et individuelles, encore inexistantes aujourd'hui ? Dernière question, je m'interroge sur le management de l'algorithme : n'avons-nous pas à définir au niveau tant national qu'international l'intermédiation numérique ? Si celle-ci est la seule à alimenter l'offre et la demande, les travailleurs ne seront plus protégés par aucune norme, à quelque niveau qu'elle se situe. J'aimerais bénéficier de votre expertise à ce sujet, dont le périmètre est extrêmement large.

...ons pas toujours apporté les mêmes réponses. Nos travaux devraient plutôt constituer des clefs de lecture, car, avant de qualifier des droits, il faut en caractériser les faits générateurs. Concernant ces « micro-prolétaires du web », pour reprendre les mots du sociologue Antonio Casilli que nous aurons l'occasion d'auditionner, l'expression suivante m'a particulièrement marqué : « Il n'y a pas d'algorithme ; il n'y a que des choix de quelqu'un d'autre. » Réfléchir à la façon dont ces conditions de travail se répandent et pourraient constituer la norme, nous conduit à nous interroger sur l'impact du modèle économique des plateformes et sur les métiers et les secteurs concernés : voilà la deuxième ambition de cette mission d'information. Je souhaiterais ainsi que nous élargissions le périmètre de l...

Nous pourrions effectivement intégrer ce volet, car, on le voit bien, la question de l'uberisation se pose dans toutes les sphères d'activité. La visibilité est certes plus grande dans le secteur marchand, mais il n'est qu'à considérer l'algorithme de Parcoursup pour constater que l'administration utilise cet outil de management. Devons-nous examiner cette question d'une manière générale ou sous le prisme des trois fonctions publiques ? Nous le savons, une forme d'uberisation existe déjà dans le domaine de la santé, mais sans le dire ouvertement : disons-le et appelons les choses par leur nom !