Interventions sur "algorithme"

La non-hiérarchisation des vœux et la masse des demandes qui seront formulées via Parcoursup – environ 8 millions – obligeront les établissements à traiter d’énormes quantités de dossiers – entre 40 000 et 50 000 pour une université de taille moyenne. Il est naturellement impossible de le faire de façon manuelle et il faudra donc recourir à des algorithmes. Or il se pourrait que cela aboutisse à ouvrir aux universités une possibilité légale de procéder à un tirage au sort, alors même que la loi est censée l’interdire ! C’est pourquoi nous demandons avec la plus grande fermeté que les algorithmes utilisés par les universités soient rendus publics, afin d’écarter toute suspicion.

Cet amendement vise en fait à interdire tout traitement automatisé pour l’examen des candidatures. Avec la suppression de la hiérarchisation des vœux, dans certaines filières en tension, les UFR devront traiter 15 000 dossiers. Il serait irréaliste de leur demander de le faire sans recourir à un traitement automatisé, à un algorithme local. L’algorithme suffira pour traiter les dossiers appelant clairement une décision d’acceptation ou de rejet, une intervention humaine sera nécessaire pour les autres. Les responsables d’UFR que j’ai rencontrés m’ont nettement signifié qu’il ne leur serait pas possible de trier les dossiers sans un traitement automatisé. L’avis de la commission est donc défavorable.

Je ne comprends pas comment pourraient coexister le recours à un algorithme pour sélectionner ou rejeter les dossiers et une intervention humaine dans le traitement de ceux-ci. Il y a là une contradiction : si l’on utilise un algorithme, c’est précisément pour éviter une intervention humaine, au rebours de l’avis de la CNIL !

Nous avons eu un débat sur les algorithmes en commission, qui avait abouti à un avis plutôt défavorable. Nous souhaiterions pouvoir échanger avec vous sur ce sujet, madame la ministre. Cet amendement prévoit que les obligations sont réputées satisfaites dès lors que « les candidats sont informés de la possibilité d’obtenir, s’ils en font la demande, la communication des informations relatives aux critères et modalités d’examen de leurs ...

Il me semble que Mme la ministre vient de donner par avance un avis favorable à cet amendement, en indiquant que les algorithmes de manière générale, notamment ceux utilisés par les universités, seront rendus publics. C’est en tout cas ce que j’ai compris ! Il s’agit pour nous d’un amendement de repli, car nous ne sommes pas très favorables à l’utilisation d’algorithmes. Dès lors qu’il y est recouru, la moindre des choses est qu’ils soient rendus publics, à l’instar de l’algorithme national.

Non, madame la ministre, ce n’est pas possible ! Vous venez de nous dire que les algorithmes – au pluriel, donc pas seulement l’algorithme national – seront publiés : comment pouvez-vous maintenant donner un avis défavorable sur cet amendement ? Je ne comprends pas votre position ! Même à cette heure un peu tardive, notre discussion doit reposer sur des bases rationnelles.

Madame la ministre, pourriez-vous nous apporter quelques précisions sur ce que vous entendez par publication des algorithmes ? Ces outils d’aide à la décision, auxquels recourent de plus en plus d’institutions et de procédures, apparaissent souvent comme des boîtes noires. À l’évidence, davantage de transparence est nécessaire pour que les intéressés puissent avoir confiance en ces procédures informatiques. Selon moi, il importe en particulier de pouvoir accéder au code source, pour qu’il puisse être examiné par des e...

Cette question des algorithmes utilisés par les établissements ou les filières est en effet importante. L’alinéa 8 de l’article 1er du projet de loi prévoit clairement la publication des algorithmes nationaux de traitement. En matière de transparence, il devrait y avoir un parallélisme des formes, me semble-t-il, entre le niveau national et celui des filières et des établissements. Si l’on peut comprendre que les établisseme...

Je ne demande qu’à faire confiance à Mme la ministre, mais des directeurs des études que j’ai rencontrés m’ont indiqué ne pas connaître, à ce jour, les outils d’aide à la décision. Dans ces conditions, je propose à M. Ouzoulias de retirer son amendement au profit de l’amendement n° 194 de la commission, qui prévoit la publication des algorithmes « sous une forme intelligible », sous réserve bien sûr de ne pas porter atteinte à des secrets protégés par la loi.

La disposition que nous souhaitons amender est issue de l’adoption d’un amendement par l’Assemblée nationale sur l’initiative de Cédric Villani. Elle tend à instaurer, dans un délai de six mois après l’entrée en vigueur de la loi, une publicité et une transparence accrues du processus de préinscription via la plateforme Parcoursup, par la communication des codes sources des algorithmes, de la synthèse du cahier des charges et de l’algorithme de traitement. Ce dispositif tire les conséquences des errements du système APB et de son caractère aléatoire et arbitraire : les décisions d’affectation reposaient exclusivement sur un algorithme et sur un tirage au sort pour départager les candidats dans les filières sous tension. On connaît les réticences de la CNIL à ce que des donné...

L’avis est défavorable. Les codes sources, les algorithmes utilisés sont très complexes. La commission estime qu’un équilibre intéressant a été trouvé entre transparence et intelligibilité pour le grand public grâce à l’adoption de l’amendement de M. Villani.

Cet amendement, qui s’inscrit dans le droit fil des précédents, a pour objet d’interdire le tri ou le classement des candidatures via un algorithme, au-delà de la sélection par la seule voie algorithmique, par ailleurs prohibée par la CNIL et la loi Informatique et libertés. Cet amendement vise à éviter que les établissements, d’une part, ou Parcoursup directement, d’autre part, ne procèdent à une sélection détournée en organisant une remontée de dossiers pré-évalués sur la base d’un algorithme. De fait, on se doute bien que si la plateform...

Il s’agit de prévoir que les algorithmes qui seront utilisés par les établissements pour classer les candidatures seront publiés sous une forme intelligible, dans la mesure où n’est pas remis en cause le pouvoir souverain d’appréciation du juge.

... Conjuguée aux vœux groupés, cette non-hiérarchisation aura pour conséquence de rendre sélectives quasiment toutes les filières. En effet, avec jusqu’à vingt-huit vœux possibles, le nombre de candidatures augmentera pour toutes les filières par rapport aux années précédentes. Enfin, la hausse très significative du nombre de candidatures à étudier conduira les établissements à mettre en place des algorithmes de traitement locaux, dont on ne connaîtra ni le fonctionnement ni les critères de tri. Autrement dit, on remplace un algorithme critiqué, mais qui avait la vertu d’être national, par des algorithmes locaux quelque peu opaques. Ce manque de transparence nous paraît dangereux. Quant à l’affectation au fil de l’eau, sans hiérarchie des vœux, elle entraînera une impossibilité d’anticiper les effec...