Intervention de Sophie Joissains

Le renvoi à la commission est difficile. Néanmoins, nous partageons totalement sur le fond les arguments de notre collègue Pierre Ouzoulias et de certains des membres du groupe communiste républicain citoyen et écologiste.

L’article 14 est, effectivement, d’une importance tout à fait considérable. Pour la première fois dans notre droit, il ouvre la voie à l’automatisation complète des décisions individuelles prises par l’administration.

Je n’ai pas ménagé mes efforts pour convaincre nos collègues députés de la nécessité de trouver une rédaction de cet article protectrice des droits et libertés des citoyens. Le texte du Gouvernement ne comportait presque aucun garde-fou, et ceux qu’a ajoutés l’Assemblée nationale m’ont paru très insuffisants.

Hélas, ces efforts ont été vains, car l’Assemblée nationale s’est pliée à la volonté du Gouvernement.

Il en va de même du problème particulier de Parcoursup : les députés se sont contentés d’une demande de rapport au Comité éthique et scientifique chargé de superviser Parcoursup.

Tout cela est désolant. Le rôle du Parlement n’est pas de demander des rapports, en même temps qu’il ouvre grand la voie à des dérives qu’il prétend dénoncer. Le rôle du Parlement est de fixer des normes et, en l’occurrence, d’obliger l’administration à respecter les droits des citoyens.

Pour ce qui concerne Parcoursup, je suis d’autant plus étonnée de voir le Gouvernement et l’Assemblée nationale rester sourds aux préoccupations exprimées par le Sénat que deux éléments nouveaux sont apparus depuis la première lecture.

D’une part, dans sa délibération du 22 mars 2018 sur Parcoursup, la CNIL a relevé que la dérogation dont bénéficie Parcoursup aux règles de transparence prévues par le code des relations entre le public et l’administration était sans effet, puisque la loi Informatique et libertés et le règlement européen lui-même comportent des règles similaires. Selon la CNIL, « les établissements d’enseignement supérieur qui recourraient à un traitement algorithmique pour examiner les candidatures qui leur sont soumises devront également fournir l’ensemble des éléments permettant de comprendre la logique qui sous-tend cet algorithme. »

D’autre part, le Président de la République, dans son allocution du 28 mars 2018 au Collège de France sur l’intelligence artificielle, a clairement pris position pour la transparence dans l’usage des algorithmes, y compris pour l’accès à l’université. Il a d’ailleurs émis le souhait que des décisions ne soient jamais entièrement déléguées à un algorithme, ce qui va directement à l’encontre des dispositions prévues à cet article – il faut bien le dire.

Pour le Président de la République, « la clé est de mettre partout de la transparence publique sur les algorithmes, rendre les algorithmes publics, s’assurer qu’ils sont utilisés en transparence, traquer leurs biais, ne pas leur confier le monopole de la décision, s’engager à les enrichir ou les compléter par la décision humaine. » C’est ce que le Sénat avait prévu.

Le chef de l’État poursuivait ainsi : « Cette transparence, elle suppose une interaction permanente entre l’intelligence artificielle et l’humain et les choix qui seront faits, elle suppose des débats permanents, des corrections, elle suppose à partir du moment où on va mettre l’entrée à l’université, l’entrée dans une profession ou une formation derrière un algorithme, la nécessité de rendre plus démocratique cet algorithme et donc de s’assurer de sa loyauté, de s’assurer de sa transparence complète et qu’il puisse y avoir un débat sur ces règles sinon nous déléguons à l’algorithme le choix entre des priorités démocratiques. »

Voilà d’excellents principes, qui restent lettre morte dans ce texte qui sera bientôt voté par l’Assemblée nationale.

Dans ce contexte, nous avons appris à la lecture du journal Le Monde que l’Inspection générale de l’administration de l’éducation nationale et de la recherche avait produit, à l’intention de la ministre de l’enseignement supérieur, une note de suivi particulièrement alarmiste.

Dans cette note, l’Inspection générale aurait mis en garde contre un dispositif qui pose des difficultés philosophiques ou techniques liées à l’examen des candidatures. Elle aurait souligné que les établissements sont encore loin d’être prêts à examiner et à sélectionner les dossiers qui vont leur être soumis, que les critères appliqués varient d’une université à l’autre et sont parfois dénués de fondement légal. Bref, elle aurait déploré le manque d’accompagnement – c’est un minimum – du ministère.

Cela étant, à regret, je sollicite le retrait de cette motion de renvoi à la commission. Et la commission demande au Gouvernement de communiquer au Sénat cette note d’inspection, car nous ne pouvons pas légiférer à l’aveugle.