Intervention de Mounir Mahjoubi

Nous ne nous opposons, madame la rapporteur, que sur la conséquence de l’absence de cette mention ; celle-ci est obligatoire. C’est d’ailleurs l’une des administrations que je dirige qui est chargée de faire respecter cette obligation : elle l’est déjà et elle le sera de plus en plus à l’avenir. En tout état de cause, la nullité de la décision en cas d’absence de cette mention est une sanction qui nous paraît disproportionnée.

La mention en question précise la finalité de l’algorithme et rappelle le droit de la personne concernée d’obtenir communication des règles du traitement et de leur application dans son cas particulier, ainsi que des modalités d’exercice de son droit à la communication et à la saisine.

En troisième lieu, si la personne en fait la demande, elle obtient beaucoup plus d’informations. Celles-ci, qui sont précisées au niveau réglementaire, sont au nombre de quatre : le degré et le mode de contribution du traitement algorithmique à la prise de décision ; les données traitées et leurs sources ; les paramètres de traitement et, le cas échéant, leur pondération appliquée à la situation de l’intéressé ; les opérations effectuées par le traitement.

Cette information est individualisée, très détaillée. Elle comprend l’intégralité des données ayant servi à faire fonctionner l’algorithme. Toutes ces caractéristiques font l’intérêt du dispositif, mais elles expliquent aussi que celui-ci ne soit pas, pour l’heure, automatisable ou généralisable. Elles imposent un traitement au cas par cas, ce qui représente une charge réelle pour les services. Aujourd’hui, ce sont bien des êtres humains, des agents publics qui prennent le temps de faire des réponses personnalisées, en réunissant toutes les informations.

S’il fallait informer systématiquement les personnes, comme le prévoit l’amendement n° 134 rectifié, il faudrait mettre en place un mécanisme automatisé, ce qui aurait pour conséquence une dégradation du niveau d’information.

Il existe aujourd’hui, à mon sens, un bon équilibre entre des vecteurs d’information systématique et la possibilité d’obtenir sur demande des informations beaucoup plus détaillées, par exemple lorsque la décision est défavorable ou en cas de questionnement sur ses motivations. La garantie de transparence doit notamment être considérée en lien avec les garanties liées au recours prévues dans le considérant 71 du règlement européen.

Enfin, les codes sources des algorithmes ayant des conséquences sociales, sanitaires ou économiques seront également mis à la disposition du public, ce qui permettra une complète redevabilité de l’administration, puisque des personnes, y compris des experts de la société civile, pourront les analyser en détail, voire rejouer des situations ou des scénarios, et vérifier que la procédure s’est correctement déroulée.

Concernant l’amendement n° 145, j’ai déjà évoqué la question de la nullité en cas d’absence de mention. Pour le reste, cet amendement est très largement, voire complètement, satisfait par le droit actuel. En effet, en vertu de l’article L. 312-1-3 du code des relations entre le public et l’administration, les administrations devront, à compter du mois d’octobre 2018, publier en ligne, de façon accessible au grand public, toutes les règles définissant les principaux traitements algorithmiques utilisés.

Le Gouvernement est défavorable à l’amendement n° 145.