Intervention de Maryse Carrère

Nous avons tous conscience des gains administratifs à tirer de l’utilisation des nouveaux outils technologiques, tels les algorithmes. Lors de l’examen de la loi pour une République numérique, le groupe du RDSE avait cependant déjà pointé les limites de l’utilisation des algorithmes en termes de transparence des décisions individuelles prises sur ce fondement. Mes collègues avaient alors proposé et obtenu que les caractéristiques de ces algorithmes puissent être communiquées aux personnes intéressées qui en feraient la demande.

Comme l’a souligné l’Office parlementaire d’évaluation des choix scientifiques et technologiques, c’est moins le logiciel d’admission post-bac que les dispositions juridiques et les choix politiques sur le fondement desquels il a été programmé qui ont conduit au bug largement commenté.

Beaucoup considèrent que la réticence des ministères à communiquer les codes sources de tels algorithmes contribue à alimenter les suspicions à leur encontre. En cas de généralisation de traitements automatisés similaires, il est à craindre que les fondements effectifs des décisions administratives ne deviennent moins accessibles et moins intelligibles si ces codes sources ne sont pas communiqués.

Nous souhaitons donc que ces caractéristiques techniques soient systématiquement publiées, afin que chacun puisse prendre connaissance des critères effectivement retenus pour l’élaboration des décisions individuelles. Dès lors que ces algorithmes n’ont pas vocation à se substituer totalement à l’appréciation des agents administratifs chargés de préparer les décisions, il n’y a pas de raison de s’opposer à la libre communication de leurs codes sources. À l’heure de la transparence, il serait invraisemblable de maintenir l’opacité sur ce point !