Intervention de Régis Chatellier

Je veux revenir sur les grands principes qui régissent le RGPD.

En vertu du principe de finalité, une donnée qui est collectée doit l'être pour un usage donné. Dans certains cas, ce sont des données aussi sensibles que la géolocalisation qui doivent être collectées. Par exemple, certains services ne peuvent fonctionner si les livreurs n'activent pas leur géolocalisation. De la même manière, les GPS de navigation automobile ne peuvent fonctionner si l'on ne partage pas sa géolocalisation avec le système. La géolocalisation n'est pas une donnée sensible du point de vue du RGPD, mais elle l'est en ce qu'elle peut inférer sur la vie des personnes. En revanche, il peut être légitime de la collecter dans certains cas.

La CNIL a une doctrine depuis un certain temps, notamment sur la géolocalisation des véhicules de livraison : dans quels cas installer un GPS sur un tel véhicule est-il légitime ? Dès lors que le système a pour vocation d'améliorer le service, au sens de mieux gérer la tournée, et se limite au travail lui-même, sans entrer dans la surveillance du salarié, il peut être légitime, dans certains cas, de recourir à la géolocalisation. En revanche, il serait problématique que l'on ait recours à ces données pour un autre usage. Par exemple, si le véhicule de livraison est à la disposition du salarié le week-end, celui-ci doit pouvoir désactiver la géolocalisation, car il n'est pas question que ses responsables hiérarchiques puissent savoir où il passe ses fins de semaine. Éviter les mésusages est la logique qui prévaut.

Nous avons publié, en novembre 2019, un document qui appelait à un débat à la hauteur des enjeux sur le thème de la reconnaissance faciale. La reconnaissance faciale peut remplir des fonctions distinctes : l'authentification ou l'identification d'une personne. Dans le milieu du travail, c'est probablement plus à l'authentification que l'on pourrait avoir recours. La CNIL connaît les deux systèmes. Surtout, la doctrine de la CNIL pour ce type d'usage se fonde sur le principe de proportionnalité. Pour accéder à certains bâtiments très sécurisés, il s'est avéré possible d'avoir recours à l'authentification. En revanche, nous avons eu l'occasion d'émettre un avis négatif sur une expérimentation reposant sur un recours à la reconnaissance faciale pour accéder à des collèges ou des lycées : nous avons considéré qu'il était disproportionné d'user un tel système. C'est cette logique qui, de manière générale, prévaut à la CNIL, puisque notre texte s'applique à tout traitement de données à caractère personnel. Si nous nous prononçons sur ces questions au cas par cas, nous pouvons, à partir de nos réponses, réussir à construire un système qui englobe le sujet de la reconnaissance faciale.

Le principe de vigilance figure parmi les recommandations de notre rapport, publié en 2017, sur les enjeux éthiques des algorithmes et de l'intelligence artificielle. Ce principe répondait à l'idée, répandue à l'époque - elle l'est un peu moins maintenant -, selon laquelle l'algorithme décide seul, que l'on n'a plus vraiment la main et que personne n'est en mesure de comprendre l'ensemble de la chaîne qui mène à une décision algorithmique basée sur la science artificielle.

De notre point de vue, le principe de vigilance signifiait que, à chaque moment de la construction de l'algorithme, depuis la collecte des données jusqu'à la prise de décision, toute une chaîne de responsabilités intervient. On ne peut demander à une personne externe de bien connaître l'algorithme ni à un ingénieur de connaître tous les enjeux associés au petit bout de code qu'il va développer ! L'idée est que ces systèmes soient compréhensibles par tous et pris en compte à chaque maillon de la chaîne de développement et de traitement des données.