Interventions sur "reconnaissance"

Monsieur le président, madame la ministre, mes chers collègues, en octobre 2020, la commission des lois du Sénat a créé, sur l’initiative de son président François-Noël Buffet, une mission d’information sur la reconnaissance faciale et ses risques au regard de la protection des libertés individuelles. Cette technologie, qui se développe rapidement grâce aux algorithmes d’apprentissage, polarise l’opinion publique entre, d’une part, les tenants d’un moratoire sur toutes les technologies biométriques – y compris la reconnaissance faciale –, lesquelles seraient par nature attentatoires aux libertés, et, d’autre part, c...

...du feu jusqu’à celle de l’atome, nous avons constamment été confrontés à ces interrogations auxquelles nul n’a jamais mieux répondu que Rabelais, avec qui nous disons désormais que : « Science sans conscience n’est que ruine de l’âme. » Mes chers collègues, c’est à nous d’apporter la conscience nécessaire à la maîtrise et au contrôle des usages de l’intelligence artificielle, aujourd’hui pour la reconnaissance faciale biométrique. L’Union européenne travaille sur le même sujet. Un règlement européen est en gestation. Il s’inspire de principes largement communs aux nôtres, ce qui n’est pas surprenant, car la France conserve une place déterminante dans le processus législatif européen. Il pourrait aboutir en 2025. Nous vous proposons de ne pas attendre cette échéance pour agir. La France, comme elle l’...

C’est souvent la réaction que suscite l’évocation de la reconnaissance biométrique et d’un débat sur le sujet. Est-ce en raison de cette crainte d’entraîner des réactions irrationnelles et des jeux de posture que cet enjeu n’a pas été intégré à la loi du 19 mai 2023 relative aux jeux Olympiques et Paralympiques de 2024 et portant diverses autres dispositions ? Cela me fait souvent penser au personnage d’Élisa, dans une pièce de Léonore Confino, qui appelle à brûler...

J’espère que c’est ce que nous sommes en train de commencer à faire. Le développement rapide des technologies de reconnaissance biométrique nécessite à présent leur appropriation par les pouvoirs publics pour ne pas les laisser à la main des seuls opérateurs privés. Ces mêmes technologies impliquent un débat public, que beaucoup demandaient : il s’agit non pas de subir, mais de choisir collectivement la société dans laquelle nous voulons vivre. Je remercie le président de la commission des lois, François-Noël Buffet, d’a...

...bertés publiques. L’interdit corollaire de la catégorisation et de la notation à partir de données biométriques est également inscrit dans la proposition de loi. Les expérimentations, quant à elles, sont très encadrées : limitées à trois ans, elles sont régulièrement évaluées et dans le cadre d’un rapport public et par le Parlement. Elles sont soumises à un régime de contrôle : les usages de la reconnaissance biométrique dans l’espace public répondent à une procédure d’autorisation spécifique, de la part des magistrats pour les usages judiciaires et de celle de la Commission nationale de contrôle des techniques de renseignement pour les usages administratifs. Pour ce qui concerne les usages judiciaires, la commission a estimé que le recours à la reconnaissance biométrique ne devait être expérimenté q...

... aux jeux Olympiques et Paralympiques de 2024, nous avions admis l’expérimentation de l’utilisation de la vidéoprotection dite « intelligente » ou « augmentée » au travers du traitement par algorithme des images. D’ailleurs, cette nouveauté juridique suivait les recommandations formulées par nos collègues Marc-Philippe Daubresse, Arnaud de Belenet et Jérôme Durain dans leur rapport intitulé La reconnaissance biométrique dans l ’ espace public : 30 propositions pour écarter le risque d ’ une société de surveillance. Il m’avait alors semblé qu’une limite avait été fixée, celle de ne pas aller jusqu’à la biométrie, et qu’il s’agissait d’une bonne limite. Je m’étais même permis d’exprimer, au cours de la discussion générale, mon « sentiment profond que le fait de présenter l’innovation technologiqu...

...insi l’occasion de faire entrer la France dans le nouveau millénaire en matière de sécurité. J’entends les doutes et les interrogations légitimes de certains devant un soi-disant État policier qui s’introduirait, grâce à la technologie, dans l’intimité de chacun pour espionner et, pourquoi pas, punir. Après les vaccins qui inoculeraient des puces brevetées par Bill Gates, la vidéoprotection avec reconnaissance faciale dans l’espace public violerait notre intimité… C’est une possibilité, d’où un encadrement strict de son utilisation. Pourtant, avouons-le, il y a là un paradoxe insensé : nous acceptons chaque jour de céder à des multinationales étrangères la moindre donnée personnelle récoltée au travers de nos téléphones, de nos téléviseurs et de nos enceintes connectées, ou encore, désormais, de nos v...

Monsieur le président, madame la ministre, mes chers collègues, les évolutions récentes nous mettent devant le fait accompli : nous devons réguler et encadrer de manière adaptée et spécifique la reconnaissance biométrique. Cet outil permet d’identifier un individu grâce à un panel de caractéristiques qui lui sont propres. L’intelligence artificielle connaît un essor fulgurant. Notre rôle de législateur prend tout son sens dans ce domaine où tout va très vite. Nous avons besoin d’un droit solide et protecteur qui saura s’adapter aux évolutions technologiques. C’est indispensable pour protéger nos droit...

Monsieur le président, madame la ministre, mes chers collègues, « créer un cadre juridique expérimental permettant, par exception et de manière strictement subsidiaire, le recours ciblé et limité dans le temps à des systèmes de reconnaissance biométrique sur la voie publique, en temps réel, sur la base d’une menace préalablement identifiée et à des fins de sécurisation de grands événements. » Ces mots sont ceux de l’auteur de la présente proposition de loi, M. Marc-Philippe Daubresse, qu’il a prononcés lors de l’examen de la loi relative aux jeux Olympiques et Paralympiques de 2024. Il définissait déjà les contours du texte actuel pu...

Comme l’ont souligné les précédents orateurs, nous sommes conduits à nous prononcer aujourd’hui sur une proposition de loi de nos collègues Marc-Philippe Daubresse et Arnaud de Belenet portant sur la reconnaissance biométrique dans l’espace public. Issue des propositions formulées par une mission d’information de la commission des lois, ce texte vise, d’une part, à fixer des lignes rouges pour faire obstacle à une société de surveillance ; d’autre part, à expérimenter de nouveaux cas d’usage de cette technologie, qui croît exponentiellement grâce aux algorithmes d’apprentissage. Nous le savons, l’opinion ...

... à confusion : notre débat intervient en effet quelques semaines seulement après la promulgation du projet de loi sur les jeux Olympiques que j’ai déjà évoqué. Voilà quelques semaines, nous avons été nombreux, et je m’inclus dans ce « nous », à débattre des mesures concernant la vidéoprotection algorithmique lors des jeux Olympiques et à répéter, souvent avec sincérité : « non, il n’y aura pas de reconnaissance faciale aux JO ». Cela était dit avec sincérité pour plusieurs raisons : nous étions nombreux à penser qu’il était trop tôt, que les critiques exprimées dans la société à l’égard de l’utilisation des algorithmes sans données biométriques créaient suffisamment de réticences et qu’il convenait d’éviter d’aller encore plus loin avec la reconnaissance faciale. De manière plus pragmatique, de nombre...

...nombreuses ONG. C’est ainsi que ce texte vise, sous couvert d’expérimentation, dans une logique de prévention des risques, de lutte contre des menaces, supposées ou avérées, ou d’efficacité des enquêtes, de banaliser la vidéosurveillance automatisée. Cette surveillance massive de l’espace public a pour objet de détecter des comportements prétendument « anormaux », via l’identification par reconnaissance faciale en temps réel. Comme pour d’autres systèmes de surveillance par le passé, tout en reconnaissant le caractère intrusif des technologies biométriques, l’argument avancé pour les mettre est place est l’impossibilité « de se priver de la reconnaissance faciale dans des cas particulièrement graves, afin de garantir la sécurité de nos concitoyens, à condition que son déploiement, exceptionnel,...

...nde de rugby en septembre prochain et des jeux Olympiques en juillet 2024. Ne faut-il pas avoir peur de cette technologie potentiellement redoutable ? Rappelez-vous, le 16 avril dernier, la République islamique d’Iran a annoncé la mise en place d’une politique répressive pour lutter contre le non-port du voile. Pour arriver à ses fins, le régime des mollahs a annoncé l’introduction du système de reconnaissance faciale pour traquer ces femmes, militantes de la liberté. En Chine populaire, dans un pays qui maîtrise parfaitement cette technologie, la reconnaissance faciale a été généralisée au point que les autorités sont en mesure d’identifier dans la rue chaque individu, de connaître le solde de son compte bancaire, de procéder à la filature et à l’arrestation de celui ou de celle n’ayant pas payé son ...

...onnées biométriques, prévues dans la version initiale de cette proposition de loi, aient été supprimées au profit d’un simple renvoi à un décret en Conseil d’État. Pourtant, le législateur ne saurait consentir à cet abandon de compétence au profit du pouvoir réglementaire, par ailleurs susceptible de censure constitutionnelle. L’intervention du législateur est nécessaire dans ce domaine, car la reconnaissance biométrique résulte d’indissociables aspects immatériels et matériels. Cet abandon de compétence serait d’autant plus dommageable que des exigences européennes seront directement applicables sans que le législateur français se saisisse de ce sujet et fixe ses propres garanties. De manière concrète, enfin, il est nécessaire d’aider les autorités administratives compétentes dans l’exercice de leur...

...t. Elles comportent un risque d’erreur important, qui entraîne parfois l’arrestation de personnes non recherchées. Ces technologies comportent également des biais discriminatoires majeurs. Une étude du Massachusetts Institute of Technology (MIT) révèle que les technologies d’intelligence artificielle présentent des préjugés liés au genre ou au type de couleur de peau. En analysant un logiciel de reconnaissance faciale, les chercheurs ont découvert un taux d’erreur de 0, 8 % pour des hommes à la peau claire et de 34, 7 % pour des femmes à la peau foncée. Par ailleurs, comme je l’ai déjà souligné, ce texte vise à prévoir que des entreprises privées puissent être chargées de développer des traitements biométriques. C’est une aubaine pour ces entreprises, puisque le marché de la vidéosurveillance automati...

Comme je n’ai eu de cesse de le rappeler dans cet hémicycle, les technologies biométriques comportent des risques unanimement dénoncés par les autorités indépendantes, comme la Défenseure des droits ou la Cnil. Selon le rapport de 2021 de la Défenseur des droits sur les technologies biométriques, l’utilisation de la reconnaissance biométrique comporte un risque inhérent d’atteinte au droit et au respect de la vie privée, ainsi qu’à la protection des données. Elle peut entraîner des discriminations, voire les amplifier. Pour la CNIL, la reconnaissance biométrique est particulièrement intrusive et comporte un certain nombre de risques pour la protection des données et de la vie privée. Face à ces risques indéniables dans l...

L’amendement n° 4 vise à prévoir la suppression de la collecte d’un échantillon permettant d’améliorer la maîtrise de la technologie de la reconnaissance faciale. Si l’on ne fiabilise pas les traitements par l’expérimentation, alors les risques d’erreurs qu’il s’agit justement d’éviter seront maintenus, au lieu d’être réduits. J’émets donc un avis défavorable. L’amendement n° 12 est assez voisin du précédent. En réalité, il est contraire à l’objectif de protection affiché, puisqu’il postule que les traitements biométriques pourraient être réutil...

Nous avons consacré beaucoup de temps à fixer un certain nombre de garanties communes pour l’usage dérogatoire de la reconnaissance faciale dans l’espace public. Et voilà que, au moment d’examiner la possibilité de ces dérogations, nous sommes saisis d’amendements de suppression. À quoi sert donc le travail que nous venons de réaliser ? Pour répondre à la question de Mme Assassi, fort pertinente, comme toujours, nous avons prévu que les riverains d’un grand événement ne seraient pas assujettis à cette expérimentation de la r...

Concrètement, il s’agit ici de permettre l’usage de logiciels de reconnaissance faciale sur les données contenues dans le traitement des antécédents judiciaires (TAJ). Or ce fichier, dont nous avions d’ailleurs dénoncé la création, est tentaculaire : près de 19 millions de fiches sont présentes dans ce mégafichier, qui contient des informations à la fois sur les personnes mises en cause – peu importe qu’elles aient été condamnées ou non –, sur les témoins et sur les victime...

Chers collègues, nous ne pouvons pas accepter vos amendements, car nous avons vraiment pris ici des précautions considérables. On ne pourra utiliser la reconnaissance faciale a posteriori, c’est-à-dire avec des images qui sont déjà enregistrées, que pour des crimes d’atteintes aux personnes punis de plus de cinq ans de prison, pour des agressions terroristes, pour la recherche de disparus, pour la recherche de criminels. Les conditions sont donc très restrictives. L’usage de la reconnaissance faciale a posteriori ne pourra être décidé que par un...