Interventions sur "faciale"

Monsieur le président, madame la ministre, mes chers collègues, en octobre 2020, la commission des lois du Sénat a créé, sur l’initiative de son président François-Noël Buffet, une mission d’information sur la reconnaissance faciale et ses risques au regard de la protection des libertés individuelles. Cette technologie, qui se développe rapidement grâce aux algorithmes d’apprentissage, polarise l’opinion publique entre, d’une part, les tenants d’un moratoire sur toutes les technologies biométriques – y compris la reconnaissance faciale –, lesquelles seraient par nature attentatoires aux libertés, et, d’autre part, ceux qui ...

...celle de l’atome, nous avons constamment été confrontés à ces interrogations auxquelles nul n’a jamais mieux répondu que Rabelais, avec qui nous disons désormais que : « Science sans conscience n’est que ruine de l’âme. » Mes chers collègues, c’est à nous d’apporter la conscience nécessaire à la maîtrise et au contrôle des usages de l’intelligence artificielle, aujourd’hui pour la reconnaissance faciale biométrique. L’Union européenne travaille sur le même sujet. Un règlement européen est en gestation. Il s’inspire de principes largement communs aux nôtres, ce qui n’est pas surprenant, car la France conserve une place déterminante dans le processus législatif européen. Il pourrait aboutir en 2025. Nous vous proposons de ne pas attendre cette échéance pour agir. La France, comme elle l’a fait a...

...ion Centriste à cosigner ce texte. Je peux vous assurer que mon groupe soutient cette proposition de loi. Je salue aussi la position très rationnelle, pondérée et unanime de la commission des lois lors de la remise de notre rapport. Je remercie enfin notre rapporteur pour son expertise, son exigence et son travail. Je lui exprime, comme à l’accoutumée, une reconnaissance qui n’est pas seulement faciale…

... de faire entrer la France dans le nouveau millénaire en matière de sécurité. J’entends les doutes et les interrogations légitimes de certains devant un soi-disant État policier qui s’introduirait, grâce à la technologie, dans l’intimité de chacun pour espionner et, pourquoi pas, punir. Après les vaccins qui inoculeraient des puces brevetées par Bill Gates, la vidéoprotection avec reconnaissance faciale dans l’espace public violerait notre intimité… C’est une possibilité, d’où un encadrement strict de son utilisation. Pourtant, avouons-le, il y a là un paradoxe insensé : nous acceptons chaque jour de céder à des multinationales étrangères la moindre donnée personnelle récoltée au travers de nos téléphones, de nos téléviseurs et de nos enceintes connectées, ou encore, désormais, de nos voitures ...

...e la vie courante ou une activité commerciale. Dès lors, permettre l’usage de telles technologies sans instaurer de garde-fous est dangereux. Des exemples au-delà de nos frontières nous montrent comment cet usage comporte une part de risque, notamment lorsqu’il est utilisé par un régime totalitaire contre ses propres citoyens. Nous avons tous en tête l’exemple de la Chine, où la reconnaissance faciale rythme le moindre acte de la vie quotidienne – obtenir une ligne de téléphone portable, faciliter l’enregistrement dans un hôtel, identifier des élèves qui sèchent les cours – et est devenue une arme politique à Hong Kong, par exemple, ou dans la région du Xinjiang contre la minorité ouïghoure. Pour en revenir au texte, nous souscrivons à l’ambition de fixer des lignes rouges. En revanche, l’ouv...

...notre débat intervient en effet quelques semaines seulement après la promulgation du projet de loi sur les jeux Olympiques que j’ai déjà évoqué. Voilà quelques semaines, nous avons été nombreux, et je m’inclus dans ce « nous », à débattre des mesures concernant la vidéoprotection algorithmique lors des jeux Olympiques et à répéter, souvent avec sincérité : « non, il n’y aura pas de reconnaissance faciale aux JO ». Cela était dit avec sincérité pour plusieurs raisons : nous étions nombreux à penser qu’il était trop tôt, que les critiques exprimées dans la société à l’égard de l’utilisation des algorithmes sans données biométriques créaient suffisamment de réticences et qu’il convenait d’éviter d’aller encore plus loin avec la reconnaissance faciale. De manière plus pragmatique, de nombreux acteu...

... C’est ainsi que ce texte vise, sous couvert d’expérimentation, dans une logique de prévention des risques, de lutte contre des menaces, supposées ou avérées, ou d’efficacité des enquêtes, de banaliser la vidéosurveillance automatisée. Cette surveillance massive de l’espace public a pour objet de détecter des comportements prétendument « anormaux », via l’identification par reconnaissance faciale en temps réel. Comme pour d’autres systèmes de surveillance par le passé, tout en reconnaissant le caractère intrusif des technologies biométriques, l’argument avancé pour les mettre est place est l’impossibilité « de se priver de la reconnaissance faciale dans des cas particulièrement graves, afin de garantir la sécurité de nos concitoyens, à condition que son déploiement, exceptionnel, soit en...

... septembre prochain et des jeux Olympiques en juillet 2024. Ne faut-il pas avoir peur de cette technologie potentiellement redoutable ? Rappelez-vous, le 16 avril dernier, la République islamique d’Iran a annoncé la mise en place d’une politique répressive pour lutter contre le non-port du voile. Pour arriver à ses fins, le régime des mollahs a annoncé l’introduction du système de reconnaissance faciale pour traquer ces femmes, militantes de la liberté. En Chine populaire, dans un pays qui maîtrise parfaitement cette technologie, la reconnaissance faciale a été généralisée au point que les autorités sont en mesure d’identifier dans la rue chaque individu, de connaître le solde de son compte bancaire, de procéder à la filature et à l’arrestation de celui ou de celle n’ayant pas payé son reliquat...

...tent un risque d’erreur important, qui entraîne parfois l’arrestation de personnes non recherchées. Ces technologies comportent également des biais discriminatoires majeurs. Une étude du Massachusetts Institute of Technology (MIT) révèle que les technologies d’intelligence artificielle présentent des préjugés liés au genre ou au type de couleur de peau. En analysant un logiciel de reconnaissance faciale, les chercheurs ont découvert un taux d’erreur de 0, 8 % pour des hommes à la peau claire et de 34, 7 % pour des femmes à la peau foncée. Par ailleurs, comme je l’ai déjà souligné, ce texte vise à prévoir que des entreprises privées puissent être chargées de développer des traitements biométriques. C’est une aubaine pour ces entreprises, puisque le marché de la vidéosurveillance automatisée au n...

L’amendement n° 4 vise à prévoir la suppression de la collecte d’un échantillon permettant d’améliorer la maîtrise de la technologie de la reconnaissance faciale. Si l’on ne fiabilise pas les traitements par l’expérimentation, alors les risques d’erreurs qu’il s’agit justement d’éviter seront maintenus, au lieu d’être réduits. J’émets donc un avis défavorable. L’amendement n° 12 est assez voisin du précédent. En réalité, il est contraire à l’objectif de protection affiché, puisqu’il postule que les traitements biométriques pourraient être réutilisables....

Nous avons consacré beaucoup de temps à fixer un certain nombre de garanties communes pour l’usage dérogatoire de la reconnaissance faciale dans l’espace public. Et voilà que, au moment d’examiner la possibilité de ces dérogations, nous sommes saisis d’amendements de suppression. À quoi sert donc le travail que nous venons de réaliser ? Pour répondre à la question de Mme Assassi, fort pertinente, comme toujours, nous avons prévu que les riverains d’un grand événement ne seraient pas assujettis à cette expérimentation de la reconnais...

Concrètement, il s’agit ici de permettre l’usage de logiciels de reconnaissance faciale sur les données contenues dans le traitement des antécédents judiciaires (TAJ). Or ce fichier, dont nous avions d’ailleurs dénoncé la création, est tentaculaire : près de 19 millions de fiches sont présentes dans ce mégafichier, qui contient des informations à la fois sur les personnes mises en cause – peu importe qu’elles aient été condamnées ou non –, sur les témoins et sur les victimes impliq...

Chers collègues, nous ne pouvons pas accepter vos amendements, car nous avons vraiment pris ici des précautions considérables. On ne pourra utiliser la reconnaissance faciale a posteriori, c’est-à-dire avec des images qui sont déjà enregistrées, que pour des crimes d’atteintes aux personnes punis de plus de cinq ans de prison, pour des agressions terroristes, pour la recherche de disparus, pour la recherche de criminels. Les conditions sont donc très restrictives. L’usage de la reconnaissance faciale a posteriori ne pourra être décidé que par un magistr...

On en arrive ici à l’utilisation en temps réel de la reconnaissance faciale… C’est le grand bond en avant dans la société de surveillance ! La protection de nos concitoyens et des intérêts de la Nation est l’affaire de tous. En l’état, les réponses apportées par ce texte pour y parvenir font fi des erreurs et des biais des technologies biométriques, qui sont mal conçues et peuvent entraîner l’aggravation des maux qu’elles prétendent combattre. Le développement expérime...

...te de la commission prévoit une décision du Premier ministre après avis de la Commission nationale de contrôle des techniques de renseignement (CNCTR), sous le contrôle du Conseil d’État. Les garanties sont donc maximales ! Par ailleurs, il s’agit uniquement de la lutte contre le terrorisme. Seuls les services chargés de la sécurité intérieure pourront mobiliser l’instrument de la reconnaissance faciale. C’est la raison pour laquelle la commission a considéré que ces amendements n’étaient plus justifiés, compte tenu de l’importance des garanties offertes, lesquelles reposent sur l’expérience acquise dans l’application de la loi de 2015 sur le renseignement. J’émets donc un avis défavorable sur ces deux amendements identiques.

Il n’y a pas de retour en arrière possible si nous commençons à autoriser l’utilisation en temps réel de technologies de reconnaissance faciale. Il ne peut y avoir qu’un glissement continu vers la surveillance globale. Nous ne voyons pas ce qui pourrait l’arrêter. Ce n’est pas notre modèle de société. Nos libertés publiques sont menacées par la dissémination et la prolifération de technologies de surveillance. Leur interdiction doit être un principe absolu. La reconnaissance biométrique, imparfaite, peut entraîner des erreurs de raison...

...inte extrême de ce que nous pouvons envisager. Il s’agit non plus d’utiliser des images préexistantes dans le cadre d’une enquête judiciaire, c’est-à-dire sous l’autorité de magistrats, mais de créer l’image par une surveillance qui doit permettre d’identifier les auteurs d’un crime particulièrement grave. Je veux préciser que si cette possibilité d’emploi de la technologie de la reconnaissance faciale ne doit en aucun cas se généraliser, il nous paraît possible de l’expérimenter, à condition de le faire de manière extrêmement restrictive. C’est la raison pour laquelle les finalités de l’expérimentation ne pourront être que des enquêtes portant sur des actes de terrorisme, des atteintes aux intérêts fondamentaux de la nation, des infractions relatives à la grande criminalité organisée et la di...