Intervention de Jérôme Durain

… d’un texte qui mériterait une meilleure visibilité médiatique.

L’intelligence artificielle et son application aux images, animées ou non, ont suscité quelques débats ces derniers mois, dans le sillage du succès de ChatGPT et des dispositions sur la vidéoprotection algorithmique examinées dans le cadre du projet de loi relatif aux jeux Olympiques et Paralympiques de 2024 et portant diverses autres dispositions.

Je crains cependant que le format de notre discussion de cet après-midi ne nous permette pas de rencontrer le même succès. C’est compréhensible, dans la mesure où ce texte est examiné dans le cadre d’une niche – je le dis avec tout le respect que j’ai pour l’initiative parlementaire. De ce fait, nous ne disposons pas d’étude d’impact et la position de Mme la ministre témoigne du fait que ce texte n’est pas porté à bras-le-corps par le Gouvernement.

Surtout, l’agenda législatif prête à confusion : notre débat intervient en effet quelques semaines seulement après la promulgation du projet de loi sur les jeux Olympiques que j’ai déjà évoqué. Voilà quelques semaines, nous avons été nombreux, et je m’inclus dans ce « nous », à débattre des mesures concernant la vidéoprotection algorithmique lors des jeux Olympiques et à répéter, souvent avec sincérité : « non, il n’y aura pas de reconnaissance faciale aux JO ».

Cela était dit avec sincérité pour plusieurs raisons : nous étions nombreux à penser qu’il était trop tôt, que les critiques exprimées dans la société à l’égard de l’utilisation des algorithmes sans données biométriques créaient suffisamment de réticences et qu’il convenait d’éviter d’aller encore plus loin avec la reconnaissance faciale.

De manière plus pragmatique, de nombreux acteurs nous disent qu’il est trop tard, que mettre en place les systèmes de reconnaissance faciale prend du temps et que rien ne serait de toute façon opérationnel pour les JO. Je pense que ces messages, que nous avons nous-mêmes répétés, ont été entendus.

Permettez-moi d’en rappeler quelques-uns. « Nous nous félicitons de ce que la ligne rouge de la reconnaissance faciale n’ait pas été franchie dans le projet de loi déposé par le Gouvernement », déclarait la rapporteure de la commission des lois sur le récent projet de loi relatif aux jeux Olympiques et Paralympiques. « Je suis opposé à la reconnaissance faciale », affirmait Gérald Darmanin, auditionné par notre commission. « Nous ne voulons pas de la reconnaissance faciale ni de l’utilisation de données et de systèmes d’identification biométrique pour ces Jeux. Non seulement ces procédés ne nous semblent pas nécessaires sur le plan opérationnel, mais, surtout, les autres dispositifs prévus permettront, à eux seuls, un saut qualitatif en matière de prévention et de lutte contre les troubles à l’ordre public », déclarait Amélie Oudéa-Castéra à l’Assemblée nationale.

Je l’ai bien compris, certaines de ces citations sont soumises à interprétation, voire à une date limite de validité. Je comprends ces subtilités. Après tout, j’ai moi-même signé le rapport de la commission des lois sur la reconnaissance faciale, avant de refuser de signer la proposition de loi qui en découlait.

Permettez-moi de vous expliquer mon raisonnement personnel avant de vous confier la position de mon groupe sur cette proposition de loi.

Je ne crois pas que la reconnaissance faciale, telle qu’elle est perçue par les auteurs du texte, dont je connais les intentions, la qualité du travail et le souci de prendre de grandes précautions, comme par notre rapporteur, constitue un danger en soi. C’est une technologie qui commence à être efficace, même si elle conserve quelques faiblesses. Elle est déjà utilisée par nos citoyens pour certains de leurs actes quotidiens – je pense notamment au déverrouillage des téléphones.

Encadrer cette technologie semble très important. On peut le noter, un cadre global sur l’intelligence artificielle nous sera bientôt donné par l’Union européenne. Si l’on prend en considération le succès du RGPD, on peut imaginer que l’échelon européen est le plus adapté à la régulation du numérique.

M. le rapporteur estime que cela interviendra trop tardivement. Je pense au contraire qu’il ne sert à rien de se précipiter sur un sujet éthique qui aura des conséquences sur plusieurs décennies. Je considère que ce sujet mériterait un débat national d’envergure, oserais-je dire une convention citoyenne ? Je ne crois pas que nos compatriotes soient par nature opposants ou partisans de cette technologie et je ne préjuge pas des conclusions qui pourraient en sortir.

Je suis un fervent défenseur de la démocratie parlementaire, mais je crois que, sur certains sujets pour lesquels l’acceptabilité est essentielle, il importe de mettre en place des processus de décision associant le plus grand nombre possible de citoyens. Pour le dire autrement, je ne crois pas que cela passe par un projet de loi ou une proposition de loi ordinaire.

Vous l’aurez compris, l’ensemble de ces arguments conduit mon groupe à s’opposer à l’adoption de cette proposition de loi. La réécriture opérée par M. Bas a ses vertus, la volonté d’encadrer cette technologie étant louable. Toutefois, nous pensons que l’heure n’est pas venue.

Par ailleurs, en matière technologique, l’effet cliquet n’est jamais loin, une intervenante précédente ayant évoqué l’audition du secrétaire général de la Cnil. Aujourd’hui, nous repoussons le modèle chinois de reconnaissance faciale, comme nous repoussions hier l’internet à la chinoise, protégé derrière son grand firewall. Pourtant, de plus en plus de voix jalousent les possibilités offertes par l’internet chinois pour protéger les mineurs ou censurer des contenus dangereux.

Sommes-nous certains, mes chers collègues, que le modèle chinois de reconnaissance faciale constituera toujours un repoussoir dans dix ans ? Notre réponse est-elle dépendante des changements de majorité politique que pourrait connaître notre pays ? Vous hésiterez peut-être à me répondre. C’est ce qui détermine nos réflexions.

Par ailleurs, méfions-nous du solutionnisme technologique. Pour avoir débattu de l’utilité de cette technologie avec des dizaines de personnes ces dernières années, je retiens quelques limites qui nous permettront de relativiser l’urgence de notre débat.

Premièrement, la reconnaissance faciale n’est pas une recette miracle. Oui, elle sera utile dans certains cas : enlèvements de personnes, menace terroriste identifiée – j’insiste sur le terme « identifiée » –, recherche de personnes dangereuses précises. Elle ne fera pas disparaître l’ensemble des menaces.

Certes, elle sera utile dans la résolution d’enquêtes, mais il faut garder à l’esprit que la vidéoprotection elle-même n’a pas fait disparaître la criminalité dans notre pays. Même si elle est utile, elle a ses limites, et la Cour des comptes ne s’est pas privée de le rappeler à de multiples reprises.

La vidéoprotection et la reconnaissance faciale ne vont pas sans intervention humaine. Dans des exemples dramatiques, encore très récents, ce sont bien des interventions humaines qui ont permis de mettre fin au drame qui se déroulait. Aucune caméra, avec ou sans reconnaissance faciale, n’aurait pu empêcher ce qui s’est passé. Un acteur du renseignement me disait, de façon un peu triviale, « ce n’est pas parce que j’identifie celui qui a rayé ma voiture sur le parking que ma voiture est réparée ».

Il n’y aura pas de miracle, sauf exceptionnellement. Et ces technologies nous coûteront pourtant très cher ! Un autre expert me disait : « Vous avez aimé les milliards dépensés pour la vidéoprotection ? Vous adorerez le coût de la reconnaissance faciale ! » Il rappelait par ailleurs que « l’adéquation de l’utilité de la reconnaissance faciale avec une doctrine sécuritaire plus large est déterminante ». Le coût de cette technologie est loin d’être anodin par rapport aux autres moyens mis en œuvre. Il reviendra à l’État d’articuler un ensemble de solutions.

Mes chers collègues, le texte qui est soumis à notre sagacité aujourd’hui n’est pas, selon moi, un mauvais texte. L’initiative de MM. Daubresse et de Belenet a ses vertus et les enrichissements apportés par M. le rapporteur Philippe Bassont indéniables.

Toutefois, le groupe socialiste considère que ce débat, qui intervient après que nous avons tous répété urbi et orbi que la reconnaissance faciale ne serait pas en place aux JO, est prématuré. Face aux bouleversements de l’intelligence artificielle croisée avec les données biométriques, il nous semble prudent d’avancer conjointement avec l’Europe. Vous le comprendrez, et le regretterez peut-être, nous ne soutiendrons pas ce texte.