Mes chers collègues, je suis heureux d'accueillir Madame Séverine Arsène, chercheuse associée au Médialab de Sciences Po et enseignante à l'Université chinoise de Hong Kong. Je vous remercie, Madame, de participer à cette audition en visioconférence depuis Hong Kong. Cette audition a lieu dans le cadre du rapport de trois de nos collègues sur le rôle des outils numériques dans la prévention et la gestion des pandémies, pour approfondir un sujet qui a suscité, ces derniers mois, beaucoup de fantasmes parfois d'incompréhensions, à savoir le système de crédit social chinois. Ce vaste programme vise à attribuer une note à chaque citoyen et à chaque entreprise, une sorte de respectabilité ou de crédibilité fondée sur de multiples critères, dont les conséquences peuvent parfois aller loin. On parle notamment de fortes amendes mais aussi de l'interdiction de voyager ou de passer des concours.

Je dis « fantasmes » car il est facile de crier immédiatement à la dictature numérique et au « Big Brother » d'Orwell sans autre forme de procès. La réalité est beaucoup plus complexe qu'il n'y paraît, qu'il s'agisse des origines de ce système, de ses modalités précises ou de son efficacité.

La crise sanitaire nous présente une réalité pour le moins inconfortable : les pays qui ont le mieux réussi à contenir l'épidémie sont souvent ceux qui ont eu recours aux outils de contrôle social les plus intrusifs, notamment grâce aux technologies numériques. La Chine, à l'évidence, fait partie de ces pays et le système de crédit social a joué un rôle important dans la gestion de l'épidémie, même si on l'assimile souvent, à tort, à d'autres technologies numériques comme le QR Code en santé ou la reconnaissance faciale.

C'est la raison pour laquelle nous avons souhaité vous entendre car vos travaux portent précisément sur le numérique en Chine et le système de crédit social.

Je voudrais rappeler que notre rôle, ici, n'est pas de faire de la politique mais bien de la prospective. Si le sujet nous intéresse, c'est parce qu'il nous renvoie à nos propres interrogations, parfois à nos propres contradictions. Si demain nous étions confrontés à une épidémie plus grave encore et que le recours à des technologies numériques intrusives apparaissait comme le moyen le plus efficace de la contenir, serions-nous prêts à suivre ce modèle chinois ? Quelles alternatives pourrions-nous alors construire ? C'est l'objet des travaux conduits par nos collègues Christine Lavarde, Véronique Guillotin et René-Paul Savary, les trois rapporteurs de la délégation qui auront sûrement des questions à poser à notre invitée une fois que celle-ci se sera exprimée.

Merci de votre invitation. Je suis très heureuse d'être parmi vous virtuellement aujourd'hui. C'est toujours un plaisir d'échanger sur ces sujets qui nous tiennent à coeur et d'avoir l'occasion d'en discuter de façon plus approfondie.

Je voudrais souligner, d'une manière générale, à quel point le gouvernement chinois a misé sur le numérique, ces trente dernières années, pour réaliser son objectif de modernisation et redéfinir les relations entre l'État et la société. Depuis les années 1980 (l'époque des autoroutes de l'information), les dirigeants chinois ont bien vu que, s'ils voulaient que la Chine revienne sur la scène internationale en tant que grande puissance, elle devait prendre ce tournant.

Ainsi, de fait, l'informatisation a été utilisée comme une réponse aux nombreux défis auxquels faisait face la Chine, tant pour rendre l'État plus efficace que pour donner au secteur privé des outils pour se développer, offrir à la population des plateformes d'expression mais aussi - le gouvernement ayant explicitement exclu la question d'un changement de politique - comme instrument de contrôle social. Toutes ces dimensions se trouvent conjuguées à l'intérieur de chaque dispositif numérique.

Parmi de très nombreux dispositifs numériques mis en place par le gouvernement chinois, j'évoquerai ici principalement le système de crédit social, qui constitue paradoxalement celui qui mobilise peut-être le moins les possibilités du numérique, par comparaison avec d'autres dispositifs tels que la ville intelligente ou la vidéosurveillance.

Le dispositif de crédit social répond à un problème persistant dans la Chine d'aujourd'hui, la difficulté constante à faire respecter les lois et règlements. Il s'agit d'un problème d'ordre public assez sérieux, vu comme ralentissant le développement de l'activité économique. L'idée générale, qui a émergé progressivement au cours des années 2000, puis 2010, a été de se doter d'un système pouvant articuler de manière assez fine des incitations et des sanctions dans la vie quotidienne des individus et des entreprises. Comme nous allons le voir, le passage de l'idée à la réalisation présente toujours quelques complications.

Globalement, le système se focalise beaucoup sur la question des dettes non payées, qui minent les échanges économiques au sein de la société. La Chine peinant à développer, encore aujourd'hui, un système bancaire recouvrant l'ensemble de la population et en l'absence d'un système abouti de banqueroute, il y a peu d'instruments permettant de déterminer la solvabilité des acteurs économiques. Décourager les impayés et en garder une trace constitue donc un objectif important. De ce point de vue, la Banque de Chine a aussi lancé des initiatives afin de pouvoir construire des historiques de crédit. Parallèlement, le système de crédit social a également un rôle à jouer.

Par extension, le système de crédit social a aussi été conçu pour traiter des infractions à la réglementation dans différents secteurs économiques, par exemple en matière d'hygiène et de sécurité alimentaire, de protection de l'environnement ou en cas de non-paiement des salaires dans différentes industries. Dès le départ, des questions importantes liées à la santé publique ont été incluses dans le modèle, par exemple la tarification abusive des médicaments ou la corruption dans le secteur hospitalier. Lors de la survenue de la crise du Covid-19, ces aspects ont été renforcés et élargis.

L'idée du crédit social, dans son ensemble, consiste à trouver des leviers supplémentaires pour faire cesser la récidive, dans le cas d'entreprises ou d'individus qui seraient condamnés pour ce type d'infraction mais n'obtempèrent pas. Ces sanctions vont s'ajouter à des condamnations déjà existantes à travers le système administratif ou judiciaire.

Il existe deux grands types de dispositif. Il y a d'abord des listes noires, qui fonctionnent un peu comme des listes d'interdit bancaire ou des casiers judiciaires, interdisant l'accès, pour les personnes qui y figurent, à certains types d'emplois, certaines sources de financement ou imposant des restrictions à leur consommation (par exemple pour la mobilité et le transport aérien).

Il existe par ailleurs une sorte de permis à points, à base de notes, qui servent surtout à mettre en valeur des personnes ayant fait de bonnes actions dans leur domaine, et à stigmatiser publiquement des personnes qui ont été sanctionnées pour des manquements à la législation. En 2014, l'État central a publié un document, intitulé « programme pour l'établissement d'un système de crédit social », qui concrétisait ce projet. Il consistait à donner un mot d'ordre afin que toutes les administrations chinoises (ministères, provinces, municipalités) établissent, chacune pour son propre domaine de compétence, une stratégie pour la mise en place de ce type de dispositif. Nous avons ainsi assisté au développement très décentralisé d'un patchwork de dispositifs de crédit social.

Les grandes administrations ont plutôt opté pour des listes noires (mauvais payeurs en matière d'impôts, récidivistes en matière d'infractions contre la protection de l'environnement). Les municipalités, elles, mettent en place des barèmes pour attribuer des notes aux résidents. Nous sommes très loin d'un dispositif abouti et généralisé. Une grosse quarantaine de municipalités ont déjà mis en place leur dispositif (d'autres y travaillant encore), ainsi que quelques dizaines d'administrations. Une municipalité peut englober plusieurs dizaines de millions de personnes mais le dispositif n'est pas encore généralisé.

Les administrations n'utilisent pas les données des réseaux sociaux, contrairement à ce qu'on peut lire dans de nombreux comptes rendus. Elles utilisent les données dont elles disposent déjà au titre de leurs activités habituelles. En outre, il ne faut pas confondre ces dispositifs, qui relèvent de l'État, avec des innovations qui ont vu le jour par ailleurs en matière d'évaluation de crédit au sens financier. Il s'agit, dans ce second cas, de services commerciaux (par exemple le service Sesame Credit d'Alibaba) n'ayant aucun lien avec l'action des administrations. Par ailleurs il n'y a pas, à ma connaissance, de partage synchronisé des données des administrations entre elles, pas tellement de Big Data ni d'intelligence artificielle, si ce n'est de façon ponctuelle et très marginale.

Chaque administration produit ainsi une liste de noms qu'elle transmet, par des moyens assez rudimentaires, à des plateformes régionales et nationales chargées de les publier. Il ne s'agit que de listes de noms. Il ne s'agit pas de données relatives au comportement des personnes concernées. Au mieux, il existe des accords à l'échelle régionale entre des municipalités afin d'essayer de rendre compatibles leurs dispositifs. Même cette étape semble difficile à franchir, en partie pour des raisons techniques mais aussi, à mes yeux, pour des raisons politiques : on ne lâche pas aisément la main sur des données qui représentent un instrument de pouvoir.

Le système de crédit social fut, dans la lutte contre la pandémie, un instrument parmi de nombreux autres. Sa mise en place s'effectuant à une échelle locale, on a pu observer des choix divers dans les adaptations du système à la crise.

L'administration chargée de la régulation des marchés a, par exemple, adapté son système afin de pouvoir sanctionner ou mettre sur liste noire des entreprises qui auraient gonflé les prix de produits essentiels. L'administration nationale chargée de la propriété intellectuelle a inséré dans ses critères la vente de produits médicaux contrefaits. Les municipalités ont plutôt ajouté des critères tels que le fait de cacher ses symptômes, pour les personnes qui voulaient éviter une hospitalisation, ou le fait de ne pas porter de masque en public, alors que c'était obligatoire. Ce type d'information est collecté au quotidien, presque manuellement, par des employés municipaux qui vont les saisir dans des bases de données spécifiques.

Est-ce efficace, au-delà du Covid, d'une manière générale ? Il est difficile de le dire. Rares ont été les personnes mises sur liste noire. Nous avons des estimations assez vagues, selon lesquelles environ 1 % de la population des villes concernées aurait figuré dans une liste à un moment donné. Peu de gens sont, de fait, informés de la mise en place du système, malgré la propagande et les campagnes d'information qui ont été menées. De plus, il n'y a aucune donnée comparative permettant de savoir si la situation est meilleure avec ou sans ce dispositif de crédit social. Nous savons que des personnes entrent dans ces listes et que d'autres en sortent, en grand nombre, parce qu'elles ont régularisé leur situation. Les personnes qui sortent des listes ont-elles régularisé leur situation du fait du système de crédit social ou l'auraient-elles fait de toute façon ? Nous ne disposons d'aucune donnée - parmi les données accessibles publiquement - permettant de se prononcer sur ce point.

Au-delà de l'atteinte de ces objectifs, le système de crédit social peut soulever d'autres questions, sous le prisme de l'État de droit, y compris pour le gouvernement chinois. La première question porte sur la proportionnalité de la sanction au regard du délit. Pour une toute petite somme non remboursée, on peut se voir interdire de circuler ou perdre sa licence professionnelle. En outre, ces sanctions peuvent s'ajouter à des sanctions de droit commun. De plus en plus de voix s'élèvent en Chine pour estimer qu'il ne faut pas mélanger les systèmes et distinguer les critères retenus pour les systèmes de notation de ceux utilisés pour les sanctions.

Un problème d'égalité devant la loi se pose également. La décentralisation du dispositif engendre une grande hétérogénéité dans les critères et barèmes retenus. Ceux-ci sont élaborés par des bureaucrates qui appliquent des directives relativement vagues, venant d'en haut, dans une assez grande opacité. Cela leur permet d'adapter les mesures à la situation locale mais leur donne aussi un pouvoir unilatéral pour établir les normes à respecter. Une vraie tension se fait jour entre un État central qui utilise cet outil pour améliorer sa capacité à faire appliquer les règles et des autorités locales qui ont l'outil entre les mains et sont tentées d'insérer des critères de plus en plus variés à l'intérieur des barèmes. Des initiatives peuvent ainsi éclore localement, selon lesquelles on gagne des points si l'on donne son sang, tandis qu'on en perd lorsque l'on crache par terre dans la rue - acte qui est devenu une préoccupation à l'ère du Covid. Même l'État central a dû émettre des directives afin de recadrer ces initiatives et préciser que tous les barèmes devaient s'appuyer sur des règles de droit existantes.

Par ailleurs, les possibilités de recours sont assez limitées. Ce sont les mêmes institutions qui inscrivent des noms sur liste noire et doivent corriger leurs erreurs lorsqu'il y en a. A l'échelle locale, des fonctionnaires et dirigeants vont collecter des données nécessaires pour le calcul de la notation, mais ils peuvent aussi omettre de les collecter. Chacun voit le type de pouvoir placé entre les mains de ces personnes. Le dispositif crée ainsi de nouvelles possibilités de corruption, et peut déplacer le problème plutôt que de le résoudre.

Enfin, ce dispositif me semble traduire une sorte de fuite en avant répressive, dès lors que l'on confie à des barèmes le soin de signaler les personnes ne respectant pas bien les lois. Le fait de déléguer cette gestion à un dispositif que l'on suppose mécanique, même si je pense avoir montré qu'il ne l'est pas complètement, conduit à ignorer le contexte dans lequel les infractions ont été commises : la personne était-elle solvable ? Des problèmes médicaux ou familiaux sont-ils entrés en ligne de compte ? Le système postule la malhonnêteté comme cause principale des délits, ignorant tout le reste. Cette limite a d'ailleurs été clairement identifiée par les autorités durant la crise du Covid, qui ont suspendu des pans entiers du système de crédit social, affirmant que les entreprises n'auraient pas à subir de sanctions en cas de manquement directement lié à la crise.

On le voit aussi dans le recours à une propagande très moralisatrice. Le système permet d'écarter le débat sur les causes structurelles des infractions, depuis les problèmes sociaux jusqu'à la corruption. Cela est très dommageable car cela empêche de résoudre ces problèmes sur le long terme. Cela s'avère également assez nuisible à la cohésion sociale de manière plus générale.

Voici à présent quelques mots sur l'utilisation des codes couleurs dans le cadre de la crise du Covid. Ce dispositif est tout à fait distinct du système de crédit social. Je ne l'évoquerai pas en me référant à une expérience personnelle, puisque ni le système de crédit social ni les codes couleurs ne sont en application à Hong Kong, où je me trouve. Ce que j'en relate ici est tiré de la documentation disponible sur le sujet.

Les codes couleurs sont des applications disponibles sur Alipay et WeChat, que chacun, ou presque, a sur son téléphone en Chine. Il s'agit de micro-applications développées à une échelle locale, ce qui explique les systèmes assez différents mis en oeuvre à Pékin, à Shenzhen ou à Shanghai, avec une faible utilisation de ces dispositifs en milieu rural, d'après ce que j'ai pu voir jusqu'à maintenant. Généralement, on s'inscrit sur l'application disponible là où on habite. On est invité à y saisir un certain nombre d'informations, notamment sur son état de santé ou sur ses voyages récents. Selon les lieux, l'application peut collecter des données auprès de votre opérateur téléphonique pour retracer vos déplacements, ou issues de compagnies de train publiques. Au fil de vos activités dans la ville, vous allez scanner des codes qui enregistrent l'information liée à la fréquentation d'un lieu particulier. L'application vous dira ensuite, par un code couleur, que vous n'avez pas fréquenté de lieu à haut risque de contamination. La couleur affichée est alors le vert. Si un cas de Covid était détecté dans un des lieux que vous avez fréquentés, au sens large, vous recevrez peut-être un code orange qui vous invitera à réduire vos déplacements et pourra limiter votre accès à certains lieux publics. L'accès à un centre commercial pourra par exemple vous être interdit. Un code rouge est une injonction au confinement.

Ce n'est donc pas un système de traçage fin des contacts : l'application ne vous dira pas que vous êtes cas contact d'une personne ayant eu le Covid. Il s'agit d'un instrument un peu plus grossier, déterminant des groupes entiers de personnes qui auront à se confiner du jour au lendemain, sans qu'il y ait une grande visibilité sur les critères ayant conduit au changement de couleur. Par exemple, pendant assez longtemps, certaines personnes ne pouvaient se déplacer nulle part dans le pays car leur carte d'identité était enregistrée dans la province du Hubei, où se trouve la ville de Wuhan, sans pour autant y avoir séjourné.

Pour conclure, le système de crédit social, comme les codes couleurs, me semblent assez exemplaire des forces et faiblesses des instruments de gouvernance numérique. Ils peuvent remplir de bons et loyaux services - ce qui est souvent le cas - mais leur mise en place donne lieu à des choix et critères fortement politiques, qui doivent être discutés démocratiquement, faute de quoi ils ne peuvent être ni légitimes ni efficaces. Avec les codes couleurs, le type de restrictions que j'ai décrit serait probablement très difficile à justifier dans un contexte français par exemple.

Deuxièmement, la mise en place de ce type d'outil est toujours tributaire de tensions et de frictions au sein de l'appareil bureaucratique. J'ai évoqué les relations entre le centre et le niveau local. On peut également parler des relations entre différentes administrations thématiques. Ce n'est donc pas l'installation de l'outil numérique qui permet de résoudre ces tensions : c'est plutôt la négociation entre les parties prenantes qui apparaît comme une condition de réussite de la mise en place de l'outil.

Un aspect que j'ai peu évoqué apparaît assez nettement avec les codes couleurs, et plus encore avec d'autres dispositifs tels que ceux de la « ville intelligente » (smart city). La place du secteur privé est extrêmement importante dans la mise en place de tous ces dispositifs car c'est lui qui fournit les solutions techniques, le savoir-faire, la maintenance, l'hébergement des données, etc. Cela soulève de nombreuses questions en termes de tarification, d'indépendance de l'expertise mobilisée et de protection des données personnelles. Ce sont autant d'aspects qui exigeraient une expertise indépendante, de la transparence et du débat.

Bref, la nature du cadrage démocratique qui entoure tout dispositif technique me paraît déterminante : pour quoi faire ? Quels sont les critères à incorporer ? Qui va contrôler la mise en place du dispositif et son usage au quotidien ? Quelle transparence et quel débat public ? Comment se met-on d'accord sur les objectifs ? Il est essentiel d'inscrire les solutions techniques dans une vision plus générale adossée à des orientations jugées souhaitables pour la société.

Merci beaucoup, Madame Arsène, pour toutes ces informations. Vous avez compris l'intérêt que nous portons à ce sujet. Avant d'ouvrir le débat avec l'ensemble de nos collègues, je vais passer la parole à nos rapporteurs. J'aurai moi-même, avant cela, une question afin de bien comprendre vos propos. J'ai noté que le système mis en place ne l'était pas de façon généralisée dans l'ensemble de la Chine. Ce sont les municipalités qui déclinent le caractère opérationnel de ces programmes. Existe-t-il une volonté d'extension du système à l'ensemble du pays et existe-t-il des déclinaisons différentes entre les municipalités, de façon par exemple à ce que les territoires les plus impactés par la pandémie puissent agir différemment d'autres territoires ?

Merci, Madame, pour votre propos très intéressant, qui fait écho à un article paru dans un grand quotidien français, ce matin, posant la question « une stratégie zéro Covid est-elle possible en France ? ». Cet article s'intéresse justement aux mesures mises en place à l'étranger et à la réactivité dont certains pays ont fait preuve, en évitant des confinements stricts et en appliquant parfois des mesures régionalisées.

Quel est l'avis de la population chinoise sur ces outils, notamment le système de crédit social ? Existe-t-il une contestation publique en Chine ? Si c'est le cas, comment s'exprime-t-elle ? Peut-on refuser d'entrer dans le système de crédit social ? Existe-t-il un accord implicite nécessaire à la collecte des données ? Faut-il faire une démarche pour sortir de ce système ?

Existe-t-il en Chine un régime juridique de protection des données personnelles ? Quelles sont les données collectées, par qui, et comment le sont-elles ? Y a-t-il des limitations à la collecte des données de santé ou, dans un autre ordre d'idées, de celles liées à la religion ou à l'appartenance ethnique ? Une fois les données collectées, des fichiers doivent-ils être déclarés, et si oui, auprès de qui ? Y a-t-il des contrôles ? Existe-t-il une forme de droit à l'oubli, c'est-à-dire la possibilité de demander l'effacement des données collectées ? Pour prendre un exemple extrême, une personne pourrait-elle être interdite de faire quelque chose dans vingt ans pour avoir commis récemment une infraction à la loi, même relativement bénigne ?

Votre exposé était très intéressant, Madame, faisant directement écho à la réflexion que nous menons actuellement dans le cadre de la pandémie du Covid. Pourrait-on envisager un hybride des deux systèmes que vous avez décrits, c'est-à-dire un crédit sanitaire et non social ? Le dispositif pourrait alors être orienté vers le conseil plutôt que de reposer sur l'attribution de points. Je pense notamment au système de codes couleurs, qui pourrait être associé au dispositif de crédit. Dans le cadre de pandémies il pourrait être très intéressant d'identifier une sélection de personnes plus fragiles ou susceptibles de transmettre davantage la maladie, pour envisager un classement évitant des brassages inutiles, plutôt que de devoir décider du confinement strict de larges populations. C'est la raison pour laquelle les questions que Christine Lavarde a posées sont importantes. Il s'agit d'apprécier, en quelque sorte, le rapport bénéfices-risques d'un tel dispositif, comme on le fait pour l'évaluation de l'effet thérapeutique d'un médicament, afin de déterminer si un tel dispositif pourrait être transposable, en France, dans un contexte de crise sanitaire.

Merci, Madame, pour la qualité de votre présentation. Je ne vois pas de publication récente de votre part sur le sujet. Avez-vous une publication en cours ? Par ailleurs, travaillant de Hong Kong et parlant chinois, disposez-vous d'une vue complète sur les systèmes de surveillance personnelle que vous décrivez ? Vous n'avez pas évoqué le concept de fichiers de sécurité, que tous les États pratiquent. Savez-vous s'il existe des connexions possibles, pour ce qui relève des administrations chinoises, centrales ou municipales, entre certains de ces systèmes de classification des personnes et les fichiers touchant à la sécurité nationale ?

J'ai trouvé cette intervention extrêmement intéressante. Nous examinons ici le sujet au regard du contexte du Covid, notamment, en nous demandant ce qui serait applicable en Europe et en France en particulier. Mais, en pratique, nos deux systèmes ne sont-ils pas tellement différents ? Le système chinois laisse un peu de marge à l'activité privée et laisse la population s'enrichir mais sans toucher au système politique. Il en découle un contrôle total de la population.

En France, la liberté rend possible - pour le Covid comme pour tout autre sujet - un débat démocratique et la contestation critique. À travers le système de crédit social et les codes couleurs, le gouvernement chinois n'a-t-il pas en réalité trouvé un moyen d'utiliser l'activité privée pour la mise en place d'un dispositif de contrôle, sans laisser aucune marge de critique ni de contestation ? Je n'ose imaginer l'ampleur des contestations qu'un tel système soulèverait si l'on envisageait sa transposition en France. Dans le même temps, je suis admiratif, car la Chine, qui compte un milliard et demi d'habitants a beaucoup moins de cas de Covid que nous. Ce nombre est même proche de zéro, tandis que nous sommes encore loin de cette situation. Je rêverais d'une telle transposition, moi qui suis hypocondriaque. En revanche, je ne voudrais pas me sentir contrôlé tous les jours ni empêché d'exprimer mon éventuel désaccord. Ce système de contrôle n'est-il pas lié intrinsèquement à un système politique autoritaire qui interdit toute critique ?

J'ai également trouvé cet exposé très intéressant. Quel sentiment avez-vous, Madame Arsène, quant au niveau général de contrôle en Chine ? A-t-il augmenté à vos yeux ? Nous n'avons pas évoqué l'installation massive de caméras en Chine. On parle de 600 à 700 millions de caméras installées, dont certaines se trouvent sur des emprises privées.

Je suis très heureux car, avec cette audition, nous sommes dans le coeur du sujet de la prospective. Je partage l'avis de Roger Karoutchi, avec un point de vue parfaitement symétrique : je crois que nous rêvons encore notre liberté et notre démocratie. Il est très intéressant de voir la façon dont la Chine, qui compte une population infiniment plus nombreuse que celle des pays européens, s'attelle au traitement d'un virus bien plus important que le Covid, qui va nous submerger, à savoir l'anomie, c'est-à-dire l'absence de reconnaissance, par un être humain ou par une société, des règles et lois qu'il ou elle s'est fixées. Ce mouvement s'est amorcé en France. Nous avons vu les Gilets jaunes et assistons chaque jour à des manifestations de l'anomie en France.

Tout ceci va s'imposer chez nous, chers collègues, même si certains d'entre nous ne seront peut-être plus là, car il n'y aura pas d'autre moyen de gouverner le nombre. Quant à gérer la démocratie, chacun voit déjà les difficultés que nous rencontrons, alors que nous ne sommes que 67 millions. Les questions qui ont trait à la régulation et à la progressivité d'un tel dispositif me semblent particulièrement intéressantes. Comme vous l'avez dit, toute évocation d'un système analogue en France fait immédiatement surgir l'invocation de Big Brother, alors qu'il peut s'agir d'un dispositif intéressant. Quant aux codes couleurs, nous avons déjà commencé à en utiliser : nous avons sur nos voitures des autocollants de différentes couleurs en fonction de leur impact réel ou supposé sur le climat.

Notre collègue Olivier Jacquin, actuellement dans le train, me transmet la question suivante : « dans cette tension entre sécurité, liberté et dictature de l'algorithme, les citoyens ont-ils des dispositifs de recours aisés, en cas de contestation ? Qu'en penserait la Commission nationale de l'informatique et des libertés (CNIL) ? », demande-t-il également.

Merci pour toutes ces excellentes questions, auxquelles je pourrai difficilement répondre en quelques minutes.

Je commencerai par la toute dernière, qui est très factuelle. L'existence de possibilités de recours varie selon les lieux et les institutions. Comme chaque dispositif dépend d'une administration particulière, les formes de recours sont déterminées par la réglementation de cette institution particulière. Certaines ont publié des méthodes et formulaires à remplir, que les gens peuvent utiliser pour contester leur inscription sur liste noire. Dans d'autres cas, ce n'est pas encore le cas. Les autorités ont d'ailleurs publié des instructions affirmant la nécessaire existence de dispositifs de recours, ce qui montre que ceux-ci n'ont pas été mis en place d'emblée et que les autorités centrales jugent tout de même nécessaire cette possibilité. Si une personne n'est pas satisfaite ou si elle rencontre un blocage, il n'existe pas nécessairement une tierce partie pouvant intervenir. En l'absence de véritable séparation des pouvoirs, ce n'est donc pas une garantie absolue.

Y a-t-il une volonté d'élargir le dispositif existant ? Cette volonté existe. Pour autant, il est difficile de la concrétiser, notamment pour des raisons pratiques telles que l'interopérabilité des systèmes. En matière de crédit social, il paraît difficile de rapprocher toutes les bases de données existantes pour assurer cette interopérabilité.

Le système a été présenté d'emblée, dans les textes, comme un dispositif devant être mis en place à l'échelon local. Les autorités semblent cependant avoir l'ambition que les données de crédit social produites à l'échelon local soient rendues visibles et accessibles aux autres institutions. Si une personne déménage dans une autre province, les données collectées la concernant seraient ainsi transmises à sa nouvelle province. Ce principe fait clairement partie des objectifs. Mais à court terme, dans un horizon de quelques années, la création d'un dispositif comportant les mêmes critères pour tous, avec les mêmes formes de visibilité des données et de calcul, me paraît peu vraisemblable.

Il est difficile de mesurer l'adhésion à un tel dispositif d'une population n'ayant pas une liberté d'expression complète. Si vous interrogez les gens dans la rue en leur indiquant qu'il s'agit d'un dispositif voulu par le gouvernement, il y a de fortes chances que les personnes fassent part de leur enthousiasme. Cela dit, il ne faut pas présupposer une opposition de principe au sein de la population. Le système doit lutter contre des problèmes d'ordre public reconnus, sur lesquels il existe une forme de consensus. Quant à l'efficacité des réponses apportées par le dispositif, il faut rappeler qu'une part importante de la population ne sait même pas que ce système existe. Les informations collectées sont souvent parcellaires et anecdotiques. Certaines personnes se sont retrouvées prises dans des imbroglios juridico-bureaucratiques complexes, sans parvenir à obtenir le retrait de leur nom d'une liste noire, et sont alors très mécontentes.

Pour le reste, l'expression d'oppositions franches est rare. Parmi les personnes qui s'expriment dans la presse, beaucoup disent plutôt « pourquoi pas », si le dispositif permet d'améliorer la situation. Des intellectuels se sont exprimés sur la question, y compris dans des journaux officiels, ce qui indique qu'une réflexion se développe au sein de l'appareil d'État. Selon ces opinions, il faut garder le contrôle sur les critères retenus et maintenir ces dispositifs dans un périmètre circonscrit. Les points de vue assez critiques abordent la question de façon constructive, à travers des propositions visant à rendre le dispositif moins liberticide et moins arbitraire. Des évolutions se dessinent au fil des tensions et frictions qui se font jour entre les administrations centrales et locales, ce qui pourrait favoriser une forme d'harmonisation des pratiques.

N'étant pas juriste, mes connaissances sur le régime de protection des données personnelles sont assez superficielles. De ce que je sais, ce régime est parcellaire et éclaté entre des régimes juridiques séparés par thématiques. Il existe quelques éléments sur la protection des données au titre de la protection du consommateur. D'autres textes portent sur la protection de la propriété intellectuelle. Enfin, un paragraphe important a été introduit, sur la protection des données personnelles, dans le cadre de la loi sur la cybersécurité, adoptée en 2017. Il vient consolider certains grands principes qui rejoignent pour partie des principes validés au plan international, notamment dans des textes de l'OCDE : principe de consentement, correspondance entre les données collectées et les objectifs poursuivis par le service fourni, possibilité de faire corriger ou effacer des données, etc.

En ce moment est discutée une loi sur la sécurité des données. Une première version en a été publiée il y a quelques semaines pour commentaires publics. Je crois qu'un autre volet du texte, portant sur la protection des données personnelles, doit être rendu public très prochainement. La question figure donc bien à l'agenda des autorités chinoises. Compte tenu des enjeux désormais associés aux données, au plan de la sécurité nationale, sur le plan commercial et en termes d'enjeux de gouvernance, le gouvernement juge nécessaire de légiférer sur la question. Les protections prévues dans ces textes visent essentiellement le secteur privé. L'accès des autorités publiques, notamment la police, aux données personnelles reste peu régulé et relativement peu encadré.

Il n'existe pas de droit à l'oubli d'une manière générale. Dans le cadre du crédit social, la plupart des dispositifs municipaux ou sectoriels prévoient une limitation de la durée pendant laquelle un nom peut rester inscrit sur une liste noire (un an, trois ans, etc.), avec une durée variable en fonction de la gravité des infractions commises. Chaque institution va donc instaurer une forme de droit à l'oubli en fonction de ses propres arbitrages.

Il existe en principe des limitations quant à certaines données sensibles, qui dépendent de la réglementation spécifique à tel ou tel secteur, par exemple dans le domaine de la santé.

Quels sont mes travaux ? J'ai notamment publié en octobre 2019 une note de l'IFRI en anglais, librement accessible sur le site de l'IFRI. J'ai rédigé un article qui doit paraître le mois prochain dans la revue Réseaux, sous un angle plus universitaire, dans le cadre d'un dossier que je coordonne avec Clément Mabi concernant l'utilisation du numérique dans la gouvernance. Ce dossier comportera de nombreuses études de cas sur la France mais aussi une étude de cas sur la Chine, en particulier sur le système de crédit social. Cet article est passé par le processus de revue par les pairs (peer review). J'ai par ailleurs rédigé un chapitre d'un ouvrage sur la Chine, coordonné par Anne Cheng, à paraître dans les prochaines semaines.

Les autorités chinoises communiquent énormément sur le système de crédit social. C'est un dispositif dont elles sont fières, qui donne lieu à une production assez gigantesque. Sur internet on trouve plusieurs sites officiels, à commencer par le site principal officiel ( www.creditchina.gov.cn), qui regroupe des centaines de pages de textes de réglementation mais aussi des rubriques intéressantes dont, par exemple, des articles de presse relatant des histoires, qui me semblent un peu romancées, de personnes concernées par le système de crédit social.

Ce site est répliqué à l'échelle provinciale. Chaque province dispose ainsi de son propre site de crédit social. Il n'y a aucun lieu où l'on trouve l'ensemble de la réglementation, organisée par rubrique, ce qui oblige à aller piocher dans différentes sources. De très nombreux articles de presse sont parus sur le crédit social : les journalistes se rendent dans des municipalités et décrivent la façon dont les choses se passent sur le terrain. Des articles académiques paraissent également, avec différents angles d'approche théorique.

La Chine est aussi un pays où existe une censure assez efficace - autant qu'une censure puisse être efficace. Par conséquent, si vous ne travaillez que sur des sources ouvertes, encadrées par les autorités publiques, peut-être y a-t-il des données que vous êtes obligée de rechercher par ailleurs.

Absolument. C'est la raison pour laquelle il est intéressant de croiser nos informations avec le travail des journalistes, qui sont souvent des journalistes étrangers. Foreign Affairs avait par exemple réalisé un superbe reportage sur l'une des villes pilotes, Rongcheng. C'est une petite municipalité qui avait mis sur pied un système de notation assez abouti. Au cours des premières années tout particulièrement, certaines municipalités étaient très fières d'avoir mis en place leur propre dispositif et conviaient les journalistes étrangers pour leur montrer comment cela fonctionnait. Les journalistes font ensuite leur travail et ont pour responsabilité de recouper leurs informations en fonction des portes qu'on leur ouvre et de celles qui restent closes. Nous sommes tous confrontés à cette limite. Il est vrai que nous manquons de témoignages de terrain. Nous regardons ce qui passe sur les réseaux sociaux. Ceux-ci sont également soumis à la censure mais il y a toujours des interstices dans lesquels quelques opinions plus critiques parviennent à s'exprimer. Néanmoins, comme je l'ai indiqué, nous ne sommes pas dans une situation permettant d'affirmer avec confiance que les citoyens sont satisfaits ou non de l'existence de ce système.

À ma connaissance, il n'y a pas nécessairement de transfert direct d'informations entre le système de crédit social et les fichiers de sécurité. Les administrations, dans ces deux domaines, ne relèvent pas de la même hiérarchie bureaucratique et sont gérées par des organisations tout à fait distinctes. Un fonctionnaire de police aura-t-il la possibilité de frapper à la porte des administrations gérant le crédit social, pour consulter toutes les données dont elles disposent concernant telle ou telle personne ? Cette possibilité existe sans doute, auquel cas la recherche s'effectuera probablement de façon plutôt « manuelle ». Le système de crédit social est très présent dans la presse mais ce n'est qu'un minuscule volet de toutes les initiatives que la Chine a mises en place en mobilisant les instruments numériques.

Je pourrais en citer de multiples exemples, en fonction des différents objectifs de politique publique. Une vaste initiative de numérisation des données de santé a par exemple été lancée, afin d'améliorer le travail des hôpitaux. La semaine dernière a été mise en place une base de données des jugements rendus, qui formera une source précieuse d'informations pour les juristes. La surveillance est effectuée par différentes branches au sein des forces de police. Des sociétés privées y concourent, comme vous l'avez souligné, notamment à travers l'installation de caméras, auxquelles les services de sécurité publique peuvent avoir accès.

Nous avons ainsi un kaléidoscope d'instruments, notamment ces innombrables caméras, qui représentent un outil puissant de surveillance de la population. J'ai entendu des témoignages de personnes ayant visité les entreprises qui fournissent ces solutions. Lorsque les visiteurs entrent dans les locaux de l'entreprise, l'équipe d'accueil est très fière de leur montrer qu'elle est en mesure de retracer leur trajet depuis la sortie du métro jusqu'au franchissement du seuil de leurs locaux. Il existe néanmoins une part de communication dans cet étalage de savoir-faire.

Il y a également des disparités entre les régions, en particulier entre les zones rurales et les zones urbaines. Certains types de population sont particulièrement ciblés. La situation est donc difficile à appréhender avec une vue d'ensemble. Il faut l'analyser sous différents angles pour essayer d'obtenir des informations plus précises. La question du partage des données entre les différentes bureaucraties est en tout cas loin d'être facile à régler pour les autorités chinoises, même si elles ont l'espoir de faire advenir une circulation parfaite de l'information entre elles. Ce n'est pas aussi simple que cela dans la pratique.

Quant au niveau général de contrôle, celui-ci a effectivement augmenté au cours de la dernière décennie. Les années 2000 ont été marquées par l'arrivée d'internet dans la société chinoise. C'est le moment où j'ai commencé à m'intéresser au sujet. Un certain optimisme a déferlé parmi les observateurs de la Chine, car on voyait la société civile se saisir de ces instruments et surgir de nombreuses initiatives pour défendre les droits des citoyens, améliorer le service rendu dans les ruralités, etc. La décennie suivante, à partir de 2010, a plutôt été marquée par une forme de reprise en main par les autorités de toutes ces initiatives de la société civile et par un accroissement des capacités de contrôle.

Sur la question de la possibilité d'envisager des systèmes de notation uniquement dédiés aux questions de santé, on trouve des exemples assez intéressants en Chine. C'est le cas par exemple dans la municipalité de Hangzhou, ville où se trouve la maison mère d'Alibaba, très avancée sur le plan de l'utilisation des technologies et du numérique. Alibaba a proposé d'instaurer dans cette ville un système de codes en matière sanitaire, un peu sur le modèle que vous décrivez, de façon à donner des conseils et encouragements à la population - en utilisant le principe du nudge - pour leurs pratiques de vie quotidienne en matière de santé. Le projet a dû être suspendu car la population a très mal réagi. Les gens étaient inquiets, craignant un glissement vers l'inclusion de critères de plus en plus larges. Les réticences ont été telles, notamment sur les réseaux sociaux, que les autorités ont dû suspendre sa mise en place. Il existe d'autres cas comparables de dispositifs de crédit social qui ont dû être interrompus. Par exemple, à Suzhou, un système de respect du code de la route a suscité de fortes préoccupations parmi les résidents de la ville, en particulier là aussi par crainte d'un élargissement progressif du dispositif, et les autorités ont dû reculer. Il est vrai que, de façon assez générale, une fois l'outil existant, on observe une volonté des promoteurs du projet d'élargir ses usages.

Est-ce que la logique qui sous-tend ces dispositifs serait compatible avec le système politique français ? Ou bien faut-il réfléchir à la façon de ramener nos populations vers des formes de moralité consciente ? J'ai trouvé intéressant l'emploi du terme d'anomie, car le système de crédit social s'adosse effectivement à une communication mettant en avant un problème de moralité au sein de la société chinoise. Selon ce constat, les gens ne penseraient qu'à leur intérêt personnel.

Deux grandes voies peuvent être prises. La première est celle qu'a empruntée la Chine avec le système du crédit social, c'est-à-dire en utilisant le mécanisme de la carotte et du bâton. Le système de crédit social ne s'appuie pas, malgré toute la communication déployée, sur la moralité des individus mais sur le calcul froid de leurs intérêts, compte tenu de la note qu'ils vont obtenir. Le système instrumentalise donc l'anomie pour obtenir un changement de comportement des individus. Est-ce le type de système que nous souhaitons mobiliser en France ?

L'autre direction, celle de la démocratie, n'a jamais été une voie facile mais me paraît plus optimiste et plus intéressante. Elle vise à recréer une légitimité et de l'adhésion au sein d'une population. Ce n'est pas facile, car il faut convaincre et travailler sur le long terme. De ce point de vue, nous avons perdu quelques décennies mais il n'est jamais trop tard. Il faut communiquer, être transparent et mériter la confiance des citoyens. Ce sont des éléments qui me paraissent extrêmement importants. On peut évoquer l'exemple de Taïwan. Certes, Taïwan, à l'image de la Nouvelle-Zélande, est une île. Néanmoins, au-delà de la fermeture des frontières qui a beaucoup aidé dans le contexte du Covid, les autorités taïwanaises se sont aussi appuyées sur la société civile. Cela me paraît un aspect déterminant et incontournable. Pour créer la confiance et mieux informer la population, il faut s'appuyer sur la société civile et faire en sorte de disposer, à long terme, d'une société civile vivante, avec des points-relais. C'est extrêmement précieux pour relayer l'information mais cela peut l'être aussi sur le plan logistique, avec des relais locaux qui connaissent les populations et peuvent aider par exemple à livrer des panier-repas dans la perspective d'un confinement.

Nous avons parlé de l'utilisation du crédit social, des codes couleurs et des mesures de confinement extrêmement strictes - qui ont été très douloureuses pour de nombreuses personnes en Chine. Mais un autre levier crucial et très efficace a résidé dans l'existence de réseaux locaux de volontaires qui ont aidé les personnes, localement, à surmonter les difficultés liées au confinement.

Partout où les choses ont fonctionné, du moins avec mon regard de politologue ou de sociologue, et non d'épidémiologiste, il existait un tissu social solide et une société civile vibrante. Cela suppose de travailler, dans une optique de long terme, à des mesures d'égalité, d'insertion sociale ou en faveur des associations. Ce sont autant de facteurs de résilience en cas de crise majeure, sanitaire ou politique.

Merci beaucoup, Madame Arsène, d'avoir accepté cette audition à laquelle vous avez participé depuis Hong Kong. Merci pour l'exhaustivité de vos réponses, et merci également à nos collègues. C'est un sujet que nous continuerons d'explorer dans le cadre du rapport qui est en préparation.

La réunion est close à 9 h 50.