Intervention de Séverine Arsène

Merci de votre invitation. Je suis très heureuse d'être parmi vous virtuellement aujourd'hui. C'est toujours un plaisir d'échanger sur ces sujets qui nous tiennent à coeur et d'avoir l'occasion d'en discuter de façon plus approfondie.

Je voudrais souligner, d'une manière générale, à quel point le gouvernement chinois a misé sur le numérique, ces trente dernières années, pour réaliser son objectif de modernisation et redéfinir les relations entre l'État et la société. Depuis les années 1980 (l'époque des autoroutes de l'information), les dirigeants chinois ont bien vu que, s'ils voulaient que la Chine revienne sur la scène internationale en tant que grande puissance, elle devait prendre ce tournant.

Ainsi, de fait, l'informatisation a été utilisée comme une réponse aux nombreux défis auxquels faisait face la Chine, tant pour rendre l'État plus efficace que pour donner au secteur privé des outils pour se développer, offrir à la population des plateformes d'expression mais aussi - le gouvernement ayant explicitement exclu la question d'un changement de politique - comme instrument de contrôle social. Toutes ces dimensions se trouvent conjuguées à l'intérieur de chaque dispositif numérique.

Parmi de très nombreux dispositifs numériques mis en place par le gouvernement chinois, j'évoquerai ici principalement le système de crédit social, qui constitue paradoxalement celui qui mobilise peut-être le moins les possibilités du numérique, par comparaison avec d'autres dispositifs tels que la ville intelligente ou la vidéosurveillance.

Le dispositif de crédit social répond à un problème persistant dans la Chine d'aujourd'hui, la difficulté constante à faire respecter les lois et règlements. Il s'agit d'un problème d'ordre public assez sérieux, vu comme ralentissant le développement de l'activité économique. L'idée générale, qui a émergé progressivement au cours des années 2000, puis 2010, a été de se doter d'un système pouvant articuler de manière assez fine des incitations et des sanctions dans la vie quotidienne des individus et des entreprises. Comme nous allons le voir, le passage de l'idée à la réalisation présente toujours quelques complications.

Globalement, le système se focalise beaucoup sur la question des dettes non payées, qui minent les échanges économiques au sein de la société. La Chine peinant à développer, encore aujourd'hui, un système bancaire recouvrant l'ensemble de la population et en l'absence d'un système abouti de banqueroute, il y a peu d'instruments permettant de déterminer la solvabilité des acteurs économiques. Décourager les impayés et en garder une trace constitue donc un objectif important. De ce point de vue, la Banque de Chine a aussi lancé des initiatives afin de pouvoir construire des historiques de crédit. Parallèlement, le système de crédit social a également un rôle à jouer.

Par extension, le système de crédit social a aussi été conçu pour traiter des infractions à la réglementation dans différents secteurs économiques, par exemple en matière d'hygiène et de sécurité alimentaire, de protection de l'environnement ou en cas de non-paiement des salaires dans différentes industries. Dès le départ, des questions importantes liées à la santé publique ont été incluses dans le modèle, par exemple la tarification abusive des médicaments ou la corruption dans le secteur hospitalier. Lors de la survenue de la crise du Covid-19, ces aspects ont été renforcés et élargis.

L'idée du crédit social, dans son ensemble, consiste à trouver des leviers supplémentaires pour faire cesser la récidive, dans le cas d'entreprises ou d'individus qui seraient condamnés pour ce type d'infraction mais n'obtempèrent pas. Ces sanctions vont s'ajouter à des condamnations déjà existantes à travers le système administratif ou judiciaire.

Il existe deux grands types de dispositif. Il y a d'abord des listes noires, qui fonctionnent un peu comme des listes d'interdit bancaire ou des casiers judiciaires, interdisant l'accès, pour les personnes qui y figurent, à certains types d'emplois, certaines sources de financement ou imposant des restrictions à leur consommation (par exemple pour la mobilité et le transport aérien).

Il existe par ailleurs une sorte de permis à points, à base de notes, qui servent surtout à mettre en valeur des personnes ayant fait de bonnes actions dans leur domaine, et à stigmatiser publiquement des personnes qui ont été sanctionnées pour des manquements à la législation. En 2014, l'État central a publié un document, intitulé « programme pour l'établissement d'un système de crédit social », qui concrétisait ce projet. Il consistait à donner un mot d'ordre afin que toutes les administrations chinoises (ministères, provinces, municipalités) établissent, chacune pour son propre domaine de compétence, une stratégie pour la mise en place de ce type de dispositif. Nous avons ainsi assisté au développement très décentralisé d'un patchwork de dispositifs de crédit social.

Les grandes administrations ont plutôt opté pour des listes noires (mauvais payeurs en matière d'impôts, récidivistes en matière d'infractions contre la protection de l'environnement). Les municipalités, elles, mettent en place des barèmes pour attribuer des notes aux résidents. Nous sommes très loin d'un dispositif abouti et généralisé. Une grosse quarantaine de municipalités ont déjà mis en place leur dispositif (d'autres y travaillant encore), ainsi que quelques dizaines d'administrations. Une municipalité peut englober plusieurs dizaines de millions de personnes mais le dispositif n'est pas encore généralisé.

Les administrations n'utilisent pas les données des réseaux sociaux, contrairement à ce qu'on peut lire dans de nombreux comptes rendus. Elles utilisent les données dont elles disposent déjà au titre de leurs activités habituelles. En outre, il ne faut pas confondre ces dispositifs, qui relèvent de l'État, avec des innovations qui ont vu le jour par ailleurs en matière d'évaluation de crédit au sens financier. Il s'agit, dans ce second cas, de services commerciaux (par exemple le service Sesame Credit d'Alibaba) n'ayant aucun lien avec l'action des administrations. Par ailleurs il n'y a pas, à ma connaissance, de partage synchronisé des données des administrations entre elles, pas tellement de Big Data ni d'intelligence artificielle, si ce n'est de façon ponctuelle et très marginale.

Chaque administration produit ainsi une liste de noms qu'elle transmet, par des moyens assez rudimentaires, à des plateformes régionales et nationales chargées de les publier. Il ne s'agit que de listes de noms. Il ne s'agit pas de données relatives au comportement des personnes concernées. Au mieux, il existe des accords à l'échelle régionale entre des municipalités afin d'essayer de rendre compatibles leurs dispositifs. Même cette étape semble difficile à franchir, en partie pour des raisons techniques mais aussi, à mes yeux, pour des raisons politiques : on ne lâche pas aisément la main sur des données qui représentent un instrument de pouvoir.

Le système de crédit social fut, dans la lutte contre la pandémie, un instrument parmi de nombreux autres. Sa mise en place s'effectuant à une échelle locale, on a pu observer des choix divers dans les adaptations du système à la crise.

L'administration chargée de la régulation des marchés a, par exemple, adapté son système afin de pouvoir sanctionner ou mettre sur liste noire des entreprises qui auraient gonflé les prix de produits essentiels. L'administration nationale chargée de la propriété intellectuelle a inséré dans ses critères la vente de produits médicaux contrefaits. Les municipalités ont plutôt ajouté des critères tels que le fait de cacher ses symptômes, pour les personnes qui voulaient éviter une hospitalisation, ou le fait de ne pas porter de masque en public, alors que c'était obligatoire. Ce type d'information est collecté au quotidien, presque manuellement, par des employés municipaux qui vont les saisir dans des bases de données spécifiques.

Est-ce efficace, au-delà du Covid, d'une manière générale ? Il est difficile de le dire. Rares ont été les personnes mises sur liste noire. Nous avons des estimations assez vagues, selon lesquelles environ 1 % de la population des villes concernées aurait figuré dans une liste à un moment donné. Peu de gens sont, de fait, informés de la mise en place du système, malgré la propagande et les campagnes d'information qui ont été menées. De plus, il n'y a aucune donnée comparative permettant de savoir si la situation est meilleure avec ou sans ce dispositif de crédit social. Nous savons que des personnes entrent dans ces listes et que d'autres en sortent, en grand nombre, parce qu'elles ont régularisé leur situation. Les personnes qui sortent des listes ont-elles régularisé leur situation du fait du système de crédit social ou l'auraient-elles fait de toute façon ? Nous ne disposons d'aucune donnée - parmi les données accessibles publiquement - permettant de se prononcer sur ce point.

Au-delà de l'atteinte de ces objectifs, le système de crédit social peut soulever d'autres questions, sous le prisme de l'État de droit, y compris pour le gouvernement chinois. La première question porte sur la proportionnalité de la sanction au regard du délit. Pour une toute petite somme non remboursée, on peut se voir interdire de circuler ou perdre sa licence professionnelle. En outre, ces sanctions peuvent s'ajouter à des sanctions de droit commun. De plus en plus de voix s'élèvent en Chine pour estimer qu'il ne faut pas mélanger les systèmes et distinguer les critères retenus pour les systèmes de notation de ceux utilisés pour les sanctions.

Un problème d'égalité devant la loi se pose également. La décentralisation du dispositif engendre une grande hétérogénéité dans les critères et barèmes retenus. Ceux-ci sont élaborés par des bureaucrates qui appliquent des directives relativement vagues, venant d'en haut, dans une assez grande opacité. Cela leur permet d'adapter les mesures à la situation locale mais leur donne aussi un pouvoir unilatéral pour établir les normes à respecter. Une vraie tension se fait jour entre un État central qui utilise cet outil pour améliorer sa capacité à faire appliquer les règles et des autorités locales qui ont l'outil entre les mains et sont tentées d'insérer des critères de plus en plus variés à l'intérieur des barèmes. Des initiatives peuvent ainsi éclore localement, selon lesquelles on gagne des points si l'on donne son sang, tandis qu'on en perd lorsque l'on crache par terre dans la rue - acte qui est devenu une préoccupation à l'ère du Covid. Même l'État central a dû émettre des directives afin de recadrer ces initiatives et préciser que tous les barèmes devaient s'appuyer sur des règles de droit existantes.

Par ailleurs, les possibilités de recours sont assez limitées. Ce sont les mêmes institutions qui inscrivent des noms sur liste noire et doivent corriger leurs erreurs lorsqu'il y en a. A l'échelle locale, des fonctionnaires et dirigeants vont collecter des données nécessaires pour le calcul de la notation, mais ils peuvent aussi omettre de les collecter. Chacun voit le type de pouvoir placé entre les mains de ces personnes. Le dispositif crée ainsi de nouvelles possibilités de corruption, et peut déplacer le problème plutôt que de le résoudre.

Enfin, ce dispositif me semble traduire une sorte de fuite en avant répressive, dès lors que l'on confie à des barèmes le soin de signaler les personnes ne respectant pas bien les lois. Le fait de déléguer cette gestion à un dispositif que l'on suppose mécanique, même si je pense avoir montré qu'il ne l'est pas complètement, conduit à ignorer le contexte dans lequel les infractions ont été commises : la personne était-elle solvable ? Des problèmes médicaux ou familiaux sont-ils entrés en ligne de compte ? Le système postule la malhonnêteté comme cause principale des délits, ignorant tout le reste. Cette limite a d'ailleurs été clairement identifiée par les autorités durant la crise du Covid, qui ont suspendu des pans entiers du système de crédit social, affirmant que les entreprises n'auraient pas à subir de sanctions en cas de manquement directement lié à la crise.

On le voit aussi dans le recours à une propagande très moralisatrice. Le système permet d'écarter le débat sur les causes structurelles des infractions, depuis les problèmes sociaux jusqu'à la corruption. Cela est très dommageable car cela empêche de résoudre ces problèmes sur le long terme. Cela s'avère également assez nuisible à la cohésion sociale de manière plus générale.

Voici à présent quelques mots sur l'utilisation des codes couleurs dans le cadre de la crise du Covid. Ce dispositif est tout à fait distinct du système de crédit social. Je ne l'évoquerai pas en me référant à une expérience personnelle, puisque ni le système de crédit social ni les codes couleurs ne sont en application à Hong Kong, où je me trouve. Ce que j'en relate ici est tiré de la documentation disponible sur le sujet.

Les codes couleurs sont des applications disponibles sur Alipay et WeChat, que chacun, ou presque, a sur son téléphone en Chine. Il s'agit de micro-applications développées à une échelle locale, ce qui explique les systèmes assez différents mis en oeuvre à Pékin, à Shenzhen ou à Shanghai, avec une faible utilisation de ces dispositifs en milieu rural, d'après ce que j'ai pu voir jusqu'à maintenant. Généralement, on s'inscrit sur l'application disponible là où on habite. On est invité à y saisir un certain nombre d'informations, notamment sur son état de santé ou sur ses voyages récents. Selon les lieux, l'application peut collecter des données auprès de votre opérateur téléphonique pour retracer vos déplacements, ou issues de compagnies de train publiques. Au fil de vos activités dans la ville, vous allez scanner des codes qui enregistrent l'information liée à la fréquentation d'un lieu particulier. L'application vous dira ensuite, par un code couleur, que vous n'avez pas fréquenté de lieu à haut risque de contamination. La couleur affichée est alors le vert. Si un cas de Covid était détecté dans un des lieux que vous avez fréquentés, au sens large, vous recevrez peut-être un code orange qui vous invitera à réduire vos déplacements et pourra limiter votre accès à certains lieux publics. L'accès à un centre commercial pourra par exemple vous être interdit. Un code rouge est une injonction au confinement.

Ce n'est donc pas un système de traçage fin des contacts : l'application ne vous dira pas que vous êtes cas contact d'une personne ayant eu le Covid. Il s'agit d'un instrument un peu plus grossier, déterminant des groupes entiers de personnes qui auront à se confiner du jour au lendemain, sans qu'il y ait une grande visibilité sur les critères ayant conduit au changement de couleur. Par exemple, pendant assez longtemps, certaines personnes ne pouvaient se déplacer nulle part dans le pays car leur carte d'identité était enregistrée dans la province du Hubei, où se trouve la ville de Wuhan, sans pour autant y avoir séjourné.

Pour conclure, le système de crédit social, comme les codes couleurs, me semblent assez exemplaire des forces et faiblesses des instruments de gouvernance numérique. Ils peuvent remplir de bons et loyaux services - ce qui est souvent le cas - mais leur mise en place donne lieu à des choix et critères fortement politiques, qui doivent être discutés démocratiquement, faute de quoi ils ne peuvent être ni légitimes ni efficaces. Avec les codes couleurs, le type de restrictions que j'ai décrit serait probablement très difficile à justifier dans un contexte français par exemple.

Deuxièmement, la mise en place de ce type d'outil est toujours tributaire de tensions et de frictions au sein de l'appareil bureaucratique. J'ai évoqué les relations entre le centre et le niveau local. On peut également parler des relations entre différentes administrations thématiques. Ce n'est donc pas l'installation de l'outil numérique qui permet de résoudre ces tensions : c'est plutôt la négociation entre les parties prenantes qui apparaît comme une condition de réussite de la mise en place de l'outil.

Un aspect que j'ai peu évoqué apparaît assez nettement avec les codes couleurs, et plus encore avec d'autres dispositifs tels que ceux de la « ville intelligente » (smart city). La place du secteur privé est extrêmement importante dans la mise en place de tous ces dispositifs car c'est lui qui fournit les solutions techniques, le savoir-faire, la maintenance, l'hébergement des données, etc. Cela soulève de nombreuses questions en termes de tarification, d'indépendance de l'expertise mobilisée et de protection des données personnelles. Ce sont autant d'aspects qui exigeraient une expertise indépendante, de la transparence et du débat.

Bref, la nature du cadrage démocratique qui entoure tout dispositif technique me paraît déterminante : pour quoi faire ? Quels sont les critères à incorporer ? Qui va contrôler la mise en place du dispositif et son usage au quotidien ? Quelle transparence et quel débat public ? Comment se met-on d'accord sur les objectifs ? Il est essentiel d'inscrire les solutions techniques dans une vision plus générale adossée à des orientations jugées souhaitables pour la société.