Intervention de Esther Benbassa

Nous le savons, les « boîtes noires » algorithmiques examinent, de manière indifférenciée, toutes les données gérées par les réseaux, y compris des données à caractère personnel.

La CNIL le rappelle, une telle technique porte une atteinte particulièrement forte à la vie privée des individus et au droit à la protection des données à caractère personnel. Elle dénonce le caractère généralisé, à l’ensemble de la population, de cette pratique.

Par ailleurs, de tels dispositifs sont techniquement faillibles ; en outre, les biais de conception des algorithmes ont des effets pervers relevés par les experts et bien documentés.

Enfin, en l’état, l’étude d’impact ne permet pas de conclure à la nécessité de pérenniser le dispositif – le Conseil d’État le relève également –, car elle comporte très peu d’indications sur la mesure de l’efficacité opérationnelle de la technique couverte par le secret de la défense nationale.

Dès lors, il est à craindre que le secret de la défense nationale ne soit invoqué pour écarter toute évaluation sérieuse du dispositif, laquelle risquerait d’invalider la pertinence des algorithmes.

Aussi le groupe Écologiste – Solidarité et Territoires demande-t-il, au travers du présent amendement, la suppression de cet article ; une telle surveillance est, par sa simple existence, préjudiciable à la liberté d’information et d’expression.

Les journalistes et les chercheurs pourraient être les premiers à modifier leur mode de travail, afin de ne pas faire l’objet d’une surveillance. Compte tenu des risques que ces mesures font peser sur les libertés fondamentales et en l’absence de toute démonstration de leur efficacité et de leur proportionnalité, nous nous opposons à leur maintien.