Amendement N° 133 (Adopté)

L’article 14 du projet de loi est relatif aux décisions prises sur le fondement d'algorithmes. Il a fait l’objet d’une nouvelle rédaction globale par la commission des lois qui a défini un principe général, accompagné des garanties nécessaires et apporté un certain nombre de clarifications.

Désormais, cet article prévoit qu’aucune décision produisant des effets juridiques à l'égard d'une personne ou l'affectant de manière significative ne peut être prise sur le seul fondement d'un traitement automatisé de données à caractère personnel, y compris le profilage.

A cette règle d’application générale, l’article 14 introduit trois exceptions. Outre les dérogations inscrites dans le règlement auxquelles des garde-fous ont été ajoutés, il autorise les décisions administratives individuelles reposant sur une base juridique explicite et exhaustive dont sont exclus les traitements portant sur des données sensibles. Il sera donc interdit de prendre une décision sur le seul fondement d'un algorithme « auto-apprenant ».

La troisième dérogation vise les actes pris par l'administration dans l'exercice de ses pouvoirs de contrôle ou d'enquête. Cette dernière exception retenue pour les seuls besoins de l’administration fiscale soulève une interrogation de principe. Elle revient à instaurer une forme de justice automatisée et prédictive alors que les contrôles et enquêtes exigent nécessairement une intervention humaine et qu’il apparaît évident de laisser à l'autorité administrative une latitude d'appréciation dans l’exercice de ses missions.