Intervention de Alain Milon

Je remercie notre collègue Ouzoulias.

Toutes les obligations liées à la conception d’un traitement algorithmique utilisé à des fins médicales sont édictées par la réglementation européenne, et plus particulièrement par le règlement européen 2017/745 relatif aux dispositifs médicaux, applicable en mai 2021.

Prévoir au niveau national des dispositions spécifiques liées à la traçabilité par le fabricant des actions d’un traitement algorithmique et des données ayant été utilisées par celui-ci, et les informations qui en résultent, viendrait se superposer au cadre européen harmonisé, voire l’outrepasserait.

Par ailleurs, comme nous le savons tous, y compris le rapporteur, il n’est pas possible techniquement que le fabricant garde lui-même la traçabilité de tous les traitements réalisés par les professionnels de santé avec son algorithme. En outre, cela pose des questions de protection des données de santé.

Le même règlement européen 2017/745 prévoit déjà des dispositions propres à la transparence du fonctionnement des dispositifs médicaux intégrant des algorithmes d’intelligence artificielle, au travers notamment de la gestion des risques et de l’aptitude à les utiliser des professionnels de santé auxquels ces algorithmes sont destinés.

Conformément à l’exposé des motifs du projet de loi, le présent amendement vise à rappeler l’étape de garantie humaine, qui est par ailleurs prévue dans le cadre de la mise sur le marché de ces traitements algorithmiques.