Intervention de Cédric O

Monsieur Montaugé, la question que vous soulevez est au fond la suivante : grâce à cette proposition de loi, le CSA pourra-t-il avoir accès à l’ensemble des éléments lui permettant de juger ce que font les plateformes s’agissant des contenus haineux ? La réponse est : oui, le CSA pourra aller jusqu’à tester les algorithmes et demander aux grandes plateformes un certain nombre de précisions sur la diffusion de contenus haineux. Votre amendement me paraît donc satisfait de ce point de vue, monsieur le sénateur.

Cela étant, je l’ai dit, votre amendement pose un problème, au-delà de la question des contenus haineux, c’est qu’il tend à prévoir que tous les algorithmes des plateformes doivent être en libre accès ou être accessibles par le CSA et transparents pour lui. Une telle disposition sera probablement jugée disproportionnée par la Commission européenne. Il y a un décalage entre l’objectif qui est le vôtre – vous ne visez que les contenus haineux – et la mesure que vous proposez. Nous estimons que cette disposition pose un problème de non-conventionnalité.

Le véritable défi, c’est de parvenir à recruter les ingénieurs et les chercheurs compétents. Tel est l’objectif de la création de la cellule que vous évoquez. La CNIL, l’Arcep, le CSA, la DGCCRF (direction générale de la concurrence, de la consommation et de la répression des fraudes) ont tous besoin de savoir-faire spécifiques en intelligence artificielle, en sciences des données, mais, pour dire les choses clairement, ils ne pourront pas tous s’offrir les services de spécialistes de ces domaines, qui exercent en outre des métiers en tension. Ils pourront donc puiser ces compétences dans cette cellule, qui comprendra des gens de très bon niveau. L’idée est de mutualiser les compétences. Nous aurons, je pense, l’occasion de discuter de ce sujet lors de l’examen du projet de loi sur l’audiovisuel.

Je tiens par ailleurs à préciser un élément important : il faut bien avoir conscience que l’algorithme ne suffit pas. Aujourd’hui, dans l’état actuel des connaissances sur le machine learning et l’intelligence artificielle, on n’explique pas les résultats par l’algorithme.

Dans l’état actuel de la science, si l’algorithme voit 500 fois une photo de chat, il reconnaîtra un chat la 501e fois, mais il pourra ensuite cesser brusquement de le reconnaître. Personne, pas même les chercheurs de Google et de Facebook, ne sait expliquer pourquoi. Dès lors, le seul moyen de comprendre comment l’algorithme fonctionne, c’est de le tester ; c’est d’ailleurs ce que font Google et Facebook. C’est très bien d’obtenir l’algorithme, mais il faut aussi avoir des professionnels capables de réaliser des centaines, voire des milliers de tests pour en comprendre le fonctionnement. L’algorithme seul ne suffit pas ; il faut avoir la compétence.

Le Gouvernement sollicite donc le retrait de cet amendement, faute de quoi l’avis serait défavorable. D’une part, nous considérons que la demande est satisfaite s’agissant des contenus haineux. D’autre part, la transparence de l’ensemble des algorithmes serait à la fois disproportionnée et contraire à nos engagements conventionnels.