Intervention de Régis Chatellier

Dans le vaste écosystème des plateformes, on trouve des acteurs très différents dans leur forme et leurs capacités.

La CNIL a une double activité : outre son activité de contrôle et de sanction, que l'on connaît le plus souvent, elle a une activité d'accompagnement des acteurs, laquelle consiste notamment à échanger sur certains sujets avec les acteurs, des plus petites start-up jusqu'aux plus grandes plateformes, qui peuvent, dans certains cas, venir nous poser des questions, nous demander des conseils pour certains usages, certains algorithmes...

Nous n'avons pas de visibilité sur toutes les demandes que reçoit la CNIL, mais nous n'avons pas le souvenir que l'on nous ait consultés sur l'existence potentielle de biais dans un algorithme. Nous sommes compétents dans la mesure où les biais reposent sur des données personnelles. Il est important, dans le cadre de la réflexion sur l'intelligence artificielle que nous menons avec le Défenseur des droits, que nous ayons les moyens de caractériser ce qu'est un biais et de pouvoir agir une fois qu'il est caractérisé - si certains biais sont assez visibles, d'autres le sont beaucoup moins.

Effectivement, il arrive que l'on nous consulte sur la mise en place de systèmes. Globalement, les entreprises auxquelles nous avons affaire souhaitent bien faire, mais elles n'y parviennent pas toujours. Nous essayons, dans la mesure du possible, de les accompagner, soit en répondant à leurs demandes de conseils, soit en intervenant auprès des start-up. Nous le faisons autant que possible pour les sensibiliser à ces sujets et répondre à leurs questions, toujours avec la volonté de transformer la réponse que nous pouvons donner à une question spécifique en une publication qui pourra servir à d'autres entreprises. Nous essayons vraiment de les accompagner, avec les moyens qui sont les nôtres.