Intervention de Sylvie Robert

Monsieur le président, monsieur le ministre, mes chers collègues, en 2018, le Grand Palais organisait une exposition intitulée « Artistes & Robots ». En 2019, c’était au tour du Barbican Centre, à Londres, de présenter au public une exposition interactive intitulée « AI : More than Human ».

À la curiosité et à l’enthousiasme suscités par l’émergence de ces nouvelles technologies, d’abord perçues comme récréatives et utiles en matière de productivité, ont succédé l’inquiétude, la méfiance et, surtout, les questionnements.

Ne soyons pas dupes des intentions cachées de l’entrepreneur qui a orchestré la tribune tonitruante cosignée par plus de 1 000 experts du secteur de l’IA, même si elle a eu une vertu, celle de frapper les esprits en évoquant un moratoire. Il nous faut vraiment prendre du recul sur l’IA générative afin d’en mesurer les conséquences et de la réguler en mettant en place des garde-fous.

C’est d’ailleurs le sens de la décision de l’équivalent italien de la Cnil, qui a temporairement bloqué ChatGPT, pour deux motifs principaux. D’une part, aucun mécanisme de vérification de l’âge des mineurs n’est prévu, alors que le droit et la protection des mineurs en ligne sont un sujet politique majeur. D’autre part, ChatGPT a récolté indûment les données personnelles des utilisateurs italiens.

La protection des données personnelles et le respect de la vie privée des utilisateurs d’IA génératives sont des enjeux fondamentaux, au cœur de la régulation et du contrôle de ces dernières par les autorités de protection des données personnelles des différents États.

La difficulté de réguler l’IA – et les outils numériques dans leur ensemble – procède du fait que les usages se développent bien plus vite que la réglementation. Ainsi, ChatGPT est apparu dans le débat public après avoir été utilisé par les étudiants pour rédiger divers devoirs.

À cet égard, en matière éducative, l’IA générative pose plusieurs questions sérieuses.

Tout d’abord, elle est très souvent configurée pour fonctionner selon la technique du machine learning. En d’autres termes, elle est nourrie de contenus dont la fiabilité et la véracité peuvent être sujettes à caution, voire complètement fantaisistes.

Ensuite, ces contenus pouvant être orientés, l’IA peut apporter des réponses comportant des biais importants, notamment sociaux, raciaux et de genre, ce qui peut avoir des conséquences dramatiques dans la formation des élèves et dans leurs représentations.

Enfin, en l’état, l’usage d’IA génératives est contradictoire avec deux fondements essentiels de l’instruction, qui doit reposer sur des faits – et non de fausses informations – et favoriser l’acquisition d’aptitudes et de compétences par l’expérience. Dans le domaine de l’éducation, l’encadrement du recours aux IA se révèle donc primordial ; le fait de recourir à la médiation constitue un préalable minimal.

Par ailleurs, l’une des incidences les plus visibles de l’IA générative a trait au secteur culturel, singulièrement à la définition de l’acte de création et à la protection du droit d’auteur.

Sur ce point, je tiens à affirmer une position claire et sans ambiguïté : le cadre juridique, notamment européen, n’est ni adapté ni suffisant. Il est indispensable que l ’ Artificial Intelligence Act, en cours de discussion au Parlement européen et percuté de plein fouet par l’émergence des IA génératives, comporte des dispositions qui protègent les artistes-auteurs.

Au regard de la révolution que constituent ces IA, il n’est pas possible d’en rester à une simple possibilité d ’ opt-out pour les titulaires de droits qui ne souhaitent pas que leurs œuvres alimentent ces machines. Le statu quo serait synonyme de déséquilibre et de renoncement à l’effectivité du droit d’auteur.

Néanmoins, cet impératif de protection renforcée des créateurs, qui concerne l’ensemble des champs culturels, n’épuise aucunement la réflexion sur l’impact culturel de l’IA générative. À ce titre, le Conseil supérieur de la propriété littéraire et artistique a produit en 2020 un rapport sur l’intelligence artificielle et la culture, dans lequel il soulevait deux questions majeures, qui devront être traitées : quel statut accorder aux créations réalisées à partir d’une IA et aux personnes qui en sont à l’origine ? Surtout, un processus créatif est-il réellement à l’œuvre lorsque l’IA est utilisée ?

Ainsi, l’IA générative bouscule et interroge jusqu’à notre conception même de l’acte de création. Bien qu’elle en soit encore à ses prémices, il me semble que nous partageons l’intuition et la conviction qu’il nous faut impérativement l’encadrer, de sorte qu’elle soit porteuse du meilleur et non du pire. À nous de lui donner du sens !