Intervention de Mounir Mahjoubi

Monsieur le sénateur, je vous remercie de votre question. Celle-ci renvoie à l’équilibre, que nous avons déjà évoqué tout à l’heure, entre la liberté dont doivent disposer les entreprises pour développer ces technologies et la nécessité d’en contrôler les impacts.

Vous avez parlé des technologies de boîtes noires, de deep learning, qui peuvent avoir des conséquences importantes, en créant notamment des discriminations et des biais, et se révéler dangereuses si elles sont appliquées à certains secteurs.

Nous n’avons pas apporté de réponse précise à ce problème pour le moment. Cela fera partie des recommandations que l’État défendra dans le cadre de la stratégie qui sera définie. Cependant, dès aujourd’hui, dans les applications essentielles et dans les applications sensibles, nos régulateurs existants sont extrêmement actifs et nos capacités à réguler extrêmement fortes.

Ainsi, des procédures de certification et une protection des boîtes noires qui peuvent être utilisées, notamment dans les réseaux ou dans les infrastructures stratégiques, existent d'ores et déjà.

Des procédures de certification ont également été définies pour l’usage de cette technologie dans la santé : aujourd’hui, un algorithme d’assistance à la décision médicale ne peut être mis en œuvre dans un hôpital sans être piloté dans le cadre de la mise en place d’un outil ou d’un dispositif de santé.

Pour ce qui concerne les transports, aucun véhicule fonctionnant à l’intelligence artificielle n’est mis en circulation aujourd’hui s’il ne continue pas à se développer.

À titre personnel – cela peut être soumis à débat –, je ne crois pas qu’il faille une institution unique qui régulerait l’intégralité des dispositifs de l’intelligence artificielle, mais que tous les experts actuels de la certification et de la garantie de la sécurité de nos citoyens doivent intégrer celle-ci dans leurs domaines de compétence respectifs. Cela vaut pour le régulateur de santé comme pour celui des transports, du renseignement, de nos réseaux de télécommunications… Cet effort doit nécessairement déboucher sur une amélioration de l’expertise de nos fonctionnaires et de nos agents.

Cela pose une autre grande question : forme-t-on, recrute-t-on et parvient-on à garder sur notre territoire suffisamment d’experts pour porter ces sujets ? En effet, l’un des plus grands dangers est que nous n’arrivions pas à nous doter des experts dont nous avons besoin et que les institutions qui ont la responsabilité de contrôler n’en aient pas la compétence – au premier sens du terme, à savoir la compétence technique.

C’est aujourd'hui un véritable enjeu, que nous envisageons aussi comme une responsabilité.