Intervention de Sylvie Robert

La série Black Mirror imagine une société dystopique où l’usage intensif et dévoyé de l’intelligence artificielle conduit à des comportements parfois proches de la bestialité qui érodent le lien social et affectif entre les individus. Elle nous conduit à questionner notre rapport éthique à l’intelligence artificielle et à réfléchir à l’utilisation qui en est faite. Implicitement, elle souligne que l’intelligence artificielle n’est ni bonne ni mauvaise en soi ; c’est bien son usage qui détermine sa légitimité, ainsi que son apport au bien public.

Récemment, un mécanisme de reconnaissance faciale sur la voie publique a été expérimenté pour la première fois en France. De même, une région a manifesté son souhait de tester la reconnaissance faciale par biométrie à l’entrée de lycées. Il est à prévoir que la volonté des collectivités territoriales d’expérimenter ces nouvelles technologies, par-delà la reconnaissance faciale, va probablement s’intensifier à l’avenir.

Naturellement, les enjeux d’ordre public pèsent énormément dans leur décision. Pour autant, le recours à des dispositifs fondés sur l’intelligence artificielle ne peut être anarchique. En contrepoint des problématiques sécuritaires se posent des questions majeures en termes tant de respect des droits fondamentaux que de souveraineté numérique.

Par conséquent, il est essentiel de fixer démocratiquement une méthodologie et un cadre à l’emploi de ces technologies par la puissance publique. C’est précisément ce cadre qui déterminera leur degré d’acceptation par la population.

D’un point de vue juridique, à l’inverse des caméras fixes ou des caméras-piétons, un flou certain demeure sur les usages et les finalités qui peuvent être poursuivis par la reconnaissance faciale et les technologies à venir. Une réflexion sur une éventuelle modification législative et réglementaire paraît, pour le moins, s’imposer.

Aussi, monsieur le secrétaire d’État, mon interrogation est assez simple : entendez-vous ouvrir un véritable débat public sur l’utilisation de la reconnaissance faciale et, plus globalement, sur l’ensemble des technologies futures ayant un impact sur la vie privée, auxquelles pourraient d’ailleurs recourir les collectivités ? Par ailleurs, envisagez-vous de mieux encadrer juridiquement leur usage ?

L’équilibre à trouver entre impératif sécuritaire, libertés individuelles et utilisation éthique de l’intelligence artificielle est particulièrement subtil et important ; il nous faut, je le crois, en discuter démocratiquement.