Intervention de Martial Bourquin

À mon tour je remercie les deux rapporteurs pour la qualité de ce rapport, qui nous permet de voir plus clair sur ce sujet d'importance.

L'intelligence artificielle fait déjà partie de la vie quotidienne et des forces productives en France. Elle est un élément déterminant de la productivité du travail, qui permet à nos pays développés, avec un niveau de protection sociale élevé, d'avoir une production compétitive par rapport aux pays où la main d'oeuvre est moins chère. L'industrie 4.0, très digitalisée, qui se met en place, fait appel à l'intelligence artificielle de façon importante : nous avons donc à faire à ces technologies dans notre quotidien.

La question que je voulais vous poser à l'issue de ce rapport est la suivante : vous avez abordé l'approche éthique de l'intelligence artificielle, vous nous assurez qu'il y a systématiquement de l'humain au côté de la machine, mais dans les faits ce n'est pas toujours le cas. La problématique est donc de savoir quand l'IA remplace complètement l'humain.

Par ailleurs, de grandes entreprises américaines, et notamment le dirigeant Elon Musk, ont demandé la création d'un comité de régulation de l'intelligence artificielle, du fait des potentiels dangers qu'elle représente. L'intelligence artificielle pourrait prendre le pas sur l'humain, et c'est pourquoi un tel comité devrait protéger les citoyens. Par exemple, les piratages des robots sont un danger très réel, dont nous avons eu plusieurs illustrations : par exemple, récemment, les voitures semi-connectées des grandes entreprises américaines ont été victimes de hackers, qui en ont pris le contrôle. Autre illustration des limites de cette technologie, en 2016 l'intelligence artificielle de Microsoft, peu après son ouverture au public, avait commencé à tenir des propos nazis, incestueux et complotistes, du fait de biais dans son algorithme. Comme le dit Elon Musk, il faut que nous sachions faire des machines intelligentes et intelligibles. La problématique de la cybersécurité est capitale, il s'agit de nos libertés et de la démocratie, et à terme de l'avenir de l'humanité. Comment se protège-t-on ?