Intervention de Julien Chiaroni

responsable des programmes, Laboratoire d'intégration de systèmes et des technologies (LIST), CEA Tech. - Mon intervention s'articule autour d'un préambule, et de trois points. Je vais tâcher de souligner à chaque fois les enjeux, mais aussi de les illustrer au travers d'exemples issus de nos travaux, et des partenariats que nous développons, en insistant sur les éléments qui ne me semblent pas avoir été suffisamment mentionnés précédemment.

Je partage l'analyse de M. Gérard Berry sur les aspects algorithmiques, et les outils de conception. Je pense qu'il convient aussi de souligner les aspects d'implémentation dans le matériel. Il faut savoir que ces algorithmes et applications sont portés par du matériel, cartes et composants électroniques, qui constitue un point fondamental pour la sécurité et la sûreté des systèmes. Nous avons, dans ce domaine, un vrai savoir-faire, qui constitue une opportunité, en termes de garantie de fonctionnement, et de confiance en ces systèmes.

L'action publique sur les algorithmes suppose, tout d'abord, de disposer des ressources et compétences dans le domaine. Mes collègues ont parlé de formation et d'expertise dans la recherche. Il a aussi été question de vérification par preuves formelles. À ce sujet, en 2014, les équipes du CEA étaient arrivées premières à un challenge, et avaient trouvé l'intégralité des failles d'un logiciel qu'elles avaient vérifié, très loin devant les autres concurrents. Ces travaux avaient été menés notamment avec l'Institut national de recherche en informatique et en automatique (INRIA). De plus, il me semble important de souligner le rôle des acteurs industriels dans ce domaine. Il s'agit non seulement de savoir soutenir les acteurs présents, mais aussi de savoir créer des acteurs, qui pour nous sont stratégiques pour l'État.

S'agissant des enjeux pour l'État, le premier point concerne, selon moi, la modernisation de l'action publique, en vue d'utiliser des algorithmes pour automatiser ou assister une partie des actions. Je soulignerai ceci au travers de l'exemple de la reconnaissance d'objets volés, sur lequel nous avons travaillé pour la police nationale. Il s'agit d'ajouter des annotations textuelles sur des bases de données images, ce qui permet ensuite de distinguer entre eux des objets volés, opération longue et compliquée à effectuer par une personne, mais qui peut être réalisée de manière presque automatique par des algorithmes développés. Un travail de recherche est également mené dans le domaine de la santé. Nous avons notamment travaillé avec le professeur Olivier Cussenot, urologue reconnu de l'Assistance publique - Hôpitaux de Paris (AP-HP), pour développer des outils d'aide à la décision et d'assistance, destinés aux réunions de coopération pluridisciplinaire.

Ces deux exemples sont différents, puisque, dans le premier cas, l'algorithme est presque automatique, alors que, dans le deuxième, il sert à la décision d'un individu. Ceci est fondamental dans le cadre des enjeux de responsabilité et d'explicabilité des algorithmes. On associe fréquemment l'algorithme à l'idée de systèmes automatisés, en oubliant qu'il existe souvent un individu dans la boucle, auquel il appartiendra de prendre la décision finale de faire ou ne pas faire.

Il me semble également important de mentionner l'aspect « technologies civiques » (civic tech), qui renvoie notamment à l'utilisation des algorithmes pour accroître la participation des citoyens. À cet égard, j'ai en tête l'Open Government Initiative, du président américain Barack Obama, en 2009. Il y a certainement, dans ce registre, des initiatives à construire. Etalab pourrait sans doute apporter des précisions sur ce point.

Enfin, l'utilisation des algorithmes au service des sujets régaliens de l'État, que sont la sécurité et la défense, n'a pas été véritablement développée.