Interventions sur "algorithme" de Catherine Morin-Desailly

Je souhaiterais simplement poser une question à M. le ministre délégué. Il me semble que les algorithmes relèvent de l’intelligence artificielle. Or l’Union européenne vient précisément de voter un règlement en la matière, qui repose sur une approche par le risque, avec notamment une attention particulière portée aux questions de surveillance, de catégorisation des populations et d’usages strictement interdits – la seule exception concerne la lutte contre les menaces terroristes. Selon moi, la pro...

...a stratégie d'influence. Des plateformes américaines comme Facebook pourraient-elles faire l'objet d'ingérences de la part de la Chine, et être infiltrées ? L'affaire Cambridge Analytica a montré une infiltration russe, et la manipulation des opinions lors des scrutins électoraux. Une telle stratégie d'exploitation des failles des plateformes américaines est-elle à l'oeuvre ? Enfin, qu'est qu'un algorithme addictif ? Il me semble que ce sont plutôt les contenus qui sont addictifs. Je ne suis pas une informaticienne ou une spécialiste des algorithmes, mais pourriez-vous préciser ? Somme toute, Instagram ou d'autres réseaux sont également très addictifs.

Le troisième point, qui est le plus structurant, est la nécessité de mieux prendre en compte le fonctionnement même des plateformes en ligne, et le modèle économique sous-jacent. Ce dernier, nous le savons, repose sur l'accumulation de très grandes masses de données, en particulier personnelles, qui sont ensuite exploitées par des algorithmes de recommandation des contenus et d'adressage de la publicité : il s'agit de maximiser le temps passé par l'utilisateur sur les plateformes et, en conséquence, les revenus de ces dernières. Ce système aboutit inévitablement à favoriser les contenus les plus clivants et les plus contestables, qui provoquent le plus de réactions, mais qui enferment aussi les utilisateurs dans des bulles de contenu...

...e Facebook, Youtube Instagram ou le chinois TikTok... Le Conseil supérieur de l'audiovisuel (CSA), qui réalise des campagnes d'information, a un rôle particulier à jouer, mais il manque de moyens pour informer le jeune public, comme j'en avais déjà fait état lors de l'examen de ma proposition de loi visant à lutter contre l'exposition précoce des enfants aux écrans. Ce que nous proposons sur les algorithmes, c'est que les plateformes, en tant qu'espaces publics, se conforment à des règles. Les chercheurs que nous avons auditionnés nous ont confirmé, comme Frances Haugen, que les plateformes utilisent sciemment les algorithmes pour faire du profit au détriment de la sécurité, notamment des enfants. Il faut donc leur imposer des audits externes réguliers en se basant sur cette qualité d'espace public...

Madame la ministre, pourriez-vous nous apporter quelques précisions sur ce que vous entendez par publication des algorithmes ? Ces outils d’aide à la décision, auxquels recourent de plus en plus d’institutions et de procédures, apparaissent souvent comme des boîtes noires. À l’évidence, davantage de transparence est nécessaire pour que les intéressés puissent avoir confiance en ces procédures informatiques. Selon moi, il importe en particulier de pouvoir accéder au code source, pour qu’il puisse être examiné par des e...

Cet article 2 nous place, me semble-t-il, au cœur des questions se posant sur la portée de ce projet de loi. Le second Forum de la gouvernance internet, qui s’est tenu hier, réunissait les meilleurs spécialistes – universitaires, chercheurs, ingénieurs – sur le sujet. Le titre de l’un des ateliers de ce Forum était « La sécurité peut-elle être le résultat d’un algorithme ? » et la réponse apportée était négative. Selon les intervenants, il ne faut pas nier l’inefficacité, qui a été prouvée, des larges programmes de surveillance menés notamment aux États-Unis, ni leurs potentielles dérives. Je crois donc que les vraies questions que nous devons nous poser ce soir sont celles de l’efficacité, mais également des conséquences démocratiques et économiques de ces mesu...

...il est pour le moins paradoxal, pour ne pas dire ironique, que la France s’apprête aujourd'hui à emprunter le chemin inverse de celui des Américains. L’article 2 du projet de loi prévoit bien l’installation de boîtes noires en des points déterminés des infrastructures d’internet situées sur le territoire national. Ces équipements d’analyse du trafic sont censés permettre la détection, au moyen d’algorithmes, on l’a dit, de signaux faibles permettant d’identifier les terroristes et leurs soutiens parmi la masse des internautes. J’insiste sur le fait que, selon les spécialistes de cette question, ces équipements sont indubitablement des matériels de surveillance de masse puisqu’ils ont vocation à analyser l’ensemble du trafic qui transite par eux, de façon indiscriminée, afin de procéder ensuite à u...