Intervention de Frances Haugen

Messieurs les présidents, mesdames les sénatrices et messieurs les sénateurs, je vous remercie de l'opportunité qui m'est donnée de me présenter devant vous, ainsi que de votre volonté de faire face à certaines des menaces les plus urgentes pour les citoyens français.

J'avais rejoint Facebook parce que je croyais que l'entreprise avait le potentiel de faire ressortir le meilleur de nous, mais je suis ici aujourd'hui parce que je crois que les produits de Facebook nuisent aux enfants, aggravent les clivages, affaiblissent notre démocratie et bien plus encore.

Les dirigeants de l'entreprise savent comment rendre Facebook et Instagram plus sûrs, mais refusent de réaliser les changements nécessaires parce qu'ils font passer leurs immenses bénéfices avant les gens.

Les conséquences sont graves. La plateforme Facebook porte aujourd'hui atteinte à la santé et à la sécurité, menace nos communautés et l'intégrité de nos démocraties.

Il ne sera pas facile de relever ce défi, mais les démocraties doivent faire ce qu'elles ont toujours fait lorsque le commerce entre en conflit avec les intérêts du peuple et de la société dans son ensemble : intervenir et élaborer de nouvelles lois.

Je suis reconnaissante au Gouvernement français et aux dirigeants de l'Union européenne, comme le commissaire Breton, de prendre cette question très au sérieux.

Selon moi, le projet de règlement sur les services numériques (Digital Services Act) actuellement examiné par le Parlement européen peut devenir une référence mondiale qui pourra inspirer d'autres régions du monde, y compris mon pays, et les conduire à adopter de nouvelles règles pour protéger nos démocraties.

La législation doit être forte et son application ferme sans quoi nous perdrons cette occasion unique d'associer technologie et démocratie. Je sais que les dirigeants français ont joué un rôle central dans les progrès que nous avons accomplis, et je vous encourage à maintenir la pression.

Mon analyse des documents contenus dans mes révélations n'est pas uniquement fondée sur mon travail chez Facebook. J'ai travaillé comme chef de produits dans de grandes entreprises technologiques comme Google, Pinterest, Yelp et Facebook.

Mon travail a surtout porté sur des produits algorithmiques, comme les recherches Google Plus, ou les systèmes de recommandation comme celui qui alimente le fil d'actualité de Facebook.

J'ai pu comparer la façon dont chaque entreprise aborde et relève différents défis. Les choix opérés par les dirigeants de Facebook représentent un danger énorme pour les enfants, la sécurité publique, la démocratie. C'est pourquoi j'ai lancé cette alerte. Soyons clairs : les choses n'ont pas à être ainsi. Nous sommes ici aujourd'hui à cause des choix délibérés de Facebook.

J'ai rejoint Facebook en 2019 parce qu'un de mes proches s'est radicalisé. Je me suis sentie obligée de jouer un rôle actif dans la création d'un Facebook moins toxique.

Durant mon passage chez Facebook, d'abord en tant que cheffe de produit pour la désinformation civique, puis pour le contre-espionnage, l'entreprise a fait face à plusieurs reprises à des conflits entre ses propres bénéfices et la sécurité collective. L'entreprise a toujours résolu ces conflits à son profit. Ce système a amplifié la division, l'extrémisme, la polarisation, qui fragilisent les sociétés du monde entier.

Dans certains cas, ces discours en ligne dangereux ont conduit à des violences qui ont fait des victimes, voire des morts. Dans d'autres cas, le mécanisme d'optimisation des profits a généré de l'automutilation, de la haine de soi, notamment dans des groupes vulnérables comme les adolescents.

Ces problèmes ont été confirmés à plusieurs reprises par les recherches internes de Facebook. Il ne s'agit pas seulement de la colère ou de l'instabilité de certains utilisateurs des réseaux sociaux. Facebook est devenu une entreprise pesant mille milliards de dollars en engrangeant des bénéfices aux dépens de notre sécurité, y compris celle de nos enfants. C'est inacceptable !

Je crois que j'ai fait ce qui était juste et nécessaire pour l'intérêt général, mais je sais que Facebook dispose de ressources infinies qu'il pourrait utiliser pour me détruire.

J'ai compris une vérité effrayante : presque personne, en dehors de Facebook, ne sait ce qui se passe à l'intérieur de Facebook. La direction de l'entreprise cache des informations vitales au public, à ses actionnaires, au Gouvernement américain et aux gouvernements du monde entier.

Les documents que j'ai fournis prouvent que Facebook nous a trompés à plusieurs reprises sur ce que ses propres recherches révèlent sur la sécurité des enfants, son rôle dans la diffusion de messages haineux et polarisants, et bien plus encore.

La réponse la plus adaptée pourrait venir de nouvelles règles et de nouvelles normes. La législation de l'Union européenne a un énorme potentiel. Elle n'essaye pas de supprimer le problème avec des réglementations sur le contenu. Elle adopte une approche neutre en termes de contenus pour s'attaquer aux risques systémiques et aux méfaits du modèle commercial global. Je soutiens fermement cette conception et je crois que la force des nouvelles lois dépend de la volonté politique des États membres de s'assurer qu'elles sont appliquées.

Il y aurait beaucoup à dire sur la manière de résorber les menaces que Facebook et d'autres grandes plateformes font peser sur la démocratie.

Je souhaite mettre en lumière deux impératifs qui, d'après mon expérience, sont d'une importance capitale : premièrement, demander des comptes aux entreprises pour les préjudices sociaux qu'elles provoquent et, deuxièmement, établir de nouvelles règles axées spécifiquement sur le modèle commercial lui-même des plateformes.

Personne ne peut comprendre les choix destructeurs de Facebook mieux que Facebook, qui a seul le droit de « regarder sous le capot ». Or Facebook ne peut être à la fois juge et partie.

La transparence sera donc essentielle pour parvenir à une réglementation efficace. Il faudra un accès complet aux données. Nous avons besoin de plus d'experts pour étudier ces systèmes, et ils doivent pouvoir consulter toutes les données dont ils ont besoin. Il est essentiel de bien faire les choses, car le diable est dans les détails.

J'ai préconisé un plan en trois étapes pour le processus d'évaluation des risques.

Tout d'abord, chaque plateforme devrait être tenue pour responsable des risques présentés par ses produits et services. Toutes devraient être obligées de procéder à une analyse de la sécurité de leurs produits et la diffuser au public.

Deuxièmement, un régulateur devrait interroger le public et la société civile pour comprendre les angles morts que la plateforme n'a pas explorés. Facebook est homogène et géographiquement isolé. Nous devons nous assurer d'évaluer le plus complètement possible tous les risques que présente un produit.

Troisièmement, les entreprises devraient être tenues de prévoir un plan pour traiter chaque préjudice. Ce plan devrait être audité et contrôlé pour s'assurer qu'il est vraiment mis en oeuvre. Nous avons besoin des données de l'entreprise pour vérifier leurs progrès.

Facebook a tenté à maintes reprises d'éviter les scandales en déclarant simplement qu'il y travaille. Cette dynamique doit changer, et cela commence par l'accès aux données.

L'une des questions que l'on me pose le plus souvent porte sur le type de données à demander à Facebook. Si un accès total aux données dont dispose Facebook permettrait d'effectuer de larges recherches, l'ouverture d'un tel accès doit être effectuée avec précaution pour protéger la vie privée des utilisateurs.

Cet accès aux données permettra aux chercheurs et aux régulateurs d'évaluer les risques et les préjudices de l'ensemble du système - profilage, ciblage, et engagement-based ranking, ce classement basé sur l'engagement.

Mes révélations montrent clairement que les systèmes de classement basés sur l'engagement sont l'une des causes fondamentales de l'un des plus grands risques systémiques que les réseaux sociaux font courir à nos sociétés. Cela met en cause le système lui-même. En utilisant des outils neutres en termes de contenus, les nouvelles lois devraient obliger les plateformes à assumer leurs responsabilités, non seulement en matière de divulgation de contenus illégaux, mais aussi de manipulation des élections, de diffusion virale de la désinformation ou d'effets néfastes sur la santé mentale des adolescents.

Si la nouvelle législation est bien conçue, elle peut changer la donne à travers le monde. Vous pouvez obliger les plateformes à intégrer le risque sociétal dans leurs activités commerciales, de sorte que les décisions concernant les produits à développer et la manière de les développer ne soient plus fondées que sur l'augmentation des bénéfices. On peut établir des règles, des normes systémiques qui tiennent compte des risques tout en prenant en compte la liberté d'expression, et on peut montrer au monde comment la transparence, la surveillance et l'application des règles doivent fonctionner.

Nous avons déjà connu cela lorsque les fabricants de tabac affirmaient que les cigarettes avec filtre étaient plus sûres pour les consommateurs. Les scientifiques ont pu invalider ce message marketing en confirmant que ces cigarettes continuaient à faire peser une menace sérieuse sur la santé et qu'elles étaient en fait plus toxiques que les autres.

Aujourd'hui, nous ne pouvons réaliser ce type d'évaluation indépendante de Facebook. Nous devons croire ce que dit Facebook. Or ce groupe a prouvé à plusieurs reprises qu'il ne mérite pas que nous lui fassions une confiance aveugle.

Les régulateurs de Facebook peuvent détecter certains problèmes, mais sont dans l'incapacité de déterminer leur cause. Ils ne peuvent donc pas élaborer de solutions spécifiques. Ils ne peuvent pas avoir accès aux données de l'entreprise sur la sécurité des produits, encore moins mener un audit indépendant. Comment le public est-il censé déterminer si Facebook résout les conflits d'intérêts de manière conforme à l'intérêt général s'il n'a aucune visibilité sur le fonctionnement réel de Facebook ? Ceci doit changer !

Mesdames les sénatrices, messieurs les sénateurs, l'enjeu est de taille. Vous avez l'opportunité unique de créer de nouvelles règles pour le monde en ligne. Construire des réseaux sociaux plus sûrs et plus sympathiques est possible.

Deux points sont à retenir. En premier lieu, Facebook choisit chaque jour le profit au détriment de la sécurité, et cela continuera, en l'absence d'action énergique de la part des législateurs. Par ailleurs, Facebook cache son comportement réel, ce qui conduit notre sécurité à se dégrader à un niveau inacceptable.

Si Facebook est autorisé à continuer à fonctionner dans l'obscurité, nous n'assisterons qu'à des tragédies de plus en plus importantes. J'ai lancé l'alerte au risque de ma vie parce que je crois qu'il est encore temps d'agir, mais nous devons le faire maintenant.