Après avoir auditionné la semaine dernière les représentants des principaux réseaux sociaux, il m'a semblé important de centrer nos auditions de ce jour sur la pratique des réseaux sociaux par les jeunes. Votre regard de praticiens de ces réseaux sociaux nous est précieux. En effet, le cyberharcèlement reste pour une large part, un trou noir du harcèlement en milieu scolaire.

Monsieur Thierry Jadot, vous êtes l'ancien président de Dentsu Aegis Network et collaborez régulièrement avec l'Institut Montaigne. Vous y avez travaillé avec Monsieur Gilles Babinet, conseiller de l'Institut Montaigne sur les questions numériques et co-président du Conseil national du numérique. Nous avons souhaité vous auditionner, car vous avez récemment co-présidé le rapport de l'Institut Montaigne intitulé « Internet : le péril jeune ? ».

Nous avons également le plaisir de vous accueillir Monsieur Matthieu Boutard, directeur général de la plateforme de modération Bodyguard. Vous aurez l'occasion de nous présenter plus en détail ce qu'est cette plateforme. J'indique simplement que cette application permet de repérer les commentaires haineux et de les modérer automatiquement. Bodyguard a emporté en 2020 le trophée For Democracy à l'occasion des Talent Awards qui récompensent les meilleures équipes de la French Tech.

Enfin, je dois excuser, pour motif personnel impératif de dernière minute, Monsieur Sulivan Gwed, influenceur. Dès 13 ans, il avait ouvert une chaîne YouTube sous le nom d'« Un Panda Moqueur ». Il avait rapidement rencontré le succès. À l'aise avec les réseaux sociaux, il avait cependant été victime de cyberharcèlement. Son regard d'utilisateur régulier et de connaisseur des réseaux sociaux ainsi que d'ancienne victime de cyberharcèlement, nous aurait été utile et nécessaire. Nous allons essayer de l'entendre ultérieurement.

Messieurs, votre expertise nous est indispensable pour compléter notre panorama des acteurs de la lutte contre ce phénomène. Nous souhaitons également bénéficier de votre expérience afin de confirmer, infirmer ou nuancer notre approche. À ce titre, il m'a paru indispensable que nos travaux de ce jour soient captés et diffusés. Tous nos travaux l'ont souligné, la dimension « cyber » a radicalement changé la nature du harcèlement en milieu scolaire. Le harcèlement tant alors à se disséminer, à se réfugier derrière un anonymat qui en démultiplie les conséquences dévastatrices. Il ne s'arrête plus aux portes de l'école, mais crée un continuum qui ignore les lieux, les horaires et l'intime de la famille.

Monsieur Jadot, pouvez-vous nous présenter les principales conclusions de votre Rapport ? Estimez-vous en particulier, que les jeunes sont suffisamment formés à l'utilisation raisonnée et aux bonnes pratiques des réseaux sociaux ? Comment est-il possible de mieux former et accompagner les parents en matière de cyberharcèlement ?

Monsieur Boutard, pouvez-vous nous expliquer le fonctionnement de votre application ? Selon vous, les différents réseaux sociaux réagissent-ils suffisamment rapidement lorsqu'un jeune est victime de cyberharcèlement ? Enfin, de manière générale, sommes-nous suffisamment formés à l'utilisation des réseaux sociaux ?

Nous avons réalisé pour l'Institut Montaigne, ce rapport diffusé en avril 2020 et bâti à partir d'une enquête menée auprès de 3 000 jeunes. Notre travail s'inspire des travaux du Puri Source Center qui s'intéressait au cyberharcèlement sur des enfants de 13 à 20 ans. Pour notre part, nous avons étendu le panel aux enfants de 11 à 20 ans. En effet, l'âge de 11 ans correspond à l'âge d'entrée au collège et à la fourniture du premier téléphone portable par les parents. Ainsi, 3 000 adolescents ont été interrogés, 1 000 parents de ces adolescents ainsi que 1 000 personnes représentatives de la population française.

Notre premier constat porte sur l'ampleur du phénomène : 56 % des jeunes estiment avoir été attaqués sur internet au moins une fois, 35 % estiment l'avoir été plusieurs fois. Par cyberviolence, on entend l'accès à des contenus violents, la diffusion de rumeurs, de photos ou d'informations intimes.

Il s'agit d'un phénomène massif prévalant en particulier chez les jeunes filles. En effet, le taux de harcèlement de jeunes filles âgées de 11 à 20 ans est 5 points plus élevé. Pendant le confinement, les appels sur les plateformes de protection ont augmenté de 30 % et les requêtes auprès des réseaux sociaux ont, quant à elles, plus que doublé. Notre enquête constate que les jeunes sont conscients de la gravité des cyberviolences : plus de 95 % considèrent qu'il s'agit d'atteintes à leur intégrité et à leur vie personnelle. En revanche, ils sont plus de 60 % à penser qu'ils maîtrisent leur vie en ligne. Or, il s'agit d'une surestimation de leur part.

L'enjeu est complexe. En effet, dans l'univers d'internet, il n'existe pas de transmission intergénérationnelle de l'apprentissage. Les adolescents sont en situation d'apprentissage, au même titre que les parents et les professeurs.

Par ailleurs, nous avons constaté une divergence croissante entre l'usage digital des adultes et celui des adolescents. Il y a quelques années, la plateforme utilisée par le plus grand nombre était Facebook. Aujourd'hui, la plupart des adolescents ont délaissé Facebook au profit de Snapchat, d'Instagram et de TikTok pour les plus jeunes. Il en résulte que la compréhension des usages d'internet des adolescents est de plus en plus difficile pour leurs parents.

L'éducation représente la meilleure réponse pour les adolescents dans ce contexte. Ainsi, 67 % des adolescents font confiance à leurs professeurs lorsqu'apparait une situation de cyberviolence. En revanche, 70 % des parents ne font pas confiance à l'Éducation nationale pour résoudre ce type de problème. 60 % des parents ne savent pas non plus à qui s'adresser quand un problème de ce type se pose. Or, nous savons que les cyberviolences doivent être traitées en gestion de crise. En effet, nous estimons à dix jours le délai au-delà duquel il devient trop tard pour échapper à la viralité d'un contenu. De nombreuses mesures sont prises dans l'Éducation nationale, en particulier depuis la réforme du code de l'éducation en 2019.

Cependant, nous constatons que la maîtrise des usages diffère de la maîtrise de la vie numérique qui nécessite des connaissances en informatique. Or les lycéens ne sont que 8 % à souscrire à la spécialité numérique et science informatique (15 % de garçons contre 2 % de filles). L'enjeu de promotion des spécialités informatiques est donc réel. Il est nécessaire de disposer de plus de professeurs dans cette filière, voire de créer une agrégation spécifique.

De leurs côtés, les parents sont démunis, car ils ne savent pas qui sont leurs interlocuteurs. Ainsi, dans notre rapport, nous recommandons la création d'un guichet unique. Comme vous l'avez souligné, le cyberharcèlement ignore les géographies et les temporalités. Par ailleurs, il est fondamental de ne pas faire de distinction entre cyberharcèlement et harcèlement. Parmi les adolescents, 80 % considèrent que leur vie digitale ne se distingue pas de leur vie réelle. Nous savons également que la cyberviolence se prolonge souvent dans des situations de violence réelle en milieu scolaire.

La lutte contre le cyberharcèlement doit impliquer de nombreux acteurs tels que les opérateurs téléphoniques, les animateurs extrascolaires, etc. Par ailleurs, les plateformes dédiées telles que le 30 20 doivent rester ouvertes au-delà de 20 heures le soir et pendant le weekend. En outre, il sera nécessaire de préciser le rôle de chacune des plateformes, en cas de création d'un guichet unique.

Certaines plateformes exigent la fourniture d'une adresse électronique afin de pouvoir déclarer un fait de cyberviolence. Or un enfant de 12 ans ne dispose pas nécessairement d'une adresse électronique et doit alors solliciter ses parents dans ce but. Cependant, les parents ne sont pas nécessairement les bons interlocuteurs en la matière. Ce point souligne la problématique du rôle des parents dans cet écosystème.

Notre étude révèle que 21 % des adolescents estiment avoir été à l'origine ou complice d'un acte de cyberviolence. Afin de sensibiliser les parents, les victimes et les auteurs d'actes de cyberviolence, nous souhaitons que la lutte contre les cyberviolences et contre le cyberharcèlement devienne une grande cause nationale.

Nous recommandons d'associer les plateformes à ce travail. Suite à l'Accord de 2016 conclu avec la Commission européenne portant guide de bonne conduite, ces plateformes ont commencé à agir. Leur action s'est déployée véritablement à partir de 2018, mais pas toujours avec efficacité, car l'accord de 2016 préserve leur liberté d'action. Ainsi, les requêtes faites à Facebook pour dénoncer des actes de cyberviolence ont doublé entre 2015 et 2019. En parallèle, le taux de transmission des réponses est passé de 40 % à 70 %, ce qui constitue une amélioration.

Nous recommandons le soutien au Digital Service Act à travers d'une part, la nomination d'un responsable légal dans chaque pays de l'Union européenne et d'autre part, l'audit des plateformes via la réalisation de stress tests par des auditeurs indépendants. Étant donné la forte évolutivité du secteur numérique et la rapidité d'obsolescence du droit en la matière, ce travail doit être réalisé en collaboration avec les plateformes. L'idéal serait de mettre en place une approche hybride fondée d'une part sur l'obligation d'agir, et d'autre part sur la collaboration en matière de méthodes d'actions, comme c'est le cas dans le domaine de la finance.

Finalement, pour résumer mon propos, mes principales recommandations sont les suivantes : la création d'une grande cause nationale, la création d'un guichet unique, la mise en place d'une approche systémique impliquant l'ensemble des acteurs et la responsabilisation des plateformes à travers des audits indépendants. L'idée est d'amener progressivement les plateformes vers des pratiques plus transparentes. Au lieu d'analyser les algorithmes, analysons plutôt de quelle manière les plateformes répondent concrètement à la cyberviolence.

Avant de devenir directeur général de Bodyguard, j'ai travaillé sept ans chez Google, puis deux ans chez Google.org. Je suis ainsi expert dans les domaines de la fracture numérique et de la sécurité en ligne. Je peux ainsi vous donner un éclairage sur les mesures prises par Google sur ces sujets.

Bodyguard est une technologie qui détecte en temps réel les contenus toxiques sur Internet. Nous proposons à ce titre trois produits. Le premier est destiné aux particuliers souhaitant être protégés. Il leur suffit de télécharger l'application et de la connecter à leurs réseaux sociaux. Dès qu'un message haineux apparaît, il est intercepté et supprimé en temps réel. Ces actions sont réalisées sur le fondement de partenariats conclus avec les plateformes. Ainsi, ce sont à ce jour 55 000 personnes qui utilisent l'application mobile de façon gratuite pour se protéger du harcèlement, du racisme, de l'homophobie, etc. Nos utilisateurs sont notamment des influenceurs ou des personnalités politiques et 40 % de ces utilisateurs ont moins de 18 ans.

Bodyguard est une réponse à l'autocensure et au fait que nombre de personnes quittent les plateformes pour cause de harcèlement, laissant la place aux extrêmes et aux harceleurs. Nos objectifs sont donc de protéger les personnes qui ont des idées à communiquer, afin qu'elles puissent le faire en toute sécurité.

Nous proposons également une solution pour les familles qui alerte les parents en temps réel, si leur enfant est victime de cyberharcèlement ou de cyberviolence. En même temps que cette alerte, du contenu éducatif est adressé aux parents.

Enfin, nous proposons une solution à destination des entreprises. Nous accompagnons les réseaux sociaux émergents dans leur objectif de protection de leur communauté. Les réseaux sociaux sont des inventions fantastiques destinées à créer du lien entre les personnes. Néanmoins, il existe des dérives qui n'avaient pas été anticipées par leurs créateurs. Tous les nouveaux réseaux ont cette volonté de renforcer leur aspect sécuritaire. Notre travail consiste à formuler des recommandations pour les aider à avancer dans ce domaine.

Concernant les plateformes, des progrès ont été réalisés en termes de produit. Aujourd'hui, toutes les plateformes ont mis en place des équipes destinées à préserver la Trust and Safety. Ces plateformes ont, en effet, intérêt à veiller au bien-être des utilisateurs dont le départ risquerait d'entraîner une baisse de revenus.

En revanche, je considère que le principe du signalement est inefficace et qu'il est inacceptable que les plateformes s'en contentent. En effet, le délai entre le signalement et la réponse de la plateforme est aléatoire. Nous avons réalisé que, pour que ces signalements aboutissent sur des réponses rapides et concrètes des plateformes, plusieurs centaines de personnes devaient réaliser un même signalement au même instant. C'est notamment l'action menée par le collectif Stop Fisha. À mon sens, le signalement n'est donc pas un moyen efficace de lutte contre le harcèlement. Je reconnais cependant que les plateformes reçoivent chaque jour de très nombreux signalements qu'il est difficile de prioriser. Il serait nécessaire de réfléchir à la question de l'anonymat lors de la création des comptes, ainsi que sur les mesures pouvant être prises en amont du problème.

Je vous remercie pour ce premier tour d'horizon. Il s'agit d'une utile contribution à nos réflexions.

Nous avons, la semaine dernière, auditionné les représentants des réseaux sociaux et de nombreuses contradictions sont apparues entre plusieurs principes : la protection des personnes versus le secret des correspondances, la liberté individuelle versus la communication de données personnelles aux réseaux sociaux pour faciliter la reconnaissance d'éventuels harceleurs anonymes, etc.

Estimez-vous que la prise de conscience de l'ensemble de la société face au danger du cyberharcèlement soit suffisante ?

Le dispositif juridique actuel est-il suffisant ? Faut-il le renforcer - notamment au niveau européen pour accroître la responsabilité des réseaux sociaux ? Faut-il mettre en place la règle de la golden hour pour le retrait de contenus de cyberharcèlement au niveau européen ? Existe-t-il des approches différentes liées à des traditions juridiques distinctes ?

De manière générale, avez-vous des idées pour renforcer la prévention du cyberharcèlement, que ce soit à destination des réseaux sociaux, ou des utilisateurs ? Il peut s'agir de renforcer les sanctions, mais aussi la formation.

Selon vous, les réseaux sociaux ont-ils amélioré leur politique sur la prévention et la lutte contre le cyberharcèlement ?

Je vous remercie d'avance pour vos réponses.

Sur l'aspect juridique, il existe un très grand sentiment d'impunité sur les réseaux sociaux. Chez Bodyguard, nous souhaitons que la peur change de camp. De nombreux utilisateurs profitent de leur anonymat pour relayer des contenus harcelants. Cependant, la vie virtuelle ne se distingue pas de la vie réelle et prend même parfois plus de place. Or, en France, aucune sanction n'a jamais été prononcée sur des cas de cyberharcèlement, à l'exception du cas de Marvel Fitness. Cette impunité s'explique par la complexité du droit français en la matière. À cet égard, la proposition de loi de Laetitia Avia contenait des contradictions, mais aussi un certain nombre d'éléments intéressants qu'il est dommage d'avoir abandonné.

Je partage les propos de M. Matthieu Boutard au sujet du signalement. En effet, une enquête du Haut Conseil à l'Égalité menée en 2018 a montré que les délais de réponse des plateformes dépassaient régulièrement leurs engagements en la matière.

Je suis également très favorable à l'application de la règle de la golden hour.

Concernant l'aspect juridique, il serait souhaitable d'harmoniser le code pénal avec le code de l'éducation. En particulier, le code pénal ne tient pas suffisamment compte de la vulnérabilité des enfants. En outre, les plateformes ne font pas non plus de distinction entre les discours haineux à destination des adultes et ceux à destination des enfants. Même les règles RGPD ne font pas de différence de traitement sur le fondement de la vulnérabilité des mineurs. Il faudrait prendre en considération cette dimension, y compris dans les peines. En effet, plus de 50 % des actions de cyberviolence sont menées par des camarades de classe de la personne harcelée.

En Finlande, l'Université de Turku a mis en place auprès de 117 écoles, un système de jeu de rôle et de confrontation des harceleurs avec leurs victimes en impliquant l'ensemble des acteurs. Grâce à cette méthode, 85 % des cas de cyberharcèlement avaient été réglés et le cyberharcèlement a été réduit de 50 % dans ces établissements.

Il faudrait décentraliser la problématique du cyberharcèlement afin de confier au chef d'établissement une responsabilité et une autonomie plus importantes en la matière. De cette manière, le chef d'établissement pourrait mobiliser l'ensemble des acteurs locaux et agir selon les méthodes de gestion de crise. Je rappelle qu'il s'agit bien d'une gestion de crise. En effet, au bout de dix jours seulement, la viralité des contenus est telle que les conséquences pour la victime sont irréversibles. Le chef d'établissement doit être en mesure de prendre les sanctions adaptées en conseil de discipline, car les peines du code pénal ne sont pas adaptées à des mineurs.

Il s'opère actuellement une prise de conscience dans l'Éducation nationale. Nous avons constaté que des cellules de crise sont mises en place chaque fois que nécessaire dans les établissements. De même, un travail de partenariat est souvent réalisé avec les acteurs locaux. Enfin, les autorités académiques souhaitent mettre en place un programme de formation sur ce sujet dès la rentrée prochaine.

Ces éléments vont dans le bon sens. Néanmoins, la gestion de crise suppose que le personnel y soit formé.

J'ai appris des choses intéressantes à l'occasion de ces interventions. Je m'interroge néanmoins sur un éventuel profil type des auteurs de cyberharcèlement.

Il n'existe pas de profil en la matière. La plupart des jeunes agissant sur les réseaux sociaux n'ont pas suffisamment conscience de la portée réelle de leurs actes. Je vous rappelle les chiffres en la matière : un enfant sur deux est soit harcelé, soit harceleur.

Il est fondamental de prendre conscience que les usages des réseaux sociaux divergent selon les générations. Afin de communiquer avec les jeunes sur ces questions, il est important d'utiliser les codes de ces jeunes. Par exemple, la plateforme PHAROS, qui suppose la saisie d'une URL pour réaliser un signalement, ne peut identifier un contenu échangé dans une conversation privée. Il est alors nécessaire de permettre le blocage des utilisateurs malveillants.

Peu de parents utilisent TikTok alors que la majorité des adolescents le font. C'est la raison pour laquelle notre contenu éducatif s'adresse aux parents qui doivent comprendre les usages de leurs enfants en se formant au numérique.

Cette question a été largement évoquée lors de notre précédente audition. Nous avons également abordé la question de la levée de l'anonymat. Pourquoi ne pas imposer la présentation d'une pièce d'identité à l'ouverture d'un compte ? Quels sont les freins en la matière ? Cette obligation pourrait conduire selon moi à davantage responsabiliser les parents.

En Angleterre, les autorités ont tenté de mettre en place un système similaire, mais cela n'a pas fonctionné. Selon les statistiques recueillies, les jeunes ont autant accès à tous les contenus illicites que leurs parents, que ce soit au niveau des sites pornographiques ou des contenus incitant à la haine raciale ou au terrorisme. Il est fondamental de s'associer aux opérateurs téléphoniques, afin d'alerter les parents sur les dispositifs existants dès le stade de l'achat d'un téléphone pour leurs enfants.

Ayant travaillé chez Google, je confirme que le contenu auquel ont accès les mineurs n'est l'objet d'aucun contrôle.

D'expérience, on peut contrôler, depuis son téléphone, les sites et les applications auxquels les enfants ont accès, ainsi que le temps de connexion. Cela montre que les outils existent et qu'un contrôle est possible.

Je vous le confirme. Cependant, les opérateurs téléphoniques ne sensibilisent pas suffisamment à leur existence.

Certaines solutions permettent également de remédier à l'anonymat sur les réseaux sociaux. Dans ce sens, le système Yoti permet de confirmer l'identité d'une personne via l'insertion d'une pièce d'identité. Ce système se développe aux États-Unis et fonctionne très bien.

En réalité, l'anonymat sur Internet n'existe pas. Il est très facile de retrouver un utilisateur à travers son User ID ou son adresse IP.

C'est la raison pour laquelle il faut se doter d'un droit européen qui impose aux plateformes des réponses sur ces sujets. Il ne faut pas que les plateformes puissent se cacher derrière le fait qu'elles ne disposent pas de représentant légal dans le pays.

Premièrement, à l'occasion de notre précédente réunion la semaine dernière, j'ai eu un échange assez vif avec les représentants des plateformes que j'accuse de minorer le phénomène du cyberharcèlement. À la suite de cette réunion, j'ai reçu un grand nombre de témoignages. La majorité des messages d'utilisateurs souhaitait la levée de l'anonymat sur les réseaux sociaux, notamment en scannant une carte d'identité à l'ouverture d'un compte. Une minorité de messages expliquait, en revanche, que la levée de l'anonymat pourrait porter atteinte aux lanceurs d'alerte. Ainsi, je suis convaincu que c'est en prenant en considération tous les arguments que nous pourrons avancer sur ce sujet.

Deuxièmement, comment pouvons-nous vous aider pour que la question du harcèlement et du cyberharcèlement retienne l'attention des plus hautes autorités de l'État et devienne une grande cause nationale ? En supposant que ce soit le cas, pensez-vous que les grands réseaux sociaux s'associeront à cette cause?? En effet, ces plateformes affirment être soumises au droit américain qui garantit la liberté d'expression totale. Comment peut-on rendre compatible la lutte contre le cyberharcèlement avec ces réalités juridiques ?

Enfin et troisièmement, combien coûte l'application Bodyguard et pourquoi il n'existe pas davantage de communication sur cette application??

Je viens à mon tour de découvrir l'application Bodyguard et de la télécharger. Je m'aperçois qu'elle offre une protection sur quatre réseaux sociaux parmi lesquels ne figure pas TikTok. L'intégration de TikTok ou d'autres réseaux sociaux manquants fait-il partie de vos projets ? Par ailleurs, comment faites-vous connaître votre application?? Existe-t-il des applications concurrentes de la vôtre ?

Tout d'abord, nous avons besoin d'établir un accord avec la plateforme afin de pouvoir nous connecter à celle-ci. Twitter, Facebook, YouTube et Twitch nous donnent cet accord. Snapchat a quant à lui été créé sur le principe que les contenus étaient éphémères, ce qui empêche le fonctionnement de Bodyguard. Enfin, TikTok ne souhaite pas partager ses données, ce qui fait obstacle à la création d'un partenariat.

Ensuite, pour comprendre les raisons pour lesquelles nous ne sommes pas davantage connus, il faut se pencher sur notre réalité économique. La technologie de Bodyguard est unique au monde et a été créée par Charles Cohen, informaticien autodidacte. Entre 2018 et 2020, il a énormément travaillé au développement de l'application Bodyguard. Afin de promouvoir son application, il est parti en recherche de financements et a essuyé de nombreux refus de la part des banques, des fonds d'investissement, etc. C'est finalement notre association, qui a permis de lever ces fonds. Nous avons ainsi levé 2 millions d'euros en 2020, ce qui nous a permis de construire une équipe afin de développer le produit et générer de l'argent. Cependant, ce n'est pas suffisant.

Notre application est gratuite, puisqu'elle a une vocation sociale. Nous générons du revenu à l'aide du produit destiné aux entreprises. Cependant, la promotion de ce produit est assez lente. Nous essayons, en la matière, de nous faire accompagner par le milieu associatif et espérons, à l'avenir, générer davantage de revenus pour financer notre fonctionnement.

Il n'existe pas d'entreprise concurrente en Europe. Or, le marché est gigantesque et la présence de concurrents permettrait de mieux éduquer les utilisateurs des réseaux sociaux sur ces questions. Aux États-Unis, une technologie similaire a été créée par une entreprise avec laquelle nous collaborons.

Si je comprends bien, votre technologie est l'une des réponses au problème du cyberharcèlement. Pourquoi n'est-ce pas assez connu ? Est-ce un problème au niveau de la communication ?

Si nous avions plus de financements, nous pourrions réaliser une meilleure communication ! Je profite de ma présence parmi vous, pour vous partager mon agacement. Nous avons été redressés fiscalement, alors que notre entreprise avait seulement un an d'existence. La personne en charge de notre redressement est incompétente et depuis un an et demi, le dossier de redressement n'est pas achevé. Par ailleurs, je dois comptabiliser 150 000 euros de TVA non remboursable et suis toujours dans l'attente de 70 000 euros au titre du CIR. Voici ma réalité de chef d'entreprise. Ainsi, notre problématique est purement financière.

Nos utilisateurs sont actuellement nos meilleurs promoteurs, qu'il s'agisse de politiques ou d'influenceurs. Cette année, notre application a été utilisée par plus de 55 000 personnes, ce que nous considérons comme étant un résultat honorable.

Pour ma part, à titre personnel je suis assez réservé sur la question de la suppression de l'anonymat sur Internet. En effet, la loi Sapin II vient d'ores et déjà limiter l'anonymat et donc les possibilités de dénonciation. Je préfère me focaliser sur la responsabilité des plateformes et sur la création d'un cadre juridique européen.

En revanche, je suis favorable au fait d'imposer aux plateformes un délai de transmission des informations relatives aux auteurs de cyberharcèlement. Pour cette raison, nous recommandons la réalisation d'audits et des stress tests dont les résultats seraient publiés selon le principe du Name and Shame. Les réseaux sociaux sont tellement soucieux de leur réputation qu'ils seront sensibles à cette démarche. Cette démarche est appliquée par les pouvoirs publics dans le domaine de la finance, il serait tout à fait possible de la transposer aux réseaux sociaux.

Par ailleurs, la question de la présence d'une personnalité légale dans chaque pays est centrale. À l'heure actuelle, les structures présentes au niveau national ne sont que des directions commerciales qui n'ont pas l'autorité nécessaire pour décider de la suppression de contenus. Leur seule vocation porte sur la vente d'espaces publicitaires. Les interlocuteurs que vous invitez n'ont pas l'autorité pour faire évoluer les démarches des réseaux sociaux en matière de cyberharcèlement.

Il est ainsi nécessaire de créer des partenariats avec ces structures tout en les responsabilisant. Le bon échelon en la matière est celui de l'Europe. À ce titre, le RGPD constitue un bon exemple de norme européenne capable de s'imposer à l'international. Ainsi, nous sommes en mesure de créer le cadre juridique permettant d'organiser ce sujet.

Concernant la grande cause nationale, j'ai participé à un webinaire avec Jean-Michel Blanquer qui est ouvert à cette possibilité. Madame Brigitte Macron est également très sensible à ce sujet. Le fait d'ériger le cyberharcèlement en grande cause nationale suppose l'organisation d'une journée consacrée à la communication dans toutes les écoles, afin de sensibiliser tous les acteurs sur ces sujets, y compris les médias.

Nous devons créer une approche systémique sur le harcèlement et sur le cyberharcèlement, bien qu'il soit difficile pour l'Éducation nationale de se sentir responsable de violences s'exprimant en dehors des heures de cours. Cette journée pourrait, par ailleurs, être l'occasion de mettre en avant notre guichet unique, comme cela a été le cas pour le 39 19 au sujet des violences faites aux femmes.

Vous avez proposé des audits pour évaluer la réactivité des réseaux sociaux. Selon vous, par qui devraient-ils être réalisés ? Devraient-ils s'assortir d'amendes en cas d'inefficacité??

Dans le domaine de la finance, il me semble que, quand une banque ne réussit pas le stress test, elle doit alors jouer sur les différents postes de son bilan. Je suis favorable dans un premier temps, à bâtir ces audits avec les plateformes et en ayant recours à des auditeurs indépendants, mandatés par les pouvoirs publics. Cette démarche serait similaire à celle du CSA, qui est une autorité indépendante dans le domaine de l'audiovisuel.

Je suis plutôt favorable à ce que les plateformes échouant à ces tests paient des associations. En effet, elles ont tout intérêt à montrer qu'elles travaillent dans ces domaines. Si les grandes entreprises font auditer leurs comptes, c'est dans leur propre intérêt. Par exemple, la société Atos a récemment vu la valeur de ses actions chuter en bourse parce que ses comptes n'étaient pas validés.

Je partage ces propos et ajoute que la plateforme Facebook réalise d'ores et déjà cette démarche. Facebook partage, en effet, de façon transparente toutes les actions qu'elle réalise. Cette démarche est donc très simple à mettre en oeuvre.

C'est effectivement très simple. Cependant, ce n'est pas la même chose que la réalisation d'un stress test.

Les stress tests sont également très simples à mettre en oeuvre.

In fine, ils permettront l'amélioration du produit et de l'algorithme.

Vous avez souligné le fait qu'il n'y avait jamais eu de sanctions en France à l'encontre d'actes de cyberharcèlement en raison de la complexité du droit français.

Au sujet de la prise en compte de la vulnérabilité des mineurs, les faits de harcèlement sont assortis de circonstances aggravantes lorsqu'ils sont commis sur des mineurs de moins de 15 ans. Lorsque les faits sont commis par des mineurs, les dispositions de l'ordonnance du 2 février 1945 s'appliquent. Pouvez-vous expliciter votre approche en la matière ?

À mon sens, il faut que le cyberharcèlement soit intégré dans le code pénal, en mettant l'accent sur la vulnérabilité des mineurs en tant que victime ou harceleur. Dans le RGPD, cette vulnérabilité est soulignée, mais il est difficile d'en comprendre les conséquences pratiques, notamment en termes de sanctions.

Le chef d'établissement doit avoir un rôle privilégié en la matière, afin que les sanctions pénales n'interviennent qu'en dernier recours. En Finlande, 85 % des cas sont réglés par le chef d'établissement et les acteurs qui l'entourent. C'est le modèle que nous devons privilégier afin que le droit pénal ne soit que l'ultime recours.

Dans le cadre de mon activité, les utilisateurs me demandent quel est le protocole à appliquer en cas de cyberharcèlement. Or je ne saurai dire quels sont les bons interlocuteurs en la matière ni comment les contacter. En parallèle de la question juridique, je pense qu'il est aussi nécessaire d'envisager cette question. Je suis convaincu qu'en disposant de protocoles d'actions en cas de cyberharcèlement, nous pourrions avancer plus rapidement sur ces questions.

Un audit débouche sur des protocoles. Quand une entreprise n'obtient pas de bons résultats à un stress test, elle doit être interrogée sur ses protocoles et sur la manière dont ils sont améliorés. Je ne suis donc pas favorable à la sanction, mais davantage porté sur l'idée de nous obliger collectivement à mieux travailler.

Concernant le RGPD et les conditions générales d'utilisation, j'ai interrogé notamment Facebook lors d'une audition par la Commission de la culture et leur réponse ne m'a pas convaincue. À mon sens, ces éléments ne sont pas suffisamment accessibles aux enfants et je me demande si l'une des solutions ne serait pas d'améliorer cette accessibilité.

Ensuite, il me semble que les enfants sont soumis à un mauvais exemple. En effet, dans de nombreux médias américains ou européens, l'insulte est souvent érigée en liberté d'expression.

Enfin, je constate que si un enfant peut facilement harceler ses pairs, il sera tout de même plus hésitant à harceler un adulte. J'aurais souhaité savoir pourquoi, selon vous. Vous avez insisté sur le fait que le harcèlement et le cyberharcèlement sont identiques. Je suis effectivement convaincue de ce point et considère qu'il faut insister sur le fait que le cyberharcèlement n'est qu'une forme de harcèlement dématérialisée.

Je partage votre point de vue sur le fait que tous les outils mis à disposition, tant sur la protection des données personnelles, que les nouvelles politiques publiques, soient accessibles aux enfants. Cela signifie qu'ils doivent être exprimés avec les codes de communication des enfants. Or, une communication ayant pour objectif de simplement dire aux enfants ce qu'ils doivent faire ne peut fonctionner. Les politiques publiques doivent travailler à la mise à disposition d'une application sur le téléphone de l'enfant, la présence d'un bouton de signalement facile sur les applications et l'existence d'un numéro de téléphone accessible. Il faut se doter d'outils utilisant les codes de communication des enfants. Or ces codes s'éloignent progressivement des nôtres. Ces outils doivent permettre aux enfants de comprendre le fonctionnement de la protection des données personnelles dans le cadre du RGPD. Ceux-ci doivent également avoir connaissance des leviers qu'ils peuvent actionner dans ce cadre. En la matière, une approche communicative très formelle et autoritaire n'aura pas d'effet sur les enfants.

Je ne sais pas quelle réponse apporter sur la dégradation du discours à la télévision. Le CSA est sensible à ce sujet et reçoit de nombreuses plaintes à l'encontre de certaines chaînes. Une nouvelle fois, les pouvoirs publics doivent fournir un cadre juridique au sein duquel le CSA puisse agir et délivrer éventuellement des contraventions.

Nous n'avons pas abordé la dimension d'appartenance culturelle des publics. En effet, la cyberviolence diffère selon qu'elle ait lieu par exemple en Asie, en Europe ou aux États-Unis. Ainsi, les plateformes répondront toujours que la règle prévalente est celle du pays de leur siège social. Le code de bonne conduite européen établi en 2016 précise que les plateformes disposent d'une liberté d'action en la matière. Or, ces plateformes étant de droit extraterritorial, elles ne sont pas contraintes par le droit européen. À ce jour, la seule manière de contraindre les plateformes en matière de cyberharcèlement repose sur l'atteinte à leur réputation.

Enfin, je vous rejoins sur la nécessité de rendre accessibles et compréhensibles par les enfants leurs droits et des outils permettant l'exercice de ces droits, sans que ces enfants aient besoin de recourir à l'aide de leurs parents. Sur ce point, la réforme de l'Éducation nationale en 2019 crée des ambassadeurs dans les écoles afin que les enfants puissent trouver un interlocuteur.

Ces éléments vont dans le sens de la nécessité d'ériger le cyberharcèlement en grande cause nationale. Elle permettrait d'associer les médias sur ce sujet.

J'ai également recueilli l'information suivante : une victime de cyberharcèlement réalisant seule les démarches de signalement aurait beaucoup moins de chance de voir sa démarche aboutir que si elle est accompagnée par une association. En effet, les associations sont susceptibles de mentionner l'inaction des plateformes face au cyberharcèlement dans leur rapport annuel.

J'ai également été contacté par Le Campus des Médiateurs. Il s'agit d'une association agréée qui a été créée par des lycées eux-mêmes victimes de harcèlement. Ces derniers nous contacteront prochainement, car il semblerait qu'ils soient très implantés en France.

Je considère qu'il est dramatique que, sans les associations, les victimes n'aient pas autant de chance que leurs signalements soient suivis d'effet. En effet, les associations sont limitées financièrement et dans le cadre de leur activité. Les plateformes discriminent les signalements en fonction de la personne ou de la structure qui la porte, ce qui est anormal.

La fonction du guichet unique devrait être d'orienter vers les associations. Il faudra, dès lors, se doter d'une définition claire du rôle et des fonctions de chacun des acteurs afin de ne pas créer de concurrence.

Enfin concernant l'aspect juridique, il est indispensable que le cyberharcèlement puisse faire l'objet d'une procédure de référé afin que le contenu en ligne soit supprimé, qu'il soit public ou contenu dans une conversation privée.

Je vous remercie, messieurs. Votre contribution a été enrichissante et plusieurs pistes s'en sont dégagées : en faire une grande cause nationale, créer un guichet unique, s'inspirer des pays dont l'approche responsabilise les enseignants pour désamorcer les situations, intégrer le cyberharcèlement dans le code pénal, construire un cadre juridique européen, veiller à l'information et la responsabilisation des parents et adopter une communication adaptée aux enfants. Ces propositions contribueront à nourrir notre rapport.

Ce point de l'ordre du jour a fait l'objet d'une captation vidéo qui est disponible en ligne sur le site du Sénat.

La réunion est close à 18 h 05.