Intervention de Capucine Tuffier

Sur le manque de concret et les campagnes un peu marketing, je n'ai pas eu le temps de le mentionner précédemment dans mes propos mais vous avez raison, il n'y a pas que la modération, il n'y a pas que le signalement, il y a aussi ce qu'on peut faire en amont. Sur Instagram, nous nous sommes saisis ce sujet sérieusement puisqu'on a développé très récemment trois outils assez pionniers en matière de lutte contre le cyberharcèlement.

Le premier est l'outil « restreindre ». La manière dont on a conçu ce produit est presque plus intéressante que le produit lui-même. On s'est rendu compte, en consultant des jeunes touchés, des parents, des éducateurs, que bloquer une personne impliquait que l'on n'ait pas accès à son contenu, et que cette personne n'ait pas accès au nôtre. Les gens disaient que cela ne les aidait pas du tout et qu'ils préféraient avoir la possibilité de restreindre cette personne pour avoir accès au contenu du potentiel harceleur, et plutôt limiter les interactions. Quand on active la potentialité « restreindre », le potentiel harceleur ne peut pas contacter la présumée victime, il ne peut pas commenter la publication sans l'accord de la victime, mais la victime peut toutefois avoir accès au contenu du harceleur. C'est important car si elle arrive à l'école et qu'elle n'a pas vu ce qui a été publié sur les réseaux sociaux, cela peut être avoir des conséquences dramatiques. J'insiste sur cet outil « restreindre » assez pionnier qui permet d'offrir une solution alternative aux réseaux sociaux.

Le deuxième outil est « l'avertissement de commentaires ». L'intelligence artificielle, si on s'apprête à écrire quelque chose d'offensant ou d'inapproprié en commentaire ou en légende d'un post, va détecter cela, envoyer un message d'avertissement en demandant si on est bien sûr de vouloir publier ce contenu. Si l'utilisateur décide tout de même de publier le contenu offensant, il recevra un nouvel avertissement lui indiquant les potentielles conséquences qu'emporte cette publication : il pourra être masqué, le compte pourra être désactivé s'il est contraire à nos standards...

J'insiste sur cet outil qui est très important en la matière.

Le troisième outil intéressant est le « filtrage par mots clés ». Sur Instagram, il est possible d'indiquer dans nos paramètres un mot, une expression, ou même un émoji que l'on trouve offensant ou inapproprié. Dès qu'un commentaire ou un message ira dans ce sens-là, il ne sera même pas visible car automatiquement supprimé du flux afin d'empêcher d'être confronté directement à ces potentiels contenus offensants.

Je voulais insister sur ces outils qui constituent une forme de prévention et non pas du marketing car ils sont concrets et à disposition de nos utilisateurs. Je ne reviendrai pas sur nos partenariats et nos campagnes de sensibilisation car ce n'est pas ce que vous voulez entendre.

Le dernier sujet que j'aborderai est difficile et concerne le suicide ou l'anorexie. Lorsque l'on cherche dans la barre de recherche Instagram les termes « suicide » ou « boulimie », aucun contenu n'apparaît. Un avertissement énonce tout de suite : « vous ne voulez pas voir ça. Voici les ressources pour régler ce problème. Voici vers qui vous tourner si vous vous sentez concernés par le sujet ».

Je pense qu'il était très important de mentionner ces outils puisque ce sont, à mon sens, des choses concrètes.