Le 18 octobre 2023, Point de Contact publie la 3ème édition du Livre Blanc relatif au traitement des signalements de contenus illicites et à la protection des professionnels du secteur Trust & Safety.
Fortement engagée pour la prise en compte des spécificités du secteur dans lequel elle évolue, l’association conserve un focus sur les problématiques liés aux contenus terroristes et d’exploitation sexuelle des mineurs, mais affirme dès le titre du Livre Blanc son ambition large et multisectorielle : « Modération des contenus illicites en ligne : Opérations et protection des professionnels »
L’association proposait déjà 2014, aux côtés de Gandi.net un Guide d’Usage pour la Lutte Contre la Pédopornographie, et en 2019, la première version d’un Livre Blanc évolutif : Pédopornographie et propagande terroriste en ligne .
A l’époque, le contexte n’est pas le même mais déjà, Point de Contact prône le collectif. Jean-Christophe le Toquin en témoigne : “ Faute de cadre juridique et sociétal bien établi, il fallait se serrer les coudes, définir les bonnes pratiques opérationnelles, aborder – timidement – la question difficile de l’impact psychologique de l’exposition répétée à des contenus choquants. Dans le premier “guide d’usage” qui fut publié en 2014, un titre de section accroche le regard : « Vous n’êtes pas seuls »”. En témoigne la nouvelle structuration de l’écosystème, résultat d’un travail collaboratif engagé au sein de l’écosystème et presque 10 ans plus tard : désormais, “la diversité des professionnels, dans l’industrie, les associations et le secteur public judiciaire se regroupe sous un nouveau vocable, qui a le mérite d’exister à défaut d’avoir sa traduction française, celui de la Trust & Safety”.
Pour cette nouvelle édition, Point de Contact a de nouveau piloté les travaux d’un comité de rédaction qui rassemblait des experts de tous horizons (plateformes privées, hébergeurs, autorités publiques, médecins et magistrats, notamment), tous concernés et convaincus de la nécessité d’investir des travaux de fond sur cette thématique. Désormais, “Cette nouvelle actualisation du texte par Point de Contact s’inscrit dans la dynamique de responsabilisation des acteurs du monde numérique, tant sur le plan de la régulation des contenus et des comportements en ligne que sur celui de la prise en charge des besoins spécifiques de ces corps de métier. La sortie de cette édition intervient à l’automne 2023, au cœur du processus d’entrée en vigueur du Digital Services Act à l’échelle européenne.” (extrait du Livre Blanc “Modération des contenus illicites en ligne – opérations et protection des professionnels : contenus terroristes et d’exploitation sexuelle de mineurs” 2023)
A l’aune d’un élan de normalisation et d’harmonisation des pratiques qui s’accélère dans le secteur numérique, la réédition de ce document a pour ambition de proposer un socle commun de bonnes pratiques professionnelles en matière de traitement opérationnel des contenus choquants et potentiellement illicites. Au cœur de cette démarche se trouve la sécurité physique et l’équilibre psychologique des professionnels, en première ligne pour nous protéger.
Découvrez l’analyse de Yann Lescop – juriste à Point de Contact :
L’avenir des professionnels de la Trust & Safety se situe-t-il sur le terrain de la normalisation ? – L’exemple du Livre Blanc de Point de Contact : un travail normatif à vocation consensuelle
Le secteur du numérique repose sur un écosystème complexe et changeant, où innovation et régulation jouent des rôles cruciaux.
Le processus de normalisation s’inscrit ainsi aux cœurs de ces enjeux. Il repose sur l’élaboration de normes techniques, de protocoles de sécurité et de directives éthiques, lesquels sont indispensables aux fins d’assurer la sûreté des réseaux de communications électroniques. Les normes qui en résultent visent à favoriser l’harmonisation des pratiques industrielles, la sécurité des produits et services numériques, ainsi que la confiance des utilisateurs. L’une des principales caractéristiques d’une telle standardisation réside dans le fait qu’elle prend vie sur une base volontaire et implique une collaboration, un consensus entre différentes parties prenantes. En se donnant pour objectif principal d’offrir un cadre normatif structuré, collaboratif et pédagogique, elle guide les entreprises et les professionnels du secteur tout en encourageant une innovation responsable.
Ce phénomène, qui pourrait être rattaché à une émergence d’une forme de droit souple, non-coercitif, trouve un terrain fertile dans des domaines où les outils et les pratiques sont sujets à des mutations récurrentes, là où les usages évoluent rapidement, comme sur Internet. Cette source de règles non-contraignantes peut ainsi être vue comme un instrument complémentaire indispensable, disposant d’une capacité de s’adapter plus rapidement et plus efficacement aux enjeux et besoins immédiats du secteur. Par contraste, la loi établit des règles contraignantes dont la violation entraîne sanction. Toutefois, le processus législatif intervient le plus souvent en réaction à une difficulté constatée, une fois que les problèmes ont été identifiés. Quant à la durée s’écoulant entre son élaboration et son application elle peut s’étendre sur des mois, voire des années… Sur l’exemple de la protection de la vie privée en ligne, des législations ont vu le jour en réponse à des incidents de collecte abusive de données, ce qui conduit à considérer la loi comme un correctif quelque peu tardif pour résoudre des enjeux émergents mais structurels.
A cet égard, une facette souvent méconnue du monde digital concerne le rôle essentiel des professionnels du secteur Trust & Safety, notamment ceux dont le rôle est d’assurer la modération de contenus en ligne. Ces experts sont chargés de maintenir la sécurité et la qualité des plateformes numériques en analysant et en modérant les contenus diffusés sur leurs services. Ce rôle crucial peut cependant s’avérer psychologiquement éprouvant. La modération de contenus pourra exposer les professionnels à des contenus choquants, violents ou haineux, ce qui peut avoir un impact sérieux sur leur bien-être psychologique. Il est impératif de prendre en considération les problématiques liées à leur santé mentale et de mettre en place des mesures de soutien adéquates afin qu’ils puissent accomplir cette mission de manière diligente et équilibrée.
Dans cette optique, la convergence entre droit souple et protection des professionnels du secteur Trust & Safety apparaît comme une évidence. Les normes éthiques et les lignes directrices de la normalisation doivent inclure des dispositions destinées à garantir que les professionnels de la modération bénéficient d’un environnement de travail sain et sûr.
Un exemple concret de cette interconnexion se trouve notamment au sein du Livre Blanc de l’association Point de Contact, dont la troisième édition a été publiée en octobre 2023. Cette publication est le fruit d’une réflexion collective quant aux enjeux complexes de la modération de contenus, laquelle a été enrichie d’une pluralité d’expertises émanant aussi bien de la sphère privée que publique et transcendant les domaines professionnels, en faisant le pont entre plateformes, hébergeurs, autorités administratives, magistrats et psychologues. Ce type d’initiative se distingue par sa capacité à mettre en lumière l’importance d’un travail normatif à vocation consensuelle et permet une analyse approfondie, théorique et opérationnelle, des défis auxquels sont confrontés les espaces numériques. En exposant les réalités nécessairement troublantes de la modération de contenus en ligne, ce Livre Blanc formalise un ensemble de mesures de soutien et de protection à destination des professionnels impliqués, et ce, à de multiples échelons.
De tels procédés d’harmonisation ont l’avantage de pouvoir être à la fois source de recommandations et porteurs de revendications. Cette qualité hybride en fait un outil malléable et précieux, une réalité qui n’a manifestement pas échappé au secteur « Cyber ».
Yann Lescop – Legal advisor Trust & Safety, Point de Contact
Fondée en 1998, Point de Contact est une association loi 1901. Soutenue par la Commission européenne et par le Comité Interministériel de Lutte contre la Délinquance et la Radicalisation (CIPDR), l’association s’est rapidement imposée comme une référence auprès des autorités dans le traitement des signalements de contenus manifestement illicites en ligne. Point de Contact lutte contre les cyberviolences, y compris les violences sexuelles sur mineurs, la haine en ligne et les contenus à caractère terroriste sur Internet. Membre fondateur du réseau international de points de signalement INHOPE, Point de Contact œuvre aux côtés de ses partenaires à l’échelle européenne et mondiale pour le retrait de contenus d’exploitation sexuelle de mineurs. Enfin, Point de Contact s’investit pour la reconnaissance et la protection des professionnels exposés au quotidien aux contenus violents.
Suivez l’actualité de Point de Contact sur Twitter, Facebook, Instagram ou LinkedIn.
Contact presse: presse@pointdecontact.net