Modérateur Facebook : un job ingrat et psychologiquement difficile

En mai 2017, le quotidien britannique The Guardian dévoilait les règles qui régissent la modération sur le réseau social Facebook, qui fédère aujourd’hui plus de 1,86 milliard d’utilisateurs actifs par mois avec, à la clé, des dérives visuelles et verbales à tout-va qui sont devenues le quotidien de modérateurs basés en Inde notamment avec, pour conséquences, des répercussions psychologiques difficilement supportables pour certains. Zoom sur les règles qui régissent la modération des posts sur Facebook.

Modérateur Facebook

Jusqu’où vont les posts sur Facebook ?

Dans certains cas, nous sommes aux limites de la censure. Dans d’autres, ces limites ont été dépassées depuis bien longtemps. En un seul mois, les modérateurs de Facebook voient passer devant leurs yeux 54 000 cas de vengeance pornographique et de sextorsion, c’est-à-dire l’extorsion via Internet de faveurs sexuelles (ou monétaires), doublé la plupart du temps par du chantage à la webcam. C’est en tout cas ce que dévoile le très sérieux journal britannique sur la base de fuites parvenues jusqu’aux mains des journalistes.

Les chiffres sont effarants : en janvier 2017, Facebook a dû désactiver plus de 14 000 comptes d’utilisateurs en raison de ces types d’abus sexuels, dont 33 cas impliquant des enfants.

Facebook compte sur ses utilisateurs pour dénoncer les contenus abusifs… ce qui signifie probablement que l’ampleur du problème est bien supérieure à ce que l’on connaît aujourd’hui.

Des modérateurs Facebook psychologiquement affectés

Le Guardian est allé plus loin dans son investigation, cherchant à connaître l’impact de ces contenus violents sur les modérateurs chargés de les filtrer. Ces derniers avouent que le contenu de nature sexuelle est le plus difficile à modérer. C’est également celui pour lequel la majeure partie des erreurs sont commises.

Facebook admet la difficulté, mettant en avant l’utilisation d’un logiciel de matching d’images en vue de mettre fin au contenu explicite publié par certains membres. Le réseau social avoue également qu’il est difficile, dans certains cas, de faire la part entre ce qui est acceptable et ce qui ne l’est pas, revoyant ses process et ses règles aussi régulièrement que possible.

Les documents obtenus par Le Guardian mettent en avant, pour la première fois, les règles qui régissent le travail des modérateurs par rapport au contenu de nature sexuelle. Sur l’un d’entre eux, on apprend qu’en janvier seulement, les modérateurs ont alerté leur hiérarchie 51 300 fois, par rapport à des situations potentielles de pornographie de revanche, c’est-à-dire l’utilisation d’images en vue d’humilier quelqu’un ou de se venger contre lui. A cela s’ajoutent 2 450 cas potentiels de sextortion…






Les modérateurs de Facebook ont, à leur disposition, deux boutons appelés hotkeys, leur permettant d’identifier rapidement des cas de sextortion et de pornographie de revanche et sont autorisés à laisser passer des contenus sexuels modérés impliquant des adultes. Au gré de scénarios ressemblant à ceux qui sont utilisés dans les centres d’appel classiques, les modérateurs Facebook sont invités à prendre des décisions quant à la publication des contenus… en 10 secondes maximum.

A côté de la nudité et de la pornographie trônent également la maltraitance d’enfants, la mort et les suicides en direct. Le travail des modérateurs implique une prise de décision extrêmement rapide sur la base de contenus souvent difficiles à supporter, ajoutant à leur fatigue physique et psychique. Il y a quelques mois, les modérateurs ont porté plainte contre Microsoft jugé responsable d’un stress post-traumatique lié à l’exposition de ses collaborateurs à des centaines, voire des milliers d‘images insoutenables impliquant des scènes violentes sur tous les plans. Au vu des informations révélées par Le Guardian, cela ne concerne que la partie visible de l’iceberg…

Pour vous rendre compte du travail de modérateur Facebook, Le Guardian a publié un petit quizz vous demande d’ignorer ou de supprimer certaines photos… Quizz disponible ici !

 

Laisser un commentaire

Votre adresse mail ne sera pas publier.Champs obligatoires *

*