Lors d’un récent procès, Twitter a indiqué n’employer que 1 867 modératrices pour veiller au contenu posté par quelques 400 millions d’utilisatrices (du côté de Facebook, il y en aurait environ 20 000). Généralement, les plateformes sociales sous-traitent à plusieurs sociétés ce genre de missions, en fonction de la langue notamment. On sait que l’ampleur de la tâche est bien trop grande pour le peu de personnel qui lui est alloué… mais on sait aussi à quel point il s’agit d’un travail très dur psychologiquement. D’ailleurs, l’an dernier, Facebook a dû indemniser des modératrices, frappées de traumatismes après avoir vu des centaines de milliers de messages, images et videos violentes.
C’est un travail très dur, et c’est précisément ce qui intéresse Je ne suis pas un robot, une websérie québécoise mise en ligne par Télé-Québec la semaine dernière. Elle s’ouvre sur cette motivation lancée au début de journée dans l’open space d’un bureau de modératrices : « Pensez à la petite fille de 6 ans, qui ouvre sa tablette, qui voit pas de sexe anal ? Bah ça c’est grâce à nous, ça ! »…
Avec seulement 6 épisodes de 6 à 12 minutes, on pourrait se dire que Je ne suis pas un robot va être l’affaire de, quoi, allez ? Une petite heure ? Mais ça, c’est sans compter sur le temps que vous allez passer ensuite à ressasser ce que vous avez vu.
Depuis 8 ans, Marie-Chantal travaille à SoulShine, une entreprise où les salariées s’entendent dire à longueur de journée qu’elles rendent internet meilleur, parce qu’elles sont chargées de modérer les contenus des plus grandes plateformes du monde. Huit années de bons et loyaux services, dans ce métier, ce n’est vraiment pas rien, mais « MC » a été promue récemment à un poste de manager, et supervise maintenant une petite équipe d’une douzaine de personnes. Elle voit toujours passer des heures et des heures de videos, mais désormais son rôle est de contrôler les choix de modération de ses subalternes. C’est un métier difficile, mais il faut bien que quelqu’un le fasse.
Dans son bureau entièrement décoré avec des figurines d’animaux mignons (chats, chiens, dauphins…), ses T-shirts avec des chatons adorables, et sa passion sans commune mesure pour les crêpes sucrées et les milkshakes à la fraise du resto d’à côté, Marie-Chantal ne manque pas de raisons d’être de bonne humeur. Son énergie positive semble parfois extrême, mais c’est peut-être ce qui lui a permis de tenir aussi longtemps. Elle n’est pas toujours très sûre d’elle, mais au moins, elle s’entend bien avec son supérieur direct, Nick, dont elle ne semble pas remarquer qu’il est un faux-cul complet. Vraiment tout irait bien au bureau, si…
Je ne suis pas un robot démarre alors qu’une employée travaillant dans l’équipe de Marie-Chantal s’est récemment suicidée, comme le rappelle discrètement un panneau bloquant l’une des fenêtres de l’open space. Il n’y a pas vraiment lieu de se demander pourquoi : Je ne suis pas un robot nous montre quel genre de videos l’équipe doit regarder et modérer à longueur de journée.
Si vous avez fréquenté internet, et évidemment vous avez fréquenté internet, alors vous savez exactement de quelles videos il s’agit. Les 5 options de modération proposées par le logiciel interne de l’entreprise tentent de diviser en catégories propres et bien rangées ce qui est en réalité un groupe de dégueulasseries les plus sordides. Ca va faire plus de 20 ans que je suis sur internet, et les videos que modèrent les employés de SoulShine, je les ai vues ; pas exactement celles-là, mais les nuances sont minimes. Je me dis parfois que j’en voyais bien plus avant ; j’ai échappé à 2 Girls, 1 Cup (de justesse), mais j’en ai vues d’autres un peu moins célèbres et aussi dérangeantes. Certaines me hantent encore. Il n’y a rien de nouveau, dans ce que montre Je ne suis pas un robot, mais ça n’en est pas moins choquant. D’ailleurs la série se fait un devoir de ne pas simplement les suggérer, mais bien de les montrer ; la série a tourné sa propre B-roll (choisissant d’ailleurs uniquement de faire modérer à ses personnages des videos, et non des textes ou images statiques), et a donc pris le soin de trouver le bon dosage, mais on va bel et bien assister à du contenu extrême.
C’est comme si la série s’était dit : « Puisque Marie-Chantal doit les voir, alors vous aussi, pas d’échappatoire. Voilà ce que ces modératrices voient à longueur de journée pour que vous n’ayez pas à les voir ; eh bien aujourd’hui, vous allez voir. Vous allez prendre la mesure de ce que ces employées voient pour vous protéger ». La démarche a du sens, dans le cadre du propos que tient la série. Reste que ça n’en est pas moins difficile.
Au début, MC semble faire contre mauvaise fortune bon cœur ; la phrase de motivation qui ouvre la série, c’est elle qui la lance, avec un grand sourire, à son équipe qui a déjà les écouteurs vissés sur les oreilles. C’est un boulot qui transforme en zombie, mais Marie-Chantal semble y avoir échappé. Elle croit en ce qu’elle fait, elle est investie, elle veut bien faire parfois jusqu’à l’excès… mais quelle est l’alternative ? Si elle ne remplit pas sa mission comme un sacerdoce, alors qui sait ce que vous allez voir demain sur les réseaux sociaux.
Les choses basculent lorsqu’elle doit valider la modération d’une video dans laquelle un mystérieux tueur masqué met un petit chaton dans un four à micro-ondes. Pour elle qui aime tant les chats, c’est la goutte d’eau. Elle commence à avoir vraiment du mal à regarder ce qui apparaît sur son écran. Dans le même temps, elle doit également faire face à une nouvelle employée un peu rebelle, qui semble prendre un malin plaisir à lui parler du fameux tueur de chats. Oui, pluriel, ce n’est pas la dernière video qu’on verra de lui. Il devient dés lors de plus en plus clair que Marie-Chantal commence à lâcher la rampe.
…Sauf qu’elle ne fait pas seulement face à l’impact de ces videos, mais aussi à la violence du travail lui-même. Alors certes, Je ne suis pas un robot n’a pas beaucoup de temps pour explorer cet aspect des choses, mais par petites touches, la série nous dit, aussi, que le mode de management empire largement l’état psychologique dans lequel se trouvent les modératrices. La cadence infernale à laquelle les videos doivent être vues et modérées, les conséquences lourdes lorsque des erreurs d’appréciation sont faites, l’open space sombre où personne n’a le temps (ni l’envie) de se parler, la façon dont les mesures de sécurité draconiennes impliquent de laisser à l’accueil tout effet personnel (sac, téléphone portable, etc.).
Effectivement, il est attendu des modératrices qu’elles soient des robots, aussi performantes et parfaites que la modération automatique, voire plus… parce que sinon, nul doute qu’on paierait pour une modération automatique sans s’embêter avec des employées. Comme si être modératrice n’était pas assez compliqué psychologiquement, la violence capitaliste vient donc s’ajouter à tout cela.
Je ne suis pas un robot ambitionne toutefois un peu plus que de simplement nous parler du travail de modération, et comment il fragilise la santé mentale. Plus la série avance, et plus elle nous parle tout simplement de l’humanité lorsqu’elle est sur internet. Parce que, ces videos, elles ont des gens qui tombent dessus, mais aussi des gens qui les font.
Dans le dernier épisode, un personnage assènera : « Les humains y sont dégueulasses, pis y vont jamais arrêter de l’être. La seule affaire qu’on peut peut-être faire, c’est s’arranger que ça paraisse pas trop ». Et je crois que de tout ce que Je ne suis pas un robot m’a montré pendant sa courte existence, c’est ce qui va me hanter le plus…
