Navigation – Plan du site
Rubriques
COM a vu

Les Nettoyeurs du Web (The Cleaners), de Hans Block et Moritz Riesewieck

Allemagne, 2018, 86 minutes, diffusé le mardi 28 août 2018 sur Arte à 22h30
Cécile Dolbeau-Bandin
p. 239-243

Texte intégral

1Ce documentaire des réalisateurs allemands Hans Bock et Moritz Riesewieck dresse un état des lieux de la purge planétaire des contenus du Web issus des principales plates-formes américaines (Facebook, Google, Twitter, You Tube) effectuée par des prestataires de services. Une grande partie de ce travail est effectuée en grande partie par des sous-traitants des pays des Suds (Afrique subsaharienne et Asie du Sud-Est). Leur démarche d’enquête et la structure d’exposition mettent en lumière la délocalisation géographique de ce travail répétitif, fastidieux et pénible bien méconnue au Nord.

2Cette enquête s’appuie sur des archives télévisuelles (audition de salariés de Facebook, Twitter et Google le 1er novembre 2017 devant la commission judiciaire du Sénat américain…), des ressources issues du Web, sur des échanges avec des salariés et d’anciens salariés des géants américains du web, des experts, des chercheurs et surtout des témoignages de prestataires de services philippins témoignant à visages découverts (ceux qui avaient démissionné avant la diffusion) et de façon anonyme.

3Pour la modération du Web, les algorithmes de détection sont souvent évoqués. Mais on oublie que c’est principalement à Manille aux Philippines que s’effectue manuellement cette purge. Manille est considéré comme le hotspot de la modération de contenus (S. T. Roberts, 2016) en raison de sa main-d’œuvre bon marché et anglophone. Ces salariés philippins ont une énorme pression sociale sur les épaules, leur salaire (deux à trois plus élevé que le salaire moyen) étant en grande partie pour leur famille (Casilli, 2016). Chaque jour, des milliers de travailleurs nettoient le Web de contenus indésirables venant du monde entier jugés violents, haineux, prosélytistes et pornographiques. Ce sont les nettoyeurs du Web ou plus exactement les modérateurs de contenu commercial. Ces sous-traitants sont employés pour trier manuellement les images fixes ou animées infâmes (insoutenables) publiées, relayées et diffusées via le Web : 10 h de travail et 25 000 images à consulter et traiter par jour ! Ces modérateurs de contenu sont supervisés par un contrôleur qui ne tolère que trois erreurs ou fautes professionnelles par mois. Ils appliquent les règles et les consignes édictées par les géants du web pour effectuer leur travail de nettoyage. Ils ne travaillent pas dans les décharges à ciel ouvert de Manilles, mais ils travaillent bien dans « notre » décharge numérique invisible et méconnue.

4« Delete, ignore, ignore, ignore, delete, ignore, delete… », ces mots que répète inlassablement un de ces nettoyeurs résument parfaitement leurs tâches quotidiennes. Bref, ils ciblent les internautes et traitent les signalements effectués par les usagers à propos de contenus qui les choquent ou ne respectent pas les règles de ces plateformes : soit ils suppriment les contenus, soit ils ignorent les notifications. Ce mode de fonctionnement de censure a posteriori attire l’attention car si des milliers de salariés font ce travail d’examen des requêtes, c’est bien sur leurs millions d’usagers que les plateformes comptent pour effectuer le vaste travail de repérage des contenus potentiellement illicites… Et les plateformes restent évasives quand elles sont interrogées par les autorités américaines sur les ressources affectées à ce travail de repérage, car c’est principalement au « consommateur » de l’effectuer.

5Les réactions de ces nettoyeurs face à leur travail sont variées allant du zèle, au devoir, au sens religieux (sacrifice), en passant par un plaisir coupable jusqu’à l’effroi : « un modérateur doit avoir des principes », « Comme dans la vie, il faut avancer », « Le président Dutertre veille sur notre sécurité. Moi, je veille à la sécurité des internautes », « je me sens coupable. Mais je ressens du plaisir en visionnant des images avec des pénis », « La moindre erreur peut entraîner la mort, une guerre, un suicide, un harcèlement. L’opinion des usagers dépend du choix des modérateurs. Ce n’est pas un travail facile », « Ce travail détruit le cerveau. On pense que ce que l’on voit est normal : bombes, décapitations… ». Elles nous montrent le tiraillement de leur tâche mêlant à la fois zèle et dépossession de soi (Sadin, 2016).

6Ainsi, le quotidien de ces modérateurs, ce sont aussi et surtout les souvenirs traumatiques. Quotidiennement, ils regardent, scrutent, visionnent, trient, sélectionnent, conservent ou effacent des milliers de vidéos, pendant plusieurs heures, extrêmement violentes et plus que choquantes : viols, pédopornographies, égorgements, décapitations, tortures, massacres, assassinats… Ils se sentent mal et le disent : ces images fixes ou animées les bouleversent, les ébranlent, les hantent : « j’ai eu envie de démissionner. Le plus choquant, c’est une fellation d’une fillette de 6 ans dans une cabine. Images insoutenables, je suis allée en parler à mon chef. Il m’a répondu « tu n’as pas le choix, ça fait partie du boulot et tu as signé un contrat ». Elle poursuit : « je me sacrifie tout le temps. Je ne suis plus la même : c’est comme un virus qui s’insinue dans mon cerveau. Et mon corps réagit et je vais démissionner. Je suis en train de partir en vrilles ». Une autre explique : « je protège les internautes. Et moi, en faisant ce travail, je ne suis pas en sécurité. On se met en position d’esclaves. Mais ce n’est pas acceptable ». Une psychologue accompagne ces salariés de l’ombre, mais ça ne suffit pas. Et l’impact psychologique (stress post-traumatique) de certaines images fixes ou animées fragilisent et conduisent parfois à un acte désespéré. Une modératrice raconte qu’un « collègue spécialisé dans les vidéos d’automutilation s’est pendu. Rien n’a été ébruité au nom du business ».

7Mais les règles de modération imposées par les grands groupes trouvent bien vite leur limite, dès lors que la question de l’art, du journalisme de guerre, de la politique fait irruption. Des ONG ont besoin de cartographier des zones de combat et de recenser les morts dans ces zones, des photographes de guerre, des peintres (Illma Gore), des caricaturistes, des activistes… ont besoin d’accéder, de diffuser et de réaliser des images (photographies, œuvres picturales, satires) pour témoigner, dénoncer, informer et sensibiliser l’opinion publique. Ainsi, une censure se met en place et se répand, correspondant bien à l’image puritaine des États-Unis, imposée et orchestrée par les géants américains du Web. Leur attitude de pouvoir de décision, de vouloir faire l’histoire et d’imposer leur vision de l’histoire affecte le pluralisme des démocraties (Le Crosnier, 2018).

8Ces hommes et ces femmes, simples exécutants, simples chiffonniers du net, sont en quelque sorte les nouveaux ciseaux de la censure californienne. Leur point de vue permet de poser le rôle et les responsabilités de ces plateformes comme éditeurs de contenus (et pas simples hébergeurs, comme ils aiment à se défausser) qui sélectionnent et hiérarchisent des contenus (nettoyeurs et algorithmes de prescription) en suivant ce qui finit par ressembler à une ligne éditoriale, aussi personnalisée soit elle pour chaque utilisateur. À l’image d’Anastasia, cette allégorie de la censure, ils censurent à tort et à travers en respectant les choix aléatoires de ces plateformes sur-puissantes. Cette purge arbitraire est renforcée dans certains pays comme la Turquie où la censure est importante, la Birmanie où Facebook ne stoppe pas la haine envers les rohyngyas et la rend virale. Cette censure du Web se nourrit de petits arrangements afin que ces plates-formes soient présentes dans ces pays. Et bien entendu, elles veillent à ne pas enfreindre les règles en vigueur dans ces pays, c’est-à-dire celles qui sont considérées comme illégales dans ces pays totalitaires.

9Il est dommage que ce sombre et édifiant documentaire n’évoque pas assez les procédures de purge établies par ces plates-formes (critères…). On apprend juste qu’ils doivent les appliquer et que leurs compétences requises sont assez sommaires (se servir d’un ordinateur). Ils suivent également une formation de moins d’une semaine pour apprendre plusieurs centaines d’exemples (groupes de terroristes avec leurs drapeaux, leurs uniformes…), pour apprendre et reconnaître certains mots anglais comme pussy, tits, sex-toys… et surtout, ils doivent assimiler toutes les instructions de Facebook, Google, Twitter, YouTube. Mais pour des raisons de protection des sources, on ne connaît pas la journée type d’un modérateur : leur rythme de travail, leur lieu de travail, leur cadre de travail, leurs relations avec leurs collègues, leur contrat de travail, leur salaire, leurs sanctions, leurs objectifs de rentabilité…

10Néanmoins, ce documentaire a le mérite d’alerter à la fois sur les conditions de travail de ces nettoyeurs du Web et les nouvelles inégalités Nord-Sud émergeant à travers ces plateformes (Casilli, 2016) où la géographie des travailleurs des TIC se retrouve finalement dans des stratégies de localisation « classiques ». Une discrimination géographique dans les plateformes de travail numérique (Galperin & Geppi, 2017) émerge où les Suds deviennent les producteurs de micro-tâches laborieuses pour les Nords (Casilli, 2016). Ces géographies asymétriques s’expriment par la création de dépendances et de déséquilibres de richesse et pouvoir entre Nords et Suds renforçant l’extension de l’impérialisme (suppression de la diversité des horizons nationaux et internationaux, imposition arbitraire d’une universalité des conditions d’usage) (Casilli, 2016). On assiste bien à un « déplacement des enjeux et des oppositions traditionnelles entre dominants et dominés » (Le Crosnier, 2018) marqué par une globalisation économique et fragmentation humaine (Henry, 2002).

11Ce documentaire éclaire aussi sur la nouvelle représentation de ce « qui est universellement tolérable ou intolérable » sur le Web (S. T. Roberts, 2016) estampillé par les géants de la Silicon Valley. Leur hégémonie leur permet de filtrer, contrôler et influencer les contenus en circulation sur le web en s’emparant de plus en plus de pouvoirs de censure et de régulation (Badouard, 2017), mais ajustés dans des rapports protéiformes aux principes d’éthique et de légalité liés aux états. Ces plateformes américaines édictent leur propre réglementation et la font appliquer sur les services qu’ils proposent dans le monde entier (Le Crosnier, 2018, Cardon & Casilli, 2016). Comme le signale David Kaye à la fin du documentaire, rapporteur spécial des Nations Unies sur la liberté d’expression, ce lissage des contenus imposé par Facebook, Google, Twitter et You Tube… est en train d’appauvrir notre système informationnel, d’homogénéiser notre façon de penser et d’estomper notre sens critique. Une question philosophique adressée à ces géants du web reste en suspens : peut-on être sûr de bien agir au nom de l’éthos californien (Sadin, 2016) ?

Haut de page

Bibliographie

Badouard R., 2017 - Le Désenchantement de l’internet. Désinformation, rumeur et propagande, Paris, FYP éditions, 179 p.

Cardon D. et Casilli A., 2015 - Qu’est-ce que le Digital Labor ?, Bry-sur-Marne, INA, coll. « Études et controverses » 104 p.

Casilli A., 2016 - Digital platform labor : transformations du travail et nouvelles inégalités planétaires, Intervention aux Ministères économiques et financiers, Bercy, 13 septembre 2016, URL : http://www.casilli.fr/2016/10/01/digital-platform-labor-transformations-du-travail-et-nouvelles-inegalites-planetaires/

Henry J.-R., 2002 - « Le renouveau de la problématique Nord-Sud », Revue Projet, 2002/2, n° 270, p. 56-65. DOI : 10.3917/pro.270.0056. URL : https://www.cairn.info/revue-projet-2002-2.htm-page-56.htm

Le Crosnier H., 2018 - Numérique et démocratie, Journée d’étude organisée et animée PandHemic, Université de Caen, mardi 16 octobre 2018, CERReV/ERLIS, URL http://www.unicaen.fr/recherche/mrsh/sites/default/files/forge/attach/numerique_democratie-ok.pdf

Roberts Sarah T., 2016 - Commercial Content Moderation : Digital Laborers’ Dirty Work, Available at :http://works.bepress.com/sarahtroberts/1/

Sadin É., 2016 - La Silicolonisation du monde. L’irrésistible expansion du libéralisme numérique, édition L’échappée, Paris, 293 p.

Haut de page

Pour citer cet article

Référence papier

Cécile Dolbeau-Bandin, « Les Nettoyeurs du Web (The Cleaners), de Hans Block et Moritz Riesewieck », Les Cahiers d’Outre-Mer, 277 | 2018, 239-243.

Référence électronique

Cécile Dolbeau-Bandin, « Les Nettoyeurs du Web (The Cleaners), de Hans Block et Moritz Riesewieck », Les Cahiers d’Outre-Mer [En ligne], 277 | Janvier-Juin, mis en ligne le 01 janvier 2018, consulté le 19 novembre 2019. URL : http://journals.openedition.org/com/9065

Haut de page

Auteur

Cécile Dolbeau-Bandin

Université de Caen

Haut de page

Droits d’auteur

© Tous droits réservés

Haut de page
  • Logo Presses Universitaires de Bordeaux
  • OpenEdition Journals