Navigation – Plan du site

AccueilNuméros15-1EssaisPetit mode d’emploi des médias so...

Essais

Petit mode d’emploi des médias sociaux à l’usage des personnes malveillantes

Short instructions for villains on how to use social media
Breve manual sobre el uso de los medios sociales por personas malintencionadas
Mark Bernstein et Clare Hooper
Traduction de Rigas Arvanitis

Résumés

Aujourd’hui, nous ne sommes pas encore parvenu à l’état de super-malveillance planétaire prête à l’emploi, mais il est tout de même possible de déclencher des attaques malveillantes numériques simples depuis un bureau. Les périls des histoires fictives/inventées et du mensonge peuvent maintenant être augmentés par une personnalisation de masse qui permet à de puissants malfaiteurs de façonner la perception de la réalité selon leurs volonté. Les médias sociaux permettent aux personnes malveillantes modernes de déployer des actes malveillants avec une efficacité surprenante. Les récits numériques interactifs (digital storytelling) nous permettent d'exploiter la vulnérabilité et la maladie pour en tirer profit et nous aident à banaliser la malveillance. Comme l'impact des techniques pour exercer notre malveillance est radicalement asymétrique, nos vilaines intrigues sont difficiles et coûteuses à déjouer.

Haut de page

Notes de la rédaction

Cet article a été présenté pour la première fois dans les Actes de la Conférence Hypertext’2018 de l’ACM et plusieurs de ces idées ont aussi été présentées par Mark Bernstein à Paris [Villain's Guide to Social Media and Web Science, ACM Conference on Hypertext and Social Media, Hypertext’18. Présentation à Paris : Keynote speaker, Second International Congress on Web Studies, Université Paris 8, Paris, France, 2-5 Octobre 2018.].

Il est accompagné d’un texte intitulé « La perte de l’unité : note introductive de l’article de Berstein et Hooper » rédigé par Rigas Arvanitis, traducteur de l’article.

Texte intégral

Introduction

  • 1 Bande dessinée : Le rayon nitron de Kelvin Gosnell et Don Lawrence.
  • 2 Il est peut-être inutile de rappeler la force obscure et Dark Vador dans la Guerre des étoiles
  • 3 Goldfinger est un film célèbre de James Bond réalisé par Guy Hamilton, avec Sean Connery (1964).

1L'innovation technologique nous permet de parvenir à nos fins malveillantes à une échelle toujours plus grande. En effet, la technologie offre aujourd’hui de nombreuses possibilités pour satisfaire les caprices et les désirs des personnes qui, comme nous, ont des objectifs malveillants. Mais contrairement aux hordes de vandales de l'Antiquité qui étaient célèbres par les destructions qu’elles provoquaient dans leur sillage, la technologie moderne nous permet d’infliger tous les maux avec une touche personnelle, particulièrement efficace. De plus, certaines œuvres spectaculaires de destruction de notre ère moderne, par exemple le gigantesque Rayon Nitron de M. Ming1, l'étoile de la mort de D. Vader2 ou l'attaque thermonucléaire sur les marchés internationaux de A. Goldfinger3, nécessitent un investissement démesuré : en effet, toutes ces précédentes approches technologiques de la malveillance reposaient sur des machines de l'apocalypse, peuplées de zombies, de dispositifs thermonucléaires ou des technologies qui peuvent déclencher des catastrophes majeures. À l’inverse, les nouveaux médias permettent aux personnes malveillantes de déployer des actes de cruauté à moindre coût et à une échelle sans précédent. Il est vrai qu’infliger des petites cruautés et des préjudices à l’échelle locale peut être aussi satisfaisant que devenir le Maître du Monde, ou que provoquer des destructions massives ou encore qu’invoquer la puissance des dieux antiques. Mais il faut bien dire qu’obtenir des résultats de très grande envergure a son propre charme et pour cela nous devons définir un ensemble comportant un nombre significatif de victimes afin d’atteindre ces résultats statistiquement significatifs.

2Notre travail ici se limite à la malveillance exercée au travers des médias sociaux et de toutes les technologies narratives interactives. Mais nous ne nous intéressons pas ici à leur utilisation à des fins purement criminelles comme le blanchiment d'argent, le vol ou le détournement de fonds. Nous nous intéressons à ces objectifs malveillants qui ont existé de tout temps comme la tentation de dominer des villes, des nations ou même des planètes toutes entières, ou encore accumuler des richesses au-delà de toute limite (la fameuse hubris), ou encore nous attacher à détruire les rêves de nos congénères, et infliger la douleur de manière générale.

  • 4 Mark Bernstein utilise le terme « asymétrique » qui vient des débats dans les années soixante sur l (...)

3Notre argument principal est que les nouvelles technologies interactives (les médias sociaux) offrent un avantage asymétrique à la malveillance.4

Le prix des mensonges

4Les gens se méfient de la fiction depuis Platon pour de bonnes raisons, car il n'y a qu'une seule vérité qui peut être obscure et mal comprise, alors qu’il est possible d’inventer un grand nombre de mensonges, de les choisir pour leur évidence et les affirmer avec certitude, ce qui est toujours convaincant.

  • 5 Les tests A/B sont une technique de marketing, particulièrement employée dans la communication en l (...)

5Si nous ne savons pas quelle histoire inventer pour servir nos fins malveillantes, il existe des techniques qui permettent d’analyser les sentiments des usagers en temps réel et des tests A/B5 qui mesurent l’adoption et la propagation de nos histoires (Ramachandran & Wang, 2018). Nous pouvons ainsi savoir avec exactitude, en quelques minutes, quels messages sont les plus attrayants parmi différents publics. Nous pouvons ainsi nous concentrer sur les histoires qui plaisent le plus à notre public en évitant de perdre notre temps avec des histoires qui, même si elles sont vraies, sont moins efficaces. Nos succès alors nous appartiennent et nos échecs sont peu coûteux.

6À l’époque révolue de l'imprimé, des recherches philosophiques et empiriques approfondies sur la nature de la lecture et la formation du sens ont remis en cause de nombreuses certitudes. Elles montrent que les lecteurs jouent un rôle crucial dans la formation du sens des textes ; une grande partie de notre compréhension d'un texte - qu'il s'agisse d'un roman, d'un tableau ou d'une pièce de théâtre télévisée - dépend de nos propres connaissances, bien au-delà de ce qu’évoque l'œuvre elle-même. Votre lecture de Hamlet sera différente de la mienne (heureusement !) et vous ne pouvez pas non plus vivre Hamlet aujourd'hui comme vous l'aurez fait il y a trente ans. Cette compréhension postmoderne a ouvert de nouvelles perspectives en matière de théorie et de critique jusqu’à mettre en doute l'idée même de vérité. Si vous et moi vivons Hamlet et le New York Times différemment, comment déceler ce qui est authentique ou réel ? (Eagleton, 2003).

7Cette brève crise solipsiste a été résolue avec l’Holocauste car, du moins dans les milieux universitaires, nous avons tous été témoins de l'Holocauste, ou nous connaissons des gens qui l’ont été. Remettre en cause l’existence d’un évènement de cette ampleur soulève des objections trop importantes. Mais hors du monde universitaire, dans les franges lunatiques de la droite, la négation de l'Holocauste et la suprématie blanche ne sont pas seulement des conséquences acceptables de la Théorie critique qui a cours dans nos milieux : ce sont, au contraire, des raisons pour embrasser la Théorie. Si l'histoire penche vers la Justice, peut-être pourrait-elle être détournée en inventant une réalité différente, l’histoire serait alors différente et donc la vérité serait aussi différente.

  • 6 Dans le film “The Naked City” (1948) de Jules Dassin, le narrateur dit : “There are eight million s (...)

8Des millions de mensonges circulent dans la ville nue, alors qu’il n’existe qu’une seule vérité.6 Nos adversaires moralisateurs débattent sans fin pour définir et affiner cette vérité, et la défendent même si le résultat est contraire à leur intérêt personnel et politique. Pendant qu'ils analysent les nuances et affrontent des vérités gênantes, nous inventons nos propres « vérités », qui sont nombreuses, et nous testons leur efficacité de manière rigoureuse. Qui plus est, nos contre-vérités sont plus intéressantes que la vérité. Ainsi, nos fantasmes les plus fantaisistes seront partagés et retweetés plus fréquemment que les récits véridiques (Vosoughi, Roy & Aral, 2018).

Connaître son public

9Tout sage conteur a toujours su adapter ses récits aux intérêts et aux inclinations de son public. Homère le savait (L’Odyssée 19, pp. 172-184): lorsqu’Ulysse se trouve dans la situation embarrassante et périlleuse où il risque d’être reconnu comme un prince alors qu’il s’est dissimulé parmi un groupe de travailleurs, il se réinvente en roitelet venu d'un pays lointain – il devient ainsi un pauvre homme amusant qui mérite d'être écouté, certes, mais qui n’est qu’un simple travailleur (Nagy, 2015).

10Mais alors que Homère ne faisait que deviner l’identité de cet personnage, aujourd’hui nous connaissons l’identité des interlocuteurs qui se croient anonymes ou bien camouflés avec certitude. En effet, les lecteurs d'histoires numériques interactives et les usagers des médias sociaux nous parlent d'eux-mêmes quand ils doivent faire des choix sur eus écrans, et nous pouvons de la sorte construire des modèles d'utilisateurs adaptatifs (Brusilovksy & Millân, 2007). Dès qu’ils en ont l'occasion, les lecteurs se confessent sur nos systèmes avec une franchise étonnante : par exemple, les personnes qui recherchent sur Google des informations sur les symptômes possibles d'une maladie vénérienne racontent souvent à Google, leurs pensées suicidaires (Stephens-Davidowitz, 2017). Mais nous ne dépendons pas de cette seule marque de confiance volubile des lecteurs. Nous pouvons aussi, par exemple, découvrir les revenus des ménages des utilisateurs de Twitter à partir de leurs préférences, même dans le cas des utilisateurs passifs qui tweetent rarement ou même jamais (Aletras & Chamberlain, 2018). Nous pouvons aussi identifier les utilisateurs de médias sociaux qui sont secrets mais qui consignent, comme tout un chacun, les paramètres par défaut, sans les communiquer ; là où les chercheurs voient des usagers qui ne savent peut-être pas modifier leurs paramètres de préférence, nous autres malveillants savons reconnaîtra l'odeur familière des ceux qui ont quelque chose à cacher et qui tentent d'imiter ceux qui n'ont rien à craindre (Khazaei et al., 2018). Rechercher des signes qui permettent d’identifier des personnes vulnérables est un exercice que nous pratiquons depuis des générations ; aujourd’hui, les réseaux neuronaux font le travail de repérage à notre place.

  • 7 Diogène se promenait en plein jour avec une lanterne et répétait : « Je cherche un homme ».

11Là aussi, notre avantage est asymétrique. Diogène, comme tout honnête homme, a beaucoup souffert pendant sa longue et infructueuse recherche d’une force unique et rare « d’un homme ».7 Pour notre part, nous recherchons plutôt les faiblesses des hommes, et cette recherche des vices est sans fin.

Désinformation et discorde

12Quel plus grand plaisir que de convaincre son prochain de croire quelque chose qui n'est pas vrai ? Faire croire à des masses de personnes quelque chose qui est à la fois absurde et nuisible ! Diffuser systématiquement de fausses nouvelles s'est avéré être d’une énorme valeur ; les scientifiques et penseurs qui cherchent à perturber nos ignobles desseins n'ont que très peu de solutions à offrir pour limiter les dégâts que nous pouvons causer (Lazer, et al., 2018).

13Ces mensonges provocants et ciblés suscitent un engagement qui nous est favorable. Nos adversaires ne manqueront pas d'essayer de discréditer nos tromperies, mais leurs tentatives ne feront qu'accroître la portée de nos mensonges. Des outils comme la génération de discours, la traduction automatique et d’autres outils d'aide à la rédaction permettent à des employés aux compétences limitées de gérer de nombreux profils d’utilisateurs en ligne. Ces technologies contribuent à la diffusion de notre message. Un seul sbire semi-alphabète peut ainsi, dans certaines circonstances favorables, recruter plusieurs professeurs distingués et des experts faisant autorité. Les nombreux spectateurs qui assisteront à ces controverses en ligne seront enclins à ne pas aimer ces professeurs (qui donc, parmi nous, n'a jamais eu envie de se venger des anciennes injustices que nous avons subies sur les bancs de l’école ?) et ainsi, notre sbire aux commandes obtiendra parfois des succès surprenants. Même si notre employé est vaincu dans la bataille et que ses mensonges soient entièrement discrédités, cela ne portera pas à conséquence : l’employé pourra tranquillement rentrer chez lui, boire une bière, profiter d'un repas avec ses amis, et le lendemain, il pourra aller chercher de nouveaux adeptes, se fabriquer un nouveau profil et recommencer. Ainsi, plus nous nous engageons dans des débats, plus nous obtenons du trafic.

  • 8 Nous avons choisi ce terme de vérisimilitude pour traduire le terme « truthiness » que les auteurs (...)

14La désinformation favorise la discorde. Pour nous autres, malveillants, la discorde est bien sûr une bonne chose en soi, mais de plus, elle affaiblit nos adversaires tout en renforçant nos autres opérations. Nos vérisimilitudes8, nos pseudo-vérités, favorisent la discorde parmi nos ennemis, car chacune de nos inventions insidieuses peut provoquer de nouvelles divisions parmi nos ennemis.

  • 9 La « fenêtre d’Overton », du nom de son concepteur, est cette idée que les idées deviennent accepta (...)

15La désinformation ravive certaines de nos plus anciennes aspirations. Le rêve d'une vaste base de données unique qui permettrait d’identifier tous les juifs éponymes (selon la définition des lois de Nuremberg !) semblait avoir disparu à jamais. Cependant, Wikipédia s'efforce aujourd'hui de le concrétiser. En effet, les éditeurs de Wikipédia – qui sont souvent les auteurs des articles de Wikipédia – s'efforcent de rendre plus visibles et plus acceptables certains articles qui concernent des extrémistes marginaux, ce qui permet de les excuser (et de les faire connaître), en reproduisant les mèmes racistes et antisémites et en diffamant des personnalités contemporaines et historiques. Des campagnes délibérées visent à déplacer la Fenêtre Overton9 sur des sujets comme les vertus des héros de la Wehrmacht ou la renaissance des partis nazis nordiques ; si la Suède et la Norvège ont des suprématistes blancs, disent-ils, peut-être le nazisme vaut-il la peine d'être révisé ?

Fournir des victimes

16Les médias sociaux et les jeux en réseau génèrent de vastes quantités d'informations sur les intérêts, les habitudes et la situation de millions de personnes dans le monde. De nombreuses informations sont, bien entendu, contenues dans les profils des utilisateurs et dans le contenu généré par les utilisateurs que ces derniers mettent gratuitement à notre disposition. D'autres informations utiles peuvent être obtenues en observant l'utilisation qu'ils font des médias pour rester en contact avec leurs amis et leur famille, pour découvrir des sites web divertissants, ou pour acheter des produits - y compris des produits virtuels sans valeur mais coûteux que nous vendons dans nos univers narratifs (storyworlds). Nous pouvons utiliser ce vaste flux de données pour identifier ceux à qui nous pourrions le plus utilement consacrer notre attention. Alors qu'un annonceur recherche des prospects profitables à convaincre, le malveillant cherche une victime vulnérable et utile.

17Il est utile à cet égard de distinguer la vulnérabilité intrinsèque et extrinsèque. La cible intrinsèquement vulnérable est sujette à des attaques en raison des circonstances et de son contexte ; les personnes sans amis sont des victimes naturelles, bien sûr, de même que celles dont les amis sont peu connectés aux nôtres. Ceci est facile à détecter avec des graphes sociaux (Huang, Singh & Atrey, 2014). Par contre, la vulnérabilité extrinsèque concerne les gens qui ont des secrets : les familles cachées, les relations amoureuses complexes, les difficultés financières sont autant d’indices classiques qui, là aussi, peuvent être détectés grâce aux réseaux sociaux (Backstrom & Kleinberg, 2014 ; Khazaei et al., 2018).

18Nous savons maintenant qu'il est possible de désanonymiser les graphes sociaux anonymes (Backstrom, Dworkin & Kleinberg, 2011) et que des informations privées, comme la croyance religieuse, peuvent être déduites de statistiques séculaires comme le nombre de modifications des articles sur Wikipédia (Rizoiu et al., 2016). Rappelez-vous que nous sommes malveillants et que les anciennes méthodes sont parfois les meilleures. Ainsi, un simple enlèvement ou une courte peine de prison peuvent amener des personnes qui nous sont hostiles à nous aider à désanonymiser même les données les plus obscures, ou à nous livrer le mot de passe le mieux gardé (Derakhshan, 2016). En Syrie et en Égypte, au moment des révolutions arabes, les sites anonymes de blogueurs étaient protégés par des mots de passe solides mais ces états policiers ont tout de même trouvé le moyen de rompre l’anonymat (El Amine et al., 2012). Finalement, comme le disait John Le Carré (1980), tout le monde avoue.

19L'apprentissage automatique (machine learning) offre de nombreux moyens pour détecter des configurations subtiles et faire échouer les tentatives d'anonymat. Nous pouvons, par exemple, prédire à partir des salles où un jeune musicien s'est produit, s'il est finalement récompensé par un contrat d'enregistrement (Arakelyan et al., 2018). Les Bons pourraient utiliser cet outil pour parier sur le concours Eurovision. En revanche, nous autres, les Méchants, pouvons utiliser cette même méthode pour prédire si ces jeunes musiciens suivront la trajectoire de Jimmy Hendrix, Janis Joplin, Kurt Cobain et Amy Winehouse. Armés de cette connaissance, imaginons les ravages que nous pourrions provoquer.

Trouver nos hommes de main

20Bien que l'extorsion soit une technique éprouvée (et souvent amusante), les nouveaux médias offrent également de nouvelles possibilités pour recruter des individus parmi notre public. Un seul employé peut animer des parties de jeux mémorables, taillées sur mesure en temps réel et qui impliquent de nombreux joueurs (Goodman, 2017). Bien entendu, ces spectacles spécialisés sont plus profitables si les spectateurs payent pour y assister (Soroush, Hancock & Bohns, 2014), s’il existe des meneurs de jeu qui recrutent de nombreux clients supplémentaires, ou si les clients ont les opinions que nous cherchons à favoriser. Nous pourrions, par exemple, rechercher les partisans d'un parti politique auquel nous nous opposons afin de les distraire, les frustrer ou les induire en erreur en leur faisant croire que leurs compagnons de route sont leurs adversaires (Mazetti & Benner, 2018). Dans le même temps, notre sbire pourra identifier des cibles que nous recruterons pour servir notre sinistre dessein.

21Le pouvoir des récits peut lui-même être un outil puissant pour permettre de recruter des hommes de main. Tout d'abord, nous comprenons aujourd’hui l’importance de la projection psychologique, ce phénomène qui amène les gens à projeter des émotions complexes non seulement sur des humains mais aussi sur des automates, des simples agents de calcul (Reeves & Nass, 1996). La plupart des gens sont enclins à traiter poliment, avec sympathie ou considération, une entité informatique qui leur parle. Si elle leur propose de les aider, de nombreux utilisateurs seront enclins à éprouver de la gratitude. De la même façon, en cherchant à traiter avec considération ces entités virtuelles qui n’appartiennent qu’à un monde narratif, ou en cherchant à obtenir leur approbation, notre public peut être amené à imiter les croyances et les aspirations malveillantes de ces entités.

  • 10 Projection est ici employé au sens de la psychologie : Mécanisme de défense qui consiste à attribue (...)
  • 11 Traduction officielle des « Sorting hats » des apprentis sorciers de l’école des Poudlard.

22Tous les membres du public ne succombent pas à la projection10. D’ailleurs, l'absence de ces émotions empathiques devrait mériter notre attention car elle indique une aptitude particulière pour les activités malveillantes. Nous avons toujours recherché de telles personnes dans les mauvais quartiers et les ruelles sombres ; les divertissements en réseau nous permettent maintenant de présélectionner des milliers, voire des millions de sbires potentiels sans devoir employer un personnel coûteux. Et les choixpeaux magiques11, utilisés pour recruter de nouveaux joueurs, peuvent aussi servir à cette fin.

23Si la projection est notre alliée, le transfert est une arme expressément taillée pour notre service. Dans les grands univers narratifs avec de nombreux joueurs et des protagonistes qui coopèrent au jeu, il se crée naturellement des associations hiérarchiques fondées sur les compétences et l'expérience des joueurs. Les joueurs faibles et inexpérimentés sont au service de leurs supérieurs et de leur guilde. Les joueurs expérimentés offrent des conseils et des équipements que le nouveau joueur ne pourrait pas égaler facilement, et leurs ordres et conseils donnent un but et un sens à leur existence virtuelle. Le dévouement des membres du public peut conduire à de grandes dépenses, à un service politique fidèle et (apparemment) au meurtre (McCurry, 2018). La ludification (gammification) d’actions calomnieuses ou dégradantes, comme le harcèlement sexuel (Jason, 2015), et la promotion de la violence raciale (Feinberg, 2017), nous permettent de déployer ces outils mis au point pour gérer les jeux multi-joueurs dans notre intérêt et celui de nos parfois très surprenants alliés (Mueller, 2018).

Désarmer nos ennemis

24Non seulement nous pouvons utiliser les nouveaux médias pour nos sombres desseins, les analyser afin de les détourner à nos fins néfastes, mais nous pouvons aussi empêcher nos ennemis de profiter de leurs avantages.

25Les médias sociaux sont particulièrement vulnérables aux trolls (Ammann, 2009). Les bonnes gens peuvent parfois tolérer une censure injuste dans une évaluation ou dans les pages d'une obscure et poussiéreuse revue ; en revanche, se faire étaler devant sa famille et ses amis les plus proches met à dure épreuve la patience même des plus saints. Dans le monde en ligne, l'apathie des spectateurs est la norme (DiFranzo et al., 2018).

26Rappelons-nous que la malveillance conventionnelle peut aussi avoir lieu avec profit sur le champ de bataille des nouveaux médias. Le chantage, par exemple, peut effectivement réduire au silence même l'adversaire le plus influent et le plus expérimenté de Wikipédia. Des dispositifs de sécurité élaborés et encombrants peuvent être déjoués assez facilement en menaçant la cible avec une arme. Menacer de tirer sur votre animal de compagnie peut être suffisant, non seulement parce vous aurez peur de perdre votre petit chien, mais aussi parce que vous réaliserez que si les méchants connaissent Toto, ils ont aussi d’autres détails sur votre vie et vos êtres bien-aimés. Les informations que nous pouvons recueillir sur des médias sociaux peuvent révéler une surprenante quantité et variété d’informations sur la vie de contributeurs anonymes (Johnson, 2001),12 qui peuvent être diffusées par des moyens conventionnels auprès de la famille, des employeurs et des voisins de la cible. Nous pouvons ainsi tranquillement voir l’indignation publique et la confusion que provoque l’asymétrie des réseaux sociaux faire le travail à notre place.13

Fouille de données

27Comme avec la publicité qui cherche à s'adresser de la manière la plus convaincante et rentable à ceux qui ont besoin des produits annoncés, de grands efforts ont été consacrés à anticiper les besoins individuels en exploitant le comportement en ligne des utilisateurs. Les algorithmes peuvent parfois détecter des désirs avant qu'ils ne soient consciemment exprimés. Ainsi, par exemple, nous pouvons déduire qu'une femme est peut-être enceinte avant qu'elle (ou sa famille) ne le sache à partir de son comportement d'achat et de navigation (Hamilton, 2016). Serait-il possible de la même façon d'identifier les femmes qui chercheront à interrompre une grossesse avant la conception ? Même avec un taux d'erreur important, on pourrait obtenir un grand désordre à très peu de frais. La fouille de données visant d'autres comportements – des enchevêtrements romantiques ou des maladies redoutables - pourrait rapporter des dividendes spectaculaires (Dick, 2016). Des méthodes puissantes et bien établies incitent les gens à révéler plus qu'ils ne le souhaitent (Brignull, page web). Le monde en ligne nous appartient.

28Là encore, on observe une forte asymétrie dans les effets néfastes de la fouille de données. Nos adversaires doivent se contenter de données auxquelles ils peuvent accéder librement ou qu'ils peuvent acheter. Contrairement à eux, nous utilisons librement des données volées ou qui sont disponibles après avoir été volées (comme les courriels de John Podesta, ou Le Concert de Vermeer), ou bien des informations dont nous commandons le vol, car elles nous seront utiles. La co-occurrence dans de grandes bases de données qui ont été dérobées est un outil puissant. Par exemple, un cluster d'utilisateurs sains et sportifs qui emploient des applications de fitness sur des montres connectées, géolocalisés dans une zone blanche de Google Maps, pourrait indiquer l’existence d’une base militaire secrète (Hern, 2018). Plus les bases de données sont grandes, plus l'analyse des données prospère : nos données seront toujours plus importantes que les leurs et nous pourrons toujours en acheter, en emprunter et en voler davantage.

Voler une sucette à un enfant

29Bien que nous utilisions aujourd'hui des outils d'analyse qui dépassent les rêves les plus fous de nos prédécesseurs, il faut nous souvenir des joies simples d'autrefois. Considérons, par exemple, le vol de la sucette d’un enfant. Rien de plus facile, et pourtant, ce seul acte nous offre de nombreux avantages :

  • Tout d’abord, l’enfant est bouleversé et il exprimera son désarroi avec force cris et pleurs.

  • Les cris de détresse d'un enfant ne peuvent pas être ignorés : ses parents sont obligés de s'occuper de lui, toutes affaires cessantes.

  • Les passants seront ennuyés par ses cris, leur attention aura été attirée et ils jetteront alors des regards désobligeants sur les parents qui permettent tout ce bruit. La discorde est semée !

  • Si l’enfant a des frères et sœurs, ceux-ci pourront profiter de ce moment de distraction parentale pour faire du chahut de leur côté, se livrer à des actes violents ou brutaux.

  • Tiens, tiens, ne pleure pas, voilà ta sucette !

30L'intention de cette saynète n'est pas de se livrer à la nostalgie en évoquant une époque qui serait plus simple, mais d'observer comment fonctionne la puissante asymétrie que nous pouvons si avantageusement exploiter. Voler des bonbons à un enfant est excessivement facile, mais le vol ne fait pas que plaire au voleur et consterner l'enfant ; il implique les parents, les frères et sœurs, les passants, les propriétaires du magasin de bonbons, les ambulanciers convoqués après les actes violents ; tous partagent et multiplient l’impact de notre acte inique. L’effort qu’il faut déployer pour déjouer notre simple acte de malveillance est disproportionné ; à l’inverse, distribuer des sucettes gratuites aux enfants serait un acte de bienveillance qui n'aurait probablement pas le même effet.

31Non seulement les effets asymétriques de la malveillance se répandent grâce à l’existence du réseau, mais notre malveillance elle-même est bénéfique à la plate-forme qui édite, et maintient le jeu. Sur Internet, des innocents lésés gémissent en ligne et leurs cris attirent les clics, ce qui améliore la valorisation boursière des actions de la plateforme et augmente le nombre de spectateurs (ainsi que la publicité). Les foules qui se rassemblent sur les lieux d'un crime sont elles-mêmes très vulnérables face à l'exploitation des criminels (Dickens, 1870). Avec un effort modeste, on peut entretenir un événement comme le #Gamergate ou le #Pizzagate pendant des semaines et des mois. Les pacificateurs vertueux, en revanche, ne font que diminuer les profits de la plate-forme.

32L'analyse des foules rassemblées lors de ces événements peut fournir des pistes utiles pour recruter du personnel pour nos entreprises malveillantes. La vilenie mondiale conventionnelle impliquait autrefois un ensemble coûteux de scientifiques fous et de chefs de guerre renégats. Ce personnel indispensable était difficile à gérer. De plus, les armées de mercenaires avaient besoin de salaires, d'entraînement et de beaux uniformes. Bien que les malveillants aient été les premiers à employer des handicapés physiques, comme Frankenstein (Shelley, 1818/1984), ces défis entraînaient des dépenses, des désagréments et, parfois, des trahisons (Czege, 2003). Aujourd’hui, une grande partie du recrutement et des fonctions de support (ou aide après-vente) peuvent être automatisés ; en effet, les sbires , sous-fifres et hommes de main viennent d’eux-mêmes sur nos scènes de crime et se portent volontaires pour nous servir. N’oublions pas qu’autrefois nous devions entretenir à grands frais des districts entiers qui servaient de repaires de racaille et de vilains. Désormais, nous pouvons recruter des sbires qui depuis le sous-sol de leur propre maison viennent soutenir notre effort malveillant. Ils font avancer nos sombres desseins sans avoir besoin de bases secrètes coûteuses et de forteresses cachées inconfortables.

Agents trompeurs et explosions

  • 14 Le Holodeck est la salle de divertissement virtuelle du vaisseau spatial Entreprise de l’emblématiq (...)

33Dans les récits numériques interactifs et les jeux immersifs, les agents informatiques et les personnages fictifs offrent des possibilités étonnantes pour permettre de corrompre les naïfs et tromper les imprudents. Dans le domaine de l'imaginaire (théorique), même les Bons peuvent céder aux appels des anges les plus sombres. Dans les jeux Call Of Duty ou Dying Light, les jugements accidentels et les massacres occasionnels sont délicieusement amusants. Mieux encore, en situant l'action dans un univers fictif, tout en la rendant la plus sensuelle possible, nous pouvons affiner ou obscurcir des choix moraux complexes, ce qui rend ces mêmes choix tout aussi obscurs que dans le monde ordinaire. Si nous sommes le prince Hamlet dans un environnement virtuel, comme le Holodeck14 (Murray, 1997), pouvons-nous épouser Ophélie ? Pouvons-nous la séduire ? Le mariage nécessite un consentement : quel sens une entité numérique peut-elle donner à son consentement quand son seul autre choix est de rester inutilisée sur une étagère ? Au théâtre, Ophélie se noie la nuit (par deux fois, chaque dimanche) et nous n’y sommes pour rien ; dans le Holodeck, elle se donne et souffre juste pour nous, devant nous (Bernstein, 2018). À force d’offrir cette possibilité d'ignorer ces questions dans le contexte des œuvres de fiction, nous pourrons, à terme, convaincre les gens de les ignorer dans d’autres contextes (Flanagan, 2018).

  • 15 Losqu’un message généralement inoffensif en cache un autre qui est malveillant.

34Bien que les méthodes d'apprentissage profond (deep learning) se soient avérées étonnamment puissantes, les réseaux neuronaux peuvent être dupés. De la satire au parti pris, des récits imaginaires à la déformation intentionnelle de la vérité, la vérité elle-même n'a jamais été aussi compliquée (Zhao B.Y., 2018). Les faux contenus peuvent tromper des journalistes chevronnés, et les réseaux neuronaux en savent encore moins sur le monde que les apprentis reporters. Prenons l’exemple de l’apprentissage par transfert. Il s’agit d’une technique d'apprentissage assistée par ordinateur où un « étudiant » apprend auprès d’un « enseignant » qui en réalité est un ensemble de données centralisées. Or cette méthode est particulièrement vulnérable lorsque l'ensemble des données de « l’enseignant » est accessible au public (Wang et al., 2018), ou lorsque le système est disponible pour une ingénierie inverse ou une attaque stéganographique.15 Cela offre de nombreuses opportunités au méchant avisé.

  • 16 En sociologie des sciences, ce phénomène est aussi appelé effet Saint-Mathieu.

35Des recherches récentes ont montré combien il est facile d'introduire un biais dans les documents en ligne. Parmi ceux-ci, on trouve les biais algorithmiques, de données, de second ordre et d'interaction. Le biais de second ordre est particulièrement délicieux car il s'agit d'un phénomène de « riche qui devient de plus en plus riche »16 : par exemple, les éléments placés en tête des listes de classement reçoivent plus de clics et augmentent ainsi leur rang. Les systèmes de recommandation personnelle peuvent théoriquement résoudre ce problème, mais leur utilisation peut confiner le public à des mondes fermés (« bulles de filtrage »), sans l'exposer à d'autres points de vue ou d’autres nouvelles. De plus, les algorithmes de personnalisation collectent aussi des données sur les utilisateurs que nous pourrons également exploiter (Baeza-Yates, 2018).

Travaux connexes

  • 17 Poème épique du XVIIe du poète anglais John Milton qui contient plus de 10 000 vers.
  • 18 Œuvre mythologique nordique du XIIIe siècle.
  • 19 Il s’agit évidemment de James Moriarty, ce criminel qui déjoue en permanence Sherlock Holmes et le (...)
  • 20 Celui-là même du Seigneur des Anneaux (J.R. Tolkien)

36Bien que les récits des premières malveillances aient parfois été décrits, assez étonnamment, dans de très grands récits (voir Paradise Lost, 17ou the Prose Edda18), ce n'est qu’avec l’invention du crime organisé par J. Moriarty19 que la technologie a pu être correctement utilisée pour accomplir nos fins. Les premiers projets de Sauron20 illustrent les limites qui s’imposaient à l’ampleur des méfaits : son projet initial ne ciblait que dix-neuf victimes initiales, mais toutes étaient des dirigeants du monde, ce qui était d’une audace louable. Les efforts de calcul pour convoquer les dieux anciens (Stross, 2006), pour déjouer la création (Shelley, 1984) ou pour provoquer la fin de monde (Clarke, 1967) anticipent les approches que nous décrivons ici.

  • 21 Campagne de harcèlement sexiste qui en 2014 a ciblé des joueuses et des journalistes femmes spécial (...)
  • 22 NDLR : voir aussi le documentaire The Great Hack sur la mise en œuvre de ces technologies par l’ent (...)

37Les essais préliminaires connus sous le nom de #Gamergate,21 bien qu'ils n'aient pas réussi à changer l'éthique du journalisme sur les jeux, ont permis de nuire à une poignée de victimes ciblées tout en obligeant nos adversaires à consacrer des milliers d'heures pour s'opposer à notre poignée de méchants amateurs. Les mêmes méthodes ont été appliquées pendant la campagne de l’élection présidentielle américaine de 2016 et pour influencer le vote du Brexit de 2016 avec un succès surprenant (Mazetti & Benner, 2018)22.

38La malveillance n'est pas nouvelle, mais les avantages asymétriques qu’offrent les nouveaux médias en faveur de projets malveillants sont sans précédent. La propagande pendant la Seconde Guerre mondiale a joué un rôle important, tout autant pour les alliés que pour les forces de l'Axe (Orwell, 1947). Le fait que les fascistes aient eu une meilleure conception graphique, ne doit pas nous amener à conclure que la conception graphique est intrinsèquement fasciste, pas plus que la supériorité de Sergei Eisenstein sur Leni Riefenstahl ne peut être considérée comme une preuve que le communisme est mieux adapté à la théorie du cinéma que le fascisme. Lorsque les Milésiens ont débattu avec les Athéniens, ils utilisaient la même rhétorique pour convaincre le même public : la situation était essentiellement symétrique. Ce n'est pas le cas aujourd’hui avec les nouveaux médias et la narration numérique contemporaine : par des artifices ou le (mauvais) hasard, la technologie actuelle aide, de manière asymétrique, les méchants dans notre lutte éternelle.

Conclusion

39Bien que nous le déplorions, le progrès technologique peut profiter aux vertueux comme aux malveillants. Ce qui frappe dans cette brève étude anecdotique de nouvelles techniques et ses récents développements, ce sont les asymétries importantes et multiples qui profitent à la malveillance et la vilenie.

40Tout d’abord, le méchant peut mentir, le bon ne le doit pas. La désinformation est vilaine en soi et mène à la discorde, ce qui est encore mieux pour nous les méchants.

41Ensuite, le méchant peut voler, le bon ne le doit pas. La fouille de données est puissante et sa puissance augmente à mesure que de nouvelles données sont disponibles. Nos réseaux neuronaux ne se soucient pas de savoir si certaines de nos données sont volées ou pas.

42De plus, la désinformation et la rumeur peuvent être propagées par des paresseux, des personnes non-qualifiées et des robots. Les confondre requiert beaucoup d’attention de la part de défenseurs compétents.

43Nous pouvons choisir les mensonges qui nous sont les plus utiles alors que nos ennemis ne le peuvent pas. Pour des millions de mensonges, il n’existe qu’une seule vérité.

44Si un de nos sbires est démasqué, il peut tout simplement se retirer et travailler sur un autre mème. Un vrai croyant, s’il se trouve dans la même situation, subira une profonde humiliation.

45Le méchant qui rencontre une faiblesse ou observe un dérangement se demande « comment cela peut-il m’être utile ? ». Le bon doit se demander : « comment puis-je prêter ma force ou mon aide à cette personne qui souffre ? ». Face au désordre et la détresse, le méchant trouve moyen d’en profiter tandis que le bon souffre de retards et d’égarements.

46La divulgation d’un seul mot calomnieux ou d’une seule information préjudiciable peut causer un préjudice durable que mille notes bien intentionnées et sympathiques ne répareront jamais : « Calomniez ! Calomniez ! Il en restera toujours quelque chose » selon le célèbre adage.

47Notre grande chance ne réside donc pas dans de simples effets de réseau ou dans notre avantage de premier arrivé. Nos avantages asymétriques ne dépendent pas non plus du grand nombre, du talent ou de l’importance du financement (heureusement pour nous, car les malveillances les plus noires, les malveillances véritables, sont un don très rare). On dit que l'arc de l'univers moral est long et que sa courbe penche vers la justice ; grâce à ces avantages, nous pouvons enfin l’aplanir. Les efforts de recherche actuels n'ont guère permis de déjouer nos plans infernaux ou de renverser nos précieuses asymétries, mais nous devons rester vigilants, car des chercheurs pourraient se concentrer non plus seulement à la recherche d’un emploi sur des plateformes publicitaires, mais aussi à la sauvegarde de la liberté et de la démocratie.

48Il y a toujours eu des personnes qui aiment infliger de la douleur, mais les technologies précédentes - les écoles d'arts martiaux, par exemple - ont eu recours à des disciplines, des hiérarchies et des rituels pour les contrôler. Les nouveaux médias d’aujourd'hui ne sont pas encombrés par tout cet attirail qui tue le plaisir. Les éditeurs de médias numériques d’aujourd’hui tirent avantage aussi bien de l’activité des cruels que des gentils, cependant comme la malveillance attire les foules elle s’attire des alliés inattendus. Si nous n'avons pas encore réussi à atteindre la super-malveillance universelle à partir des technologies disponibles sur le bureau de notre ordinateur, il sera peut-être possible de l'atteindre en lançant nos attaques à partir d’un immeuble de banlieue (Chen, 2015).

Ce texte est une satire. N'essayez pas de reproduire tout cela à la maison ! Les œuvres citées ici, par contre, ne sont pas malveillantes. Nous remercions David E. Millard, Charlie Hargood, le Dr. Fionnbar Lenihan et Robert A. Sullivan pour leurs conversations utiles sur ces divers sujets. Bien entendu, aucun parmi eux n'est en responsable de ce document infâme.

Haut de page

Bibliographie

Aletras, N. & Chamberlain, B.P. (2018). Predicting Twitter User Socioeconomic Attributes With Network and Language Information. Proceedings of the 29th ACM on Conference on Hypertext and Social Media. HT ’18, 20–24.

Ammann, R. (2009). Jorn Barger, the Newspage Network and the Emergence of the Weblog Community. Proceedings of the 20th ACM Conference on Hypertext and Hypermedia. HT’09, 279-288.

Arakelyan, S., Morstatter, F., Martin, M., Ferrara, E. & Galstyan, A. (2018). Mining and Forecasting Career Trajectories of Music Artists. Proceedings of the 29th ACM Conference on Hypertext and Social Media. HT ’18, 11–19.

Backstrom, L., Dwork, C. & Kleinberg, J. (2007) Wherefore Art Thou R3579X? Anonymized Social Networks, Hidden Patterns, and Structural Steganography. Proceedings of the 16th International Conference on World Wide Web (2007 May 8), 181-190.

Backstrom, L. & Kleinberg, J. (2014). Romantic Partnerships and the Dispersion of Social Ties: A Network Analysis of Relationship Status on Facebook. Proceedings of the 17th ACM Conference on Computer Supported Cooperative Work&Social Computing. CSCW ’14, 831-841.

Backstrom, L., Dwork, C. & Kleinberg, J. (2011). Wherefore Art Thou R3579X? Anonymized Social Networks, Hidden Patterns, and Structural Steganography. Communications ACM, 54 (12), 133-141.

Baeza-Yates, R. (2018). Bias on the Web. Communications of the ACM 61, 6, 54-61.

Bernstein, M. (2018). As We May Hear: Our Slaves of Steel. II Proceedings of the 29th ACM Conference on Hypertext and Social Media. HT’18, 242–245.

Brignull, H. Web page: Types of Dark Patterns. https://www.darkpatterns.org/types-of-dark-pattern

Brusilovksy, P. & Millân, E. (2007). User Models for Adaptive Hypermedia and Adaptive Educational Systems. In: P. Brusilovsky, A. Kobsa & W. Nejdl (eds): The Adaptive Web, LNCS 4321. (pp. 3-53). Springer-Verlag Heidelberg.

Chen, A. (2015). The Agency. New York Times Magazine (2 June 2015).

Clarke, A. C. (1967). The Nine Billion Names of God; The Best Short Stories of Arthur C. Clarke. Harcourt: Brace & World.

Czege, P. (2003). My Life with Master, Half-Meme Press.

Derakhshan, H. (2016). Killing the Hyperlink, Killing the Web: The Shift From Library-Internet to Television-Internet. Proceedings of the 27th ACM Conference on Hypertext and Social Media. HT’16, 3-3.

Dick, P. K. (2016). The Minority Report and Other Classic Stories. Citadel Press.

Dickens, C. (1870). The Adventures of Oliver Twist. Fields, Osgood & Co.

DiFranzo, D., Taylor, S. H. et al. (2018). Upstanding by Design: Bystander Intervention in Cyberbullying, CHI 18 (Montréal 21-26 April 2018)

Eagleton, T. (2003). After Theory. New York: Basic Books.

Edwards, M., Peersman, C. & Rashid, A. (2017). Scamming the Scammers: Towards Automatic Detection of Persuasion in Advance Fee Frauds. Proceedings of the 26th International Conference on World Wide Web Companion, 1291-1299.

El Amine, S., Saad, S., Tesfa A. & Varin, C. (2012). Infowar in Syria: The Web Between Liberation and Repression. Proceedings of the ACM Web Science, June 2012, Evanston, USA.

Feinberg, A. (2017). The Alt-Right Can’t Disown Charlottesville. Wired (13 August 2017) https://www.wired.com/story/alt-right-charlottesville-reddit-4chan/

Flanagan, C. (2018). I Believe Her. The Atlantic Monthly (17 September 2018) https://www.theatlantic.com/ideas/archive/2018/09/Me-Too/570520/

Goodman, A. (2017). The Chalk Artist: A Novel. New York: The Dial Press.

Hamilton, D. (2016). The Thinking Machine. In: Echoes of Sherlock Holmes: Stories Inspired by the Holmes Canon, King, L.R. et al. (eds). Pegasus Books.

Hern, A. (2018). Fitness Tracking App Strava Gives Away Location of Secret Us Army Bases. The Guardian (28 January 2018).

Huang, Q., Singh, V. K. & Atrey, P. K. (2014). Cyber Bullying Detection Using Social and Textual Analysis, Proceedings of the 3rd International Workshop on SociallyAware Multimedia, SAM ’14, 3-6.

Jason, Z. (2015). Game of Fear. Boston Magazine (28 April 2015) https://www.bostonmagazine.com/news/2015/04/28/Gamergate/

Johnson, B. (2001). The Short Life of Kaycee Nicole. The Guardian (28 May 2001). https://www.theguardian.com/technology/2001/may/28/internetnews.mondaymediasection

Khazaei T., Xiao L., Mercer, R.E. & Khan, A. (2018). Understanding Privacy Dichotomy in Twitter. Proceedings of the 29th ACM on Conference on Hypertext and Social Media. HT ’18. 156–164.

Lazer, David M.J. et al. (2018). The Science of Fake News. Science, March 2018, 359(6380),1094-1096.

Le Carré, J. (1980). Smiley’s People. Knopf. [Les gens de Smiley, éd. Robert Laffont]

Mazetti, M. & Benner, K. (2018). 12 Russian Agents Indicted in Mueller Investigation. The New York Times (13 July 2018) https://www.nytimes.com/2018/07/13/Us/Politics/muellerindictment-russian-Intelligence-hacking.html.

McCurry, J. (2018). Japanese Blogger Stabbed to Death After Internet Abuse Seminar, The Guardian (26 June 2018) https://www.theguardian.com/world/2018/Jun/26/Japaneseblogger-Kenichiro-Okamoto-Stabbed-to-Death-After-Internet-Abuse-Seminar

Mueller, R. S. (2018) Indictment: United States of America vs. Viktor Borisovich Netyksho et al., U. S. District Court for the District of Columbia, 13 July 2018.

Murray J (1997). Hamlet on the Holodeck: The Future of Narrative in Cyberspace. New York: The Free Press.

Nagy, G. (2015). A Cretan Odyssey, Part 1. Blog Classical Inquiries Studies on the Ancient World. (Center for Hellenic Studies, Harvard University). https://classical-inquiries.chs.harvard.edu/A-cretan-odyssey-part-1/

Orwell, G. (1947). Politics and the English Languages. Horizon, 13(76) (April 1946)

Ramachandran, A. & Wang, L. (2018). Chaintreau Dynamics and Prediction of Clicks on News From Twitter. Proceedings of the 29th ACM on Conference on Hypertext and Social Media. HT ’18, 210–214.

Reeves, B. & Nass, C. (1996). The Media Equation How People Treat Computers, Television, and New Media like Real People and Places. Cambridge, MA: Cambridge University Press.

Rizoiu, M.-A., Xie, L., Caetano, T. & Cebrian, M. (2016). Evolution of Privacy Loss in Wikipedia, Proceedings of the Ninth ACM International Conference on Web Search and Data Mining. WSDM ’16, 215-224.

Shelley, M. W. (1818/1984). Frankenstein, or the Modern Prometheus. Modern Library.

Soroush, M., Hancock, M. & Bohns, V.K. (2014) Self-Control in Casual Games: The Relationship between Candy Crush Saga Players’, In-App Purchases and Self-Control. IEEE Games Media Entertainment, 1–6.

Stephens-Davidowitz, S. (2017). Everybody Lies: Big Data, New Data, and What the Internet Can Tell Us About Who We Really Are. New York: Dey Street Books.

Stross, C. (2006) The Jennifer Morgue. Golden Gryphon Press.

Timberg, C. & Harwell, D. (2018). We Studied Thousands of Anonymous Posts About the Parkland Attack – and Found a Conspiracy in the Making. The Washington Post (28 February 2018).

Vosoughi, S., Roy, D. & Aral, S. (2018). The Spread of True and False News Online, Science (9 March 20-18), 1146-1151

Wang, B., Yao, Y., Viswanath, B., Zheng, H. & Zhao, B.Y. (2018). With Great Training Comes Great Vulnerability: Practical Attacks against Transfer Learning. 27th Security Symposium. Usenix Association, 18, 1281-1297. https://www.usenix.org/conference/usenixsecurity18/presentation/wang-bolun

Zhao, Ben Y. (2018). Insecure Machine Learning Systems and Their Impact on the Web. Proceedings of the 29th ACM Conference on Hypertext and Social Media. HT’18, 63-63. https://doi.org/10.1145/3209542.3209544

Haut de page

Notes

1 Bande dessinée : Le rayon nitron de Kelvin Gosnell et Don Lawrence.

2 Il est peut-être inutile de rappeler la force obscure et Dark Vador dans la Guerre des étoiles

3 Goldfinger est un film célèbre de James Bond réalisé par Guy Hamilton, avec Sean Connery (1964).

4 Mark Bernstein utilise le terme « asymétrique » qui vient des débats dans les années soixante sur l’histoire militaire pour comprendre les stratégies militaires de Tito, Ho Chi Minh ou les guérillas latinoaméricaines..

5 Les tests A/B sont une technique de marketing, particulièrement employée dans la communication en ligne, pour tester auprès d'un échantillon de personnes plusieurs versions d'une même page web, application mobile, courrier, ou bannière publicitaire afin de choisir celle qui est la plus efficace et de l'utiliser à large échelle (Wikipedia).

6 Dans le film “The Naked City” (1948) de Jules Dassin, le narrateur dit : “There are eight million stories in the naked city.” (Il y a huit millions d’histoires dans la ville nue)”. Le public américain connaît bien cette réplique qui a été popularisée par une série télévisée portant le même titre et avec cette phrase comme slogan d’annonce.

7 Diogène se promenait en plein jour avec une lanterne et répétait : « Je cherche un homme ».

8 Nous avons choisi ce terme de vérisimilitude pour traduire le terme « truthiness » que les auteurs utilisent ici, terme inventé par l’animateur de télé Stephen Colbert pour désigner cette qualité selon laquelle un individu prétend savoir quelque chose de manière intuitive « avec les tripes » ou parce que « ça a l'air vrai » sans tenir compte des preuves du contraire, des faits ou d'une quelconque logique ou réflexion intellectuelle. (wikipedia). Mark Bernstein précise que « le terme a fait florès pendant la présidence de George W. Bush dont les politiques donnaient l’impression de reposer sur des faits alors qu’en réalité il n’y en avait pas. Le cas le plus fameux ont été les armes de destruction massive soi-disant cachées en Iraq qui ont justifié la guerre en Iraq après le 11 septembre. Trump a nettement fait oublier ces épisodes et ces débats puisqu’il ne cherche même pas la vérisimilitude car il se contente tout simplement de mentir. Il a d’ailleurs inventé le terme de fake news pour fustiger la presse qui lui reprochait ses mensonges.

9 La « fenêtre d’Overton », du nom de son concepteur, est cette idée que les idées deviennent acceptables car elles se situent à un moment donné dans une « fenêtre d'idées acceptables ».

10 Projection est ici employé au sens de la psychologie : Mécanisme de défense qui consiste à attribuer à autrui un sentiment éprouvé par soi-même mais que l'on refuse.

11 Traduction officielle des « Sorting hats » des apprentis sorciers de l’école des Poudlard.

12 Les auteurs évoquent l’histoire d’une blogueuse célèbre, Kaycee Nicole, qui disait être atteinte de leucémie et racontait au jour le jour sa lutte contre le cancer. A sa mort, annoncée par sa mère sur le blog de Kaycee qui a attristé des milliers de personnes qui la suivait, une recherche approfondie a permis de savoir que Kaycee n’avait jamais existé. Elle était l’invention de Debbie Swenson, une femme au foyer qui avait fabriqué ce personnage et sa mère. Le personnage devenait de plus en plus complexe au fur et à mesure que le carnet devenait plus populaire. Une fois démasquée, cette femme a elle-même avoué sa supercherie sur ce même carnet.

13 http://www.cbc.ca/news/canada/calgary/jeremy-quaile-knightley-dog-death-calgary-1.4602948

14 Le Holodeck est la salle de divertissement virtuelle du vaisseau spatial Entreprise de l’emblématique série télévisée Star Treck ; Janet Murray utilise cet exemple pour étudier diverses formes de récits numériques.

15 Losqu’un message généralement inoffensif en cache un autre qui est malveillant.

16 En sociologie des sciences, ce phénomène est aussi appelé effet Saint-Mathieu.

17 Poème épique du XVIIe du poète anglais John Milton qui contient plus de 10 000 vers.

18 Œuvre mythologique nordique du XIIIe siècle.

19 Il s’agit évidemment de James Moriarty, ce criminel qui déjoue en permanence Sherlock Holmes et le docteur John Watson.

20 Celui-là même du Seigneur des Anneaux (J.R. Tolkien)

21 Campagne de harcèlement sexiste qui en 2014 a ciblé des joueuses et des journalistes femmes spécialisées dans les jeux en ligne, accusées de ne pas respecter l’éthique des jeux. Ces attaques ont fait prendre conscience à la vulnérabilité des participants face aux violentes attaques sexistes anonymes. Une partie de la controverse politique qui s’est poursuivie après ces harcèlements a concerné les limites de l’éthique du journalisme, en particulier du journalisme technologique avec l’appui de sites et de chaînes de télévision d’extrême droite. La campagne de harcèlement a entraîné des modifications légales aux États-Unis.

22 NDLR : voir aussi le documentaire The Great Hack sur la mise en œuvre de ces technologies par l’entreprise Cambridge Analytica.

Haut de page

Pour citer cet article

Référence électronique

Mark Bernstein et Clare Hooper, « Petit mode d’emploi des médias sociaux à l’usage des personnes malveillantes »Revue d’anthropologie des connaissances [En ligne], 15-1 | 2021, mis en ligne le 01 mars 2021, consulté le 10 août 2022. URL : http://journals.openedition.org/rac/19727 ; DOI : https://doi.org/10.4000/rac.19727

Haut de page

Auteurs

Mark Bernstein

Directeur scientifique d'Eastgate Systems, Inc. Ses travaux portent sur les outils innovants de recherche et d'écriture et sur la compréhension de la narration dans les nouveaux médias. Il écrit sur https://markbernstein.org/ et parmi ses autres travaux mentionnons Hypertext Gardens (https://www.eastgate.com/garden/), The Tinderbox Way (https://www.eastgate.com/Tinderbox/TinderboxWay.html)> et une anthologie « Reading hypertext » dirigée par Bernstein et Diane Greco (https://www.eastgate.com/catalog/ReadingHypertext.htm).

Adresse : Eastgate Systems, 134 Main St, Watertown MA 02472 USA
Courriel : bernstein[at]eastgate.com

Clare Hooper

Mélangeant l'informatique et le travail sociotechnique, en se concentrant sur l'analyse de l'expérience des utilisateurs et la recherche de méthodes mixtes, ses travaux portent aussi bien sur la construction des systèmes sociotechniques (Hooper C.J. et al. (2015). Building a Social Machine: Co-designing a TimeBank for Inclusive Research. In: Proceedings of ACM Web Science 2015, Oxford, UK) comme sur l’analyse disciplinaire (Hooper, C.J. et al. (2013) Web Science and the Two (Hundred) Cultures: Representation of Disciplines Publishing in Web Science. In: Web Science 2013, Paris, France). Elle est actuellement consultante indépendante et en ligne sur clarehooper.net.

Adresse : Kitsilano, Vancouver BC, Canada
Courriel : clare[at]clarehooper.net

Haut de page

Droits d’auteur

CC BY-NC-ND 4.0

Creative Commons - Attribution - Pas d'Utilisation Commerciale - Pas de Modification 4.0 International - CC BY-NC-ND 4.0

https://creativecommons.org/licenses/by-nc-nd/4.0/

Haut de page
  • Logo Société d’anthropologie des connaissances
  • Logo ERIH PLUS | NSD
  • DOAJ - Directory of Open Access Journals
  • Revue soutenue par l’Institut des sciences humaines et sociales du CNRS
    CNRS - Institut national des sciences humaines et sociales
  • OpenEdition Journals
Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search