Navigation – Plan du site
Bloc-notes

Algorithmes – la bombe à retardement

Jacques Vétois
Référence(s) :

Algorithmes – la bombe à retardement, Caty O’Neil, Édition Les Arènes, Paris, 2018, 343p

Traduction Sébastien Marty

Texte intégral

  • 1 Armes de destruction mathématiques

1Le titre original de cet ouvrage en anglais est « Weapons of math Destruction »1. L’auteure Caty O’Neil a suivi des études approfondies en mathématique (arithmétique et géométrie algébrique) et travaillé comme analyste pour des hedge funds à Wall Street. Elle connaît donc bien le monde des algorithmes utilisés dans les domaines de la statistique et de la finance. Ce livre polémique donne, chapitre par chapitre, des exemples tirés de la société américaine où le recours à des algorithmes statistiques sont utilisés massivement pour classer, récompenser, éliminer des candidats à des emplois, des emprunts ou des assurances. Et l’on ne compte plus les dommages collatéraux, les angoisses, voire les victimes conséquences des choix automatisés par des ADM.

2Comment désamorcer ces ADM ? On peut, comme pour les médecins instituer un équivalent du serment d’Hippocrate destiné aux ingénieurs qui développent ces logiciels comme Emmanuel Derman et Paul Wilmott après la crise financière de 2008 : « Je ne donnerai pas aux utilisateurs de mon modèle de fausses certitudes quant à sa précision. Je soulignerai au contraire explicitement ses hypothèses et ses ommissions. Je comprends que mon travail peut avoir d’énormes effets sur la société et l’économie, dont beaucoup dépassent mon entendement. »

3Même si un tel engagement peut sembler une base correcte de travail pour un analyste et un concepteur, il est à craindre qu’elle ne soit mise en œuvre que par les professionnels honnêtes et scrupuleux.

4Une autre possibilité est de créer des robots logiciels pouvant auditer les algorithmes comme le projet « Web transparency and accountability project » à l’université Princeton. D’autres initiatives similaires voient le jour dans d’autres univerités américaines (MIT, Carnegie Mellon) Ces robots se font passer sur Internet pour des individus de toute condition sociale (homme, femme, pauvre, riche...) et en étudiant les réponses des systèmes testés (moteurs de recherche, sites de recrutement ...), ils peuvent détecter leurs partis pris et les dénoncer.

Haut de page

Notes

1 Armes de destruction mathématiques

Haut de page

Pour citer cet article

Référence électronique

Jacques Vétois, « Algorithmes – la bombe à retardement », Terminal [En ligne], 124 | 2019, mis en ligne le 30 juin 2019, consulté le 24 août 2019. URL : http://journals.openedition.org/terminal/4288

Haut de page

Auteur

Jacques Vétois

Comité de rédaction de Terminal

Articles du même auteur

Haut de page

Droits d’auteur

tous droits réservés

Haut de page
  • Logo Télécom École de Management
  • Logo CREIS terminal
  • OpenEdition Journals