Algorithmes – la bombe à retardement
Algorithmes – la bombe à retardement, Caty O’Neil, Édition Les Arènes, Paris, 2018, 343p
Traduction Sébastien Marty
Full text
- 1 Armes de destruction mathématiques
1Le titre original de cet ouvrage en anglais est « Weapons of math Destruction »1. L’auteure Caty O’Neil a suivi des études approfondies en mathématique (arithmétique et géométrie algébrique) et travaillé comme analyste pour des hedge funds à Wall Street. Elle connaît donc bien le monde des algorithmes utilisés dans les domaines de la statistique et de la finance. Ce livre polémique donne, chapitre par chapitre, des exemples tirés de la société américaine où le recours à des algorithmes statistiques sont utilisés massivement pour classer, récompenser, éliminer des candidats à des emplois, des emprunts ou des assurances. Et l’on ne compte plus les dommages collatéraux, les angoisses, voire les victimes conséquences des choix automatisés par des ADM.
2Comment désamorcer ces ADM ? On peut, comme pour les médecins instituer un équivalent du serment d’Hippocrate destiné aux ingénieurs qui développent ces logiciels comme Emmanuel Derman et Paul Wilmott après la crise financière de 2008 : « Je ne donnerai pas aux utilisateurs de mon modèle de fausses certitudes quant à sa précision. Je soulignerai au contraire explicitement ses hypothèses et ses ommissions. Je comprends que mon travail peut avoir d’énormes effets sur la société et l’économie, dont beaucoup dépassent mon entendement. »
3Même si un tel engagement peut sembler une base correcte de travail pour un analyste et un concepteur, il est à craindre qu’elle ne soit mise en œuvre que par les professionnels honnêtes et scrupuleux.
4Une autre possibilité est de créer des robots logiciels pouvant auditer les algorithmes comme le projet « Web transparency and accountability project » à l’université Princeton. D’autres initiatives similaires voient le jour dans d’autres univerités américaines (MIT, Carnegie Mellon) Ces robots se font passer sur Internet pour des individus de toute condition sociale (homme, femme, pauvre, riche...) et en étudiant les réponses des systèmes testés (moteurs de recherche, sites de recrutement ...), ils peuvent détecter leurs partis pris et les dénoncer.
References
Electronic reference
Jacques Vétois, “Algorithmes – la bombe à retardement”, Terminal [Online], 124 | 2019, Online since 30 June 2019, connection on 06 September 2026. URL: http://journals.openedition.org/terminal/4288; DOI: https://doi.org/10.4000/terminal.4288
Top of pageCopyright
The text and other elements (illustrations, imported files) are “All rights reserved”, unless otherwise stated.
Top of page
