Navigation – Plan du site
Vivre dans un monde sous algorithmes

Vivre dans un monde sous algorithmes

Dominique Desbois, Maurice Liscouët et Jacques Vétois

Texte intégral

1Ce titre peut paraître un peu étrange. La notion d’algorithme ne date pas du vingt-et-unième siècle. Elle remonte à l’Antiquité : les habitants de Sumer utilisaient des schémas de calcul afin de résoudre un certain nombre de problèmes pratiques. Ensuite, les mathématiciens grecs ont ensuite conceptualisé la géométrie et l’arithmétique introduisant axiomes, démonstrations et théorèmes. Qui n’a pas appris sur les bancs de l’école l’algorithme d’Euclide. Aujourd’hui, dès le collège les élèves le programment sur leurs tablettes.

2Car la rupture fondamentale n’apparaîtra qu’après la Seconde Guerre mondiale avec la construction des premières machines capables d’exécuter des algorithmes numériques sans intervention humaine, possédant une mémoire en mesure d’enregistrer à la fois les données à traiter et l’algorithme à utiliser codé dans un langage de programmation encore primitif. Les premiers ordinateurs nécessitaient des locaux appropriés et leur programmation (le codage des algorithmes) un savoir-faire très spécialisé.

3Une cinquantaine d’années plus tard, ils sont devenus omniprésents à tous les niveaux de la société. Leur puissance de calcul, mesurée par la fréquence d’horloge des processeurs a été décuplée, passant de 2,5 MHz en 1976 à 4 GHz en 2015 et leur programmation enseignée maintenant dans les classes de lycée. Les limites physiques des processeurs seront bientôt atteintes malgré la loi de Moore mais ce problème tend à être contourné par un développement des machines « multi-cœurs » pouvant exécuter en parallèle les différentes parties du code d’un ou de plusieurs logiciels. De même, les mémoires, autre élément clef des ordinateurs actuels, deviennent quasi infinies avec le recours au stockage dans le « cloud » et le développement des réseaux de communication partout sur la planète. Tout semble donc aller de mieux en mieux dans le monde du numérique.

4Pourtant l’inflation de données engendrées par les réseaux sociaux et le commerce en ligne réclame d’abord de plus en plus de puissance de calcul, puis de confiance dans les résultats obtenus. La question du logiciel et donc des algorithmes se pose à une échelle sans commune mesure avec celle des débuts de l’informatisation.

L’enfer du calcul et des logiciels

5On sait théoriquement depuis les travaux de Türing et des logiciens avant la Seconde Guerre mondiale que certains problèmes ne sont pas calculables, c’est-à-dire qu’un algorithme ne peut fournir la réponse recherchée quelle que soit la vitesse des processeurs utilisés. Mais au fond, ils n’intéressent que les mathématiciens et les informaticiens portés sur la théorie. Depuis les années 1970, la notion de complexité des algorithmes a fait l’objet de travaux théoriques importants qui ont exhibé de nombreux problèmes calculables mais nécessitant un temps de calcul exponentiel en fonction de la taille des données. Ce qui signifie en pratique qu’il faudrait des centaines, voire des milliers d’années aux ordinateurs actuels les plus rapides pour fournir des résultats. Aujourd’hui, ces limites inhérentes à certains algorithmes concernent évidemment le traitement des données extraites des réseaux sociaux (le « big data »), la sécurité des réseaux à travers les logiciels de cryptographie, l’analyse des images et des sons, la traduction automatique et l’intelligence artificielle.

6Ces difficultés logicielles ne s’arrêtent pas là. La reproductibilité de certains calculs n’est pas toujours assurée d’une machine sur l’autre. L’exécution d’un programme sur une machine dépend du système d’exploitation de celle-ci et des compilateurs utilisés pour générer le code machine. Le même programme écrit dans un langage de programmation évolué et standard peut donner des résultats différents selon la représentation des données dans le système d’exploitation de la machine (taille des entiers, représentation des nombres réels en virgule flottante), les arrondis résultants de certaines opérations arithmétiques et l’ordre d’exécution des instructions générées par le compilateur.

L’enfer des « big data ».

7Le big data, c’est l’explosion de la quantité de données, de nouveaux usages pour la communication et l’information, moins centralisée, plus diversifiée, plus libre en un certain sens et évidemment plus manipulable et utilisable par des grands groupes, des banques et des États. Rappelons quelques chiffres.

  • 1 1 zetaoctet = 1021 octets = 1 milliard de teraoctets
  • 2 International data Corporation (IDC) est le premier groupe mondial de conseil et d’études sur les m (...)

8Le volume des données stockées sur support magnétique est en pleine expansion : les données numériques créées dans le monde seraient passées de 1,2 zettaoctets1 par an en 2010 à 1,8 zettaoctets en 2011, puis 2,8 zettaoctets en 2012 et s’élèveront à 40 zettaoctets en 2020. L’essentiel de cette masse d’informations proviendrait des bases de données, des systèmes informatiques et de tous les dispositifs chargés de capter, puis de conserver, les traces de nos actions. IDC2 estime par ailleurs que la masse des informations relatives aux individus a déjà dépassé le volume de données qu’ils sont eux-mêmes capable de produire. Twitter générait en janvier 2013, 7 téraoctets de données chaque jour et Facebook atteignait les 10 téraoctets. Les installations scientifiques d’enregistrement de données (météorologie, astronomie, physique des particules au Cern ….) sont celles qui génèrent le plus de données. De nombreux projets en cours de développement s’appuient sur les technologies du big data.

9Le cloud computing (ou informatique dans les nuages) rend possible le stockage des données et des applications sur des serveurs. Elles sont accessibles à partir d’un ordinateur ou d’un smartphone partout dans le monde. Si l’accroissement exponentiel de la vitesse des processeurs, de leur parallélisation et l’augmentation des capacités de stockage de l’information ont fourni l’infrastructure à l’origine des « big data », des évolutions importantes ont vu le jour également dans le domaine du logiciel comme la création des premiers moteurs de recherche facilitant la navigation et la recherche d’information sur Internet, de nouveaux systèmes de bases de données distribuées (nosql3) et de framework (par exemple Hadoop4) permettant aux applications de travailler avec des milliers de nœuds et des quantités de données quasi infinies. Les réseaux sociaux (Facebook, Twitter …) ont mis en œuvre ces technologies et ces algorithmes pour surfer sur la vague montante des smartphones et des besoins toujours accrus de communication du grand public.

Les modèles statistiques ; les ADM (Armes de Destruction Mathématique)

10Les achats en ligne, les connexions des utilisateurs de réseaux sociaux sont évidemment enregistrés et exploités systématiquement par la publicité. Elle peut ainsi quasiment individualiser chaque message et chaque annonce de nouveaux produits.

  • 5 Algorithmes – La bombe à retardement Cathy O’Neil, Édition Les Arènes , Paris, 2018

11Ces exemples illustrent les aspects positifs de ces recherches dans les traces que nous laissons au cours de nos activités sur la Toile. Mais le côté sombre de ce processus5, c’est la guerre contre les pauvres et les classes moyennes  par l’extension des modèles utilisés pour cataloguer les comportements des consommateurs de supermarchés à d’autres domaines de la vie sociale : obtention de crédits, recherche d’emplois, campagne électorale … Des applications prétendent même ainsi déduire les points chauds des futures activités criminelles dans les grandes villes. Ces travaux peuvent avoir des impacts sur la vie politique : les études menées par la société Cambridge Analytica ont eu des conséquences non négligeables sur la dynamique de campagne en faveur du Brexit au Royaume-Uni et ont favorisé l’élection de Donald Trump aux États-Unis.

Les deux paradigmes de l’intelligence artificielle

12Il est difficile d’appréhender la notion d’intelligence pour les humains. Elle dépend pour chacun de nous des domaines où elle s’applique. Il en est de même pour les animaux. Quant aux machines et aux programmes d’intelligence artificielle, ceux qui ont été partiellement soumis au test de Türing6 ne l’ont pas réussi.

13Deux paradigmes principaux se sont partagés les travaux de recherche en intelligence artificielle depuis ses débuts. Jusque dans les années 1990, les systèmes experts semblaient la voie royale pour simuler le raisonnement humain.

14L’idée de base est de formaliser le savoir dans un domaine sous forme de règle du genre « Si … alors .… sinon …. ». La médecine et l’ingénierie font partie des domaines d’application qui ont contribué à leur succès. En revanche, en dehors de domaines déjà formalisés, l’expertise humaine est difficile à transcrire et à résumer sous forme de règles axiomatiques. En particulier, tout ce qui a un rapport avec la « vie de tous les jours ».

15Les réseaux neuronaux ont été modélisés à partir du fonctionnement des neurones de notre cerveau. Longtemps devancés par les travaux sur les systèmes experts, ils ont profité des avancées technologiques et logicielles pour résoudre des problèmes de vision, d’analyse d’images et de traduction où les systèmes experts étaient à la peine. L’application des techniques du « deep-learning » a donné naissance à l’apprentissage à partir des données : le système est paramétré en lui faisant ingurgiter de grandes quantités de données, classifiées ou non et celui-ci peut ensuite généraliser à l’analyse de documents à traiter. Naturellement, le « big data » est une source inépuisable de données pour l’apprentissage. Néanmoins des difficultés apparaissent lorsqu’on veut comprendre comment le résultat a été établi. Nous avons à faire à une véritable « boîte noire », à un oracle et il est difficile d’expliquer en termes compréhensibles par l’utilisateur le cheminement qui a amené à la conclusion.

16Certains ont même prétendu que l’IA allait bouleverser la recherche scientifique et que celle-ci allait bientôt élaborer de nouvelles théories scientifiques à partir de l’analyse de données expérimentales ou pour les sciences sociales celles issues de l’enregistrement de nos comportements. C’est oublier un peu vite que les scientifiques ne traitent pas l’ensemble des données disponibles mais sélectionnent les plus pertinentes pour leurs recherches à partir de conceptions et de théories en cours dans leur discipline pour en extraire de nouvelles avancées.

17Les données qui ont servi à entraîner le logiciel peuvent comporter des biais statistiques non détectables dans la masse des données et l’application de ce logiciel risque de les reproduire, mais ces biais ne pourront être détectés qu’a posteriori.

18Microsoft en a fait l’expérience : son logiciel de reconnaissance faciale n’identifiait correctement ni les femmes ni les hommes de couleur. Soumis à des tests par des chercheur·e·s du MIT, 93,6 % des erreurs impliquaient des visages à la peau sombre, qui ne représentaient pourtant qu’une petite moitié des visages étudiés7. Des chartes éthiques pour les applications de l’IA ont été publiées. La Commission européenne a élaboré « 7 principes pour une IA éthique, essentiels pour parvenir à une IA digne de confiance »8. Ces principes sont certes intéressants mais seront-ils mis en application par les entreprises et les administrations ?

19Creis-Terminal a organisé en novembre 2017 une journée d’études sur le thème « Vivre dans un monde sous algorithmes ». Ce dossier de la revue complète les interventions de cette journée. Les contributions de ce 124ᵉ numéro de Terminal apportent chacune à leur manière des éléments de réflexion.

20Nadia Hassani interroge le cadre éthique qu’offre le RGPD aux data scientists. Elle présente les résultats d’une enquête quantitative et qualitative menée en ligne auprès d’un panel représentatif de data scientists français sélectionnés sur le réseau social numérique professionnel LinkedIn. Cette enquête met en lumière les difficultés rencontrées par ces professionnels chargés désormais d’assurer un traitement éthique des données massives, tout en participant à leur libre circulation et à leur marchandisation.

21Christine Chevret-Castellani et Sarah Labelle tentent d’expliquer les concepts de transparence et de loyauté cités lors des débats autour de la régulation des algorithmes et de l’Intelligence artificielle par l’analyse des rapports et des entretiens avec des acteurs publics. Les sources constituées d’un ensemble de rapports, de textes de lois et d’entretiens sont soumis à un traitement lexicométrique qui permet de dégager des statistiques lexicales. L’utilisation de l’analyse du discours éclaire la compréhension des deux concepts juridiques.

22Le développement des bases de données scientifiques s’inscrit dans la nouvelle ère ouverte par le big data. Mais cela nous permet-il d’accéder à des connaissance fiables. Ainsi en est-il des biobanques qui sont des infrastructures (principalement hospitalières) mises en place par les pouvoirs publics afin d’accélérer le développement de la médecine de précision en France. Le déploiement de ces infrastructures informationnelles dans le secteur de la santé pose des problèmes cruciaux de régulation publique.Selon Océane Fiant, il est probable que biobanques et médecine de précision profitent bien plus aux intérêts privés qu’à ceux des patients et de la société.

23Dans Libres propos, Philippe Argouarch retrace son expérience du recours à un rédacteur en chef virtuel pour son journal, c’est-à-dire à un programme informatique (un « bot ») qui visite en boucle les serveurs Web et hiérarchise l’information en temps réel sur la page d’accueil d’un média en ligne. La une du journal échappe ainsi à la subjectivité d’un rédacteur en chef humain et s’établit sur des critères d’ordre statistique.

24Chantal Enguehard revient sur le concept de blockchain (ou chaîne de blocs) dont le fonctionnement reste relativement mystérieux même pour les professionnels. Initié pour le développement de monnaies virtuelles, l’idée a engendré des applications dans de multiples domaines. Les machines à voter, le vote électronique se heurtent à de nombreuses difficultés théoriques et pratiques quand ils sont mis en œuvre. Certains chercheurs ont suggéré que le passage par l’intermédiaire d’une chaîne de blocs pourraient résoudre certains de ces problèmes. Chantal Enguehard montre que cette nouvelle technologie ne réalise pas le saut technologique indispensable pour réaliser un vote par Internet transparent et anonyme.

25L’article de Claude Paraponaris est une réflexion sur les smart city, les algorithmes utilisés et leurs finalités. À partir du cas de l’Observatoire de la tranquillité publique de la ville de Marseille, il examine les modes probables de fonctionnement des algorithmes de surveillance participative d’une grande ville. Le big data marseillais imaginé par quelques-uns est un système technique en devenir mais qui reste fragile. L’auteur développe un outillage théorique conduisant à l’élaboration de solutions alternatives.

Haut de page

Notes

1 1 zetaoctet = 1021 octets = 1 milliard de teraoctets

2 International data Corporation (IDC) est le premier groupe mondial de conseil et d’études sur les marchés des technologies de l’information.

3 https ://fr.wikipedia.org/wiki/NoSQL

4 https ://fr.wikipedia.org/wiki/Hadoop

5 Algorithmes – La bombe à retardement Cathy O’Neil, Édition Les Arènes , Paris, 2018

6 Le test de Turing est une proposition de test d’intelligence artificielle fondée sur la faculté d’une machine à imiter la conversation humaine. Décrit par Alan Turing en 1950 dans sa publication Computing machinery and intelligence, Wikipédia https ://fr.wikipedia.org/wiki/Test_de_Turing

7 https ://www.lemonde.fr/pixels/article/2018/06/27/epingle-pour-biais-raciste-microsoft-modifie-son-logiciel-de-reconnaissance-faciale_5321958_4408996.html

8 http://europa.eu/rapid/pressh-release_IP-19-1893_fr.htm

Haut de page

Pour citer cet article

Référence électronique

Dominique Desbois, Maurice Liscouët et Jacques Vétois, « Vivre dans un monde sous algorithmes », Terminal [En ligne], 124 | 2019, mis en ligne le 30 juin 2019, consulté le 26 août 2019. URL : http://journals.openedition.org/terminal/4035 ; DOI : 10.4000/terminal.4035

Haut de page

Auteurs

Dominique Desbois

membre du comité de rédaction de Terminal, dominique.desbois0517@orange.fr

Articles du même auteur

Maurice Liscouët

association Creis-Terminal, maurice.liscouet@univ-nantes.fr

Articles du même auteur

Jacques Vétois

membre du comité de rédaction de Terminal, redaction@revue-terminal.org

Articles du même auteur

Haut de page

Droits d’auteur

tous droits réservés

Haut de page
  • Logo Télécom École de Management
  • Logo CREIS terminal
  • OpenEdition Journals