Navigation – Plan du site

Vivre dans un monde sous algorithmes

Appel à contributions
Jacques Vétois et Maurice Liscouët

Pourquoi les algorithmes sont-ils en ce moment la coqueluche des médias ? Un algorithme, d’après Wikipédia, est une « suite finie et non ambiguë d’opérations ou d’instructions permettant de résoudre un problème ou d’obtenir un résultat ». Pour être exécutable par un ordinateur, il est traduit par une suite d’instructions d’un langage de programmation. Divers algorithmes deviennent complexes de par le volume de données qu’ils traitent ou par la quantité d’opérations élémentaires qu’ils nécessitent pour arriver à un résultat attendu : quel temps fera-t-il demain ? comment évolue le climat  ? quels sont les potentiels futurs terroristes ? Comment rechercher un objet, un animal, une personne dans une image ou dans une vidéo ? Certains algorithmes sont hors de notre portée, nécessitant des années, voire des siècles de calcul. De nouveaux algorithmes issus de travaux en Intelligence artificielle (IA) fournissent des solutions approchées et probabilistes en introduisant de l’apprentissage profond (deep learning) dans les algorithmes et en modélisant des mécanismes de l’intelligence humaine.

Cependant, il ne faut pas perdre de vue que, derrière les algorithmes, il y a des comportements humains avec leurs présupposés, leurs idéologies, leurs visions du monde... Un exemple rapporté par un article de Numerama : « Beauty.AI est le premier concours de beauté jugé par des algorithmes. Problème : la grande majorité des gagnants a la peau claire » met en évidence l’influence des biais de sélection induits par la base d’apprentissage, ensemble des données et exemples qui nourrissent le système algorithmique.

Plus problématiques au plan des libertés individuelles, d’autres risques dans l’utilisation des algorithmes méritent d’être relevés :

  • Les lois françaises sur le renseignement et contre le terrorisme votées sous le gouvernement précédent donnent aux services de renseignement et de police des pouvoirs exorbitants notamment en matière de collecte des données sur les réseaux. Elles autorisent la surveillance de masse et visent à prédire, via des algorithmes embarqués dans des « boîtes noires » des comportements potentiellement dangereux. Il ne fera pas bon se trouver parmi les « faux positifs », à savoir des personnes repérées à tort.

  • Le ministère de la Justice a autorisé, à titre expérimental, l’utilisation d’un logiciel Predictice. Il s’appuie sur un algorithme qui permet d’évaluer les chances de réussite d’une procédure ou le montant des indemnités en analysant des décisions de justice qui doivent, depuis la loi Lemaire, être accessibles en ligne dans le cadre de l’« open data ». Le terme de « justice prédictive » a accompagné le lancement de cet algorithme. Mais il semble que les résultats n’aint pas été à la hauteur des attentes et les Cours de Rennes et de Douai ont interrompu l’expérience.

  • Le modèle économique des GAFAM (Google, Amazon, Facebook, Apple, Microsoft) et de tous ceux qui se sont lancés à leur suite s’appuie en partie sur l’extraction et l’exploitation des données personnelles. Pour offrir recherches et services personnalisés, il faut connaître l’utilisateur, ses habitudes, ses « amis », sa localisation, ses horaires de travail, etc. Tout devient prétexte à collecter des données, à les traiter, à les fusionner et ... à les vendre. Des algorithmes, souvent compliqués et opaques, traitent ces « big data ». Profilé, le consommateur est aussi manipulé. Sa navigation, par exemple, va orienter les affichages de bandeaux publicitaires. Les suggestions faites par un moteur de recherche sont souvent élaborées à partir de scores. Les agrégateurs de données, ces data brokers qui font commerce des données personnelles, travaillent non seulement pour le marketing mais aussi pour la propagande politique. Sont ici en jeu les capacités de choix de l’individu, voire son autonomie et son libre-arbitre, fondements de la démocratie.

La multiplication des applications s’appuyant sur les « big data », et les techniques d’intelligence artificielle comme le « machine learning » doit être interrogée quant à leur impact sociétal : limites du traitement algorithmique, conséquences sur les libertés individuelles, tant économiques que culturelles et sociales, fondements du pacte démocratique, ...

Ce sont ces interrogations que Terminal entend relayer par la publication d’un dossier faisant suite à la journée d’études du 27 novembre 2017.

À titre indicatif, nous proposons certaines problématiques susceptibles d’alimenter ce dossier :

  • big data et algorithmes (synthèses sectorielles sur les applications) ;

  • l’Intelligence artificielle comme boîte noire ;

  • les données personnelles au risque du profilage et de la normativité algorithmique ;

  • extension et automatisation de la surveillance ; la cryptographie est-elle une réponse ?

  • maintenance des applications et vulnérabilité de la société numérique (conséquences des bugs dans les programmes et les bases de données) ;

Calendrier prévisionnel :

  • Publication de l’appel à contributions : juin/juillet 2018 ;

  • Envoi des propositions d’article (2 pages maximum)  : septembre 2018

  • Réponse d’acceptation ou de rejet des propositions : octobre 2018 ;

  • Envoi des articles complets pour évaluation : janvier/février 2019 ;

  • Envoi des commentaires des évaluateurs : février/mars 2019 ;

  • Envoi des articles finaux : mai/juin 2019.

Les textes doivent être envoyés à la revue Terminal (mailto :redaction@revue-terminal.org) et à Maurice Liscouët (mailto :maurice.liscouet@univ-nantes.fr)

Format des articles :30 000 à 40 000 caractères espaces compris (voir les consignes aux auteurs).

  • Dossier : format note de recherche ou de synthèse, voire revue de littérature.

  • Repères : format témoignages d’acteurs ou entretiens thématiques.

  • Logo Télécom École de Management
  • Logo CREIS terminal
  • OpenEdition Journals