Navigation – Plan du site

La gouvernance algorithmique

Date limite des propositions de soumission : 8 septembre 2020

Coordonnatrices

Présentation générale

Les innovations technologiques de grande ampleur sont rendues possibles par des structures sociales de recherche, de production et de répartition qui se trouvent alors profondément affectées par leur déploiement. Ce sont toutes les sphères de l’activité humaine qui subissent des perturbations et des reconfigurations : l’emploi et le travail, les rapports familiaux, les modes de participation politique, l’accomplissement intellectuel, la vie intime, etc. Au cœur de la nouvelle révolution industrielle induite par l’avènement de l’intelligence artificielle (IA) de masse se trouvent des formes inédites de médiatisation des rapports sociaux et de mécanisation, d’automatisation algorithmique des tâches intellectuelles, de procédures administratives, de prises de décision médicale et judiciaire, etc. Les effets de cette automatisation sont très profonds sur l’ensemble de l’existence humaine, sur l’organisation de la vie sociale et politique, sur le rapport des individus à leur identité, sur le sens même de l’intimité et de l’intériorité. Les dialogues entre machines s’intensifient et impliquent ainsi une nouvelle complexité.

Si les bénéfices sociaux du déploiement des technologies du numérique et de l’IA sont considérables, tant du point de vue économique que par le potentiel d’amélioration des conditions de vie et d’émancipation, les risques d’un déploiement non ou mal maîtrisé demeurent nombreux et méritent une attention particulière : biais algorithmique, sécurité, fractures sociales, iniquité et discrimination, atteintes aux droits de la personne. Ces risques induits reposent sur de nouveaux processus au profit d’une performance qui embrouille et fragilise nos démocraties : l’absence de délibération et de consultation avec la société, le manque de transparence des algorithmes, la surveillance, des mesures de reddition de compte qui ne sont pas en place.

La question qui se pose désormais et qui nous semble cruciale est la suivante : Quels sont les impacts sociétaux de l’IA qui appellent/interpellent une plus grande vigilance éthique politique et juridique. De cette question découle une série d’interrogations : comment développer et déployer de manière responsable les outils numériques qui utilisent des algorithmes intelligents et qui recueillent des données pour nourrir ces algorithmes ? Est-il possible d’envisager collectivement la mise en place d’un contrôle social et politique ? Quelles sont les balises à mettre en place pour que ces technologies soient moins intrusives dans nos vies privées et régulent nos conduites ?

Pour répondre à ces questions, de nombreuses initiatives de régulation ont vu le jour ces dernières années. Ces initiatives ont été souvent associées à l’éthique et cette dernière agit comme mécanisme de régulation sociale, qu’elle soit à côté, en synergie ou en dehors du droit. Ces chartes et déclarations d’éthique publique, que ce soit la Déclaration d’Asilomar (2017), la Déclaration de Montréal (2018), la Déclaration de l’OCDE (2019) et les principes éthiques de la Commission européenne (2019), le Livre blanc intitulé l’intelligence artificielle : excellence et confiance de la Commission européenne (2020) se sont imposées comme une réponse souple au problème du déploiement de l’intelligence artificielle, elles s’inscrivent aussi dans une optique de recherche d’un consensus international. Que peut-on attendre de ces initiatives ? Y voit-on l’émergence de nouveaux droits fondamentaux ou l’adaptation des droits existants ? Peuvent-ils constituer les principes d’une gouvernance algorithmique à l’échelle nationale et internationale ?

Sous-thèmes et questions

*les responsables du numéro accueilleront des propositions externes à ces sous-thèmes si elles sont jugées pertinentes.

1. Quels systèmes algorithmiques et d’intelligence artificielle appliquer à la société ?

La gouvernance algorithmique fait référence à la « société du chiffre », où toute procédure, tout parcours ou prise de décision reposerait sur des systèmes statistiques qui nourrissent des algorithmes. Le recours au chiffre est censé garantir une objectivité, voire une vérité dépourvue d’erreurs, et annoncerait la fin de la subjectivité humaine. Il traduit la croyance excessive dans le pouvoir, la puissance et l’efficacité des algorithmes, ainsi que dans la transparence totale de la société.

Quelles sont les caractéristiques de la « société du chiffre » ? Quelles en sont les manifestations ? Quels sont les principales applications algorithmiques et systèmes d’intelligence artificielle, leurs usages et finalités ? Par quels acteurs (privés/publics) sont-ils développés ? Quels partenariats entre eux sont-ils établis, notamment dans les procédés de prise de décision algorithmique de l’administration publique ? En quoi ces systèmes constituent-ils une nouvelle forme de « gouvernance » ou « gouvernementalité » ?

2. Formaliser les chartes éthiques en IA

Un certain nombre d’institutions et d’organismes ont développé des principes et normes généraux devant régir le développement de l’intelligence artificielle et du numérique : le Future of Life Institute avec les principes d’Asilomar (2017), l’Association internationale des ingénieurs électriciens et électroniciens (Ethically Aligned Design, 2017-IEEE), l’Institute AI Now aux États-Unis, la Commission nationale informatique et libertés (CNIL) et leur rapport sur les enjeux éthiques des algorithmes et de l’IA. À ces documents, s’ajoutent des rapports plus stratégiques dont le but est de définir la politique d’un État ou d’un ensemble d’États en matière d’intelligence artificielle et du numérique. Ainsi, des rapports ambitieux ont été publiés depuis mars 2018 : le rapport de la Mission Villani en France et celui de la Chambre des Lords au Royaume-Uni, sans oublier les rapports européens du European Group on Ethics in Science and New Technologies8 et celui de la Commission européenne (2020) prônant une IA digne de confiance. Les éléments communs font ressortir l’importance d’avoir des principes en matière d’encadrement de l’IA et du numérique et la plupart mettent en évidence que ces développements doivent être bénéfiques sur le plan social et ne doivent pas nuire aux droits de la personne.

À quelles préoccupations majeures répondent les chartes, recommandations et textes règlementaires actuels ? Quelles seraient les prochaines étapes de ces chartes ? Peuvent-elles servir de prélude à de futurs droits du numérique et comment le droit peut-il prendre le relais de l’éthique sans pour autant entraver la nécessaire capacité à s’adapter, à évoluer avec la technologie ? Peut-on au final institutionnaliser les principes éthiques et parler encore d’éthique ? Comment faire de la réflexion éthique un bien commun ?

3. Quelles règles de gouvernance algorithmique ? Quels impacts pour la démocratie ?

Le déploiement à grande échelle des algorithmes et systèmes d’intelligence artificielle caractérise la gouvernance algorithmique. L’IA peut être capable du mieux comme du pire. Son utilisation questionne et peut rendre la démocratie vulnérable si des mécanismes d’audit et de contrôle ne sont pas mis en place. Le cas de Cambridge Analytica a permis d’illustrer comment il était possible de façonner et infléchir l’opinion publique et de manipuler le libre arbitre. La désinformation qui abonde et pollue les notions de vérité et de connaissances objectives peut bénéficier des effets démultiplicateurs des réseaux sociaux. Dans la même veine, que penser des applications de traçage des individus adoptées par plusieurs pays pour suivre la pandémie de COVID-19 ? Est-ce que ces outils ont fait l’objet de débats publics ? Quels sont les usages et les répercussions de ces technologies de tracking sur la démocratie ? Comment s’assurer que l’IA et les plateformes numériques (médias sociaux) ne dénaturent pas l’information et la démocratie ? Quelles sont les conséquences pour l’organisation de la société ? Observe-t-on des modifications des règles de vie en société, spécialement du droit et de l’éthique comme outils de régulation du comportement social ? La cyberdémocratie est-elle une anti-démocratie ? Bref, quel est le poids des algorithmes et de l’IA dans l’organisation des sociétés contemporaines et quelles seraient les conditions à mettre en place pour s’assurer que les humains ne peuvent être trompés par la machine (bot) ? Ces questions s’imposent et invitent à une réflexion en profondeur sur l’idéal de la démocratie à l’ère de la gouvernance algorithmique et de la post-vérité.

Démarche qualité de la Revue

Avant publication, tout article fait obligatoirement l’objet d’une double évaluation par les pairs, lesquels évaluent son acceptabilité. L’auteur est ensuite invité à modifier son texte à la lumière des commentaires des évaluateurs. Le Comité de direction de la Revue peut refuser un article s’il ne répond pas aux normes minimales attendues d’un article scientifique ou s’il n’est pas lié à la thématique choisie.

Modalités de soumission

Les personnes désireuses de proposer un article doivent faire parvenir une proposition d’article aux responsables du numéro et au secrétariat de rédaction (voir Conditions de soumission). Les propositions d’article doivent compter de 150 à 200 mots. Le Comité de direction de la Revue fera part de sa décision dans les vingt jours suivant la date limite de remise des propositions. Les auteurs dont la proposition aura été retenue pourront envoyer leur article complet. Les articles définitifs doivent compter environ 40 000 caractères (bibliographie et résumés non compris), inclure un résumé et des mots-clés (en français et en anglais), ainsi qu’une bibliographie (n’excédant pas trois pages).

Conditions de soumission

Les propositions de soumissions, sous forme de résumés de 200 mots environ, doivent être envoyées d’ici le 8 septembre 2020 à

Date limite pour remettre les textes : 31 décembre 2020

Parution prévue (en ligne, en libre accès immédiat) : juin 2021

  • OpenEdition Journals