Navigation – Plan du site

AccueilNumérosvol. 23, n° 2La gouvernance algorithmique : le...Gouvernance algorithmique, intell...

La gouvernance algorithmique : le prix d'une modélisation du social?

Gouvernance algorithmique, intelligence artificielle, enjeux, éthique : esquisse d’une analyse critique

« D’après vous en tant que chercheur en IA, quels sont les enjeux d’une gouvernance algorithmique ? L’éthique a-t-elle un rôle à jouer ? »
Denis Poussart

Résumés

Au fil des années, la gouvernance publique a introduit diverses contributions de l’intelligence artificielle (IA) dans la gestion de situations de grande diversité. Afin de dresser une esquisse des enjeux susceptibles de s’ensuivre, nous examinons la question sous sept dimensions cardinales – complexité, intelligence, enjeu, espace-temps, logistique, communication et éthique – en évoquant celles où ce nouveau paradigme peut constituer une avancée authentique – ou un danger. Nous détaillons certains écueils sérieux de l’IA contemporaine qui sont inhérents à sa racine même d’inférence statistique à partir de données massives. Au fil de la discussion, nous évoquons certains prospects de mitigation de ces écueils, que nous complétons par l’esquisse de la nécessité mutuelle – de la communauté de gouvernance et de la communauté R&D – de mieux comprendre comment assurer que cette ressource soit utilisée intelligemment, et éthiquement.

Haut de page

Texte intégral

1De prime abord, l’expression gouvernance algorithmique suscite la surprise par sa juxtaposition de termes qui relèvent d’ordres tout différents du savoir. Mais à bien y penser, cette néosémie n’est-elle pas un reflet de l’idée-phare de C. P. Snow sur la nécessaire réconciliation des disciplines humanistes et scientifiques ? Son origine (Aneesh, 2009) remonte à l’automatisation des moyens de production (Weber, 1947), en passant par les systèmes experts d’aide à la décision (Newell, 1956) jusqu’à l’exploitation contemporaine de l’apprentissage-machine à partir de données massives (Kitchin et McArdle, 2016).

2Le terme algorithme possède un sens relativement précis, comme suite d’opérations définies en vue d’obtenir un résultat. Il est utilisé ici comme allégorie de l’implication de la machine et de l’intelligence artificielle (IA) dans la prise de décision.

3Le concept de gouvernance possède une pluralité sémantique considérable : « La gouvernance est l’ensemble des règles et des processus collectifs, formalisés ou non, par lequel les acteurs concernés participent à la décision et à la mise en œuvre des actions publiques » (Lacroix et St-Arnaud, 2012).

Posit 1. Gouvernance algorithmique : publique ou civile ? Le futur gommera les frontières.

4Dans le libellé strict de cette définition, la gouvernance concerne « les actions publiques », implicitement distincte donc des actions civiles. Mais dans la gouvernance publique future il faut anticiper que la migration de l’IA se cristallise progressivement dans l’ensemble des administrations publiques, nonobstant certaines protestations concernant la perte de démocratie et une déshumanisation – à la limite sous une forme de bureaucratie extrême (Durand Folco et Martineau, 2021 ; Gingras, 2020).

5Dans l’esprit de la question qui nous est posée, la contribution algorithmique peut se situer de totale à partielle, d’indépendante à pilotée en synergie avec l’humain : cette synergie identifie d’ailleurs le scénario le plus plausible. Ainsi, avec la publication du gouvernement canadien d’une Directive sur la prise de décisions automatisée (Gouvernement du Canada, 2021), et l’élargissement inéluctable de l’IA, on a pu écrire : « On ne peut plus se débarrasser de l’IA ; la meilleure solution est d’intégrer l’humain dans toutes les étapes de l’utilisation de cette technologie » (Delacour, 2021).

6Dans ce qui suit, il sera nécessaire d’évoquer certains concepts moins connus dans la sphère administrative, comme ceux de la science des systèmes et de la cybernétique. À regret, d’autres devront cependant être laissés sous silence compte tenu du format de cette esquisse.

Posit 2. La réalité dicte, la gouvernance obéit.

  • 1 Cette suite est souvent résumée par l’acronyme OODA (Orient, Observe, Decide, Act) initialement pro (...)

7La gouvernance est une entreprise complexe, impliquant des interactions entre divers acteurs dans l’enchaînement de phases d’observation, de réflexion, de prise de décision, de choix et d’exécution des moyens retenus1.

8Elle doit impérativement s’exprimer en adéquation avec la « situation », ce contexte opérationnel qui impose ses exigences particulières.

9La réalité a toujours raison. À moins qu’elle ne comporte un adversaire intelligent qui aura compris les défauts de la cuirasse et induit une confusion supplémentaire (Wikipédia, 2021a), elle n’est pas malveillante. Mais elle est toujours complexe.

Situation et gouvernance : sept perspectives

  • 2 Un clin d’œil avec la Loi de Miller a suggéré ce choix de sept dimensions (Miller, 1956).

10Que peut bien donc dicter une situation ? L’adéquation d’une éventuelle contribution algorithmique varie avec la nature des besoins opérationnels : nous choisissons de l’examiner ici sous sept angles2. Bien que non orthogonales, ces perspectives, prises ensemble, permettent de jeter un regard critique sur le paradigme d’une machine qui participe à une décision.

1. Niveau de complexité

11La complexité d’une situation constitue généralement le plus grand défi de sa gouvernance, d’où l’importance de préciser la gradation de ce concept.

12Dans le cas le plus simple, la situation est bien définie et sa maîtrise est constituée d’étapes exécutées selon des règles strictes, observables et exprimables avec des métriques objectives. La machine, par mimétisme avec l’expertise humaine, est à même d’apprendre des raccourcis facilitant la solution parmi d’immenses combinaisons de possibilités. Si la situation ne comporte aucune influence externe, comme dans les jeux d’échecs ou de Go, elle est dite fermée. Si elle comprend des facteurs multiples, mais circonscrits, on peut anticiper sa dynamique s’il est possible de l’observer sur l’ensemble de ses degrés de liberté. Elle est compliquée. Cette exigence est exprimée par la Loi de la Diversité requise du cybernéticien Ashby (1958).

13Le chaos correspond à une situation dont on comprend les fondements théoriques, mais où la prédiction de trajectoire future est incertaine, car hypersensible à de faibles erreurs d’observation ou à de petites perturbations. La métaphore de l’effet papillon est bien connue. En augmentant la précision des mesures, on réussit à la surmonter partiellement, par exemple, à améliorer la prévision climatique moyen terme. En pratique, chaos est souvent compris comme incontrôlable.

14L’authentique complexité est présente dans toute situation réelle : elle résulte d’une multitude d’interactions de facteurs extérieurs, eux-mêmes issus d’interactions récursives et mal connues. Elle prend son origine dans la nature même de l’univers, avec la propension des particules élémentaires à se combiner en agrégats, et ceux-ci à faire de même en molécules puis en organismes. Aujourd’hui l’humain poursuit ce chemin de complexification ininterrompue avec l’émergence de la noosphère et du cyber-espace.

15Le biologiste Steward Kauffman a exposé la non-ergodicité du réel et articulé son remarquable concept de l’adjacent possible (Edge, 2003) comme moteur imprévisible de la complexité. On reconnaît à Edgar Morin d’avoir exploré l’univers des interactions humaines et sociales en instruisant notre intelligence de la nécessité de développer la pensée complexe (Poussart, 2021).

16La complexité situationnelle est variable : elle évolue dans un contexte, terme qui cache notre ignorance, voire notre impossibilité à capter le détail de ces innombrables influences.

2. Intelligence

  • 3 Ces questions, à l’intersection de la philosophie, de la psychologie, de la sémiologie et de la cal (...)

17Connaître la situation ne suffit pas : une gouvernance sagace doit aussi – et surtout – la comprendre pour décider des meilleures actions à prendre en tentant d’anticiper leurs conséquences. Ce passage du « savoir » à la « compréhension » – la quête du sens – est difficile et périlleux. Cette difficulté est particulièrement lourde dans les questions humaines où il n’existe pas de métrique objective qui permette de les représenter explicitement et formellement, mais où on ne dispose que d’« indicateurs » : elles ne sont pas strictement calculables3.

18La compréhension contextualisée demeure le talon d’Achille de l’IA actuelle, dite par apprentissage profond (AP). Celui-ci exploite l’inférence statistique, laquelle exige que les données qui soutiennent son apprentissage soient ergodiques, c.-à-d. que leurs variations proviennent d’une seule cause commune : autrement dit que la situation ne soit pas complexe. Dans l’exploitation des données massives, l’ingénierie AP cherche à effectuer des choix qui semblent pertinents à cet égard, mais qui demeurent néanmoins entachés. Sur le fond elle se trouve confrontée à une difficulté comparable à celle de la première phase historique de l’IA, dite symbolique, où la compréhension était exprimée par un ensemble de règles de connaissance [si… alors…].

  • 4 Qui soient notamment capables de décrire la complexité du monde, que le règne animal exécute pourta (...)
  • 5 Des travaux actuels proposent une IA hybride, combinaison d’apprentissage machine et de règles symb (...)

19Le passage à l’AP, inspiré des réseaux de neurones, est survenu avec l’impossibilité de constituer des ontologies suffisantes de ces règles4. L’AP est à même de fournir d’excellents estimés de corrélation, mais demeure impuissant à exprimer la causalité5 et ses suggestions demeurent fragiles. Il est imprudent de les utiliser telles quelles (Choi, 2021).

  • 6 Les recherches approfondies de Daniel Khaneman (prix Nobel 2002) ont pu démontrer que nos propres p (...)

20Comprendre constitue l’essence de l’intelligence humaine en mode analytique. Cette capacité, qu’Edgar Morin a dénommée « pensée complexe », résulte d’une habile fusion de notre esprit entre des données nouvelles et un immense corpus de connaissances basé sur notre expérience, sur notre propre contexte et sur les précapacités inscrites par notre code génétique. Elle n’est pas infaillible, mais l’histoire humaine montre qu’elle s’est suffisamment bien exprimée pour assurer notre survie et notre développement (Kahneman, 2011)6.

21La nature précise des processus qui la soutiennent compte encore parmi les plus grandes énigmes scientifiques qui soient, notamment le mystère du sens commun, présent chez l’animal mais encore impossible à instancier dans la machine (Shanadan et al., 2020). On considère que la vitesse avec laquelle un individu modifie sa conduite lorsque survient un changement soudain et imprévu du contexte est indicateur de sa qualité (Chollet, 2019). On l’associe à l’agilité et à la créativité, qualités que l’IA actuelle n’est nullement en mesure d’offrir.

22La gouvernance algorithmique est le plus souvent hybride : l’humain complète ses propres facultés en exploitant l’arsenal des technologies avancées, comme l’IA sous ses diverses moutures et les outils de modélisation et simulation rendus accessibles par l’avènement de plateformes de calcul à haute performance. Ce mode se présente souvent comme l’utilisation la plus intelligente de la machine : il exploite la synergie des capacités et amenuise les défauts respectifs du binôme humain – machine.

3. Enjeu

  • 7 Les dépenses colossales que l’industrie automobile a investies depuis des années n’ont pas encore p (...)

23Le terme enjeu est utilisé ici dans un sens élargi d’indicateur de résultat – d’échec ou de succès. Cette entité est complexe : certains échecs n’ont pas de prix, comme la mort d’une personne frappée par un véhicule autonome7, ou les décès qui auraient pu être évités avec un contrôle sanitaire plus avisé en période de pandémie. Certaines manifestations sont indirectes ou collatérales, comme la réputation d’un ministère inepte dans une tourmente, ou la confiance qu’inspire un leadership confirmé. Sa dimension temporelle – court, moyen, long terme, espérance future – en module aussi l’appréciation.

  • 8 AlphaZero a été créé par DeepMind, filiale de Google, bien connu pour avoir créé, un système ayant (...)

24À la suite de leur succès avec AlphaZero8, le biais cognitif – attraction bien connue de l’humain pour le gain tangible immédiat – a récemment conduit des chercheurs du groupe DeepMind à proposer l’hypothèse que la maximisation de la récompense était la voie par laquelle la machine pourrait rejoindre « la plupart » des capacités de l’intelligence naturelle et l’expliquer (Silver et al., 2021).

25Cette proposition, controversée, a été décriée par de nombreux chercheurs, soulignant sa « naïveté », notant que le jeu de Go, compliqué mais aux règles rigoureuses, n’avait rien de commun avec la complexité de la réalité et de ses mesures de succès (voir par exemple Roiblat, 2021).

4. Espace – Temps

26Le déploiement de la gouvernance implique un couplage intime entre les dimensions territoriales et temporelles.

27Le partitionnement géographique en fonction des spécificités régionales et locales, les mécanismes de délégation de pouvoir en mode de coordination, l’équilibre entre division hiérarchique de l’autorité et hétérarchie d’initiatives citoyennes, la coordination de multiples participants, l’encadrement par règles codifiées sont autant d’éléments qui se retrouvent au cœur de nos systèmes politiques.

28Le temps est également multiforme. Parfois long dans un enjeu stratégique et de réflexion, où une surveillance algorithmique, constante et insensible à la fatigue, peut s’avérer utile et nécessaire. Il devient temps-réel dans un enjeu tactique, où la diligence administrative est de mise ; ou encore réel-dur, voire réel dur-critique, dans le besoin de réponse urgente à une situation imprévue où le contrôle-machine devient imparable.

  • 9 Pensons un instant à la cascade logique entre un clic de souris et un dialogue interactif sur une p (...)

29Le concept d’agents intelligents distribués, objet de multiples recherches depuis le début des technologies numériques, calque cette architecture et se retrouve au cœur de l’ossature des ressources contemporaines. Le recours à des agents intelligents distribués dans la gouvernance civile ne semble cependant pas avoir été fréquemment exploré. Là encore, la complexité du contexte et la définition de l’enjeu font obstacle. Certes, l’ensemble des systèmes informatiques implique une coordination spatio-temporelle hypercompliquée, 9mais néanmoins possible et robuste parce que supervisant des entités matérielles et logicielles parfaitement définies. Rien de tel dans les zones glauques de la gouvernance civile où la sagesse dicte de conserver un regard vigilant de l’humain. Si la complexité est modeste, modélisable avec un certain succès et si on se contente d’une optimisation approximative, un pilotage multiagent demeure une option (Tagmouti, 2020). Cette approche a pu se révéler valable lorsque combinée avec une culture politique qui mise sur l’action collective (Pitt, 2021).

5. Logistique

  • 10 L’optimisation du routage des signaux – en temps de transit tout en minimisant la surface de Silici (...)
  • 11 Scale AI, basé à Montréal, financé par le gouvernement fédéral et le gouvernement du Québec, a nota (...)

30La logistique ordonnance les voies et moyens, biens et services, en support à la gouvernance et à l’atteinte de ses objectifs. Cet ordonnancement implique un enchaînement rigoureux et optimisé d’une multitude d’étapes soigneusement synchronisées. Les détails dépassent souvent la capacité humaine non pas tant par leur complexité – car ils sont pour la plupart bien définis – mais par le volume immense de transactions devant être traitées sans faute, parfois en temps réel, par exemple dans le routage de matériel10. La consonance algorithmique est évidente, plus sans doute que dans les six autres dimensions situationnelles évoquées ici. Non seulement souhaitable, mais souvent incontournable11.

6. Communication

31La communication joue le rôle essentiel de ciment dans la gouvernance civile. Elle soutient l’adhésion du citoyen, et ce faisant, permet que les enjeux se réalisent. La gouvernance algorithmique est fort imparfaite à cet égard, notamment pour les deux raisons suivantes :

  • 12 L’assistant intelligent Watson vise à entretenir un dialogue textuel ou en langage naturel. Il rest (...)

32Dialogue cognitif déficient : un dialogue humain efficace implique l’existence d’un grand nombre d’informations implicites, non dites, qui donnent tout leur sens aux messages échangés : l’émetteur sait spontanément ce qu’il/elle doit dire et le récepteur interprète instinctivement les signaux reçus selon le contexte qui prévaut. En dépit de progrès spectaculaires récents en linguistique qui permettent à l’IA de synthétiser de longs textes cohérents, la compréhension de leur sens lui échappe : elle demeure un « idiot-savant » (Dickson, 2021 ; Wikipédia, 2021b). La même exigence cognitive prévaut dans le dialogue personne-machine : en lui adressant une commande une requête doit avoir une compréhension experte de ce que la machine peut exécuter correctement ; mais la machine est actuellement incapable de conceptualiser une réponse12.

  • 13 Pour un survol de cette question, voir Dickson, 2021. Pour une analyse critique de travaux en cours (...)

33Causalité, opacité : l’apprentissage profond constitue une « boîte noire » qui détecte bien les corrélations, mais sans la compréhension nécessaire pour aborder la causalité (Xu, 2021) : il se retrouve opaque, incapable d’expliquer ses conclusions. Surmonter cette lacune est un immense défi : la recherche actuelle explore divers palliatifs, comme le recours à une intelligence hybride, combinant AP et éléments de connaissance propres à l’ancienne IA symbolique, ou la généralisation de représentations plus abstraites à partir d’observations élémentaires13.

34Certains observateurs « résignés » avancent même qu’avec la disponibilité des données massives, on risque d’en venir à décider en se satisfaisant de la corrélation (Ritter, 2014). On doit s’en inquiéter.

7. Éthique

35En dépit de nombreuses chartes, discussions et nombreux documents sur les bonnes pratiques éthiques, l’espoir est faible que l’IA puisse éventuellement se montrer généralement conforme (Hagendorff, 2020) :

  1. les grandes entreprises, quand elles affichent un souci éthique, le font pour faire bonne figure, sans enthousiasme profond (Paresh, et Dastin, 2021) ou sous-contractent cette activité… (LeBaron, 2018)

  2. les valeurs humaines et les manques éthiques ne sont observables que par des indicateurs humains, eux-mêmes sujets à des biais cognitifs.

    • 14 Voir une collection de 17 000 phrases contenant des stéréotypes : https://stereoset.mit.edu/

    les données massives utilisées dans l’apprentissage machine, comme celles issues de réseaux sociaux, sont fréquemment contaminées par des biais de confirmation et de stéréotypes14.

    • 15 Alberto Brandolini, voir le bien connu « Bullshit Asymmetry Principle » – Twitter.com, 1er mars 201 (...)
    • 16 Voir par exemple « The Silent Partner Cleaning Up Facebook for $500 Million a Year », https://www.n (...)

    l’IA permet de créer facilement une avalanche de fausses nouvelles et de fausses images qui se retrouvent ensuite rediffusées massivement dans les médias et réseaux sociaux. Le rapport pollution/détection est très élevé15 ; l’IA s’avère peu efficace pour les détecter et on doit disposer de moniteurs humains16.

36En tout état de cause, soulignons qu’il existe assez fréquemment un problème d’éthique plus fondamental : il s’agit de la collision – irréductible – qui survient lorsque l’application simultanée de deux principes éthiques individuellement corrects se révèle incompatible. La gestion de la pandémie de COVID-19 en offre un exemple éclairant : une saine gestion sanitaire demanderait un confinement strict des personnes, mais l’arrêt des activités économiques entraîne de graves conséquences. Parce qu’il comprend bien le contexte de la situation, l’humain qui doit décider le fera par un respect partiel de ces deux principes ou en les appliquant en alternance. Ce dilemme de la contradiction entre deux propositions logiques individuellement correctes, mais néanmoins incompatibles s’inscrit dans le théorème de l’incomplétude de Goedel.

Épilogue

37Cette brève analyse, issue d’un survol de sept dimensions clés, pose un jugement mitigé sur la notion même de gouvernance algorithmique. Retenons que :

  • La contribution de l’IA actuelle peut s’avérer de grande utilité, voire essentielle, dans la cueillette de données de référence et l’examen de leur corrélation, par exemple dans la détection automatique de conditions anormales.

  • Une fois des zones d’intérêt potentiel ainsi identifiées, la quête de sens de l’humain expert peut s’y consacrer davantage.

  • L’IA, insensible à la fatigue et à la distraction, excelle lorsqu’un grand nombre d’entités ou d’actions définies et circonscrites doivent être soigneusement orchestrées.

  • Le talon d’Achille algorithmique, couramment sans solution, concerne le mur de la complexité. Presque toutes les circonstances s’avèrent complexes, mais le principe même de l’IA contemporaine ne permet pas un passage robuste de l’observation à la compréhension, ce rationnel cognitif nécessaire pour choisir une action appropriée au contexte particulier.

  • La gouvernance algorithmique de situations critiques exige un encadrement humain, prudent et compétent, par des interfaces cognitives personne-machine de qualité. La technologie émergente de réalité virtuelle avancée offre ici un grand potentiel.

  • L’IA par apprentissage de données massive est arrivée à un certain plateau de maturité. Le domaine se concentre aujourd’hui sur ses applications commerciales, avec un soutien efficace de marketing. Elle en parfaite synergie avec les technologies de réseautage social : elle est devenue agent d’une pollution informationnelle qui agresse le citoyen.

  • L’opacité de l’AP demeure un obstacle considérable à son exploitation rationnelle. Cette lacune est activement étudiée et il existe quelques perspectives d’amélioration.

  • Il y a lieu d’insister pour que la communauté de recherche effectue un effort intense de vulgarisation auprès des responsables de gouvernance pour que ceux-ci améliorent l’exercice de leur pensée complexe, ceci sous une forme qui dégage les forces et les faiblesses de l’IA et l’atteinte de la synergie intelligente du duo personne-machine.

  • Inversement, la communauté de R&D doit devenir plus sensible à sa responsabilité sociale et à l’éthique. Peut-on imaginer une forme de « serment d’Hippocrate » qui actualise une notion d’engagement personnel à cet égard ?

    • 17 Advancing Machine Intelligence with Neuroscience, numenta.org. La recherche en IA cherche à mieux s (...)

    L’IA actuelle s’inspire grossièrement des réseaux de neurones. Le futur, construit d’expertises multidisciplinaires, s’inspirera d’une compréhension beaucoup plus fine et précise des processus cognitifs naturels17. Nous connaissons les manifestations de notre propre intelligence ; mais sur sa nature profonde, et sur les mécanismes qui l’instancient, le mystère reste encore complet (Deutsch, 2012).

Haut de page

Bibliographie

Aneesh, Aneesh (2009), « Global Labor: Algocratic Modes of Organization », Sociological Theory, vol. 27, no 4, p. 347-370.

Ashby, William Ross (1958), « Requisite Variety and its Implications for the Control of Complex Systems », Cybernetica, vol. 1, no 2, [en ligne], http://rossashby.info/Ashby-Mechanisms_of_intelligence.pdf#page=103 (consulté le 12 novembre 2021).

Choi, Charles Q. (2021) « 7 Revealing Ways AI Fails », IEEE Spectrum, 21 septembre, [en ligne], https://spectrum.ieee.org/ai-failures (consulté le 12 novembre 2021).

Chollet François (2019), « On the Measure of intelligence », [en ligne], https://arxiv.org/pdf/1911.01547.pdf (consulté le 12 novembre 2021).

Delacour, Emmanuel (2021), « Algocratie : les algorithmes nuiront-ils à la démocratie? », CScience IA, 16 juin, [en ligne], https://www.cscience.ca/2021/06/16/algocratie-les-algorithmes-nuiront-ils-a-la-democratie/ (consulté le 12 novembre 2021).

Deutsch, David (2012), Creative Blocks – The very laws of physics imply that artificial intelligence must be possible. What’s holding us up?, [en ligne], https://aeon.co/essays/how-close-are-we-to-creating-artificial-intelligence (consulté le 12 novembre 2021).

Dickson, Ben (2021), « Why machine learning struggles with causality », Techtalks, 15 mars, [en ligne], https://bdtechtalks.com/2021/03/15/machine-learning-causality/ (consulté le 12 novembre 2021).

Durand Folco, Jonathan et Jonathan Martineau (2021), « Cartographier les résistances à l’ère du capital algorithmique », Possibles, [en ligne], https://revuepossibles.ojs.umontreal.ca/index.php/revuepossibles/article/view/376 (consulté le 12 novembre 2021).

Edge (2003), The Adjacent Possible, A Talk with Stuart A. Kauffman, [en ligne], https://www.edge.org/conversation/stuart_a_kauffman-the-adjacent-possible (consulté le 12 novembre 2021).

Gingras, Yves (2020), « Des technocrates aux algocrates », Le Devoir, 13 juin, [en ligne], https://www.ledevoir.com/societe/le-devoir-de-philo-histoire/580735/des-technocrates-aux-algocrates (consulté le 12 novembre 2021).

Gouvernement du Canada (2021), Directive sur la prise de décisions automatisée, [en ligne], https://www.tbs-sct.gc.ca/pol/doc-fra.aspx?id=32592 (consulté le 12 novembre 2021).

Hagendorff, Thilo (2020), « The Ethics of AI Ethics: An Evaluation of Guidelines », Minds & Machines, no 30, p. 99-120, [en ligne], https://doi.org/10.1007/s11023-020-09517-8 (consulté le 12 novembre 2021).

Kahneman, Daniel (2011), « Thinking, Fast and Slow », Basingstoke, Macmillan.

Kauffman, Stuart A. (2019), A World Beyond Physics: The Emergence and Evolution of Life, Oxford University Press.

Kitchin, Rob et Gavin McArdle (2016), « What makes Big Data, Big Data? Exploring the ontological characteristics of 26 datasets », Big Data and Society, vol. 3, no 1, [en ligne], https://journals.sagepub.com/doi/full/10.1177/2053951716631130 (consulté le 12 novembre 2021).

Lacroix, Isabelle et Pier-Olivier St-Arnaud (2012), « La gouvernance : tenter une définition », Cahiers de recherche en politique appliquée, vol. IV, no 3, p. 15-28, [en ligne], https://www.usherbrooke.ca/politique-appliquee/fileadmin/sites/flsh/politique/documents/cahiers/Vol4-no3-article2.pdf (consulté le 12 novembre 2021).

LeBaron, Genevieve (2018), « Subcontracting Is Not Illegal, but Is It Unethical? Business Ethics, Forced Labor, And Economic Success », The Brown Journal of Worl Affairs, [en ligne], https://bjwa.brown.edu/20-2/subcontracting-is-not-illegal-but-is-it-unethical-business-ethics-forced-labor-and-economic-success/ (consulté le 12 novembre 2021).

Meunier, Jean-Guy (2012), « Cognitive representation: computable or non computable? », dans E. Aggazi (dir.), Representation in Science, International Academy of philosophie of Science, Louvain, [en ligne], https://archipel.uqam.ca/6944/1/pdf%20to%20upload.pdf (consulté le 12 novembre 2021).

Miller, George A. (1956), « The magical number seven, plus or minus two: Some limits on our capacity for processing information », Psychological Review, vol. 63, no 2, p. 81-97.

Mirhoseini, Azalia et al. (2021), « A Graph Placement Methodology for Fast Chip Design », Nature, no 594, p. 207-212.

Newell, Allen et Herbert A. Simon (1956), « The logic theory machine: A complex information processing system », IRE Transactions on Information Theory, vol. 2, no 3, p. 61-79.

Paresh, Dave et Jeffrey Dastin (2021), « Money, mimicry and mind control: Big Tech slams ethics brakes on AI », Reuters, 8 septembre, [en ligne], https://www.reuters.com/technology/money-mimicry-mind-control-big-tech-slams-ethics-brakes-ai-2021-09-08 (consulté le 12 novembre 2021).

Pitt, Jeremy (2021), Self-Organising Multi-Agent Systems Algorithmic Foundations of Cyber-Anarcho-Socialism, Singapore, World Scientific Publishing.

Poussart, Denis (2021), « L’intelligence artificielle et la pensée complexe selon Edgar Morin », Le Devoir, 12 juillet, [en ligne], https://www.ledevoir.com/opinion/idees/617373/technologie-l-intelligence-artificielle-et-la-pensee-complexe-selon-edgar-morin (consulté le 12 novembre 2021).

Ritter, David (2014), « When to Act on a Correlation, and When Not To », Harvard Business Review, [en ligne], https://hbr.org/2014/03/when-to-act-on-a-correlation-and-when-not-to (consulté le 12 novembre 2021).

Roiblat, Herbert (2021), « Building Artificial Intelligence : Reward is not Enough », TechTalks, 7 juillet, [en ligne], https://bdtechtalks.com/2021/07/07/ai-reward-is-not-enough-herbert-roitblat/ (consulté le 12 novembre 2021).

Satariano, Adam et Mike Isaac (2021), « The Silent Partner Cleaning Up Facebook for $500 Million a Year », New York times, 31 août, [en ligne], https://www.nytimes.com/2021/08/31/technology/facebook-accenture-content-moderation.html (consulté le 12 novembre 2021).

Schölkopf, Bernhard et al. (2021), Towards Causal Representation Learning, [en ligne], https://arxiv.org/pdf/2102.11107.pdf (consulté le 12 novembre 2021).

Shanadan, Murray, et al. (2020), « Artificial Intelligence and the Common Sense of Animals », Trends in Cognitive Sciences, vol. 24, no 1, p. 862-872, [en ligne], https://www.cell.com/trends/cognitive-sciences/fulltext/S1364-6613(20)30216-3 (consulté le 12 novembre 2021).

Silver, David et al. (2021), « Reward is Enough », Artificial Intelligence, vol. 299, [en ligne], https://doi.org/10.1016/j.artint.2021.103535 (consulté le 12 novembre 2021).

Tagmouti, Mostafa (2020), « Les systèmes multi-agent intelligents basés sur un modèle spatio-temporel pour la gestion en temps réel de la mobilité urbaine : État de l’art », Researchgate, [en ligne], https://www.researchgate.net/publication/346124825_Les_systemes_multi-agent_intelligents_bases_sur_un_modele_spatiotemporel_pour_la_gestion_en_temps_reel_de_la_mobilite_urbaine_Etat_de_l'art (consulté le 12 novembre 2021).

Weber, Max (1947), « The Theory of Social and Economic Organization », The Free Press, New York.

Wikipédia (2021a), « L’art de la guerre », Sun Zi, [en ligne], https://fr.wikipedia.org/wiki/L%27Art_de_la_guerre (consulté le 12 novembre 2021).

Wikipédia (2021b), « Syndrome du savant », [en ligne], https://fr.wikipedia.org/wiki/Syndrome_du_savant (consulté le 12 novembre 2021).

Xu, Tammy (2021), « AI Makes Decisions We Dont Understand. Thats a Problem. Fixing it wont be easy, however », Built In, [en ligne], https://builtin.com/artificial-intelligence/ai-right-explanation (consulté le 12 novembre 2021).

Haut de page

Notes

1 Cette suite est souvent résumée par l’acronyme OODA (Orient, Observe, Decide, Act) initialement proposé dans l’analyse militaire d’une situation complexe et critique. Voir https://www.valuebasedmanagement.net/methods_boyd_ooda_loop.html

2 Un clin d’œil avec la Loi de Miller a suggéré ce choix de sept dimensions (Miller, 1956).

3 Ces questions, à l’intersection de la philosophie, de la psychologie, de la sémiologie et de la calculabilité, sont encore l’objet de questionnements profonds. Voir Meunier, 2012.

4 Qui soient notamment capables de décrire la complexité du monde, que le règne animal exécute pourtant fort bien. Voir Shanadan et al., 2020.

5 Des travaux actuels proposent une IA hybride, combinaison d’apprentissage machine et de règles symboliques.

6 Les recherches approfondies de Daniel Khaneman (prix Nobel 2002) ont pu démontrer que nos propres procédés cognitifs fonctionnent selon deux modes : un premier, rapide, émotif, instinctif, robuste, où nous saisissons rapidement et sans effort la nature d’une situation et y réagissons. Un second, rationnel, lent, fragile s’il est interrompu, où nous évaluons avec soin les tenants et aboutissants d’une situation. Nos comportements sont le souvent dominés par le premier.

7 Les dépenses colossales que l’industrie automobile a investies depuis des années n’ont pas encore produit le niveau 5, de la pleine autonomie. Elle a mal compris la complexité du problème qui exige une grande fiabilité instantanée dans un environnement non structuré.

8 AlphaZero a été créé par DeepMind, filiale de Google, bien connu pour avoir créé, un système ayant battu le meilleur joueur de Go au monde en 2017. AlphaZero avait réalisé l’exploit en apprenant elle-même à jouer à partir des règles, sans conseil d’experts. Cette forme d’IA, dite par renforcement, maximise les gains par essais et erreur.

9 Pensons un instant à la cascade logique entre un clic de souris et un dialogue interactif sur une plateforme Web à l’autre bout de la planète, ou au routage automatique et instantané d’un appel sur téléphone cellulaire à un destinataire dans un village sur un autre continent…

10 L’optimisation du routage des signaux – en temps de transit tout en minimisant la surface de Silicium – est un aspect essentiel de la microélectronique contemporaine. La tâche, devenue très difficile pour l’humain dans les circuits les plus avancés, a commencé à avoir recours à l’IA : Mirhoseini et al., 2021.

11 Scale AI, basé à Montréal, financé par le gouvernement fédéral et le gouvernement du Québec, a notamment été créé pour accélérer le passage à des moyens logistiques intelligents : https://www.scaleai.ca/scale-ai-builds-on-research-and-talents-with-the-launch-of-three-new-ai-research-chairs-in-canada/

12 L’assistant intelligent Watson vise à entretenir un dialogue textuel ou en langage naturel. Il reste à voir s’il pourrait agir comme intermédiaire cognitif dans le contexte de gouvernance : https://www.ibm.com/cloud/watson-assistant. Voir aussi https://cohere.ai/, une start-up récente et crédible.

13 Pour un survol de cette question, voir Dickson, 2021. Pour une analyse critique de travaux en cours, voir Schölkopf et al., 2021. On cherche à mieux s’inspirer de l’apprentissage qu’effectue un enfant et du modèle du monde qu’il se construit. Voir Bengio : « Deep Learning », https://www.youtube.com/watch?v=azOmzumh0vQ

14 Voir une collection de 17 000 phrases contenant des stéréotypes : https://stereoset.mit.edu/

15 Alberto Brandolini, voir le bien connu « Bullshit Asymmetry Principle » – Twitter.com, 1er mars 2015.

16 Voir par exemple « The Silent Partner Cleaning Up Facebook for $500 Million a Year », https://www.nytimes.com/2021/08/31/technology/facebook-accenture-content-moderation.html

17 Advancing Machine Intelligence with Neuroscience, numenta.org. La recherche en IA cherche à mieux s’inspirer de l’intelligence humaine, comme l’apprentissage qu’effectue un enfant et du modèle du monde qu’il se construit.

Haut de page

Pour citer cet article

Référence électronique

Denis Poussart, « Gouvernance algorithmique, intelligence artificielle, enjeux, éthique : esquisse d’une analyse critique »Éthique publique [En ligne], vol. 23, n° 2 | 2021, mis en ligne le 17 février 2022, consulté le 14 février 2025. URL : http://journals.openedition.org/ethiquepublique/6418 ; DOI : https://doi.org/10.4000/ethiquepublique.6418

Haut de page

Auteur

Denis Poussart

Denis Poussart est professeur émérite au Département de génie électrique et de génie informatique de l’Université Laval. Après un Ph. D. en génie électrique (biophysique computationelle) au MIT, il a fondé le Laboratoire de vision et systèmes numériques, aujourd’hui rattaché à l’Institut intelligence et données de Laval. Il a coordonné les activités de l’Institut de robotique et d’intelligence des systèmes du programme des Réseaux d’excellence du Canada et a été vice-président à la recherche du Centre de recherche informatique de Montréal. Il est Fellow de l’Académie canadienne de génie et membre de l’Observatoire international sur les impacts sociétaux de l’IA (OBVIA).

Haut de page

Droits d’auteur

Le texte et les autres éléments (illustrations, fichiers annexes importés), sont « Tous droits réservés », sauf mention contraire.

Haut de page
Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search