1De prime abord, l’expression gouvernance algorithmique suscite la surprise par sa juxtaposition de termes qui relèvent d’ordres tout différents du savoir. Mais à bien y penser, cette néosémie n’est-elle pas un reflet de l’idée-phare de C. P. Snow sur la nécessaire réconciliation des disciplines humanistes et scientifiques ? Son origine (Aneesh, 2009) remonte à l’automatisation des moyens de production (Weber, 1947), en passant par les systèmes experts d’aide à la décision (Newell, 1956) jusqu’à l’exploitation contemporaine de l’apprentissage-machine à partir de données massives (Kitchin et McArdle, 2016).
2Le terme algorithme possède un sens relativement précis, comme suite d’opérations définies en vue d’obtenir un résultat. Il est utilisé ici comme allégorie de l’implication de la machine et de l’intelligence artificielle (IA) dans la prise de décision.
3Le concept de gouvernance possède une pluralité sémantique considérable : « La gouvernance est l’ensemble des règles et des processus collectifs, formalisés ou non, par lequel les acteurs concernés participent à la décision et à la mise en œuvre des actions publiques » (Lacroix et St-Arnaud, 2012).
4Dans le libellé strict de cette définition, la gouvernance concerne « les actions publiques », implicitement distincte donc des actions civiles. Mais dans la gouvernance publique future il faut anticiper que la migration de l’IA se cristallise progressivement dans l’ensemble des administrations publiques, nonobstant certaines protestations concernant la perte de démocratie et une déshumanisation – à la limite sous une forme de bureaucratie extrême (Durand Folco et Martineau, 2021 ; Gingras, 2020).
5Dans l’esprit de la question qui nous est posée, la contribution algorithmique peut se situer de totale à partielle, d’indépendante à pilotée en synergie avec l’humain : cette synergie identifie d’ailleurs le scénario le plus plausible. Ainsi, avec la publication du gouvernement canadien d’une Directive sur la prise de décisions automatisée (Gouvernement du Canada, 2021), et l’élargissement inéluctable de l’IA, on a pu écrire : « On ne peut plus se débarrasser de l’IA ; la meilleure solution est d’intégrer l’humain dans toutes les étapes de l’utilisation de cette technologie » (Delacour, 2021).
6Dans ce qui suit, il sera nécessaire d’évoquer certains concepts moins connus dans la sphère administrative, comme ceux de la science des systèmes et de la cybernétique. À regret, d’autres devront cependant être laissés sous silence compte tenu du format de cette esquisse.
- 1 Cette suite est souvent résumée par l’acronyme OODA (Orient, Observe, Decide, Act) initialement pro (...)
7La gouvernance est une entreprise complexe, impliquant des interactions entre divers acteurs dans l’enchaînement de phases d’observation, de réflexion, de prise de décision, de choix et d’exécution des moyens retenus1.
8Elle doit impérativement s’exprimer en adéquation avec la « situation », ce contexte opérationnel qui impose ses exigences particulières.
9La réalité a toujours raison. À moins qu’elle ne comporte un adversaire intelligent qui aura compris les défauts de la cuirasse et induit une confusion supplémentaire (Wikipédia, 2021a), elle n’est pas malveillante. Mais elle est toujours complexe.
- 2 Un clin d’œil avec la Loi de Miller a suggéré ce choix de sept dimensions (Miller, 1956).
10Que peut bien donc dicter une situation ? L’adéquation d’une éventuelle contribution algorithmique varie avec la nature des besoins opérationnels : nous choisissons de l’examiner ici sous sept angles2. Bien que non orthogonales, ces perspectives, prises ensemble, permettent de jeter un regard critique sur le paradigme d’une machine qui participe à une décision.
11La complexité d’une situation constitue généralement le plus grand défi de sa gouvernance, d’où l’importance de préciser la gradation de ce concept.
12Dans le cas le plus simple, la situation est bien définie et sa maîtrise est constituée d’étapes exécutées selon des règles strictes, observables et exprimables avec des métriques objectives. La machine, par mimétisme avec l’expertise humaine, est à même d’apprendre des raccourcis facilitant la solution parmi d’immenses combinaisons de possibilités. Si la situation ne comporte aucune influence externe, comme dans les jeux d’échecs ou de Go, elle est dite fermée. Si elle comprend des facteurs multiples, mais circonscrits, on peut anticiper sa dynamique s’il est possible de l’observer sur l’ensemble de ses degrés de liberté. Elle est compliquée. Cette exigence est exprimée par la Loi de la Diversité requise du cybernéticien Ashby (1958).
13Le chaos correspond à une situation dont on comprend les fondements théoriques, mais où la prédiction de trajectoire future est incertaine, car hypersensible à de faibles erreurs d’observation ou à de petites perturbations. La métaphore de l’effet papillon est bien connue. En augmentant la précision des mesures, on réussit à la surmonter partiellement, par exemple, à améliorer la prévision climatique moyen terme. En pratique, chaos est souvent compris comme incontrôlable.
14L’authentique complexité est présente dans toute situation réelle : elle résulte d’une multitude d’interactions de facteurs extérieurs, eux-mêmes issus d’interactions récursives et mal connues. Elle prend son origine dans la nature même de l’univers, avec la propension des particules élémentaires à se combiner en agrégats, et ceux-ci à faire de même en molécules puis en organismes. Aujourd’hui l’humain poursuit ce chemin de complexification ininterrompue avec l’émergence de la noosphère et du cyber-espace.
15Le biologiste Steward Kauffman a exposé la non-ergodicité du réel et articulé son remarquable concept de l’adjacent possible (Edge, 2003) comme moteur imprévisible de la complexité. On reconnaît à Edgar Morin d’avoir exploré l’univers des interactions humaines et sociales en instruisant notre intelligence de la nécessité de développer la pensée complexe (Poussart, 2021).
16La complexité situationnelle est variable : elle évolue dans un contexte, terme qui cache notre ignorance, voire notre impossibilité à capter le détail de ces innombrables influences.
- 3 Ces questions, à l’intersection de la philosophie, de la psychologie, de la sémiologie et de la cal (...)
17Connaître la situation ne suffit pas : une gouvernance sagace doit aussi – et surtout – la comprendre pour décider des meilleures actions à prendre en tentant d’anticiper leurs conséquences. Ce passage du « savoir » à la « compréhension » – la quête du sens – est difficile et périlleux. Cette difficulté est particulièrement lourde dans les questions humaines où il n’existe pas de métrique objective qui permette de les représenter explicitement et formellement, mais où on ne dispose que d’« indicateurs » : elles ne sont pas strictement calculables3.
18La compréhension contextualisée demeure le talon d’Achille de l’IA actuelle, dite par apprentissage profond (AP). Celui-ci exploite l’inférence statistique, laquelle exige que les données qui soutiennent son apprentissage soient ergodiques, c.-à-d. que leurs variations proviennent d’une seule cause commune : autrement dit que la situation ne soit pas complexe. Dans l’exploitation des données massives, l’ingénierie AP cherche à effectuer des choix qui semblent pertinents à cet égard, mais qui demeurent néanmoins entachés. Sur le fond elle se trouve confrontée à une difficulté comparable à celle de la première phase historique de l’IA, dite symbolique, où la compréhension était exprimée par un ensemble de règles de connaissance [si… alors…].
- 4 Qui soient notamment capables de décrire la complexité du monde, que le règne animal exécute pourta (...)
- 5 Des travaux actuels proposent une IA hybride, combinaison d’apprentissage machine et de règles symb (...)
19Le passage à l’AP, inspiré des réseaux de neurones, est survenu avec l’impossibilité de constituer des ontologies suffisantes de ces règles4. L’AP est à même de fournir d’excellents estimés de corrélation, mais demeure impuissant à exprimer la causalité5 et ses suggestions demeurent fragiles. Il est imprudent de les utiliser telles quelles (Choi, 2021).
- 6 Les recherches approfondies de Daniel Khaneman (prix Nobel 2002) ont pu démontrer que nos propres p (...)
20Comprendre constitue l’essence de l’intelligence humaine en mode analytique. Cette capacité, qu’Edgar Morin a dénommée « pensée complexe », résulte d’une habile fusion de notre esprit entre des données nouvelles et un immense corpus de connaissances basé sur notre expérience, sur notre propre contexte et sur les précapacités inscrites par notre code génétique. Elle n’est pas infaillible, mais l’histoire humaine montre qu’elle s’est suffisamment bien exprimée pour assurer notre survie et notre développement (Kahneman, 2011)6.
21La nature précise des processus qui la soutiennent compte encore parmi les plus grandes énigmes scientifiques qui soient, notamment le mystère du sens commun, présent chez l’animal mais encore impossible à instancier dans la machine (Shanadan et al., 2020). On considère que la vitesse avec laquelle un individu modifie sa conduite lorsque survient un changement soudain et imprévu du contexte est indicateur de sa qualité (Chollet, 2019). On l’associe à l’agilité et à la créativité, qualités que l’IA actuelle n’est nullement en mesure d’offrir.
22La gouvernance algorithmique est le plus souvent hybride : l’humain complète ses propres facultés en exploitant l’arsenal des technologies avancées, comme l’IA sous ses diverses moutures et les outils de modélisation et simulation rendus accessibles par l’avènement de plateformes de calcul à haute performance. Ce mode se présente souvent comme l’utilisation la plus intelligente de la machine : il exploite la synergie des capacités et amenuise les défauts respectifs du binôme humain – machine.
- 7 Les dépenses colossales que l’industrie automobile a investies depuis des années n’ont pas encore p (...)
23Le terme enjeu est utilisé ici dans un sens élargi d’indicateur de résultat – d’échec ou de succès. Cette entité est complexe : certains échecs n’ont pas de prix, comme la mort d’une personne frappée par un véhicule autonome7, ou les décès qui auraient pu être évités avec un contrôle sanitaire plus avisé en période de pandémie. Certaines manifestations sont indirectes ou collatérales, comme la réputation d’un ministère inepte dans une tourmente, ou la confiance qu’inspire un leadership confirmé. Sa dimension temporelle – court, moyen, long terme, espérance future – en module aussi l’appréciation.
- 8 AlphaZero a été créé par DeepMind, filiale de Google, bien connu pour avoir créé, un système ayant (...)
24À la suite de leur succès avec AlphaZero8, le biais cognitif – attraction bien connue de l’humain pour le gain tangible immédiat – a récemment conduit des chercheurs du groupe DeepMind à proposer l’hypothèse que la maximisation de la récompense était la voie par laquelle la machine pourrait rejoindre « la plupart » des capacités de l’intelligence naturelle et l’expliquer (Silver et al., 2021).
25Cette proposition, controversée, a été décriée par de nombreux chercheurs, soulignant sa « naïveté », notant que le jeu de Go, compliqué mais aux règles rigoureuses, n’avait rien de commun avec la complexité de la réalité et de ses mesures de succès (voir par exemple Roiblat, 2021).
26Le déploiement de la gouvernance implique un couplage intime entre les dimensions territoriales et temporelles.
27Le partitionnement géographique en fonction des spécificités régionales et locales, les mécanismes de délégation de pouvoir en mode de coordination, l’équilibre entre division hiérarchique de l’autorité et hétérarchie d’initiatives citoyennes, la coordination de multiples participants, l’encadrement par règles codifiées sont autant d’éléments qui se retrouvent au cœur de nos systèmes politiques.
28Le temps est également multiforme. Parfois long dans un enjeu stratégique et de réflexion, où une surveillance algorithmique, constante et insensible à la fatigue, peut s’avérer utile et nécessaire. Il devient temps-réel dans un enjeu tactique, où la diligence administrative est de mise ; ou encore réel-dur, voire réel dur-critique, dans le besoin de réponse urgente à une situation imprévue où le contrôle-machine devient imparable.
- 9 Pensons un instant à la cascade logique entre un clic de souris et un dialogue interactif sur une p (...)
29Le concept d’agents intelligents distribués, objet de multiples recherches depuis le début des technologies numériques, calque cette architecture et se retrouve au cœur de l’ossature des ressources contemporaines. Le recours à des agents intelligents distribués dans la gouvernance civile ne semble cependant pas avoir été fréquemment exploré. Là encore, la complexité du contexte et la définition de l’enjeu font obstacle. Certes, l’ensemble des systèmes informatiques implique une coordination spatio-temporelle hypercompliquée, 9mais néanmoins possible et robuste parce que supervisant des entités matérielles et logicielles parfaitement définies. Rien de tel dans les zones glauques de la gouvernance civile où la sagesse dicte de conserver un regard vigilant de l’humain. Si la complexité est modeste, modélisable avec un certain succès et si on se contente d’une optimisation approximative, un pilotage multiagent demeure une option (Tagmouti, 2020). Cette approche a pu se révéler valable lorsque combinée avec une culture politique qui mise sur l’action collective (Pitt, 2021).
- 10 L’optimisation du routage des signaux – en temps de transit tout en minimisant la surface de Silici (...)
- 11 Scale AI, basé à Montréal, financé par le gouvernement fédéral et le gouvernement du Québec, a nota (...)
30La logistique ordonnance les voies et moyens, biens et services, en support à la gouvernance et à l’atteinte de ses objectifs. Cet ordonnancement implique un enchaînement rigoureux et optimisé d’une multitude d’étapes soigneusement synchronisées. Les détails dépassent souvent la capacité humaine non pas tant par leur complexité – car ils sont pour la plupart bien définis – mais par le volume immense de transactions devant être traitées sans faute, parfois en temps réel, par exemple dans le routage de matériel10. La consonance algorithmique est évidente, plus sans doute que dans les six autres dimensions situationnelles évoquées ici. Non seulement souhaitable, mais souvent incontournable11.
31La communication joue le rôle essentiel de ciment dans la gouvernance civile. Elle soutient l’adhésion du citoyen, et ce faisant, permet que les enjeux se réalisent. La gouvernance algorithmique est fort imparfaite à cet égard, notamment pour les deux raisons suivantes :
- 12 L’assistant intelligent Watson vise à entretenir un dialogue textuel ou en langage naturel. Il rest (...)
32Dialogue cognitif déficient : un dialogue humain efficace implique l’existence d’un grand nombre d’informations implicites, non dites, qui donnent tout leur sens aux messages échangés : l’émetteur sait spontanément ce qu’il/elle doit dire et le récepteur interprète instinctivement les signaux reçus selon le contexte qui prévaut. En dépit de progrès spectaculaires récents en linguistique qui permettent à l’IA de synthétiser de longs textes cohérents, la compréhension de leur sens lui échappe : elle demeure un « idiot-savant » (Dickson, 2021 ; Wikipédia, 2021b). La même exigence cognitive prévaut dans le dialogue personne-machine : en lui adressant une commande une requête doit avoir une compréhension experte de ce que la machine peut exécuter correctement ; mais la machine est actuellement incapable de conceptualiser une réponse12.
- 13 Pour un survol de cette question, voir Dickson, 2021. Pour une analyse critique de travaux en cours (...)
33Causalité, opacité : l’apprentissage profond constitue une « boîte noire » qui détecte bien les corrélations, mais sans la compréhension nécessaire pour aborder la causalité (Xu, 2021) : il se retrouve opaque, incapable d’expliquer ses conclusions. Surmonter cette lacune est un immense défi : la recherche actuelle explore divers palliatifs, comme le recours à une intelligence hybride, combinant AP et éléments de connaissance propres à l’ancienne IA symbolique, ou la généralisation de représentations plus abstraites à partir d’observations élémentaires13.
34Certains observateurs « résignés » avancent même qu’avec la disponibilité des données massives, on risque d’en venir à décider en se satisfaisant de la corrélation (Ritter, 2014). On doit s’en inquiéter.
35En dépit de nombreuses chartes, discussions et nombreux documents sur les bonnes pratiques éthiques, l’espoir est faible que l’IA puisse éventuellement se montrer généralement conforme (Hagendorff, 2020) :
-
les grandes entreprises, quand elles affichent un souci éthique, le font pour faire bonne figure, sans enthousiasme profond (Paresh, et Dastin, 2021) ou sous-contractent cette activité… (LeBaron, 2018)
-
les valeurs humaines et les manques éthiques ne sont observables que par des indicateurs humains, eux-mêmes sujets à des biais cognitifs.
-
- 14 Voir une collection de 17 000 phrases contenant des stéréotypes : https://stereoset.mit.edu/
les données massives utilisées dans l’apprentissage machine, comme celles issues de réseaux sociaux, sont fréquemment contaminées par des biais de confirmation et de stéréotypes14.
-
- 15 Alberto Brandolini, voir le bien connu « Bullshit Asymmetry Principle » – Twitter.com, 1er mars 201 (...)
- 16 Voir par exemple « The Silent Partner Cleaning Up Facebook for $500 Million a Year », https://www.n (...)
l’IA permet de créer facilement une avalanche de fausses nouvelles et de fausses images qui se retrouvent ensuite rediffusées massivement dans les médias et réseaux sociaux. Le rapport pollution/détection est très élevé15 ; l’IA s’avère peu efficace pour les détecter et on doit disposer de moniteurs humains16.
36En tout état de cause, soulignons qu’il existe assez fréquemment un problème d’éthique plus fondamental : il s’agit de la collision – irréductible – qui survient lorsque l’application simultanée de deux principes éthiques individuellement corrects se révèle incompatible. La gestion de la pandémie de COVID-19 en offre un exemple éclairant : une saine gestion sanitaire demanderait un confinement strict des personnes, mais l’arrêt des activités économiques entraîne de graves conséquences. Parce qu’il comprend bien le contexte de la situation, l’humain qui doit décider le fera par un respect partiel de ces deux principes ou en les appliquant en alternance. Ce dilemme de la contradiction entre deux propositions logiques individuellement correctes, mais néanmoins incompatibles s’inscrit dans le théorème de l’incomplétude de Goedel.
37Cette brève analyse, issue d’un survol de sept dimensions clés, pose un jugement mitigé sur la notion même de gouvernance algorithmique. Retenons que :
-
La contribution de l’IA actuelle peut s’avérer de grande utilité, voire essentielle, dans la cueillette de données de référence et l’examen de leur corrélation, par exemple dans la détection automatique de conditions anormales.
-
Une fois des zones d’intérêt potentiel ainsi identifiées, la quête de sens de l’humain expert peut s’y consacrer davantage.
-
L’IA, insensible à la fatigue et à la distraction, excelle lorsqu’un grand nombre d’entités ou d’actions définies et circonscrites doivent être soigneusement orchestrées.
-
Le talon d’Achille algorithmique, couramment sans solution, concerne le mur de la complexité. Presque toutes les circonstances s’avèrent complexes, mais le principe même de l’IA contemporaine ne permet pas un passage robuste de l’observation à la compréhension, ce rationnel cognitif nécessaire pour choisir une action appropriée au contexte particulier.
-
La gouvernance algorithmique de situations critiques exige un encadrement humain, prudent et compétent, par des interfaces cognitives personne-machine de qualité. La technologie émergente de réalité virtuelle avancée offre ici un grand potentiel.
-
L’IA par apprentissage de données massive est arrivée à un certain plateau de maturité. Le domaine se concentre aujourd’hui sur ses applications commerciales, avec un soutien efficace de marketing. Elle en parfaite synergie avec les technologies de réseautage social : elle est devenue agent d’une pollution informationnelle qui agresse le citoyen.
-
L’opacité de l’AP demeure un obstacle considérable à son exploitation rationnelle. Cette lacune est activement étudiée et il existe quelques perspectives d’amélioration.
-
Il y a lieu d’insister pour que la communauté de recherche effectue un effort intense de vulgarisation auprès des responsables de gouvernance pour que ceux-ci améliorent l’exercice de leur pensée complexe, ceci sous une forme qui dégage les forces et les faiblesses de l’IA et l’atteinte de la synergie intelligente du duo personne-machine.
-
Inversement, la communauté de R&D doit devenir plus sensible à sa responsabilité sociale et à l’éthique. Peut-on imaginer une forme de « serment d’Hippocrate » qui actualise une notion d’engagement personnel à cet égard ?
-
- 17 Advancing Machine Intelligence with Neuroscience, numenta.org. La recherche en IA cherche à mieux s (...)
L’IA actuelle s’inspire grossièrement des réseaux de neurones. Le futur, construit d’expertises multidisciplinaires, s’inspirera d’une compréhension beaucoup plus fine et précise des processus cognitifs naturels17. Nous connaissons les manifestations de notre propre intelligence ; mais sur sa nature profonde, et sur les mécanismes qui l’instancient, le mystère reste encore complet (Deutsch, 2012).