Navigation – Plan du site
Vivre dans un monde sous algorithmes

Transparence et loyauté : des motifs au service de la souplesse du droit et de la créativité

Christine Chevret-Castellani et Sarah Labelle

Résumés

Les questions posées par la place que la technique acquiert dans nos sociétés contemporaines sont traduites par des notions qui recouvrent des modalités de relation face à ce qui est inconnu et incertain. Les choix terminologiques, « transparence » et « loyauté », mobilisés pour envisager la régulation des algorithmes, renvoient non seulement à des conceptions des plates-formes mais aussi à des conceptions des relations que les usagers, qu’ils soient clients ou bénéficiaires, entretiennent avec elles. Les acteurs publics construisent ainsi, grâce à ces notions, un discours sur leur rôle social et le maintien d’un cadre démocratique : elles participent à la constitution de motifs.

Haut de page

Texte intégral

  • 1 Notons que les pouvoirs publics sont eux-mêmes acteurs de la mise en place de plates-formes. C’est (...)
  • 2 Conseil National du Numérique, Lancement de la consultation publique sur les algorithmes, Paris, Li (...)

1Un algorithme se définit à la fois comme une méthode de traitement automatisé de données et comme un produit réalisé (Abiteboul & Peugeot, 2017) en fonction d’une intention (Diakopoulos, 2014). Face aux stratégies impliquées par le développement de l’usage de nombreux algorithmes tant publics1 que privés, les pouvoirs publics français s’intéressent aux modalités de régulation qu’il est possible de mettre en œuvre. Étant donné qu’une partie de l’activité économique et sociale leur est d’ores et déjà déléguée (Rieder, 2010), il s’agit de définir comment contrôler et vérifier les conditions de collecte et de traitement des données en vue de limiter les biais qu’ils peuvent comporter, et de réduire leur perception en tant que « boîtes noires »2.

  • 3 Article 49 de la loi n° 2016-1321 du 7 octobre 2016 pour une République numérique. Décret d’applica (...)

2La réflexion sur les modalités de régulation s’est amplifiée depuis une demi-douzaine d’années : la manière dont les infrastructures et dispositifs informatisés peuvent être encadrés juridiquement pose question, notamment en ce qui concerne la pérennité et l’adaptabilité du droit. Dans un premier temps, la tâche consistant à faire des propositions concernant la régulation du numérique a incombé à des autorités administratives indépendantes, comme la Commission nationale de l’informatique et des libertés (Cnil), l’Autorité de régulation des communications électroniques et des postes (Arcep), ainsi que le Conseil national du numérique (CNNum). Les débats et les synthèses issus des consultations ont débouché, dans un deuxième temps, sur la loi pour une République numérique : la collecte des données et leur traitement algorithmique ont été abordés et traduits juridiquement3 en termes de transparence et de loyauté (Dulong de Rosnay, 2016).

  • 4 Assemblée Nationale, Numérique et libertés : un nouvel âge démocratique, 2015, p. 284.

3Les questions posées par la place que la technique acquiert dans nos sociétés contemporaines sont ainsi traduites par des notions qui recouvrent des modalités de relation face à ce qui est inconnu et incertain. Elles renvoient également à l’usage de notions floues dans les discours des acteurs publics – reconnues d’ailleurs comme telles par les acteurs eux-mêmes4 – et semblent alors s’inscrire dans une idéologie (Bouquillion, 2010). Les acteurs publics construisent grâce à ces notions un discours sur leur rôle social et le maintien d’un cadre démocratique : elles participent ainsi à la constitution de motifs (Labelle & Mouratidou, 2017, p. 157), c’est-à-dire des termes qui permettent aux acteurs de définir leur rôle et de mettre en avant les valeurs portées par leurs actions. Nous pouvons rappeler ici que la notion de transparence est depuis longtemps présente dans les discours politiques qui commentent et accompagnent le développement des systèmes techniques d’information et les industries médiatiques. Les rapports publics, depuis celui de Nora-Minc en 1978 à ceux plus contemporains, la constituent comme une norme d’action et la promeuvent en injonction pour répondre aux enjeux de revitalisation de la démocratie d’une part, et pour fournir aux « réutilisateurs » les moyens de proposer et de composer de nouveaux services (Labelle & Le Corf, 2012) d’autre part.

4Dans cet article, nous nous intéresserons plus spécifiquement à la manière dont les notions de transparence et de loyauté sont définies dans le cadre de la régulation des algorithmes. Comment les acteurs publics constituent la transparence et la loyauté comme des garanties à la « redevabilité » des algorithmes ? Comment ces notions permettent le déploiement d’une panoplie au service de la régulation ?

5Pour répondre à cette problématique, notre article est construit autour de deux axes de recherches. Tout d’abord, nous faisons l’hypothèse que les choix terminologiques mobilisés pour envisager la régulation des algorithmes renvoient non seulement à des conceptions des plates-formes mais encore à des conceptions des relations que les usagers, qu’ils soient clients ou bénéficiaires, entretiennent avec elles. Cette diversité de conceptions conduit à la formulation de différents principes (Maesschalck & Dedeurwaerdere, 2002 ; Brown & Marsden, 2013 ; Kroll et al., 2017) parmi lesquels les pouvoirs publics sélectionnent ceux mobilisés dans la loi. Nous chercherons à comprendre comment des principes à l’instar de ceux de transparence et de loyauté deviennent des catégories pour réguler.

6Ensuite, notre seconde hypothèse est que le choix des principes de transparence et de loyauté révélerait des tensions entre le respect du droit de la concurrence et la protection des droits humains. D’un côté, il s’agirait d’assurer la compétitivité des entreprises françaises face aux géants de l’Internet. D’un autre côté, se poserait la question de la liberté des citoyens, plus particulièrement de la protection des données personnelles, et de l’égalité, notamment la non-discrimination que celle-ci suppose.

  • 5 Le traitement lexicométrique permet de dégager des statistiques lexicales. Il a été fait grâce au l (...)
  • 6 Nous avons mené 3 entretiens pour lesquels nous avons demandé l’autorisation qu’ils ne soient pas a (...)

7Pour traiter nos axes de recherches, le corpus est construit à partir des rapports publics portant sur le sujet, rapports qui ont fait l’objet d’un traitement lexicométrique permettant de situer la définition des termes de transparence et loyauté5. La méthode a été complétée par une analyse discursive favorisant la reprise en situation des contenus verbaux. Nous avons procédé à des observations de cinq événements et manifestations nationaux, durant la période 2017-2018 à Paris, dans lesquelles la question de la régulation des algorithmes était évoquée. Nous avons mené des entretiens avec des personnes qui jouent un rôle dans la définition de la régulation que ce soit en tant qu’acteurs publics qu’en tant qu’acteurs privés et militants6. Du point de vue de la méthode, nos enquêtes ont consisté en l’observation de « composites », c’est-à-dire des discours et des objets qui acquièrent du sens dans la réalisation d’actions pour les acteurs et peuvent consister en l’application de normes d’action.

8Notre enquête a permis de mettre en évidence les modes de construction et de relation des différentes catégories mobilisées par les acteurs publics et privés pour désigner les modalités de régulation. Elle souligne combien les enjeux politiques et économiques sont de maintenir les conditions favorables aux traitements informatiques. La dimension « floue » des notions dont le caractère idéologique a été souligné est structurelle des motifs émergents que sont le « droit souple » et la créativité dans le domaine de la régulation.

La « transparence » et la « loyauté » comme catégories de régulation

9Les termes de « transparence » et de « loyauté » sont les deux catégories présentes dans la loi pour une République numérique et nous analysons la manière dont elles sont mobilisées dans les rapports et comment nos interlocuteurs les appréhendent. Nous avons pu noter dans une précédente recherche concernant la consultation sur la loi pour une République numérique (Alexis et al., 2017a, Alexis et al., 2017b) une certaine homogénéisation des discours sur la régulation autour de quelques termes. Ces termes ont deux caractéristiques. D’une part, ils appartiennent à un lexique à tendance technique qui repose sur une expertise, celle de comprendre les enjeux sociaux et éthiques des algorithmes en tant que dispositifs techniques ayant des conséquences sur la réalité des pratiques sociales. D’autre part, ils renvoient à des imaginaires de la relation entre l’Homme et la technique et à des modalités souhaitables de cette relation. Les termes utilisés possèdent dans l’esprit de chacun une représentation : ce sont des notions heuristiques qui permettent de désigner facilement les enjeux, et cela, même s’ils appartiennent à des espaces sociaux différents (les domaines du droit pour loyauté, et responsabilité, et du gouvernement, pour transparence et redevabilité).

Définitions des catégories de « transparence » et de « loyauté »

10Dans les différents rapports étudiés, les catégories sont mobilisées dans la perspective de poser les notions dans le cadre du débat et de la réflexion. Il s’agit de proposer des définitions qui sont constituées en solutions à des problèmes identifiés en lien avec les évolutions techniques. Nous partons de l’idée que les définitions de ces termes sont élaborées au fil de la production de rapports, qu’ils sont (dé)chargés au fur et à mesure de valeurs et qu’ils constituent des ressources pour l’action.

11Dans le rapport du Conseil d’État de 2014, le principe de loyauté est défini cinq fois (pour 39 occurrences) comme « consistant à assurer de bonne foi le service de classement et de référencement » (2014, p. 26) et servant de pendant au principe de neutralité exigé des opérateurs de communications électroniques. Ce principe est envisagé tant envers les utilisateurs privés, eu égard au droit de la consommation, qu’entre les utilisateurs professionnels, au regard du droit de la concurrence.

12La loyauté est davantage citée (65 occurrences) dans le rapport de l’Assemblée nationale de 2015 ; elle vise plus précisément les plates-formes. Elle y est alors associée au principe de transparence (62 occurrences) envisagé comme non-discrimination. La loyauté est promue comme devant s’inscrire dans le droit positif : « la conservation du principe de loyauté vise par conséquent à donner un nouveau souffle au droit positif, en particulier le droit de la concurrence, le droit commercial, le droit à la consommation et le droit de la protection des données » (2015, p. 205). Ainsi, ce principe propre, dans ses fondements, au droit de la concurrence est généralisé et étendu à la protection des données.

  • 7 Le rapport ne cite pas en revanche l’ouvrage qui est le suivant  : À quoi rêvent les algorithmes ? (...)

13Dans le rapport du conseil général de l’Économie de 2016, les principes de transparence et de loyauté sont des références beaucoup moins mobilisées par les experts en économie. Ils font respectivement l’objet de 29 occurrences dont 15 spécifiquement pour les algorithmes et 9 occurrences. La loyauté y est définie et renvoie à la nécessité pour un algorithmes « de ne faire que ce qu’il est censé faire et de le faire bien » (2016, p. 17). Sur ce point, le rapport donne explicitement une définition attribuée à Dominique Cardon7 de manière à en démocratiser le principe. Suite à une rencontre avec Jacques Serris et Ilarion Pavel, les auteurs de ce rapport, l’équipe d’Etalab – mission en charge de l’ouverture des données publiques – va débattre de l’intérêt pour la mission d’aborder la question des algorithmes et de leur régulation. Ainsi, Simon Chignard nous indique que « la question de l’exploitation des données » n’était pas constituée en axe de travail au début de la mission, elle le devient avec la création de l’Administrateur général des données (AGD) et la constitution d’une équipe spécialisée en datasciences. Il précise que l’intérêt pour la « régulation des algorithmes » émerge alors progressivement et deviendra manifeste avec la préparation de la loi pour une République numérique. Il souligne que la consécration de « la transparence des algorithmes » est un des « aspects novateurs » de cette loi, tout comme Thomas Saint-Aubin en fait un grand principe de la loi. La « transparence » est pour Perica Sucevic l’essence même de la mission d’Etalab, et si la loi consacre pour lui le « droit d’accès à l’information » dans la continuité de la loi Cada, la notion de « transparence » est le principe d’ensemble de la loi, un nécessaire « rempart à l’arbitraire » que pourrait ressentir l’usager de l’administration dans certaines prises de décision.

14Dans le rapport de la Cnil de 2017, la transparence est associée à la loyauté et à la responsabilité. Elle est cependant peu citée (18 occurrences) pour des raisons liées à un changement de valeurs. En effet, « l’idée de transparence des algorithmes est considérée par beaucoup comme excessivement simplificatrice et finalement insatisfaisante » (2017, p. 51). S’il s’agit de désigner par « transparence » la publication du code source, le risque est, pour la Cnil, de laisser le public non-spécialiste dans l’incompréhension de la logique à l’œuvre.

15C’est cette préoccupation de démocratisation de questions techniques pointues qui guident le rapport Villani de 2018. Les principes de transparence et de loyauté sont moins présents que dans les publications institutionnelles précédentes. La loyauté (2 occurrences) y est ainsi définie de manière comparable à celle de la Cnil comme ce pour quoi “un algorithme est censé faire”. La transparence est un principe abandonné (9 occurrences pour d’autres renvois qu’au terme algorithme). Il lui est préféré le principe d’explication ou d’explicabilité que l’on retrouve dans des syntagmes tels que « en développant les recherches sur l’explicabilité » (2018, p. 13), « production des systèmes plus explicables » (2018, p. 21) et « droit à l’explication sur les traitements des données » (2018, p. 152). Pourtant, Thomas Saint-Aubin, entrepreneur dans le domaine de la “legal techˮ, pointe les difficiles conditions de développement de cette « explicabilité » : c’est un « travail difficile » pour lequel les compétences ne sont pas encore réunies et cela « demande du temps ».

16L’entretien avec Simon Chignard confirme cette évolution dans le choix des termes et la justifie. Il souligne la difficulté à trouver les bons termes, à les définir précisément en fonction des contextes dans lesquels ils sont utilisés et surtout à « voir les interactions » entre les différents termes. Dans sa démarche de conseil stratégique au sein de la mission Etalab, il a été amené à réfléchir aux conditions dans lesquelles les notions étaient mobilisées. Il observe un passage de « neutralité » des algorithmes à « loyauté », et une focalisation sur la notion de « transparence » : l’abandon du terme neutralité repose sur une prise de conscience de l’intentionnalité dans le dispositif technique et la mention de « loyauté » repose quant à elle sur la valorisation de la confiance (« je fais ce que je dis et je dis comment je le fais »), sans nuire au secret des affaires, ce que conduirait à faire la « transparence ». Il pointe le fait que cette dernière notion « fait débat », notamment parce que le fonctionnement de l’algorithme ne peut être compris par tous. Pour Thomas Saint-Aubin, les notions de « responsabilité » et de « loyauté » sont étroitement associées pour créer la « confiance » et la transparence algorithmique (par la publication du code sur un dispositif spécialisé et collaboratif) est le gage d’une « justice humaine » en montrant que le code permet de prendre en charge la procédure tandis que le juriste analyse le conflit. Il n’en reste pas moins qu’en tant que juriste de la Dinsic, Perica Sucevic « n’a pas besoin de la notion de loyauté », qu’il considère comme inutile aux administrations publiques. Et il cite comme exemple « Admission Post-Bac » (APB), dispositif ne respectant pas la loi, et qu’il a suffi que ce soit su pour qu’il soit remplacé, « sur le principe du name and shame ». Les notions possèdent des « synergies » (Thomas Saint-Aubin), elles peuvent agir en « contre-poids » (Simon Chignard) les unes des autres. Elles se complètent ou se remplacent dans les discours. Dans tous les cas, des glissements s’observent dans les modes de désignation de la régulation, et ces glissements sont révélateurs des relations des notions entre elles et de la manière dont les différents acteurs publics et privés cherchent à établir leur cadre d’actions. Ces glissements reposent sur un phénomène commun : ils définissent le rapport possible entre le dispositif technique et les conditions de son acceptabilité sociale.

Derrière les catégories, les conceptions de la régulation des algorithmes

17Dans les rapports analysés, les catégories mobilisées sont définies pour proposer aux industries marchandes dont le service repose sur un traitement algorithmique, et en particulier aux plates-formes, des cadres d’action. Ces cadres d’action ne visent pas à encadrer la production d’algorithmes, mais à définir les dispositifs matériels qui constituent de la médiation à l’usage de ces algorithmes.

18Le premier d’entre eux repose sur l’information des usagers : il s’agit de fournir des éléments qui permettent une compréhension du fonctionnement, qui éclaire les conditions techniques de traitement. La conception de la régulation repose alors sur la capacité des acteurs publics et industriels à proposer des contenus qui soient interprétables par tout un chacun : c’est leur degré d’ouverture – pour reprendre un terme qui est cher aux militants – qui pourrait être mesuré, c’est-à-dire leur propension à répondre de manière pertinente en fonction des besoins et des compétences des usagers. Dans cette conception, la régulation se traduit non seulement par la création de documents d’information mais aussi par l’engagement des acteurs publics et industriels à la clarté dont nos interlocuteurs se sont fait l’écho. Ainsi, Perica Sucevic souligne l’importance de la notion d’intelligibilité présente dans un des décrets de la loi et qui engage la responsabilité des administrations et leur capacité à rendre des comptes aux administrés.

19Le second cadre d’action correspond à des actions qui visent à favoriser les capacités de compréhension du dispositif technique lui-même. Ce cadre s’inscrit dans une conception de la relation entre l’homme et la technique, conception qui postule la façon dont l’homme va pouvoir comprendre le monde technique qui l’entoure. Pour Thomas Saint-Aubin, la responsabilité se situe à deux niveaux : il faudrait « à la fois que le droit soit compréhensible et que le code soit compréhensible ». Il souligne que « le droit évolue tous les jours, le code évolue pour d’autres raisons, de sécurité, de technique » et que « l’un des grands vecteurs de la confiance, […] c’est la responsabilité dans la mise à jour du code informatique avec le code juridique ». Ainsi, il n’est pas question de la « boîte noire » de la technique comme dans les rapports, mais des procédures qu’il sera possible de mettre en place. La relation entre l’homme et la technique se définit dans un tissu de valeurs qui prend forme dans un ensemble d’objets qui vise à garantir une opérativité sociale. Thomas Saint-Aubin peut être identifié au travers de sa posture à la fois militante et entrepreneuriale et des plates-formes de justice privée que sa société produit comme un ingénieur du droit.

20Enfin, Simon Chignard et Thomas Saint-Aubin émettent tous deux l’idée d’une « implémentation du droit dans le code » (SC), d’un « droit codé par défaut » (TSA). Il s’agirait pour le législateur de produire les documents techniques que les administrations publiques et les industriels pourraient immédiatement intégrer dans leurs programmes-systèmes. Cette perspective repose sur le fait que le droit doit être applicable dès sa promulgation. Cependant, Perica Sucevic reste dubitatif sur les conditions de possibilité d’un tel dispositif tant d’un point de vue légistique qu’informatique. Ce cadre d’action repose sur une conception de la régulation qui donne à l’État un rôle déterminant en amont des processus de traitements algorithmiques.

21Au-delà de ces principes régulateurs, la Cnil en conclut à l’avènement d’une nouvelle génération de droits, succédant à celles des droits-libertés et des droits-créances, celle de « droits-systèmes » nécessaires à l’ère numérique (2017, p. 61). C’est aussi ce à quoi souscrit Thomas Saint-Aubin qui est favorable à la rédaction d’un « habeas corpus numérique » composée « de 10 à 12 articles » qui posent les grands principes et qui évitent de s’appuyer sur des termes à la mode ou renvoyant à des pratiques évoluant très vite. Cette idée de grands principes généraux est discutée au sein de la mission Etalab (Simon Chignard).

22En outre, le rapport de la Cnil de 2017 préconise l’abandon de la notion floue de transparence. Dans le rapport Villani, elle est remplacée par celle d’explication ou d’explicabilité d’un algorithme. Il s’agit de solliciter les acteurs marchands dans la production de ces dispositifs documentaires intermédiaires plus accessibles que les Conditions générales d’utilisation (CGU), souvent trop longues et trop absconses pour être comprises. Cédric Villani explique dans sa préface à l’ouvrage de Cathy O’Neil, Algorithmes : la bombe à retardement, qu’il doit beaucoup à la mathématicienne dans sa manière d’appréhender les enjeux éthiques. Il affirme avoir intégré ses réflexions à son rapport sur l’intelligence artificielle. Sa préoccupation a été de convaincre les citoyens que les « problèmes ont bien été identifiés et que les pouvoirs publics ne seront pas naïfs » (2018, p. 11). Il s’agit de conférer à l’acteur public le pouvoir de produire un cadre de régulation aux changements qui lui sont extérieurs, menés par le secteur économique. La conception de la régulation s’inscrit dans une réflexion circulaire : problèmes et solutions sont interdépendants et reposent sur la capacité à transformer le monde des acteurs économiques.

23Ainsi, l’étude des rapports publics et nos entretiens soulignent que l’emploi des notions repose d’une part sur une nécessité de nommer, de désigner des modalités de régulation possibles, et d’autre part, sur une démarche volontaire de tester les notions, de voir comment elles fonctionnent, comment elles peuvent acquérir une place dans le débat public. Les changements observables dans les rapports sont commentés et analysés par les acteurs comme le résultat de l’évolution de la conception de la technique (son absence de neutralité, par exemple) et comme la prise en compte de l’incertitude des progrès techniques.

24Ces différentes notions favorisent l’existence d’une pluralité de cadres d’action renvoyant à des conceptions différentes de la régulation. Ces conceptions ne sont pas en concurrence, mais elles s’ancrent dans des valeurs et des univers de référence différents les uns des autres (la consommation, la concurrence, les droits humains, etc.).

Le choix des principes de transparence et de loyauté comme révélateur des tensions entre la compétitivité des entreprises françaises et la protection des droits humains

  • 8 C’est à cette aune que nous pouvons qualifier l’intervention de Mark Zuckerberg qui propose « quatr (...)

25La manière dont les catégories de « transparence » et de « loyauté » apparaissent dans les différents discours montre la nécessité pour les acteurs publics et privés de construire leur propre rôle en tant que médiateurs8. Sur le plan politique, il s’agit d’une revendication à pouvoir multiplier les dispositifs intermédiaires pour aller vers un système qui définit la relation entre techniques et individus, sans pour autant contraindre les conditions de production des algorithmes. Sur le plan juridique, il s’agit de concilier des enjeux hétérogènes en suscitant des pratiques nouvelles qui reposent principalement sur la création de dispositifs de médiation. Il s’agit de positionner la régulation en aval : les dispositifs ne sont pas définis dans la loi. À charge pour les acteurs publics et privés d’inventer cette panoplie, c’est-à-dire de mettre en œuvre des configurations matérielles qui s’adaptent et se configurent en fonction des besoins et par là, favorisent la mise en œuvre de la régulation, qui garantissent son opérativité sociale (Labelle, 2011).

Les tensions entre la préservation du droit à la concurrence et la protection de la vie privée dans les définitions de l’algorithme

  • 9 Les caractéristiques lexicométriques du corpus des six rapports publics sont les suivantes : 17 349 (...)

26Le traitement lexicométrique de l’ensemble des rapports publics entre 2014 et 20189 permet d’identifier trois univers de référence en rapport avec la régulation des algorithmes. L’analyse factorielle des correspondances, issue de l’application de la méthode statistique d’analyse des données (Benzécri, 1982), permet, ci-dessous, de situer ceux-ci.

Figure 1 : Analyse factorielle des correspondances

Figure 1 : Analyse factorielle des correspondances

27Les trois classes d’éléments visibles dans l’analyse factorielle des correspondances renvoient à trois thématiques différentes, « le droit » à gauche en rouge, « les enjeux économiques » en bleu en bas à droite et « les rapports éthiques de l’homme à la technique » en vert en haut à droite. Les données qui s’y rapportent sont les suivantes.

Figure 2 : Graphe des classes

Figure 2 : Graphe des classes

28Avec 47 % des formes, la classe 1 (rouge) renvoie à la fois à la manière dont le droit s’élabore (« loi », « article », « directive », etc.) et aux droits de personnes (« protection », « liberté », « personnel », etc.). La classe 2 (bleue) couvre 40,7 % des formes. Elle permet de situer les enjeux économiques, plus spécifiquement les tensions entre les entreprises (« entreprise », « emploi », « travail », « industriel », etc.) et les plates-formes (« plate-forme », « uber », « uberisation », « airbnb », etc.). L’« ia », c’est-à-dire l’intelligence artificielle, deuxième forme la plus fréquente de cette classe, présente dans deux rapports - ceux de 2017 et 2018 -, ne renvoie pas ici à un facteur d’innovation ou comme participant à la « transformation numérique ». Elle est associée à des enjeux sociétaux, comme devant être « compatible avec un modèle des droits de l’homme », à évaluer dans « le champ social » ou en lien avec une « politique d’inclusion ». Ces enjeux de conformité aux droits humains et à la non-discrimination sont encore davantage visibles dans la classe 3 (verte) dans laquelle sur les 12,3 % de formes on compte parmi elles dans les 10 les plus fréquentes : « intelligence », « artificielle », « éthique », « humain » et « homme ».

29Enfin, avant la loi pour une République numérique, les acteurs publics présentaient des définitions différentes de ce qu’est un algorithme. Lorsqu’il était rapporté au traitement automatisé de données, les rapports insistaient sur la protection de la vie privée ; quand il était considéré comme produit informatique réalisé en fonction d’une intention ou d’une stratégie, les acteurs des rapports inscrivaient leurs motifs dans la préservation du droit à la concurrence. Ce dernier aspect est mobilisé dans l’optique de favoriser l’innovation et de ne pas restreindre le potentiel de créations de services qui est entrevu avec le développement technologique. La définition des dispositifs techniques montre le fragile équilibre à trouver dans la régulation tant les enjeux sont importants face aux risques de défaut de régulation ou de dérèglements induits par la production de systèmes autorégulés. Comme le note Cathy O’Neil, plus l’algorithme semble essentiel, notamment pour les plates-formes, plus les géants de l’Internet à l’instar de Facebook et de Google avancent l’argument du secret industriel (O’Neil, 2018, p. 277). D’un autre côté, la compétitivité des entreprises françaises se trouve au centre de préoccupations justifiant, pour les pouvoirs publics, l’innovation en matière d’intelligence artificielle. Ainsi, dans son rapport de 2018, Cédric Villani souligne qu’elle est elle-même confrontée à des enjeux éthiques. Cette confrontation d’intérêts différenciés conduit, dans l’objectif d’une conciliation, à promouvoir un droit qualifié de « souple ».

La promotion d’un droit « souple » comme moyen de conciliation d’intérêts différenciés

  • 10 La tribune « Il faut créer un Comité national d’éthique du numérique », publiée dans Le Monde du 14 (...)

30La promotion d’un droit « souple » trouve son ancrage dans le refus de recourir aujourd’hui à deux modes de régulation traditionnels en France. Il s’agit tout d’abord d’éviter d’élaborer une nouvelle loi, dans la mesure où la loi pour une République numérique est pour l’instant jugée suffisante par les acteurs publics. En effet, l’usage de notions floues dont cette loi est porteuse – celles de « transparence », « loyauté » et « clarté » – présente l’avantage de couvrir de nombreuses pratiques, alors même que l’évolution scientifique et technique des algorithmes ne peut pas être anticipée. Comme le souligne Danièle Bourcier, cet usage permet au législateur de faire glisser, par un procédé d’assimilation, des éléments d’une classe à une autre (Bourcier, 1976). Par exemple, dans l’expression « transparence de la vie politique », le terme de transparence renvoie à des pratiques de publication des revenus et des financements pour les représentant·e·s et les partis politiques. Déplacé à une autre classe que celle de « la vie politique », celle des « algorithmes », d’autres pratiques sont dès lors placées sous le sceau de cette publication, de ce dévoilement. Par ailleurs, la création d’une nouvelle autorité administrative indépendante compétente exclusivement dans le domaine du traitement algorithmique n’est pas à l’ordre du jour. C’est ce qu’affirme Marc Teissier, membre du CNNum, lors du lancement de la consultation publique du 10 octobre 2017. Ce refus d’une autre AAI est justifié par les compétences déjà existantes de celles existantes (Cnil, CNNum)  : ceci ne fait pas l’unanimité au sein de la société civile, s’avère discuté au sein du rapport de Cédric Villani et contesté par de nombreux scientifiques10. Cependant, si ce n’est pas par la création d’une nouvelle instance de régulation que la question progresse, une piste serait de donner à un acteur de la régulation le pouvoir d’« aller regarder les données », voire de pouvoir consulter le code, ce qui mettrait en place « une data driven regulation », nous indique Simon Chignard.

31Lors du lancement de la consultation publique du 10 octobre 2017, Marc Teissier préconise une “soft régulation”, laquelle consiste à attendre à la fois un retour d’informations des citoyens (par rapport aux pratiques des plates-formes) et l’acquisition d’une maîtrise technique sur le sujet. Thomas Saint-Aubin souligne que cette consultation a permis de réfléchir « aux besoins par rapport au droit » pour définir là « où il y a besoin de régulation ».

32Lors de son intervention dans le cadre de la manifestation « Mise en œuvre du RGPD » du 12 décembre 2018, Paula Fortezza, députée de La République en marche et rapporteure du projet de loi intégrant au droit français le Règlement général sur la protection des données (RGPD), défend l’idée d’utiliser des outils de « droit souple » à l’instar de la certification. Elle mentionne également les “Reg Tech” (c’est-à-dire des dispositifs techniques qui incorporent le cadre de régulation) qui travaillent sur de nouveaux principes permettant la protection des données, tel que celui de “privacy by design”. Thomas Saint-Aubin fait partie de cet écosystème qui milite pour la “soft law” qui est « ce qui permet d’interpréter les grands principes » (qu’il énumère : la loyauté des plates-formes, la transparence algorithmique, le renforcement de la communicabilité) posés dans la loi pour une République numérique. Ces grands principes sont essentiels, mais ils ne peuvent pas être « concrètement mis en œuvre ». La “soft law” repose sur la création de labellisations et de certifications : un ensemble de dispositifs qui sont ajustables en fonction des processus algorithmiques et qui contribuent à promouvoir leurs usages car cela permet de « gérer la confiance ».

33Pour Paula Fortezza, il est nécessaire d’ouvrir les processus de régulation à la discussion avec la société civile en faisant de chaque citoyen « le régulateur de lui-même ». Elle insiste sur le rôle que le citoyen peut être amené à jouer notamment grâce au fait que l’État développe les “Civic Techs”. Des rencontres entre régulateurs et modérateurs notamment de Facebook se multiplient également en ce sens. Pour Paula Fortezza, ce type de co-régulation utilisé est nouveau, car il préconise le dialogue avec les industries du web qui passe par la reconnaissance de leurs projets, leurs forces d’auto-organisation et leurs capacités de transformation. La co-régulation vise à organiser un dialogue « juste » dans lequel l’État ne perd pas complètement la face et où il reconnaît que certaines données représentent une véritable ressource pour le modèle économique des industries du Web. Les discussions que Paula Fortezza a eues avec Cédric Villani l’ont ainsi amenée à envisager que les données de santé constituent une « manne pour l’intelligence artificielle ». Cette reconnaissance l’a conduite à préconiser de libérer l’utilisation de ces données, pour que les start-ups du domaine de la santé puissent en bénéficier tout en posant des conditions à cette utilisation, notamment en refusant leur stockage.

34Notons tout d’abord qu’une co-régulation entre États régulateurs et acteurs des plates-formes est largement présentée comme relevant de nouvelles modalités dans l’arsenal de régulation et vise à reconnaître aux industries la capacité à proposer ces modalités et des outils de régulation. Cependant, l’idée même de co-régulation s’élabore en France dès 2001 avec le lancement du Forum des droits sur l’internet, association financée par l’État11 (Chevret, 2010), dont la vocation était d’œuvrer à une concertation entre les utilisateurs, les acteurs économiques et les instances publiques qui se fonde sur une conception d’une construction de la régulation de l’internet suivant une processus rationnel-négocié. Cependant, dans son fondement, elle associait bien tous les types d’acteurs tout en envisageant le développement du commerce électronique français. La co-régulation telle qu’elle est évoquée par Paula Fortezza renvoie davantage à une collaboration  entre l’État et les industries du Web et une reconnaissance des formes de régulation que ces dernières peuvent développer. Cela pourrait expliquer la présentation lors du Forum pour la paix de Paris, qui s’est déroulé du 11 au 13 novembre 2018, d’un projet par Microsoft, trois projets par Google et trois par Facebook dont un intitulé “AI and Ethicsˮ12. La mise en place d’une co-régulation s’inscrit, pour Thomas Saint-Aubin, dans l’optique de créer des synergies à une échelle transnationale pour définir les normes (qui reposent sur des standards techniques) et faire en sorte qu’aucun acteur n’impose la sienne par défaut. Il cite comme contre-exemple le standard du Web sémantique que Google a imposé. Il propose de mettre en place des « règles de gouvernance », notamment en « utilisant la blockchain », ce qui favoriserait « la transparence des décisions » entre les acteurs impliqués.

35Par ailleurs, cette évocation indifférenciée de plusieurs types d’acteurs, dans le discours de Paula Fortezza comme dans celui des personnes que nous avons interrogées, témoigne d’une conception de la régulation comme recherche d’un équilibre entre des partis divers et comme fondée sur les interactions et les contributions de chacun au processus. Il s’agit de faire référence à toutes les actions portées par des acteurs dont le statut et les moyens sont extrêmement différents : citoyens, géants de l’Internet, autorités administratives indépendantes, start-ups, associations. Tout semble se passer comme si l’État dialoguait avec eux sans distinction de leurs fonctions et de leurs éventuels intérêts. Cette observation a été également faite dans les espaces des manifestations, notamment lors du Forum sur la gouvernance de l’internet au mois de juillet 2018 à l’Université Paris Descartes. Les salariés des industries du Web, militants et représentants de l’État s’y côtoient et se mélangent partageant et échangeant leurs idées et leurs motivations.

Conclusion

36Notre enquête sur la manière dont les politiques publiques cherchent à définir la régulation des algorithmes, et maintenant de l’intelligence artificielle, montre la nécessité de créer des dispositifs afin d’appliquer la loi. Les catégories mobilisées constituent des « focales » hétérogènes qui offrent un cadre d’action suffisamment large pour favoriser la création d’une panoplie de dispositifs intermédiaires car l’enjeu principal est de « trouver le bon niveau de régulation » (Simon Chignard). Cette panoplie repose non seulement sur la mise en relations des acteurs publics et privés, dans des espaces plus ou moins formels (du hackathon au consortium), mais aussi sur leur activité créative qui permet l’intervention sur le cadre de la relation entre producteurs d’algorithmes et utilisateurs. Si la transparence et la loyauté sont les motifs présents dans la loi et les rapports, commentés par les acteurs comme appelés à évoluer et à être modifiés, notre analyse permet de mettre en évidence qu’ils renvoient à des motifs plus englobants : la souplesse du droit et la créativité.

37Le premier motif englobant que nous mettons en lumière est celui du « droit souple ». Le qualificatif de « souple » convoque deux imaginaires. Primo, il renvoie à l’idée d’absence de contraintes par la capacité à prendre en compte l’environnement et son évolution : il s’agit de ne pas entraver les entreprises et les initiatives par la régulation, mais au contraire de les favoriser. Secundo, le terme évoque un imaginaire de la plasticité (ce qui est souple, c’est ce qui peut plier sans se rompre, sans se casser), du mouvement et de la transformation permise par la technologie. Ainsi, la souplesse du droit répercute l’idée de nécessité de laisser-faire pour pouvoir avancer conjointement. Le « droit souple » vise à recouvrir un large spectre d’activités concrètes de régulation qui définissent les possibilités d’action des producteurs d’algorithmes sans les prédéterminer. Il repose sur la prise en charge de la régulation par des processus rationalisés (la labellisation, la certification).

38Le second motif est celui de la créativité. Par ce terme, il s’agit de désigner non seulement le recours à la mise en relation d’acteurs aux profils différents mais aussi la capacité à explorer et de développer des dispositifs nouveaux ou originaux. Les propositions de « co-régulation » et de « design » de la régulation reposent sur un idéal de rationalité : la rationalité issue du dialogue entre des agents différents et celle inhérente à la création de processus stabilisant la relation. Les entretiens que nous avons menés mettent clairement en évidence le besoin d’une panoplie de dispositifs pour réguler les algorithmes qui se traduit par une recherche de nouvelles modalités de régulation et la conception de dispositifs dont la dimension d’information et de médiation est posée comme centrale.

39Cette panoplie est au service de la dimension logistique des motifs (la manière dont la régulation cherche à encadrer la circulation des données et la performance des traitements) et de leur dimension politique (la manière dont la régulation des algorithmes vient garantir des valeurs démocratiques). La création de dispositifs permet d’actualiser les valeurs des motifs dans des configurations matérielles : les technologies et les documents à créer sont des supports pour ajuster la relation par la théâtralisation de la transparence et de la loyauté.

Haut de page

Bibliographie

Abiteboul, S., Peugeot, V. (2017), Terra data. Qu’allons-nous faire des données numériques ?, Paris : Le Pommier.

Alexis, L., Chevret-Castellani, C., Labelle, S., Mouratidou, E. (2017a), « Vers le partage du savoir-écrire la loi ? Analyse sémio-discursive du dispositif republique-numerique.fr », Semen, n° 42, URL : http://journals.openedition.org/semen/10624

Alexis L., Chevret-Castellani C., Labelle S. (2017b), « Enjeux sociopolitiques d’un nouvel ordre de discours autour des dispositifs de participation en lien avec la loi pour une « République numérique » », Cahiers du CRICIS, URL : https ://www.cricis.uqam.ca/metamorphoses-cultures-medias/

Benzécri, J.-P. (1982), Histoire et préhistoire de l’analyse des données, Paris : Dunod.

Benbouzid, B., Cardon, D. (2018), « Machines à prédire », Réseaux, 2018/5, n° 211, pp. 9-33.

Bourcier, D. (1976), « Argumentation et définition en droit ou « les grenouilles sont-elles des poissons ? » , Langages, n° 42, pp. 115-124.

Bouquillion, P. (2010), « Industries, économie créatives et technologies d’information et de communication », Tic&société, vol. 4, n° 2, URL : http://ticetsociete.revues.org/876

Brown, I., Marsden, C. (2013), Regulating Code : Good Governance and Better Regulation in the Information Age, Cambridge : The MIT Press.

Cellard, L., Masure, A. (2018), « Le design de la transparence : une rhétorique au cœur des interfaces numériques », Revue Multitudes, dir. Citton, Alloa, E., 2018/4, n° 73, pp. 100- 111.

Chevret-Castellani, C. (2010), « Les fonctions des consultations publiques du Forum des droits sur l’internet », Les enjeux de l’information et de la communication, URL : https ://lesenjeux.univ-grenoble-alpes.fr/2009-dossier/Chevret/index.php

Déjéan, S., Ratinaud, P. (2009), « IRaMuTeQ : implémentation de la méthode ALCESTE d’analyse de texte dans un logiciel libre », Rencontres MASHS, URL : https ://frama.link/IramuteqMashs

Diakopoulos, N. (2014), « Algorithmic accountability reporting : On the Investigation of Black Boxes », URL : https ://frama.link/DiakopoulosBlackBoxes

Dulong De Rosnay, M. (2016), « Algorithmic Transparency and Platform Loyalty or Fairness in the French Digital Republic Bill », URL : https ://frama.link/DulongDeRosnayAlgorithmicTransp

Kroll, J.-A., Huey, J., Barocas, S., Felten, E.-W., Reidenberg, J.-R., Robinson, D.-G., Harlan, Y. (2017), Accountable Algorithms, 165 U. Pa. L. Rev. 633, URL : https ://scholarship.law.upenn.edu/penn_law_review/vol165/iss3/3

Labelle, S. (2011), « « La société de l’information » : Formule, récit et réquisition », In Chouteau, M. et Nguyen, C. (dir.), Mises en récit de la technique, Paris : Éditions des Archives Contemporaines, pp. 33-44.

Labelle, S., Le Corf, J.B. (2012), « Open data as new commitment of governments : from injunction of transparency to coproduction of services », Congrès IPSA, Madrid, juillet 2012.

Labelle, S., Mouratidou, E. (2016), «"  Des machines à savoir ". Analyse des stratégies énonciatives des plates-formes mooc », In Badir, S. et Provenzano, F., Pratiques émergentes et pensée du médium, Paris : L’Harmattan, pp.151-174.

Maesschalck, M., Dedeurwaerdere, D. (2002), « Procéduralisation des normes, téléorégulation et gouvernance de l’internet », Les cahiers du numérique, vol. 3, pp. 55-77.

O’Neil, C. (2018), Algorithmes. La bombe à retardement, Paris : Éd. Les Arènes.

Rieder, B. (2010), « Pratiques informationnelles et analyse des traces numériques : de la représentation à l’intervention », Études de communication, n° 35, pp. 91-104.

Rouvroy, A., Berns, T. (2013), « Gouvernementalité algorithmique et perspectives d’émancipation », Réseaux, n° 177, pp. 163-196.

Haut de page

Annexe

Enquêtes

Rapports publics :

Conseil d’État, Numérique et droits fondamentaux (2014) 

Assemblée Nationale, Numérique et libertés : un nouvel âge démocratique (2015) 

Conseil Général de l’Économie, de l’Industrie, de l’Énergie et des Technologies, Modalités de régulation des algorithmes de traitement des contenus (2016)

CNIL, Concertation citoyenne sur les enjeux éthiques liés à la place des algorithmes dans notre vie quotidienne, Synthèse de la journée (2017)

CNIL, Comment permettre à l’homme de garder la main ? Les enjeux éthiques des algorithmes et de l’Intelligence Artificielle (décembre 2017)

Conseil d’État, Puissance publique et plateformes numériques : accompagner l’« ubérisation » (2017)

CNNum, Réguler dans une économie de plateformes. Synthèse de la consultation publique (janvier 2018)

Villani Cédric, Donner un sens à l’intelligence artificielle. Pour une stratégie nationale et européenne : rapport au Premier ministre, La Documentation française (2018)

Entretiens :

Simon Chignard, conseiller stratégique de la mission Etalab, le 1 mars 2019
Perica Sucevic, juriste de la DINSIC et directeur-adjoint de la mission Etalab, le 20 mai 2019

Thomas Saint-Aubin, entrepreneur dans le domaine du droit numérique, le 11 avril 2019

Observations :

Lancement de la consultation du CNNum sur la confiance dans la société numérique, Liberté Living Lab, Paris, le 10 octobre 2017

Forum sur la gouvernance de l’internet, Université Paris Descartes, Paris, le 5 juillet 2018

La nuit du droit, le droit à l’épreuve du numérique, INHESJ, Paris, le 4 octobre 2018

Forum sur la gouvernance de l’internet, Unesco, Paris, le 12 novembre 2018

Mise en œuvre du RGPD en France : quel État  ?, Chaire Valeurs et politiques des informations personnelles, Institut Mines-Télécom, Paris, le 12 décembre 2018

Haut de page

Notes

1 Notons que les pouvoirs publics sont eux-mêmes acteurs de la mise en place de plates-formes. C’est le cas, par exemple, pour le calcul de l’impôt sur le revenu, les inscriptions dans l’enseignement supérieur via Admission Post-Bac jusqu’en 2017, ParcourSup ensuite.

2 Conseil National du Numérique, Lancement de la consultation publique sur les algorithmes, Paris, Liberté Living Lab, 10 octobre 2017. Soulignons que plusieurs rapports publics mobilisent aussi l’expression.

3 Article 49 de la loi n° 2016-1321 du 7 octobre 2016 pour une République numérique. Décret d’application de la loi n° 2016-1321 sur la communication des algorithmes.

4 Assemblée Nationale, Numérique et libertés : un nouvel âge démocratique, 2015, p. 284.

5 Le traitement lexicométrique permet de dégager des statistiques lexicales. Il a été fait grâce au logiciel IRaMuTeQ, Interface du logiciel de traitement statistiques R pour l’Analyse Multidimensionnelle de Textes et de Questionnaires (Déjéand et Ratinaud, 2009). Libre et gratuit, ce logiciel a été développé par Pierre Ratinaud (laboratoire LERASS, Université Toulouse 3).

6 Nous avons mené 3 entretiens pour lesquels nous avons demandé l’autorisation qu’ils ne soient pas anonymisés.

7 Le rapport ne cite pas en revanche l’ouvrage qui est le suivant  : À quoi rêvent les algorithmes ? Nos vies à l’heure des big data, Seuil, 2015.

8 C’est à cette aune que nous pouvons qualifier l’intervention de Mark Zuckerberg qui propose « quatre idées pour réguler Internet » dans le Journal du Dimanche du 30 mars 2019. Cette tribune prolonge l’annonce d’Emmanuel Macron, président de la République Française, faite au Forum sur la Gouvernance d’Internet d’une collaboration entre Facebook et l’État (novembre 2018).

9 Les caractéristiques lexicométriques du corpus des six rapports publics sont les suivantes : 17 349 segments de textes, 622 652 occurrences et 26 801 formes.

10 La tribune « Il faut créer un Comité national d’éthique du numérique », publiée dans Le Monde du 14 décembre 2017, a été signée par Raja Chatila, Max Dauchet, Jean-Gabriel Ganascia, Philippe Jamet, Claude Kirchner, Antoine Petit, Marc Renner et Daniel Verwaerde.

11 Le FDI a arrêté ses activités en décembre 2010 suite à la décision de l’État de mettre fin au financement de l’association pour 2011.

12 Site Web du forum : https ://parispeaceforum.org/fr/projets/, consulté le 27 février 2019.

Haut de page

Table des illustrations

Titre Figure 1 : Analyse factorielle des correspondances
URL http://journals.openedition.org/terminal/docannexe/image/4064/img-1.png
Fichier image/, 41k
Titre Figure 2 : Graphe des classes
URL http://journals.openedition.org/terminal/docannexe/image/4064/img-2.png
Fichier image/, 33k
Haut de page

Pour citer cet article

Référence électronique

Christine Chevret-Castellani et Sarah Labelle, « Transparence et loyauté : des motifs au service de la souplesse du droit et de la créativité », Terminal [En ligne], 124 | 2019, mis en ligne le 30 juin 2019, consulté le 21 août 2019. URL : http://journals.openedition.org/terminal/4064 ; DOI : 10.4000/terminal.4064

Haut de page

Auteurs

Christine Chevret-Castellani

Université Paris 13, 99, Avenue J.B. Clément, 93430 Villetaneuse, christine.chevret@univ-paris13.fr

Sarah Labelle

Université Paris 13, 99, Avenue J.B. Clément, 93430 Villetaneuse, sarah.labelle@univ-paris13.fr

Haut de page

Droits d’auteur

tous droits réservés

Haut de page
  • Logo Télécom École de Management
  • Logo CREIS terminal
  • OpenEdition Journals