L’ignorance, un horizon indépassable de la régulation numérique ?
Résumés
L’émergence d’un espace numérique s’est traduite par le développement de diverses formes de régulations qui échappent à notre perception et sont donc ignorées par les juristes et les utilisateurs. En effet, d’une part, le Code informatique régule l’espace numérique et, d’autre part, les normes juridiques sont aujourd’hui de plus en plus intégrées directement dans ledit Code. Or, les caractéristiques de cet objet informatique sont peu accessibles et demeurent opaques pour les États, mais surtout pour les utilisateurs. Et cela malgré la place grandissante prise par le principe de compliance et par le principe de transparence qui conduisent à une plus grande ouverture du Code informatique. Ces évolutions juridiques restent toutefois insuffisantes pour dépasser le paradigme de l’ignorance en raison principalement de limitations juridiques, mais aussi de contraintes techniques notamment avec le développement des algorithmes apprenants.
Entrées d’index
Haut de pagePlan
Haut de pageTexte intégral
- 1 L. Lessig, « Code Is Law. On Liberty in Cyberspace », Harvard Magazine [en ligne], janv. 2000. Disp (...)
- 2 Ibid.
- 3 P. Beckouche, « La révolution numérique est-elle un tournant anthropologique ? », Le Débat 2017, no(...)
1La première forme de régulation du numérique est évoquée par l’apophtegme de Lawrence Lessing « Code is Law » dans son article fondateur de 20001. L’absence de gouvernement n’emporte pas l’absence de régulation dans ce nouvel environnement. Dans l’espace virtuel, le Code informatique constitue un régulateur numérique qui norme les comportements des utilisateurs d’une manière qui apparaît automatique et instantanée2. La régulation numérique ainsi opérée est un impondérable de l’environnement informatique étant une conséquence directe de la construction même de cet espace. La question dès lors ne peut pas être de savoir si une régulation est souhaitable, mais quelles sont ces caractéristiques, d’autant que l’influence de ces outils augmente3. Précisément, car la construction même d’un espace numérique implique un corollaire nécessaire et indépassable : la normativité des comportements en son sein.
- 4 S. Couture, Le Code source informatique comme artefact dans les reconfigurations d’Internet, déc. 2 (...)
- 5 Steering Committee Charter, International Working Conference on Source Code Analysis and Manipulati (...)
2Au préalable, l’usage habituel du terme « Code » souffre d’une inconstance définitionnelle à la fois chez les acteurs de ce secteur, mais aussi chez les chercheurs. En effet, les termes de programme, de Code source, d’algorithmes sont utilisés indifféremment lorsqu’il est question de la normativité dans l’environnement numérique et ne sont pas nécessairement clairement distingués, créant alors une confusion sémantique entre les caractéristiques techniques et la portée réelle de la régulation attendue et du contrôle potentiel sur cette dernière4. Par exemple, pour Lawrence Lessing, le caractère normatif du Code est le résultat de l’architecture de l’espace numérique, des protocoles implémentés, des machines, des programmes et des algorithmes. La diversité des acceptions traduit aussi la complexité à connaître l’ensemble de ces couches et donc à ne pas ignorer la régulation numérique dans sa globalité. Dans le cadre de cette contribution, par souci de clarté, le Code est entendu comme « toute description entièrement exécutable d’un système logiciel. Il est donc interprété de manière à inclure le Code machine, les langages de très haut niveau et les représentations graphiques exécutables des systèmes5 ».
- 6 L. Manovich, The langage of New Media, Cambridge, The MIT Press, 2002.
- 7 J. Butler, Le pouvoir des mots ; discours de haine et politique du performatif, Paris, Amsterdam, 2 (...)
- 8 L. Lessig, art. cité.
- 9 E. Sadin, La Vie algorithmique. Critique de la raison numérique, Paris, L’Échappée, 2015.
3L’intérêt d’étudier cet objet résulte du fait que le Code informatique est dans le cyberespace plus contraignant que d’autres formes de normes applicables. Même si ces dernières n’ont pas fait l’objet d’une production spécifique en tant que norme au sens juridique, elles régulent ledit espace tout en étant invisibles pour les utilisateurs6. Non pas en raison de son caractère impératif, mais parce qu’il est purement performatif7. Le fait d’écrire un Code et de l’exécuter le rend coercitif envers les utilisateurs de manière automatique, car il crée l’espace numérique tout en érigeant les règles qui l’organisent. Dès lors, l’action d’une autorité pouvant prendre des sanctions ne serait pas nécessaire, car les utilisateurs ne pourraient pas techniquement violer cette norme8, sauf dans l’hypothèse où le Code présente des vulnérabilités. Même si la profusion de contenu sur les réseaux sociaux, dérogeant à la loi comme aux conditions générales d’utilisation, nuance la portée du caractère totalisant9 comme purement automatique de cette régulation.
- 10 S. Arsène, C. Mabi, « L’action publique au prisme de la gouvernementabilité numérique », Réseaux 20 (...)
- 11 R. Badouard, « Ce que l’État peut face aux plateformes », Pouvoirs 2021, no 177, p. 49-58
- 12 W. Chaiehloudj, « La competition by design : un outil de compliance au service des entreprises et… (...)
- 13 M. Behar-Touchais, « Mondialisation et internet », in La mondialisation, Journées allemandes, Berli (...)
- 14 J. Charpentet, « Plateformes digitales et États : la corégulation par les données. Le cas des requê (...)
- 15 L. Lessig, art. cité.
- 16 Google, « Consignes aux webmasters », <https://support.google.com/webmasters/answer/35769?hl=fr (c (...)
- 17 G. Sire, « Le pouvoir normatif de Google. Analyse de l’influence du moteur sur les pratiques des éd (...)
4Dans la lignée de ces réflexions, le concept de « gouvernementalité numérique10 » a été développé pour décrire « la capacité des technologies à rendre conformes nos comportements aux attentes de leurs concepteurs11 ». Certaines grandes plateformes comme Google, Meta ou encore Kakao sont assez puissantes pour créer un corpus normatif12, construire une « normativité mondiale des plateformes13 ». Elles parviennent ainsi à s’autoréguler et à créer leur propre droit, aussi appelé « loi des plateformes14 ». Cette potentialité découle de leur taille et du nombre d’utilisateurs, mais aussi du caractère par nature régulateur du Code qui fait des codeurs des législateurs de l’espace numérique15. Google a, ainsi, informé ses utilisateurs qu’ils pouvaient se voir infliger une sanction algorithmique dans l’hypothèse où ils commettraient une action décrétée illicite comme spammer16. Outre le recours à l’expression juridiquement connotée d’illicéité, les utilisateurs ignorent tout du contenu de l’algorithme qui les régule17. Ce fait est d’autant plus dommageable que l’évolution de l’écosystème numérique par sa structuration autour d’entreprises et par la quantité de données comme d’usagers conduit également à l’intégration de la norme juridique directement au sein du Code.
- 18 P. de Filippi, S. Hassan, « The Expansion of Algorithmic Governance : From Code is Law to Law is Co (...)
- 19 C. Méadel, G. Sire, « Les sciences sociales orientées programmes. État des lieux et perspectives », (...)
- 20 K. Ermoshina, « Le Code peut-il réparer les routes ? Les applications de signalement des problèmes (...)
5La seconde forme de régulation numérique est résumée dans l’aphorisme « Law is Code18 » qui correspond à l’intégration de normes juridiques dans le Code source afin d’en assurer l’effectivité au sein de l’espace numérique19. Avec la généralisation de la numérisation de la société, les normes juridiques ont transformé le contenu du Code informatique, dépassant l’idée de Lawrence Lessing. C’est par exemple le cas de l’application russe RosYama qui se fonde sur un ensemble de textes juridiques pour déclencher des processus qui se poursuivent devant les acteurs juridiques classiques20. Par conséquent, le Code reprend les définitions réalisées par la législation, les codeurs procèdent ainsi à une opération de classification et de catégorisation afin de décrire précisément les objets juridiques pour les rendre informatisables.
- 21 S. Arsène, C. Mabi, art. cité.
6Bien qu’ignorées, ces régulations à la fois sophistiquées et omniprésentes de l’espace numérique demandent une analyse critique des enjeux liés à l’absence de connaissances et aux conséquences de cette opacité21. L’objet de la présente contribution est d’envisager, à travers la concurrence entre la régulation technique inhérente à l’espace numérique et la normativité étatique, l’ignorance comme un paradigme actuel de la régulation numérique. À partir de l’identification des diverses sources ignorées de la régulation numérique, la réflexion proposée consistera à considérer des pistes d’amélioration de la connaissance de la normativité numérique tout en mettant en exergue les limites intrinsèques à une connaissance totale. Concrètement, cela demande de comprendre de quelle manière la régulation des États s’inscrit dans une position ambivalente par rapport à l’ignorance de la régulation numérique (I) et pourquoi les solutions proposées demeurent insuffisantes pour dépasser complètement ce paradigme de l’ignorance (II).
I.La position ambivalente des législations sur le dépassement de l’ignorance de la régulation numérique
7Les États se sont saisis de la régulation numérique pour tenter d’en reprendre le contrôle. Dans un premier temps, l’ignorance est demeurée le paradigme dominant avec le développement d’un contrôle fondé sur la compliance (A), pour ensuite évoluer vers un contrôle fondé sur la transparence (B).
A.Le maintien de l’ignorance lors du contrôle par la compliance
- 22 Il s’agit d’une traduction imparfaite qui ne transmet pas l’ensemble du sens attaché à la notion de (...)
- 23 P. Reis, « Éthique du numérique et marché », Revue internationale de droit économique 2021, t. XXXV (...)
- 24 K. Favro, « La démarche de compliance ou la mise d’une approche inversée », Légicom 2017, no 59, p. (...)
- 25 M.-A. Frison-Roche, « Les buts monumentaux, cœur battant du droit de la compliance », in M.-A. Fris (...)
8Le concept de « compliance » ou de « mise en conformité22 » se niche entre l’approche éthique des entreprises23 et un principe juridique qui impose aux acteurs, généralement économiques, de se mettre en conformité avec la réglementation applicable24. Le droit de la compliance est par définition téléologique et s’organise en « buts monumentaux ». Les législations imposent pour cela des « buts » qui définissent l’avenir juridique avec des « monumentaux » qui définissent un ensemble d’instruments juridiques pour atteindre la fin voulue25. La particularité de la compliance est de viser à assurer le respect des principes juridiques, notamment par le biais du principe d’accountability, défini par Isabelle Falque-Pierrotin comme :
- 26 I. Falque-Pierrotin, « Quelle protection européenne pour les données personnelles ? », Questions d’ (...)
« le processus permanent et dynamique de mise en conformité d’une entreprise aux principes informatique et libertés grâce à un ensemble de règles contraignantes et de bonnes pratiques correspondantes, l’entreprise étant accompagnée dans cette démarche par l’autorité de régulation26 ».
Elle suppose alors la mise en place de mécanismes de contrôle et de régulation de la part d’autorités étatiques, fréquemment administratives, qui cherchent à détecter les irrégularités commises.
9Dans le cadre de l’informatique, les personnes privées incorporent ainsi au sein de leur Code des éléments de la norme juridique pour l’appliquer au sein de l’espace numérique. Cette intégration peut être l’objet direct des législations des États qui obligent les entreprises du numérique à insérer dans leurs codes des obligations juridiques. Ce phénomène est nommé « compliance by design » et il s’agit :
- 27 W. Chaiehloudj, art. cité.
« d’introduire ex ante dans le Code informatique, donc dès la conception de la technologie, les normes adoptées par le législateur et les régulateurs. En règle générale, ce sera un algorithme qui sera chargé de faire appliquer la règle de droit. Dans ce contexte, l’algorithme a pour fonction d’automatiser le processus de conformité à la réglementation27 ».
- 28 R. Gola, « Le règlement européen sur les données personnelles, une opportunité pour les entreprises (...)
10L’un des exemples les plus emblématiques de la mise en place de logique de compliance est celui du privacy by design. L’article 24 du Règlement général de protection des données (RGPD) impose au responsable du traitement de mettre « en œuvre des mesures techniques et organisationnelles appropriées » qui permettent de démontrer la conformité de son action au règlement européen. Ces mesures de contrôle, malgré le principe de « keep it user-centric » qui a placé l’utilisateur au centre de la réflexion en lui conférant un droit de regard sur le traitement de ses données28, ne leur assurent pas un droit de regard sur la régulation numérique appliquée.
- 29 M. Maggeti, « Hard and Soft Governance », in K. Löfgren, K. Lynggard, I. Manners (dir.), Research M (...)
- 30 R. Badouard, « Modérer la parole sur les réseaux sociaux. Politiques des plateformes et régulation (...)
- 31 R. Badouard, Les nouvelles lois du web. Modération et censure, Paris, Seuil, coll. La République de (...)
- 32 M. Maggetti, art. cité.
11Par exemple, plusieurs pays, dont l’Allemagne avec la loi NtzDG de 2017 ou la France avec la loi contre les manipulations de l’information, ont pris des mesures similaires pour contraindre les plateformes de réseaux sociaux à sanctionner la diffusion de discours haineux sur les réseaux sociaux. Cette pression de la part des États européens pour reprendre le contrôle sur la régulation des contenus haineux en ligne par le biais de la compliance a contraint les plateformes à respecter des obligations de sécurité et à retirer les contenus illicites dans un délai contraint sous peine de sanctions29. Par conséquent, les plateformes ont, à nouveau, intégré au sein de leur Code de nouveaux dispositifs, de nouvelles catégories correspondant aux évolutions des législations30. Au regard de l’ignorance, cette situation est paradoxale, car la loi et ses conditions d’application sont rendues publiques et supposées connues des utilisateurs alors que le Code qui applique ces normes demeure dissimulé par les plateformes. Si l’adoption de législations dans ces domaines traduit la volonté des États de contrôler la régulation de l’espace numérique31, la rigueur de leur application reste variable et difficilement contrôlable32.
- 33 P. de Filippi, S. Hassan, art. cité.
- 34 <https://www.cnil.fr/fr/definition/apprentissage-automatique>.
- 35 W. Chaiehloudj, art. cité.
- 36 R. Badouard, « Modérer la parole sur les réseaux sociaux. Politiques des plateformes et régulation (...)
12D’autant que l’évolution technique des algorithmes tend à favoriser les systèmes d’apprentissage automatique, eux-mêmes participant à l’opacité des normativités numériques33. Il s’agit d’algorithmes qui ont « la capacité d’“apprendre” à partir de données, via des modèles mathématiques. Plus précisément, il s’agit du procédé par lequel les informations pertinentes sont tirées d’un ensemble de données d’entraînement34 ». Ces algorithmes, entraînés sur de très grandes bases de données, prennent de manière automatique la décision de la licéité du comportement litigieux par rapport à ses données d’entraînement. Le développement de ces méthodes a conduit à l’émergence d’une compliance de seconde génération qui correspond à ces outils dits d’intelligence artificielle35. Ces techniques sont aujourd’hui préférées par les plateformes dans leur régulation numérique36. Au regard des moyens dont disposent les agences de contrôle, le développement de ces méthodes limite fortement l’efficience de la compliance comme mécanisme de contrôle et maintient les utilisateurs dans l’ignorance du respect de la régulation numérique aux normes juridiques.
B.Le dépassement de l’ignorance lors du contrôle par la transparence
- 37 A. Robin, Droit des données de la recherche. Science ouverte, innovation, données publiques, Bruxel (...)
- 38 G. Carcassonne, « Le trouble de la transparence », Pouvoir 2001, no 97, p. 17-23.
13La solution principale continue alors d’être une obligation de transparence des algorithmes pour permettre d’analyser le fonctionnement du Code informatique et d’en identifier les caractéristiques37. En l’absence de transparence, les utilisateurs ne pourront pas appréhender la décision prise, la critiquer ou même la contrôler38 alors même qu’elle peut limiter fortement leurs libertés. Cette idée apparaît dès les conclusions du rapport dit Tricot, déposé en 1975, à la suite du projet étatique SAFARI qui cherchait à permettre une interconnexion automatisée de tous les fichiers publics à l’aide d’un numéro national d’identité. Le débat juridique comme politique sur le principe de transparence s’inscrit ainsi dans une volonté d’accès au Code.
- 39 R. Badouard, « Ce que l’État peut face aux plateformes », art. cité.
- 40 A. Robin, op. cit. p. 25.
14Le principe de transparence est justifié par l’analogie de la norme juridique avec la régulation numérique, d’autant plus depuis que la loi est directement intégrée dans le Code, ainsi que par l’existence du principe « nul n’est censé ignorer la loi ». En effet, les utilisateurs devraient pouvoir avoir connaissance des conditions d’application de la norme juridique à leur situation. En outre, la loi pour une République numérique de 2016 dispose que les entreprises du numérique sont tenues à une obligation de loyauté, laquelle comprend l’obligation de diffuser aux internautes des informations sur les méthodes de classement algorithmique et d’informer clairement des sponsorisations39. Les conditions posées par le principe de loyauté impliquent donc de leur part une forme minimale de transparence40. Les États ont ainsi eu tendance à favoriser les communications comprenant des données algorithmiques de la part des plateformes pour connaître et contrôler les codes régulateurs. L’esprit de ces normes se retrouve dans le principe de transparence algorithmique érigé par les articles 12.1, 14.6, 15.2 et 29.1 du Digital Services Act et l’article 19.1 du Digital Market Act.
- 41 G. Sire, « Ce que coder veut dire : y a-t-il un langage de programme ? Plaidoyer pour une approche (...)
- 42 D. Cardon, « Auditer les algorithmes », in D. Cardon (dir.), Cultures numériques, Paris, Presses de (...)
- 43 R. Badouard, « Modérer la parole sur les réseaux sociaux. Politiques des plateformes et régulation (...)
- 44 S. Couture, op. cit.
- 45 B. Rieder, « What is in PageRank? A Historical and Conceptual Investigation of a Recursive Status I (...)
15L’effectivité de ce principe de transparence exige de pouvoir décoder quels sont les critères choisis et leur pondération les uns par rapport aux autres41. Pour espérer atteindre ce niveau de connaissance, la transparence devrait être comprise selon une échelle à trois niveaux. En effet, en l’absence de transparence, seules des techniques exploratoires permettent de connaître le Code. Il est possible de mettre en place des méthodes de rétro-ingénierie fastidieuses qui permettent de comprendre le fonctionnement d’algorithmes42. Le niveau un de la transparence correspond à l’ouverture du Code, afin de pouvoir analyser son fonctionnement et approfondir la finesse des connaissances obtenues à l’aide de la lecture des lignes même du Code et grâce aux techniques précédemment évoquées. Le niveau deux comprendrait la diffusion des données d’apprentissage servant à l’entraînement des algorithmes apprenants, permettant ainsi de reproduire et donc de vérifier les résultats obtenus43. Malgré tout, ce niveau de transparence est insuffisant, car il ne prévoit pas la publication de la documentation expliquant le Code. L’ouverture de ces documents correspondrait au niveau trois de la transparence de la régulation numérique. La documentation est un ensemble de documents qui permet d’expliquer et de justifier les choix effectués lors de l’écriture du Code. Le lien entre ces deux éléments est tellement primordial que de nombreux codeurs soutiennent que le Code n’existe pas en l’absence de documentation44. Cette dernière peut alors être intégrée directement au Code par le biais de commentaires ou faire l’objet de documents distincts. Cette documentation est primordiale pour comprendre l’algorithme, comme le pointe Bernhard Rieder, qui, après avoir analysé l’algorithme PageRank de Google, explique qu’il faut étudier les lignes de programmation et leurs contextes compris dans la documentation pour le connaître45.
- 46 D. Merigoux, M. Alauzen, J. Banuls, L. Gesbert, É. Rolley, De la transparence à l’explicabilité aut (...)
16Par conséquent, l’efficience du principe de transparence exige de rendre accessibles les lignes de Code et de considérer que la documentation interne et externe est un accessoire indissociable. Une connaissance raisonnable devient alors envisageable, permettant pour des acteurs aguerris de comprendre les paramètres de la régulation numérique. Toutefois, l’apparition de la transparence en tant que principe substantiel de la régulation numérique ne permet pas un dépassement complet de l’ignorance à cause de barrières informatiques, juridiques et sociales46. L’ignorance apparaît donc comme l’un des facteurs déterminants de cette régulation, même quand la loi se trouve traduite en son sein. Si nul n’est censé ignorer la loi, l’absence de connaissances complètes et exhaustives demeure.
II.Des solutions insuffisantes au dépassement de l’ignorance de la régulation dans l’espace numérique
17Dès les débuts de la généralisation des ordinateurs dans la société, le droit d’accès et la transparence du Code ont été défendus comme une nécessité, pointant par effet miroir les limites juridiques du dépassement de l’ignorance (A). Ces propositions demeurent insuffisantes pour pouvoir affirmer avec fermeté que l’ignorance de la régulation numérique est un horizon intégralement dépassable (B).
A.Les limites juridiques à une connaissance complète de la régulation numérique par la transparence
- 47 CADA, avis no 20181891.
18La transparence se révèle être un principe juridique récent pour les personnes publiques qui découle de plusieurs instruments normatifs comme la loi Informatiques et Libertés du 6 janvier 1978 et la loi du 17 juillet 1978 instaurant un droit d’accès, laquelle fut complétée par la loi pour une République numérique du 7 octobre 2016. Quant aux personnes privées, le principe de transparence auquel elles sont soumises se révèle bien plus parcellaire en l’état du droit. D’autant que l’hypothèse de la révélation du Code émis par les personnes publiques comme privées est restreinte par un grand nombre d’éléments soumis à des mesures de protection juridique. La diffusion du Code est un processus lourd et parfois onéreux qui nécessite de créer ou de recréer une documentation externe et de sélectionner les données diffusables47. En effet, certaines données sont confidentielles et mises à l’abri de l’accès des tiers par le biais du contrat ou de la loi. Un grand nombre de secrets peuvent s’appliquer au Code informatique comme le secret de fabrication, le secret statistique ainsi que les normes protégeant les données personnelles. Dans le cas de cette contribution, le principal obstacle à la transparence se trouve dans le secret des affaires ou dans les restrictions liées à l’usage de données à caractère personnel, vidant en pratique de sa portée l’obligation de diffusion du Code informatique.
- 48 J. Carbonnier, « Propos introductifs », RJ com. 1993, no spécial « La transparence », p. 13.
19Comme l’a écrit le doyen Carbonnier, la transparence est un outil de contrainte, « c’est-à-dire en pratique une transparence forcée, une transparence d’ordre public48 ». Le secret des affaires, défini par la directive 2016/943 du 8 juin 2016 et par l’article L. 151-1 du Code de commerce, consiste d’une part, en un élément objectif qui correspond à l’inaccessibilité au public et à la valeur commerciale et, d’autre part, en un élément subjectif qui correspond aux informations que les personnes jugent confidentielles. Dès lors, les informations doivent être inaccessibles intellectuellement et techniquement lorsque leur connaissance est susceptible de porter atteinte aux intérêts économiques ou financiers, à des positions stratégiques ou concurrentielles. Or les éléments du Code qui participent à la régulation numérique procèdent d’investissements financiers et assurent bien souvent un avantage concurrentiel ; ils sont donc actuellement inaccessibles. Ce secret des affaires est à mettre en balance avec l’intérêt légitime de rendre accessibles, diffuser ou communiquer les informations protégées. Les données à caractère personnel, définies à l’article 4, 1o, du RGPD, correspondent à tout type d’informations qui permettent d’identifier des personnes directement ou indirectement identifiées ou identifiables ou même réidentifiables. Or tout traitement qui comprend la consultation, la communication, la diffusion ou toute mise à disposition de données personnelles oblige à respecter de nombreux principes protecteurs qui empêchent leur ouverture.
20Ainsi, le principe de transparence fait l’objet de nombreux tempéraments qui limitent la possibilité de connaître l’ensemble des composants de la régulation numérique. En l’état du droit, le principe de transparence ne permet pas de dépasser l’ignorance. En outre, même dans l’hypothèse où la transparence du Code serait totale, il subsiste d’importantes limites techniques.
B.Les substantiels freins techniques à une connaissance complète de la régulation numérique
- 49 R. Badouard, « Modérer la parole sur les réseaux sociaux. Politiques des plateformes et régulation (...)
21La transparence, pour être un principe efficient de lutte contre l’ignorance, impose la prise en compte d’une échelle d’ouverture des éléments composant le Code. Or, si cette étude propose un triple niveau de transparence, il reste malgré tout insuffisant pour assurer une connaissance satisfaisante et intégrale. Des professionnels travaillant chez Google « ont mis en avant les difficultés techniques à donner accès et à comprendre, depuis l’extérieur, des architectures de systèmes d’information complexes, n’ayant pas été conçues pour répondre aux questions posées par les autorités de régulation49 ». Si une partie de la portée du propos peut être questionnée au regard des intérêts de l’entreprise à ne pas diffuser ses codes, les limites exprimées pointent aussi les barrières techniques pour connaître la régulation numérique.
- 50 C. Hénin, « Confier une décision vitale à une machine », Réseaux 2021, no 225, p. 187-213.
- 51 S. Couture, op. cit.
- 52 J. Grimmelmann, « The Structure and Legal Interpretation of Computer Programs », Journal of Cross-d (...)
- 53 C. Méadel, G. Sire, art. cité.
- 54 É. Mouriesse, « Quelle transparence pour les algorithmes de justice prédictive ? », Archives de ph (...)
- 55 B. Dondero, « Justice prédictive : la fin de l’aléa juridique », Recueil Dalloz, p. 532.
- 56 C. Hénin, art. cité.
22En effet, de nombreuses embûches empêchent de dépasser l’ignorance de la réalité de la régulation par la simple diffusion du Code. Le fait de documenter la conception du Code ne suffit pas à rendre le système clair et lisible pour les utilisateurs même s’il permet de renforcer la confiance des utilisateurs50. La première limite vient de la mauvaise qualité du Code qui empêche les personnes extérieures de le comprendre facilement. Le Code se doit d’être lisible pour être facilement intelligible pour les utilisateurs compétents en informatique51. La deuxième limite est l’absence de politique de gestion suffisante de la legacy des codes déjà anciens. Ces derniers sont souvent écrits dans des langages qui ne sont plus enseignés et peu maîtrisés comme Cobol52 qui est encore employé dans de nombreuses institutions financières. Les connaissances permettant de véritablement connaître les régulations impliquées par ces codes deviennent rares. La troisième limite vient de l’obscurité autour du travail de production des codes couverts par l’entre-soi professionnel ou l’absence de mise en lumière des tâches invisibles au regard de la place prépondérante prise par la décision humaine53. Les choix de conception techniques et la base de données sont à communiquer pour améliorer l’appréhension des critères au motif que le codage est nécessairement subjectif54. Par exemple, le codeur choisit les décisions incorporées dans sa base de données, sans qu’aucune méthodologie n’ait été scientifiquement reconnue55. La dernière limite de la transparence vient de l’encodage de domaine d’expertise particulier comme le domaine médical dans un algorithme qui devient alors illisible pour les médecins comme pour les informaticiens56.
- 57 P. Naur, « Programming as theory building », Microprocessing and Microprogramming 1985, vol 15, p. (...)
- 58 Id.
23Au regard de ces restrictions à la connaissance de la régulation numérique, la présence d’une documentation apparaît insuffisante pour permettre une parfaite maîtrise du Code. Dans son essai classique « Programming as Theory Building », Peter Naur montre qu’un Code ne se limite pas à son Code source, mais est le résultat d’une « théorie », au sens d’une construction mentale partagée, qui se retrouve uniquement dans l’esprit des codeurs57. Le seul Code, en tant que représentation matérielle du programme, ne suffit pas à comprendre les paradigmes de l’évolution du Code, la perte des personnes ayant écrit le Code revient à la perte du Code. Même si l’ensemble des bonnes pratiques sont respectées et que la documentation est complète, les codeurs ont une compréhension des systèmes informatiques complexes largement supérieure. Par exemple, même le Code complet et sa documentation produite par le groupe de codeurs d’origine n’ont pas été suffisants pour qu’un groupe de codeurs différents réussisse à amender en profondeur ledit Code58. L’hypothèse avancée est que les seules lignes de codes et la documentation demeurent incomplètes pour connaître les idées de conceptions fondamentales. Par conséquent :
- 59 P. Naur, « Pourquoi il n’est pas possible d’échanger les programmeurs : la programmation en tant qu (...)
« au moins pour certains types de grands programmes, l’adaptation, la modification et la correction continues des erreurs qu’ils contiennent dépendent essentiellement d’un certain type de connaissances possédées par un groupe de programmeurs qui sont étroitement et continuellement en contact avec eux59 ».
24La connaissance du Code et de ses perspectives d’évolution ne peuvent pas être totalement acquises par des acteurs extérieurs même avec l’intégralité du Code et de la documentation. En revanche, un haut niveau de transparence permet une meilleure compréhension du fonctionnement de la régulation numérique.
- 60 D. Cardon, À quoi rêvent les algorithmes ? Nos vies à l’heure des big data, Paris, Seuil, p. 108.
- 61 Autorité de la concurrence et le Bundeskartellamt, Algorithmes and competition, nov. 2019 « There a (...)
25Cette problématique de l’ignorance numérique est accentuée par le développement de la compliance de seconde génération qui repose sur des systèmes d’apprentissage automatique. Cette catégorie d’algorithmes, nommée par Dominique Cardon « la boîte noire du calcul algorithmique60 » est particulièrement opaque pour les utilisateurs et fait l’objet de nombreux fantasmes et suppositions. Les algorithmes boîtes noires consistent en des systèmes « dont le comportement est difficilement interprétable même avec l’accès à leur Code61 » alors même qu’ils influencent les choix des utilisateurs, prennent des décisions et jugent des comportements. Au regard de l’état de l’art, il n’existe pas de démonstration assurant la capacité de rétro-ingénierie d’un algorithme d’apprentissage automatique. Autrement dit, le phénomène de boîte noire de ces algorithmes limite d’autant plus l’effectivité même du principe de transparence pour dépasser l’ignorance actuelle de la régulation.
Notes
1 L. Lessig, « Code Is Law. On Liberty in Cyberspace », Harvard Magazine [en ligne], janv. 2000. Disponible sur : <https://www.harvardmagazine.com/2000/01/Code-is-law-html> (consulté le 2 août 2023).
2 Ibid.
3 P. Beckouche, « La révolution numérique est-elle un tournant anthropologique ? », Le Débat 2017, no 193, p. 153-166.
4 S. Couture, Le Code source informatique comme artefact dans les reconfigurations d’Internet, déc. 2012, Université du Québec, <https://core.ac.uk/download/pdf/10801537.pdf>.
5 Steering Committee Charter, International Working Conference on Source Code Analysis and Manipulation (SCAM) [en ligne], publié le 24 sept. 2012/ Disponible sur : <http://www.ieee-scam.org/SCAM-charter-2012.pdf> (consulté le 21 déc. 2023).
6 L. Manovich, The langage of New Media, Cambridge, The MIT Press, 2002.
7 J. Butler, Le pouvoir des mots ; discours de haine et politique du performatif, Paris, Amsterdam, 2017.
8 L. Lessig, art. cité.
9 E. Sadin, La Vie algorithmique. Critique de la raison numérique, Paris, L’Échappée, 2015.
10 S. Arsène, C. Mabi, « L’action publique au prisme de la gouvernementabilité numérique », Réseaux 2021, no 225, p. 9-22.
11 R. Badouard, « Ce que l’État peut face aux plateformes », Pouvoirs 2021, no 177, p. 49-58
12 W. Chaiehloudj, « La competition by design : un outil de compliance au service des entreprises et… des autorités de concurrence ? », in A. Mendoza-Caminade (dir.), L’entreprise et l’intelligence artificielle, les réponses du droit, Toulouse, Presses de l’université Toulouse 1 Capitole, 2022, p. 517-538.
13 M. Behar-Touchais, « Mondialisation et internet », in La mondialisation, Journées allemandes, Berlin, Bruylant (Emile), 2017, p. 681.
14 J. Charpentet, « Plateformes digitales et États : la corégulation par les données. Le cas des requêtes gouvernementales », Revue internationale de droit économique 2019, t. 33, p. 363-381.
15 L. Lessig, art. cité.
16 Google, « Consignes aux webmasters », <https://support.google.com/webmasters/answer/35769?hl=fr&ref_topic=6002025> (consulté le 2 sept. 2023.)
17 G. Sire, « Le pouvoir normatif de Google. Analyse de l’influence du moteur sur les pratiques des éditeurs », Communication & langages 2016, no 1888, p. 85-99.
18 P. de Filippi, S. Hassan, « The Expansion of Algorithmic Governance : From Code is Law to Law is Code », The Journal of Field Actions 2018, Special issue 17.
19 C. Méadel, G. Sire, « Les sciences sociales orientées programmes. État des lieux et perspectives », Réseaux 2017, no 206, p. 9-34.
20 K. Ermoshina, « Le Code peut-il réparer les routes ? Les applications de signalement des problèmes de voirie et la gouvernance par APIs », Réseaux 2017, no 206, p. 155-189.
21 S. Arsène, C. Mabi, art. cité.
22 Il s’agit d’une traduction imparfaite qui ne transmet pas l’ensemble du sens attaché à la notion de « compliance »
23 P. Reis, « Éthique du numérique et marché », Revue internationale de droit économique 2021, t. XXXV, p. 19-28
24 K. Favro, « La démarche de compliance ou la mise d’une approche inversée », Légicom 2017, no 59, p. 21-28
25 M.-A. Frison-Roche, « Les buts monumentaux, cœur battant du droit de la compliance », in M.-A. Frison-Roche (dir.), Les buts monumantaux de la compliance, Paris, Dalloz, 2022, p. 520.
26 I. Falque-Pierrotin, « Quelle protection européenne pour les données personnelles ? », Questions d’Europe 2012, no 250, p. 8.
27 W. Chaiehloudj, art. cité.
28 R. Gola, « Le règlement européen sur les données personnelles, une opportunité pour les entreprises au-delà de la contrainte de conformité », Légicom 2017, no 59, p. 29-38.
29 M. Maggeti, « Hard and Soft Governance », in K. Löfgren, K. Lynggard, I. Manners (dir.), Research Methods in European Studies, Basingstoke, Palgrave Macmillan, p. 252-265.
30 R. Badouard, « Modérer la parole sur les réseaux sociaux. Politiques des plateformes et régulation des contenus », Réseaux 2021, no 225, p. 87-120.
31 R. Badouard, Les nouvelles lois du web. Modération et censure, Paris, Seuil, coll. La République des Idées, 2020.
32 M. Maggetti, art. cité.
33 P. de Filippi, S. Hassan, art. cité.
34 <https://www.cnil.fr/fr/definition/apprentissage-automatique>.
35 W. Chaiehloudj, art. cité.
36 R. Badouard, « Modérer la parole sur les réseaux sociaux. Politiques des plateformes et régulation des contenus », art. cité.
37 A. Robin, Droit des données de la recherche. Science ouverte, innovation, données publiques, Bruxelles, Larcier, 2022, p. 25.
38 G. Carcassonne, « Le trouble de la transparence », Pouvoir 2001, no 97, p. 17-23.
39 R. Badouard, « Ce que l’État peut face aux plateformes », art. cité.
40 A. Robin, op. cit. p. 25.
41 G. Sire, « Ce que coder veut dire : y a-t-il un langage de programme ? Plaidoyer pour une approche sociolinguistique du Code », French Journal for Media Research 2016, no 6.
42 D. Cardon, « Auditer les algorithmes », in D. Cardon (dir.), Cultures numériques, Paris, Presses de Sciences Po, 2019, p. 399-409.
43 R. Badouard, « Modérer la parole sur les réseaux sociaux. Politiques des plateformes et régulation des contenus », art. cité.
44 S. Couture, op. cit.
45 B. Rieder, « What is in PageRank? A Historical and Conceptual Investigation of a Recursive Status Index » [en ligne], Computational Culture 2, 2012. Disponible sur : <http://computationalculture.net/what_is_in_pagerank/> (consulté le 28/12/2023).
46 D. Merigoux, M. Alauzen, J. Banuls, L. Gesbert, É. Rolley, De la transparence à l’explicabilité automatisée des algorithmes : Comprendre les obstacles informatiques, juridiques et organisationnels, RR-9535, INRIA Paris, 2024, p. 68.
47 CADA, avis no 20181891.
48 J. Carbonnier, « Propos introductifs », RJ com. 1993, no spécial « La transparence », p. 13.
49 R. Badouard, « Modérer la parole sur les réseaux sociaux. Politiques des plateformes et régulation des contenus », art. cité.
50 C. Hénin, « Confier une décision vitale à une machine », Réseaux 2021, no 225, p. 187-213.
51 S. Couture, op. cit.
52 J. Grimmelmann, « The Structure and Legal Interpretation of Computer Programs », Journal of Cross-disciplinary Research in Computational Law 2023, 1.3. url : <https://journalcrcl.org/crcl/article/view/19>.
53 C. Méadel, G. Sire, art. cité.
54 É. Mouriesse, « Quelle transparence pour les algorithmes de justice prédictive ? », Archives de philosophie du droit 2018, t. 60, p. 125-145.
55 B. Dondero, « Justice prédictive : la fin de l’aléa juridique », Recueil Dalloz, p. 532.
56 C. Hénin, art. cité.
57 P. Naur, « Programming as theory building », Microprocessing and Microprogramming 1985, vol 15, p. 253-261.
58 Id.
59 P. Naur, « Pourquoi il n’est pas possible d’échanger les programmeurs : la programmation en tant que construction de la théorie », traduit par J. Emy [en ligne], <https://programmation.developpez.com/actu/352759/Pourquoi-il-n-est-pas-possible-d-echanger-les-programmeurs-la-programmation-en-tant-que-construction-de-la-theorie-par-Peter-Naur/> (consulté le 6 juin 2024).
60 D. Cardon, À quoi rêvent les algorithmes ? Nos vies à l’heure des big data, Paris, Seuil, p. 108.
61 Autorité de la concurrence et le Bundeskartellamt, Algorithmes and competition, nov. 2019 « There are algorithm whose behaviour is hardly interpretable even with access to their Code. In the following, the study will refer to them as a black-boc algorithms. »
Haut de pagePour citer cet article
Référence papier
Alya Hafsaoui, « L’ignorance, un horizon indépassable de la régulation numérique ? », Cahiers Droit, Sciences & Technologies, 19 | 2025, 103-114.
Référence électronique
Alya Hafsaoui, « L’ignorance, un horizon indépassable de la régulation numérique ? », Cahiers Droit, Sciences & Technologies [En ligne], 19 | 2025, mis en ligne le 10 mai 2025, consulté le 14 juin 2025. URL : http://journals.openedition.org/cdst/10934 ; DOI : https://doi.org/10.4000/13wey
Haut de pageDroits d’auteur
Le texte seul est utilisable sous licence CC BY 4.0. Les autres éléments (illustrations, fichiers annexes importés) sont « Tous droits réservés », sauf mention contraire.
Haut de page