1Les algorithmes ont été introduits dans notre vie quotidienne sans que nous y ayons forcément prêté attention, et sans que nous soyons vraiment au courant de leur existence, de l’ampleur de leur utilisation, de leur pouvoir et des critères qu’ils formalisent pour accompagner nos existences, aider à la prise de décision, ou décider à notre place.

4Cette approche vise à améliorer la maîtrise et l’efficience des processus à l’œuvre pour concevoir, déployer, utiliser et surveiller des dispositifs algorithmiques innovants, au travers d’une approche globale et systémique s’adressant à toutes les strates de l’organisation concernée, du technicien et de l’ingénieur aux dirigeants, en passant par l’implication des personnes affectées par l’application d’IA envisagée. Cette démarche permet le respect ou la mise en place de principes et règles éthiques applicables, puis de normes de qualité, avec une vue d’ensemble du cycle de vie des applications numériques intelligentes, en conformité avec les textes de références disponibles, en particulier juridiques. Cette ambition nécessite des efforts et investissements particuliers qui peuvent parfois paraître contraignants, mais qui devraient être au cœur de la démarche d’innovation et de la responsabilité sociale des acteurs du numérique.

5L’objet de notre article n’est pas d’analyser les concepts fondamentaux de l’éthique et de la morale, leurs présupposés épistémologiques et leur signification, mais d’apporter une approche nouvelle sur la structuration d’une éthique appliquée au numérique. Nos réflexions sont associées à l’éthique normative et non au domaine de la méta-éthique ou de l’éthique analytique.

6Dans cette optique, après avoir identifié, dans un premier temps, les défis associés à un encadrement des traitements algorithmiques (Floridi et al., 2018), nous présenterons, dans un deuxième temps, le concept de l’« Ethics by Evolution » qui constitue le socle de notre réflexion. Cela nous amènera, dans un troisième temps, à l’élaboration d’un Vade-mecum de bonnes pratiques éthiques relatives à l’IA.

Défis relatifs à la régulation des systèmes algorithmiques

7L’émergence des NTIC et leur adoption progressive dans tous les secteurs d’activités économiques ont des répercussions, génèrent des enjeux et des risques considérables à tous les niveaux (Floridi et al., 2018). Cela transforme le monde dans son intégralité, depuis notre conception des systèmes informatiques désormais très complexes et évoluant souvent en réseaux, à la compréhension même des phénomènes économiques, sociaux, culturels, sanitaires fondée sur des données, des estimations statistiques ou des évaluations mathématiques parfois réductrices ou biaisées. Les biais de l’algorithme peuvent résulter des biais cognitifs du programmeur, des biais statistiques (associés notamment aux données d’apprentissage aux variables omises, à la sélection, à l’endogénéité des données), des biais économiques ou encore des biais introduits par un environnement évolutif.

8En passant par une approche plus technocentrée où les valeurs et le bien-être de l’humain, y compris la protection de son environnement, tendent à ne plus être au centre des préoccupations, les responsables de projets digitaux risquent de développer ou d’introduire des technologies délétères en l’absence d’une réflexion éthique préalable dûment menée et documentée. En effet, l’introduction d’un dispositif d’IA au sein d’une organisation, par exemple, pour aider à la prise de décision quant à l’accès à un service, comporte des risques de discriminations importants qui peuvent être éliminés ou minimiser au moment du développement de l’IA mais aussi lors de son usage. À moyen terme, les décideurs humains risquent de trop se reposer sur la gestion algorithmique des activités, quitte à fragiliser les équilibres trouvés au travers de l’organisation traditionnelle des rapports humains internes et externes des structures envisageant une transformation numérique. L’introduction d’une technologie d’IA à un effet disrupteur particulier et crée de nouveaux modes organisationnels et relationnels qui risquent de rendre ces structures potentiellement plus instables, voire plus iniques, dans leur fonctionnement, diminuant ainsi à court ou long termes les avantages espérés de l’adoption de nouvelles technologies pourtant performantes. À cela s’ajoutent les risques illustrés par plusieurs exemples qui révèlent comment un usage mal intentionné ou accidentel des technologies fondées sur le Big Data (Helevi et Moed, 2012) peut transformer un algorithme en un outil à discriminer, silencieux et systémique (Colloc et Léry, 2008).

9Les NTIC et l’IA modifient les rapports entre individus, les interactions sociales, les comportements économiques et même la personnalité des individus, en permettant de nouvelles « facilités » souvent très vite addictives, ceci rendant le déploiement de ces technologies, à toutes les strates d’organisation, particulièrement sensibles. À ces défis s’ajoutent également de nouveaux conflits sociétaux dans lesquels s’opposent différentes conceptions de la place que doit prendre la technologie dans nos sociétés. La critique du développement technologique et de son impact sur les valeurs historiques et fondamentales des sociétés démocratiques - telle que la protection de la dignité humaine et la protection de la vie privée - est importante et les questions qu’elle soulève doivent trouver un écho à l’échelle de chaque structure. Cette critique, souvent en retard sur le déploiement des technologies contestées (Jarrige, 2014), mérite d’être considérée avec sérieux, en amont du déploiement de la technologie et de l’adoption de politiques, et faire l’objet de processus délibératifs réguliers.

10Ces débats devraient être organisés en considérant les positions collectives officielles exprimées par des institutions indépendantes (par exemple, un avis de Comités d’éthique nationaux ou de sociétés savantes) et, lorsque cela est possible, s’ouvrir au public, hors les murs de la structure. L’expression citoyenne, interne ou externe, devrait être libre et ses résultats dûment considérés, ce qui est encore trop peu le cas dans le cadre des sciences et technologies algorithmiques où les solutions ont tendance à être adoptées en « top-down », sans consultation des personnes concernées, des personnels, des administrés. Il existe quelques initiatives qui font exceptions comme celle de l’Université de Montréal qui a intégré la participation publique citoyenne dans l’élaboration de la Déclaration de Montréal proposant un premier cadre éthique pour le développement de l’IA (Déclaration de Montréal, 2018). S’il est compréhensible qu’un débat public à large échelle puisse être délicat à organiser en termes de logistique, il est néanmoins regrettable que des initiatives plus modestes, à l’échelle d’une entreprise qui fait le pont entre l’aspect individuel et sociétal, ne soient pas plus répandues et intégrées dans la conception des algorithmes et des services algorithmiques, alors que le nombre de start-up dans le domaine et d’entreprises ayant recours aux algorithmes et à l’IA grimpe inexorablement, comme en France par exemple (Gros, 2019).

11La plupart des NTIC dépendent de la disponibilité et de l’usage de grandes quantités de données, en particulier de données personnelles, ce qui pose des problèmes de transparence, d’autonomie des personnes concernées, de sécurité et de contrôle (Picard, 2017), lesquels sont parfois paradoxaux dans le contexte de l’IA (Burt, 2019) et nécessitent donc de (re)penser la gouvernance algorithmique sous un angle éthique, pour toute la société, mais tout particulièrement pour les acteurs qui conçoivent et déploient ces NTIC, l’un n’ayant pas à attendre l’autre pour se positionner, mais les deux devant avoir des approches compatibles. De grandes questions restent ouvertes au niveau collectif : quelle société se dessine au travers de la généralisation des NTIC (Markowetz et al., 2014) et des Big Data (Badillo et Pélissier, 2015) qui les alimentent ? Quelles formes de gouvernances peuvent se profiler à travers cette « datafication » ? La régulation autour des systèmes algorithmiques doit-elle s’appuyer sur une plus grande transparence des algorithmes afin d’en obtenir une plus grande loyauté, information pour les utilisateurs des outils et ceux qui sont les sujets d’une décision automatisée, et permettre le contrôle humain dans le respect des droits de l’homme ?

12Qu’entraînerait exactement cette transparence pour les acteurs ? Et quels algorithmes devraient être transparents ? Dans une certaine mesure, ces questions se posent également au niveau de chaque structure (entreprise développant des systèmes d’IA, organismes publics ou privés adoptant des solutions d’IA, institutions et autorités responsables de réguler le domaine ci-après dénommés « pouvoirs publics ») et il est nécessaire de ne pas les négliger afin de forger une éthique propre à ces dernières qui soit compatible avec les attentes légitimes de la société et du contexte spécifique dans laquelle elles évoluent. Cette position éthique serait automatiquement évolutive et devrait donc être remise en question et éventuellement réajustée au niveau global de la structure ou par rapport à un produit ou service algorithmique spécifique.

13Nos différentes recherches bibliographiques dans la littérature scientifique nationale et internationale dédiée à l’éthique appliquée au numérique, nous ont permis de mettre en évidence quarante défis qui composent les éléments fondateurs à adresser au travers d’une régulation éthique des systèmes de traitements algorithmiques et de l’IA (voir Figure 1). Ces enjeux devraient être considérés soit par les pouvoirs publics [PP], soit par les entreprises ou autres acteurs [EAA] de l’innovation ou structures concernées par l’adoption d’un système algorithmique, en particulier d’IA.

14Nous avons répartis ces défis de manière égale, non hiérarchisée, selon huit paramètres généraux (Béranger, 2015) (Béranger, 2016) impactés par l’usage d’un système numérique algorithmique. Ces paramètres s’intéressent à l’aspect Structurel – Technologique – Stratégique – Méthodologique – Organisationnel – Réglementaire – Relationnel – Culturel d’une organisation et de ses activités. Il s’agira alors de déterminer les éléments critiques pour lesquels une analyse d’impact de la technologie à développer ou introduire devrait être menée. De cette analyse devraient découler des positionnements éthiques et des règles transparentes à respecter au cours des activités concernées. Cette analyse ne devrait pas être figée et ne devrait pas constituer une simple étape à la suite de laquelle les réflexions s’arrêtent et les règles établies sont considérées comme acquises et invariables. En effet, les valeurs communes et les cadres juridiques peuvent évoluer, se préciser, comme les attentes et les sensibilités sociétales, vis-à-vis des technologies algorithmiques. Cela devrait faire l’objet d’une veille des acteurs concernés [PP et EAA] afin d’être considéré. Cela pourrait nécessiter de réinterroger les postulats éthiques et les règles qui en découlent et faire évoluer l’approche adoptée par les organisations, requestionner leur activité, leur organisation et l’acceptabilité des systèmes algorithmiques et d’IA qu’ils développent ou introduisent.

Cadre centré sur de l’« Ethics by Evolution »

16L’objet de ce chapitre est de lister et de définir les principaux critères éthiques qui pourraient constituer le socle d’un futur référentiel plus précis afin de tendre vers une IA au service de l’humain, pour prévenir et anticiper les dérives et les conséquences possibles du perfectionnement des systèmes algorithmiques (Eagle et Pentland, 2006 ; Zuboff, 2015).

17Ce cadre d’analyse éthique autour du traitement algorithmique peut se découper selon six catégories d’éthiques interdépendantes et complémentaires qui façonnent notre approche « Ethics by Evolution » axée sur des évaluations itératives régulières ou liées à un changement substantiel du système algorithmique concerné (par exemple, les fonctionnalités). En tant que prérequis incontournable, la finalité du dispositif doit être clairement déterminée, licite, et transparente pour les parties prenantes à l’évaluation des six aspects proposés ci-dessous. Cette approche éthique protéiforme devrait être de nature transversale et systémique et intégrer une première étape de réflexion au niveau méta-éthique dans laquelle l’acteur coordinateur des réflexions à mener définis, au regard de la finalité du système et de son usage, les notions, valeurs et cadres de référence qu’il mobilise : (voir Figure 1).

L’éthique de la donnée

18Identification des données traitées par l’algorithme et les échanges de celles-ci en vue de l’identification des valeurs éthiques et cadres juridiques applicables au traitement de ces données dans la poursuite des finalités déterminées en amont du développement ou de l’introduction du système algorithmique ou d’IA. Il s’agit du domaine qui concerne la nature et les caractéristiques relatives aux données numériques utilisées ou générées par le système. Cette évaluation éthique doit mener à une conception des mécanismes de supervision et de traçabilité des données.

L’éthique de l’algorithme

19Identification des briques composant l’algorithme de traitement des données et évaluation de leur caractère approprié. Les décisions relatives à cette évaluation sont de nature à adapter l’algorithme pour assurer la performance et la robustesse mathématiques du système, ces caractéristiques s’appliquant aux opérations et aux processus associés à l’exploitation des données numériques tout au long de leur cycle de vie. En d’autres termes, cette évaluation concerne le fonctionnement de l’algorithme de façon à pouvoir le justifier sur la base de références connues et à pouvoir comprendre et expliquer ce qu’il fait réellement, de manière transparente. Dans le contexte d’algorithmes liés à des réseaux de neurones artificiels souvent constitutifs de « boites noires » dont les arcanes sont difficilement compréhensibles par l’homme malgré une apparente performance, cette évaluation devrait servir à mettre en place des systèmes de surveillance et d’études du fonctionnement du système allant vers une maîtrise suffisante des aléas dans le respect des valeurs et règles éthiques et juridiques applicables, sans perdre de vue l’objectif d’explicabilité et de transparence des algorithmes.

L’éthique des systèmes

20Conception de l’ergonomie et de la fonctionnalité du système d’information, en adéquation avec les compétences et les pratiques de l’utilisateur. Cette évaluation doit concilier les besoins des utilisateurs avec les nécessités propres au bon fonctionnement du système dans la conception de l’architecture technologique. Ces aspects sont particulièrement importants dans le cadre des interfaces homme-machine et de la conception d’applications digitales.

L’éthique de l’environnement

21Analyse des diverses interactions et impacts en fonction de l’écosystème ambiant via des paramètres contextuels, écologiques et environnementaux, sociétaux, économiques, religieux, sanitaires, historiques, voir géopolitiques. Sont incluses ici, par exemple, les réflexions autour de la maîtrise des activités sous-traitées en dehors de l’organisation concernée et les réflexions sur l’impact d’un dysfonctionnement des activités d’un sous-traitant qui serait critique pour le système (par exemple, l’externalisation du stockage des données d’apprentissage d’un système d’IA). Est également inclue l’évaluation des risques liée au fonctionnement du système qui s’insère dans un réseau technologique préétablit, public ou privé, souvent évolutif, des interdépendances et des risques liés à d’éventuelles faiblesses humaines ou techniques et de leur impact sur la robustesse, la sécurité, les droits et les libertés des utilisateurs ou autres personnes affectées par le système. Des mesures à même de mitiger ou éliminer les risques identifiés pourront alors être envisagées.

L’éthique des pratiques

22Explication sur la qualité des résultats de l’algorithme, la performance du dispositif par rapport à la finalité et les usages prévus ou constatés, ainsi que les éventuels ajustements nécessaires du système qui ont été apportés ou sont envisagés, par exemple au regard du traitement de données numériques et aux besoins du terrain. Cette réflexion devrait comprendre le recueil et l’analyse des retours d’expériences des utilisateurs ou personnes affectées par l’utilisation du système. La pratique repose sur l’usage des technologies, l’exposé clair de leur finalité, le démontage du raisonnement (de l’humain, développeur ou introducteur de la technologie, et de la machine apprenante), mais surtout sur l’incarnation de la relation interhumaine que la technologie vient faciliter, questionner ou perturber. Il n’existe pas une pratique, mais des pratiques. Les recommandations ne sont qu’un cadre théorique d’où s’échappe la masse de tous les cas particuliers qu’il s’agit d’analyser.

L’éthique des décisions

23Analyse des impacts sociétaux sur les personnes (utilisateurs ou personnes affectées par l’utilisation). On peut remarquer que les décisions peuvent se révéler lors de deux temporalités différentes du point de vue de l’organisation développant ou introduisant une technologie algorithmique ou d’IA dans ses activités. Premièrement, en amont de la conception d’une solution numérique, ces décisions sont de nature stratégique. Deuxièmement, de manière postérieure à l’élaboration de l’application numérique, ces décisions sont de nature opérationnelle. Les décisions prises par rapport aux caractéristiques techniques ou aux usages des technologies sont à distinguer des décisions résultant de l’usage de ces technologies, chacune posant des questions d’ordre éthique et juridique. Ainsi, l’éthique des décisions est intimement liée à l’éthique des pratiques. Dans certains contextes, l’utilisateur professionnel sera contraint de respecter des règles déontologiques que la technologie, à tout le moins, ne doit pas empêcher (par exemple, en médecine). Cette dernière devrait même être envisagée, si possible, en tant que facilitateur du respect de ces règles, et ce même si la pratique évolue par l’utilisation de la technologie. Dans d’autres contextes non professionnels, l’utilisateur, souvent consommateur, fera référence à ses propres valeurs ou jugements moraux. Ainsi il s’agirait d’envisager pour ce dernier une marge de manœuvre dans le paramétrage de la technologie pour qu’il puisse exprimer ses préférences dans les limites de la licéité et des contraintes morales qui s’imposent au fournisseur de la technologie concernée. Parfois, une telle marge de manœuvre ne sera pas possible. Dans tous les cas, une supervision humaine des décisions basées sur l’utilisation d’un système d’aide à la décision est préconisée. Elle serait en passe de devenir obligatoire en droit de l’Union européenne, au vu de la dernière proposition de Règlement de l’Union en date du 21 avril 2021 (Union européenne, 2021).

24Cette éthique systémique et multiforme nous apparaît intéressante afin de pouvoir, à moyen terme, évaluer les structures organisationnelles qui produisent ou utilisent des machines algorithmiques évolutives, sur l’éthique de leur conception, de leur gestion et leur usage. L’idée est donc à la fois de formuler et d’intégrer des principes et des règles éthiques dès la conception des outils technologiques, dans leur architecture même, incluant l’algorithme, ainsi que dans les structures de gouvernance associées au déploiement et à la surveillance de ces technologies, lesquelles devraient permettre des cycles d’évaluations organisés et inclusifs des aspects éthiques des technologies proposées. Cette approche permettrait aussi d’évaluer l’impact sociétal du développement et des usages à l’aune des conditions humaines mise en place par la structure productrice ou utilisatrice, de nature à identifier et résoudre les éventuels dilemmes éthiques, à garantir l’acceptabilité des systèmes, et à en réduire les risques dans ses contextes de destination.

Recommandations « Ethics by Evolution » associées à l’IA

25L’approche proposée ici nécessite de faire évoluer la gouvernance des organisations concernées pour permettre l’évaluation récurrente des technologies et d’assurer la transparence de ces activités. Cette démarche est ambitieuse et impose donc d’introduire des critères éthiques dans l’élaboration même des NTIC, dans ses applications et/ou dans son code source informatique, et d’en assurer le bon fonctionnement au travers d’une gouvernance effective, responsable et humaine.

26Cette régulation néodarwinienne va devoir prendre en compte l’expérience passée et intégrer des indicateurs évolutifs découlant d’un environnement et d’un contexte sociotechnologique en perpétuelle mouvance (Gadamer, 1976 ; Habermas, 1984 ; Schwandt, 2000). Cet aspect évolutif est rendu possible par le fait qu’il y a une prise en compte régulière de nouvelles données déterminantes au fur et à mesure de l’apprentissage-machine, qui influencent le fonctionnement et les résultats de l’IA. L’évaluation éthique des systèmes est alimentée par des données de l’activité en cours (voir « Ethics by Design ») et des données contextuelles (voir « Ethics by Evolution ») afin de déterminer les paramètres de fonctionnement du système, lesquels reflèteront, par défaut, les choix et décisions effectués en amont par l’organisation développant le système ou introduisant l’usage de ce dernier dans son périmètre d’activité. Un tel processus confirme un peu plus l’importance de l’humain dans cette approche évolutive. Ce dernier, maître de la définition des objectifs poursuivis avec la technologie concernée et surtout des critères éthiques appliqués, en est également responsable. Il devra pouvoir répondre des évolutions ou du comportement des machines engendrés lorsqu’il est développeur, ou répondre des impacts de l’intégration ou de l’usage d’un système algorithmique ou d’IA dans un contexte spécifique au sein duquel il a un pouvoir de décision.

27En définitive, la mission de cette régulation évolutive est de rendre éthique et écoresponsable un système algorithmique sur le long terme, en lui associant une démarche responsable de développement et de contrôle organisée et efficace, et en développant des critères de bonnes pratiques, intégrables si possible dans l’algorithme, qui puissent être justifiés et auditables, par défaut. Toute action sur le paramétrage de ces critères devra être tracée et transparente pour tous les acteurs, y compris les autorités. Ainsi, il est essentiel d’établir des règles de gouvernance relatives aux projets d’innovations en sciences algorithmiques, notamment en IA et d’en assurer une veille, en amont mais surtout en aval du développement, en impliquant les acteurs du déploiement et les utilisateurs finaux, dans une dynamique cyclique. Plusieurs recommandations peuvent mettre sur la voie de l’approche « Ethics by Evolution » (voir ci-après). Nous reprendrons les abréviations utilisées plus haut dans la section 1 de l’article pour identifier les destinataires de ces recommandations.

Recommandations relatives à une organisation permettant d’adopter l’approche « Ethics by evolution »

Paramètre structurel

28Mettre en place des processus qui permettent d’attester la loyauté des algorithmes, c’est-à-dire leur conformité à un cahier des charges préétabli et leur acceptabilité éthique. [EAA] [PP]
Exemples :

• Standardiser le protocole de recueil des données utilisées par le système et les prétraitements des données d’apprentissage ;

• Tracer le fonctionnement des algorithmes et modèles ;

• Utiliser des technologies de réingénierie d’algorithme qui permettent de vérifier l’aspect qualitatif du traitement de vos données.

29Évaluer la qualité d’une information, et le taux de fiabilité du système algorithmique, afin d’optimiser son usage. [EAA] [PP]
Exemple :

• Processus de gestion de la qualité des données incluses dans les traitements algorithmiques et d’amélioration continue.

30Développer une gouvernance nouvelle permettant d’envisager l’impact, positif comme négatif, du dispositif technologique et/ou des services liés, en amont et en aval de leur déploiement. [EAA] [PP]
Exemples :

• Plan de résilience de la structure en cas de panne, de conséquences indésirables du système ;

• Désignation d’un personnel interne aux organisations développant ou introduisant des systèmes algorithmiques ou d’IA dans leur périmètre d’activité avec pour mission unique d’assurer le pilotage des activités d’organisation, d’évaluation et de gestion de l’éthique des systèmes dans la dynamique « Ethics by design and evolution ».

31Permettre une évaluation et un contrôle des interconnexions et interactions entre les différents systèmes de traitement, y compris vis-à-vis de la stratégie de valorisation des données numériques. [EAA] [PP]
Exemple :

• Intégrer une démarche d’amélioration continue insérant des process qualité qui s’attache à vérifier que les données sont appropriées pour une exploitation.

Paramètre technologique

32Développer des mesures validées pour contrôler la fiabilité des produits et services d’IA qui doivent être entreprises au niveau technique, organisationnel ou politique. Ces métriques serviraient de base à un système permettant des études comparatives (Benchmarking) piloté par le fournisseur des applications algorithmiques, en collaboration avec l’utilisateur et une surveillance de la part des autorités. [EAA]
Exemple :

• Réaliser une cartographie des différents processus qui permet de surveiller les potentiels dommages et violations autour du traitement des données.

33Rédiger une fiche technique obligatoire décrivant avec précisions les données d’entrée, d’entrainement, de sortie et de validation du système, l’algorithme, le modèle d’apprentissage et les finalités du système. Cette fiche devrait répondre aux requis de transparence et d’explicabilité nécessaire pour être validée par un audit indépendant réalisé par une structure agrémentée par une autorité ou une agence nationale compétente. Tout système de traitement algorithmique serait livré avec une fiche technique et un rapport d’audit, obligatoire, préalable à son déploiement et à son utilisation et assortit d’une notice claire à destination des distributeurs (instructions sur le contexte et les limites associés à la distribution) et utilisateurs (instructions d’utilisation). Cet audit aura pour but d’attester de la conformité du système à sa fiche technique et aux référentiels pertinents. Dès lors, la documentation technique devrait inclure ou être associée à une description précisant les résultats d’une étude d’impact du dispositif par rapport aux usages et contextes d’utilisation prévus, et présentant clairement les limites de fiabilité et mesures palliatives associées, et les mécanismes de garanties et d’exercice des droits associés aux responsabilités du fabricant. [EAA]
Exemple :

• Instaurer des comités de pilotage destinés à encadrer et suivre le cheminement de la « data » au sein de la structure (voir Cartographie).

34Vérifier que l’IA ne possède pas de manière autonome la capacité de pouvoir blesser, nuire, tromper voire détruire les êtres humains. Une course aux IA d’armements mortelles basées sur l’IA devrait être interdite. [EAA] [PP]
Exemple :

• Instaurer un processus de garantie humaine pour surveiller les pratiques de l’IA.

Paramètre stratégique

35Avoir une politique de gestion des données fondée sur un nombre restreint et connu de principes s’inscrivant dans la durée et faisant l’objet de révisions régulières dont les conclusions sont tracées et ouvertes (Rial-Sebbag, 2009 : 339) dans une approche méta-éthique responsable. [EAA]
Exemple :

• Instaurer un dispositif qui vérifie régulièrement la mise à jour du recueil de vos données numériques.

36Développer un « Studio IA » permettant de mutualiser des briques IA Open-Source et des compétences variées (équipe agile de développeurs, spécialistes de la donnée, chercheurs, étudiants) afin d’intégrer une démarche délibérative ouverte dans les projets portés. [EAA] [PP]
Exemple :

• Réaliser un inventaire des objectifs métiers poursuivis autour de vos données numériques.

37Évaluer les finalités du système, son intérêt en réponse à un besoin réel connu et minimiser les impacts négatifs des dépendances internes et externes suscitées par le développement, le déploiement, l’usage et la maintenance des dispositifs d’IA. Ceci inclurait une analyse d’impact, prospective et rétrospective, du déploiement et de l’usage de la technologie dans son contexte de destination, qu’il s’agisse d’un impact socio-économique ou environnemental, l’objectif étant de privilégier les options respectueuses des objectifs du développement durable et socialement vertueux [EAA]
Exemple :

• Mettre en place des outils de supervision et de surveillance.

Paramètre méthodologique

38Permettre l’enregistrement et l’inventaire des outils algorithmiques développés, utilisés et/ou candidats à une utilisation dans la structure concernée afin d’en permettre une traçabilité et de l’introduire dans un processus itératif d’évaluations éthiques pendant tout son cycle de vie [EEA]

39Adopter une procédure de prise de décision interne à chaque organisation portant sur les questions liées à l’éthique du développement ou du déploiement du système algorithmique ou d’IA. Cette procédure devrait être transparente et fondée sur une approche de prudence envers la portée des conséquences liées à l’usage de ces technologies visant, par exemple, à ne pas prendre de décisions sur des informations obsolètes ou peu fiables, sans consultations préalables des parties prenantes. [EAA]
Exemple :

• Réaliser un SWOT (Forces, Faiblesses, Opportunités, Menaces) autour des enjeux de votre traitement de données numériques.

40Évaluer quelles tâches et fonctionnalités décisionnelles ne devraient pas être déléguées à Systèmes d’IA, grâce à l’utilisation de mécanismes participatifs pour assurer l’alignement sur les valeurs sociétales (Buttarelli, 2015), et pour favoriser la compréhension des parties prenantes (y compris les utilisateurs ou personnes affectées par le système) et de l’opinion publique. Cette évaluation doit en particulier tenir compte de la législation en vigueur et des positions éthiques officielles exprimées par les organes représentatifs compétents (ex. : Comités d’éthique nationaux) pour mieux canaliser l’impact du système sur la société dans des proportions mesurées et acceptables. [EAA] [PP]
Exemple :

• Rédiger un code de déontologie ou/et une charte éthique autour des bonnes pratiques encadrant l’exploitation de vos données numériques.

41Prévoir les méthodes nécessaires au maintien d’un effort permanent d’intelligibilité et de probité technique pour (re)donner confiance aux utilisateurs (Terry 2014), auditeurs et autorités [EAA]

42Si pertinent et possible dans le système envisagé, avoir une méthode claire et validée d’anonymisation des données numériques depuis le code source. [EEA]

43Envisager des exercices visant à tester les mesures de protection de la sécurité du système et en améliorer la robustesse une fois le système déployé. [EAA] [PP]

Paramètre organisationnel

44Développer un cadre et un service pour améliorer l’explicabilité des systèmes d’IA. La capacité pour les individus d’obtenir une explication factuelle, directe et claire du processus décisionnel employé par le système (s’il s’agit d’un système de prise de décisions automatisées) et par l’agent humain utilisateur (s’il s’agit d’un système d’aide à la décision). [EAA]
Exemple :

• Mettre en place des actions pour rendre transparent votre algorithme de traitement.

45Organiser et définir clairement les rôles et responsabilités des acteurs internes de la structure en matière de gestion des systèmes et des données numériques (Béranger 2016). [EEA]

46Mettre en place des pôles ou des départements de direction et de services, dirigés, par exemple, par un Chief Digital Ethics (CDE) qualifié, responsable de l’éthique du numérique, chargé de la mise en œuvre des politiques éthiques dans chaque organisation d’un réseau. [EAA] [PP]
Exemple :

• Établir un management adapté, accompagné par un processus de décisions établi.

47Instaurer, en plus d’un personnel affecté à la mis en œuvre de la gestion éthique des activités algorithmiques comme évoqué plus haut, des comités de pilotage et d’éthique destinés à l’encadrement de l’usage des technologies algorithmiques et d’IA et au cheminement de la Data au sein de l’organisation. Exemple : Habilitations d’usages des technologies et d’accès aux données d’entrée, d’apprentissage et de sorties, aux algorithmes ; évaluation des demandes d’accès aux données ou aux systèmes de la part d’extérieurs). [EAA]

Paramètre réglementaire

48Développer des instruments juridiques et des modèles contractuels pour jeter les bases d’une collaboration Homme-Machine fluide et enrichissante dans l’environnement de travail. [EAA] [PP]

49Prévoir une politique d’ouverture des données numériques qui est mise en œuvre en interne et en externe d’une structure [EAA] [PP]

50Évaluer si la réglementation en vigueur est suffisamment fondée sur l’éthique pour fournir un cadre législatif capable de suivre les évolutions technologiques. Cela peut inclure un ensemble de principes clés applicables aux situations d’urgence et/ou problèmes imprévus. [EAA] [PP]

51Évaluer la capacité des institutions existantes, telles que les tribunaux civils nationaux, à instruire et juger les cas incluant des erreurs causés par les systèmes d’IA. Cette évaluation devrait porter sur la méthodologie et le fond des procédés et éventuelles décisions prises afin d’aider à mieux appréhender les responsabilités dès la conception et de réduire la négligence dans la gestion et la résolution des conflits. [PP]

52Fixer des délais de prescription des actions en justice clairs et adaptés aux spécificités des systèmes algorithmiques et d’IA. [PP]

53Ouvrir une procédure de référé devant une institution indépendante compétente du type Défenseur des droits et libertés, en charge de recevoir les requêtes citoyennes afin de les porter devant l’autorité d’audit ou de contrôle concernée. [PP]

54Permettre la médiation systématique d’un tiers de confiance indépendant et neutre lors de tout conflit persistant ou de blocage concernant le déploiement ou l’usage d’un outil algorithmique ou d’IA. [EAA] [PP]

Paramètre relationnel

56Renforcer la gouvernance et les droits des personnes en s’assurant constamment de la primauté des valeurs humaines et de la supervision humaine dans toute organisation et décision fondée sur l’IA. [EAA] [PP]

57Développer un service de formation continue des acteurs afin de sensibiliser et guider le personnel technique et administratif des structures privées et publiques développant ou utilisant des technologies de traitements algorithmiques sur les enjeux et le cadre éthique et juridique auxquels ils sont assujettis. [EAA] [PP]

58Rendre l’IA compréhensible en organisant la médiation humaine avec les utilisateurs. [EAA]
Exemple :

• Sensibiliser et expliquer aux utilisateurs de l’IA, l’information qui est transmise par le système d’information.

59Établir des documents vulgarisés et adaptés de nature réglementaire et contraigants à destination des utilisateurs et du public l’informant sur les technologies utilisées, la logique sous-tendant leur utilisation, la gouvernance et les droits garantis ainsi que les moyens de les exercer. Ceci inclut des moyens de communication efficaces avec les utilisateurs et la conservation des modifications successives apportées à ces documents à travers le temps (démarche d’accountability) [EEA]
Exemples :

• Formulaire de consentement libre et éclairé de la personne concernée par le traitement algorithmique qui puisse être dynamique ;

• Politique de protection de la vie privée et des données à caractère personnel courte et informative.

60Créer un observatoire pour l’IA au niveau des organisations internationales comme l’ONU. L’observatoire aurait pour mission de suivre les développements dans tous les secteurs d’activité, d’assurer une information officielle et sourcée sur les projets technologiques internationaux du domaine, de fournir un forum pour alimenter le débat et le consensus, de fournir une base de référentiels techniques et éthiques internationaux, des recommandations et des directives d’action pour les développeurs, une base de donnée de labels reconnus, et des liens vers les différentes agences ou autorités compétentes au niveau des États qui sont chargés du contrôle et de la surveillance des technologies algorithmiques. Cet Observatoire réunirait des représentants des Observatoires existants et agirait comme un organisme consultatif auprès des Nations Unies. [PP]

Paramètre culturel

61Assurer une veille permanente sur les évolutions sociétales devant être considérées dans le développement et l’utilisation de l’IA. [EAA] [PP]

62Veiller à ce que les concepteurs et les décideurs de l’IA restent socialement responsables, sensibles et engagés directement sur les influences potentielles des technologies de l’IA sur la société. [EAA] [PP]

63Mettre en place les conditions nécessaires à l’expression citoyenne directe et à sa prise en compte argumentée sur les évolutions technologiques, éthiques et réglementaires de l’IA. [EAA] [PP]

65Enfin, ces préconisations permettraient aux concepteurs de systèmes d’IA de mieux prendre en considération le respect des valeurs éthiques et des droits fondamentaux dans l’élaboration de ces systèmes algorithmiques qui serviront à mieux guider, gérer et rationnaliser les innovations, sur le long cours, en particulier dans ce domaine très complexe tendant régulièrement vers le désir de développer des IA évolutives, plus autonomes (aujourd’hui quasi inexistantes) agissant éventuellement en réseau. Le respect des politiques établies et leur conformité à des principes et droits fondamentaux supérieurs ont toujours nécessité la mise en place de mécanismes de contrôle internes à l’entreprise et/ou étatiques (Béranger, 2015). Mais la démarche d’« Ethics by Evolution » renforce l’intégrité scientifique, laquelle constitue une responsabilité éthique (Boisvert et al., 2003). En ce sens, toutes les initiatives de régulation éthique des applications d’IA renvoient à une obligation de rendre des comptes, en interne aux organisations, et envers les autorités de contrôle et le public.

Conclusion

66L’émergence de l’IA est susceptible de masquer l’élaboration d’un projet sociétal, modelé en fonction des intérêts économiques, de la valeur d’usage et de l’accroissement du pouvoir des acteurs de l’innovation allant parfois à contresens d’un développement responsable et durable. Il faut dès lors être en mesure d’identifier les idéologies de l’innovation qui se présentent comme « état de la science » et de se prémunir contre ses dérives antidémocratiques ou nuisibles au développement de sociétés injustes. C’est d’autant plus impérieux que l’IA se structure par une approche parfois extrêmement réductrice de l’être humain et de la vie, au travers de la mise en données, sans réelle concertation, ce qui a des répercussions non seulement éthiques, mais également sociales, culturelles, politiques, anthropologiques et juridiques, allant dans le sens de l’instrumentalisation de l’humain dans un contexte d’économie de marché.

68En définitive, l’« Ethics by Evolution » exige de réorganiser la place de la réflexion sociétale au sein de toutes les organisations, de mettre en place de nouvelles autorités ou agences compétentes, de nouveaux standards d’évaluation et d’audits d’accompagnement, et des moyens de responsabilisation des processus d’innovations technologiques. Dès lors, l’algorithmique et l’IA seraient le reflet technique d’une réponse organisée et délibérée aux dilemmes éthiques circonstanciés posés par ce système technologique.