Navigation – Plan du site

AccueilNuméros23VariétésLa Convention-cadre du Conseil de...

Variétés

La Convention-cadre du Conseil de l’Europe sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit du 17 mai 2024

Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democacy and the Rule of Law of 17 May 2024
Mamoud Zani
p. 95-105

Résumés

À l’aube de la quatrième révolution industrielle marquée par le passage à des systèmes d’intelligence artificielle (IA), le Conseil de l’Europe innove en élaborant un nouvel instrument juridique consacré à ces technologies numériques. Cet article propose donc d’examiner la Convention-cadre sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit du 17 mai 2024 (Convention IA), afin de savoir si celle-ci peut constituer véritablement un cadre idoine en vue de systématiser les activités relatives à la technologie de l’IA. Pour ce faire, deux axes sont analysés : les traits généraux de la Convention IA, ainsi que sa mise en œuvre. Dans une perspective comparatiste, le règlement européen du 13 juin 2024 (Artificial Intelligence Act) établissant des règles harmonisées concernant l’intelligence artificielle au plan européen est également abordé.

Haut de page

Texte intégral

  • 1 Suivant l’article 3, alinéa 1 du règlement 2024/1689 du Parlement européen et du Conseil du 13 juin (...)
  • 2 La France et l’Inde sont les deux principaux coorganisateurs de l’événement. Les États-Unis d’Améri (...)
  • 3 Conseil de l’Europe, Agenda numérique 2022-2025. Protéger les droits de l’homme, la démocratie et l (...)

1L’intelligence artificielle1 (IA) connaît un essor sans précédent dans le monde d’aujourd’hui. Le phénomène est devenu planétaire ; il a complètement bouleversé la vie quotidienne des personnes, des institutions nationales et internationales. La tenue du sommet de l’IA, le 11 février 2025, à Paris2, illustre à souhait notre assertion ; en effet, l’idée d’une gouvernance internationale de l’IA fut avancée avec l’adoption d’un instrument normatif de nature souple (soft law), la Déclaration de Paris sur une intelligence artificielle inclusive et durable pour les peuples et la planète. De surcroît, la question de l’IA est inscrite comme une priorité absolue dans l’Agenda numérique 2022-20253 lancé par la secrétaire générale du Conseil de l’Europe.

  • 4 Le 16 mars 2022, le Comité des ministres du Conseil de l’Europe a décidé, conformément à sa résolut (...)
  • 5 Le paragraphe 3 du préambule du Statut du Conseil de l’Europe souligne l’attachement des États memb (...)
  • 6 Il a été mis en place par le Comité sur l’intelligence artificielle (CAI) du Conseil de l’Europe. L (...)

2Le Conseil de l’Europe, organisation supranationale composée de 46 États membres4 et dont l’action repose sur trois principes cardinaux5 que sont la démocratie, les droits humains et la prééminence du droit, a porté un intérêt spécifique aux systèmes algorithmiques et d’IA, y compris aux risques pouvant être engendrés par ceux-ci sur la jouissance des droits humains, le fonctionnement de la démocratie et le respect de l’État de droit. Du reste, tenant compte desdits risques, le Conseil de l’Europe s’est doté, en novembre 2024, d’un outil précieux appelé HUDERIA6, afin d’anticiper l’impact des systèmes d’IA sur les valeurs communes de l’institution strasbourgeoise.

3Dans le domaine de l’IA, c’est-à-dire, selon l’article 2 de la Convention-cadre sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit,

  • 7 Comité des ministres du Conseil de l’Europe, Convention-cadre sur l’intelligence artificielle et le (...)

[…] un système automatisé qui, pour des objectifs explicites ou implicites, déduit, à partir d’entrées reçues, comment générer des résultats en sortie tels que des prévisions, des contenus, des recommandations ou des décisions qui peuvent influer sur des environnements physiques ou virtuels. Différents systèmes d’intelligence artificielle présentent des degrés variables d’autonomie et d’adaptabilité après déploiement7

  • 8 Le Comité des ministres, le Commissaire aux droits de l’homme, le Congrès des pouvoirs locaux et ré (...)
  • 9 OpenAI est une entreprise américaine d’intelligence artificielle fondée en 2015 par Elon Musk (resp (...)

les diverses instances du Conseil de l’Europe8 ont pris à bras-le-corps, à travers toute une série de résolutions et recommandations, le problème des défis et menaces issus de l’utilisation de cette révolution technologique qui a émergé en 2022 avec ChatGPT, un agent conversationnel développé par OpenAI9. Il sied à cet égard de mentionner les instruments normatifs adoptés par l’Assemblée parlementaire :

  • la recommandation 2184 (2020) sur les interfaces cerveau-machine, où il est demandé au Comité des ministres du Conseil de l’Europe
    • 10 Assemblée parlementaire du Conseil de l’Europe, « Les interfaces cerveau-machine : nouveaux droits (...)

    […] de tenir compte des effets potentiellement sans équivalent et sans précédent de l’intelligence artificielle sur les droits de l’homme en relation avec les systèmes d’interface cerveau-machine (ICM) lors de l’évaluation de la faisabilité d’un cadre juridique pour l’intelligence artificielle10.

  • la résolution 2343 (2020) consacrée à la prévention des discriminations résultant de l’utilisation de l’intelligence artificielle ; en effet, le législateur national
    • 11 Assemblée parlementaire du Conseil de l’Europe, « Prévenir les discriminations résultant de l’utili (...)

    […] ne doit pas invoquer la complexité de l’IA pour s’abstenir d’introduire des réglementations destinées à protéger et à promouvoir l’égalité et la non-discrimination dans ce domaine : les enjeux en matière de droits humains sont clairs et requièrent une action. Outre les principes éthiques, il faudrait élaborer des procédures, des outils et des méthodes de réglementation et d’audit des systèmes fondés sur l’IA afin de garantir leur conformité aux normes internationales en matière de droits humains, et notamment aux droits à l’égalité et à la non-discrimination. Compte tenu de la forte dimension transnationale et internationale des technologies fondées sur l’IA, des normes internationales apparaissent également nécessaires dans ce domaine11.

  • la résolution 2341 (2020) afférente à la nécessité d’une gouvernance démocratique de l’intelligence artificielle :
    • 12 Assemblée parlementaire du Conseil de l’Europe, « La nécessité d’une gouvernance démocratique de l’ (...)

    […] l’IA peut être utilisée, et – selon certaines sources – est déjà utilisée, pour perturber la démocratie par l’ingérence dans les processus électoraux, pour le ciblage politique personnalisé, le conditionnement du comportement des électeurs et la manipulation de l’opinion publique. De plus, elle a apparemment été employée pour amplifier la diffusion de fausses informations, de « chambres d’écho », de propagande, et de discours de haine, altérant ainsi la pensée critique et contribuant à la montée du populisme et à la polarisation des sociétés démocratiques12.

Par ailleurs,

  • 13 Ibid., § 7.

[…] certains États et acteurs privés recourent dans une large mesure à des technologies fondées sur l’IA pour contrôler les personnes, par un filtrage automatisé d’informations s’apparentant à de la censure, par exemple, ou encore par une surveillance de masse au moyen de smartphones, le recueil de données à caractère personnel et le suivi de l’activité en ligne et hors ligne ; ces pratiques risquant de conduire à une érosion de l’intégrité psychologique des citoyens, des droits civils et des libertés politiques, et à l’émergence d’un autoritarisme numérique – en d’autres termes, à un nouvel ordre social qui entrerait en concurrence avec la démocratie13.

4Afin de surmonter les défis que pose l’utilisation des technologies fondées sur l’IA et, surtout, préserver les droits humains, la démocratie et l’État de droit, l’Assemblée parlementaire a recommandé au Comité des ministres

  • 14 Recommandation 2181 (2020), § 4-1.

[…] d’exprimer son soutien quant à l’élaboration d’un instrument juridiquement contraignant gouvernant l’intelligence artificielle, éventuellement sous la forme d’une convention14

et

  • 15 Ibid., § 4-2.

[…] de garantir qu’un tel instrument juridiquement contraignant soit fondé sur une approche globale, se rapporte à l’ensemble des cycles de vie des systèmes fondés sur l’IA, soit destiné à l’ensemble des parties prenantes et comprenne des mécanismes afin de garantir la mise en œuvre de cet instrument15.

5Dans sa résolution 2341 (2020), elle a considéré que l’opportunité d’une convention relative à l’IA devrait, entre autres,

  • 16 Résolution 2341 (2020), § 14.

- garantir que les technologies fondées sur l’IA sont conçues, développées et exploitées dans le strict respect et en soutien des normes du Conseil de l’Europe en matière de droits humains, de démocratie et d’État de droit ;
- promouvoir une compréhension commune et prévoir le respect de principes et concepts éthiques fondamentaux, et la mise en œuvre des normes susmentionnées dont : la transparence, y compris l’accessibilité et l’explicabilité ; la justice et l’équité, y compris la non-discrimination ; la prise de décision par une personne, qui en est responsable, et la mise à disposition de voies de recours ; la sûreté et la sécurité ; le respect de la vie privée et la protection des données ;
- s’attacher à ce que l’IA ait le plus d’effets positifs possible sur le fonctionnement des institutions et processus démocratiques, notamment à ce qu’elle permette : de renforcer l’obligation des gouvernements à rendre des comptes ; de lutter contre la corruption et le crime économique ; de faciliter l’action démocratique, la participation et le pluralisme ; de rendre la démocratie plus directe, plus efficace et plus attentive aux besoins des citoyens ; d’élargir la représentation démocratique, en décentralisant les systèmes d’information et les plates-formes de communication ; de renforcer l’autonomie informationnelle des citoyens, d’améliorer la manière dont ils s’informent sur les processus politiques et de les aider à y participer à distance, en facilitant l’expression politique et en fournissant des canaux de communication avec les acteurs politiques ; d’améliorer la transparence dans la vie publique et de contribuer à l’instauration d’une plus grande confiance entre l’État et la société, et entre les citoyens eux-mêmes16.

  • 17 On peut citer la Convention pour la protection des personnes à l’égard du traitement automatisé des (...)

6Force est de constater que le Comité des ministres (organe exécutif) du Conseil de l’Europe a mis en place, le 11 septembre 2019, le Comité ad hoc sur l’intelligence artificielle (CAHAI) chargé d’examiner, sur la base de larges consultations multipartites, la faisabilité et les éléments potentiels d’un cadre juridique pour le développement, la conception et l’application de l’IA, fondé sur les normes du Conseil de l’Europe en matière de droits humains, de démocratie et d’État de droit. Dans l’exercice de son mandat, le Comité ad hoc devrait tenir compte d’un certain nombre de paramètres, tels que les normes du Conseil de l’Europe existantes17 ; les instruments juridiques internationaux et régionaux, y compris les travaux en cours au sein d’autres organisations régionales et internationales ; la perspective de genre et l’édification de sociétés cohésives ainsi que la promotion et la protection des droits des personnes handicapées. Dans son étude sur la faisabilité d’un cadre normatif de l’IA, le Comité ad hoc a rappelé l’absence d’une définition unique de l’IA au sein de la communauté scientifique, tout en précisant que

  • 18 Voir CAHAI, Étude de faisabilité, Strasbourg, Conseil de l’Europe, 17 décembre 2020, CAHAI(2020)23, (...)

[…] le terme « IA » est utilisé comme un mot « fourre-tout » pour diverses applications informatiques basées sur différentes techniques, qui présentent des capacités communément et actuellement associées à l’intelligence humaine. Ces techniques peuvent consister en des modèles formels (ou systèmes symboliques) ainsi qu’en des modèles fondés sur des données (systèmes basés sur l’apprentissage) qui reposent généralement sur des approches statistiques, y compris par exemple l’apprentissage supervisé, l’apprentissage non supervisé et l’apprentissage de renforcement. Les systèmes d’IA agissent dans le monde réel ou numérique en percevant leur environnement par l’acquisition de données, en analysant certaines données structurées ou non structurées, en raisonnant sur les connaissances récoltées ou en traitant les informations dérivées des données, et sur cette base, décident des meilleures actions à prendre pour atteindre un certain objectif. Ils peuvent également être conçus pour adapter leur comportement dans le temps en fonction de nouvelles données et améliorer leurs performances en vue d’atteindre un certain objectif18.

  • 19 CAHAI, « Éléments potentiels d’un cadre juridique sur l’intelligence artificielle, fondés sur les n (...)

7Pour mener à bien le processus de négociation internationale d’un traité encadrant l’IA à la lumière du document final19 élaboré par l’ancien Comité ad hoc sur l’intelligence artificielle, le Comité des ministres a instauré, en 2021, un Comité sur l’intelligence artificielle (CAI) pour procéder avec célérité à l’élaboration d’un instrument juridique contraignant transversal visant

  • 20 Ibid., p. 2, § 5.

[…] la prévention et / ou la réduction des risques induits par les applications des systèmes d’IA susceptibles d’entraver la jouissance des droits de l’homme, le bon fonctionnement de la démocratie et le respect de l’État de droit, et ce tout en valorisant les applications bénéfiques pour la société. Il devrait être étayé par une approche fondée sur les risques : les exigences juridiques relatives à la conception, au développement et à l’utilisation des systèmes d’IA devraient être proportionnées à la nature du risque qu’ils représentent pour les droits de l’homme, la démocratie et l’État de droit. Les principes de base qui permettent de déterminer un tel risque (par exemple, les exigences de transparence) devraient être applicables à tous les systèmes d’IA20.

8Il a décidé également d’associer audit processus d’autres acteurs en tant qu’États observateurs, afin de marquer l’universalité du traité, en l’occurrence l’Union européenne et les États non européens partageant les valeurs et les objectifs du Conseil de l’Europe, ainsi que les États issus du monde entier (l’Argentine, l’Australie, le Canada, le Costa Rica, le Saint-Siège, Israël, le Japon, le Mexique, le Pérou, les États-Unis d’Amérique et l’Uruguay). Les participants aux négociations ont pris comme référence certains instruments et documents relatifs à l’IA à l’instar de la recommandation du Comité des ministres aux États membres sur les impacts des systèmes algorithmiques sur les droits de l’homme, adoptée le 8 avril 202021 ; la déclaration du Comité des ministres du Conseil de l’Europe sur les capacités de manipulation des processus algorithmiques, adoptée le 13 février 201922 ; la déclaration de Bletchley par les pays participants au Sommet sur la sécurité de l’intelligence artificielle les 1er et 2 novembre 202323 ; la déclaration des chefs d’État et de gouvernement adoptée lors du 4e Sommet du Conseil de l’Europe à Reykjavík les 16 et 17 mai 202324.

  • 25 Voir M. Castillo, « L’Union européenne : vers la maîtrise de l’intelligence artificielle ? », Cahie (...)

9Du reste, il importe aussi de tenir compte du règlement 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 (Artificial Intelligence Act) établissant des règles harmonisées concernant l’intelligence artificielle au plan européen25 : d’une part, il préconise

  • 26 Règlement 2024/1689, p. 1, § 1.

[…] d’améliorer le fonctionnement du marché intérieur en établissant un cadre juridique uniforme, en particulier pour le développement, la mise sur le marché, la mise en service et l’utilisation de systèmes d’intelligence artificielle (ci-après dénommés « systèmes d’IA ») dans l’Union, dans le respect des valeurs de l’Union, de promouvoir l’adoption de l’intelligence artificielle (IA) axée sur l’humain et digne de confiance tout en garantissant un niveau élevé de protection de la santé, de la sécurité et des droits fondamentaux consacrés dans la Charte des droits fondamentaux de l’Union européenne (ci-après dénommée « Charte »), y compris la démocratie, l’État de droit et la protection de l’environnement, de protéger contre les effets néfastes des systèmes d’IA dans l’Union, et de soutenir l’innovation26.

D’autre part, il relève qu’

  • 27 Ibid., p. 2, § 5.

[…] en fonction des circonstances concernant son application et son utilisation et du niveau de développement technologique, l’IA peut générer des risques et porter atteinte aux intérêts publics et aux droits fondamentaux protégés par le droit de l’Union. Le préjudice causé peut être matériel ou immatériel, y compris physique, psychologique, sociétal ou économique27

tout en rappelant qu’en tant que technologie, l’IA doit être axée sur l’humain et accroître le bien-être des humains.

  • 28 Les pays signataires à cette date sont : Andorre, Géorgie, Islande, Norvège, République de Moldavie (...)

10En définitive, le Comité des ministres a adopté la Convention-cadre sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit (ci-après dénommée « Convention IA »), le 17 mai 2024 et, à l’occasion de la conférence des ministres de la justice des États membres du Conseil de l’Europe, tenue à Vilnius (Lituanie), le 5 septembre 2024, l’instrument de l’institution strasbourgeoise a été ouvert à la signature28. Dès lors, il paraît opportun d’examiner cet instrument IA pour juger de sa pertinence en fait des systèmes d’IA. En effet, ce nouveau traité constitue-t-il véritablement un cadre propice pour réglementer les activités relatives à la technologie de l’IA ? Pour ce faire, nous analyserons, d’une part, les traits généraux de la Convention IA (I) ; d’autre part, la mise en œuvre de celle-ci (II).

I. Les traits généraux de la Convention IA

11L’objectif principal de la Convention IA du Conseil de l’Europe consiste à « garantir que les activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle sont pleinement compatibles avec les droits de l’homme, la démocratie et l’État de droit » (art. 1, al. 1), et ce, depuis la conception d’un système d’IA jusqu’à sa mise hors service. De ce fait, chaque État partie doit inclure dans son action les activités à la fois des pouvoirs publics et des acteurs privés agissant à leur compte. L’État endosse quelque part la responsabilité des risques et impacts découlant des activités desdits acteurs, y compris à travers une déclaration adressée au secrétaire général du Conseil de l’Europe lors de la signature ou au moment du dépôt de son instrument de ratification.

12La Convention IA envisage des obligations et principes communs applicables aux États parties (A), ainsi que des garanties procédurales et la prévention des risques et impacts (B).

A. Les obligations et principes communs applicables aux États

13Les activités menées dans le cadre du cycle de vie des systèmes d’IA doivent être respectueuses des obligations contractées par les États en matière de droits humains. Il s’agit principalement de la Convention européenne des droits de l’homme et des libertés fondamentales, ainsi que d’autres instruments adoptés au sein du Conseil de l’Europe et dans le cadre du système onusien de protection des droits humains. Ainsi, les États parties, par le jeu de la ratification, se voient obligés de conformer leur cadre juridique national avec les préceptes de ces instruments. Dans le cas contraire, leur responsabilité pourrait être engagée pour fait illicite devant les mécanismes et juridictions chargés de l’application des instruments de protection des droits humains.

14En vertu de l’article 4, alinéa 2 de la Convention IA, la protection des droits humains s’étend également au système juridique interne des États parties. Il est question des constitutions nationales et des autres textes législatifs visant la protection des droits humains. Le cadre national des droits humains doit englober les droits et garanties envisagés par les divers instruments régionaux et universels et être assez conséquent et suffisant pour faire face à l’évolution des systèmes d’IA. Lors de la conception et l’utilisation de ceux-ci, les États parties doivent veiller conformément à l’article 5 de la Convention IA à ce que leur mise en marche ne puisse pas porter atteinte à l’intégrité, à l’indépendance et à l’efficacité des institutions et processus démocratiques.

15Les risques que les systèmes d’IA font peser sur la jouissance des droits humains et l’État de droit sont considérables, c’est pourquoi il appartient à chaque État partie de s’assurer par des mesures efficientes que l’IA et les technologies numériques associées ne puissent pas affecter le principe de séparation des pouvoirs, l’indépendance de la justice, la liberté d’expression, la participation libre au débat public et le processus démocratique. Sur ce dernier point, par exemple,

  • 29 Conseil de l’Europe, Vers une régulation des systèmes d’IA…, p. 29, § 46.

[…] l’IA peut nuire à l’équité des processus électoraux. Des responsables de campagne ou des acteurs étrangers peuvent utiliser (et ont utilisé) des publicités personnalisées pour adresser des messages différents à différents groupes d’électeurs, sans avoir à rendre de comptes sur ce procédé29.

16En vertu de l’article 6, alinéa 1 (a et b) du règlement européen du 13 juin 2024 applicable aux systèmes d’IA, un système d’IA mis sur le marché ou mis en service est considéré comme étant à haut risque lorsque deux conditions sont réunies : d’un côté, le système d’IA est destiné à être utilisé comme composant de sécurité d’un produit couvert par la législation d’harmonisation de l’Union européenne ou le système d’IA constitue lui-même un tel produit ; de l’autre, le produit dont le composant de sécurité est le système d’IA, ou le système d’IA lui-même en tant que produit, est soumis à une évaluation de conformité par un tiers en vue de la mise sur le marché ou de la mise en service de ce produit. Par contre, selon l’article 6, alinéa 3 du règlement, un système d’IA n’est pas considéré comme étant à haut risque à partir du moment où il ne présente pas de risque important de préjudice pour la santé, la sécurité ou les droits fondamentaux des personnes physiques.

17Les activités menées dans le cadre du cycle de vie des systèmes d’IA doivent se conformer à des principes communs énoncés dans le chapitre III de la Convention IA. Chaque État partie doit fournir des efforts pour adapter ces principes à son ordre juridique interne. Dans le cadre desdites activités, la dignité humaine et l’autonomie personnelle doivent être préservées. Cette dernière constitue un aspect important de la dignité humaine et vise à ce que la personne humaine ait un contrôle effectif sur l’utilisation de l’IA en toute indépendance.

18Les systèmes d’IA ne doivent pas aboutir à la déshumanisation de la personne humaine et, partant, engendrer des risques systémiques ; effectivement,

  • 30 Ibid., p. 30, § 48.

[l]e transfert à l’IA de décisions que seuls des humains étaient auparavant capables de prendre fait peser de nouveaux défis sur la sécurité et la résilience des systèmes sociétaux. En particulier, si de multiples décideurs décentralisés se trouvent remplacés par quelques systèmes centralisés pilotés par IA, les risques systémiques augmentent : une seule panne sur un système peut produire des résultats catastrophiques30.

19Par ailleurs, la gouvernance des activités menées dans le cadre du cycle de vie des systèmes d’IA exige une transparence absolue eu égard à la diffusion de données se rapportant aux modalités de fonctionnement du système algorithmique. Cette transparence est double :

  • 31 Ibid., p. 49.

[…] 1) la transparence des algorithmes et des méthodes de traitement des données, (2) la transparence des pratiques humaines relatives à la conception, au développement et au déploiement des systèmes d’IA31.

Plus globalement, la transparence

  • 32 Conseil de l’Europe, rapport explicatif de la Convention-cadre du Conseil de l’Europe sur l’intelli (...)

[…] peut impliquer d’informer, le cas échéant, les personnes concernées ou le grand public des détails des données utilisées pour l’apprentissage du système et la protection des données personnelles, ainsi que sur l’objectif du système et la manière dont il a été conçu et déployé. La transparence devrait également inclure l’information des personnes concernées sur le traitement des informations et les types et le niveau d’automatisation utilisés pour prendre les décisions correspondantes. Assurer la transparence pourrait en outre aider les parties ayant des intérêts légitimes, y compris les détenteurs de droits d’auteur, à exercer et à faire respecter leurs droits de propriété intellectuelle32.

20Dans le but d’éluder toute éventuelle manipulation d’un système d’IA et d’opérer aisément un distinguo entre les contenus authentiques générés par une personne humaine et ceux générés par l’IA, l’article 8 de la Convention IA prévoit le procédé de contrôle. Ce dernier peut revêtir diverses formes :

  • 33 Ibid., p. 16, § 63.

Il peut s’agir de cadres juridiques, politiques et réglementaires, de recommandations, de lignes directrices éthiques, de programmes d’audit et de certification, d’outils de détection et d’atténuation des biais. Il peut également s’agir d’organes et de comités de surveillance, d’autorités compétentes telles que les autorités de supervision sectorielles, les autorités de protection des données, et les organes de promotion de l’égalité et des droits de l’homme, les Institutions nationales des droits de l’homme (INDH) ou les agences de protection des consommateurs, de contrôle continu des capacités actuelles de développement et d’audit, de consultations et de participation du public, de cadres de gestion des risques et de l’impact et les cadres d’évaluation de l’impact sur les droits de l’homme, les normes techniques ainsi que les programmes d’éducation et de sensibilisation33.

21Les rédacteurs de la Convention IA ont préconisé d’autres principes communs applicables aux États parties. Il en est ainsi de l’obligation de rendre des comptes et d’assumer une responsabilité (art. 9). Il s’agit ici de déterminer la responsabilité des acteurs impliqués dans les actions de l’IA, notamment lorsque de telles actions portent ouvertement atteinte aux droits humains, à la démocratie et à l’État de droit.

  • 34 Ibid., p. 17, § 68.

En d’autres termes, tous les acteurs responsables des activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle, qu’il s’agisse d’organisations publiques ou privées, doivent être soumis à un cadre de règles, de normes juridiques et d’autres mécanismes appropriés permettant une attribution efficace des responsabilités dans le contexte des systèmes d’intelligence artificielle34.

22Quant au principe d’égalité et de non-discrimination (art. 10), chaque État partie est tenu, dans le contexte particulier de l’IA, d’adopter ou de conforter l’arsenal législatif national portant sur le respect de l’égalité, y compris l’égalité de genre, et l’interdiction de toute forme de discrimination en application de la Convention européenne des droits de l’homme et du droit international des droits humains. D’autant plus que les questions d’égalité dans le cadre de l’IA renferment

  • 35 Ibid., p. 19, § 76.

[…] des catégories de problèmes relativement nouvelles telles que le « biais technique », ou les problèmes liés à l’application de l’apprentissage automatique entraînant des biais supplémentaires qui ne sont pas présents dans les données utilisées pour former le système ou prendre des décisions, et le « biais social », c’est-à-dire l’incapacité à prendre correctement en compte les inégalités historiques et contemporaines de la société dans les activités menées dans le cadre du cycle de vie de l’intelligence artificielle, telles que la conception et la formation des modèles. Ces inégalités comprennent, par exemple, les obstacles historiques et structurels à l’égalité de genre et un traitement juste et équitable des personnes appartenant à des groupes qui ont été ou sont encore négligées, discriminées ou soumises à d’autres inégalités persistantes. Ces questions comprennent également la reconnaissance du fait que diverses personnes subissent des impacts différents sur la base de facteurs liés à leurs caractéristiques personnelles, à leur situation ou à leur appartenance à un groupe […]35.

23Pour ce qui est du respect de la vie privée et de la protection des données à caractère personnel, les stratégies existantes face à l’IA comprennent trois sortes de solutions :

  • 36 Conseil de l’Europe, Vers une régulation des systèmes d’IA…, , p. 51.

[…] A) Les solutions techniques telles que la confidentialité différentielle, le calcul multipartite sécurisé et le chiffrement homomorphique ; B) Les solutions consistant à informer le public, comme les campagnes de sensibilisation des utilisateurs et des personnes concernées par les données ; et C) Les solutions réglementaires, consistant par exemple à mieux définir les règles juridiques à respecter (notamment en matière de protection des données) ou à rédiger de nouveaux textes législatifs ou réglementaires portant spécifiquement sur l’IA36.

24L’article 11 de la Convention IA incite les États parties à protéger les droits à la vie privée des personnes et leurs données à caractère personnel par l’adoption de lois nationales et de cadres juridiques nationaux et de se conformer en la matière aux obligations internationales issues des instruments de protection des droits humains. Ils doivent aussi prévoir des garanties et des protections effectives à l’égard des personnes.

25Pour finir, les promoteurs de la Convention IA ont prévu deux autres principes énoncés dans les articles 12 et 13 du traité : d’un côté, la fiabilité des systèmes d’IA et la confiance en leurs résultats, principe en pratique excessif ; de l’autre, l’innovation sûre en accord avec les droits humains, la démocratie et l’État de droit. Dans les deux cas, les États parties doivent s’ingénier à mettre en place des expédients efficaces de sécurité, de sûreté, de qualité et d’intégrité des données tout au long du cycle de vie des systèmes d’IA, et doivent instaurer des environnements contrôlés pour le développement, l’expérimentation et l’essai desdits systèmes.

B. Les garanties procédurales et la prévention des risques et impacts

26En vertu de l’article 15 de la Convention IA, les États parties doivent garantir aux personnes affectées par un système d’IA les protections et les droits procéduraux effectifs prévus par le droit international et interne applicable en matière de droits humains. Ils veillent à ce que les personnes qui interagissent avec un système d’IA soient dûment informées qu’elles n’interagissent pas avec un être humain mais plutôt avec un tel système. En outre, tout État partie doit garantir des voies de recours accessibles et effectives aux personnes affectées par une violation des droits humains résultant des activités du cycle de vie des systèmes d’IA (art. 14, al. 1), afin qu’elles puissent faire valoir leurs droits. Et, le cas échéant, qu’elles puissent contester toute décision considérée comme étant injuste et illégitime, ainsi qu’avoir la possibilité de former un recours auprès des autorités compétentes (art. 14, al. 2).

27La question de la prévention des risques et des impacts est régie par l’article 16 de la Convention IA. Dans ce cadre, chaque État partie se doit d’identifier, d’évaluer, de prévenir et d’atténuer les risques posés par les systèmes d’IA en prenant en considération les impacts réels et potentiels sur les droits humains, la démocratie et l’État de droit. Pour ce faire, les États parties doivent prendre des mesures graduées et différenciées qui tiennent dûment compte du contexte et de l’utilisation prévue des systèmes d’IA, particulièrement de la gravité et de la probabilité des impacts potentiels des systèmes d’IA. Dès lors, des mécanismes d’évaluation et de contrôle doivent être prévus afin de rendre compte des conséquences et des effets néfastes des systèmes d’IA.

28D’autres mesures pour la prévention des risques et impacts sont énoncées à l’article 16, alinéa 2 de la Convention IA. Cela concerne, tout d’abord, la prise en compte du point de vue des parties prenantes pertinentes, notamment les personnes dont les droits peuvent être affectés ; ensuite, la mise en place d’une documentation appropriée comprenant des informations fiables sur la gestion des risques, les impacts réels et potentiels sur les droits humains, la démocratie ou l’État de droit. De manière évidente,

  • 37 Conseil de l’Europe, rapport explicatif de la Convention IA, p. 26, § 109.

Dans le processus d’évaluation des risques et des impacts, il convient de tenir compte à la fois du caractère dynamique et changeant des activités au cours du cycle de vie des systèmes d’intelligence artificielle et des conditions changeantes des environnements réels dans lesquels les systèmes sont destinés à être déployés37.

Enfin, tout État partie doit programmer un essai préalable avant la première mise en marche des systèmes d’IA et lorsqu’ils subissent des modifications conséquentes.

  • 38 Règlement 2024/1689, art. 9, al. 1 et 2.
  • 39 Ibid., art. 11, al. 1.

29Pour sa part, le règlement européen de juin 2024 englobe un système de gestion des risques38 documenté et actualisé s’agissant des systèmes d’IA à haut risque. Il s’entend comme étant un processus itératif continu qui est planifié et s’étale sur l’ensemble du cycle de vie d’un système d’IA à haut risque devant périodiquement faire l’objet d’un examen et d’une mise à jour méthodiques. Ce système de gestion des risques comprend plusieurs étapes, telles que l’identification et l’analyse des risques connus et raisonnablement prévisibles ou l’estimation et l’évaluation des risques susceptibles d’apparaître lorsque le système d’IA à haut risque est employé. La documentation technique39 afférente à un système d’IA à haut risque doit être établie avant que ce système ne soit mis sur le marché ou mis en service et elle doit être tenue à jour. Elle vise précisément à démontrer que ledit système répond aux exigences demandées et à fournir aux autorités nationales compétentes et aux organismes notifiés les informations nécessaires sous une forme claire et compréhensible pour apprécier la conformité du système d’IA avec ces exigences.

30En tout état de cause, les mesures prises par les États parties en vue de prévenir les risques et impacts doivent garantir un traitement adéquat des incidences négatives des systèmes d’IA sur les droits humains, la démocratie et l’État de droit, tout en préconisant la nécessité de moratoires ou d’interdictions s’agissant de l’emploi de systèmes d’IA qu’ils jugent graves et incompatibles avec le respect des principes et valeurs du Conseil de l’Europe.

31En dehors des caractéristiques de la Convention IA relevées ci-dessus, il convient de s’appesantir à présent sur les modalités de sa mise en œuvre.

II. La mise en œuvre de la Convention IA

32L’application effective des dispositions de la Convention IA revient incontestablement aux États parties. Toutefois, le respect par ceux-ci de leurs engagements internationaux nécessite des mécanismes et techniques de contrôle (A), pour engager la responsabilité des États et relever les défaillances au niveau des ordres juridiques nationaux. En l’espèce, le contenu du traité et ses modalités de mise en œuvre permettent de pointer du doigt les limites de l’instrument et de formuler quelques remarques quant à son application (B).

A. Les mécanismes et techniques d’application

33La Convention IA conçoit un mécanisme de contrôle appelé « Conférence des parties ». Cet organe éminemment politique composé des représentants des États parties (art. 23, al. 1) à la Convention procède au contrôle des obligations étatiques. La Conférence des parties est convoquée soit par le secrétaire général du Conseil de l’Europe chaque fois que nécessaire et à la majorité des États parties, soit à la demande du Comité des ministres (art. 23, al. 3). La Conférence peut proposer à celui-ci des moyens appropriés afin de mobiliser l’expertise pertinente en tant que renfort à l’application de la Convention IA (art. 23, al. 6).

  • 40 Voir les articles 3 et 8 du Statut du Conseil de l’Europe. Celui-ci peut décider la suspension et l (...)

34Pour mener à bien ses activités, la Conférence bénéficie de la contribution financière des États parties et de celle des États qui ne sont pas membres du Conseil de l’Europe. La contribution de ces derniers est fixée en accord avec le Comité des ministres (art. 23, al. 7). La Conférence peut décider de limiter la participation à ses travaux d’un État partie qui ne fait plus partie du Conseil de l’Europe, en cas de violations graves des principes et valeurs de l’institution40. Cette sanction corporative peut également s’appliquer, pour les mêmes raisons, à un État non membre à l’encontre duquel une décision a été prise par le Comité des ministres (art. 23, al. 8).

35Au sein de la Conférence des parties, les États se concertent mutuellement de manière périodique (art. 23, al. 2), afin d’examiner toute proposition ayant pour but de compléter ou de modifier certains principes de la Convention IA ; de formuler des recommandations relatives à l’application et l’interprétation de l’instrument ; de faciliter l’échange d’informations sur les évolutions juridiques, politiques ou technologiques significatives présentant un intérêt pour son application ; de faciliter le règlement amiable des différends ; de faciliter la coopération avec les parties prenantes pertinentes sur les questions liées à la mise en œuvre de la Convention IA, y compris par le truchement d’auditions publiques. Au surplus, au sein de la Conférence des parties, les États débattent de l’identification de tout problème et des effets de toute réserve ou déclaration faite par un État partie. Dans l’exercice de leurs tâches, les États parties à la Convention IA bénéficient de l’assistance administrative du secrétariat de l’institution strasbourgeoise.

  • 41 Règlement 2024/1689, art. 64 à 69.

36Par rapport à la Convention du Conseil de l’Europe, le règlement européen du 13 juin 2024 concernant l’IA prévoit de manière détaillée une pluralité d’organes41 chargés de surveiller son application par les États parties :

  • un Comité européen de l’intelligence artificielle (Comité IA), composé de tous les États membres et chargé d’assister et de conseiller la Commission et les États pour la mise en œuvre efficace et cohérente des dispositions du règlement ; de formuler des recommandations et des avis écrits ; d’aider les autorités nationales compétentes et la Commission à développer l’expertise organisationnelle et technique nécessaire à son application ;
  • un forum consultatif pour fournir une expertise technique et conseiller le Comité IA et la Commission. Sa composition est équilibrée et comprend des représentants de l’industrie, des jeunes pousses, des petites et moyennes entreprises (PME), des membres de la société civile et du monde universitaire ;
  • un groupe scientifique d’experts indépendants chargé du suivi du contrôle du respect du règlement par les États. Les experts sont sélectionnés par la Commission en fonction de leur expertise à la pointe des connaissances scientifiques ou techniques dans le domaine de l’IA. Le groupe d’experts veille à l’application du règlement quant aux modèles et systèmes d’IA à usage général, et alerte sur d’éventuels risques systémiques posés au niveau de l’Union par lesdits modèles d’IA.

En ce qui concerne les mécanismes de contrôle effectifs, l’article 26 de la Convention IA invite les États parties à mettre en place au plan national des points focaux nationaux ou des organes nationaux chargés du contrôle du respect des obligations des États parties. Ces mécanismes doivent exercer leurs fonctions de manière indépendante et impartiale et disposer des compétences, de l’expertise et des ressources financières suffisantes pour s’acquitter efficacement de leur fonction de contrôle. En cas d’existence d’une pluralité de mécanismes, chaque État partie doit veiller à la coordination entre eux. À ce sujet, l’article 70 du règlement européen de 2024 prévoit la désignation par les États membres d’autorités nationales compétentes et de points de contact uniques. Ces autorités exercent leurs pouvoirs de manière indépendante, impartiale et sans parti pris, dans le but de préserver l’objectivité de leurs activités et de leurs tâches ; elles prennent des mesures appropriées pour garantir un niveau adapté de cybersécurité et fournissent des orientations et des conseils sur la mise en œuvre des dispositions du règlement.

37Parmi les autres techniques de contrôle prévues par la Convention IA se trouve le système classique des rapports (art. 24) par lequel un État partie adresse à la Conférence des parties un rapport initial dans un délai de deux ans, puis par la suite un rapport périodique, dans lesquels il décrit les mesures législatives et autres prises au niveau interne pour donner effet aux dispositions de la Convention. La Conférence détermine le format et le processus desdits rapports. L’article 25 décrit le procédé de l’assistance technique ou de la coopération internationale par lequel les parties coopèrent entre elles pour concrétiser les objectifs de la Convention IA par l’échange d’informations pertinentes et utiles sur les points relatifs à l’IA qui peuvent avoir un effet positif ou négatif significatif sur la jouissance des droits humains, le fonctionnement de la démocratie et le respect de l’État de droit. Cet échange concerne aussi les États non parties à la Convention IA. La coopération interétatique vise également à prévenir et atténuer les risques et impacts négatifs sur les droits humains, la démocratie et l’État de droit au cours du cycle de vie des systèmes d’IA.

B. Les limites et remarques afférentes à l’application

38La portée de la Convention IA reste limitée en pratique du fait d’un certain nombre de facteurs liés substantiellement à la rédaction d’un bon nombre d’articles et à d’autres incohérences la caractérisant.

39Dans le paragraphe 12 du préambule de la Convention IA, il est précisé de manière maladroite que celle-ci a tout simplement « valeur de cadre et qu’elle peut être complétée par d’autres instruments destinés à traiter des questions spécifiques liées aux activités menées dans le cadre du cycle de vie des systèmes d’intelligence artificielle » ; ce qui laisse penser que c’est un traité de soft law (droit mou) comprenant des lignes directrices pour les États parties. Alors que le paragraphe 10 du même préambule présente l’instrument du Conseil de l’Europe en matière d’IA comme étant un traité juridique contraignant de portée internationale. Cette contradiction se confirme à travers la lecture attentive des dispositions de la Convention IA ; plusieurs articles comportent en effet des expressions qui relèvent davantage du droit déclaratoire que du droit obligatoire. Il suffit pour s’en convaincre de relever les expressions suivantes : chaque État partie « adopte ou maintient des mesures… » (articles 4, 5, 7, 8, 9, 10, 11, 14, 16), « prend des mesures… » (article 12), « est appelé à permettre… » (article 13), « veille… et cherche à veiller… » (article 15), « tient dûment compte… » (article 18), « encourage et promeut… » (article 20), etc. L’ensemble de ces formules laisse aux États parties un pouvoir discrétionnaire quant au choix des modalités de mise en œuvre du traité IA au niveau interne. Pourtant, l’Assemblée parlementaire avait précisé qu’une

  • 42 Recommandation 2181 (2020), § 3.

[…] action forte et rapide est nécessaire de la part du Conseil de l’Europe pour relever les défis que pose l’utilisation des technologies fondées sur l’IA qui peuvent perturber, entre autres, le fonctionnement des institutions et processus démocratiques. Les instruments de droit souple et l’autoréglementation se sont révélés insuffisants jusqu’ici pour relever ces défis et protéger les droits humains, la démocratie et l’État de droit. Le Conseil de l’Europe occupe une position stratégique qui lui permet de fournir les conseils et l’assistance nécessaires, en étroite coopération et coordination avec d’autres institutions et organisations européennes et internationales, en vue de l’instauration d’un cadre réglementaire global de l’IA42.

  • 43 Elle concerne principalement le secteur public.

40Dans le même sillage, la Convention IA prévoit des dérogations qui rendent la portée du texte tout à fait restreinte. En effet, elle exclut (art. 3, al. 2, 3 et 4) de son champ d’application les systèmes d’IA consacrés à la sécurité nationale, à condition qu’ils soient compatibles avec le droit international, et toutes les affaires relevant de la défense nationale. De même, la Convention IA ne couvre pas les activités de recherche et de développement qui ne sont pas encore commercialisées, sauf si des essais ou des activités similaires sont susceptibles de porter atteinte aux droits humains, à la démocratie et à l’État de droit. Les activités des acteurs privés ne sont pas également couvertes par les dispositions de la Convention IA43, ce qui confère à chaque État partie une marge de manœuvre assez large pour s’assurer que le secteur privé se conforme tout de même aux principes de la Convention IA. Au demeurant, l’Assemblée parlementaire a fait remarquer que

  • 44 Résolution 2341 (2020), § 8.

[l]a concentration de données, d’informations, du pouvoir et des capacités d’influence dans les mains de quelques grands acteurs privés impliqués dans le développement et la fourniture de technologies et de services fondés sur l’IA, et la dépendance croissante des personnes, des institutions et de la société dans son ensemble vis-à-vis de ces services sont aussi des sources de préoccupation. Ces grandes sociétés ne fonctionnent plus comme de simples canaux de communication entre les individus et les institutions, mais elles jouent pour leur propre compte un rôle de plus en plus important, en contrôlant et en filtrant les flux d’informations, en censurant automatiquement les contenus publiés sur les médias sociaux, en définissant l’ordre du jour, en façonnant et transformant les modèles sociaux et politiques. Ces acteurs, dont les modèles d’activité privilégient les profits des actionnaires aux dépens du bien commun, pourraient constituer une menace pour l’ordre démocratique et ne devraient pas échapper au contrôle démocratique44.

  • 45 Pour la clause fédérale contenue dans l’article 33 de la Convention IA, l’article 34, alinéa 1 préc (...)

41Par ailleurs, il est loisible à deux États ayant conclu un accord bilatéral dans le cadre des systèmes d’IA, ou d’autres arrangements les liant en la matière, de s’en prévaloir au détriment de la Convention IA, si ceux-ci sont compatibles avec l’objet et le but de l’instrument IA. L’expression « l’objet et le but » de la Convention aurait dû être insérée dans l’article 34 de la Convention, alinéa 2 pour clarifier l’interdiction de toute réserve45.

42De concert avec ce qui précède, la Convention IA reste lacunaire sur d’autres aspects importants. Il aurait en effet été judicieux, tenant compte des enjeux des systèmes d’IA, d’opter pour un comité ou un groupe d’experts indépendants chargé du contrôle de ses dispositions au lieu de l’organe politique envisagé. Du reste, dans sa résolution 2341 (2020), l’Assemblée parlementaire considère, à juste titre, que

  • 46 Résolution 2341 (2020), § 15.

[…] pour garantir le respect de l’obligation de rendre des comptes, le cadre juridique à mettre en place devrait prévoir un mécanisme de contrôle indépendant et proactif impliquant toutes les parties prenantes, qui garantirait le respect effectif de ses dispositions. Ce mécanisme exigerait la présence d’un organe extrêmement compétent (notamment sur les plans technique, juridique et éthique), capable de suivre les nouvelles évolutions de la technologie numérique et d’évaluer avec précision et autorité ses risques et conséquences46.

Cette question est d’une importance capitale pour l’effectivité de l’instrument IA en considération de l’absence de jurisprudence de la Cour européenne des droits de l’homme sur la technologie de l’IA.

43Contrairement aux traités onusiens de protection des droits humains ou à d’autres traités issus d’organisations internationales où les mécanismes de contrôle et leur fonctionnement sont clairement indiqués, de manière surprenante, la Convention IA précise au préalable dans son chapitre VI (art. 17 à 22) la mise en œuvre des principes, qui aurait trouvé certainement une meilleure place dans le préambule ou dans d’autres dispositions. On retrouve, parmi ces principes, la non-discrimination ; les droits des personnes handicapées et des enfants ; la consultation publique ; et la maîtrise du numérique et des compétences numériques. Au demeurant, les alinéas 7, 11 et 16 du préambule de la Convention IA font référence, à titre d’exemples, aux risques de discrimination dans les cadres numériques ; à la nécessité de promouvoir la maîtrise du numérique ; et aux droits de l’enfant et des personnes handicapées.

  • 47 Elles doivent être effectives, proportionnées et dissuasives.

44Par ailleurs, il est indispensable d’assurer une coordination entre la Conférence des États parties et les autres mécanismes de contrôle du règlement européen en vue d’une meilleure harmonisation et cohérence des décisions prises en matière de systèmes d’IA. De plus, a contrario de la Convention IA qui reste muette sur l’idée de sanctions à l’égard des opérateurs en cas de violation de ses dispositions, le règlement européen consacre tout un chapitre XII aux sanctions47. Certes, l’article 99 du règlement attribue aux États membres la liberté de fixer le régime des sanctions et autres mesures d’exécution (avertissements et mesures non monétaires) applicables aux violations du règlement par des opérateurs ; cependant, les États membres doivent immédiatement informer la Commission européenne des sanctions et mesures d’exécutions prises.

 

  • 48 Cette révolution industrielle « a été rendue possible par les nouvelles technologies, en particulie (...)
  • 49 Voir le rapport du Comité directeur pour les droits humains dans les domaines de la biomédecine et (...)
  • 50 Voir la recommandation CM/Rec(2024)5 du 9 octobre 2024 du Comité des ministres du Conseil de l’Euro (...)

45À l’aube de la quatrième révolution industrielle48 marquée par le passage à des systèmes de production intelligents et connectés, le Conseil de l’Europe a su s’adapter aux exigences de cette nouvelle ère en établissant un instrument dédié entièrement à l’IA pour relever les nouveaux défis imposés par l’expansion des technologies numériques, dans tous les domaines de la vie sociale, y compris dans le secteur de la santé49 et les services pénitentiaires et de probation50.

46La Convention IA du Conseil de l’Europe dont l’objectif consiste à

  • 51 En ce sens, le secrétaire général de l’ONU a précisé que : « Internet a permis à des milliards de p (...)

[…] répondre aux défis particuliers survenant tout au long du cycle de vie des systèmes d’intelligence artificielle et à encourager la prise en compte des risques et des impacts plus larges liés à ces technologies, notamment, sans s’y limiter, sur la santé humaine et l’environnement, et sur les aspects socio-économiques tels que l’emploi et le travail (§ 13 du préambule)51

  • 52 En effet, l’instrument entrera en vigueur « le premier jour du mois qui suit l’expiration d’une pér (...)
  • 53 Il suit une approche fondée sur les risques afin de classer les systèmes d’IA en quatre catégories  (...)
  • 54 Le 21 mars 2024, l’Assemblée générale des Nations unies a adopté une résolution historique (78/265) (...)

n’est pas encore entrée en vigueur en dépit de la procédure souple52 inscrite dans son article 30, alinéa 3. Pour le reste, elle ne constitue pas la révolution tant attendue par la communauté internationale pour une réglementation uniforme des systèmes d’IA dans l’espace européen. Alors qu’il était question d’un instrument juridique contraignant sur l’IA, la vérité est tout autre, à la lumière des dispositions du traité laissant un pouvoir d’appréciation large aux États parties pour garantir son application dans les ordres juridiques nationaux. Les faiblesses du traité sur le plan rédactionnel, avec de nombreuses formules relevant du droit déclaratoire, le mécanisme politique envisagé pour sa mise en œuvre et les dérogations s’agissant de son champ d’application, présagent que l’instrument du Conseil de l’Europe sera en deçà des espérances nourries pour constituer un cadre idoine en vue de systématiser les activités relatives à la technologie de l’IA. C’est pourquoi, il importe de coordonner les actions en la matière avec l’Union européenne, dont le règlement53 de juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle présente une avancée certaine, ainsi qu’avec l’Organisation des Nations unies54.

Haut de page

Notes

1 Suivant l’article 3, alinéa 1 du règlement 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 (Artificial Intelligence Act) établissant des règles harmonisées concernant l’intelligence artificielle au plan européen, il s’agit d’« un système automatisé qui est conçu pour fonctionner à différents niveaux d’autonomie et peut faire preuve d’une capacité d’adaptation après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit, à partir des entrées qu’il reçoit, la manière de générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuels ».

2 La France et l’Inde sont les deux principaux coorganisateurs de l’événement. Les États-Unis d’Amérique et le Royaume-Uni ont brillé par leur absence.

3 Conseil de l’Europe, Agenda numérique 2022-2025. Protéger les droits de l’homme, la démocratie et l’État de droit dans l’environnement numérique, Strasbourg, 2023, CM(2022)20-final. Il a été adopté par le Comité des ministres, le 4 mai 2022, avec trois objectifs centraux : la consolidation de la réglementation numérique existante, la réponse aux nouveaux défis et l’accompagnement des États membres pour une transition numérique.

4 Le 16 mars 2022, le Comité des ministres du Conseil de l’Europe a décidé, conformément à sa résolution CM/Res(2022)2, l’exclusion de la Fédération de Russie au motif que l’agression de l’Ukraine constitue une violation grave par la Fédération de Russie de ses obligations au titre de l’article 3 du Statut du Conseil de l’Europe.

5 Le paragraphe 3 du préambule du Statut du Conseil de l’Europe souligne l’attachement des États membres aux « valeurs spirituelles et morales qui sont le patrimoine commun de leurs peuples et qui sont à l’origine des principes de liberté individuelle, de liberté politique et de prééminence du droit, sur lesquels se fonde toute démocratie véritable ».

6 Il a été mis en place par le Comité sur l’intelligence artificielle (CAI) du Conseil de l’Europe. L’objectif principal consiste à protéger et promouvoir les droits humains, la démocratie et l’État de droit tant par les acteurs publics que privés. Voir le rapport de réunion du 13 novembre 2024 du Comité sur l’intelligence artificielle du Conseil de l’Europe, Strasbourg, 14 novembre 2024, CAI-BU(2024)02_fr, p. 2, § 6.

7 Comité des ministres du Conseil de l’Europe, Convention-cadre sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit, 17 mai 2024, CM(2024)52-final. Le Groupe d’experts de haut niveau sur l’IA a suggéré, en 2019, la définition suivante : « Les systèmes d’intelligence artificielle (IA) sont des systèmes logiciels (et éventuellement matériels) conçus par des êtres humains et qui, ayant reçu un objectif complexe, agissent dans le monde réel ou numérique en percevant leur environnement par l’acquisition de données, en interprétant les données structurées ou non structurées collectées, en appliquant un raisonnement aux connaissances, ou en traitant les informations dérivées de ces données et en décidant de la / des meilleure(s) action(s) à prendre pour atteindre l’objectif donné. Les systèmes d’IA peuvent soit utiliser des règles symboliques, soit apprendre un modèle numérique. Ils peuvent également adapter leur comportement en analysant la manière dont l’environnement est affecté par leurs actions antérieures » (cité dans Conseil de l’Europe, Vers une régulation des systèmes d’IA. Perspectives internationales sur l’élaboration d’un cadre juridique fondé sur les normes du Conseil de l’Europe dans le domaine des droits de l’homme, de la démocratie et de l’État de droit, compilation de contributions préparée par le secrétariat du Comité ad hoc sur l’intelligence artificielle, Strasbourg, Conseil de l’Europe, 2020, DGI(2020)16, p. 23, § 5).

8 Le Comité des ministres, le Commissaire aux droits de l’homme, le Congrès des pouvoirs locaux et régionaux. Voir Conseil de l’Europe, Le Conseil de l’Europe et l’intelligence artificielle, 2023, CoE_IA_FRA.

9 OpenAI est une entreprise américaine d’intelligence artificielle fondée en 2015 par Elon Musk (responsable de l’efficacité dans l’administration du président Donald Trump jusqu’à fin mai 2025) à San Francisco en Californie. Elle vise à promouvoir une intelligence artificielle bénéfique à toute l’humanité.

10 Assemblée parlementaire du Conseil de l’Europe, « Les interfaces cerveau-machine : nouveaux droits ou nouveaux dangers pour les libertés fondamentales ? », recommandation 2184 (2020), 22 octobre 2020, § 2-2. Voir aussi la résolution 2344 (2020) du même organe en date du 22 octobre 2020.

11 Assemblée parlementaire du Conseil de l’Europe, « Prévenir les discriminations résultant de l’utilisation de l’intelligence artificielle », résolution 2343 (2020), 22 octobre 2020, § 9. Voir aussi la recommandation du même organe datant du 22 octobre 2020 par laquelle l’Assemblée parlementaire invite le Comité des ministres « à tenir compte de l’impact particulièrement grave que pourrait avoir le recours à l’intelligence artificielle sur la jouissance des droits à l’égalité et à la non-discrimination lorsqu’il évaluera la nécessité et la faisabilité d’un cadre juridique international applicable à l’intelligence artificielle » (recommandation 2183 (2020), § 3).

12 Assemblée parlementaire du Conseil de l’Europe, « La nécessité d’une gouvernance démocratique de l’intelligence artificielle », résolution 2341 (2020), 22 octobre 2020, § 6. Voir aussi la recommandation 2181 (2020) du même organe sur le même thème en date du 22 octobre 2020.

13 Ibid., § 7.

14 Recommandation 2181 (2020), § 4-1.

15 Ibid., § 4-2.

16 Résolution 2341 (2020), § 14.

17 On peut citer la Convention pour la protection des personnes à l’égard du traitement automatisé des données à caractère personnel (STE, nº 108) et son protocole (STCE, nº 223) ; la Convention pour la protection des droits de l’homme et de la dignité de l’être humain à l’égard des applications de la biologie et de la médecine (convention d’Oviedo, STE, nº 164) ; la Convention sur la cybercriminalité (convention de Budapest, STE, nº 185).

18 Voir CAHAI, Étude de faisabilité, Strasbourg, Conseil de l’Europe, 17 décembre 2020, CAHAI(2020)23, p. 4, § 8. Selon le secrétariat du CAHAI, « L’IA reste une notion très controversée, sans définition universellement reconnue. Néanmoins, on peut grouper ses définitions en deux familles : rationalistes d’une part, centrées sur l’humain d’autre part. L’une des définitions rationalistes les plus connues présente l’IA comme “un agent, créé par des êtres humains, qui prend des décisions et accomplit des actes sur la base de sa perception”. L’une des définitions centrées sur l’humain les plus connues est la réussite au test de Turing, destiné aux systèmes informatiques accomplissant une tâche qui requiert habituellement une intelligence humaine (en particulier l’aptitude à la conversation) » (Conseil de l’Europe, Vers une régulation des systèmes d’IA…, p. 22-23, § 5).

19 CAHAI, « Éléments potentiels d’un cadre juridique sur l’intelligence artificielle, fondés sur les normes du Conseil de l’Europe en matière de droits de l’homme, de démocratie et d’État de droit », Strasbourg, 3 décembre 2021, CAHAI(2021)09rev.

20 Ibid., p. 2, § 5.

21 CM/Rec(2020)1.

22 Decl(13/02/2019)1.

23 https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023

24 https://rm.coe.int/4e-sommet-des-chefs-d-etat-et-de-gouvernement-du-conseil-de-l-europe/1680ab40c0

25 Voir M. Castillo, « L’Union européenne : vers la maîtrise de l’intelligence artificielle ? », Cahiers de la recherche sur les droits fondamentaux, nº 21, 2023, Numérique et ordre public, p. 99-107, DOI : https://doi.org/10.4000/crdf.8864.

26 Règlement 2024/1689, p. 1, § 1.

27 Ibid., p. 2, § 5.

28 Les pays signataires à cette date sont : Andorre, Géorgie, Islande, Norvège, République de Moldavie, Royaume-Uni, Saint-Marin, États-Unis d’Amérique, Israël, Union européenne. D’autres signatures ont été enregistrées : Ukraine (15 mai 2025), Suisse (27 mars 2025), Liechtenstein (27 février 2025), Canada et Japon (11 février 2025), Monténégro (5 novembre 2024).

29 Conseil de l’Europe, Vers une régulation des systèmes d’IA…, p. 29, § 46.

30 Ibid., p. 30, § 48.

31 Ibid., p. 49.

32 Conseil de l’Europe, rapport explicatif de la Convention-cadre du Conseil de l’Europe sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit, Vilnius, 2024, STCE, nº 225, p. 15, § 58.

33 Ibid., p. 16, § 63.

34 Ibid., p. 17, § 68.

35 Ibid., p. 19, § 76.

36 Conseil de l’Europe, Vers une régulation des systèmes d’IA…, , p. 51.

37 Conseil de l’Europe, rapport explicatif de la Convention IA, p. 26, § 109.

38 Règlement 2024/1689, art. 9, al. 1 et 2.

39 Ibid., art. 11, al. 1.

40 Voir les articles 3 et 8 du Statut du Conseil de l’Europe. Celui-ci peut décider la suspension et l’exclusion d’un État membre qui porte atteinte au principe de la prééminence du droit et au principe en vertu duquel toute personne placée sous sa juridiction doit jouir des droits humains et des libertés fondamentales.

41 Règlement 2024/1689, art. 64 à 69.

42 Recommandation 2181 (2020), § 3.

43 Elle concerne principalement le secteur public.

44 Résolution 2341 (2020), § 8.

45 Pour la clause fédérale contenue dans l’article 33 de la Convention IA, l’article 34, alinéa 1 précise : « Par une notification écrite adressée au Secrétaire Général du Conseil de l’Europe, tout État peut, au moment de la signature ou lors du dépôt de son instrument de ratification, d’acceptation, d’approbation ou d’adhésion, déclarer qu’il se prévaut de la réserve prévue à l’article 33, paragraphe 1 ».

46 Résolution 2341 (2020), § 15.

47 Elles doivent être effectives, proportionnées et dissuasives.

48 Cette révolution industrielle « a été rendue possible par les nouvelles technologies, en particulier par l’utilisation de plus en plus répandue de l’automatisation et de l’échange de données. Une production dite “intelligente” est une production intégrée et contrôlée au moyen de capteurs et d’équipements connectés à des réseaux numériques, qui repose sur l’intelligence artificielle. Elle suppose la création de nouvelles formes d’interaction entre humains et machines via l’utilisation de technologies traditionnelles et nouvelles, qui peuvent être classées dans trois grandes catégories : le matériel, les logiciels et les réseaux numériques » (Conseil économique et social, Commission de la science et de la technique au service du développement, 25e session, La quatrième révolution industrielle au service d’un développement inclusif, rapport du secrétaire général, 17 janvier 2022, E/CN.16/2022/2, p. 6, § 11).

49 Voir le rapport du Comité directeur pour les droits humains dans les domaines de la biomédecine et de la santé, L’application de l’intelligence artificielle dans les soins de santé et son impact sur la relation « Patient. E-Médecin », Strasbourg, Conseil de l’Europe, 2024.

50 Voir la recommandation CM/Rec(2024)5 du 9 octobre 2024 du Comité des ministres du Conseil de l’Europe sur les aspects éthiques et organisationnels de l’utilisation de l’intelligence artificielle et des technologies numériques associées par les services pénitentiaires et de probation, ainsi que la recommandation CM/Rec(2025)2 du 26 février 2025 relative à la promotion de la santé mentale des personnes détenues ou en probation et à la prise en charge de leurs troubles mentaux.

51 En ce sens, le secrétaire général de l’ONU a précisé que : « Internet a permis à des milliards de personnes d’avoir accès à l’information, en favorisant ainsi collaboration, connexion et développement durable. Il s’agit d’un bien public mondial dont tout le monde devrait profiter, partout. Mais aujourd’hui, les dangers potentiels du numérique risquent d’éclipser ses avantages. La gouvernance aux niveaux national et mondial n’a pas suivi le rythme du développement d’Internet, dont la nature est intrinsèquement informelle et décentralisée et qui est dominé par des intérêts commerciaux. Nous sommes confrontés à des questions éthiques, sociales et réglementaires graves, auxquelles il nous faut répondre d’urgence […] » (Organisation des Nations unies, Notre programme commun, rapport du secrétaire général, New York, Nations unies, 2021, p. 62, § 92, en ligne : https://www.un.org/fr/content/common-agenda-report/assets/pdf/Notre_programme_commun.pdf).

52 En effet, l’instrument entrera en vigueur « le premier jour du mois qui suit l’expiration d’une période de trois mois après la date à laquelle cinq signataires, dont au moins trois États membres du Conseil de l’Europe, auront manifesté leur consentement à être liés » (art. 30, al. 3).

53 Il suit une approche fondée sur les risques afin de classer les systèmes d’IA en quatre catégories : risque inacceptable (systèmes strictement interdits portant atteinte à la vulnérabilité des personnes) ; risque élevé (systèmes d’IA ayant un impact significatif sur la santé, la sécurité ou les droits fondamentaux) ; risque limité (systèmes devant informer les utilisateurs qu’ils interagissent avec une IA conformément à l’obligation de transparence) ; risque nul ou minimal (systèmes ne présentant aucun risque et aucune obligation n’est imposée). Voir le chapitre III, section 1 du règlement portant classification de systèmes d’IA comme systèmes à haut risque, ainsi que l’article 6 (règles relatives à la classification de systèmes d’IA comme systèmes à haut risque).

54 Le 21 mars 2024, l’Assemblée générale des Nations unies a adopté une résolution historique (78/265) pour saisir les possibilités offertes par des systèmes d’IA sûrs, sécurisés et dignes de confiance pour le développement durable. Cette résolution, qui exclut l’IA du domaine militaire, engage « les États membres et invite les autres parties prenantes à coopérer avec les pays en développement et à leur apporter une assistance pour favoriser un accès inclusif et équitable aux avantages que procurent la transformation numérique et les systèmes d’intelligence artificielle » ; elle encourage aussi « les États membres et invite toutes les parties prenantes de toutes les régions et de tous les pays, chacune dans les limites de sa vocation et de ses responsabilités, notamment le secteur privé, les organisations internationales et régionales, la société civile, les médias, le monde universitaire et les instituts de recherche, ainsi que les milieux techniques et les techniciens, à apporter leur concours à l’élaboration de principes et de cadres de réglementation et de gouvernance permettant de régir des systèmes d’intelligence artificielle qui soient sûrs, sécurisés et dignes de confiance » (Assemblée générale des Nations unies, 78e session, résolution 78/265, 21 mars 2024, p. 4, § 4 et 3).

Haut de page

Pour citer cet article

Référence papier

Mamoud Zani, « La Convention-cadre du Conseil de l’Europe sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit du 17 mai 2024 »Cahiers de la recherche sur les droits fondamentaux, 23 | 2025, 95-105.

Référence électronique

Mamoud Zani, « La Convention-cadre du Conseil de l’Europe sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit du 17 mai 2024 »Cahiers de la recherche sur les droits fondamentaux [En ligne], 23 | 2025, mis en ligne le 22 octobre 2025, consulté le 18 janvier 2026. URL : http://journals.openedition.org/crdf/9798 ; DOI : https://doi.org/10.4000/1506t

Haut de page

Auteur

Mamoud Zani

Professeur de droit public
Directeur du Centre de droit international et européen (CDIE) de Tunis
Directeur du département des affaires académiques à la Brigade internationale pour la paix et la non-violence (BIPNOVI)

Professeur de droit public et directeur du Centre de droit international et européen (CDIE) de Tunis, il est spécialiste de droit international public, de droit constitutionnel, de droit international du travail et de droit international et européen des droits de l’homme. Il a notamment publié : « Le système normatif de l’Organisation internationale du travail : à propos de la flexibilité des normes internationales du travail », L’Observateur des Nations unies, vol. 56, nº 1, 2024, La théorie dans la pratique du droit international, p. 81-96 ; « Vers un droit européen commun des services de la société de l’information : à propos de la Convention du Conseil de l’Europe sur l’information et la coopération juridique de 2001 », L’Observateur des Nations unies, vol. 38, nº 1, 2015, Droits de l’homme 2.0 : quelle protection à l’ère du numérique ?, p. 91-100 ; « L’Organisation ouest-africaine de la santé (OOAS) : une institution spécialisée sui generis de la CEDEAO », Revue de droit sanitaire et social, nº 5, 2023, p. 865-874.

Articles du même auteur

Haut de page

Droits d’auteur

CC-BY-4.0

Le texte seul est utilisable sous licence CC BY 4.0. Les autres éléments (illustrations, fichiers annexes importés) sont susceptibles d’être soumis à des autorisations d’usage spécifiques.

Haut de page
Rechercher dans OpenEdition Search

Vous allez être redirigé vers OpenEdition Search