Navigation – Plan du site
2016
Octobre

Les systèmes d’armes létaux autonomes (SALA) : Enjeux juridiques de l’émergence d’un moyen de combat déshumanisé

Droit international humanitaire et droit du désarmement
Julien Ancelin

Résumé

Les robots-tueurs, techniquement dénommés systèmes d’armes létaux autonomes (SALA), sont sur le point de constituer un nouveau moyen de combat. L’étendue de cette nouvelle catégorie est au cœur des discussions internationales menées dans le cadre du suivi de la Convention sur certaines armes classiques. L’analyse de leurs implications potentielles pour le droit international dépasse le cadre d’un simple examen de licéité.

Haut de page

Texte intégral

  • 1 Lettre ouverte publiée le 28 juillet 2015 à l’occasion de l’International joint conference on artif (...)

1Dans son film Terminator, sorti en 1984, James Cameron met en scène une guerre apocalyptique opposant ce qui reste de l'humanité aux machines dotées d'intelligence artificielle. Dans quelques années, cette œuvre d’anticipation pourrait, sans prise de conscience internationale, sortir du cadre de la science-fiction. Dans un contexte de développement exponentiel de technologies robotisées autonomes, la mise au point et la projection de l’usage d’armes ne nécessitant pas d’intervention humaine soulèvent de nombreuses interrogations. Comme l’ont mis en lumière, à l’occasion d’une tribune commune, un ensemble de personnalités influentes dans le domaine de l’intelligence artificielle et de la robotique : « la technologie de l’intelligence artificielle (IA) a atteint un niveau tel que le déploiement de ces systèmes est – pratiquement, sinon légalement – envisageable dès les prochaines années, et non les prochaines décennies, et les enjeux sont élevés : les armes autonomes ont été décrites comme la troisième révolution des techniques de guerre, après la poudre à canon et les armes nucléaires »1.

  • 2 Nations Unies, Assemblée générale, Conseil des droits de l’homme, « Rapport du Rapporteur spécial s (...)
  • 3 CHAMAYOU (G.), Théorie du drone, éd. La Fabrique, Paris, 2013.
  • 4 LUCAS (R.), Les drones armés au regard du droit international, éd. Pedone, CEDIN de l’Université Pa (...)

2Ces armes sont difficilement saisissables pour le juriste tant elles reposent sur des caractères jusqu’alors introuvables dans les moyens de combat classiques. Bien que la définition proposée dans le cadre des Nations Unies en 2013 constitue une base utile, les contours de cette nouvelle catégorie potentielle demeurent incertains. Pour le Rapporteur spécial C. HEYNS, les robots létaux autonomes doivent être définis comme des « systèmes d’armes robotiques qui, une fois activés, peuvent sélectionner et attaquer des cibles sans intervention complémentaire d’un opérateur humain. L’élément à retenir est que le robot choisit de façon autonome de viser telle cible et d’utiliser la force meurtrière »2. Débarrassées de tout élément compassionnel, ces technologies reconfigureront nécessairement les rapports de force entre belligérants. Là où la présence humaine supposait la réalisation de choix sensibles dans la décision d’engager la force létale, l’usage de robots consacrera la victoire d’une philosophie strictement utilitariste dans la conduite des hostilités. Le droit international humanitaire et le droit du désarmement apparaissent comme deux corps de règles en mesure de capter ces technologies, avec plus ou moins d’efficacité, et d’en encadrer l’usage et la prolifération. Une telle démarche semble par ailleurs cruciale tant il est difficile de prévoir les conséquences qu’emporteraient ces technologies pour le paradigme sécuritaire régissant les relations internationales contemporaines. L’expérience des drones est ici éclairante. L’usage de cette technologie dans le cadre militaire, soulève des questionnements théoriques fondamentaux (notamment du point de vue de délimitation du champ de bataille ou de la distanciation entre l’opérateur et la cible)3. Pourtant, malgré l’importance de ces enjeux, aucune réglementation multilatérale spécifique n’a été adoptée préalablement à leur prolifération. L’utilisation des drones est certes encadrée mais la pluralité des normes qui leurs sont applicables engendre des difficultés d’articulations4. Ce constat démontre qu’une réponse internationale apte à prévenir et à encadrer l’existence des technologies militaires autonomes est nécessaire.

  • 5 TULLIU (S.) et SCHMALBERGER (T.), « Les termes de la sécurité : un lexique pour la maîtrise des arm (...)
  • 6 Convention sur l'interdiction ou la limitation de l'emploi de certaines armes classiques qui peuven (...)
  • 7 Protocole sur l'interdiction ou la limitation de l'emploi des armes incendiaires (Protocole III), s (...)
  • 8 Cf. en ce sens les travaux terminologiques menées par l’Institut de droit international (IDI), « Le (...)
  • 9 SHARKEY (N.), « Weapons of Indiscriminate Lethality », in Forum des informaticiens pour la paix et (...)

3Les débats actuellement engagés dans le cadre des instances onusiennes de désarmement de Genève apparaissent comme une réponse à cette nécessité. Dénommés « systèmes d’armes létaux autonomes » (ci-après SALA) dans ce cadre, la mise au point de ces technologies soulève des interrogations qui dépassent celles communément rencontrées en droit international. En tant que subdivision d’armes classiques5, les SALA font, pour le moment, l’objet d’une étude dans le cadre du suivi de l’application de la convention-cadre sur certaines armes classiques6. Cet accord, adopté en 1980 constitue un socle destiné à accueillir d’autres instruments ayant pour vocation l’interdiction ou la limitation de l’emploi de certaines méthodes et de certains moyens de guerre. Les SALA pourraient ainsi faire l’objet d’un protocole additionnel à la convention de 1980 (comme l’ont notamment fait les armes incendiaires7). Toutefois, s’il apparait que ces moyens de combat ne constituent pas des armes de destruction massive8 (généralement entendues comme les armes nucléaires, chimiques, bactériologiques et leurs différents vecteurs), ces technologies ont pu être qualifiées d’« armes de destruction indiscriminée »9. Leur existence risque de porter une atteinte grave aux principes de discrimination, et par ricochet, au principe de proportionnalité, règles historiquement ancrées dans le jus in bello qui règlemente la conduite des hostilités (notamment par les Conventions de La Haye complétées par celles de Genève). Une telle qualification pourrait, par ailleurs, amener à repenser les canons terminologiques du désarmement, au même titre que l’arme nucléaire avait engendré des bouleversements lors de sa mise au point. Le débat n’est toutefois pas encore parvenu à un tel niveau de sophistication. Les États restent, pour le moment, à l’étape des discussions terminologiques préalables à l’élaboration d’un régime juridique suffisant.

  • 10 Protocole additionnel aux Conventions de Genève du 12 août 1949 relatif à la protection des victime (...)
  • 11 Ce mandat découle notamment de l’initiative prise lors de la réunion des Etats parties à la Convent (...)

4Plusieurs réunions multilatérales – dont la dernière s’est tenue du 11 au 15 avril 2016 – ont été organisées afin d’initier la construction d’une réaction normative. Conçue dans l’enceinte du désarmement, cette attention aurait également pu trouver à s’exprimer dans d’autres cadres. L’article 36 du premier protocole additionnel aux conventions de Genève exige en effet la tenue d’un examen de conformité au droit international humanitaire en cas de projet de création d’armes nouvelles10. C’est toutefois dans la perspective de la réunion de la 5ème conférence des États parties chargés de l’examen de la convention-cadre qui se tiendra du 12 au 16 décembre 2016 que cette attention s’est déployée. Les différentes réunions de groupes d’experts ont eu pour mandat d’apporter des clarifications terminologiques, d’identifier les problèmes soulevés et de formuler une série de recommandations générales11 alimentant ainsi l’analyse qu’il convient d’apporter à ce phénomène. L’autonomisation des SALA en tant que catégorie du droit du désarmement implique une multitude d’enjeux qui dépassent le strict cadre du droit international. À la lumière des échanges tenus à Genève, il conviendra d’évoquer d’une part la question de la licéité intrinsèque des SALA (1°) puis d’étudier la thématique de la responsabilité découlant de l’usage de ces nouvelles technologies en ce qu’elle constitue un point d’achoppement majeur susceptible d’emporter avec lui tout l’édifice juridique en formation (2°).

1°/- Une licéité incertaine

5La première interrogation soulevée dans le cadre multilatéral est celle de la licéité et de l’étendue de la « catégorie SALA ». Peut-on admettre la licéité de moyens de combat aptes à engager la force létale en dehors de toute supervision humaine ? La réponse à cette question suppose l’établissement d’un cadre terminologique déterminant les contours de ce que recouvre le critère de l’autonomie, avancé pour caractériser ces systèmes (A). Les échanges menés dans le cadre multilatéral démontrent que si le périmètre de cette catégorie demeure encore discuté, un consensus tend à se dégager sur la nécessité de soumettre ces nouvelles technologies aux règles du droit international (B).

A - Une autonomie à l’étendue discutée

  • 12 Cf. supra, §2.

6La position de compromis terminologique proposée par les Nations unies en 2013 sur ce que pourrait recouvrir la catégorie des « robots létaux autonomes »12 n’a donné lieu à aucun accord contraignant pour la délimiter précisément. Les positions portées par certains États et organisations internationales, ou organisations non gouvernementales apparaissent parfois très opposées et orientées par des perceptions difficilement conciliables. Les parties considèrent toutefois qu’aucune arme ne saurait être licite sans qu’un contrôle humain minimal ne soit exercé lors de son utilisation. Cette position apparait dictée par les difficultés d’établissement de la responsabilité face aux actes commis par des moyens de combats déshumanisés. La médiation humaine et l’étendue du contrôle suscitent ainsi d’importantes discussions qui pourront être tranchées lors de la conférence de décembre 2016.

  • 13 Office des Nations Unies à Genève, Convention sur certaines armes classiques, « Report of the 2016 (...)
  • 14 Cf. en ce sens, Convention on Certain Conventional Weapons (CCW) Meeting of Experts on Lethal Auton (...)
  • 15 QUELHAS (D.), « La Convention sur l’interdiction de certaines armes classiques : l’occasion d’un dé (...)
  • 16 HUMAN RIGHTS WATCH, « Robots tueurs : il faut conserver un contrôle humain sur ces armes », 11 avri (...)
  • 17 Cf. en ce sens, Office des Nations Unies à Genève, Convention sur certaines armes classiques, « Rep (...)
  • 18 Ibidem.

7En l’état actuel de l’évolution technologique13, il semble qu’aucun SALA ne peut être conçu ou déployé sur un théâtre opérationnel sans intervention humaine. Celle-ci peut se matérialiser à différentes étapes : en amont, lors de la conception du système et en aval, lors de son déploiement. De manière théorique, la présence humaine peut ainsi prendre trois formes : le robot peut sélectionner la cible et l’humain décider d’engager la force (human in the loop) ; le robot peut sélectionner la cible et engager la force que l’humain peut suspendre (human on the loop) ; et enfin, dans le futur, le robot pourrait sélectionner la cible, et engager la force sans que l’humain ne puisse intervenir (human off the loop). L’étendue de cette intervention est donc très variable – du système téléguidé, à l’automatisation et à l’autonomisation – et dépend du niveau de complexité de la technologique déployée. Les débats menés portent sur l’étendue de la médiation humaine en deçà de laquelle les systèmes envisagés ne pourront faire partie de la catégorie des SALA et devront être considérées comme illicites. Cette question a été jugée par le CICR comme éminemment prioritaire, car seul le contrôle humain est en mesure de garantir le respect des règles du droit international humanitaire14. Les débats ont révélé que plusieurs degrés de contrôle pouvaient être envisagés : le contrôle effectif, le contrôle significatif ou encore le jugement humain approprié. Ces diverses propositions ont pour effet de faire varier le niveau d’exigence du lien attachant l’humain à la machine afin d’exclure certains systèmes de la catégorie et donc de la légalité internationale. Si le critère du contrôle effectif était exigé, très peu de dispositifs seraient susceptibles d’être autorisés. Comme le relèvent les observateurs, « suivant une telle approche, des armes inhabitées qui ciblent et engagent un objectif sous la supervision d’un humain pourraient être concernées par une éventuelle interdiction »15. Cette position est défendue par l’ONG HUMAN RIGHTS WATCH, pour qui ce contrôle constitue une garantie nécessaire. Selon l’ONG, il est excessif de laisser la force létale à des armes « dépourvues de la capacité humaine de ressentir de la compassion [qui pourrait] agir comme un important frein à l'utilisation de la force létale »16. Toutefois, ce critère est exigeant et pourrait cristalliser les oppositions à l’heure de construire un consensus sur le contenu de cette catégorie ; c’est l’autonomie même du système qui pourrait être discutée. Le critère du contrôle significatif, moins exigeant, permet de déplacer la ligne de ce qui séparerait les systèmes licites des systèmes illicites vers une approche plus englobante. Dans ce cadre, une simple supervision de l’action déclenchée par le système suffirait – l’activité humaine pouvant ainsi être résiduelle. Les discussions ont toutefois mis en lumière la subjectivité d’un tel critère et les risques lourds de confusion des interprétations qu’il pourrait engendrer17. Là où le contrôle effectif permet d’exclure toutes les armes dont l’action létale peut être engagée sans vérification préalable, le contrôle significatif semble renvoyer à l’idée d’une simple supervision globale de l’action. Enfin, un dernier caractère a été avancé pour définir l’autonomie, il s’agit du recours au jugement humain approprié. Celui-ci vise à garantir que le système a été employé tel qu’il avait été prévu au préalable18. Cette approche, fondée sur la prévisibilité de l’action engagée par le système semble pouvoir éviter les actions non souhaitées. Toutefois, ce critère amènerait à considérer comme des armes licites les SALA dont l’humain s’est borné à concevoir et paramétrer des règles d’engagement préalables, lesquelles sont inaptes à rendre compte, de façon automatique, des conditions changeantes d’un théâtre d’opérations. L’existence de ces discussions terminologiques démontre que la communauté internationale pourrait opter pour une interdiction assez large ou céder à une position plus laxiste aux conséquences néfastes prévisibles.

B - Des moyens de combat soumis au droit international

  • 19 CIJ, Avis consultatif du 8 juillet 1996 relatif à la licéité de la menace ou de l’emploi d’armes nu (...)
  • 20 Office des Nations Unies à Genève, Convention sur certaines armes classiques, « Report of the 2016 (...)
  • 21 Cf. sur ce point, les réticences exprimées dans la position française quant à la possibilité de pro (...)
  • 22 BUIRETTE (P.), LAGRANGE (P.), Le droit international humanitaire, éd. La découverte, coll. Repères, (...)
  • 23 Office des Nations Unies à Genève, Convention sur certaines armes classiques, « Report of the 2016 (...)
  • 24 Cf. en ce sens l’étude menée par PINCHON (R.), « Encadrement juridique des “Robots tueurs” : enjeux (...)

8Bien que les SALA constituent une catégorie en devenir dont le périmètre n’est pas établi, il est incontestable que les règles du droit international antérieures à leur apparition leur sont applicables (au même titre que les armes nucléaires ont été soumises au droit international dès leur apparition)19. Il ressort des débats menés dans le cadre multilatéral que la soumission des SALA aux prescriptions du droit international humanitaire est indiscutable20. Ces systèmes ne pourront ainsi pas être dotés de dispositifs prohibés, tels que des lasers aveuglants, ou encore des agents chimiques et bactériologiques. Cette précision n’est pas inutile tant les problématiques d’application du droit international humanitaire que posent les SALA sont nombreuses. La plupart des débats engagés se sont concentrés sur l’application de principes cardinaux tels que la précaution, la non-discrimination, la proportionnalité et la dignité humaine21. Le point commun des échanges révèle que les États sont conscients des risques qu’emporterait le déploiement de systèmes hors du contrôle humain pour l’équilibre général d’un droit dont la fonction, certes paradoxale, est, à l’origine, d’«  humaniser la guerre »22. Ces questions font écho aux débats terminologiques et plaident en faveur de l’exigence d’un contrôle humain suffisant (au mieux effectif) pour conférer une licéité aux systèmes déployés. La synthèse des échanges démontre que de nombreuses délégations considèrent que la médiation humaine est indispensable pour caractériser cette catégorie et garantir l’application du droit international humanitaire23. Cette position peut se justifier par les différences qui existent dans le schéma réactionnel face à l’identification d’une cible. Pour l’être humain, la perception de la cible engagera un temps plus ou moins long de réflexion aboutissant à une prise de décision (elle-même susceptible d’évoluer en fonction de l’attitude de la cible identifiée). Pour le système autonome, la perception de la cible entrainera une prise de décision quasi immédiate faisant suite à l’identification de la règle d’engagement pertinente. Dans ces conditions, l’attitude de la cible ne pourra être appréhendée avec la même pertinence par un système d’armement déshumanisé – pour qui les règles du droit international humanitaire n’ont pas été conçues – que par un soldat formé et conscient de la portée de son action. Comme l’a observé la doctrine, il apparait difficile, en l’état actuel de l’avancée technologique, de garantir qu’un système d’armement autonome puisse respecter, sans médiation humaine effective, les principes cardinaux du droit international humanitaire dans le contexte de conflits asymétriques dans des zones urbaines sur des terrains accidentés au sein desquels la visibilité est faible ou très réduite24.

9D’autres corpus de règles seront également amenés à toucher les SALA, en fonction du temps de leur utilisation. La référence au droit international des droits de l’homme apparait ici utile, car l’utilisation de systèmes autonomes pourra être recherchée en dehors des périodes de conflit armé, par des États désireux d’autonomiser certains pans de leur sécurité publique. Ainsi, le respect du principe de dignité humaine sera en mesure de contraindre l’action létale potentiellement engagée par les SALA. La difficulté posée par ce principe dépasse la stricte sphère juridique et renvoie à des questionnements éthiques et sociaux primordiaux : comment la société est-elle en mesure d’assurer le respect, par une machine, du principe de dignité humaine, dont l’essence lui est – par définition – inconnue ? Si la disparation du rapport d’altérité reste encore fictive, la potentialité de ce changement nécessitera de repenser et de reconstruire les rapports sociaux dans le contexte inédit d’une humanité concurrencée.

2°/- Une responsabilité fuyante

10Les difficultés que posent les SALA ne se réduisent pas aux questions terminologiques et aux limites que le droit international impose à leur action. Ces systèmes d’armes posent également d’importants problèmes en matière de responsabilité. L’action autonome nécessite de nouvelles réflexions et la construction d’outils aptes à assurer aux victimes potentielles la détermination d’une responsabilité. S’il est difficilement concevable de rechercher une quelconque responsabilité de la machine (A), c’est du côté de la possible médiation humaine qu’il conviendra de trouver les moyens de protéger les victimes contre les actes potentiellement illicites commis (B).

A - Des systèmes autonomes irresponsables

  • 25 Office des Nations Unies à Genève, Convention sur certaines armes classiques, « Report of the 2016 (...)
  • 26 DUPUY (P.-M.), Le fait générateur dans la responsabilité internationale des Etats, in RCADI, vol. 1 (...)
  • 27 Cf. en ce sens, Nations Unies, Assemblée générale, Résolution 60/147 relative aux « Principes fonda (...)
  • 28 HUMAN RIGHTS WATCH, Mind the gap, the lack of accountability for killer robots, rapport du 9 avril (...)
  • 29 Ibidem.
  • 30 VERUGIO (G.), ABNEY (K.), « Roboethics: The Applied Ethics for a New Science », in LIN (P.) (dir.) (...)

11Les discussions menées par les groupes d’experts révèlent que la question de la responsabilité est source d’inquiétudes récurrentes25. Au-delà de son caractère d’« épicentre du système juridique », la responsabilité constitue « un instrument de moralisation des rapports entre les sujets d'un ordre social, menacé par la violence anarchique de leurs conduites »26. Le droit international humanitaire connait des mécanismes aptes à engager la responsabilité des auteurs de ses violations27. Difficiles à mettre en œuvre à l’issue d’un conflit à l’encontre d’individus auteurs de crimes de guerre, leur activation contre des faits commis par des systèmes autonomes rencontrera sans doute des obstacles encore plus importants. La recherche de responsabilité d’un SALA ne présenterait par ailleurs qu’un sens très relatif ; la machine, ne disposant pas de libre arbitre et n’étant pas conçue pour saisir l’impact de ses actes dans le schéma d’une responsabilité pénale conçue pour les individus28, ne peut fait l’objet d’une action en responsabilité. Techniquement, cet établissement se heurterait aux conditions pratiques de l’établissement de la responsabilité pénale. La réunion des deux éléments cumulatifs – actus reus et mens rea – ne pourrait jamais être caractérisée compte tenu de l’inexistence d’une quelconque intention29. La recherche d’une hypothétique responsabilité révèlerait enfin un choc conceptuel entre d’une part la volonté d’appliquer des règles de responsabilité conçues pour garantir le fonctionnement de l’ordre social et d’autre part la tentative de responsabilisation d’un système mécanique déshumanisé conçu pour exécuter des ordres préprogrammés. Consciente de cette impossible conciliation, la doctrine a considéré que « si la nature d’une arme rend impossible l’établissement des responsabilités concernant les conséquences de son utilisation, cette arme devrait être jugée abominable et son utilisation déclarée contraire à l’éthique et illicite »30. Enfin, les sanctions appliquées dans le cadre de la responsabilité apparaissent également inadaptées à rendre compte des violations commises par une machine. Il n’est pas concevable d’envisager la condamnation d’un système autonome à une quelconque réparation ni de considérer que l’établissement potentiel de sa responsabilité produira un effet dissuasif pour le futur.

  • 31 SPOERRI (P.), « Conclusions [sur] Le droit international humanitaire et les nouvelles technologies (...)

12Toutefois, à la différence des situations auxquelles nous faisons face dans une recherche classique de responsabilité internationale, l’établissement des faits commis par des systèmes autonomes serait objectivement facilité. Dans le cadre d’une responsabilité d’un genre nouveau ou d’une action ciblée sur l’individu se trouvant en arrière-plan de la machine, des obligations de transparence pourraient être mises en place. Grâce aux informations recueillies sur l’action engagée et enregistrées par le système, la trajectoire criminelle ne comporterait plus de zones d’ombre ou de suppositions31. La transcription des actes menés par le système autonome pourrait être utilisée pour déterminer avec précision l’étendue des violations commises. Toutefois, une telle réalité pourrait être mise en cause en cas de modification de la mémoire du système réalisée postérieurement. Les possibilités de piratage informatique et de détournement rendent cette perspective aisément envisageable et affaiblissent par conséquent l’argument de lisibilité des actes commis par la machine.

B - Des intermédiaires insaisissables

  • 32 Cf. supra, §7.
  • 33 Office des Nations Unies à Genève, Convention sur certaines armes classiques, « Report of the 2016 (...)
  • 34 Cf. en ce sens les travaux menés par JOUANNET (E.), « À quoi sert le droit international ? », in RB (...)

13L’état actuel d’avancement technologique ne permet pas à des SALA d’être conçus et déployés en totale autonomie. La médiation humaine demeure nécessaire, même si son intensité est susceptible de varier32. Les actes illicites commis par la machine pourraient ainsi trouver à être rattachés à l’individu à l’origine de sa conception ou de sa programmation ou de son déploiement. L’état des débats tenus lors de la réunion d’experts démontre deux positions principales sur cette question : celle qui considère que le droit international dispose des outils nécessaires à une telle détermination et celle pour qui le cadre du droit international est inadapté et laisserait des espaces d’impunité nombreux33. Une fois de plus, le débat s’oriente ici sur la capacité de l’ordre juridique international à étendre son domaine matériel sans une refonte de ses garanties formelles d’application34. Pour la France, il semble que « la responsabilité des décideurs politiques et militaires, industriels, programmeurs, ou opérateurs pourra toujours être recherchée en cas d’infraction au DIH commise par ces systèmes ». Cette affirmation sommaire suscite quelques interrogations et nécessite une étude des conditions dans lesquelles cette responsabilité pourrait être recherchée.

  • 35 Statut de Rome instituant la Cour pénale internationale adoptée le 17 juillet 1998 et entré en vigu (...)
  • 36 HENCKAERTS (J.-M.), DOSWALD-BECK (L.), Droit international humanitaire coutumier, Volume 1 : Règles(...)
  • 37 Nations Unies, Assemblée générale, Conseil des droits de l’homme, « Rapport du Rapporteur spécial s (...)
  • 38 Dans le cadre de la fiction, cette nécessité avait été mise en lumière par James Cameron. Dans le f (...)

14Concernant les décideurs politiques, leur responsabilité ne semblerait être engagée qu’à titre exceptionnel, en cas de violations graves du droit international humanitaire. Une action devant la CPI ou un Tribunal pénal constitué spécialement pourrait être possible, si ce n’est que le cadre de la répression pénale internationale ne permettrait pas d’engager la responsabilité d’une autorité politique dès la première violation commise par un SALA. La responsabilité des décideurs militaires pourrait, quant à elle, être plus souvent engagée,35 mais aucunement automatique. Une autorité militaire pourrait être tenue responsable des actes illicites commis par un système autonome, au même titre qu’elle peut l’être pour les actes accomplis par un soldat ayant agi conformément à ses ordres36. Toutefois, la difficulté risque de poindre à l’étape de la détermination de l’élément intentionnel, qui nécessite que l’autorité hiérarchique ait eu connaissance des faits illicites projetés et n’ait pas agi pour y mettre fin ou, a posteriori, s’il n’a pas sanctionné son subordonné ayant commis un acte répréhensible. Les doutes sont admis sur la capacité des chefs militaires d’être « en mesure d’avoir une compréhension suffisante de la programmation complexe »37 du SALA auteur de l’acte illicite. Enfin, la mise en cause de la responsabilité des programmeurs ou opérateurs des SALA semble difficile à envisager38, car cette action ne présenterait pas un caractère répressif et international, mais plutôt civil et interne. En ne permettant qu’à la marge ou dans un cadre incitatif l’engagement de la responsabilité internationale de sociétés, le droit international ne dispose pas des outils suffisants pour contraindre l’opérateur et le programmeur à se confronter au respect du droit international humanitaire. Ces quelques éléments démontrent que de nombreux espaces d’impunité existent et que le droit international n’est pas en mesure de les résorber sans une modification conséquente de ses garanties d’effectivité. Si les débats tenus à l’occasion des réunions d’experts permettent de mettre en lumière les défis majeurs posés par les SALA, ils n’ont aucunement pour vocation à faire évoluer le cadre formel de l’ordre juridique international.

*

* *

15Les craintes soulevées par la conception et le possible déploiement de SALA sont sérieuses. En l’état actuel des négociations, il semble difficilement envisageable qu’un compromis protecteur fort émerge à l’occasion de la 5ème conférence d’examen de la Convention sur certaines armes classiques. La définition de cette catégorie est cruciale et ne sera pertinente qu’à condition d’être adoptée dans une perspective globale. Un cadre excluant le contrôle humain, au moins significatif, serait dangereux, car il laisserait aux systèmes autorisés la possibilité d’être déployés dans une quasi-impunité, ce qui fragiliserait le droit international humanitaire et le droit international des droits de l’homme dans leur ensemble.

16S’il était utile d’inscrire les SALA à l’ordre du jour de l’agenda du désarmement au sein des institutions onusiennes genevoises, les enjeux dépassent le cadre institué. Les SALA ne constituent pas des armes classiques telles que le droit du désarmement les conçoit. La tenue d’une conférence internationale traitant des systèmes autonomes sous tous ses aspects apparait donc nécessaire. Les États ne peuvent s’orienter sur la voie d’une règlementation a minima. Une telle option pourrait avoir des conséquences lourdes dépassant les prévisions jusqu’ici envisagées. Les systèmes autonomes nécessitent donc d’être envisagés dans un cadre global prenant en compte des thématiques telles le terrorisme et la prolifération des armes classiques et des armes de destruction massive. Sans l’adoption d’une réponse adaptée, il n’est pas inenvisageable que les prédictions formulées dès 1991 par le Terminator T - 800 de Skynet (à l’occasion du second volet de la série éponyme réalisé par James Cameron) selon quoi, il est dans notre nature de nous détruire nous-mêmes, n’appartiennent plus au domaine de la science fiction.

*

Les Lettres « Actualités Droits-Libertés » (ADL) du CREDOF (pour s’y abonner et se désabonner) sont accessibles sur le site de la Revue des Droits de l’Homme (RevDH)Contact

Haut de page

Notes

1 Lettre ouverte publiée le 28 juillet 2015 à l’occasion de l’International joint conference on artificial intelligence tenue à Buenos Aires du 25 au 31 juillet 2015. Consultable en ligne (le 26 juillet 2016) : < http://futureoflife.org/open-letter-autonomous-weapons/ >, extraits (nous traduisons dans le corps du texte). Selon les signataires, il convient également de noter que “The key question for humanity today is whether to start a global AI arms race or to prevent it from starting. If any major military power pushes ahead with AI weapon development, a global arms race is virtually inevitable, and the endpoint of this technological trajectory is obvious: autonomous weapons will become the Kalashnikovs of tomorrow”.

2 Nations Unies, Assemblée générale, Conseil des droits de l’homme, « Rapport du Rapporteur spécial sur les exécutions extrajudiciaires, sommaires ou arbitraires, Christof Heyns » du 9 avril 2013, document A/HRC/23/47, §38, p. 8. Cf. également le descriptif technique dressé par le Rapporteur spécial selon qui (§39) : « Les robots sont souvent décrits comme des machines construites sur le modèle « sentir-penser-agir » : ils ont des capteurs qui leur permettent d’analyser les situations jusqu’à un certain point, des processeurs (autrement dit, une intelligence artificielle) qui « décident » des réactions à adopter face à des stimuli donnés, et des effecteurs qui exécutent ces « décisions ». On notera que l’autonomie conférée aux robots par les processeurs comporte des degrés, allant d’une autonomie partielle (l’intervention humaine restant importante, comme dans le cas des drones de combat, où un être humain est impliqué) à une autonomie totale (comme dans le cas des RLA, où l’être humain n’intervient pas) ».

3 CHAMAYOU (G.), Théorie du drone, éd. La Fabrique, Paris, 2013.

4 LUCAS (R.), Les drones armés au regard du droit international, éd. Pedone, CEDIN de l’Université Paris Ouest Nanterre La Défense, coll. Perspectives internationales, no37, 2016, pp. 64-76.

5 TULLIU (S.) et SCHMALBERGER (T.), « Les termes de la sécurité : un lexique pour la maîtrise des armements, le désarmement et l’instauration de la confiance », Publication de l’UNIDIR, Genève, 2003, p. 15


6 Convention sur l'interdiction ou la limitation de l'emploi de certaines armes classiques qui peuvent être considérées comme produisant des effets traumatiques excessifs ou comme frappant sans discrimination, signée à Genève le 10 octobre 1980 et entrée en vigueur le 2 décembre 1983.

7 Protocole sur l'interdiction ou la limitation de l'emploi des armes incendiaires (Protocole III), signée à Genève le 10 octobre 1980 et entrée en vigueur le 2 décembre 1983.

8 Cf. en ce sens les travaux terminologiques menées par l’Institut de droit international (IDI), « Le problème que pose l’existence des armes de destruction massive et la distinction entre les objectifs militaires et non militaires en général, travaux préparatoires », in Annuaire de l’IDI, session de Nice de 1967, vol. 52-II, p. 29 L’institut du droit international leur apporte une définition finaliste, considérant que cette catégorie peut se définir comme « tout moyen de guerre (...) capable de destruction massive » ou qui « par leur nature, sont destinées à produire une destruction massive » ou bien encore « qui ne peuvent être employées qu’à des fins de destruction massive, parce que le minimum de leur effet destructeur est déjà trop grand pour qu’on puisse le restreindre à des objectifs limités ».

9 SHARKEY (N.), « Weapons of Indiscriminate Lethality », in Forum des informaticiens pour la paix et la responsabilité sociétale (FIfF Kommunikation), no1/09, pp. 26-29.

10 Protocole additionnel aux Conventions de Genève du 12 août 1949 relatif à la protection des victimes des conflits armés internationaux (Protocole I) signé à Genève le 8 juin 1977 et entré en vigueur le 7 décembre 1978, art.36.

11 Ce mandat découle notamment de l’initiative prise lors de la réunion des Etats parties à la Convention cadre tenue à Genève en 2013, cf. en ce sens, Nations Unies, Réunion des Hautes Parties contractantes à la Convention sur l’interdiction ou la limitation de l’emploi de certaines armes classiques qui peuvent être considérées comme produisant des effets traumatiques excessifs ou comme frappant sans discrimination, 16 décembre 2013, document CCW/MSP/2013/10, §32, p. 5.

12 Cf. supra, §2.

13 Office des Nations Unies à Genève, Convention sur certaines armes classiques, « Report of the 2016 Informal Meeting of Experts on Lethal Autonomous Weapons Systems (LAWS), Submitted by the Chairperson of the Informal Meeting of Experts », §§25-34, pp. 4-6.

14 Cf. en ce sens, Convention on Certain Conventional Weapons (CCW) Meeting of Experts on Lethal Autonomous Weapons Systems (LAWS) 11-15 April 2016, Geneva, « Views of the International Committee of the Red Cross (ICRC) on autonomous weapon system », 11 April 2016, p. 5. Selon l’organisation: “The notion of human control has become the overarching issue in the debates on autonomous weapon systems. (…) A certain level of human control over attacks is inherent in, and required to ensure compliance with, the IHL rules of distinction, proportionality and precautions in attack. Considering more closely what these requirements are could help determine the boundaries of what is acceptable under IHL with respect to autonomy in the critical functions of selecting and attacking targets”.

15 QUELHAS (D.), « La Convention sur l’interdiction de certaines armes classiques : l’occasion d’un débat ouvert sur les systèmes d’armes létaux autonomes (1) », in Bulletin Sentinelle no471 du 24 avril 2016.

16 HUMAN RIGHTS WATCH, « Robots tueurs : il faut conserver un contrôle humain sur ces armes », 11 avril 2016, consultable (en ligne le 28 juillet 2016) URL : https://www.hrw.org/fr/news/2016/04/11/robots-tueurs-il-faut-conserver-un-controle-humain-de-ces-armes

17 Cf. en ce sens, Office des Nations Unies à Genève, Convention sur certaines armes classiques, « Report of the 2016 Informal Meeting of Experts on Lethal Autonomous Weapons Systems (LAWS), Submitted by the Chairperson of the Informal Meeting of Experts », préc., §38, p. 7.

18 Ibidem.

19 CIJ, Avis consultatif du 8 juillet 1996 relatif à la licéité de la menace ou de l’emploi d’armes nucléaires, Rec. CIJ, 1996, §86, pp. 37-38.

20 Office des Nations Unies à Genève, Convention sur certaines armes classiques, « Report of the 2016 Informal Meeting of Experts on Lethal Autonomous Weapons Systems (LAWS), Submitted by the Chairperson of the Informal Meeting of Experts », préc., §44, p. 8.

21 Cf. sur ce point, les réticences exprimées dans la position française quant à la possibilité de programmer, en l’état actuel de l’évolution technologique, une arme capable de respecter ces principes : République française, Document de travail « Cadre juridique d’un éventuel développement et usage opérationnel d’un futur système d’armes létal autonome » présenté à l’occasion de la réunion de Genève des 11-15 avril 2016, p. 2. Pour l’État français : « des doutes sont exprimés quant à la possibilité d’encoder dans un programme les règles et les notions relatives au principe de distinction, telles que celle de la participation directe aux hostilités qui, en elles-mêmes, sont déjà sujettes à de vives discussions. Il est difficile d’imaginer un système d’armes autonome dont les capteurs ainsi que les capacités de jugement et de détection des intentions humaines lui permettraient d’appliquer ces règles. Le principe de proportionnalité semble lui aussi difficile à programmer du fait de l’inexistence d’une matrice qui définirait des seuils de proportionnalité ».

22 BUIRETTE (P.), LAGRANGE (P.), Le droit international humanitaire, éd. La découverte, coll. Repères, Paris, 2010, p. 15 et s ; Cf. également les travaux menés par le CICR à l’occasion de son 150ème anniversaire, « Humaniser la guerre, 150 ans d’action humanitaire », exposition présentée au Musée Rath de Genève du 30 avril au 20 juillet 2014 et au Mémorial de Caen du 9 mars au 27 novembre 2015.

23 Office des Nations Unies à Genève, Convention sur certaines armes classiques, « Report of the 2016 Informal Meeting of Experts on Lethal Autonomous Weapons Systems (LAWS), Submitted by the Chairperson of the Informal Meeting of Experts », préc., §45, p. 8

24 Cf. en ce sens l’étude menée par PINCHON (R.), « Encadrement juridique des “Robots tueurs” : enjeux et perspectives », in Bulletin Sentinelle no393 du 25 mai 2014.

25 Office des Nations Unies à Genève, Convention sur certaines armes classiques, « Report of the 2016 Informal Meeting of Experts on Lethal Autonomous Weapons Systems (LAWS), Submitted by the Chairperson of the Informal Meeting of Experts », préc., §§17 et 43, pp. 3 et 7.

26 DUPUY (P.-M.), Le fait générateur dans la responsabilité internationale des Etats, in RCADI, vol. 188, 1986, Dordrecht, Martinus Nijhoff, p. 21 et 24.

27 Cf. en ce sens, Nations Unies, Assemblée générale, Résolution 60/147 relative aux « Principes fondamentaux et directives concernant le droit à un recours et à réparation des victimes de violations flagrantes du droit international des droits de l’homme et de violations graves du droit international humanitaire » du 16 décembre 2005, document A/RES/60/147.

28 HUMAN RIGHTS WATCH, Mind the gap, the lack of accountability for killer robots, rapport du 9 avril 2015, consultable (en ligne le 28 juillet 2016) URL: https://www.hrw.org/report/2015/04/09/mind-gap/lack-accountability-killer-robots

29 Ibidem.

30 VERUGIO (G.), ABNEY (K.), « Roboethics: The Applied Ethics for a New Science », in LIN (P.) (dir.) et al., Robot Ethics: The ethical and Social Implications of Robotics, Cambridge, MIT Press, 2012, p. 114. Référence citée par Nations Unies, Assemblée générale, Conseil des droits de l’homme, « Rapport du Rapporteur spécial sur les exécutions extrajudiciaires, sommaires ou arbitraires, Christof Heyns » du 9 avril 2013, préc., p. 17.

31 SPOERRI (P.), « Conclusions [sur] Le droit international humanitaire et les nouvelles technologies de l’armement, XXXIV table ronde sur les sujets actuels du droit international humanitaire, San Remo, 8-10 septembre 2011 », « Conclusions », in RICR, 2012/2, vol. 94, Genève, p. 585.

32 Cf. supra, §7.

33 Office des Nations Unies à Genève, Convention sur certaines armes classiques, « Report of the 2016 Informal Meeting of Experts on Lethal Autonomous Weapons Systems (LAWS), Submitted by the Chairperson of the Informal Meeting of Experts », préc., §52, p. 9.

34 Cf. en ce sens les travaux menés par JOUANNET (E.), « À quoi sert le droit international ? », in RBDI, vol. XL, 2007-I, Bruxelles, Bruylant, spéc. pp. 11-19.

35 Statut de Rome instituant la Cour pénale internationale adoptée le 17 juillet 1998 et entré en vigueur le 1er juillet 2002, art.28.

36 HENCKAERTS (J.-M.), DOSWALD-BECK (L.), Droit international humanitaire coutumier, Volume 1 : Règles, CICR, Bruxelles, Bruylant, 2006, Règle 152 et 153, pp. 733-744 ; VAURS-CHAMUETTE (A.-L.), « Chapitre 39 : Les personnes pénales responsables », in ASCENSIO (H.), DECAUX (E.), PELLET (A.) (dir.), Droit international pénal, CEDIN Paris X, Pedone, 2012, 2ème édition révisée, pp. 483-485.

37 Nations Unies, Assemblée générale, Conseil des droits de l’homme, « Rapport du Rapporteur spécial sur les exécutions extrajudiciaires, sommaires ou arbitraires, Christof Heyns » du 9 avril 2013, préc., §78, pp. 16-17.

38 Dans le cadre de la fiction, cette nécessité avait été mise en lumière par James Cameron. Dans le film Terminator 2 : Le jugement dernier (1991), Sarah Connor opposait à Miles Dyson, créateur du projet Skynet à l’origine du projet militaire d’intelligence artificielle Terminator : « Ça n’est pas tous les jours qu’on se retrouve responsable de trois milliards de morts ».

Haut de page

Pour citer cet article

Référence électronique

Julien Ancelin, « Les systèmes d’armes létaux autonomes (SALA) : Enjeux juridiques de l’émergence d’un moyen de combat déshumanisé », La Revue des droits de l’homme [En ligne], Actualités Droits-Libertés, mis en ligne le 25 octobre 2016, consulté le 25 juin 2019. URL : http://journals.openedition.org/revdh/2543 ; DOI : 10.4000/revdh.2543

Haut de page

Auteur

Julien Ancelin

Docteur en droit public (Université Monstesquieu – Bordeaux IV)

Du même auteur

Haut de page

Droits d’auteur

Tous droits réservés

Haut de page
  • Logo Université Paris Nanterre
  • Logo Centre de recherches et d’études sur les droits fondamentaux
  • OpenEdition Journals