Rapport d'information déposé (...) par la commission de la défense nationale et des armées sur les systèmes d'armes létaux autonomes
Disponible en ligne :
Pour lire les formats PDF et ePub vous avez besoin d’un lecteur adapté.
Présentation
La première partie du rapport est consacrée à l’objet même des systèmes d'armes létaux autonomes (SALA). Le débat autour des SALA résulte pour l’essentiel d’une confusion entre l’autonomie et l’automatisation, c’est-à-dire une action programmée à l’avance.
La deuxième partie porte sur les enjeux éthiques et juridiques soulevés par l’essor de l’autonomie des systèmes d’armes et l’éventuel développement des SALA, et sur leur encadrement international dans une logique de maîtrise des armements. Sans remettre en cause la pertinence des principes du droit international humanitaire (DIH), qui fait l’objet d’un consensus parmi les États, l’emploi de SALA compliquerait leur respect. La France se distingue par ses contributions au débat en défendant une position privilégiant un encadrement effectif et efficace à une interdiction préventive.
La troisième partie, enfin, souligne la nécessité pour la France de ne pas laisser le débat sur les SALA parasiter ses efforts dans le domaine de l’intelligence artificielle de défense. En effet, en l’absence de définition rigoureuse des SALA et d’un encadrement international au juste niveau, c’est le développement de l’intelligence artificielle en général qui peut être remis en cause.
Sommaire
INTRODUCTION
I. COMPRENDRE LE DÉBAT SUR LES SYSTÈMES D’ARMES LÉTAUX AUTONOMES : DISTINGUER LE MYTHE DE LA RÉALITÉ
A. LES SALA : STADE ULTIME DE L’AUTONOMISATION DES SYSTÈMES D’ARMES
1. Les SALA font l’objet d’un débat sémantique autour de la notion d’autonomie
2. La recherche de l’autonomie des systèmes d’armes n’est pas nouvelle
3. L’autonomie doit être appréhendée comme un continuum
4. Les progrès technologiques laissent entrevoir l’émergence de systèmes de plus en plus autonomes
B. MALGRÉ LES INCERTITUDES, LE DÉVELOPPEMENT DE SYSTÈMES D’ARMES LÉTAUX DE PLUS EN PLUS AUTONOMES NE FAIT GUÈRE DE DOUTE
1. Terminator sur le champ de bataille : le fantasme d’un robot tueur
a. L’image d’un robot humanoïde hors de contrôle, à l’origine de peurs peu rationnelles
b. Au-delà de l’autonomie, la crainte d’une déshumanisation du champ de bataille, confortée par les postures de certaines grandes puissances
2. À ce jour, les SALA n’existent pas
a. Les systèmes d’armes létaux automatisés existent depuis longtemps
b. Les systèmes présentés comme autonomes le sont rarement pleinement
3. Pour les forces, un système d’armes létal pleinement autonome ne présente aucun intérêt opérationnel
a. Le développement de l’intelligence artificielle est envisagé comme une aide au soldat humain
b. « Ni Rambo, ni Terminator » : tout système d’armes létal doit s’intégrer dans une chaîne de commandement dont le respect est consubstantiel aux armées
4. Le débat sur les SALA s’inscrit néanmoins dans le cadre plus large du renforcement de l’autonomie, même partielle, des systèmes d’armes
a. Des systèmes d’armes létaux plus autonomes verront sans conteste le jour dans un avenir proche
b. Le débat sur les SALA doit donc être abordé de manière prospective
II. LES ENJEUX ÉTHIQUES ET JURIDIQUES : LES SALA AU CŒUR DE DISCUSSIONS INTERNATIONALES SUR LA RÉGULATION DES SYSTÈMES D’ARMES
A. L’ACCROISSEMENT DE L’AUTONOMIE DE SYSTÈMES D’ARMES LÉTAUX S’ACCOMPAGNE DE QUESTIONNEMENTS ÉTHIQUES ET JURIDIQUES
1. L’autonomisation des systèmes d’armes interroge le rapport à la guerre
a. Le combat entre l’homme et la machine : un non-sens moral ?
b. Les questionnements éthiques non résolus
2. L’autonomisation des systèmes d’armes face au droit des conflits armés
a. L’application du droit international humanitaire, enjeu de premier ordre
b. L’engagement de la responsabilité pénale internationale pour des violations du droit international humanitaire imputables aux SALA pourrait susciter des difficultés
c. En matière de droit de la maîtrise des armements, aucune règle spécifique aux SALA n’a été définie
B. LA CONVENTION SUR CERTAINES ARMES CLASSIQUES : CADRE INTERNATIONAL DE NÉGOCIATIONS SUR LES SALA
1. La Convention sur certaines armes classiques, enceinte historique de maîtrise des armements au regard du droit international humanitaire
a. La régulation des systèmes d’armes : raison d’être de la Convention sur certaines armes classiques
b. Une enceinte regroupant l’ensemble des parties prenantes
2. Depuis 2013, les discussions sur les SALA avancent dans un sens considéré favorablement par la France
a. La France, puissance motrice des discussions
b. La progressive formalisation des négociations au travers d’un groupe d’experts gouvernementaux
c. L’adoption de onze principes directeurs, un pas décisif franchi à l’initiative de la France
C. CONFORTER LA CONVENTION SUR CERTAINES ARMES CLASSIQUES COMME LIEU DE DISCUSSION
1. L’avenir en pointillé des négociations internationales
a. Les faiblesses du processus actuel
b. Des parties prenantes désunies
c. La tentation d’un processus ad hoc
2. La poursuite des négociations multilatérales, seule voie souhaitable
a. Les risques en cas d’échec des négociations au sein de la Convention sur certaines armes classiques
b. Un engagement international semble à portée de main
III. LE DÉBAT SUR LES SALA NE DOIT PAS PARASITER LES EFFORTS ENTREPRIS DANS LE DOMAINE DE L’AUTONOMIE DES SYSTÈMES D’ARMES, AU RISQUE D’UN DÉCLASSEMENT TECHNOLOGIQUE, INDUSTRIEL ET STRATÉGIQUE
A. L’AUTONOMIE PORTE EN ELLE UN CHANGEMENT DE PARADIGME QUI EXPLIQUE QU’ELLE FASSE L’OBJET D’UNE COMPÉTITION INTERNATIONALE MARQUÉE
1. L’autonomie des systèmes d’armes rebat les cartes des équilibres stratégiques
2. L’autonomie des systèmes d’armes se trouve au cœur d’une nouvelle course aux armements
a. Les États-Unis, leader quasi incontesté
b. L’inexorable montée en puissance de la Chine
c. La Russie, un acteur pionnier sur le terrain
d. Derrière ce trio de tête, un cercle d’États dynamiques
B. LA FRANCE A ADOPTÉ UNE STRATÉGIE AMBITIEUSE, QUI DOIT ÊTRE CONFORTÉE.
1. La France n’est pas dépourvue d’atouts sur la scène internationale
2. « L’intelligence artificielle au service de la défense », une stratégie ambitieuse
3. Des pistes pour aller plus loin
a. Le pilotage de la recherche, sa stimulation et sa valorisation
b. L’accompagnement industriel des pépites nationales du secteur de la robotique
c. La veille stratégique
C. LA NÉCESSITÉ DE FRANCHIR LE PALIER EUROPÉEN
1. Pour l’heure l’Europe avance en ordre dispersé
2. Les modalités de fonctionnement du Fonds européen de défense mériteraient d’être précisées
CONCLUSION : QUEL CHEMIN SUIVRE ?
PROPOSITION DE RÉSOLUTION DES RAPPORTEURS
TRAVAUX DE LA COMMISSION
ANNEXE 1 :CONTRIBUTION DE M. BASTIEN LACHAUD, DÉPUTÉ, MEMBRE DE LA MISSION D'INFORMATION
ANNEXE 2 : AUDITIONS ET DÉPLACEMENTS DE LA MISSION D’INFORMATION
Fiche technique
Type de document : Rapport parlementaire
Pagination : 123 pages
Édité par : Assemblée nationale
Collection :
Documents d'information de l'Assemblée nationale