Ce ne sont peut-être pas les hommes, mais les circonstances qui entraîneront la banalisation de l’usage des armes létales autonomes : menace d’une troisième guerre mondiale, par exemple, déstabilisation brutale d’une partie du monde, exaspération du terrorisme, panique des populations et quête de sécurité à tout prix… des scénarios qui peuvent sembler fantastiques, mais dont l’image suffit à signaler la nouvelle dangerosité du monde.

La robotique et le numérique se sont installés dans nos vies ; chacun écrit, compose et échange à l’aide de logiciels, et l’on sait que bien des métiers vont disparaître, l’homme laissant à la machine les moyens d’action dont il est possible de programmer et d’automatiser l’efficacité. On a confiance dans la robotisation de la chirurgie (moins de risques d’erreurs, moins de fatigue, plus d’informations et d’exactitude dans les calculs). Tant que le processus paraît favorable à la santé, au confort et au bien-être, l’accoutumance à l’automatisation passe pour une participation au progrès, lequel, en tant qu’idéal de la modernité scientifique, est inachevable (« on n’arrête pas le progrès » est une sentence populaire).

Mais les choses changent quand le progrès et la recherche de pointe entrent dans le domaine de la guerre. D’un coup, l’on découvre que la science et la technologie sont des alliées dans la quête d’efficacité, économique, industrielle, militaire… et l’on comprend que la guerre se transforme avec la mondialisation des conflits, l’émergence de nouveaux types d’hostilité et les pratiques imprévisibles de nouveaux acteurs. C’est alors que le besoin d’éthique, de régulation juridique et de responsabilité politique s’impose aux esprits. Il est adressé par la population aux responsables et aux décideurs, mais il concerne, bien plus profondément, une société en mutation, qui voudrait savoir où elle va, et qui sait qu’elle ne maîtrise pas elle-même les moyens de le comprendre. C’est comme si on voulait se nourrir de la culture de l’avenir pour guider nos jugements, alors que cette culture résultera, précisément, de nos jugements ; autrement dit, la responsabilité du monde, aujourd’hui comme hier, est une responsabilité collective. De là l’immense intérêt de réflexions croisées sur le destin de la haute technologie en matière de défense.

Puisqu’il s’agit d’un enjeu de civilisation, une éthique publique, une régulation juridique et une sagesse politique sont indispensables. Une éthique de la guerre limitée est ce qui permet de préserver un avenir possible et cela constitue un intérêt commun de l’humanité. Un droit de la guerre réglée est nécessaire contre le péril de la guerre absolue et doit garantir la fonction anti-destructrice et protectrice des armes automatiques. Une politique de la guerre intelligente est absolument requise pour que la maîtrise d’une agression ne soit pas une performance de la technique, mais une victoire de l’esprit.

Une éthique de la guerre limitée

L’éthique n’est pas une somme de sentences toutes faites ; elle se découvre et se connaît elle-même dans les conflits entre des devoirs et entre des idéaux : ainsi, l’idée de donner la mort pour aider quelqu’un à ne pas souffrir provoque un combat entre deux éthiques de l’action bonne (il est bien de ne pas tuer, il est bien de ne pas faire souffrir). Donner la mort pour sauver une population des souffrances infligées par des conquérants est pourvu d’une valeur éthique dans la mesure où le combattant risque sa vie pour vaincre l’ennemi : son courage est un bien exercé contre un mal. L’idée qu’une arme létale autonome puisse servir à sauver des vies met en conflit deux éthiques : l’éthique de conviction (une intention absolument bonne ne saurait se servir de telles armes) et l’éthique de responsabilité (toute décision doit regarder le destin d’une population entière comme la mesure morale de ses propres conséquences).

Chacune de ces deux éthiques montre ses limites en même temps qu’elle apporte sa contribution à la recherche d’une culture de la puissance techno-scientifique.

Éthique de conviction et intention

Quand elle s’absolutise, l’éthique de conviction (éthique de la conscience qui veut rester pure de toute mauvaise intention) rejette la violence sous toutes ses formes, et donc la guerre. Tolstoï a associé cette position au christianisme ⁽¹⁾ (le chrétien doit accepter de mourir de la violence de l’autre pour témoigner qu’il est victime d’une injustice et faire ainsi reconnaître la vraie justice). Plus ordinairement, cette éthique porte sur des intentions et se limite à des intentions (bonne conscience individuelle), ce qui fait sa faiblesse sur le plan politique. Quand elle ignore ou veut ignorer que la guerre a pris une dimension technologique irréversible, elle qualifie l’hécatombe de 1914-1918 de « boucherie », mais refuserait-elle que l’on ait détruit des machines plutôt que des hommes ?

Toutefois, elle apporte à la question des armes autonomes une dimension éthiquement forte : la mort produite sur un terrain d’affrontement doit toujours avoir un responsable humain. Derrière la technique, il y a une volonté humaine, et la mort d’un combattant (ou d’un civil) ne devra jamais être sans signification (pur hasard) et sans auteur.

Éthique de responsabilité et politique

Son principe est que la politique doit primordialement tenir compte des conséquences de ses décisions pour le pays qui risque de se trouver victime d’une guerre. En termes abrupts : si l’agresseur utilise les moyens les plus destructeurs sans limites morales, alors les souffrances infligées à la population ne justifient-elles pas l’emploi de technologies automatisées voire autonomes pour cerner et limiter son emprise ?

Une objection à cette argumentation pragmatique s’élève aussitôt : l’intérêt supérieur de l’État ne sera-t-il pas toujours l’alibi du recours à tous les moyens de lutter ? Le réalisme politique n’est-il pas, lui aussi, un mensonge (amoral) de la volonté de pouvoir et de domination ?

L’objection révèle le besoin qu’un principe éthique suprême intervienne dans l’intérêt même de la politique : poser que le but suprême de l’usage d’armes létales n’est pas la destruction de l’ennemi, mais la reconstruction d’une possibilité de paix internationale. Ce principe peut s’énoncer ainsi : préserver la possibilité de l’avenir est le bien commun de l’humanité. Par suite, un système d’armes létal autonomes, s’il peut exister, ne sera pas en soi un outil moral (pas plus que l’arme atomique), mais il doit donc être utilisé pour cette raison de manière morale.

Un droit de la guerre réglée

Sur le plan des relations internationales, deux doctrines s’affrontent : celle qui considère que la guerre est l’état « normal » des relations internationales (les communautés politiques sont dans un état de nature ou état de guerre ou anarchie) ou bien que la paix est l’état « normal » des relations internationales (théorie dite de « la paix par le droit », inspirée par le philosophe Kant et qui a marqué l’ONU, la guerre devant être regardée comme ultime recours).

Menaces en évolution permanente

L’imaginaire européen depuis 1989 considère la paix comme un état naturel, au point de lui faire regarder la guerre comme un échec politique ⁽²⁾, mais on constate le retour de la puissance, au sens économique, militaire et culturel (Chine, Russie, Turquie) et du rapport entre les États (Iran/Arabie saoudite) au détriment de l’influence de type diplomatique et intellectuel qu’incarne le multilatéralisme.

Le champ de bataille (ce vocabulaire classique est inadapté mais significatif) se « mondialise » au sens où provoquer l’incertitude est un mode opératoire déstabilisateur. La signification des opérations est une matière mentale qui se prête désormais aux exploitations médiatiques, identitaires ou victimaires et complique la perception des enjeux ultimes.

Mais surtout, la perspective d’une guerre sans règles, quand les pratiques d’atrocités d’une extrême violence deviennent un moyen de « dissuasion » psychologique dominant marque les conflits asymétriques (hyper-terrorisme de masse ou ciblé, usage d’armes chimiques ou biologiques), ce qui constitue un facteur d’imprévisibilité donnant à la violence sans limites un avantage tactique sur le terrain et un avantage politique contre les démocraties (une opinion publique tétanisée se défie de son propre gouvernement).

Un double besoin de droit : autoriser et protéger

Contre la montée fanatisée de la violence, contre la mobilité imprévisible des dangers, les pays occidentaux trouvent des parades dans la haute technologie (dont les armes dites « intelligentes » mises en avant par la Third Offset Strategy du Pentagone). Toutefois, cette supériorité technique, parce qu’elle passe pour un gage d’invincibilité, favorise à son tour l’intensification du ressentiment et de la haine anti-Occidentaux. La circularité des réactions fait ainsi partie des nouveaux dangers.

L’usage d’armes automatisées utilisant des algorithmes de plus en plus complexes générera donc un double besoin de droit afin d’en autoriser l’usage militaire et de le protéger contre les accusations externes aussi bien que contre le risque de dérives internes (criminalité, abus de pouvoir et inhumanité). La réglementation juridique participera de la finalité spécifique de l’usage des futures armes robotisées qui ne seront plus comme aujourd’hui télé-opérées, ce qui inclut leur programmation spécifique : autolimitation et autodestruction.

Un principe juridique fort est indispensable : l’emploi des armes est mis au service d’un but central qu’est la guerre réglée, maîtrisée, autolimitée ; la guerre limitée faisant la guerre à la guerre absolue. La fonction contre-destructrice de systèmes d’armes automatisés voire autonomes s’exprimera par ce qui conditionne leur usage en même temps que leur légalité. « L’accroissement de la précision entraîne la réduction de l’énergie de destruction » ⁽³⁾.

Une politique de la guerre intelligente

Le public se représente bien souvent l’armée avec une guerre de retard. Or le soldat d’aujourd’hui est équipé avec beaucoup de matériel de haute technologie, et, à un officier supérieur, on demande, outre le courage d’affronter le danger, une grande capacité de jugement, de raisonnement et de décision. Les retentissements géopolitiques, diplomatiques et humanitaires des conflits contemporains, parce qu’ils sont imprévisibles et internationalisés, réclament une culture de haut niveau. Aussi la guerre, même au niveau tactique, est-elle devenue l’affaire de personnes hautement qualifiées.

La ruse, véritable ennemi

Les démocraties regardent le recours aux armes comme le moyen d’atteindre, restaurer et stabiliser la paix ; aussi l’éthique et le droit doivent-ils conditionner et superviser les opérations militaires. Chose étonnante, il résulte de cette volonté de moraliser la guerre un étrange paradoxe : la ruse s’impose, pour les agresseurs, comme l’ensemble illimité des moyens de dissimuler tromper, égarer, circonvenir pour épuiser, désorganiser et détruire les cibles. Des actes d’une extrême violence (sidération) peuvent servir à « prouver » l’impuissance des démocraties en montrant qu’elles sont inhibées par leurs propres principes éthiques. Le mensonge et la désinformation permettent de discréditer des soldats en mission en livrant à la presse de faux scénarios d’actions délictueuses. Les réseaux sociaux permettent le conditionnement des esprits, l’instrumentalisation des émotions, jusqu’à leur radicalisation. Ainsi, le facteur mental devient déterminant, les opinions publiques, les enfants, les populations fragiles devenant des cibles qu’il s’agit de déstabiliser sur le plan psychique et moral.

Les démocraties attendent de la technologie affinée des moyens de défense qu’elle évite la riposte passionnelle, la démesure de la réaction, l’erreur commise sous l’effet de l’émotion, de la fatigue ou du stress. Autrement dit, le renseignement est le moyen dont l’intelligence peut se servir pour dissuader et décourager les manœuvres de la ruse et de la violence exclusivement destructrices. Les armes nouvelles doivent être utilisées comme des armes intelligentes dès lors que les intelligences sont la cible ultime du combat. Le renseignement est le matériau « intelligent » des situations conflictuelles, tant sur le plan des opérations au cœur du conflit que dans les échanges entre les acteurs et les décideurs des buts derniers du recours aux armes. La technicisation des opérations militaires ne diminue pas, mais augmente l’exigence de responsabilité : l’homme uniquement, chef militaire ou chef d’État, est une volonté, une intelligence responsabilisée.

La maîtrise des opérations

À un nouvel art de la guerre correspond un nouvel esprit qui est un nouvel âge de la culture politique.

L’homme politique et le chef militaire qui se veulent responsables n’abandonnent pas aux machines le succès des engagements militaires et la sécurité de la population. Leur vocation spécifique est de n’user qu’à bon escient de la technique et uniquement pour conduire à un but démocratiquement justifiable. Ainsi, de manière générale, la robotisation des activités humaines doit provoquer un changement de regard sur la technique, faire passer d’une perspective industrielle (esprit de performance et de domination) à une vision opérationnelle (interaction entre l’homme et la machine). Certes, le désir d’accumulation, de domination, de contrôle et d’expansion reste un danger, mais il est à contresens de la nécessité de culture dont a besoin la société numérique pour se rendre humainement inventive et non pas simplement techniquement performante. L’aptitude à l’efficacité est de l’ordre de l’esprit ⁽⁴⁾ ; la maîtrise d’une action, d’une situation et, a fortiori, d’un conflit armé consiste à subordonner l’usage de la technique à la seule efficacité qui soit durable, laquelle est d’ordre culturel et mental : l’avenir de la vie collective d’une population en est le but.

L’enjeu, parce qu’il est civilisationnel, ne concerne pas uniquement les techniciens et les décideurs. Le progrès technico-scientifique est un phénomène culturellement global qui concerne chaque citoyen, car il impacte le sens qu’il donne à la vie, à la souffrance et au bonheur. Parce que les besoins de défense nationale les y conduisent, les militaires doivent anticiper et réussir ce changement du rapport à la technologie. Ils nous font découvrir que l’éthique s’incorpore dans la technique pour en permettre et en limiter les effets tout à la fois : « dans un environnement piégé et non reconnu, dans un cas d’infériorité numérique importante, d’évacuation médicale urgente, de protection de personnes menacées ou de situation déséquilibrée, face à d’autres robots, à des drones trop rapides et à des véhicules suicides, seule une autonomie même contrôlée permettra de réagir dans les délais suffisants » ⁽⁵⁾.

La complexité des situations et la scientificité technique des moyens sont telles que la confiance des utilisateurs dans les concepteurs est fondamentale pour la vie collective, qu’il s’agisse de médecine, d’industrie, de fiscalité, d’éducation, de police ou d’armée. Or, la confiance ne peut reposer que sur la crédibilité des acteurs, ici, en l’occurrence, sur le professionnalisme militaire qui prend en charge la responsabilité à la fois éthique et opératoire de la haute technologie. Comme a pu l’écrire récemment le Chef d’état-major des armées, le général Francois Lecointre, « tout malentendu sur le sens de [nos] valeurs ou dérive éthique de la part des armées serait de nature à rompre le lien [entre l’armée et la société] » ⁽⁶⁾.

La pratique française de la guerre contemporaine n’est pas mue par un esprit d’arrogance, de violence, d’expansionnisme ou d’impérialisme. L’éthique et le respect des règles font partie de son professionnalisme, qui est, en chacun des acteurs, l’union d’une intelligence, d’un savoir, d’une morale et d’un esprit incorporés dans les aptitudes au combat. Ce professionnalisme témoigne de ce que la technique est « capacitante, mais non déterminante », et ne saurait en aucun cas fixer le but d’une intervention.

Conscients de ces enjeux, les états-majors ont déjà anticipé les réflexions sur ces questions et appréhendé les nouvelles responsabilités qui incomberont aux décideurs militaires, comme le démontre cet ouvrage. C’est la raison pour laquelle le général de division Charles Beaudouin rappelle dans son introduction que si tout système robotique militaire contribue à accroître la capacité opérationnelle de l’armée de Terre sur les champs de bataille actuels et futurs, son emploi relève d’une décision de chef militaire et d’une responsabilité humaine, et que ce chef doit en maîtriser les effets afin de conserver le contrôle et la responsabilité de la mission. ♦

(1) Tolstoï Léon, Ma religion, Paris, Librairie Fischbacher, 1885.
(2) Cooper Robert, The Postmodern State and the World Order, 1996.
(3) Malis Christian, Guerre et stratégie au XX^e siècle, Fayard, 2014, 352 pages.
(4) Debas Matthieu, Du sabre à l’esprit, Editions JPO, 2017, 195 pages.
(5) Colonel Pierre Santoni, en p. 73-81 de ce Cahier.
(6) Lecointre Francois, Vision stratégique « pour une singularité positive », septembre 2018 (www.defense.gouv.fr/).