Le problème des définitions Lorsque l’on aborde la question des systèmes d’armes « autonomes », on se heurte à une question de définition. Nous avons en effet tout un éventail de systèmes d’armes dont les actions peuvent se réaliser sans l’intervention d’un humain. Mais, les uns (systèmes « automatisés ») ont des comportements parfaitement prédictibles dans une zone d’action clairement prescrite, tandis que les autres pourraient avoir des degrés de liberté bien plus étendus et être imprédictibles, en raison de capacités de reprogrammation ou d’auto-apprentissage ⁽¹⁾. C’est dans ce cas que l’on peut véritablement parler « d’autonomie » (dans le sens où le système possède sa propre loi d’action).

Cet éventail doit être enrichi par des notions et des degrés de « supervision » humaine. Un système pourrait être doué d’une autonomie, tout en étant, par ailleurs, constamment, ou seulement à certains moments critiques, supervisé par un humain. On peut également penser à un « partage d’autorité » ⁽²⁾ entre l’être humain et la machine, l’un pouvant reprendre le contrôle à l’autre suivant les nécessités de la mission ou les dangers rencontrés. Remarquons que l’autonomie peut concerner les capacités de pilotage et de navigation ou les « fonctions critiques » de détection, d’identification, de sélection et d’attaque, ou les deux ⁽³⁾.

Les problèmes légaux et éthiques qui apparaissent lorsqu’on considère l’utilisation d’armes autonomes, ne sont pas nécessairement liés à l’autonomie. Celle-ci peut être gage de sécurité. Il suffit de penser à un système autonome capable de détecter des mouvements aberrants d’un pilote d’avion et de reprendre de lui-même le pilotage pour éviter un crash. Les problèmes arrivent quand l’autonomie est entendue comme une indépendance radicale (sans partage, sans supervision) par rapport à une autorité humaine ; cette autonomie n’étant plus envisagée avec comme référence la protection et le respect de l’humain, du droit et du bien commun.