L’intelligence artificielle (IA) est un objet aux multiples facettes, dont le potentiel de déstabilisation est énorme. Plus qu’un simple développement technologique ou un nouveau champ scientifique, c’est un moteur de la compétition entre puissances, qui conditionne en grande partie les configurations du pouvoir dans le siècle qui s’ouvre. Tel est le propos de Paul Scharre, vice-président et directeur des études au Center for a New American Security, avec Four Battlegrounds : analyser les ressorts du combat pour la domination dans le « nouvel ordre digital » porté par l’IA, alors que la relance de la rivalité géopolitique entre Pékin et Washington à la fin des années 2010 a justement coïncidé avec l’accélération technologique dans le domaine de l’IA et plus particulièrement du Machine Learning. Dans ce contexte, pour l’auteur du déjà remarqué Army of None, le défi n’est pas tant de savoir comment l’IA va être utilisée, mais plutôt de savoir qui va en définir les règles et en fixer la finalité.

Pour développer sa pensée, l’auteur identifie quatre « champs de bataille » dans lesquels se joue la course à l’IA : les données, la puissance de calcul, les talents et les institutions. Sur la ligne de départ, les athlètes ne sont pas égaux : la Chine est en avance pour les données (en raison de la masse qu’elle collecte et exploite sans entraves) et dans les institutions (en raison de sa capacité de régulation autoritaire), tandis que les États-Unis dominent de très loin – mais pour combien de temps ? – pour les capacités de calcul (en raison de leur avance technologique et de leur meilleure maîtrise du cycle des semi-conducteurs) et pour la gestion des talents (l’Amérique restant le phare qui attire tous les chercheurs dans le domaine de l’IA, y compris les chercheurs chinois). Cependant, dans cette compétition, les choses peuvent changer et chacun cherche à compenser son retard à marche forcée.

En scrutant les dynamiques à l’œuvre sur ces quatre fronts, Paul Scharre fait émerger au premier chef l’influence politique de l’IA. L’auteur nous propose un angoissant voyage au cœur du système autocratique chinois qui utilise l’IA pour exercer un contrôle sans précédent sur sa population, à un degré jusqu’ici inatteignable pour des humains. Surveillance de masse, reconnaissance faciale, désinformation, scan des téléphones portables, système de « crédit social » (pour quantifier le bon comportement des citoyens)… cette manière dont Pékin utilise l’IA lui imprime une orientation qui, selon Paul Scharre, aura des conséquences sur la forme du futur ordre mondial. Pourquoi ? Car la technologie permet à un pays comme la Chine d’exporter son modèle politique : bref, dans l’ère digitale encore plus qu’hier, la technologie n’est pas neutre.

Le cœur du propos de Four Battlegrounds porte néanmoins sur la nature de l’IA ⁽¹⁾, ses forces et ses faiblesses, avec une attention particulière sur ses applications dans le domaine militaire. En se basant sur de nombreux exemples concrets de cas d’usage de l’IA, Paul Scharre balaye avec brio toutes les problématiques liées au Machine Learning (qu’il soit supervisé, non supervisé ou dit « renforcement »), en montrant ce que l’on peut en attendre et au contraire ce qui lui est inaccessible au regard de ses limites intrinsèques. Les distinctions entre prédictibilité et compréhensibilité d’une part, et entre performance et compétence d’autre part, sont toutes deux bien amenées. Les questions de l’empoisonnement des données et de la dialectique « offensif – défensif » dans le domaine cognitif soulèvent, quant à elles, dans leurs sillages l’enjeu de la sécurisation de l’IA… alors même que la tendance actuelle est d’aller (trop) vite en développant une IA sans protections, dans ce que l’auteur nomme une « race to the bottom » porteuse de risques. Ici, on pourra apprécier les considérations sur le potentiel de déstabilisation internationale d’une IA autonome qui serait mal contrôlée, dans la mesure où les systèmes qui en découleraient seraient facteurs d’ambiguïté dans les crises.

Toutefois, le lecteur intéressé par les questions de défense sera surtout attiré par les réflexions de Paul Scharre sur les conséquences de l’IA sur la conflictualité, tant dans la manière de faire la guerre que sur la nature de la guerre. Si la révolution industrielle a modifié il y a de nombreuses décennies le champ physique de la guerre, l’IA en modifie désormais le champ cognitif. En particulier, cette dernière ouvre la porte du champ de bataille à des systèmes qui font non seulement mieux certaines tâches confiées jusqu’ici aux humains, mais qui surtout opèrent différemment. C’est cette différence que l’auteur explore, en mettant en lumière ses conséquences : des comportements plus agressifs de systèmes programmés pour vaincre, de brusques revirements tactiques, une plus grande dispersion des dispositifs, une capacité (pour la première fois dans l’histoire de la guerre) à coordonner des essaims dont la rationalité n’aura rien à voir avec celle d’un groupe d’humains agissant de manière coordonnée, etc. Paul Scharre va même jusqu’à penser que certains principes, tel l’avantage de la défensive (qui repose en partie sur un ressort moral, donc humain), seront altérés. Il va encore plus loin en explorant les pistes qui pourraient faire basculer la nature de la guerre comme affrontement de volontés humaines pour un objectif politique. Et là encore, on en revient à la question des règles : tout l’enjeu, nous dit Scharre, est de trouver un équilibre entre régimes autoritaires et régimes démocratiques pour définir un cadre d’emploi de l’IA acceptable pour tous. En clair, il s’agit de faire en sorte qu’un espace de coopération soit ménagé dans la compétition entre Chine et États-Unis pour éviter que la face sombre de l’IA ne vienne éclipser ses potentialités bénéfiques. Vœux pieux ? Peut-être, mais l’auteur n’en souligne pas moins l’importance compte tenu des enjeux politiques portés par l’IA. Au total, des quatre battlegrounds identifiés par Scharre, c’est celui des institutions qui doit être investi en priorité, alors que les démocraties y ont pris le départ de la course avec un handicap. ♦

(1) L’auteur examine l’IA dans son ensemble, c’est-à-dire l’IA dite « rules based » (forme la plus élémentaire utilisant des jeux de règles pour fonctionner) et l’IA basée sur l’emploi du Machine Learning (forme la plus évoluée, qui utilise des algorithmes entraînés sur des données et qui inclue notamment le Deep Learning utilisant des réseaux de neurones).