Gary Kasparov. C’est un nom que vous connaissez sûrement, celui du premier champion du monde d’échecs à avoir été défait par un ordinateur, en 1997. Vous connaissez aussi les noms de Fan Hui et Lee Sedol, parmi les meilleurs joueurs professionnels de go, qui se sont tous deux inclinés devant les programmes informatiques de Google DeepMind.

Vous connaissez peut-être aussi, ou moins, le nom du colonel Gene Lee, ancien pilote de chasse et formateur des pilotes de l’US Air Force, vaincu en 2016 par une intelligence artificielle, lors d’une simulation de combat aérien. Ce programme, même privé de certaines commandes, est capable de réagir 250 fois plus rapidement que l’homme. À ce rythme-là, j’ai bien peur qu’à la sortie de Top Gun en 2020, Tom Cruise perde son aura chez nos jeunes pilotes de l’aéronautique navale !

Pour certains, l’intelligence artificielle, l’IA, n’est synonyme que de progrès. C’est le moyen de détecter de façon plus précoce certaines maladies, de maîtriser notre consommation énergétique ou encore de s’adapter au rythme de chaque enfant dans le domaine de l’éducation.

Pour d’autres, l’intelligence artificielle n’est que menace et ouvre la voie au marketing irrespectueux de la vie privée qui sait tout de vos envies de week-end à Rome, jusqu’à la propagation des fake news, ou plus grave encore, à la manipulation des élections.

Annonciatrice de l’immortalité transhumaniste ou au contraire de la fin de l’espèce humaine, l’intelligence artificielle nourrit aujourd’hui tous les fantasmes. Je voudrais vous assurer d’une chose : le ministère des Armées ne tombera dans aucun de ces excès.

Nous choisissons la voie de la responsabilité, celle de protéger à la fois nos valeurs et nos concitoyens, tout en embrassant les opportunités fabuleuses qui sont offertes par l’intelligence artificielle.

Nous choisissons de donner à nos forces les moyens de remplir leurs missions dans un environnement opérationnel qui se durcit, comme on peut le constater chaque jour.

Nous choisissons de renforcer notre capacité à assumer, à l’avenir, nos responsabilités internationales au profit de la paix et de la sécurité.

Pas un jour ne passe sans qu’on ne parle d’intelligence artificielle, de ce qu’elle promet de révolutionner dans nos vies quotidiennes, des investissements massifs réalisés par toutes les grandes puissances étatiques comme économiques.

Le développement de l’IA est désormais un lieu de compétition stratégique, une course à la puissance technologique, économique mais aussi militaire. Le président de la République a souhaité que la France prenne la place qui lui revient dans cette course en s’appuyant sur l’excellence de son tissu académique et industriel. En endossant les conclusions du rapport de Cédric Villani, dont je salue à nouveau le remarquable travail, il a dévoilé il y a tout juste un an la stratégie de la France qui place la défense parmi les quatre domaines prioritaires, aux côtés de la santé, des transports et de l’environnement. Et je m’inscris pleinement dans cette stratégie gouvernementale et je compte bien faire de l’IA une priorité de notre défense nationale.

Alors oui, les armées françaises investissent et investiront dans l’intelligence artificielle, c’est une évidence. Car c’est une technologie stratégique, indispensable pour garantir notre supériorité opérationnelle.

Les bénéfices potentiels de l’IA pour notre ministère sont forts et nombreux, et alors que les armées des principales puissances affûtent déjà leurs algorithmes, nous ne pouvons pas prendre le risque de manquer ce virage technologique. Tout se joue donc maintenant.

L’IA, c’est une aide précieuse à la décision. Elle nous permettra de mieux comprendre et mieux prévoir les menaces, d’agir plus vite et avec plus de précision et de certitude : éviter la surprise, éviter la méprise, donner du sens au torrent de données qui parfois nous submerge. Je pense au projet de la Marine nationale qui développe une plateforme d’analyse en temps réel du trafic maritime à l’échelle mondiale, qui sera donc capable par exemple de détecter les embarcations qui soudainement dévient de leur trajectoire habituelle.

L’IA n’est pas une fin en soi, elle doit être un appui à une décision plus éclairée, plus rapide, un outil de lucidité pour les décideurs stratégiques comme tactiques.

L’IA, c’est également des capacités inédites pour le renseignement. Croiser des milliers d’images satellites, avec les données du darkweb, pour parvenir à en extraire des liens intéressants, c’est ce que nous permettra l’analyse de données massives.

L’IA, c’est aussi mieux protéger nos militaires. Évacuer des blessés du champ de bataille, ouvrir un itinéraire, déminer un terrain, autant de tâches périlleuses que nous pourrons bientôt confier à des robots.

L’IA c’est encore une cyberdéfense renforcée. Elle permettra à nos cyber-combattants de contrer à grande vitesse les attaques toujours plus furtives, toujours plus nombreuses et toujours plus automatisées qui menacent nos systèmes et nos économies.

L’IA, c’est enfin un allégement de la pénibilité et un gage de précision. Elle doit soulager l’homme de tâches fastidieuses, répétitives, parfois source d’erreurs. En effet, pourquoi un mécanicien passerait-il des heures à déceler une panne que l’analyse des données pourrait directement lui indiquer sans risque de se tromper sur le remplacement des pièces ? L’US Air Force, qui a déjà adopté l’IA dans son processus de maintien en condition opérationnelle, a annoncé une disponibilité de ses avions en hausse de 25 %, c’est considérable et permettez-moi de vous dire que cela nous fait rêver. L’IA nous permettra un meilleur entretien de nos matériels, une meilleure gestion de nos stocks et de notre consommation d’énergie. Nos militaires pourront se concentrer sur les aspects critiques de leurs missions, nos personnels civils seront plus efficients.

L’IA, ce n’est ni plus ni moins que la garantie du plus haut niveau de protection des Français. Et parce que c’est notre première priorité, nous saisirons toutes les opportunités.

* * *

Nous le ferons avec volontarisme et ambition. Nous le ferons aussi avec responsabilité. Car la France a des valeurs, la France respecte ses engagements internationaux, et la France sera fidèle à cette marque de fabrique. Et c’était d’ailleurs le sens de l’événement « AI for Humanity » tenu il y a un an par le président de la République.

Je vous parle de valeurs, je vous parle d’intelligence artificielle militaire et je sais que dans beaucoup d’esprits une question émerge. Une question qui nourrit les débats, suscite de l’intérêt mais aussi de l’inquiétude, tant dans la communauté des développeurs qu’au sein de la société civile.

Et cette question, c’est celle des systèmes d’armes létaux, les SALA autonomes, que certains appellent les « robots-tueurs ». Des systèmes d’armes, qui seraient capables d’agir sans aucune forme de supervision humaine, qui seraient capables de modifier le cadre de la mission qui leur a été fixée, voire de s’assigner eux-mêmes de nouvelles missions.

Ces systèmes, je le dis de façon très catégorique, n’existent pas aujourd’hui sur les théâtres d’opération. Mais pour autant, le débat est légitime. C’est d’ailleurs la France qui l’a introduit en 2013 aux Nations unies, dans l’enceinte de la convention sur l’interdiction ou la limitation de l’emploi de certaines armes classiques. Et nous souhaitons que les discussions se poursuivent dans ce cadre multilatéral, le seul qui pourra aboutir à un encadrement des systèmes autonomes militaires, c’est le seul qui soit universel, crédible, efficace. Nous ne pouvons pas écarter le risque que de telles armes puissent être développées, un jour, par des États irresponsables et tomber entre les mains d’acteurs non-étatiques. La nécessité de dégager un consensus robuste avec tous les autres États du monde n’en est donc que plus impérieuse.

La position française est sans ambiguïté, le président de la République a été parfaitement clair : la France refuse de confier la décision de vie ou de mort à une machine qui agirait de façon pleinement autonome et échapperait à tout contrôle humain.

De tels systèmes sont fondamentalement contraires à tous nos principes. Ils n’ont aucun intérêt opérationnel pour un État dont les armées respectent le droit international, et nous n’en déploierons pas. Terminator ne défilera pas au 14 juillet.

Nous développerons l’intelligence artificielle de défense selon trois grands principes : le respect du droit international, le maintien d’un contrôle humain suffisant et la permanence de la responsabilité du commandement.

Nous avons des lignes rouges dans le champ de l’action militaire. Des lignes rouges tracées par les principes du droit humanitaire international et le droit des conflits armés : je citerai par exemple la proportionnalité de la réponse, la discrimination entre combattants et non-combattant, la minimisation des dommages collatéraux. L’intelligence artificielle ne fera bouger aucune de ces lignes. Au contraire, l’intelligence artificielle nous permettra de continuer à les respecter dans les conflits de demain.

Et pour joindre les actes à la parole, j’ai pris la décision de renforcer l’examen de licéité de nos nouveaux armements dans le cadre de la réforme des programmes d’armement. Fruit d’un dialogue éclairé entre les directeurs de programme, les états-majors et les juristes, l’examen de licéité renforcé garantira la conformité des nouveaux moyens et matériels de guerre au droit international.

Quel que soit le degré d’automatisation, voire d’autonomie de nos systèmes d’armes actuels et futurs, ceux-ci resteront subordonnés au commandement humain. Cela suppose que l’homme définisse et valide leurs règles de fonctionnement, leurs règles d’emploi et leurs règles d’engagement. Cela suppose qu’il exerce un contrôle suffisant sur les systèmes déployés.

Pour veiller tous les jours à ce que ces principes soient respectés dans la durée et pour nourrir notre réflexion éthique, alors même que de nouveaux usages de l’IA émergent chaque jour, j’ai décidé de créer dès cette année un comité d’éthique ministériel sur les sujets de défense. Ce comité sera un outil d’aide à la décision et à l’anticipation. Il aura vocation à traiter en priorité des questions posées par les technologies émergentes et leur emploi par l’homme dans le domaine de la défense. Mais au-delà, les interrogations éthiques multiples liées à l’évolution du métier des armes ainsi que des espaces de conflictualité pourront lui être soumis.

Ce comité sera mis en place dans les prochains mois. En son sein, la riche réflexion éthique des hommes et des femmes du ministère sera confrontée à celle de personnalités extérieures puisant à diverses sources de réflexion : les sciences, la philosophie, le droit ou bien encore l’histoire. Le comité éthique ministériel, aiguisera en outre, son analyse par des échanges avec le Comité consultatif national d’éthique et les instances de réflexion du monde de la recherche et de l’industrie.

La France sera la première grande puissance militaire à se doter d’une structure de réflexion permanente sur les enjeux éthiques des nouvelles technologies dans le domaine de la défense, et se placera ainsi à la pointe de cette réflexion au niveau international.

* * *

Les questions légitimes relatives à l’emploi de l’IA dans des systèmes militaires se posent en réalité dans tous les systèmes critiques, et je pense en particulier au véhicule autonome. Ces questions ne pourront pas être résolues par une interdiction pure et simple : il nous faut donc nourrir notre réflexion et investir dans la recherche pour rendre l’intelligence artificielle robuste et sûre, et développer des systèmes de façon maîtrisée.

Car si les questions éthiques sont primordiales, nous ne sous-estimons pas non plus les risques de nature technique. L’IA reste une technologie très jeune, et la faible maturité de certaines approches ne permet pas aujourd’hui de les utiliser dans des applications critiques, qui sont à forts enjeux. Lorsqu’il s’agit de battre un champion de go ou bien de recommander le film du dimanche soir, la machine peut se tromper, ça n’est pas très grave, votre soirée peut en être gâchée, mais

guère plus. Lorsqu’il s’agit de détecter une mine sous-marine ou de contrer une cyber-attaque, il est évident que la fiabilité et la robustesse deviennent des enjeux majeurs.

La manipulation des données d’apprentissage, les biais cognitifs transmis par l’homme aux algorithmes, les systèmes désorientés et mis en défaut par un simple bout de scotch, les systèmes hackables à distance : les facteurs de risques que nous devons évaluer et maîtriser dès la conception sont extrêmement nombreux.

Et c’est tout l’enjeu du grand défi sur la certification de l’IA récemment lancé par le Conseil de l’Innovation. Cette initiative a tout notre soutien, car dans le monde civil comme militaire, il nous faut bâtir une IA robuste, une IA de confiance.

C’est pourquoi, à ma demande, la DGA élabore en ce moment même un guide de développement maîtrisé des systèmes d’IA. Nous le partagerons et le consoliderons avec nos industriels, avec les laboratoires et avec toute la communauté des systèmes critiques. Pour que nos armées puissent utiliser ces systèmes en confiance et en toute responsabilité.

* * *

Pour tirer tous les bénéfices d’une IA parfaitement maîtrisée, nous avons construit une feuille de route ambitieuse et pragmatique.

Pour commencer, nous investirons d’abord dans les carburants de l’IA : c’est-à-dire les données et les capacités de calcul. Le ministère produit de très nombreuses données de toute nature et de tout niveau de confidentialité. Il faut tout d’abord m’assurer que ces données ne seront plus perdues ou gaspillées faute d’outils pour les recueillir, les stocker ou les traiter.

Dans le sillage du gouvernement, nous prendrons, nous aussi, le virage du cloud pour disposer des capacités de calcul et de stockage indispensables au développement de l’IA, et cela sans compromettre la sécurité et la souveraineté de nos données.

Il nous faudra ensuite décloisonner les données, les partager, en faire un actif stratégique de notre ministère. C’est une question de procédures bien sûr, mais aussi de culture. La Direction générale du numérique et des systèmes d’information et de communication (DGNUM) a élaboré une politique de gouvernance de la donnée capable de concilier ouverture et sécurité. Et je compte donc sur

l’ensemble des services du ministère pour la mettre en œuvre, mais aussi sur toute notre communauté industrielle de défense pour être collaboratifs et ne pas s’accrocher à une logique de propriétaire de la donnée qui serait un obstacle à notre développement.

Dans le domaine des équipements, nous avons identifié six domaines d’investissement prioritaires.

• Premièrement, l’aide à la décision et à la planification car nous devons pouvoir disposer des meilleures propositions dans des temps toujours plus contraints pour pouvoir décider vite, avec la plus grande justesse possible.
• Deuxièmement, le renseignement car la supériorité informationnelle est un gage majeur d’autonomie stratégique. L’IA boostera nos moyens de fouille de données dans des proportions incommensurables.
• Troisièmement, le combat collaboratif car intégrer de nombreux systèmes à l’intérieur d’une même bulle tactique renforcera nos capacités opérationnelles. Et demain, ce seront des avions, des chars de combat, des bâtiments et des drones qui pourront communiquer et mener des actions ensemble.
• La robotique également, car soulager nos agents et nos militaires des tâches répétitives ou dangereuses renforcera leur efficacité, et les protégera sur le terrain. Dès l’année prochaine, le système de lutte antimines futur (SLAMF) mettra au point des essaims de robots sous-marins qui procéderont au déminage qui permettront aux marins de se tenir à distance de la mine. Dans l’Armée de terre, nous expérimentons, d’ores et déjà, des robots pour porter des charges lourdes ou évacuer les blessés.
• Et aussi les opérations dans le cyberespace, car tout comme les transactions financières, les cyberattaques deviendront « haute-fréquence ». Et pour les contrer, la seule action humaine sera en dehors du tempo requis.
• Enfin, la logistique et la maintenance, car il en va de la sécurité de nos forces et de la disponibilité de nos flottes. J’ai demandé à la Marine nationale de lancer une expérimentation de maintenance prédictive sur les moteurs de certaines de ses frégates et l’Armée de l’air, qui travaille déjà sur de la maintenance prédictive pour les Rafale, a lancé un projet identique sur la flotte de C130J, en coopération avec le Royaume-Uni et les États-Unis.

Ces domaines spécifiques n’en excluent évidemment pas d’autres, comme la santé, les ressources humaines ou l’administration générale, qui sont des secteurs dont nous savons tous à quel point ils sont au cœur des développements et des applications actuelles.

Alors, comme je l’ai annoncé il y a un an, nous investirons 100 millions d’euros par an de 2019 à 2025 pour le cœur de l’IA. Et c’est en réalité bien plus si l’on compte tous les systèmes qui seront irrigués par l’IA, car cet effort touche absolument tous les programmes d’armement, du Rafale au Scorpion, de l’espace au combat naval collaboratif.

Nous développerons l’IA dans tous nos systèmes. Mais tous seront conçus pour être opérationnels en toutes circonstances, c’est-à-dire y compris dans les conditions les plus dégradées. Si demain, avec le développement des véhicules dits autonomes, nos petits-enfants n’auront peut-être plus à passer leur permis de conduire, nos militaires, eux, seront formés pour être capables d’utiliser leurs équipements en toute situation. Même lorsqu’une panne met hors d’usage certaines commandes. Nos aviateurs apprennent toujours à piloter à vue et nous n’avons pas l’intention de changer ces méthodes d’apprentissage.

* * *

L’IA, c’est également un défi pour notre organisation. Et je souhaite qu’au sein du ministère, nous prenions tous sans exception ce virage technologique. Il ne s’agit pas, je vous arrête tout de suite, de bâtir une « armée de l’IA » : cela n’aurait aucun sens. Nous structurerons notre compétence en IA autour d’une cellule de coordination de l’intelligence artificielle de défense, logée au sein de l’Agence de l’innovation de défense. Cette équipe d’une dizaine d’experts pluridisciplinaires aura pour mission de coordonner l’action du ministère en matière d’IA.

Il y a un an, je vous avais annoncé les 50 premiers recrutements dans le domaine de l’IA, je suis très fière de vous annoncer que nous multiplierons par quatre ces recrutements. D’ici 2023, la cellule de coordination s’appuiera sur un réseau de 200 spécialistes de l’IA, dont une centaine à Bruz (Ille-et-Vilaine) au sein du centre technique de référence de DGA Maîtrise de l’information. Ce réseau développera les usages de l’IA dans tous les domaines, du théâtre d’opération

jusqu’à la direction des affaires financières en passant par le MCO aéronautique. C’est ainsi qu’ensemble, nous avancerons dans le bon sens.

L’IA, c’est aussi le défi des talents. Nous devrons recruter les meilleurs, retenir les plus ingénieux, faire progresser chacun d’entre eux. À l’image de l’Institut polytechnique de Paris tout près d’ici, je sais que nos écoles d’ingénieurs ont déjà pris le virage de l’IA. Nos écoles d’officiers s’y engagent aussi et je ne peux que les encourager dans cette voie.

* * *

Si je suis ici, à Saclay, c’est parce que je sais que cette feuille de route ambitieuse, nous ne l’accomplirons pas seuls.

L’IA est un domaine tiré par la recherche académique d’excellence ainsi que par le secteur industriel. Et je suis fière d’être parmi vous, aujourd’hui, au sein de DATA IA. Le plateau de Saclay est à la convergence des talents les plus remarquables. Et nous comptons sur vous.

Vous êtes parmi les leaders mondiaux de l’IA, beaucoup nous envient votre talent à tel point qu’ils viennent chercher ici les cerveaux dont ils manquent. Ici à Saclay, ici en France, nous avons tous les atouts dont nos armées ont besoin.

Je sais aussi la fascination, voire l’attraction, qu’exercent chez certains les grands groupes, américains ou chinois, du numérique. Et je ne sous-estime pas leurs formidables réalisations et leur puissance de feu, si vous me permettez cette métaphore militaire.

Mais ce dont nous avons besoin au ministère des Armées existe aussi ici, au sein des entreprises et des laboratoires français et européens : c’est une IA, robuste, explicable et demain certifiée. Une IA embarquable, frugale c’est-à-dire peu gourmande en données et en énergie. Enfin, une IA capable d’accomplir des tâches critiques en environnement contraint.

L’Agence de l’innovation de défense a déjà commencé à identifier les meilleures compétences françaises, les meilleurs porteurs de projets parmi nos entreprises, nos startups, nos instituts de recherche, nos universités, nos écoles. Comme je vous le disais, la dualité de l’IA nous permet de pouvoir nous appuyer sur un secteur civil dynamique, qui apportera au monde militaire de nombreuses réponses.

Et je compte sur nos industriels pour favoriser l’intégration, dans tous nos systèmes, des solutions d’IA déjà disponibles. Je sais qu’en ces lieux, on développe des outils de façon partagée et ouverte, en open source, et c’est pour nous une source d’inspiration. Car il nous faut accélérer le transfert de ces solutions issues du vaste écosystème de la recherche vers l’industrie de défense. L’IA, nous en avons besoin, dès maintenant, et c’est dans cet esprit que nous conclurons des partenariats stratégiques dans les prochains mois.

* * *

La France a une position cohérente et forte. Elle a également les capacités pour construire d’ambitieux partenariats internationaux pour garantir son autonomie stratégique.

Ces partenariats reposeront d’abord sur les coopérations déjà approfondies qui nous lient avec nos partenaires allemands et britanniques, avec qui nous sommes engagés dans des développements capacitaires communs.

Mais comme Cédric Villani l’a souligné dans son rapport et comme l’a rappelé à de multiples reprises le président de la République, les enjeux technologiques de souveraineté nationale sont aujourd’hui indissociables des enjeux européens. Pour garantir notre autonomie technologique, l’Europe est notre unique horizon et doit prendre la tête des nouvelles ruptures technologiques.

L’Union européenne en a déjà pris toute la mesure et met en place des nouveaux outils de soutien à l’innovation de rupture, y compris, et c’est une très grande nouveauté, dans le domaine de la défense. Je salue toutes ces initiatives comme le Conseil européen de l’innovation dans le cadre d’Horizon Europe ou le Fonds européen de défense. Mobilisés ensemble, ces outils européens doivent nous permettre d’unir nos forces, celles de nos laboratoires de recherche comme nos industries de défense, pour développer une IA européenne de pointe.

* * *

L’intelligence artificielle est certes une révolution, dont nous entrevoyons les prémices aujourd’hui. Mais des révolutions, nous en avons connu déjà un certain nombre. Jean Jaurès disait qu’« il ne peut y avoir de révolution que là où il y a conscience », et celle de l’intelligence artificielle n’y échappe pas. C’est donc en pleine conscience, avec pragmatisme et responsabilité que nous la conduirons.

Une IA performante, robuste et maîtrisée. Voilà ce que je souhaite construire avec vous. Voilà ce que nous devons construire ensemble. Pour ne jamais être dépassé par l’ennemi. Pour que nos armées soient plus fortes. Et pour toujours, protéger les Français. ♦