Certains sont pessimistes. Elon Musk, patron de SpaceX et Tesla, a qualifié l’intelligence artificielle (IA) de plus dangereuse que l’arme nucléaire. Le regretté professeur Stephen Hawking a présenté l’avenir de manière encore plus dramatique : « Le développement d’une intelligence artificielle future pourrait sonner le glas de la race humaine, et même de l’humanité. » D’autres sont plus optimistes, estimant que les opportunités l’emportent sur les risques.

Les préoccupations ont essentiellement été de savoir si, à l’avenir, l’IA sera notre serviteur ou notre maître. Cela dépend ensuite de notre capacité à établir un cadre éthique commun aux niveaux national et international, garantissant que le développement et l’utilisation de l’IA seront conçus dans l’intérêt de l’homme. Les gouvernements – la France, le Canada et le Royaume-Uni, sont à l’avant-garde – mais également les entreprises et les organisations du secteur civil, du secteur privé par le biais d’institutions récemment créées, comme le Partenariat sur l’IA.

J’ai récemment présidé un comité restreint de la Chambre des Lords qui a publié un rapport en avril 2018 intitulé AI in the UK Ready Willing and Able?, qui a abordé non seulement les opportunités mais également les problèmes concernant les risques engendrés par l’IA et les actions nécessaires pour les atténuer. Dans nos conclusions, nous n’étions certainement pas de l’école d’Elon Musk. Nous n’étions pas des optimistes aveugles. Nous étions pleinement conscients des risques que l’utilisation généralisée de l’IA pourrait générer, mais nos éléments de preuve nous ont amenés à penser que ces risques sont évitables ou peuvent être atténués pour réduire leur impact, si des mesures décisives sont prises.

L’IA est bien sûr avec nous ici et maintenant : Echo et Echo Dot d’Amazon, Google Home et divers autres appareils, Siri sur Apple par exemple, sont déjà installés dans un foyer sur dix aux États-Unis et au Royaume-Uni.

Nos recommandations étaient donc censées être pratiques et d’application immédiate. Elles reposaient sur un certain nombre de points centraux qui émergent du rapport.

Le premier en termes d’opportunités, pour faire de nous l’un des meilleurs endroits au monde pour développer et utiliser l’IA. Nous avons identifié une série d’étapes essentielles mais simples et nécessaires en termes de recherche, de financement et de stratégie industrielle qui permettront au Royaume-Uni de rester sur le devant de la scène. Une véritable ambition est indispensable avec un cadre politique national clair.

Nos autres discussions ont trait à un ensemble de questions moins simples qui doivent être abordées, à commencer par la diversité et l’inclusion. Cette question doit être poursuivie dans les domaines de l’éducation et des compétences, de la compréhension numérique, des perspectives d’emploi, de la conception de l’IA, des algorithmes et des bases de données utilisés. Les préjugés du passé ne doivent pas être involontairement intégrés à des systèmes automatisés. Nous avons dit que le gouvernement devrait encourager l’élaboration de nouvelles méthodes d’audit des bases de données utilisés dans le domaine de l’IA, ainsi que favoriser une plus grande diversité dans la formation et le recrutement de spécialistes de celle-ci.

Un autre fil conducteur concerne l’équipement des personnes pour l’avenir. L’IA va accélérer la rupture numérique sur le marché du travail. De nombreux emplois seront améliorés par l’intelligence artificielle, beaucoup disparaîtront et de nombreux nouveaux emplois, encore inconnus, seront créés. L’IA aura des conséquences importantes sur la manière dont la société vit et travaille. L’avenir consistera à tirer parti à la fois des capacités humaines et des capacités de la machine, et nous devons créer un plan directeur pour réformer l’éducation afin de répondre à ces demandes. Les enfants doivent être correctement préparés à travailler avec l’IA et à l’utiliser.

Pour tous les jeunes, les connaissances de base et la compréhension nécessaires pour naviguer dans un monde axé sur l’IA seront essentielles. En particulier, nous avons recommandé que la conception et l’utilisation éthiques de la technologie fassent partie intégrante du programme d’études. Un investissement important des pouvoirs publics dans les compétences et la formation est également impératif, non seulement en informatique et en mathématiques, mais également dans la pensée critique et les compétences créatives si l’on veut que les perturbations causées par l’IA soient exploitées efficacement, au profit de la population active et de la croissance de la productivité nationale. Le recyclage deviendra une nécessité permanente.

Un autre thème est que les utilisateurs doivent pouvoir mieux contrôler leurs données et leur utilisation. Nous devons trouver le juste équilibre entre l’optimisation des informations que les données peuvent fournir pour améliorer les services et la protection de la vie privée.

Grâce aux actions de Cambridge Analytica, les consommateurs et les citoyens sont beaucoup plus conscients des utilisations qui sont faites de leurs données, à la fois par le biais de l’IA et autrement qu’il y a quelques mois.

La manière dont les données sont collectées et accessibles doit changer, afin que tout le monde puisse avoir un accès juste et raisonnable à celles-ci, et que les citoyens et les consommateurs puissent protéger leur vie privée et leur libre arbitre. Cela signifie utiliser des concepts établis, tels que les données ouvertes, les conseils consultatifs sur l’éthique et la législation sur la protection des données, développer de nouveaux cadres et mécanismes, tels que des centres de transférabilité des données et des bases de données.

Le comité était particulièrement attaché à la nécessité d’éviter les monopoles de données, en particulier ceux des grandes entreprises de technologie. Le droit de la concurrence et les autorités de réglementation doivent empêcher les grandes entreprises qui gèrent d’importantes quantités de données de devenir trop puissantes dans ce paysage.

Le fil conducteur final, le plus important et le plus fédérateur, est qu’une approche éthique est fondamentale pour faire du développement et de l’utilisation de l’IA un succès, en particulier avec les développements inter-gouvernementaux ainsi que du secteur privé mentionnés plus haut.

Nous avons suggéré cinq principes qui pourraient constituer la base d’un code intersectoriel sur l’IA et nous avons recommandé qu’ils soient acceptés et partagés largement, aux niveaux national et international : l’intelligence artificielle doit être développée pour le bien commun et le bénéfice de l’humanité ; l’intelligence artificielle devrait fonctionner selon des principes d’intelligibilité et d’équité ; l’intelligence artificielle ne doit pas être utilisée pour diminuer les droits des données, ni la vie privée des individus, des familles ou des communautés ; tous les citoyens devraient avoir le droit d’être éduqués pour leur permettre de s’épanouir mentalement, émotionnellement et économiquement aux côtés de l’intelligence artificielle ; le pouvoir autonome de blesser, de détruire ou de tromper les êtres humains ne devrait jamais être conféré à l’intelligence artificielle.

* * *

Une approche éthique dans tous les secteurs garantira que le public fait confiance à cette technologie et en voit surtout les avantages, tout en le préparant également à contester son utilisation abusive. De plus, nous avons, par le biais de notre audit et de notre conception éthique, mis au point des outils permettant de garantir le respect des principes éthiques.

Une politique de l’IA en est à ses balbutiements au Royaume-Uni et ailleurs. Notre gouvernement a bien commencé dans son élaboration, mais sans une coopération et une action pour instaurer au niveau international un cadre éthique, en particulier en ce qui concerne l’application militaire de l’IA, il est difficile de voir comment nous pouvons faire en sorte qu’elle soit développée et appliquée pour le bien de l’humanité. ♦