En 1139, le deuxième concile de Latran - tenu sous la présidence du Papa Innocent II - avait interdit l'usage des arbalètes et des catapultes à l'encontre des chrétiens sur les champs de bataille (canon 29). Mais pourquoi parler d'un sujet aussi ancien alors que les périls montent un peu partout dans le monde ? Tout simplement car nous assistons au même phénomène avec l'appel à l'interdiction des armes autonomes sur le site du Life Institut à Boston.
Au 12e siècle, la proscription des armes de jets (carreaux et rochers), avait été demandée par l’Église parce que les soldats ne pouvaient pas maîtriser les conséquences de leur geste. Avec cette nouvelle course aux armements dans le monde, nous allons voir débarquer sur les champs de bataille des armes offensives autonomes capables de sélectionner puis détruire des cibles, sans intervention humaine. Le retour du célèbre adage « search and destroy » mais avec des intelligences artificielles dépourvues de tout jugement.
Des scientifiques travaillant sans barrière éthique
L’astrophysicien Stephen Hawking, Elon Musk (fondateur de Space-X et Tesla), et Steve Wozniak (co-fondateur d’Apple) sont parmi les signataires de la lettre publiée (voir la liste complète) avant la Conférence internationale sur l'intelligence artificielle, du 25 au 31 juillet à Buenos Aires. Des scientifiques, des chercheurs en robotique et des hommes d’affaires appellent donc à une interdiction des armes autonomes avant l’inévitable surenchère alimentée par les complexes militaro-industriels (voir les travaux très avancés de Northrop Grumman, HDT Robotics, iRobot Corpet QinetiQ dans ce domaine). 1 800 personnes ont déjà signé cette lettre. « Les armes autonomes peuvent choisir et engager des cibles sans intervention humaine. Elles pourraient inclure, par exemple, des quadricoptères armés qui peuvent rechercher et éliminer les personnes répondant à certains critères prédéfinis, mais ne comprennent pas les missiles de croisière ou les drones téléguidés pour laquelle les humains prennent toutes les décisions de ciblage. La technologie de l’intelligence artificielle a atteint un point où le déploiement de ces systèmes est - pratiquement sinon légalement - faisable dans des années, des décennies, et les enjeux sont élevés : les armes autonomes ont été décrites comme la troisième révolution dans la guerre, après la poudre et les armes nucléaires », explique ce document.
Si certaines guerres doivent être menées, la question aujourd’hui est de savoir avec quels moyens. Aucun pays ne veut par exemple envoyer des troupes au sol pour lutter contre les exactions de l’Etat Islamique. Une des questions clefs pour les prochaines années est donc de savoir si cette course aux armements est inévitable. « Le critère d'évaluation de cette trajectoire technologique est évidente : les armes autonomes deviendront les kalachnikovs de demain», écrivent-ils. A la différence des armes nucléaires et chimiques, les machines autonomes seront faciles et pas chers à produire en masse, et elles vont inévitablement se retrouver sur le marché noir et finir dans les mains de terroristes, de dictateurs et de seigneurs de la guerre, ont-ils averti, ajoutant que ces armes seront idéales pour les assassinats, déstabiliser les nations, dominer les population et le nettoyage ethnique.
Un appel aussi efficace que pour les mines antipersonnel
« Nous pensons donc qu'une course aux armements militaires autonomes ne serait pas bénéfique pour l'humanité», concluent les signataires. Rappelons pour conclure que si la convention contre les mines anti-personnel a été ouverte à la signature des états membres de l’ONU en décembre 1997, ni les États-Unis, la Russie, Israël, le Pakistan, l’Inde, l’Iran, les Corées du Sud et du Nord, l’Égypte… ne l’ont signée. Et comme le rappel Landmine a Cluster Munition Monitor, les mines ont encore fait 3 000 victimes en 2014. Et les enfants représentent 46% des victimes.