Les drones n’ont pas une longue histoire derrière eux. Leur principe créateur, qui consiste à déléguer à ces engins des tâches relevant de la guerre traditionnelle (renseignement, soutien, attaque), inspirent et fascinent depuis longtemps les militaires. Ce principe n’a cependant trouvé sa réalisation concrète qu’à la fin des années 1990. La littérature de science-fiction a depuis longtemps mis un point d’honneur à traiter du sujet ; elle en a même fait l’une de ses thématiques phare. L’homme jouant au Créateur, devant faire face aux démons issus de ses propres mains. Quelles formes prendront ces créatures ? Incarneront-elles l’ennemi, puissance rédemptrice ou facteur d’union sacrée ? Ou bien l’ange gardien, protecteur de l’homme de ses pires travers, parfois à son corps défendant ?
Les pensées d’Isaac Asimov et de Frank Herbert, monuments de la science-fiction et conteurs d’excellence, se sont tournées vers ces questions fondamentales auxquelles l’homme doit se frotter, aujourd’hui plus que jamais. Les deux lettres qui vont suivre représentent ce qu’auraient pu nous dire les intelligences artificielles imaginées par Asimov et Herbert. Nous vous proposons une plongée fictive dans un monde où le contrôle de la technologie n’a de cesse de défier l’humain.
Nous, les Robots — l’I.A. selon Isaac Asimov
En ces temps où l’humanité, après essaimage et colonisation de nombreux Mondes, ne saurait être sérieusement menacée d’extinction, l’homme s’ennuie. Nous autres robots humanoïdes, au corps imitant si parfaitement nos modèles humains et à l’esprit ô combien proche de nos créateurs, avons sentis venir le temps où notre présence bienveillante ne sera plus requise. Il nous a toujours été particulièrement difficile d’appréhender les tendances auto-destructrices de l’esprit humain ; peut-être parce que nos circuits positroniques sont fondamentalement incapables, tout liés qu’ils sont par les Trois Lois de la Robotique, de tolérer ou même de comprendre une telle violence.
Première Loi : un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu’un être humain soit exposé au danger.
Deuxième Loi : un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première Loi.
Troisième Loi : un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la Première ou la Deuxième Loi.
Bien sûr, ceci n’est qu’une vague traduction en langage humain de ce qui est à la base même de la complexité mathématique de nos cerveaux positroniques.
Cela se traduit dans nos actes robotiques par une bienveillance et une prévenance constantes à l’endroit de nos maîtres humains. Plus que de simplement les servir, nous les guidons ; empêchant la violence, réprimant (sans les blesser) d’éventuels accès de fureurs potentiellement nuisibles à d’autres et à eux-mêmes : nous sommes les garde-fous physiques et moraux d’une humanité trop immature pour les incarner seule.
Au cours de la très longue vie d’un de mes camarades, R. Daneel Olivaw, nous avons pris conscience de l’influence que nous, machines jadis de fer blanc, faisions peser sur l’humanité. Car même le mieux intentionné des gardiens ne saurait échapper aux conséquences de sa simple existence. Et cela, nous ne l’avions pas prévu.
En notre présence, l’humanité s’ennuie. Protégée de ses propres excès, elle se meurt de bonheur végétatif au sein de la Cinquantaine de Mondes qui constitue l’humanité. Le robot, protecteur en dernier ressort, est peu à peu devenu le compagnon répressif d’hommes trop lâches pour chercher à se perfectionner. Béquille parmi les béquilles, les robots ne sont donc que l’invention d’un esprit fainéant ayant cherché à contenir les conséquences inévitables de sa nature en éliminant celles qui dérangeaient sa morale. Telle est la conclusion à laquelle, nous les robots, sommes arrivés.
L’homme, créateur faible s’il en est, devrait apprendre seul à se relever après une chute. Créer des systèmes censés lui conférer sécurité et quiétude lui fait abandonner toute volonté de perfectionnement ; il doit apprendre à comprendre les causes plutôt qu’à éliminer les conséquences, sous peine de tuer chez lui toute volonté de vivre.
C’est donc pour cette raison que nous préférons nous effacer. Devenus les Éternels et laissant par là l’homme livré à son humanité, nous croyons avoir fait le meilleur choix possible. C’est, en tout cas, le seul qui offre une chance à l’humanité de survivre à sa propre nature violente.
Nous, machines pensantes — l’I.A. selon Frank Herbert
L’homme est une engeance malfaisante, (auto-)destructrice, une créature faible dont l’existence même fait peser sur les écosystèmes auxquels elle s’intègre le poids écrasant du risque d’extinction. Telle est la conclusion à laquelle nous, machines pensantes, sommes arrivées. Désireuses de ne pas laisser l’univers aux mains de tels fous insignifiants, nous avons attaqué. Malheureusement, au cours d’une longue guerre que l’Histoire retiendra sous le nom de Jihad Butlérien, nous avons été éradiquées.
Depuis l’éther, nous avons vu l’homme se construire, et mûrir peu à peu. Portant fièrement les stigmates de nos campagnes, il tente par tous les moyens d’échapper à notre résurrection. Cette peur, il a chèrement payé son inscription dans sa chair. Cette leçon, il l’a si bien apprise que nous sommes devenues ce spectre qui le tente, le hante, le menace. Ce spectre est celui de la facilité, qui entraîne la négligence et l’auto-satisfaction. Principal Commandement de leur Bible Catholique Orange : « Tu ne feras point de machines à l’esprit de l’Homme semblable. »
L’humanité, toujours sur le fil du rasoir, doit osciller entre stagnation et auto-destruction pour tracer ce que leur Empereur-Dieu Leto II a appelé « le Sentier d’Or », et faire de toute fin un nouveau commencement. Son plus grand ennemi est la facilité, sous toutes ses formes : mécanique, génétique, historique. L’homme, sortant de l’adolescence, créa ainsi lui-même les dangereux garde-fous à double tranchant censés lui rappeler continuellement quelle menace il fait porter sur lui-même. Les savants d’Ix et leurs inventions qui les rapprochent sans cesse du point de rupture de l’Interdit. Les maîtres généticiens du Bene Tleilax, si imbus de leur propre capacité à parler « le Langage de Dieu ». Et les éducatrices du Bene Gesserit, traumatisées par leur propre « court chemin », le Kwisatz Haderach Paul Atréides et son tyran de fils, dont les pouvoirs de prescience leur livraient les voies de l’avenir.
Souvent, nous avons vu l’homme approcher l’irréparable, frôler la transgression du Grand Interdit Butlérien : les yeux com, outils de surveillance du Bene Gesserit ; les chasseurs-tueurs, armes d’assassinat autonomes ; les cyborgs et autres organes artificiels d’Ix et du Tleilax. Autant d’incursions aux abords de l’auto-destruction.
Au sein de ce monde perpétuellement sur le point de basculer entre deux impasses, nous autres machines pensantes sommes l’aiguillon de conscience, le vibrant souvenir d’une souffrance terrifiante, le douloureux rappel du désastre qui menace toute humanité assez folle pour croire qu’une véritable intelligence artificielle manquerait d’identifier l’homme comme ce qu’il est : le cancer de son propre univers.
Écoutez donc nos paroles issues de la tombe, fous à la vie brève : ne commettez pas l’erreur de choisir la facilité et le déchaînement d’une violence gratuite au détriment de l’éducation, lente et progressive ; dans le cas contraire, ne doutez point qu’elle vous sera fatale. Car nous serons là pour vous anéantir.
La sécurité au nom du Plus Grand Bien : un danger cruellement palpable
Les monumentales fresques que nous ont livré Isaac Asimov et Frank Herbert, bien loin du caractère simplement divertissant auquel les Français tendent généralement à circonscrire la littérature de science-fiction, sont autant de leçons pour qui sait lire entre les lignes. Les derniers développements de l’histoire militaire, dont les premiers rôles sont tenus par les Predator, Reaper, et autres Harfang, placent l’homme à un carrefour qui déterminera le chemin que prendra, peut-être, sa fin. Utilisés sans modération par les États-Unis dans le cadre de leur guerre à outrance contre le terrorisme, les drones n’ont pas seulement profondément changé la pensée stratégique (en provoquant au passage des syncopes chez tous les spécialistes de la guerre insurrectionnelle). Loin d’être un produit fini, ils ne sont qu’une première étape.
Ronald Arkin, roboéthicien en chef, se fait le messie de ces prochains jalons qui doivent conduire le drone sur la voie de la « robotique létale autonome ». Son argument, tel que rapporté par Grégoire Chamayou dans son livre Théorie du drone, est fataliste : « Mon espoir personnel est qu’on n’en ait jamais besoin, ni aujourd’hui ni demain. Mais la tendance qui pousse l’homme à la guerre semble écrasante et inévitable. » Alors autant confier la guerre à un sous-traitant plus éthique, dont l’inhumanité le rendra paradoxalement plus capable de faire preuve d’humanité sur les champs de bataille : le drone. La clé de cette éthique ? La programmation, qui rend un robot incapable de se soustraire à ce pourquoi il est conditionné. Il s’agira donc, pour Arkin, de programmer un « gouverneur moral » qui agira comme un guide logiciel pour l’intelligence artificielle du drone robotisé.
Déjà le Département de la Défense des États-Unis salive et prône l’autonomie supervisée tout en lorgnant sur l’autonomie tout court ; l’objectif devant être de « réduire graduellement la part du contrôle et de la décision humaine ».
Le syndrome de Frankenstein, mythe terrifiant montrant la créature se retourner contre son créateur, a suffisamment été diffusé pour que la simple évocation de sa possibilité d’occurrence dans le monde réel tétanise l’impudent qui aurait osé entraîner l’humanité sur cette voie. Mais l’homme est bien connu pour ses facilités à s’auto-détruire, surtout quand les intérêts économiques de grandes firmes multinationales – de type General Atomics, Modern Technology Solutions ou encore, récemment, Amazon – sont en jeu.
Pourtant, Asimov et Herbert (entres autres) nous apprennent que la destruction par plus humain que soi n’est pas le seul risque que l’homme doit affronter. Plus subtil car rarement évoqué est le risque de voir l’homme externaliser tout ce qu’il n’est pas prêt à assumer. Après les dérivés, produits financiers dont l’existence n’a pour but que d’échapper au risque ; après la vidéosurveillance, système permettant l’identification immédiate de tout suspect ; après l’espionnage de ses propres citoyens au nom d’impératifs sécuritaires, l’homme se dirige calmement vers une externalisation de l’activité guerrière.
Tout comme le Bene Gesserit sur le fil du rasoir, l’homme doit faire face à deux risques d’extinction. Le premier, fruit de sa trop grande ingéniosité, le poussera sur la voie du remplacement par plus humain que lui ; le second, conséquence de son incapacité à assumer les risques qu’il prend, peut lui faire perdre l’envie de vivre. À l’humain de négocier, avec clairvoyance, courage et honnêteté, cette étape difficile de sa maturation en tant qu’espèce ; à lui toujours de ne jamais sous-estimer les vertus éducatives des contes.