Le XXIème siècle : des robots qui décident

Si l’utilisation de robots de type human in the loop lors des guerres devient très populaire à partir de la guerre de Corée, le XXIème siècle connait un nouveau tournant dans l’Histoire de la robotisation des conflits avec l’intervention de robots possédant une autonomie de catégorie on the loop, et la mise en place de prototypes human out the loop.

 

Un robot possède une autonomie de type on the loop lorsqu’il peut détecter les potentiels ennemis et recourir seul à la force, néanmoins, l’Homme reste présent dans la boucle de décision. En effet, même si c’est le robot qui sélectionne les cibles et ordonne le feu lorsque son algorithme a détecté des ennemis, le tout reste sous la supervision d’un homme qui peut à tout moment arrêter l’ordinateur central du robot s’il juge cela nécessaire. 

Cela semble être la solution idéale, puisque de tels robots permettraient de réduire les pertes humaines, de repousser les limites d’endurance, de mortalité et de peur du soldat, sans pour autant être entièrement autonomes. Ces robots présentent également d’autres avantages: outre l’unique employé qui devra s’assurer de leur bon fonctionnement, ils ne perçoivent aucun salaire, ce qui représente pour la défense des avantages économiques conséquents. 

Ces robots ne connaissent pas non plus la notion de congé, ils ne se reposent pas la nuit, ce qui permet d’être constamment présent sur le champ de bataille sans pour autant avoir à doubler les effectifs, d’où un gain important en efficacité. 

Finalement, les robots possèdent une vitesse et une précision de tir ‘chirurgicale’ que jamais aucun être humain ne pourra égaler, ce qui leur permet de toujours toucher la cible sans pour autant engendrer des dommages collatéraux qui sont aujourd’hui causés par les tirs à l’aveugle ou les balles perdues. Cela était déjà en partie vrai pour les robots de type human in the loop, mais dans ce cas-là, tout risque de manquer la cible est annulé par l’informatisation du processus de décision, depuis le verrouillage jusqu’au tir.

Ci-contre : Northrop Grumman X-47B, prototype de la nouvelle génération de drone on the loop de l'USAAF. 

Néanmoins, l’utilisation de tels robots pose les mêmes problèmes éthiques et présente les mêmes limites morales que l’utilisation de robots in the loop. Mais en plus des débats éthiques que soulève la question existent des conséquences tout aussi contestables de l’utilisation de tels robots.

Même si le risque de viser une victime innocente est possible avec des robots in the loop (cf le témoignage du soldat Brandon), des yeux humains examinent tout de même le terrain par le biais d’écrans avant de tirer, ce qui n’est pas le cas pour les robots on the loop. La première conséquence grave de l’utilisation de tels robots peut donc venir du fait que la décision de faire feu de leur algorithme est basée sur la spéculation et sur des pourcentages établis à partir des bases de données, ce qui conduit souvent à des massacres d’innocents sur lesquels les médias ne gardent qu’un silence coupable. En effet, l’utilisation de robots militaires sur le terrain supprime les ‘batailles’ au sens d’une opposition physique entre des soldats des différents camps. Or, il est extrêmement difficile de différencier, en dehors d’une bataille, un civil d’un soldat non armé qui ne combat pas, d’où la mise en place des tirs basés sur la spéculation. Par exemple, si un individu pisté a passé tel coup de fil à telle heure, parlé à tel personne et financé tel projet, il peut, dans le doute, être classé comme ennemi par la base de données et le robot aura droit de faire feu sur cette cible, ce qui conduit trop souvent à des injustices moralement inacceptables.

De plus, en raison de l’absence de batailles et des différentes « erreurs » de cibles, les forces armées ennemies, ne pouvant se défendre contre les robots ni se venger contre les militaires physiquement absents, vont alors se retourner contre les civils. En effet, les vies militaires se dérobant à l’ennemi, les représailles se déplacent sur les civils qui paient les conséquences de la robotisation de l’armée. On peut par exemple citer les différents rapts et des meurtres perpétrés par des groupes ‘terroristes’ sur des ressortissants  civils des pays possédant des robots sur le champ de bataille. 

Ci-contre : t-shirt commercialisés aux Etats-Unis. A coté du logo d'un drone prédator est inscrite la phrase 'Vous pouvez toujours courir, vous ne mourrez que plus fatigués'. Se passe de tout commentaire.

Un robot appartenant à la troisième catégorie (out the loop) peut détecter les potentiels ennemis et recourir seul à la force, sans aucune intervention ni supervision humaine dans la boucle de décision. Cela permettrait certes de repousser toutes les limites humaines dans les conflits puisqu’aucun homme n’y serait plus impliqué, mais cela uniquement du côté le mieux équipé technologiquement. Les pertes humaines et matérielles pourraient être inestimables de l’autre côté, les robots ne connaissant aucune limite morale, aucune hésitation, aucune peur ni aucune souffrance.

Néanmoins, de tels robots n’étant pour l’instant qu’à l’état de prototypes, comme le fameux avion sans pilote anglais baptisé Taranis (cf image). De ce fait, parler de leurs conséquences sur les sociétés et sur la manière de percevoir les conflits relèverait de la spéculation. C’est pourquoi nous allons analyser dans la prochaine partie les conséquences et les limites éthiques engendrées par des robots de type human in the loop que l’Homme a imaginé dans les différentes œuvres de fiction.

 Ci-contre : vol d'essai de l'avion Taranis de la Royal Air Force, 1er prototype d'avion out the loop.