Bugs et robots qui tuent

Publié le 19 Octobre 2007

Un canon robot a tué 9 soldats et en a blessé 14 au cours d'un exercice de tir qui a eu lieu le 12 octobre en Afrique du Sud . La nature de l'accident – humain, mécanique, informatique – n'est pas claire. Mais elle invite à se poser une question "dure":

Quel peut-être l'impacte d'un bogue (bug) quand on utilise des armements robots? 

Le rôle de l'informatique dans la guerre est de plus en plus grand.

Le Oerlikon GDF-005, un canon anti-aérien, utilisé pour leurs manœuvres par les Sud-Africains utilise des radars pour trouver ses cibles et calculer leur distance et leur vitesse. Il reçoit des données d'une unité de contrôle et se recharge tout seul quand il est en mode "automatique".

J'ai mentionné, il y a un certain temps déjà, le recours croissant aux robots par les forces armées américaines tant en Irak qu'en Afghanistan. Cela nous avait permis de discuter du côté inhumain de la guerre par robots interposés.

Mais que se passent-ils si le logiciel déconne dans une machine qui tue?

J'hésite entre deux réponses.

La première est angoissée. Il est tentant de se dire que si les bogues dont nous sommes victimes sur nos (certains) PC et sur des systèmes informatiques sophistiqués s'insèrent dans les armements, leur impact pourrait-être catastrophique.

Plus rassurante, la seconde invite à prendre l'informatique comme une simple couche supplémentaire, une simple source supplémentaire d'accidents qui viendraient s'ajouter à ceux causés par les humains et par les machines… causes de beaucoup de morts pendant les guerres (parfois plus que les combats eux-mêmes).

Aucune des deux n'est satisfaisante. Elles sont extrêmes et incomplètes.

Je crois pourtant qu'il y a là une vraie question.

Vos réponses seront, j'espère, plus pertinentes que les miennes.

Commenter cet article