L'Apocalypse ?

01net Hors-Série – Juillet-Aout 2016

ROBOTS

Jean-Philippe Pisanias

Pourrait-on un jour perdre le contrôle total des robots, Ou faut-il seulement se demander quand cela arrivera ? L'arrivée de robots tueurs est pour demain, s'ils ne sont pas déjà là, actifs, sans que nous en sachions rien !

Dans Terminator, Skynet échappe au contrôle de ses créateurs et veut remplacer les humains par des machines. Scénario hollywoodien il ne semblait pas prédire un avenir possible, et pourtant, depuis les choses ont bien changées. Ou mal !

L'humanité a déjà connu son mini-Skynet. Le 6 mais 2010 à 14 h 42 l'indice Dow Jones perd 1000 points sans raison. Panique à Wall street, les ''golden boys'' sont impuissants devant un phénomène qu'ils ne comprenne pas. En quelques minutes, ce sont des centaines de milliards de dollars qui s'évaporent. La vérité se fera jour un peu plus tard, c'est un bug dans une transaction électronique qui a rendu fous les ordis.

 

Les boursiers au début des années 2000, misent sur la puissance des ordinateurs et des réseaux pour augmenter leurs profits. Ainsi naquit le trading à haute fréquence permettant d'acheter une action pour la revendre en quelques millisecondes. Le profit réalisé est infime mais répété des millions de fois dans la journée le résultat le soir est considérable. Le problème étant que les robots traders sont plus efficaces que les traders et quand un grain de sable se glisse quelque part ils ne s'arrêtent pas de fonctionner mais débloquent.

Ainsi en 2010 quand un fond de pension lança un ordre de vente en oubliant le prix continuèrent-ils à faire leur métier sans se poser de question. Ils vendirent encore et encore, à perte. Le cours baisser et incita des milliers d'autres robots à en faire autant. Domina dévastateur qui fut stoppé après une dizaine de minutes en appuyant sur un bouton pour réinitialiser le système informatique. 800 milliards de dollars étaient parti en fumée.

Imaginons à la place de traders des robots mitrailleurs et les dégâts ne seraient plus des dollars mais des vies. Encore un scénario penserez-vous, pourtant le physicien Stephen Hawking, le philosophe Noam Chomsky, le milliardaire Elon Musk et des milliers d'autres personnalités ont voulu alerter le monde sur ce risque arguant que ''les progrès de l'intelligence artificielle doivent contribuer à sauver des vies, pas à inventer de nouveaux engins de destructions''. Ils redoutent le développement d'une IA militaire contrôlant un cyberarsenal de drones, avions, chars et autres androïdes disposant du pouvoir de tuer.

Plusieurs pays préparent un tel programme. La Norvège appelle ''munitions intelligentes'' des robots, appelés SALA (Systèmes d'Armes Létaux Autonomes) capables d'analyser une situation pour intervenir sans autre intervention. En Corée du Sud, SGR-A1 surveille la zone démilitarisée avec pour mission d'ouvrir le feu sur tout intrus ou véhicules s'aventurant dans le no man's land. Les Russes eux ont dévoilés le premier humanoïde de leur projet robotique Iron Man voué à replacer l'homme sur les champs de bataille, il porte le joli surnom de Ivan le Terminator.

Globalement la puissance de ces armes pourraient égaler celle des bombes atomiques. Les états-unis mettraient au point (c'est donc que c'est déjà fait) des mini-drones volant en groupe capable d'entrer dans une maison pour éliminer une cible, ou plusieurs. Les futurs modèles seront, soyons-en sûrs, bien plus performants.

Il ne reste qu'à attendre qu'ils aient la bonne idée de se retourner contre leurs créateurs.