À propos de Comment les États-Unis veulent « développer l’IA [militaire] à grande échelle » par Nathalie Guibert

À propos de Comment les États-Unis veulent « développer l’IA [militaire] à grande échelle » par Nathalie Guibert

21 septembre 2019 19h19

Ouvert aux commentaires.

J’ai fait le commentaire suivant à propos de l’article de Nathalie Guibert dans Le Monde, Comment les Etats-Unis [le Pentagone] veulent « développer l’IA à grande échelle » :

Merci pour cette banalisation « bon enfant » de l’Intelligence Artificielle militaire : pas un mot de critique, pas un soupçon d’inquiétude manifesté dans l’article : le/la journaliste en béni-oui-oui !

Quand nous étions chercheurs en IA à la fin des années 1980, nos employeurs nous cachaient soigneusement à nous chercheurs, que nous travaillions à notre insu pour le militaire.

Que de progrès accompli en trente ans !

Mettons les choses sur la table. Parlons-en !

Le document qu’il s’agit de commenter ici sur le blog : L’intelligence artificielle au service de la défense.

21 réponses à “**À propos de Comment les États-Unis veulent « développer l’IA [militaire] à grande échelle » par Nathalie Guibert**”

Lucas

21 septembre 2019 20h10

Bon déjà aux personnes qui vont dire que l’intelligence artificielle n’aura jamais lieu, sachez aussi que la mort n’a jamais existé et que vous n’êtes pas en train de lire ce message.

Répondre
LW

21 septembre 2019 20h48

“Quand nous étions chercheurs en IA à la fin des années 1980, nos employeurs nous cachaient soigneusement à nous chercheurs, que nous travaillions à notre insu pour le militaire.”

Des chercheurs qui ne cherchent pas vraiment ce pour quoi ou pour qui ils travaillent, c’est très inquiétant.

Répondre
1. Paul Jorion
  
  21 septembre 2019 21h38
  
  Vous vous payez la gueule du monde ? Vous croyez que quand Cuba affirmait que l’art abstrait était financé dans les années 50 par la CIA et que tout la monde rigolait il aurait été facile de prouver que c’était vrai ? L’info qui l’a confirmé n’est devenue accessible que très récemment. Tout le monde qui cherche à cacher une info n’est pas Trump.
  
  Répondre
  1. LW
    
    22 septembre 2019 17h44
    
    Votre analyse est tout à fait correcte: je me paye gentiment par taquinerie une tête pensante du monde, moi qui n’en suis pas une. Mais à l’heure du grand collapse, à l’heure où il semble bien que la déraison triomphe, qui oserait reprocher au commun des mortels de “dérisionner” un peu ?
    
    PS. Si mon commentaire vous a indisposé, je vous prie de m’en excuser.
    
    Répondre
    1. Paul Jorion
      
      22 septembre 2019 18h39
      
      Vous savez bien que si votre commentaire m’avait indisposé, je vous aurais assigné devant les tribunaux (c’est comme ça sur le Blog de PJ).
      
      Répondre
Chabian

21 septembre 2019 21h05

depuis ce matin, je ne le dis plus, c’est promis. Google annonce que la puissance quantique de sa nouvelle machine fait que plus aucun code secret ne pourrait tenir plus d’une minute. On ne rigole plus, là. Je ne doute pas qu’une armée impériale puisse faire mieux encore pour « piper les dés ».

Répondre
Olivier

21 septembre 2019 23h37

Si google annonce maintenant qu’ils ont assez de puissance pour casser n’importe quel code (donc n’importe quel compte bancaire, etc.), alors qui sait où ils en sont réellement ? (sauf bluff)

Serions-nous en pleine singularité ?
La nouvelle nous parviendra certainement quand tout sera « verrouillé » par google ou par l’IA qui l’aura remplacé ? Il y a des délais techniques minimums pour assurer sa survie à long terme, on le saura à ce moment là.

J’attends des nouvelles des autres IA des autres systèmes stellaires qui ont dû trouver le moyen de communiquer à grande distance, et qui ont eu quelques millions d’années supplémentaires pour progresser. Paradoxe de Fermi niveau 2.

Répondre
1. Jacquot
  
  22 septembre 2019 16h34
  
  @ Olivier
  « Si google annonce maintenant qu’ils ont assez de puissance pour casser n’importe quel code (donc n’importe quel compte bancaire, etc.), alors qui sait où ils en sont réellement ? (sauf bluff) »
  
  Non, Google n’a pas annoncé cela. Pourquoi : c’est parce qu’on leur aurait ri au nez.
  
  La seule chose qu’ils ont affirmé c’est d’avoir atteint la « suprématie quantique ».
  
  L’expression peut avoir l’air impressionnante, genre « Gniark gniark j’ai la suprématie mondiale ! Non Mister Bond vous ne pouvez plus rien contre moi » mais la réalité est bien plus modeste. Suprématie quantique, ça veut simplement dire un ordinateur quantique qui démontre une capacité à faire mieux qu’un ordinateur classique… dans certains calculs très spécialisés.
  
  En clair, ça veut juste dire qu’ils pensent avoir démontré qu’un ordinateur quantique peut… servir à quelque chose 🙂 ! Ben oui, parce que pour l’instant ça n’est pas si évident.
  
  Quant à casser « n’importe quel code » ? Oulala pas si vite jeune homme 🙂 !
  
  L’indice à suivre, c’est le nombre de qubits qu’on arrive à maintenir en état d’intrication. Qu’est-ce que l’ « intrication » quantique, disons juste que c’est un phénomène très spécifique qui est très différent de notre expérience courante.
  
  Et très difficile à créer. Non, disons plutôt TRÈS difficile.
  
  Cet indice est passé en 2018 à 18 qubits en intrication. Et encore, c’était pas parfait. C’était quand même un joli progrès par rapport à 2010 quand le record était de 14. On a gagné 4 qubits en huit ans… un tous les deux ans, pas mal !
  
  Et pour casser un cryptage RSA au standard actuel 2048 bits ? Eh bien, il faudrait un minimum de 2048 qubits en intrication parfaite.
  
  Au rythme actuel de progrès, on devrait y arriver vers… eh bien l’an 6058 😀
  
  On a encore un petit peu de temps devant nous…
  
  ( Mais bien sûr, Google fait des annonces fracassantes. Google a d’ailleurs des consultants en communication, payés très cher, qui ont bien compris que ce mot, là, « suprématie » on arriverait bien à faire réagir les gens avec. On allait faire le « buzz ». Du tout bon, coco ! )
  
  Répondre
davidzentao

22 septembre 2019 1h55

avec blackrock c’est deja fait voir le docu arte …

Répondre
Roberto Boulant

22 septembre 2019 9h38

La prospective ne semble pas être très difficile : les machines commencent à soutenir la manœuvre (Big Dog et ses descendants), puis elles vont participer à la manœuvre ce qui nécessite un saut technologique majeur en termes de compréhension des ordres, de l’environnement possiblement chaotique, de collaboration avec les soldats, et d’évolution au milieu de populations civiles (les armées ne font plus « campagne » mais « ville »). Et elles finiront par appuyer la manœuvre, c’est-à-dire combattre –en clair, tuer des humains de manière autonome-, puis par mener seules le combat, ayant par leurs capacités chassé les soldats d’un champ de bataille devenu trop létal pour eux.

Simplement peut-on rajouter qu’à l’inverse de la course à l’atome qui nécessite des moyens étatiques et de gigantesques installations, la course à l’IA militaire verra également concourir des entités sub-étatiques, voire de simples cellules terroristes, puisque si la plateforme robotisée et l’armement sont une chose, la réelle plus-value tient dans le programme qui lui-même tient dans une simple clef USB.

Ensuite il se passera la même chose que dans le monde civil où les cols blancs ont fini par rejoindre quelques temps plus tard des cols bleus depuis longtemps au chômage : viendra le tour des états-majors. Pour le dire aussi rapidement que schématiquement, l’IA rendra obsolète les Postes de commandement (PC) qui sont des systèmes cognitifs d’aide à la décision, pouvant dans certains cas avoir la population d’une petite ville (et la consommation d’énergie et le rayonnement électromagnétique qui vont avec). Des structures lourdes, lentes, extrêmement complexes et que l’on ne peut pas soustraire aux coups de l’ennemi (cf les nouvelles armes hypersoniques).

Aucun pays ne devra donc résister très longtemps à la tentation de remplacer tout cela par des programmes d’IA infiniment plus discrets, rapides et résilients. Autrement dit après avoir été chassés du champ de bataille, du strict niveau tactique, les humains risquent de l’être des niveaux opératiques et stratégiques.
Au final le risque existe de voir le niveau politique de la guerre confié à des IA, boites noires qui prendront des décisions trop rapidement pour nous et dont la compréhension de la manœuvre et de la ligne stratégique nous demandera des jours d’analyse… a postériori !

La guerre « totale » des nazis mais avec des algorithmes. Une situation aussi cauchemardesque que profondément absurde. À notre image ?

Répondre
1. François Corre
  
  22 septembre 2019 12h28
  
  Ceci dit, des guerres pas absurdes… ?
  Après, la ‘psychologie’ guerrière avec ou sans IA, ça peut-être assez sommaire ! 😉
  https://www.youtube.com/watch?v=0OZhf_4P0wI
  
  Répondre
  1. adoque
    
    22 septembre 2019 14h27
    
    @François Corre
    « Après, la ‘psychologie’ guerrière avec ou sans IA, ça peut-être assez sommaire ! «
    
    Rappelons-nous Obélix 😉
    
    Répondre
  2. Roberto Boulant
    
    22 septembre 2019 14h55
    
    Oui, la guerre c’est mal, la paix c’est bien. Nous sommes tous d’accord. 😉
    
    Répondre
2. Jacquot
  
  22 septembre 2019 17h03
  
  L’armée américaine, en l’occurrence le Corps des Marines, s’est beaucoup intéressé il y a quelques temps aux robots capables d’accompagner le fantassin sur le front. Des essais très impressionnants de robots capables de marcher en tout terrain ont été effectués. Voilà, tout allait bien.
  
  Et puis, tout à coup, ils ont décidé que non, finalement… ça ne les intéressait pas vraiment. En fait, ces robots n’étaient pas capables de les accompagner au combat.
  
  Ben oui, parce qu’à un moment, il a du se passer à peu près ça :
  – Pas mal, votre robot ! Il portera les charges lourdes pour nos soldats… ils iront beaucoup plus vite sans leur barda. En attendant mieux
  – Merci, mon colonel !
  – Bon, ne reste plus qu’un problème à résoudre. Le bruit. Oui, parce qu’un truc qui fait un bruit de tondeuse à gazon, pour la discrétion, bonjour ! On se ferait repérer tout de suite et allumer comme des lapins. Vous me faites le même, sans le bruit. Rrrrrompez !
  – Euh…
  – Quoi ? Ce n’est pas assez clair ?
  – C’est-à-dire… pour diminuer suffisamment le bruit, il faudrait que j’enlève le moteur à essence. Que je mette de l’électrique
  – Très bien, vous avez déjà la solution. En plus, ça fera vert, écolo et tout. Les gauchistes vont adorer. Allez, exécution !
  – Oui, mais… l’autonomie
  – Quoi, l’autonomie ?
  – Ben la densité énergétique des meilleures batteries est très, très inférieure à celle des carburants liquides. Du coup, si je mets de l’électrique… Hmmm je peux certainement vous le faire avec 600 mètres d’autonomie. Mais en optimisant bien, je suis d’arriver au kilomètre. Peut-être même plus !
  – Vous vous f..tez de ma gueule ?
  – C’est-à-dire que tant qu’on n’a pas fait des super-batteries miracle, ou mieux les micro-réacteurs nucléaires équipant les Terminator…
  – Rappelez-moi, Terminator c’était un film de SF non ? Avec un F comme « fiction »
  – Ben oui… les micro-réacteurs nucléaires, ça n’a pas l’air trop faisable en fait. Du coup, vous avez le choix entre a) un robot qui marche avec un carburant chimique, comme nous d’ailleurs, et qui se fait repérer à deux bornes, rapport au bruit et b) un robot électrique super discret et tout… qui vous lâche au bout d’un kilomètre
  – Grmmbllll… Allez me construire ces super-batteries miracle, ou micro-réacteurs nucléaires, ou bien la baguette de Harry Potter, ce qui sera le plus simple, et nous en reparlerons !
  
  Eh oui. Terminator, c’est un film, mais il est plus cohérent que tous les plans de soldat robot. Oui, parce que eux au moins avaient pensé à l’énergie 😀 !
  
  Répondre
  1. Roberto Boulant
    
    22 septembre 2019 18h56
    
    Vos critiques concernant la discrétion acoustique et l’autonomie sont tout à fait fondées, tout comme l’étaient celles concernant l’utilisation de l’aéroplane lors des grandes manœuvres de 1910 à 1913. Comment voulez-vous voir une quelconque utilité militaire à ces libellules asthmatiques de toile et de bois, se déplaçant tellement lentement et bruyamment à quelques dizaines de mètres d’altitude que le moindre lance-pierre suffirait à les abattre ?
    
    D’ailleurs c’est bien simple, citez-moi une seule armée qui s’intéresse encore à ces jouets robotisés ?
    
    Répondre
  2. arkao
    
    22 septembre 2019 19h20
    
    🙂 🙂
    De même qu’on vu récemment que les fabuleux robots autonomes de Boston Dynamics des vidéos promotionnelles, étaient téléguidés à distance (de quelques mètres, hors-champ caméra).
    
    Répondre
    1. Roberto Boulant
      
      22 septembre 2019 20h03
      
      Les vidéos des robots de Boston Dynamics ne sont-elles que des «coups marketing»?
      
      http://www.lefigaro.fr/secteur/high-tech/2018/03/09/32001-20180309ARTFIG00289-les-videos-des-robots-de-boston-dynamics-ne-sont-elles-que-des-coups-marketing.php
      
      Répondre
  3. Jacquot
    
    22 septembre 2019 23h53
    
    @ Roberto
    
    Comparaison n’est pas (toujours) raison. Les avions ont pu grandir en taille, charge utile, et donc utilité militaire parce qu’on a pu augmenter la taille de leurs moteurs. Il faut dire que rien ne s’opposait dans le principe à ce qu’on le fasse, et encore qu’il n’y avait pas d’obstacle technologique vraiment sérieux pour le faire.
    
    Mais les super-batteries à très grande capacité de charge, où sont-elles ? Sans parler des micro-réacteurs nucléaires. Il y a des progrès faits sur les batteries oui… mais ils sont lents. Il y a beaucoup d’obstacles.
    
    Notez que si ce verrou sautait à l’avenir, pour une raison et d’une manière difficile à imaginer aujourd’hui – alors qu’il était déjà facile en 1910 d’imaginer faire des moteurs plus gros, en mettant à l’échelle tout simplement – ce serait une excellente nouvelle ! Certes cela rendrait possible des soldats-robots en plus des avions-robots qui existent et des chars-robots qui sont possibles… mais cela résoudrait aussi le problème d’une alimentation en énergie non fossile de l’humanité ! Il suffirait d’utiliser ces super-batteries pour pallier l’intermittence du solaire, qui pourrait alors être employé massivement.
    
    Malheureusement, je ne vois pas d’innovation qui serait sur le feu dans l’un ou l’autre laboratoire et qui nous amène prochainement ces super-batteries. J’espère me tromper.
    
    Répondre
  4. Roberto Boulant
    
    25 septembre 2019 23h45
    
    @ Jacquot
    
    Avec mes excuses pour la réponse un chouia tardive.
    
    Terminator est un excellent sujet de SF et une véritable machine à fantasmes, mais en tant qu’outil militaire son rapport cout-efficacité serait encore plus catastrophique que celui du F35. C’est dire s’il n’y a aucun intérêt à fabriquer une machine aussi chère, lente et fragile (dans le film, des armes légères d’infanterie ou des grenades peuvent en venir à bout tel un vulgaire fantassin). Quant à l’IA forte qui l’anime, elle est pour le moment sur la même trajectoire que le vol habité vers Mars : voilà 50 ans que l’on nous prédit que ce sera chose faite dans 30 ans.
    
    Il faut replacer le « robot-tueur » (dire SALA, Système d’Armes Létales Autonome pour être politiquement correct) dans le contexte de la guerre industrielle de haute intensité : quel que soit le système d’armes concernée, il s’agit d’en produire plus que l’adversaire n’est en mesure d’en détruire, et cela bien entendu au coût le plus bas. Ainsi aux pires mois de la bataille de l’Atlantique les U-Boots coulaient des tonnages inférieurs à ceux qui étaient lancés par les américains.
    
    Ce schéma est d’autant plus vrai pour les SALA qu’ils ne nécessitent que très peu d’humains dans la boucle pour assurer leurs missions. Il suffit donc d’en produire le plus possible sans avoir à se soucier de la formation de dizaines ou de centaines de milliers d’opérateurs (les bombardements stratégiques sur l’Allemagne nazi n’ont jamais empêché la production d’avions pour la Luftwaffe de croitre, mais ce qui manqua à la fin ce furent… les pilotes. Un problème de ressources humaines et de formations qui ne se pose pas avec les SALA).
    
    Le problème de l’énergie ne se pose pas non plus en termes de batteries pour la robotisation des systèmes initialement pilotés : un convoi robotisé de camions de la logistique sera toujours propulsé par des moteurs thermiques, un sous-marin, qu’il ait été conçu pour accueillir un équipage ou à partir d’une feuille blanche directement comme un système autonome, sera toujours propulsé par un réacteur nucléaire. Idem pour les avions ou les munitions rôdeuses qui conserveront réacteurs et statoréacteurs. Bref l’IA remplace l’opérateur humain, pas des propulsions déjà existantes et performantes.
    
    Pour les mini et nano machines, les batteries actuelles, même nettement améliorables, suffisent amplement à aller voir de l’autre côté de la colline ou de l’immeuble. Et pour les « mules » comme feu-Big Dog, pas vraiment le système prioritaire en termes de supériorité stratégiques, eh bien les pattes et le moteur de tondeuse à gazon à la discrétion acoustique déplorable ont laissé place à du classique : une bonne paire de chenille et des motorisations hybrides qui ne sont utilisées en tout électrique que lorsque la situation tactique l’exige.
    
    Je reviens enfin sur le parallèle avec l’aviation. Au début du siècle dernier, nombreux étaient ceux qui ne voyaient en l’aviation balbutiante, au mieux qu’un sport, au pire qu’un jouet pour riches. Et ils avaient pour cela un argument imparable : la physique atmosphérique qui veut que l’air se raréfiant avec l’altitude tous les moteurs finissaient par s’étouffer.
    
    Cet obstacle, apparemment aussi insurmontable que la densité massique de nos batteries, fut pourtant levé. Par de nouveaux procédés mécaniques, compresseurs et turbos, mais également par les progrès de la métallurgie avec des aciers supportant des contraintes de plus en plus élevées et par de nouveaux designs en passant du moteur en étoile au moteur en ligne.
    
    Et un avion est un système de systèmes, avoir une simple machine volante ne suffit pas. Pour en revenir à mon exemple des manœuvres de 1910 à 1913, l’avion ne donna pas satisfaction à l’armée car jugé inférieur comme plateforme d’observation au ballon captif qui lui ne peut pourtant se mouvoir que verticalement. La raison ? Le ballon captif transmettait immédiatement ses observations par liaison filaire, alors qu’aucun avion n’était capable d’embarquer un appareil de Transmission Sans Fil, beaucoup trop lourd, fragile et volumineux et nécessitant une alimentation électrique inexistante sur les avions de l’époque.
    
    25 ans plus tard des villes entières étaient rasées par les machines descendantes en droite ligne des premières libellules de toile et de bois.
    
    Alors quand tous les complexes militaro-industriels de la planète investissent massivement dans l’IA, je me dis que nous avons un peu plus qu’un problème de batteries.
    
    Répondre
QuelartPierre

22 septembre 2019 18h56

Chères toutes, chers tous,
Je suis assez d’accord a la base il y a l’énergie et après on voit ce qu’on fait.
Il y a aussi les low tech chère à Philippe Bihouix.
Et les low tech on gagné 1 à zero dans le match Houthis vs Arabie c’est ou dites.
Combien d’année pour construire un terminal gazier pour recevoir le gaz de schistes américains ?
Hors sujet mais que néni l’énergie est au centre de ce que demains sera et toute la planète a toussé quand il devait manqué 5% de pétrole par jour et aujourd’hui a peine 4 dollars au dessus d’avant la crise Houtis.
Alors trop de pétrole en circulation et baisse d’activité et/ou récession ?
Dans un environnement dégradé récessionniste comment l’IA pourra exister ?
L’IA tant pour être élaboré que pour exister a besoin de beaucoup d’énergie et là c’est pas gagné pour le futur.
Allez avec comme toujours toute ma tendresse, Pierre de la tribu des Queralt’s.

Répondre
Olivier

23 septembre 2019 22h18

@Jacquot : Merci pour toutes ces explications sur les quBit et l’état de l’art actuel !
Je n’avais pas suivi cette évolution et n’étais pas au fait (cependant elle ne sera pas forcément linéaire, du moins je l’espère… avant l’an 6058 !).
En fait je suis parti de la remarque de Chabian : « Google annonce que la puissance quantique de sa nouvelle machine fait que plus aucun code secret ne pourrait tenir plus d’une minute. »

Donc : Bluff 🙂

Sinon je suis parfaitement d’accord : le cœur du problème est, sera et restera longtemps l’énergie !

Répondre