Blog de Paul Jorion

5 réponses à “Veille effondrement #35 – Le développement massif de l’IA, par Philippe Soubeyrand”

1. 

   Khanard

   20 août 2021 14h18

   Les régulateurs du département américain de la sécurité routière, la National Highway Traffic Safety Administration (NHTSA), ouvrent une enquête sur le système Autopilot de Tesla après que des voitures utilisant cette fonction se soient écrasées contre des véhicules de secours.

   La National Highway Transportation Safety Administration a annoncé l’ouverture d’une enquête et elle englobe 765 000 Teslas vendues aux États-Unis, une fraction importante de toutes les ventes de l’entreprise dans le pays. L’agence indique que l’enquête couvrira 11 accidents depuis 2018 ; les accidents ont fait 17 blessés et un mort :

   « Depuis janvier 2018, l’Office of Defects Investigation (ODI) a identifié onze accidents dans lesquels des modèles Tesla de diverses configurations ont rencontré des scènes de premiers intervenants et ont par la suite heurté un ou plusieurs véhicules impliqués dans ces scènes. Les incidents sont répertoriés à la fin de ce résumé par date, ville et état. »

   « La plupart des incidents ont eu lieu après la tombée de la nuit et les scènes d’accident rencontrées comprenaient des mesures de contrôle de la scène telles que des feux de détresse, des panneaux illuminés ou encore des cônes de signalisation. Il a été confirmé que les véhicules en cause impliqués étaient en mode Autopilot ou Traffic Aware Cruise Control pendant l’approche des accidents. »

   « Autopilot est un système avancé d’assistance à la conduite (ADAS) dans lequel le véhicule maintient sa vitesse et son centrage sur la voie lorsqu’il est engagé dans son domaine de conception opérationnelle (ODD). Avec l’ADAS actif, le conducteur est toujours responsable de la détection et de la réponse aux objets et événements (OEDR), par exemple, l’identification des obstacles sur la chaussée ou des manœuvres défavorables des véhicules voisins pendant la tâche de conduite dynamique (DDT). »

   « L’ODI a ouvert une évaluation préliminaire du système SAE de niveau 2 ADAS (pilote automatique) pour l’année modèle 2014-2021, modèles Y, X, S et 3. L’enquête évaluera les technologies et les méthodes utilisées pour surveiller, assister et appliquer le l’engagement du conducteur dans la tâche de conduite dynamique pendant le fonctionnement du pilote automatique. L’enquête évaluera en outre l’OEDR des véhicules lorsqu’ils sont engagés en mode pilote automatique, et l’ODD dans lequel le mode pilote automatique est fonctionnel. L’enquête comprendra également l’examen des circonstances contributives des accidents confirmés énumérés ci-dessous et d’autres accidents similaires. »

   Liste des incidents :
   07/10/2021 San Diego CA
   19/05/2021 Miami FL
   17/03/2021 Lansing MI
   27/02/2021 Comté de Montgomery TX
   26/08/2020 Charlotte NC
   30/07/2020 Comté de Cochise AZ
   22/01/2020 West Bridgewater MA
   29/12/2019 Cloverdale EN
   10/12/2019 Norwalk CT
   29/05/2018 Laguna Beach CA
   22/01/2018 Culver City CA »

   La NHTSA signale que tous les accidents en question ont eu lieu de nuit et que des outils de signalisation avaient été mis en place par les équipes pour délimiter les zones d’interventions, comme des feux de détresse, des panneaux illuminés ou encore des cônes de signalisation. Elle précise également que les fonctionnalités comme Autopilot et Traffic Aware Cruise Control étaient activées.

   La NHTSA a précisé que l’enquête devra montrer si, oui ou non, « la technologie et les méthodes utilisées pour assister et contrôler la conduite et faire en sorte que le conducteur reste attentif » fonctionnent.

   L’enquête est un autre signe que la NHTSA adopte une position plus ferme sur la sécurité des véhicules automatisés que sous les administrations précédentes. Auparavant, l’agence était réticente à réglementer la nouvelle technologie de peur d’entraver l’adoption des systèmes potentiellement salvateurs.

   L’enquête porte sur l’ensemble de la gamme de modèles actuels de Tesla, les modèles Y, X, S et 3 des années modèles 2014 à 2021.

   Le National Transportation Safety Board, qui a également enquêté sur certains des accidents de Tesla datant de 2016, a recommandé que la NHTSA et Tesla limitent l’utilisation d’Autopilot aux zones où il peut fonctionner en toute sécurité. Le NTSB a également recommandé que la NHTSA exige que Tesla dispose d’un meilleur système pour s’assurer que les conducteurs font attention. La NHTSA n’a donné suite à aucune des recommandations. Le NTSB n’a aucun pouvoir d’exécution et ne peut que faire des recommandations à d’autres agences fédérales.

   La NHTSA s’intéresse à l’attention requise du conducteur une fois Autopilot activé

   Tesla a fait l’objet d’un examen minutieux quant à la façon dont Autopilot vérifie l’attention des conducteurs lorsque le système est activé. Dans une évaluation des systèmes avancés d’aide à la conduite (ADAS), Autopilot a reçu des notes moyennes dans le programme européen d’évaluation des nouvelles voitures. Le système a été entravé par sa relative incapacité à garder les conducteurs engagés dans la route.

   Comme beaucoup d’autres systèmes ADAS, Autopilot exige qu’un conducteur garde les mains sur le volant, bien que de tels systèmes puissent être facilement trompés en plaçant un poids sur l’un des rayons du volant. Une enquête récente de Car and Driver a révélé qu’il fallait entre 25 et 40 secondes pour que le véhicule émette un avertissement lorsque les conducteurs retirent les mains du volant, selon le modèle. Si les conducteurs ne répondaient pas, la voiture roulerait encore 30 secondes avant de commencer à freiner. À grande vitesse sur autoroute, cela pourrait entraîner le fonctionnement du système sans implication du conducteur sur 1,6 kilomètre.

   À la suite d’un accident en janvier 2018 en Californie, le National Transportation Safety Board a critiqué la façon dont Tesla tente de garder les conducteurs engagés. Lors de cet incident, qui fait également partie de l’enquête de la NHTSA, une Model S 2014 a bloqué un camion de pompiers dans la voie réservée aux véhicules à occupation multiple (VMO) de l’Interstate 405 à Culver City. Le conducteur de la Tesla avait activé Autopilot et suivait un autre véhicule dans la voie réservée aux VOM lorsque le véhicule de tête a changé de voie pour éviter le camion de pompiers garé. Autopilot n’a ni dévié ni freiné, et le conducteur, qui mangeait un bagel, n’a pas repris le contrôle du véhicule. La Tesla a heurté le camion de pompiers à 50 km/h, selon le rapport d’accident.

   Le National Transportation Safety Board a déclaré que l’inattention du conducteur était la cause probable de l’accident « en raison de l’inattention et de la dépendance excessive au système avancé d’aide à la conduite du véhicule; la conception d’Autopilot Tesla, qui a permis au conducteur de se désengager de la tâche de conduite*; et l’utilisation du système par le conducteur d’une manière incompatible avec les instructions et les avertissements du fabricant ».

   Des modifications apportées à Autopilot

   Tesla a récemment commencé à modifier le fonctionnement d’Autopilot, abandonnant le capteur radar des modèles 3 et Y au profit de caméras supplémentaires (les modèles S et X conserveront le radar dans un avenir prévisible). Comme le montrent les accidents qui font partie de l’enquête NHTSA, les données radar ne garantissent pas que les systèmes ADAS détecteront correctement les obstacles sur la chaussée, bien que généralement, des capteurs supplémentaires puissent aider les systèmes à obtenir une image complète de la scène. Étant donné que les données radar et lidar sont essentiellement une série de mesures, elles aident à déterminer à quelle distance un véhicule se trouve d’un objet. Bien que les systèmes ADAS puissent obtenir les mêmes informations à partir d’images de caméra, ils nécessitent des calculs plus compliqués qu’avec un radar ou un lidar. Il n’est pas clair si l’enquête de la NHTSA inclut les nouveaux modèles de Tesla à caméra uniquement.

   On ne sait pas non plus si l’enquête affectera la fonction dite d’autoconduite complète de Tesla, dont des versions bêta ont été publiées pour un groupe de conducteurs. Les vidéos du système en action montrent qu’il s’agit d’un travail en cours et qu’il nécessite l’attention du conducteur à tout moment.

   Source : NHTSA

   Répondre
   1. 

      Benjamin

      20 août 2021 15h16

      Cette annonce d’Elon Musk n’est-elle pas le 2eme étage de sa fusée scientiste lancée avec Neuralink ?

      Après, effectivement, l’annonce tombe à point nommée par rapport au volet « enquête » qui touche Tesla.

      Répondre
   2. 

      Une Tourangelle

      20 août 2021 22h23

      Instructif, merci.
      Un tel dispositif de pilote automatique ne peut, de toute manière, être fiable à 100%, ni même à 50%, dirais-je. Quand on ne veut pas conduire, on ne se met pas derrière un volant, point.
      La sécurité avant tout, Cooper, comme disait l’autre.

      Répondre
2. 

   ilicitano

   20 août 2021 22h18

   IA et transhumanisme

   Ray Kurzweil:

   https://fr.wikipedia.org/wiki/Raymond_Kurzweil

   Citations
   « Télécharger un cerveau humain signifie scanner tous les détails essentiels et les installer ensuite sur un système de calcul suffisamment puissant. Ce processus permettrait de capturer l’intégralité de la personnalité d’une personne, sa mémoire, ses talents, son histoire. » (2007)

   CRITIQUE DE LA TECHNOLOGIE/CRITIQUE SOCIALE
   Nicolas Le Dévédec, La grande adaptation, 2019

   « Le transhumanisme ne se réduit pas à un projet technoscientifique. Il engage un rapport au monde, à la collectivité, à la cité (polis), qu’il est nécessaire d’interroger, au-delà des enjeux éthiques et utilitaristes qui tendent aujourd’hui à prédominer dans les débats. C’est la nature et le sens de ce « rapport au monde » promu par le mouvement que cet article entend mettre en lumière dans une perspective théorique critique. Son objectif est de montrer que le transhumanisme, y compris quant à la branche dite sociale et progressiste du mouvement, promeut et diffuse un rapport au monde qui se caractérise fondamentalement par l’ELUSION du politique, au sens philosophique et fondamental du terme. Sur des sujets aussi divers que la prise en charge des risques globaux planétaires, la question des problèmes de santé publique, le bien-être conjugal ou encore les questions écologiques, les transhumanistes avancent des explications de type « psycho-bio-évolutionnistes » qui exonèrent les sociétés capitalistes de toute responsabilité et conduisent à privilégier des solutions technoscientifiques centrées sur l’adaptation humaine. »

   https://sniadecki.wordpress.com/2021/03/09/ledevedec-adaptation/

   Bonne lecture

   Répondre
3. 

   Mat

   21 août 2021 11h34

   Bonjour Mr Soubeyrand
   Un peu hors sujet mais pensez-vous faire un suivi du billet suivant un an après ?

   https://www.pauljorion.com/blog/2020/08/14/covid-19-la-france-pays-du-tatonnement-operationnel-par-philippe-soubeyrand/

   Répondre

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.