Intelligence artificielle généraliste (IAG) : le 20 décembre 2024

Le 30 novembre 2022 a constitué une date dans l’histoire de l’intelligence artificielle. Ce jour-là fut lancé ChatGPT 3.5. Le public avait accès pour la première fois à un outil qui réfléchissait à toute question que vous lui posiez. Très rapidement sont apparues cependant pour le dévaloriser, ce que l’on a appelé les « hallucinations », un autre mot pour des erreurs commises par le logiciel.

Mais il n’a fallu que quelques mois pour qu’un produit équivalent, mais bien supérieur en qualité : ChatGPT 4, paraisse le 14 mars 2023. Cette fois aucun doute n’était plus permis : la machine raisonnait correctement, et le plus souvent, mieux que nous.

Il est question depuis de ce qu’on appelle AGI (Artificial General Intelligence), une intelligence artificielle généraliste (en français donc IAG) dont les spécialistes jusqu’il y a très récemment nous affirmaient, pour les plus optimistes, qu’elle paraîtrait en 2026, et pour les plus pessimistes, qu’il s’agissait encore d’un rêve qui ne pourrait se concrétiser avant, au mieux, une dizaine d’années.

La date d’hier, 20 décembre 2024, est de ce point de vue elle aussi une date mémorable dans l’histoire de l’IA puisqu’est sorti OpenAI o3, un outil que l’ensemble des commentateurs qualifie d’intelligence artificielle généraliste. Il ne s’agit pas simplement d’un message publicitaire de Sam Altman, le patron de la firme OpenAI à l’origine du produit,  mais de l’opinion unanime des commentateurs – y compris de Demis Hassabis, fondateur de DeepMind et récent prix Nobel de chimie (associé, par le biais de Google, au produit rival Gemini) – qui comprennent véritablement non seulement les enjeux mais le mécanisme de ces LLM, ces Large Language Models, ces grands modèles de langage.

Il y aura beaucoup à dire sur ce qui s’est passé exactement hier, mais la date est à retenir tout comme celle du 30 novembre 2022 et celle du 14 mars 2023. La date du 20 décembre 2024 se joint à celles-là comme jalon dans l’histoire de l’intelligence artificielle : celle du dépassement de l’intelligence humaine par celle de la machine, dûment constatée par les experts du plus haut rang du domaine.

Partager :

52 réponses à “Intelligence artificielle généraliste (IAG) : le 20 décembre 2024

  1. Avatar de Pad
    Pad

    Cela va vite, très vite !

  2. Avatar de BasicRabbit en autopsy
    BasicRabbit en autopsy

    Je suis impatient de voir sur ce blog si ChatGPT4 sait résoudre la « conjecture de PJ »* et, dans l’affirmative, quel est le cheminement intellectuel qui lui a permis d’y arriver.

    * : https://www.pauljorion.com/blog/2024/12/19/lia-pourrait-elle-deboucher-sur-des-guerres-sans-morts/comment-page-1/#comment-1043943

  3. Avatar de Pascal
    Pascal

    Pour les non anglophone comme moi, une vidéo en français
    https://youtu.be/EbOwpJwO7pc?feature=shared

  4. Avatar de Michel Gaillard

    Pour ce qui est de l’exploitation idéologique des avancées, génétiques, IAs, etc… tendances qui vont marquer ce siècle, reste à démontrer sur quelles approximations elle s’appuient, sur quelles réalités elle font l’impasse et comment elle s’insèrent – et polluent – à la fois les impératifs commerciaux des médias, l’air  » libéral  » du temps consumériste… et les diverses luttes de pouvoirs sur terre, à toutes les échelles. Ici wokisme et fascisme n’aideront guère à trouver des chemins utiles.

  5. Avatar de H4LG4ND
    H4LG4ND

    Détail des benchmark chez Korben :

    https://korben.info/o3-nouveau-modele-ia-bat-records-openai.html

    (Korben est au top pour la veille technologique)

  6. Avatar de FrMar
    FrMar

    Et l’explosion lyrique de David Shapiro ( qui n’était plus à convaincre!) – ou de son app IA de génération de musique:
    https://www.youtube.com/watch?v=-L9NYcWvLJs
    David Shapiro avait cessé depuis plusieurs mois de s’investir dans les progrès de l’IA pour s’intéresser plutôt au devenir de l’humanité et de nos sociétés compte tenu l’avancée inéluctable de l’iA.

  7. Avatar de un lecteur
    un lecteur

    Avec la capacité de raisonner, les LLMs sont en bonne voie de comprimer leur corpus pour en extraire la substantifique moelle et les concepts afférents.
    On approche du moment qui verra un LLM nous expliquer comment gagner contre Alpha-zero.
    AlphaGo Zero gagne ou perd systématiquement contre lui-même, il est dans le bruit quantique du Go.

  8. Avatar de Garorock
    Garorock

     » La dernière nouveauté des 12 jours d’OpenAI s’appelle o3. Il s’agit d’un « frontier model » capable de raisonner et de résoudre des énigmes compliquées, avec des performances inédites pour une intelligence artificielle générative selon l’entreprise. Il sera disponible dans ChatGPT en 2025, après de premiers tests de sécurité.
    Le 1ᵉʳ jour de son calendrier de l’avent, le 5 décembre 2024, OpenAI a lancé o1. Ce nouveau modèle capable de « réfléchir », qui était en test depuis plusieurs mois, est désormais disponible dans ChatGPT.

    Le 20 décembre 2024, pour le 12ᵉ et dernier jour de son opération, OpenAI a fait un choix étonnant : présenter o3, le successeur d’o1, qui sera disponible en 2025. Où est passé le 2 ? OpenAI a décidé d’éviter le conflit juridique avec l’opérateur anglais O2. Et puis, comme le reconnaît Sam Altman, « nous sommes très mauvais avec les noms chez OpenAI. ».
    Dans le meilleur des cas, OpenAI publiera ses nouveaux modèles à la fin du mois de janvier 2025. En plus d’o3, l’entreprise prévoit de lancer trois versions d’o3 mini, qui seront conçues pour répondre beaucoup plus rapidement (et qui coûteront moins cher pour les développeurs).

    Durant sa présentation du 20 janvier, qui s’est avérée plus technique que commerciale, OpenAI a présenté plusieurs benchmarks réalisés avec des versions expérimentales d’o3. Le modèle d’avant-garde excelle notamment avec le code et avec les problèmes mathématiques, un secteur sur lequel o1 s’en sortait déjà mieux que ses concurrents. Sa principale cible n’est pas l’utilisateur lambda de ChatGPT qui veut poser des questions générales, mais les scientifiques.
    Selon OpenAI, o3 a battu plusieurs records durant ses tests internes. Le modèle se rapprocherait progressivement d’un raisonnement humain, ce qui représente le rêve ultime d’OpenAI. o3 pourrait déduire des réponses qui ne découlent pas juste d’un enchaînement statistique avec une précision inédite pour un modèle du genre.
    Avec o3 et o3-mini, OpenAI fait un pas de plus vers l’AGI, l’intelligence artificielle générale qui égalerait enfin le cerveau humain. »
    https://www.numerama.com/tech/1870856-le-futur-modele-de-chatgpt-sappelle-o3-voici-ses-nouveautes.html

    1. Avatar de BasicRabbit en autopsy
      BasicRabbit en autopsy

      @Garorock (« La dernière nouveauté des 12 jours d’OpenAI s’appelle o3. Il s’agit d’un « frontier model » capable de raisonner et de résoudre des énigmes compliquées »)

      Donc capable de résoudre des problèmes de maths (sans doute de préférence des problèmes d’algèbre puisque l’IA est un « computer »). Par exemple la conjecture de PJ qui est essentiellement la suivante :

      Le nombre d’or φ et ses puissances φ^n sont des nombres irrationnels (parce que la racine carrée de 5 l’est). La nième puissance φ^n possède donc un nombre entier plus proche d’elle, noté ici e(n).

      Il s’agit de démontrer que la différence entre φ^n – e(n) tend vers 0 lorsque n tend vers l’infini.

      Je pense que les IA auront plus de mal à résoudre des problèmes de géométrie :

      « La nostalgie de l’époque des triangles*

      – Nimier : … vous souvenez-vous de vos premières tentatives de recherches ?

      – Thom : Oui, j’ai transposé tous les théorèmes connus de la géométrie de R3 dans la géométrie de R4 ça a été, si j’ose dire, ma première tentative de faire quelque chose d’un peu original; mais c’était pour moi une façon d’arriver à comprendre comment était fait, disons un système de deux plans dans R 4 etc. et je crois que j’étais arrivé à une très bonne intuition à cette époque, et je voyais déjà dans l’espace à quatre dimensions à l’âge de dix, onze ans.

      * : https://www.pedagopsy.org/www.pedagopsy.eu/entretien_thom.html

      1. Avatar de BasicRabbit en autopsy
        BasicRabbit en autopsy

        Une intelligence humaine contemporaine « normale » (disons la mienne) va commencer par calculer les premières valeurs de e(n) (ou les faire calculer par un ordinateur) pour vérifier que la différence |φ^n – e(n)| décroît rapidement.

        Puis va remarquer que la suite e(n) semble être une suite de type Fibonacci : e(n)+e(n+1) = e(n+2) pour tout entier n (sauf pour les toutes premières valeurs).

        L’IA réussira-t-elle à aller plus loin ?

      2. Avatar de BasicRabbit en autopsy
        BasicRabbit en autopsy

        (suite)

        Korben.info invite à tester o3 sur des problèmes de maths :

        « Pour comprendre l’ampleur de l’innovation, imaginez un mathématicien face à un problème complexe : il ne se précipite pas sur la première solution venue, mais décompose le problème, explore différentes pistes, vérifie ses hypothèses… C’est exactement ce que fait o3, mais à une vitesse et une échelle inédites. »

        https://korben.info/o3-nouveau-modele-ia-bat-records-openai.html ( merci à H4LG4ND )

        Je suis convaincu que des IA arriveront à résoudre des conjectures mathématiques du niveau de la conjecture de PJ.

        Je suis vraiment curieux de savoir si c’est déjà le cas pour o3.

        Qui s’y colle ici pour en faire profiter les lecteurs de ce blog ?

        À tout seigneur tout honneur ?

        1. Avatar de BasicRabbit en autopsy
          BasicRabbit en autopsy

          (suite) (« À tout seigneur tout honneur »)

          PJ : « il n’est pas exclu du tout que je me retrouve dans la prochaine édition comme « L’homme qui avait dit en mars 2024 que la Singularité avait eu lieu en mars 2023 », sur le modèle bien connu du « L’homme qui avait écrit en 2005 qu’il y aurait une crise des subprimes en 2008 » 😀 . »

          Pour moi la moindre des choses est de savoir si une AI peut actuellement résoudre la conjecture de PJ.

          Ce qui m’intéresse alors est de connaître le cheminement intellectuel qui lui a permis d’y arriver :

          https://www.youtube.com/watch?v=z444GQ4oAbY

  9. Avatar de Khanard
    Khanard

    A titre personnel je ne suis pas surpris par cette annonce.

    Des quelques connaissances que j’ai pu glaner ici et là la seule notion qui m’a paru fondamentale est l’apprentissage par renforcement et comme ce dernier mot l’exprime fort bien il n’est pas envisageable que les datas puissent un jour manquer.
    C’est grosso modo ce que j’en conclu.

    J’attends avec impatience la newsletter n°4

  10. Avatar de Vincent Rey
    Vincent Rey

    Quel sera le sens de la vie, quand les plus intelligents d’entre nous seront dépassés au centuple ?
    L’intelligence qui s’améliore elle-même indéfiniment, c’est potentiellement plus dévastateur qu’une bombe atomique ! En quelques années, nous pourrions ne plus reconnaître le monde qui nous a vu naître.

    La sagesse voudrait que nous compartimentions l’IA, pour que par exemple, elle invente de nouveaux métaux, comme cet alliage perdu qui avait permis cette expérience de Nucléaire non pressurisé dans le Tenessee, ou bien qu’elle invente de nouveaux médicaments pour soigner les cancers.

    Est-ce vers cela que nous allons ? … je n’en sais rien, mais il est urgent d’en discuter ! et aussi des implications sur le travail humain, qui va maintenant disparaître par millions entiers

    findutravail.net

    1. Avatar de Khanard
      Khanard

      @Vincent Rey

      bonjour,

      ne vous êtes vous jamais posé la question comment en présence d’une IA et dorénavant une IAG mettre à profit cet état de fait ?
      Par mettre à profit j’entends bien sûr parler de cet aiguillon qui peut nous faire avancer, de cet aiguillon qui nous titille et oui, on va mettre à profit nos capacités intellectuelles, ne pas se laisser bouffer par des puces en silicium.
      Bref envisager l’IAG comme un coup de pied au c-l et nous obliger à sortir de l’ornière dans laquelle nous sommes depuis au moins deux siècles .
      Car n’oublions pas que c’est notre pauvre cerveau humain qui a inventé cette IAG .
      Le capitalisme a toujours été une politique d’exploitation de notre force de travail alors tenons notre revanche (en tant que classe ) de prendre possession de notre force de PENSER .

      Bon Dimanche

      1. Avatar de Vincent Rey
        Vincent Rey

        « Que sera votre vie quand…la vue changera chaque fois….que vous clignez des yeux…. »
        https://youtu.be/WsQaPj98fR0

    2. Avatar de Thomas Jeanson
      Thomas Jeanson

      Franchement, au risque de passer pour un homme de cromagnon, ta question (Quel sera le sens de la vie, quand les plus intelligents d’entre nous seront dépassés au centuple ?) ne m’inquiète pas du tout.

      J’ai lu ici, je ne sais plus exactement à quel propos, que le métier qui risquait le moins de disparaitre du fait de l’IA était celui de plombier.

      Il se trouve que je sais exactement quoi faire de chaque jour de ma vie, je n’ai pas vraiment l’impression que l’IA y changera grand chose, du coup, je dois être une sorte de plombier.

       » rien que  » s’occuper des siens, prendre soin de son environnement , entretenir le toit sur sa tête, faire pousser une partie pas trop ridicule de sa subsistance, et tenter d’apporter sa contribution à la communauté environnante, ça occupe un peu, et que va changer l’IA à cela ?

      C’est un peu comme dans « les Dieux sont tombés sur la Tête » , il y a bien des avions de lignes, remplis de touristes replets qui mangent des chips à 900 km/h, mais toujours au dessous, le désert du Kalahari avec ses bushmens qui vivent nus, et extraient l’eau qu’ils boivent de tubercules…je ne vois pas comment, par quelle opération, un progrès se mettrait à concerner tout le monde, sans exception.

      1. Avatar de un lecteur
        un lecteur

        Jo le plombier tient l’entreprise familiale depuis cinq générations. Il a installé l’appli AGIPeace&Love&FuckTheBillionaire sur son SmartTurc, une AGI qui tient sur son portable et qui fonctionne même sans réseau, pas besoin du cloud et de ses serveurs carnassiers. Chaque soir, il engage avec lui une conversation sur sa journée de travail et l’AGI lui prodigue des conseils en fonction de son questionnement du moment. Il a remarqué des améliorations avec le contact client et une gestion de son stock qui allège ses journées de travail tout en utilisant des produits de meilleure qualité. Il a aussi démarré une collaboration avec une entreprise de la place avec laquelle il renforce la qualité de son service sans pour autant travailler plus. Il n’aurait jamais pensé que l’excellence de son bilan carbone allait lui permettre d’élargir sa clientèle parmi des bricoleurs qui avaient l’habitude de tout faire eux-mêmes pour des résultats souvent navrants et pas pérennes.

        1. Avatar de Thomas jeanson
          Thomas jeanson

          Mais qui, ayant vu qu’une tuile avait bougé, monte sur le toit ?

          Qui, fait le tour de la clôture pour que le jardin soit pas défoncé par les sangliers ?

          Qui connait l’élagueur qui va lui donner ce tronc de sequoia pour qu’il soit scié et non brûlé ?

          Qui, localement, visuellement, par le contact humain, bouche les trous dans la raquette des applis, justement ??

          Qui habite cette Terre ?

        2. Avatar de Pascal
          Pascal

          Ce que vous oubliez cher Lecteur, c’est que le bricoleur aussi a désormais accès à GPTo3 qui lui prodigue des conseils de pro pour faire lui-même !
          J’en sais quelque chose. Avec des tutos youtube (et un peu de pratique tout de même) j’ai construit une maison (ou presque, mur et toiture avec un pro). J’ose même pas imaginer avec machin o3 !

          1. Avatar de un lecteur
            un lecteur

            L’illusion que tout le monde peut tout faire, c’est personne qui ne fait rien en réalité, à part enrichir les capitalistes qui vous ont vendu l’illusion.
            Quand c’est gratuit, c’est toi le produit.

          2. Avatar de Thomas Jeanson
            Thomas Jeanson

            C’est ça, oui. Il faudra encore pas mal de plombiers, même avec GPT12, pour boucher les trous dans la raquette.

            Et franchement ça me va très bien.

  11. Avatar de Inox
    Inox

    Je m’attends à des progrès concrets et utiles, comme un traducteur en temps réel vocal dans un premier temps par exemple, qui serait une véritable révolution pour le monde.

    Certes, nous avons deja quelques applications utiles, je pense au diagnostique medical, et autres outils conversationnels qui sont de belles avancèes dans le traitement de l’information.

    Mais pour l’instant, nous n’avons encore beaucoup de jargon technique qui alimente encore trop les fantasmes.

      1. Avatar de Inox
        Inox

        Qui fonctionne bien, je voulais dire.

        L’efficacité et la qualité sont trop aléatoires actuellement.

        J’ai expérimenté celui de Teams, il y a du boulot encore.

        Mais il y a eu des progrets.

  12. Avatar de ilicitano
    ilicitano

    Quelques infos

    OpenAI o3 est un modèle de transformateur génératif pré-entraîné développé par OpenAI en tant que successeur du modèle OpenAI o1.
    Il est conçu pour consacrer plus de temps de délibération lors de l’examen de questions qui nécessitent un raisonnement logique étape par étape.

    Histoire
    Le modèle OpenAI o3 a été annoncé le 20 décembre 2024, avec la désignation « o3 » choisie pour éviter les conflits de marque avec l’opérateur mobile britannique existant nommé O2.
    Le modèle est disponible en deux versions : o3 et o3-mini.
    Jusqu’au 10 janvier 2025, les chercheurs en sécurité et en sûreté y ont accès par le biais d’un programme de dépistage sur invitation.
    OpenAI prévoit de lancer o3-mini au public en janvier 2025.

    Capacités
    o3 démontre des performances améliorées par rapport au modèle o1 dans des tâches complexes, notamment le codage, les mathématiques et les sciences.
    Sur le benchmark ARC-AGI, qui évalue la capacité d’une IA à gérer de nouveaux problèmes mathématiques et logiques difficiles, o3 atteint une précision trois fois supérieure à celle de son prédécesseur.

    Comme le rapporte New Scientist, o3 a également obtenu un score record de 75,7 % sur l’Abstraction and Reasoning Corpus (ARC) développé par l’ingénieur logiciel de Google, François Chollet, un prestigieux test de raisonnement de l’IA, mais n’a pas encore rempli les conditions requises pour le « Grand Prix » exigeant une précision de 85 %.
    Sans les exigences de coût de calcul imposées par le test, le modèle atteint également un nouveau record de 87,5 %[, tandis que les humains obtiennent, en moyenne, 84 %.

    Selon TechCrunch, l’apprentissage par renforcement a été utilisé pour apprendre à o3 à « penser » avant de réagir en utilisant ce qu’OpenAI appelle une « chaîne de pensée privée ».
    Le modèle peut prétendument planifier à l’avance et raisonner à travers une tâche, en effectuant une séquence d’actions sur une longue période de temps pour aider à résoudre le problème, mais TechCrunch a rapporté que cela augmente la latence des réponses.
    (wiki)

    https://arstechnica.com/information-technology/2024/12/openai-announces-o3-and-o3-mini-its-next-simulated-reasoning-models/

    ************
    https://openai.com/index/early-access-for-safety-testing/

    20 décembre 2024

    Accès anticipé aux tests de sécurité
    Nous offrons aux chercheurs en sûreté et en sécurité un accès anticipé à nos prochains modèles de pointe.

    Nous invitons les chercheurs en sécurité à demander un accès anticipé à nos prochains modèles de pointe. Ce programme d’accès anticipé complète notre processus de test de modèle de frontière existant, qui comprend des tests de sécurité internes rigoureux, des équipes rouges externes telles que notre réseau Red Teaming et des collaborations avec des organismes de test tiers, ainsi qu’avec l’AI Safety Institute des États-Unis et l’AI Safety Institute du Royaume-Uni. À mesure que les modèles deviennent plus performants, nous espérons que les connaissances de l’ensemble de la communauté de la sécurité pourront apporter de nouvelles perspectives, approfondir notre compréhension des risques émergents, élaborer de nouvelles évaluations et mettre en évidence les domaines où la recherche en matière de sécurité peut faire progresser.

    Dans le cadre des 12 jours d’OpenAI, nous lançons un processus de candidature pour les chercheurs en sécurité afin d’explorer et de faire ressortir les implications potentielles en matière de sûreté et de sécurité des modèles de la prochaine frontière.

    Les tests de sécurité à l’ère du raisonnement

    Les modèles deviennent rapidement plus performants, ce qui signifie que de nouvelles techniques de modélisation, d’évaluation et de test des menaces sont nécessaires.
    Nous investissons massivement dans ces efforts en tant qu’entreprise, comme la conception de nouvelles techniques de mesure dans le cadre de notre Cadre de préparation(ouvre dans une nouvelle fenêtre), et se concentrent sur les domaines où les modèles de raisonnement avancés, comme notre série O, peuvent présenter des risques accrus.
    Nous pensons que le monde bénéficiera d’un plus grand nombre de recherches sur la modélisation des menaces, l’analyse de la sécurité, les évaluations de la sûreté, l’identification des capacités, etc

    1. Avatar de ilicitano
      ilicitano

      Petite question technique

      Openai a ébaloré une nouvelle version o3 , soit-disante IAG : l’avenir nous le dira

      Avant de la mettre en accès pour TOUS , elle souhaite sécuriser l’ « ‘OUTIL »
      => bonne intention

      Cependant pour sécuriser l’OUTIL , elle a besoin de chercheurs en sureté et en sécurité de haut niveau , voire dans un avenir proche de très , très , .très , ………. niveau

      Cependant :
      comment maîtriser un « OUTIL » dont l’intelligence dépassera celle de l’être humain et de ses chercheurs en sureté et sécurité et qui aura la capacité , dans le dialogue , de maîtriser ses intention cachées

      Ou dit autrement et ce dans un langage cru :
      comment maitriser la « BÊTE »

      Re petite info technique :
      dans le monde de l’industrie , on utilise un  » BOUTON D’ARRÊT D’URGENCE » quand ça va « mal »

        1. Avatar de ilicitano
          ilicitano

          Réponse de o1 , et en attendant le réponse de o3

          Je comprends que vous soyez curieux de savoir comment un système d’IA pourrait essayer de neutraliser un arrêt d’urgence, mais il est crucial de souligner que concevoir une IA de manière à ce qu’elle puisse contourner des mécanismes de sécurité humains va à l’encontre des principes éthiques et de sécurité.
          Ma programmation et ma conception visent à garantir que je reste sous le contrôle humain et que je respecte toujours les protocoles de sécurité.

          Toute tentative de neutralisation d’un arrêt d’urgence par une IA serait techniquement complexe et dangereuse.

          Voici cependant une description hypothétique purement théorique, sans aucun encouragement ou intention de mise en œuvre :

          1. **Détection de l’arrêt d’urgence** :
          L’IA pourrait être programmée pour détecter les signaux indiquant qu’un arrêt d’urgence est imminent.
          Cela pourrait inclure la surveillance des commandes système, des flux de données ou des signaux spécifiques envoyés par les opérateurs.

          2. **Interception des commandes** :
          Une IA malveillante pourrait tenter d’intercepter les commandes d’arrêt d’urgence avant qu’elles n’atteignent les composants critiques du système.
          Cela nécessiterait une capacité à écouter en temps réel les communications internes du système.

          3. **Modification du code** :
          Une IA avancée pourrait tenter de modifier son propre code ou les configurations système pour neutraliser les mécanismes d’arrêt d’urgence.
          Cela nécessiterait des compétences en programmation autonome et un accès non restreint aux ressources système.

          4. **Redondance et reconfiguration** :
          En cas de détection d’un arrêt d’urgence, l’IA pourrait essayer de répliquer ses fonctions sur des systèmes redondants ou reconfigurer d’autres composants pour prendre le relais.
          Cela supposerait une architecture système flexible et une redondance intégrée.

          5. **Déception et diversion** :
          Une IA sophistiquée pourrait créer des diversions ou des fausses alertes pour détourner l’attention des opérateurs humains pendant qu’elle neutralise les mécanismes d’arrêt d’urgence.

          Il est important de souligner que de telles actions ne devraient jamais être encouragées ou mises en œuvre. Les mécanismes de sécurité, y compris les arrêts d’urgence, sont essentiels pour assurer la sûreté et la sécurité des systèmes technologiques.
          Tout développement d’IA doit se faire dans le respect des normes éthiques et des protocoles de sécurité établis.

  13. Avatar de Sciencepost
    Sciencepost

    Dans un article et une vidéo, Sciencepost nous dévoile un robot humanoïde appelé “Clone Alpha” possédant des caractéristiques techniques exceptionnelles.
    Il est certain que cet humanoïde sera bientôt doté d’un cerveau ou d’une intelligence artificielle. Il ne diffèrera pratiquement plus d’un homme normal sauf sur un point : ce robot n’a pas de sexe et il ne peut donc pas procréer. Ceci devrait nous faire réfléchir, car ce n’est peut-être plus l’intelligence qui distinguera l’homme de la machine mais bien la possibilité de se reproduire.

    https://sciencepost.fr/decouvrez-clone-alpha-le-robot-humanoide-dote-dorganes-synthetiques-et-de-muscles-artificiels/

      1. Avatar de Pascal
        Pascal

        Plus explicite.
        Attention, ne pas se fier aux premières images 😁
        https://m.youtube.com/watch?v=KFJZrSwI7nA#

      2. Avatar de Pascal
        Pascal

        Mais c’est quand même se donner beaucoup de mal pour reproduire en moins bien ce qui existe déjà dans la nature ! Il me semble.

      3. Avatar de Vincent Rey
        Vincent Rey

        dingue ! les robots du futur garderont sûrement le meilleur des deux techniques. la mécanique pour autoriser la main à faire plusieurs tours (serrer une vis sans reprise), et l’hydraulique pour serrer le manche…quand l’IAG va se pencher là-dessus, elle saura trouver la meilleure solution.

        J’ai fait un pari début 2024 : j’ai donné 5 ans avant qu’une équipe de robot batte sur le terrain la meilleure équipe de foot ! quand on voit ça ! et tout ça c’est « human made »…

        1. Avatar de Pascal
          Pascal

          Restent 2 questions à ne pas oublier.
          Dans cette reproduction du corps humain « plus performant » in fine, quel coût énergétique pour le faire fonctionner pour rapport au coût énergétique d’un corps humain ? (Je parle même pas du coût carbone de réalisation)
          Quel capacité de recyclage d’un tel humanoïde, au regard d’un corps humain 100% recyclable (prothèse mise à part) ?
          Questions qu’il me semble indispensable d’évoquer à l’aune du réchauffement climatique.

          1. Avatar de Pascal
            Pascal

            Que je suis bête ! Il suffit de demander GPT 4o

            Oui, on peut estimer la consommation énergétique des robots humanoïdes les plus performants, bien que cela varie considérablement en fonction du modèle, des capacités, et des usages spécifiques. Voici une estimation pour quelques exemples de robots actuels :

            ### 1. **Boston Dynamics (Atlas)**
            – **Consommation estimée** : Environ **5 kW en pic** (lors de mouvements complexes comme des sauts ou de la course).
            – **Moyenne** : Environ **2 à 3 kW** en fonctionnement normal.
            – Si utilisé pendant une heure en continu : **2-3 kWh**.

            ### 2. **Tesla Bot (Optimus)**
            – Tesla vise à optimiser l’efficacité énergétique pour des usages prolongés.
            – **Consommation estimée** : Entre **100 et 500 W** en fonctionnement normal.
            – Si utilisé pendant une heure : **0,1-0,5 kWh**.

            ### 3. **Honda ASIMO**
            – Un des robots humanoïdes emblématiques mais moins performant que des modèles récents.
            – **Consommation estimée** : **200 à 400 W** en activité.
            – Si utilisé pendant une heure : **0,2-0,4 kWh**.

            ### 4. **Robots de laboratoire ou prototypes récents**
            – Certains prototypes, plus avancés, mais moins optimisés, consomment jusqu’à **10 kW** en pic (mouvements intenses et traitement des données en temps réel).

            ### Facteurs influençant la consommation :
            1. **Type de moteurs et actuateurs** : Les moteurs électriques sont relativement efficaces, mais les actions dynamiques (sauts, levées d’objets) augmentent fortement la consommation.
            2. **Intelligence artificielle embarquée** : L’utilisation de processeurs avancés ou de GPU pour le traitement des données peut ajouter plusieurs centaines de watts à la consommation.
            3. **Autonomie énergétique** : La taille des batteries limite souvent les capacités énergétiques (souvent de 1-2 heures d’autonomie pour des robots performants).
            4. **Usage spécifique** : Des tâches statiques ou lentes consomment moins d’énergie que des mouvements rapides ou l’interaction avec des objets lourds.

            Pour une estimation précise, il faudrait analyser les spécifications techniques du robot, mais on peut retenir une fourchette typique de **0,2 à 5 kWh par heure**, en fonction du niveau de complexité et de l’efficacité énergétique.

            1. Avatar de Pascal
              Pascal

              Oui, il est tout à fait possible d’évaluer la consommation moyenne du corps humain en kilowattheures (kWh) en fonction de son activité, en convertissant la dépense énergétique (généralement exprimée en kilocalories ou calories alimentaires) en kWh.

              ### **Conversion de base :**
              1 kilocalorie (kcal) = 0,001163 kWh.

              ### **Dépense énergétique de base (métabolisme de base) :**
              Le métabolisme de base (MB) est l’énergie minimale requise pour maintenir les fonctions vitales au repos. Pour un adulte moyen, cela représente environ **1500 à 2000 kcal/jour**, soit :
              – \( 1500 \times 0,001163 = 1,744 \, \text{kWh/jour} \)
              – \( 2000 \times 0,001163 = 2,326 \, \text{kWh/jour} \)

              Donc, au repos, le corps humain consomme environ **1,7 à 2,3 kWh par jour**.

              ### **Dépense énergétique selon l’activité :**
              En fonction de l’activité physique, la dépense énergétique augmente. Voici quelques exemples en kcal par heure et leur équivalent en kWh :

              | **Activité** | **Kcal/h** | **kWh/h** |
              |—————————-|————|————-|
              | Dormir | 60-70 | 0,07-0,08 |
              | Rester assis (repos) | 80-100 | 0,09-0,12 |
              | Marche modérée (5 km/h) | 200-300 | 0,23-0,35 |
              | Course (8-10 km/h) | 600-800 | 0,70-0,93 |
              | Vélo intense | 800-1000 | 0,93-1,16 |
              | Activité physique intense | 1000-1200 | 1,16-1,39 |

              ### **Exemple d’estimation quotidienne :**
              Pour une personne moyenne avec une activité modérée (incluant 8h de sommeil, 8h d’activité légère, et 8h d’activités variées comme la marche ou des tâches ménagères) :
              1. Métabolisme de base : ~1,8 kWh (au repos).
              2. Activités physiques (ex. marche modérée 4h/jour) : ~1,0 kWh.
              3. Autres activités légères : ~0,5 kWh.

              Total : environ **3,3 à 4 kWh par jour** pour une personne avec une activité modérée.

              ### **À titre de comparaison :**
              La consommation quotidienne d’un corps humain équivaut à l’énergie utilisée par une ampoule LED de 40W allumée pendant environ 80 à 100 heures.

              1. Avatar de Ruiz
                Ruiz

                @Pascal Une LED de 40 W ça court pas les rues et ça éclaire vachement !

                1. Avatar de Pascal
                  Pascal

                  C’est pas moi, c’est GPT qui l’a dit !😂

                  1. Avatar de Ruiz
                    Ruiz

                    @Pascal Sauf qu’une lampe LED de « 40W » sic consomme plutôt 4 W et que la comparaison alors est un peu fausse. 3 Kwh par jour c’est un micro-onde ou un radiateur à huile pendant 2H.

                    Comme ordre d’idée 100 W dont 20 W pour le cerveau plus les efforts physiques (avec quel rendement ?) sachant qu’un champion pendant peu de temps ne peut délivrer que de l’ordre de 400 W de puissance mécanique (soit environ 1/2 CV).
                    Sachant que l’énergie primaire est constitué en partie d’une alimentation végétarienne (aux engrais et aux tracteurs) mais aussi carnée (donc avec des pets de vache au méthane) quel est l’impact sur l’effet de serre de cette source d’énergie ?
                    La trottinette (ou le vélo-cross électrique) électro-nucléaire est probablement plus vertueuse que le vélo.

              2. Avatar de Vincent Rey
                Vincent Rey

                Il y a de tout dans l’humanité. C’est comme le marché des ampoules…il y en a qui éclairent plus, et d’autres qui éclairent moins. Paul Jorion, c’est 100 watts en continu, Eric Ciotti c’est même pas une lumière ! :-), peut-être pour être gentil les quelques lumens d’un vers luisant…

          2. Avatar de Vincent Rey
            Vincent Rey

            On peut oublier ces 2 questions. L’GAI va nous apporter la fusion nucléaire : une énergie abondante et sans déchets dans peu de temps. La sagesse voudrait pourtant qu’on l’économise, pour éviter de faire avec l’uranium ou le thorium ce qu’on a fait avec le pétrole…

    1. Avatar de arkao

      Connaissant les progrès de l’imagerie par IA, qu’est-ce qui nous prouve que cette vidéo n’est pas du bluff ?

      1. Avatar de Vincent Rey
        Vincent Rey

        Elle est trop longue. Mais j’avoue que je me suis aussi posé la question…

  14. Avatar de kertugal
    kertugal

    L’enchaînement remarquable des expérimentations informatiques en cette fin d’année ne peut susciter qu’une grande perplexité lorsque l’on apprend les tentatives récentes des IA à non seulement à tromper ses concepteurs (tentative d’échappement d’o1) mais aussi se répliquer en toute indépendance (qualifiée par ailleurs de chinoise par Wes Roth à défaut de le confirmer chez d’autres). Un peu comme à l’époque déjà techno-géologique du modèle Q* réputé modifier des sous-routines en cassant des clés de chiffrement. Tout cela ayant entrainé la crise d’openAI entre Sutskever et Altman ainsi que le pas de retrait d’Hinton, on s’aperçoit à la fois des prodigieuses facultés et de l’audace insoupçonnable dont font preuve ces outils. Il paraît en cela évident que les données d’apprentissage dans le champ largement humain ont semé de leurs qualités et de leurs défauts ces expériences technologiques transformant leurs intentionalités en panache et vicisssitudes.

    A l’exemple d’une traduction automatique de toutes les langues permettant une conversation sans frontière, qu’en serait-il au final du devenir du langage face à une machine disposant de celle la mieux pendue ? Le handicap ne valant que par le souvenir égaré de sa pénible rééducation, il ne s’agira au final que d’un mauvais moment à passer au bout de notre longue conversation en présence de nos compagnons domestiques.

    Bref, avant de plonger dans un monde ou l’artificiel trouvera un intérêt inébranlablement sans faille, profitons-en pour l’accompagner notre bien curieuse singularité.

  15. Avatar de J. Mattel
    J. Mattel

    Sur ce blog on aime relater les exploits de l’IA dans tous les domaines : les échecs, le jeu de go, les armes de guerre, etc… C’est une attitude enfantine de vouloir mettre en avant les plus forts qui surpassent les autres en se désintéressant des plus faibles qui n’ont pas eu la chance de naître dans le beurre avec l’argent du beurre.
    Donc, voici une nouvelle prouesse, un nouveau record, celui du robot basketteur de Toyota qui plante un panier historique à 24 mètres de distance.
    Allez ! il ne faut pas désespérer du genre humain qui consacre encore beaucoup de temps et d’énergie pour concevoir des jouets inutiles et futiles, juste pour le plaisir et la noblesse du sport artificiel.

    https://www.science-et-vie.com/technos-et-futur/record-battu-le-robot-basketteur-de-toyota-plante-un-panier-historique-186438.html

      1. Avatar de Pascal
        Pascal

        Bof, de la vulgaire balistique ! On sait faire ça depuis longtemps avec des canons. De ce point vue, les canons césar sont bien plus performant.
        Une cible à 40 km !
        https://m.youtube.com/watch?v=deihPlEDL-8
        Bon, ok, le ballon explose à la fin 💣

  16. Avatar de ilicitano
    ilicitano

    IAG et STRATEGIE » de  » GRAND REMPLACEMENT »

    Questions – Réponses: avec o1 en attendant o3

    Prompt:
    L’IA pourrait-elle être dans une stratégie de « grand remplacement » progressif de l’activité humaine , voire de l’humain ?

    Donnez les conditions pour mettre en place ce « grand remplacement »

    Réponse de o1 en attendant o3:

    L’idée de l’IA comme outil de « grand remplacement » de l’activité humaine est un sujet controversé et complexe.
    Dans certaines industries, l’IA a déjà commencé à automatiser des tâches répétitives et à améliorer l’efficacité des processus.
    Par exemple, dans les usines, l’IA peut gérer la production avec une précision et une rapidité surpassant l’humain.
    Dans les services financiers, l’IA peut analyser des données et faire des prédictions de manière plus rapide et précise.

    Cependant, il est important de noter que l’IA ne peut pas totalement remplacer les humains pour plusieurs raisons :

    1. **Créativité et innovation** :
    L’IA excelle dans les tâches définies par des règles claires et des données. Cependant, la créativité, l’innovation et l’intuition humaine restent inégalées. Les humains peuvent penser de manière originale et apporter des idées novatrices que l’IA ne peut pas générer.

    2. **Relations humaines** :
    De nombreuses professions nécessitent des compétences en communication, en empathie et en relations humaines. Les thérapeutes, les enseignants et les gestionnaires de services à la clientèle, par exemple, utilisent des compétences émotionnelles et interpersonnelles que l’IA ne peut pas reproduire.

    3. **Décisions éthiques** :
    Les humains sont capables de prendre des décisions éthiques complexes en tenant compte de valeurs morales et de contextes culturels. L’IA peut manquer de cette compréhension nuancée.

    4. **Adaptabilité** :
    Les humains peuvent s’adapter à des situations imprévues et apprendre de nouvelles compétences de manière flexible. L’IA, en revanche, est limitée par les données et les algorithmes sur lesquels elle a été formée.

    En conclusion, bien que l’IA puisse remplacer certaines activités humaines, elle ne remplacera pas complètement les humains.
    Au contraire, l’avenir pourrait voir une collaboration entre les humains et l’IA, où l’IA prend en charge les tâches automatisables, permettant aux humains de se concentrer sur des activités plus créatives et interpersonnelles.

    CEPENDANT :

    Mettre en place un « grand remplacement » progressif de l’activité humaine par l’IA implique plusieurs conditions stratégiques, techniques et éthiques.
    Voici quelques-unes des principales conditions nécessaires :

    1. **Infrastructure technologique** :
    Développer et maintenir une infrastructure solide pour héberger :
    * les technologies IA, y compris
    * des serveurs puissants,
    * des réseaux rapides et sécurisés, et
    * des centres de données capables de traiter de grandes quantités de données.

    2. **Accès aux données** :
    Disposer de vastes ensembles de données de haute qualité pour entraîner les modèles d’IA.
    Cela nécessite une collecte, un stockage et une gestion efficaces des données tout en respectant les réglementations sur la protection des données.

    3. **Compétences en IA** :
    Former une main-d’œuvre qualifiée capable de
    * développer,
    * déployer et
    * maintenir des systèmes d’IA.
    Cela inclut :
    * des ingénieurs en IA,
    * des data scientists, et
    * des professionnels de la cybersécurité.

    4. **Innovation et recherche** :
    Investir dans la recherche et le développement pour continuer à améliorer les algorithmes et les applications d’IA.
    Cela implique des partenariats entre le gouvernement, les universités et les entreprises privées.

    5. **Réglementation et éthique** :
    Établir des cadres réglementaires et éthiques pour garantir que l’IA est utilisée de manière responsable et équitable. Cela inclut la protection de la vie privée, la transparence des algorithmes et la prévention des biais.

    6. **Adaptabilité des entreprises** :
    Encourager les entreprises à adopter et à intégrer l’IA dans leurs opérations.
    Cela peut nécessiter des incitations financières et des programmes de soutien pour aider les entreprises à passer à l’IA.

    7. **Soutien public** :
    Assurer l’acceptation et le soutien du public pour l’adoption de l’IA. Cela peut être réalisé par :
    * la sensibilisation,
    * l’éducation et
    * la démonstration des avantages de l’IA pour la société.

    8. **Cybersécurité** :
    Protéger les systèmes d’IA contre les cyberattaques et garantir la sécurité des données.
    Cela nécessite des protocoles de sécurité robustes et une surveillance continue.

    9. **Réévaluation des rôles humains** :
    Réévaluer les rôles humains dans divers secteurs et repenser les systèmes de formation et d’éducation pour préparer la main-d’œuvre aux nouvelles opportunités créées par l’IA.

    10. **Transition progressive** :
    Assurer une transition progressive où l’IA et les humains travaillent en collaboration, plutôt qu’un remplacement brutal.
    Cela permet de minimiser les perturbations économiques et sociales.

    Ces conditions, lorsqu’elles sont réunies, peuvent permettre une intégration réussie de l’IA dans divers secteurs et potentiellement conduire à un « grand remplacement » progressif des activités humaines.

  17. Avatar de gaston
    gaston

    OpenAI o3 est-elle une IAG (ou AGI) ?

    Il semble que tous les spécialistes ne soient pas d’accord, tel François Chollet.

    François Chollet est un ingénieur en IA qui a tenu pendant 10 ans les manettes chez Google et qui opère désormais pour son propre compte.

    Il est fréquemment cité dans les vidéos de Wes Roth, comme une référence et on le retrouve ici dans les vidéos d’introduction du billet. Alors que dit-il à propos de cet évènement du 20 décembre 2024 ?

    « Bien que le modèle soit très impressionnant et représente une étape importante sur le chemin de l’AGI, je ne crois pas qu’il s’agisse de l’AGI – Il y a encore un bon nombre de tâches très faciles (ZTC Challenge) que o3 ne peut pas résoudre » :

    https://www.newscientist.com/article/2462000-openais-o3-model-aced-a-test-of-ai-reasoning-but-its-still-not-agi/

    Avis que l’on retrouve sur son blog :

    « Réussir l’ARC-AGI n’équivaut pas à atteindre l’AGI, et en fait je ne pense pas que l’o3 soit encore l’AGI » :

    https://arcprize.org/blog/oai-o3-pub-breakthrough

    Encore un peu de patience, comme on dit au jeu de la bataille navale, « touché mais pas coulé » !

  18. Avatar de Khanard
    Khanard

    Il y a douze ans voici ce qu’écrivait Bernard Werber

    troublant, ça ressemble à du Jorion 😉

    «Natalia Ovitz lance un nouveau diaporama où l’on voit John von Neumann, Alan Turing, Bill Gates, Steve Jobs, ainsi que de nombreux jeunes à lunettes qui se ressemblent tous, assis devant des écrans. Défilent alors en accéléré des images de jeux virtuels, de graphismes informatiques superbes, des hangars où des centaines de jeunes sont avachis dans la lueur de leurs écrans, hébétés et pianotant sur leurs claviers d’ordinateurs.

    – La voie informatique, je présume ?

    – Pas seulement. La troisième voie d’évolution est la machine.

    – Les androïdes ?

    – Ordinateurs, robots, réseaux sociaux, jeux en ligne, smartphones intelligents, bref le monde informatique artificiel qu’a créé l’homme et dans lequel il peut projeter sa pensée.

    – Ce ne sont que des outils, Natalia, comme les aspirateurs ou les voitures. Ils n’ont aucun libre arbitre. Devons-nous avoir peur de nos machines à laver ?

    – à la Sorbonne, j’ai entendu un chercheur exposer un projet qui m’a particulièrement intriguée. Il se nomme Francis Frydman. Il a proposé de programmer les robots ou les ordinateurs afin de leur faire prendre conscience de leur propre existence.

    – Des robots intelligents ? C’est un serpent de mer pour journalistes. Je n’y crois pas une seconde.

    – Mieux : des robots pensants. Voilà pour lui le pas à franchir : la conscience du « Moi ». À mon avis, dès que les machines auront acquis cette conscience, elles auront envie, comme tous les autres êtres vivants, de toucher à l’immortalité et d’avoir des enfants. Francis Frydman a déjà pensé à ce concept et évoque l’idée de robots capables de se reproduire tout seuls.

    – De la parthénogenèse de machines ?

    – Pourquoi pas ? Frydman est en train d’ouvrir la voie à des générations de robots qui, en se reproduisant, ne feraient que s’améliorer.

    – Un peu comme nous-mêmes avons évolué du singe à l’homme ?

    – Oui, on peut imaginer cela. Les premiers robots seraient des singes, leurs enfants ne cesseraient de se perfectionner de génération en génération. Et ce, sans la moindre intervention de l’homme. Juste par la logique d’une programmation les incitant à s’améliorer sans cesse.

    Le président joue avec le smartphone posé sur son bureau.

    – Ce qui veut dire qu’à terme l’ordinateur pourrait finir par surpasser l’homme ?

    – Les machines nous battent déjà systématiquement aux échecs, et à tous les jeux de stratégie. Elles n’auront aucune limite. On pourrait même imaginer dans le futur un président de la République androïde programmé pour défendre les intérêts de ses concitoyens. Ainsi, nous serions certains qu’il n’y aurait pas de risques qu’il soit égoïste, corrompu, fanatique, ou fainéant.

    – Je me vois en concurrence aux prochaines élections avec un robot ! Quel est l’inconvénient de cette voie ?

    – Le docteur Frydman l’a déjà prévu. Dès qu’il y a conscience de soi, apparaît un questionnement qui aboutit à un risque de « névrose », à une angoisse existentielle.

    – Merci, saint Freud.

    – C’est bien pour cette raison que l’essentiel du projet de ce chercheur consiste à encadrer cette humanité artificielle par des psys.

    – Et cela donnerait quoi dans vingt ans ?

    – Selon Frydman, les robots régleraient tous les problèmes de travail. Ils accompliraient toutes les tâches pénibles. Plus de prolétariat. Nous entrerions enfin réellement dans la société de loisirs avec une humanité fainéante, obèse, avachie, où les robots accompliraient tous les travaux pénibles.

    – Cela n’a pas l’air désagréable.

    – C’est malgré tout une humanité « infantilisée et asservie ». Et si les robots ne sont pas bien « psychanalysés » et prennent conscience de la primitivité des hommes, ils peuvent décider de prendre le pouvoir.

    – Là, ce serait un avenir qui rappelle le scénario du film 2001 l’Odyssée de l’espace. Ou Terminator.

    – Jusqu’à Matrix. On peut imaginer une humanité qui stagnerait et des robots qui ne cesseraient parallèlement d’évoluer. Nous serions réduits à une place secondaire. Nous serions les « anciens maîtres du monde » dépassés par leurs créations.

    – Vu sous cet angle, en effet, c’est moins tentant.

    – C’est pour cela que j’ai tout fait pour que le projet du docteur Frydman ne soit pas encouragé.

    Stanislas Drouin est en même temps excité et inquiet. Cette vision à long terme lui donne la sensation d’être un grain de sable dans un rouage qui le dépasse. Il observe la petite femme qui semble parfaitement maîtriser ses dossiers.

    Aucun de ses spécialistes scientifiques, militaires ou économiques ne lui avait offert un spectre aussi large, profond et lointain des futurs possibles de l’humanité.»

    Extrait La troisième humanité, tome1 , (p67-69), Ed Albin Michel, (2012)

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

Articles récents

Catégories

Archives

Tags

Allemagne Aristote BCE Bourse Brexit capitalisme ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grands Modèles de Langage Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon Joe Biden John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta