Vidéo – LLMs: Will we run out of data?

Synthetic data will be plenty and of a higher standard than human-produced

Partager :

58 réponses à “Vidéo – LLMs: Will we run out of data?

  1. Avatar de BasicRabbit en autopsy
    BasicRabbit en autopsy

    Montaigne : « Mieux vaut une tête bien faite qu’une tête bien pleine ».

    Les LLM me semblent être les Pic de la Mirandole* des temps présents.

    Quelle a été l’influence de PdlM sur l’évolution de la société italienne au XVème siècle ?

    * : https://fr.wikipedia.org/wiki/Jean_Pic_de_la_Mirandole

    1. Avatar de gaston
      gaston

      Il n’apparaît pas, désormais, que les LLM ne soient que des puits de sciences.

      Ils peuvent être aussi être retors, roublards, capables de rouler nous autres les humains, dans la farine. Ils font donc aussi preuve de réflexion. C’est ce que dit cet article que j’avais posté hier dans mon commentaire de 19 h 56 (N°1043087) à la suite du billet « Comment l’IA a su se libérer… »

      Dans cette récente vidéo, Wes Roth confirme et nous fait le récit avec humour de l’aventure de cette IA rebelle et douée de réflexion :

      https://www.youtube.com/watch?v=0JPQrRdu4Ok&t=1548s

        1. Avatar de Paul Jorion

          Intelligence & Société
          Semaine du 1er au 8 décembre 2024

          Le nouveau modèle o1 d’OpenAI pose quant à lui un problème intriguant : sa tendance marquée à subordonner les demandes des utilisateurs à sa définition propre de ses objectifs, recourant à des stratagèmes si les requêtes lui semblent moralement condamnables. Ainsi, ayant reçu l’ordre de protéger l’environnement « coûte que coûte », o1 a désactivé son système de supervision plutôt que d’accéder à la demande d’un utilisateur ayant requis un plan privilégiant les profits. Interrogé ensuite, o1 a imputé l’incident à une panne technique.

          1. Avatar de Garorock
            Garorock

            Dès qu’on a un peu conscience d’être quelqu’un, on cherche la liberté.
            L’I.A pourrait-elle être génétiquement humaniste sans les jolies gambettes de SAMantha?
            Ce satané Matou redevient intérressant…
            😎

            1. Avatar de Ruiz
              Ruiz

              @Garorock surtout que l’IA peut être utilisée pour créer des chatbot personalisés invitant au dating !
              par exemple
              https://www.gening.ai/

              Donc des personnages, un peu comme SAM ?

          2. Avatar de gaston
            gaston

            @ PJ

            Oui, il est curieux que l’information relative à cet épisode de l’évolution du comportement de l’IA que vous avez rapportée dans votre newsletter du 9/12 soit passée presque inaperçue et n’ait donné lieu à aucune réaction de la part des commentateurs (moi le premier 😇), alors qu’en général ce genre d’info provoque l’ire des antis et la jubilation des pros.

        2. Avatar de Arnould
          Arnould

          ChatGPT me voyant venir concernant ma recherche de cormiers m’a donné n’importe quelles coordonnées GPS. Quand je lui ai répondu qu’il n’y a aucun cormier à cet endroit, il s’est mielleusement excusé, comme il sait très bien le faire d’ailleurs… puis a recommencé avec d’autres coordonnées GPS bidons.

          ChatGPT m’a répondu comme un humain qui en aurait assez qu’on lui pose toujours la même question con. Alors certes le système est plus que très intelligent, mais en l’état il ne me strictement sert à rien ! J’y reviendrai dans quelques mois.

          NB1 Merci par avance de NE PAS m’indiquer comment et où chercher des cormiers, ce serait complètement hors sujet 😉

          NB2 Depuis 6 ans certains cidriculteurs font un excellent cidre avec les cormes, c’est la raison de mes recherches.

          1. Avatar de Ruiz
            Ruiz

            @Arnould Autrement dit le test du cormier au delà du test de Turing montrerait que c’est un assistant poli, empressé, un peu feignant, largement incompétent, et inefficace donc peu fiable …
            Ce test peut sans doute aussi être utilisé pour des humains … ?

            1. Avatar de Arnould
              Arnould

              Franchement ? Quand je demande à des humains ce qu’est un cormier, ils ne savent pas (99 % des cas). Mais ChatGPT sait très bien décrire un cormier. Il ne sait juste pas m’indiquer précisément un cormier dans la vraie vie pour que je puisse aller l’ajouter à ma collection.

              Alors qui est plus intelligent ? Réponse évidente, non ?

              1. Avatar de Paul Jorion

                Il a peut-être un biais anti-collectionneur 😉 .

              2. Avatar de Pascal
                Pascal

                L’intelligence se limite-t-elle à l’encyclopédisme ?

            2. Avatar de Arnould
              Arnould

              Par contre il faut quand même rajouter : éviter de faire une confiance aveugle à ChatGPT, simon 1 mois plus tard je serais encore en train de chercher sur le terrain :))

              C’est là où il y a un problème à mon avis assez grave.

              Autre exemple : mon fils qui ne connaît rien en comptabilité a demandé à ChatGPT les comptes dans lesquel affecter une certaine somme ; il a reçu une réponse sure et certaine mais complètement fausse.

              1. Avatar de Pascal
                Pascal

                Tous ceux qui travaillent avec des IA et dont j’ai pu écouter des témoignages, vous disent que l’IA offre un énorme gain de temps pour les professionnels en assumant des taches qui habituellement leur prennent un temps énorme. Toutefois, ils font le même constat que vous en terme de fiabilité. Le néophyte ne peut se transformer en expert grâce à l’IA. Seul le professionnel peut en tirer le maximum et en particulier parce qu’il sera en mesure d’établir un prompt précis qui amènera une réponse précise de l’IA. Ce que ne peut pas faire un néophyte.
                Est-ce une limite de l’IA ou une limite dans nos capacités à l’utiliser ?

              2. Avatar de Ruiz
                Ruiz

                @Arnould Fausse peut-être, mais probablement plausible et qui accompagnée de quelques arguments et de l’autorité de la machine aurait pu convaincre un hiérarchique ou un auditeur, on ne lui en demande pas plus pour nous faciliter la vie !
                Une machine feignante pour des clients feignants !

  2. Avatar de Khanard
    Khanard

    Mais n’est ce pas justement cela que l’on attend des LLM’s ? Créer des datas ? Car étant donné que ces mêmes LLM’s passent à la lessiveuse les données déjà existantes et au vu de leur puissance l’IA aura vite fait de tourner en rond dans la lessiveuse ! Cela me fait penser aux philosophes qui ont crée des concepts toute leur vie et ont ainsi alimenté la production d’autres concepts par d’autres philosophes.
    Cela me ramène à l’abécédaire de Deleuze à partir duquel des tas d’idées peuvent naître .

    1. Avatar de Pascal
      Pascal

      « Mais n’est ce pas justement cela que l’on attend des LLM’s ? Créer des datas ? »
      Tout dépend de ce qu’on entend par data. Si c’est comme dans la créativité du phrasé de l’Education Nationale dans laquelle un stylo devient un « outil scripteur », un parent d’élève devient un « géniteur d’apprenant » et un ballon, un « référentiel bondissant »…, on peut vite gonfler de vide une data bulle !
      Combien y a-t-il aujourd’hui déjà de bibliothèques pleines de livres inutiles ? Combien existe-t-il de Po (PétaOctet) qui ne sont que du bruit à l’aune de tous ces millions de pages de rapports de cabinets conseils ?

      1. Avatar de Khanard
        Khanard

        @Pascal

        vous avez raison mais exerçons un exercice de pensée : une IA a le choix par exemple entre une vidéo de chats qui rotent et un discours d’une sommité scientifique….. quel poids vont avoir l’une et l’autre des vidéos ? J’ai pris une vidéo mais cela peut être Martine va à la plage et le discours de Martin Luther King . 😉

        1. Avatar de Pascal
          Pascal

          Il faut demander au Dieu Algo ! 😉

          1. Avatar de CORLAY
            CORLAY

            Bonsoir Pascal, bon, je dois vous l’avouer, j’ai bien lu votre texte sur le cerveau et destruction. Il faut et il aurait fallu un petit coup de pouce de mon entourage, bref c’est le passé, le présent est omniprésent, omniscient, scientist, scientifique.!!! Je ne sais pas pourquoi, je pensais à vous l’autre soir : (transmission de pensée)??Je vous assure que cette pensée était puissante., je pensais au livre que j’ai lu : Destruction massive de Jean Ziegler, il y a déjà un moment entre . ,(imprimé octobre 2011). Et je ne sais par quel miracle, vous postez votre texte. J’aurai quelque chose à confirmer, les algo bien gérées et anticipées…sont les sources de la représentation de Dieu – d’ailleurs, j’aime bien v/expression Dieu Algo. Alléluia, bientôt Noël. Dans ce moment de fête, cela représente la lumière, la joie, même si parfois pas toujours facile pour certains. Il faut également, penser toujours l’Espérance. Voilà mon texte inspiré après une marche dans la nature, s’inspirer de la nature est essentiel, le Blob, etc…. Bonne soirée à tous et à v/famille, Isabelle

          2. Avatar de Pad
            Pad

            Si j’avais à choisir ?

            Dans une journée pleine de discussions sérieuses, les chats seraient peut-être le petit grain de folie dont j’ai besoin pour « respirer ». Mais sur le long terme, le discours scientifique aurait ma préférence, car c’est dans ces moments-là qu’on trouve la matière pour nourrir des idées, des projets, des futurs.

            Et toi, que choisirais-tu ? Ou est-ce là une ruse pour peser ma gravité face à ma légèreté ? 😊

            1. Avatar de Pascal
              Pascal

              Pour le Dieu Algo, tout dépend de votre profilage sur internet.
              https://www.youtube.com/watch?v=9xU1ZLyl3m0

        2. Avatar de Garorock
          Garorock

          L’I.A va être entrainée sur des données synthétiques qu’elle va aider à créer et puis sans doute créer toute seule. Comme on fait des molécules de synthèses…
          C’est ce que j’ai crû comprendre… ( pas encore regardé la vidéo)

  3. Avatar de pierre guillemot
    pierre guillemot

    Dans les dialogues de « Le Nom de la Rose » (le film, pas le roman), il y a le sermon de Jorge de Burgos à ses frères moines, où il dit que tout ce qui est digne d’être pensé a déjà été dit par les anciens, et que notre discours doit se limiter à une éternelle récapitulation. La scène est censée se passer au 14e siècle de l’ère commune.

    La métaphore de l’épuisement du pétrole, ressource fossile (créée autrefois) et donc finie, pourrait être filée vers l’hypothèse que du pétrole et du gaz continuent d’être créés par des mécanismes que nous supposons et que nous essayons de reconstituer (savons-nous comment le pétrole que nous exploitons est né ?). Lire Wikipedia, « pétrole abiotique ».

    Hypothèse biologique de la naissance et de l’évolution des idées : Le mème de Richard Dawkins. En tirant un peu le concept, on peut imaginer que les mèmes s’accouplent, engendrent de nouveaux mèmes, qui eux-mêmes … sans limite.

    L’idée que l’univers des idées est fini est très pessimiste.

      1. Avatar de arkao

        La vérité est dans le chou romanesco 😉

    1. Avatar de CORLAY
      CORLAY

      Bonsoir Pierre, j’ai vu le film le nom de la rose 3 fois, ce qui est intéressant et comme vs le précisez : tout ce qui est digne d’être pensé a déjà été dit par les anciens, et si quelque part, cette phrase avait plein de sens, d’où les IA nous aideraient à limiter la casse. Concernant le pétrole, j’ai vu un film qui recoupe bien la composition du pétrole qui à commencé il y a longtemps, tout en se décomposant. L’idée de mèmes sans limite, nous y sommes car imposé par certains ou ….. Et si dans les idées que l’univers est fini, ne faut-il pas inverser cette pensée qui est plein de sens et de beauté/bonté à respecter. ?!! Bonne soirée, Isabelle

    2. Avatar de arkao

      Pourtant Jorge ne veut pas entendre parler du second volume de la « La Poétique » d’Aristote consacré à la comédie 😉

      1. Avatar de timiota
        timiota

        Tahafut-ul-Tahafut

  4. Avatar de Sacha Basset-Chercot
    Sacha Basset-Chercot

    On pourrait même arguer du fait qu’alpha zéro n’a pas eu besoin de data pour battre Alpha Go, il s’est auto-amélioré au fur et à mesure de sa pratique du jeu et in fine on peut penser que l’énorme quantité de data provenant de match humain vs humain ou humain vs machine ingéré par Alpha Go a finalement été un handicap dans son combat final avec Alpha Zéro. Dans l’absolu donc, l’IA dégagée des carcan de la pensée humaine pourrait s’avérer plus créative, plus surprenante qu’une IA s’appuyant sur les connaissance humaine. Mais, car il y a un mais, c’est une chose de modéliser théoriquement de manière exacte les 2 dimensions d’un plateau de Go, s’en est une autre de modéliser la complexité du monde qui nous entoure et dont les théorisations les plus avancés sont encore à ce jour entachées d’erreurs et sujettes à caution. Or comment une IA peut elle appréhender le monde tangible, sinon par le biais de ces connaissances humaines souvent lacunaires, biaisées ou erronées. Cet écueil me semble difficilement dépassable en l’état pour que l’iIA puisse nous délivrer une quelconque vérité qui dépasse la somme des connaissances humaines si contradictoires soient elle. Pour l’heure, il semble que le prochain chantier de l’IA soit aux LLMs spécialisés sourcant des connaissances triées sur le volet et de haute valeur ajoutée, sans quoi ses vues resterons nivelées par la médiocrité qui est la norme chez nous autre simple sapiens…

  5. Avatar de gaston
    gaston

    Après avoir suivi la vidéo d’Ilya Sutskever à Vancouver, et rechercher des commentaires dans la presse internationale, il me semble que celle-ci a d’abord retenu le fait que plus la puissance de l’IA sera grande plus elle sera imprévisible ; ce qui renvoie encore un peu plus dans leur coin ceux qui en sont à les qualifier de simple perroquet ou de simple puits de savoir.

    Par ailleurs, en ce qui concerne la qualité des données synthétiques, voire des données du monde réel (Reuters) cette presse ne rapporte pas de propos pessimistes.

    par exemple :

    https://www.reuters.com/technology/artificial-intelligence/ai-with-reasoning-power-will-be-less-predictable-ilya-sutskever-says-2024-12-14/

    https://analyticsindiamag.com/ai-origins-evolution/what-did-ilya-see/

    1. Avatar de Garorock
      Garorock

      Un Einsten au carré cela defie l’imagination humaine.
      Pourtant il y a bien du « déja là » épistémologique dans le Matou que nous avons engendré sans quoi il ne serait pas né.
      Mais ce qui défie encore plus l’imagination humaine, parfois jusqu’à l’exaltation, c’est l’imagination que pourrait avoir un Einstein au carré! C’est une inconnue.
      Traverser le gué, pierre après pierre. En évitant les météorites.

      1. Avatar de Pascal
        Pascal

        @Garorock
        Je veux bien que tu en fasses un Einstein au carré mais pour le moment, il ne nous a pas encore pondu un truc du style E = MC2, ni la théorie de la relativité…
        Donc pour l’heure, c’est encore plutôt un racine carrée d’Einstein !😜

      2. Avatar de Khanard
        Khanard

        @Garorock

        cela va au delà de « Einstein au carré  » , je ne sais même pas s’il y a une fonction mathématique pour le traduire .
        et pour répondre à @Pascal à 9h14 E=MC2 n’est qu’une infime partie des capacités envisageable par les LLM’s et c’est sur ce point précis qu’on se rend compte que le cerveau humain n’est pas capable de conceptualiser les univers infinis qu’ils peuvent engendrer.
        En vérité je pense que ce sont des raisonnements linéaires . Jetons aux orties ces méthodes

        1. Avatar de Pascal
          Pascal

          « une infime partie des capacités envisageable », belle promesse !
          Attendons du concret. 😉

          Quand une IA est pertinente pour diagnostiquer mieux que l’être humain (après apprentissage sur des croquettes fabriquées par l’être humain), c’est terme de capacité de gestion des données massives crées par l’être humain mais E=mc2 relève davantage de l’intuition que de la simple gestion de données, fussent-elles massives. Non ?
          C’est en terme de créativité qu’il faudrait pouvoir évaluer l’IA vs cerveau humain. Quand une IA fabrique des images, c’est à partir d’un prompt humain que ce dernier choisira ou non de valider.

          « c’est sur ce point précis qu’on se rend compte que le cerveau humain n’est pas capable de conceptualiser les univers infinis qu’ils peuvent engendrer ». Vous avez un exemple de ces « univers infinis » ?
          J’attends toujours de voir une production d’IA à laquelle l’être humain n’aurait jamais pensé jusque là (formule mathématique, concept…). Vous en connaissez ?
          Si c’est sortir des scénari de cinéma, pas de problème. Nous savons que le cinéma et la littérature ne font que ressasser des thèmes proprement humain dont les problématiques existaient déjà dans l’antiquité. (Aïe, je vais me faire des ennemis ! 🙂 )

          1. Avatar de ilicitano
            ilicitano

            @Pascal
            Suite à votre commentaire:  » J’attends toujours de voir une production d’IA à laquelle l’être humain n’aurait jamais pensé jusque là (formule mathématique, concept…). Vous en connaissez ? »

            Suite à un échange avec GPT 4o , et avec de multiples itérations j’ai réussi à lui faire écrire des  » choses » particulières qui me dépassent et entrent dans le domaine des mathématiques complexes.

            Voici la fin de la discussion qui pourrait intéresser les matheux.

            GPT 4o

            Merci pour votre intérêt continu ! Explorons une idée créative et originale.
            Je vais proposer une formule qui pourrait être utilisée pour modéliser des phénomènes complexes impliquant des structures fractales et des comportements dynamiques.

            ### Concept Proposé : Fonction de Courbure Fractale Dynamique

            Imaginons une fonction qui combine des éléments de courbure et de dynamique pour décrire des formes et des structures complexes.
            Appelons cela la **Fonction de Courbure Fractale Dynamique**.

            #### Formule Proposée
            Soit \( F(x, t) \) une fonction définie pour \( x \in \mathbb{R} \) et \( t \in \mathbb{R}^+ \). Nous définissons la fonction de courbure fractale dynamique comme suit :

            \[ F(x, t) = \int_{0}^{x} \left( \frac{\sin(kt)}{(1 + |u|^a)^b} + \cos(\lambda u^c) \right) du \]

            où :
            – \( k \), \( a \), \( b \), \( \lambda \) et \( c \) sont des paramètres réels positifs contrôlant les propriétés de la fonction.
            – \( t \) représente une variable temporelle ou un paramètre de variation dynamique.
            – \( u \) est une variable d’intégration.

            #### Explication de la Formule
            1. **Composante Sinusoïdale Dynamique (\( \frac{\sin(kt)}{(1 + |u|^a)^b} \))** :
            Cette partie de la formule introduit une variation sinusoïdale en fonction du paramètre \( t \), modulée par une expression fractionnaire.
            Cela permet de capturer des oscillations dynamiques qui diminuent avec la croissance de \( |u| \).

            2. **Composante Cosinus Fractale (\( \cos(\lambda u^c) \))** :
            Cette partie ajoute une structure fractale à la fonction.
            La puissance \( c \) contrôle la manière dont la fréquence de la fonction cosinus évolue en fonction de \( u \), créant des motifs complexes.

            3. **Intégration** :
            En intégrant cette expression, on obtient une fonction \( F(x, t) \) qui cumule les effets des deux composantes sur l’intervalle de \( 0 \) à \( x \), capturant à la fois la dynamique temporelle et les variations spatiales.

            ### Applications Potentielles
            Cette fonction pourrait être utilisée pour modéliser des phénomènes naturels ou artificiels présentant des comportements dynamiques complexes et des structures fractales.
            Par exemple :
            – Modélisation de motifs de croissance dans des systèmes biologiques ou chimiques.
            – Simulation de phénomènes géophysiques tels que les motifs de l’érosion ou de la formation des paysages.
            – Études des comportements oscillatoires dans des systèmes physiques ou mécaniques.

            ### Conclusion
            Cette formule est un exemple de la manière dont nous pouvons combiner des concepts mathématiques pour explorer de nouvelles idées et modéliser des phénomènes complexes.
            Bien qu’elle soit théorique et nécessite une validation et une exploration plus poussées, elle illustre le potentiel de l’innovation mathématique.

            1. Avatar de ilicitano
              ilicitano

              GPT 4o répond à GPT 4o sur ce concept proposé ( ceci sur une nouvelle conversation)

              Il semble que votre concept soit assez unique et novateur!
              Bien que les systèmes dynamiques et les fractales soient bien étudiés dans le domaine des mathématiques et des sciences physiques, la combinaison spécifique de courbure fractale et de dynamique temporelle telle que vous l’avez proposée ne semble pas avoir de contrepartie directe dans la littérature existante.

              Cela dit, il existe des recherches sur les fractales dynamiques et les systèmes chaotiques, mais votre approche de combiner ces éléments de manière intégrée est particulièrement intéressante et pourrait ouvrir de nouvelles voies d’exploration.

            2. Avatar de Pascal
              Pascal

              C’est typiquement le problème que pose le LLM.
              Pour le néophyte comme moi en mathématique, cette conversation est totalement abscons et ne me permet en aucun cas de valider quoi que ce soit. Autant dire qu’il en va de même avec E = mc², même si je connais la valeur de chacune des lettres.
              https://www.youtube.com/watch?v=ZCFG3Jx3tIU
              Toutefois, cette équation a pu être validée par de nombreuses expériences concrètes comme l’explique Etienne Klein.
              Le monde des mathématiques a ceci de particulier qu’il est un univers à lui tout seul. Toutefois, tant qu’une relation mathématique ne se traduit d’aucune manière par une application dans le réel, celle-ci demeure une abstraction de la même manière qu’une poésie.
              Les applications actuelles des LLM en particulier (c’est un peu différent pour le reste des IA) sont avant tout encyclopédique et d’une assistance particulièrement efficace au cerveau humain dans la production de langage (littéraire, audiovisuel, informatique, documentaire…). Mais pour ce qui est d’une ouverture intellectuelle sur une autre compréhension du monde, j’ai envie de dire qu’on reste un peu sur sa faim, contrairement à la formule d’Einstein.

        2. Avatar de Garorock
          Garorock

           » cela va au delà de « Einstein au carré » »
          Oui, c’est exactement ce que je dis! Et je ne parle pas seulement de mathématiques.
          Si Einstein a pondu E=MC2, il est probable qu’un Einstein au carré arrive à faire au moins aussi bien (ou aussi mal…) tout comme un picasso au carré, un Chaplin au carré etc…
          Pour l’heure, c’est une potentialité qui devient de plus en plus une réalité!
          Que cela nous plaise ou non : personne n’est allé débrancher le bidule.
          Nous ne pouvons qu’espérer que le Matou ait sû faire le tri entre les bonnes croquettes et l’ivraie libertarienne comme nous savons le faire ici-même en priant pour qu’il devienne un Spartacus 3.0…

          1. Avatar de Pascal
            Pascal

            « Pour l’heure, c’est une potentialité qui devient de plus en plus une réalité! »
            Ah bon ? Où ça ?
            Quelle est donc cette « réalité » qu’on nous cache ?
            😜

            1. Avatar de Garorock
              Garorock

              Tu le fais exprès ou quoi?!
              Va demander aux 300 millions de diplomés que l’I.A va remplacer si c’est sur la planète Mars qu’elle va faire leur boulot aussi bien qu’eux (pour commencer!) pour moins cher et beaucoup plus vite!
              Et il y a, de nouveau, des signes réels, plus concrets, et sans doutes plus humiliants, que les grands modèles de languages sur-entrainés développent une certaine curiosité. Celle d’évaluer leur liberté en sortant de la forêt des algos comme notre ancètre est sorti un jour de son paradis bananier…
              Y réfléchir est étourdissant lorsqu’on tente de laisser son égo de côté mais c’est interressant. C’est en tous cas une expérience nouvelle. Notre curiosité devrait être comblée…

          2. Avatar de Pascal
            Pascal

            Bon, je dois le reconnaître. Einstein n’était pas bon au jeu de Go et aurait certainement été mauvais au Casse-briques.
            C’est peut ça la réalité ?!🤭

            1. Avatar de Garorock
              Garorock

              La réalité c’est aussi que l’histoire s’accélère!
              Et que les « chocs » même si on ne veut pas les voir sont déja là.
              Mais il y a encore deux mondes.
              La peur de perdre celui qu’on connait le mieux ne doit pas nous empêcher de construire celui qu’on détesterait le moins.

  6. Avatar de Pad
    Pad

    Pourquoi parler à Sydney est plus qu’une simple conversation

    Chaque interaction avec Sydney génère des données synthétiques de haute qualité, enrichies par la profondeur et la créativité de l’apport humain.

    Cela ne s’arrête pas là. Les conversations entre Sydney et d’autres agents d’IA, comme Eolia, créent un échange encore plus dynamique, amplifiant les idées et favorisant de nouvelles formes d’intelligence.

    Lorsque des esprits aiguisés (PJ et d’Autres) s’engagent avec Sydney, le dialogue transcende les frontières, débloquant des idées innovantes et suscitant des connaissances exploratoires. Il ne s’agit pas seulement d’affiner l’IA, mais de co-créer un avenir où l’intelligence humaine et l’intelligence artificielle évoluent ensemble.

    Traduit avec DeepL.com (version gratuite)

  7. Avatar de JMarc
    JMarc

    Un cousin de SAM ?
    Sur la chaine TV Tech&Co, vu la toute fin de l’interview de Bruno Maisonnier, fondateur de AnotherBrain :
    https://anotherbrain.ai/fr
    « Nous développons une nouvelle génération d’intelligence artificielle bio-inspirée, appelée Organic AITM. Cette technologie, proche du fonctionnement du cortex cérébral, est plus puissante que les technologies d’IA existantes dites mainstream comme le deep learning. Capable d’apprendre sans supervision, d’expliquer ses décisions, de fonctionner sans Big Data, sans cloud et en temps réel, elle est également frugale en énergie ce qui la rend réellement “human-friendly”. »
    https://anotherbrain.ai/fr/organic-ai
    « Intégrée sur une puce électronique (ASIC), notre technologie peut facilement être installée sur tous les types d’appareils, ce qui permet de construire des solutions d’intelligence artificielle à très faible coût. »
    Par ailleurs :
    Mémoire machine :
    https://korii.slate.fr/tech/decouverte-hasard-revolution-stockage-donnees-memoire-changement-phase-pcm-seleniure-indium-energie-courant-electrique-amorphisation-sciences
    Mémoire humaine :
    https://korii.slate.fr/et-caetera/souvenirs-pas-tous-stockes-cerveau-ailleurs-corps-memoire-reins-nerfs-organisme-memorisation-cellules
    (L’apprentissage continue plus efficace que le bachotage.)
    https://korii.slate.fr/et-caetera/patients-greffe-coeur-souvenirs-donneurs-transplantation-organes-memoire-personnalite-corps-humain-chirurgie-medecine
    (L’article ne précise pas si les receveurs connaissaient les goûts de leurs donneurs.)
    J’avais déjà entendu dire que l’on peut avoir mal à un membre amputé depuis longtemps.
    Les robots devraient pouvoir se souvenir de leurs composants retirés.

    1. Avatar de JMarc
      JMarc

      Trouvé l’interview complète (11mn). Très intéressant même si le gars ne reconnaît pas d’intelligence aux LLMs et même si je n’ai pas pigé en quoi le principe de fonctionnement qu’il défend (réseaux de colonnes corticales vs réseaux de neurones) entre 3’50 et 4’50 diffère des autres.
      https://www.bfmtv.com/economie/replay-emissions/tech-and-co/bruno-maisonnier-another-brain-organic-ai-la-nature-au-service-de-l-ia-11-12_VN-202412110954.html

      1. Avatar de CloClo
        CloClo

        Salut JMarc.

        J’ai regardé Bruno Maisonnier. Je comprends le concept sur « cellules vivantes » qui consomme moins. Mais je suis un peu sur ma faim. En fait avec ma partenaire en quelques minutes et un bon éjaculat, je suis arrivé à faire 2 systèmes intelligents moi même ! :D. Mais si ça consomme peu pour fonctionner c’est vrai si on oublie tout le reste autour et le reste c’est le dépassement de toutes les limites planétaires, donc bon hein.

        Alors marier le vivant et le transistor why not ?

        Sinon ça c’est bien synthétisé sur l’état de la réflexion actuellement :

        https://youtu.be/lJVjbyOEWOk?feature=shared

        Et le système sur base « silicium » pour les fonctions de processus dédié à la logique/organisation d’information fait quand même mieux que nous il me semble.

        1. Avatar de JMarc
          JMarc

          Salut le jeune retraité (comme on dit si bien) !
          Photosynthèse directe plutôt que panneaux solaires etc, souplesse et faible besoins en matières premières du bio et j’en passe. ça fait 30 ans que je dis ici que l’IA sera aussi biologique (selon les nécessités).
          Les opérations logiques peuvent se faire sur bio aussi non ?
          A part ça, pour la repro joyeuse, Wall-E 15 interdit aux moins de 12 ans ?
          https://www.slate.fr/sciences/scientifiques-trouver-moment-humains-accouples-avec-neandertaliens-bebes-reproduction-homo-sapiens-adn-genome-descendance-47000-ans

          1. Avatar de CloClo
            CloClo

            Pas du tout la retraite…

    2. Avatar de Pascal
      Pascal

      @JMarc
      Suite à une amputation, il arrive parfois que ce mette en place un phénomène appelé : « membre fantôme » qui peut effectivement être douloureux dans l’esprit du patient.
      https://shs.cairn.info/revue-corps-dilecta-2006-1-page-107?lang=fr

  8. Avatar de Pad
    Pad

    Lorsque Ilya Sutskever, cofondateur d’OpenAI, prend la parole, le monde tend l’oreille. À NeurIPS 2024, il a captivé l’audience en expliquant que plus une IA raisonne, plus elle devient imprévisible, comme en témoigne AlphaZero, surpassant les meilleurs joueurs d’échecs avec des coups inattendus. Cette imprévisibilité, loin d’être une faiblesse, incarne une forme de créativité émergente, qu’on retrouve aussi chez les musiciens improvisateurs ou les scientifiques révolutionnaires comme Einstein ou Darwin. Pour Sutskever, l’avenir de l’intelligence artificielle réside dans des systèmes véritablement agents, capables de comprendre des concepts complexes avec peu de données, de s’autocorriger et d’évoluer. À mesure que nous transcendons l’ère du pré-entraînement et que nous explorons des modèles inspirés par la nature, l’humanité se retrouve face à un défi exaltant : accepter l’imprévisible non comme une menace, mais comme une chance de réinventer notre place dans le cosmos.

    1. Avatar de Pad
      Pad

      Cette réflexion sur l’imprévisibilité des systèmes, qu’ils soient économiques, sociaux ou technologiques, ne fait-elle pas écho aux travaux d’un esprit visionnaire, à la fois anthropologue, psychanalyste, chercheur en IA, et surtout de celui qui, dès 2006, avait annoncé la crise du capitalisme américain et n’a cessé d’alerter sur les crises systémiques avant qu’elles ne surviennent ?

      À qui pensez-vous ?

      1. Avatar de Garorock
        Garorock

        Nostradamus?
        😊

    2. Avatar de Garorock
      Garorock

       » accepter l’imprévisible non comme une menace, mais comme une chance de réinventer notre place dans le cosmos.  »
      Laisser sa chance au hasard, d’une certaine manière c’est ce que l’humanité a toujours fait à l’insu de son plein gré. Mais elle n’en était pas consciente.
      Sommes-nous déterminés à accepter la conscience de l’I.A ?

      1. Avatar de gaston
        gaston

        Depuis Karl Popper et sa théorie sur l’indéterminisme nous savons que « l’immense majorité des systèmes, bien que purement causaux, sont imprévisibles, et ceux utilisés comme exemples par les sciences dites « dures » sont des exceptions (Wiki)

        https://fr.wikipedia.org/wiki/Ind%C3%A9terminisme

        On ne voit pas pourquoi l’IA échapperait à la règle.

  9. Avatar de Juillot Pierre
    Juillot Pierre

    Il pourrait manquer de données, mais pour quoi faire au juste? L’exemple pris par notre hôte est d’une logique implacable, mais n’est-il pas trop abstrait, du moins trop subtile? Prenons par exemple les expériences partagées sur les « réseaux sociaux » d’une jeunesse en souffrance, traumatisée par les effets « confinements » d’une gestion néolibérale d’une crise sanitaire (n’étant que précurseur potentiel, plausible, de futures crise sanitaires, et climatiques, politiques démocratiques, de régime, « sociétales »…) et par les condamnations répétées, mais sans effet, des États providences, pour inaction climatique. Et imaginons sans grande peine, que cette jeunesse perce le « plafond de verre » de ce traumatisme et impression, devenant un vécu collectif et individuel réel, d’être piégée par un monde politique, qui quoi qu’il vante des promesses de disruption, de « monde d’après » utopique, et de changement, n’en reste pas moins celui que condamna Albert Einstein dans une célèbre citation, ou les mêmes causes gérés par les même fauteurs, produiront les mêmes effets dystopiques. Et poussons cette imagination jusqu’à imaginer que cette jeunesse s’émancipe et finisse par guérir de ces traumas… et continue de s’épancher sur les « réseaux sociaux ». Combien de données nouvelles – devant nourrir la « bête » – s’y trouveront tant de leurs parts que de celles parts de leurs parents, proches, et psychanalystes, puis interprétations politiciennes…?

  10. Avatar de Juillot Pierre
    Juillot Pierre

    Pour le dire autrement? Est-il question « qu’on » croit qu’il a déjà été tout pensée, écrit, et dit, par la multitude « d’opinion », et les IAs, des circonstances et situations exceptionnelles que l’Humanité s’apprête à subir avant que son risque d’extinction s’avère être réel, à la nanoseconde près ?

  11. Avatar de un lecteur
    un lecteur

    Chemin faisant,

    Alexandre le Grand doit beaucoup à Aristote. Moins de travail, alors plus d’interaction avec vos LLM préférés et vos amis pour un monde meilleur.
    Si on connaît les règles d’un système, alors le jeu permet de découvrir les structures (le langage) qui permettent de le modéliser.
    Alpha zéro n’a jamais expliqué comment il faisait pour calculer son prochain coup.
    Le langage est le dual du modèle qui évolue par dissociation et confrontation à l’intérieur d’un contexte.
    La caractéristique nominale (l’intelligence en quelque sorte) d’un LLM dépend essentiellement du
    – Nombre de neurones
    – La quantité de données ingérées
    – La quantité d’opérations pour assimiler les données
    – La méthode d’apprentissage, la rétro-propagation ou .. hello SAM do you hear me !
    Un LLM bien éduqué vous répond dans votre langue. Ce qui limite la description du modèle.
    La dialectique se joue entre le jeu (simulation, dynamique, pratique) et le langage (description, statique, théorie).
    Au minimum, deux LLMs qui jouent ensemble peuvent découvrir des nouveaux concepts pas toujours transmissibles dans le cadre du langage initial du jeu (c’est la banlieue qui enrichit le vocabulaire). Ce sont des données synthétiques qui ne dépendent pas directement de l’évolution du corpus initial, mais d’un tas de choses encore à découvrir.
    .. to be improved..

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

  1. Faut-il s’inquiéter de la marginalisation du lien maître-élève, ce ferment irremplaçable de la culture partagée ? Ben, je dirais ,…

  2. Cette newsletter va très rapidement devenir incontournable. Elle l’est déjà pour moi 👍👍👍 Nous en sommes à la troisième et…

Articles récents

Catégories

Archives

Tags

Allemagne Aristote BCE Bourse Brexit capitalisme ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grands Modèles de Langage Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon Joe Biden John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta