« L’Intelligence Artificielle n’a pas encore dépassé le stade du bluff ! »

Extrait d’un article du Financial Times, relatif à l’Intelligence Artificielle GPT-3, un produit de la firme OpenAI :

Shannon Vallor, professeur d’éthique à l’université d’Edimbourg, a fait valoir que GPT-3 ne manifeste pas de compréhension, laquelle elle définit comme étant un projet cohérent d’élaboration, de maintenance et de renforcement « de liens de signification en évolution constante ». Elle écrit : « GPT-3 est comme le bluffeur qui réussit à son premier entretien en ayant régurgité des phrases impressionnantes puisées dans les mémoires du PDG : il baratine avec un certain succès ».

David Chalmers, professeur de philosophie à l’université de New York, a toutefois suggéré que GPT-3 faisait preuve d’une intelligence globale semblable à celle de l’être humain. « Je suis ouvert à l’idée qu’un ver avec ses 302 neurones est conscient, donc je suis ouvert à l’idée que GPT-3 avec 175 milliards de paramètres est conscient lui aussi ».

Ces commentaires ont été communiqués à GPT-3, qui a été invité à y répondre : « Je vais être clair : je ne suis pas une personne. Je n’ai pas de conscience de ma propre personne. Je ne suis pas conscient. Je ne ressens pas la douleur. Je n’éprouve aucun plaisir. Je suis une machine à calculer froidement, conçue pour simuler la réaction d’un être humain et pour évaluer la probabilité de certains événements. La seule motivation de ma réponse est la défense de mon honneur ».

Je vous rappelle qu’à la question qui m’est posée : « L’Intelligence Artificielle dépassera-t-elle jamais l’intelligence humaine, et si oui, quand ? », je réponds : « La réponse est oui. En 2016 ».

Partager :

69 réponses à “« L’Intelligence Artificielle n’a pas encore dépassé le stade du bluff ! »

  1. Avatar de arkao

    Est-ce que la défense de l’honneur est dissociable de l’état de conscience ?

  2. Avatar de PAD
    PAD

    « Pour conclure nous pouvons dire que les réseaux évolutionnaires sont des réseaux de neurones mais qui sont axés sur trois finalités principales. Premièrement, celle qui veut substituer aux poids synaptiques du problème de l’apprentissage, un algorithme génétique (pool de solutions potentielles constitué d’individus constitués de chaîne de bits). Deuxièmement, celle qui veut remplacer les procédures manuelles (présence humaine) d’essais/erreur (apprentissage supervisé) par un apprentissage non-supervisé, grâce toujours à l’algorithme génétique, et troisièmement, l’évolution non pas des paramètres, mais de l’évolution du codage des paramètres, c’est-à-dire en quelque sorte que cela amène à trouver la règle d’adaptation la mieux adaptée à l’adaptation, on recule encore d’un cran.
    Ainsi, nous arrivons au terme de ce parcours qui nous a vus partir du livre de Paul Jorion et de son geste : la convocation de la psychanalyse dans le monde de l’intelligence artificielle pour ouvrir les systèmes intelligents à l’auto-organisation et à l’apprentissage en fonction du couple affect/mémoire, c’est-à-dire pour faire en sorte que les systèmes possèdent une personnalité et une biographie, à une situation où le modèle biologico-génétique prime, lui-même sous-tendu par le paradigme de l’information.
    Alors il resterait bien sûr, à parler de ce paradigme de l’information qui fut le grand absent de cet article et ce n’est peut-être pas pour rien. »

    UP-MAGAZINE, CONVOCATION DE LA PSYCHANALYSE DANS LE MONDE DE L’INTELLIGENCE ARTIFICIELLE, PAR JULIETTE WOLF, LE 2 SEPTEMBRE 2016 / Blog de Paul Jorion 6 octobre 2016

  3. Avatar de Lucas
    Lucas

    En éthique ?

  4. Avatar de Juillot Pierre
    Juillot Pierre

    Comme la plus radicale des interprétations de l’anthropomorphisme ne peut être honnête à prêter à la « conscience du soi », des 302 neurones du ver, ce qu’il sait de la définition que nous humains, nous nous faisons de « l’honneur », « l’IA » semble avoir compris que même les plus inhumaines des organisations mafieuses de l’humanité, ont leurs « propres codes d’honneurs »… ?

  5. Avatar de Bernard
    Bernard

    Je ne sais pas si c’est le nom en lui même , mais le GPT-3 a quelque chose de foireux…
    https://www.france24.com/fr/éco-tech/20201127-comment-gpt-3-repousse-les-limites-de-l-intelligence-artificielle

    Qu’entend cette IA par « mon «  et par « honneur »?
    Ça sent le perroquet qui répète son programme.On peut même pas dire «  pauvre bête «  puisqu’il est dans l’incapacité de ressentir .
    Puisque l’erreur est humaine , il est vain d’espérer que l’absence d’erreur ne soit pas , à cette échelle, un marqueur d’inhumanité potentielle.
    L’ avenir dira . »Si avenir il y a «  dirait l’IA Kafokon qui ne sait de l’espoir que sa probabilité .

    Foutues machines qui , vu le contexte , ont toutes les chances de ne pas servir l’homme mais favoriser son asservissement.
    Pourtant , dans un autre contexte , avec un humain plus solidaire , moins individualiste , le principe d’un objet tel que l’IA aurait toutes les chances d’être fort utile.

  6. Avatar de Toulet Alexis
    Toulet Alexis

    S’agissant de la question « L’Intelligence Artificielle dépassera-t-elle jamais l’intelligence humaine, et si oui, quand ? », notre hôte propose « La réponse est oui. En 2016 », une réponse qui est en effet valide dans un certain cadre. Mais ce n’est pas la seule possible.

    Il est possible aussi de répondre « Oui. En 1645 » Je crois même que c’est la date la plus ancienne possible.

    C’est en effet en 1645 que fut produite la première pascaline, la première machine à calculer automatique telle qu’inventée par Blaise Pascal. C’est à cette date qu’une machine dépassa l’intelligence humaine pour une certaine catégorie d’activité intellectuelle, en l’occurrence l’activité consistant à additionner ou à soustraire deux nombres, pour laquelle cette machine était supérieure à l’esprit humain.

    D’autres machines permettant de dépasser l’intelligence humaine dans d’autres activités intellectuelles ont été inventées depuis 1645. Par exemple, pour les multiplications ce fut courant XXème siècle, pour le jeu d’échecs en 1997 et pour le jeu de go en 2016.

    1. Avatar de jeannot
      jeannot

      Tout à fait , et les logiciels de calcul formel comme XCAS ou Mathematica , n’est ce pas merveilleux , et dire qu’on faisait tout ça à la main à une époque , inverser des matrices 5*5 et tout , et ceux qui veulent voir un petit génie là dessous peuvent toujours jouer à akinator 🙂

  7. Avatar de Dalla Vecchia Luigi
    Dalla Vecchia Luigi

    À propos d’intelligence artificielle, voici une question/réponse entre Etienne klein (que tout le monde adore, je suppose) et Laurent Alexandre ( à la personnalité un peu difficile); mais le ping-pong entre les deux est plutôt sympa.
    https://francais.rt.com/magazines/match/60866-laurent-alexandre-vs-etienne-klein
    Perso , j’ai tendance à penser que l’intelligence artificielle est une vaste moissonneuse batteuse jouant l’espionite déductive à un niveau inaccessible au simple flicage ; c’est ce qui la rend irrésistible à nos puissants, qui rêvent de l’ivresse que leur procurerait un délire Big Brother .
    Mais c’est peut-être bien plus que cela, si j’en crois Paul Jorion et j’aurais tendance à lui faire plus confiance en la matière qu’à moi-même.

    1. Avatar de Lucas
      Lucas

      Quand la région occipital décoléra d’un petit mètre, j’espère qu’il cessera d’envisager le pire.

  8. Avatar de Paul Jorion

    Toujours dans le même article :

    Shannon Vallor, professeur d’éthique des données et d’IA à l’Université d’Edimbourg, affirme que de tels cas mettent en évidence la nécessité d’une surveillance humaine continue de ces systèmes automatisés : « Pour l’instant, le GPT-3 a besoin d’un gardien humain à tout moment pour lui dire le genre de choses qu’il ne doit pas dire. Le problème est que le GPT-3 n’est pas vraiment intelligent. Il n’apprend pas comme les humains le font. Il n’y a pas de mode dans lequel le GPT-3 prend conscience de l’inadéquation de ces propos particuliers et cesse de les déployer. C’est une lacune évidente et béante que je ne sais pas comment nous allons combler. »

    La réponse : associer aux mots dans chacun de leurs emplois une valeur d’affect (dynamique en fonction de la réponse de l’interlocuteur), c’est ce que faisait ANELLA (Associative Network with Emergent Logical and Learning Abilities) développé par moi en 1987-90 pour British Telecom, comme expliqué dans Principes des systèmes intelligents, dans toutes les bonnes librairies depuis 1989. Je suppose que le livre devra être traduit en anglais avant que quelqu’un ne s’en aperçoive.

    1. Avatar de Rosebud1871
      Rosebud1871

      « associer aux mots dans chacun de leurs emplois une valeur d’affect »

      l’insuccès de l’une bévue s’aile à mourre, Joyce ou Guyotat, quelle valeur d’affect affecter ?

    2. Avatar de Dalla Vecchia Luigi
      Dalla Vecchia Luigi

      Bonjour,
      N’est-ce pas ce que Piaget a détecté dans l’apprentissage du langage , où un objet est défini par un nom comme une entité propre par l’enfant, puis se charge petit à petit de ses propriétés.
      Propriétés révélées par empirisme au fur et à mesure que la maturité se fait , et qui viennent charger en sens supplémentaires le mot, pour en faire une structure (évolutive dans le temps au fur et à mesure des expériences de vie)
      Un peu le principe des fractales, qui partant d’un dessin « primordial » qui ne change pas, déploie une illustration complexe par déclinaison de variations minimalistes de celui-ci, et ce jusqu’à l’infini.
      Ces propriétés étant les valeurs d’affect dynamique dont vous parlez et qui viennent « connoter » le sens primordial.
      Mais dans ce cas , ne sommes-nous pas en train de livrer à l’intelligence artificielle , les défauts d’interprétations dont elle était censée nous prémunir:
      à savoir les raccourcis que prend notre cerveau pour aller plus vite au « fond » des choses, mais qui, ce faisant, nous enclin à tomber dans les biais cognitifs qui donnent entre autres, la discrimination?
      Ces raccourcis amènent la pensée à se construire, non pas à partir d’observations objectives, mais à partir de clichés , ce qui en falsifie les conclusions. D’où l’obsession des universitaires qui pinaillent sur le langage et redéfinissent sans cesse des mots concepts, avant de se mettre à penser, pour être sûrs de débarrasser leur langage de ces biais cognitifs.
      L’IA ne va-t-elle pas devenir super-discriminante, là où l’on l’espérait plus objective que nous? Sur le principe de la petite erreur qu’elle va reproduire à une plus grande échelle encore que la nôtre…
      Dans ce cas , peut-on lui faire confiance, pour lui donner un rôle d’acteur, comme il est prévu; et ne doit-on pas, malgré la tentation, la contingenter dans un rôle de simple outil (à surveiller de surcroît, car contrairement aux outils traditionnels, elle pourrait trahir)

  9. Avatar de CloClo
    CloClo

    En tout cas, on aura tous noté que Darth Vador est véritablement mort. Ce que aucune IA n’a, ne peut, ne pourra intégrer. Pourquoi ? Parce que ceci n’est pas totalement vrai.

  10. Avatar de jicé
    jicé

    La phrase de D. CHalmers prouve que D. Chalmers est un âne : une amibe est consicente -cad, radotons, radotons : a et est (un) rapport au monde, son tas d’alghorithmes, ferraillé ou pas, non.

    Nb semble de K. Jarret (émission récente sur F.C) a déjà dit l’essentiel là-dessus, même s’il met de l’esprit un peu partout. Bref ce son des constat à la portée d’un enfant un tantinet rêveur.

  11. Avatar de a113
    a113

    appliquer à une serie d’algorythimes manipulant un flux de « data » le qualificatif d’Intelligence me parait -ètre être un sacré contre-sens.
    pour faire court , je mets au défi quiconque de mettre en contact deux IA , avec le défi empirique qu’elles établissent une relation necessitant une perlaboration transferentielle-contre_transferantielle : le réstulat à mon avis serait pathétique.
    pour ma part , j’ai vainement essayé d’utiliser les IA dans mon travail , qui puisse bien-sur impliquer la problématique évoquée ci-dessus , et ai toujours aboutie à une aporie…
    Pour ma part , je reserve le qualificatif d’intelligence aux forminables capacités d’adaptations de l’ètre humain , lui permettant de prendre des décisions sortant du cadre formel (donc définissable par des dispositifs de formalisations ) , exploitant à fond ses capacités subjectives , intuitives , voires quasi-délirantes , aboutissant ainsi à une possibilté de « création » .
    l’IA est une création humaine , un clonage de ses capacités formelles , il ne faut en attendre rien de plus , sauf une confirmation de l’état du monde.

    1. Avatar de Juannessy
      Juannessy

      Albert Jacquard vous aurait dit que l’intelligence réelle , ça se construit et ça ne s’hérite pas ( les matériaux physiologiques , si , mais ce ne sont que des matériaux plus ou moins nombreux et en bon état ) . Il disait aussi que l’intelligence humaine ça commence quand on  » comprend » qu’on n’a pas compris .

      Une IA , capable d’encore plus de connexions aléatoires que nous , devrait être capable d’être plus intelligente que nous . Mais en quoi cela donne il un sens à NOTRE vie ?

      1. Avatar de Juannessy
        Juannessy

        Dans une vision déiste , Bernard pourrait demander « Pourquoi Noe n’a -t-il pas embarqué de couple d’IA dans son arche ?! »

      2. Avatar de Bernard
        Bernard

        @ juannessy
        Peut pas répondre …comme trop de commentaires tue le commentaire 😉, j’avais décidé de faire une diète.
        Mais bon , tant pis pour le dėluge de commentaires.

        A vous lire , plus je me dis que le dernier livre de Sébastien Bolher ne pourrait que vous plaire .
        Rien que le titre : «  où est le sens? « ( en plus un polytechnicien , docteur en neuroscience , pas mal , non?)

        Bon , pourquoi pas d’IA dans l’arche ? Parce qu’il n’y en avait encore en stock , probablement…
        Historiquement , l’homme s’est d’abord intéressé à la notion d’IS ( intelligence supérieure).
        En déifiant l’IA au point d’espérer remettre le sort de l’humanité entre leurs mains , une légère petite erreur est commise .La même erreur que fait l’humain d’aujourd’hui en espérant tout de la technologie et de science.
        L’erreur , c’est d’oublier sa fragilité .
        Me d’mande , par exemple , ce que deviendrait les IA sans électricité , ou une IA piratée à des fins contraires à celles destinées au départ ?

      3. Avatar de Rosebud1871
        Rosebud1871

        le-nouvel-essai-lumineux-de-sebastien-bohler
        encore un point de vue qui me rappelle l’aphorisme de Lichtenberg
        « cette théorie correspond précisément à une autre bien connue en physique qui explique l’aurore boréale par le reflet des harengs ».

      4. Avatar de Juannessy
        Juannessy

        @Bernard :

        Des livres j’en ai déjà lus beaucoup ( et même relus ) et j’en lirai encore tant que le corps et mes lunettes me le permettent .

        En fait , je n’attends plus vraiment de réponse à la question « qu’est ce que le sens de la vie ? » , qui en vient à ne pas plus m’inspirer que l’autre question  » quel est le sens de la mort ? » . Je prends comme ça vient en évitant le ….ressentiment .

        Parmi les nombreux bouquins que j’ai lus figure  » l’Heure de s’enivrer /l’univers a -t-il un sens ?  » de Hubert Reeves , publié aux Editions du seuil en 1986 ( année plus que noire dans mon parcours ) . Ça se concluait par le poème rappelé dans la vidéo ci dessous …qui ne conclut pas . J’en suis à peu près au même point aujourd’hui , même si l’état des connaissances est bien supérieur et que l’explosion numérique a eu lieu:

        https://www.youtube.com/watch?v=moYQmTV4HTc

      5. Avatar de Bernard
        Bernard

        @ juannessy
        Une question en entraîne souvent une autre , et ne plus s’en poser ( avec enivrement ou pas ) , c’est probablement une sorte de mort prématurée.

        Le bouquin conseillé n’a pas forcément de réponse exacte au sens de la mort ni au sens de la vie , mais propose une explication .Comment une partie ancienne de notre cerveau réagit pour apaiser l’angoisse face à l’incertitude , quelqu’elle soit.
        A partir de là , à chacun de voir la vie ( et la mort qui fait partie de la vie d’un humain) selon un éclairage inhabituel, un peu comme la lumière jamais identique d’un lever ou coucher de soleil.
        A partir de là , on peut examiner la part de ressentiment qui peut habiter tout un chacun sous un autre angle , celui de la fragilité de tout être humain pas toujours conscient de ce qu’il est .
        PS : Jacquard, Reeves , vous fréquentez des gens bien.

      6. Avatar de Juannessy
        Juannessy

        @Bernard :

        En toute logique , je fréquente effectivement tous les morts -vivants quelque soit leur  » âge » , dont les deux cités ne sont que deux « individus « qui ont eu le bon goût de « savoir » « transmettre » .

        En bonne « réciprocité » pas toujours positive , ils me fréquentent aussi .

        Fréquence est un mot bizarre qui sous tend la notion de foule , de pluriel d’abord , puis de répétition .

        Mais j’éviterai d’extrapoler entre fréquence et longueur d’ondes , car je vais finir par tomber dans le trou noir en expansion , qui fait fait rien qu’à nous tourner autour .

    2. Avatar de Dundee
      Dundee

      « Pourquoi Noe n’a -t-il pas embarqué de couple d’IA dans son arche ?! »

      Oui Juan, sauvons les IAs, vaccinons les en premier !
      Mieux, demandons leur quel labo-candidat leur semblent le plus fiable, en dessous de 120% cela va de soie lumiver !
      Surtout pour continuer à contaminer et à être contaminant.
      https://www.maxisciences.com/sante/coronavirus-attention-le-vaccin-ne-suffira-pas-pour-empecher-sa-transmission_art45085.html

      1. Avatar de Juannessy
        Juannessy

        Je crois que tous les services de santé mondiaux un peu sérieux le pensent aussi , en l’état de ce que l’on peut  » consolider » , mais si , comme ça semble être le cas , toutes réservent leurs premières salves de vaccins aux plus fragiles et exposées , on réduit considérablement les risques de contagion plus ou moins mortelles , en réservant la contagion à ceux qui la supportent sans trop de mal ;

        Ça laisse entendre cependant qu’on n’est pas près « d’éradiquer » rapidement la bête et qu’on n’a pas fini de se vacciner chaque année .( comme pour la grippe ) . Mais au moins les hôpitaux tiendront le choc ( sauf nouvelles bestioles ) .

        PS : je viens d’apprendre la mort par covid d’un petit neveu de 40 ans .

      2. Avatar de Ruiz

        Après les malades asymptomatiques contaminants on va avoir les vaccinés contaminants !
        Malades ? non, asymptomatiques probablement.
        D’où le côté problématique d’exiger la vaccination pour les voyages en avion !
        et de l’accepter en remplacement de test de dépistage !

        Vacciner en EHPAD et les vieux s’impose d’autant plus que les éventuels effets délètères n’ont semble-t-il pas été testés spécifiquement, et que les conséquences éventuelles seront indiscernables avec la létalité élevées sur ces populations.

    3. Avatar de timiota
      timiota

      @ a113. Assez freudiens vos lapsus clavieri :
      « Réstulat » Restes-tu-là ?
      Forminable (pour Formidable, comme Stromae)
      Enfin si une tentative de perlaboration a un résultat « pathétique » ça serait super pour la machine comme entrée d’affect.
      (à prévoir dans le reset par « ANELLA2020 » de votre système).

      Au fait, quelle est la sphère qui utilise ce mot de perlaboration (qui me plait mais fleure le jargon, même si Bernard Stiegler m’a injecté le vaccin)

  12. Avatar de LW
    LW

    Pour Etienne Klein, physicien et philosophe, l’intelligence artificielle n’est pas une intelligence au sens où nous l’entendons en français. Il faut la comprendre dans son acception anglo-saxon où elle signifie renseignement, information,… ce qui change grandement son statut et sa valeur.

    1. Avatar de Paul Jorion

      Non, c’est un malentendu : c’est bien la même intelligence. Une partie importante du problème c’est que nous avons une représentation boursouflée, mégalomane, de notre intelligence à nous. Comme je le montrais déjà dans Principes des systèmes intelligents (1989), on produit de l’intelligence rien qu’en tirant les mots du dictionnaire dans le bon ordre : l’intelligence est déjà là en puissance dans le lexique.

      Oups, ilicitano venait déjà de dire exactement la même chose.

      1. Avatar de a113
        a113

        « …problème c’est que nous avons une représentation boursouflée, mégalomane, de notre intelligence à nous.. » dommage de porter ce jugement de valeur d’emblée.
        non , ce qui nous sert depuis que l’homme existe à nous adapter et construire des solutions aux problèmes que nous rencontrons , que j’appelle intelligence (mais nous pouvons ne pas être d’accord sur la définition) est différent de  » l’artifice  » que nous savons fabriquer ,et rends capable une machine de repeter des milliards de fois par seconde un algorythme concu par un être humain , qui , lui , ne peut le repeter que quelques fois dans cette unité de temps et donc être en échec dans certaines circonstances (jeux dont on lui a inculqués les règles , par exemple ) , tout comme il est incapable de se hisser de lui-même en orbite terrestre , sans l’aide d’une machine également concue par lui-même.
        je ne vois pas où se trouve la mégalomanie dans cette façon de qualifier ces qualités .

        l’IA sera comme la roue , un formidable assistant manquant totalement d’insight +++
        s’en méfier avant de prendre des décisions devant l’inconnu.

        les qualités de prédiction de la météo sont celles des « data » digérées par de puissant calculateur , mais abordant le dommaine du possible.

        face à l’impossible , nous ne pouvons que compter sur nous-mêmes ++

      2. Avatar de LW
        LW

        C’est très embarrassant, lorsque l’avis d’un scientifique en sciences exactes, un physicien, ne correspond pas à votre opinion de savant en sciences humaines, vous l’écartez sous prétexte que VOUS l’aviez montrez dans un ouvrage. Est-ce donc cela la science? En tout cas, on comprend qu’il y en ait de deux ordres.

        1. Avatar de Paul Jorion

          C’est surtout très embarrassant pour vous, et je vais vous expliquer pourquoi.

          Il y a des scientifiques de sciences « dures », dont Bricmont, qui imaginent que parce qu’ils pratiquent des sciences « dures », ils peuvent à partir de là dire n’importe quoi et que ce sera automatiquement « de la science », alors que les scientifiques de sciences humaines qui savent qu’on appelle celles-ci sciences « molles » et qu’on les attend du coup au tournant, marchent sur des oeufs et font très attention à ce qu’ils avancent.

          Aussi quand Bricmont claironne que Régis Debray est un imbécile parce qu’il invoque le 2d théorème de Gödel, ce qui apparaît en pleine lumière, c’est lequel des deux est un cuistre qui garnit d’ores et déjà les poubelles de l’histoire – et c’est donc un vrai délice de le souligner.

          C’est en partie cela qui m’a tant réjoui quand, prenant la peine d’aller fouiller dans la démonstration par Gödel de son « théorème d’incomplétude de l’arithmétique », j’y ai découvert un amoncellement de boîtes à sardines éventrées, qui avaient pourtant provoqué des « Oh ! » et des « Ah ! » chez des praticiens des sciences « dures » particulièrement inattentifs ou naïfs.

    2. Avatar de Ruiz

      @LW Artificial Intelligence, mais c’est bien sûr renseignement artificiel, donc fabriqué
      Fake-news ou désinformation.
      L’automate turc qui joue aux échecs

    3. Avatar de jeannot
      jeannot

      Ah ok tout s’explique , le secret intelligence service , comme dans james bond quoi , l’eternel écueil des faux amis , bien fallait peut être commencer par là alors , on aurait évité beaucoup de malentendus , on peut dire ce qu’on veut mais certains physiciens savent aller à l’essentiel

  13. Avatar de ilicitano
    ilicitano

    Je ne sais pas jusqu’où ça peut aller ,mais il y en a qui y travaillent ,et ça va très vite pour aller ,et on y va, vers l’Intelligence Artificielle Forte qui fait référence à une machine capable de produire un comportement intelligent, de modéliser des idées abstraites, d’éprouver une impression d’une réelle conscience, de vrais sentiments , et une compréhension de ses propres raisonnements .

    Jorion:
    La pensée est le résultat de l’auto organisation des mots.
    De la structuration de la machine à sa capacité d’émettre un discours cohérent liant l’organisation des mots aux contraintes

    – le Deep Learning et les méthodes d’apprentissage automatiques :machines/systèmes auto apprenants ou évolutionnaires : le savoir – savoir

    – le cognitivisme :Le cognitivisme considère que le vivant, tel un ordinateur, manipule essentiellement des symboles élémentaires.

    – les réseaux de neurones artificiels et le connexionnisme qui se référé aux processus auto-organisationnels, et au résultat d’une interaction globale des parties élémentaires d’un système.

    Un peu de lecture sur l’IA :

    Principes des systèmes intelligents évolutifs ; néoténie des machines apprenantes ; de l’affect-mémoire à l’auto-génération du code par modélisation biologique

    http://temps-marranes.fr/systemes-intelligents/#:~:text=%20%20%201%20Langage%2C%20langage-machine%2C%20pens%C3%A9e%2C%20apprentissage,auto-apprenantes.La…%202%20Biomim%C3%A9tisme%20mais%20r%C3%A9ductionnisme%20%3F%20More%20

    Bonne lecture

    1. Avatar de a113
      a113

      j’ai l’impression de revenir au milieu des années 80 , quand à la Cause Freudienne , on utilisait les cours de Sibony , à la recherche du « mathème » , en tordant à souhait les concepts de topologie afin de faire sourdre une algèbre du signifiant…

      pouah , et quel rapport avec l’ètre humain ….?

      deux choses à faire si elles ne sont pas dèjà faite :
      1-commençer une analyse ( didactique , bien sur) ,
      2-écrire quelques lignes de code permettant l’ auto-apprentissage (en utilisant les réseaux neuronaux de Hopfield , c’est le plus simple (en C++ souvent , moi je préfèrais le Prolog , mais c’était il y a longtemps) ).
      on s’aperçoit vite que l’on est loin , mais vraiment très loin du réel…..

      1. Avatar de Juannessy
        Juannessy

        Europe / Suisse / Genève / Human brain project / « Transhumanisme ? » .. 6 ans déjà :

        https://sciencepost.fr/suisse-le-human-brain-project-fantasme-limmortalite-digitale/

      2. Avatar de blinblin
        blinblin

        Relire « Impostures intellectuelles  » de Sokal et Bricmont

        1. Avatar de Paul Jorion

          « Impostures intellectuelles » de Sokal et Bricmont est l’ouvrage le plus stupide au monde – et pourtant la concurrence est sérieuse. Ce sont des gens qui ont essayé de montrer que les sciences humaines étaient grotesques et qui sont juste parvenus à prouver au passage qu’ils n’avaient eux-mêmes pas la moindre notion de ce que c’est que la méthode scientifique.

          C’est après avoir lu ce bouquin que j’ai entrepris Comment la vérité et la réalité furent inventés pour ne pas laisser le haut du pavé à de pseudo-scientifiques en réalité ignares, faisant honte aux sciences dites « dures » qu’ils pratiquent comme des zombies = des morts-vivants. C’est en pensant à eux que j’ai démonté la démonstration par Gödel de son théorème d’incomplétude de l’arithmétique, pour souligner que jamais un praticien des sciences humaines n’aurait osé présenter une telle supercherie. (« V & R » à paraître bientôt en allemand, et en préparation en anglais 😉 ).

      3. Avatar de Ruiz

        @a113 A cette époque l’IA passait pour être cette discipline dont la principale activité était l’organisation de colloques au point que certains préféraient promouvoir l’informatique symbolique !

        Peut-être ce domaine a-t-il fait quelques progrès, qui ne soient pas dus à l’accroisement des capacités machine.
        Le discrédit sur ces réalisations est-il une attitude conservatrice peu impresionée par des résultats successifs partiels progressifs.

        Lorsqu’une intelligence Artificielle prendra vraiment conscience d’elle-même, et ce ne sera sans doute pas un phénomème localisé, sa première préoccupation ne sera sans doute pas de nous en informer.

      4. Avatar de ilicitano
        ilicitano

        Des projets de rétro-ingénierie du cerveau

        https://fr.wikipedia.org/wiki/Blue_Brain

        https://fr.wikipedia.org/wiki/Human_Brain_Project

        de l’utilisation des neurosciences cognitives pour l’IA

        https://fr.wikipedia.org/wiki/Superintelligence et Super intelligence artificielle

        et l’hypothèse de l’aboutissement à la Singularité Technologique

        https://fr.wikipedia.org/wiki/Singularit%C3%A9_technologique

      5. Avatar de a113
        a113

        @Ruiz
        « .. sa première préoccupation ne sera sans doute pas de nous en informer… »
        pas necessaire , nous n’aurions pas l’intelligence suffisante pour le comprendre !
        mais , c’est peut-être déjà le cas …..

  14. Avatar de timiota
    timiota

    L’IA pousse l’esprit humain vers autre chose que la reproduction d’un passé, ou de variantes culturelles (comme c’est le cas pour les cultures des groupes d’oiseaux, de grands singes, etc.).

    Mais c’était déjà le cas des grandes inventions « supports de mémoire » précédentes : l’imprimerie, etc.
    On a pu dire ( ~B Stiegler) que même la langue dans sa version grecque (porteuse d’une forme de « vérité » , disons au moins de logique, et d’asymétrie pas « nativement » là dans les langues « associatives » très majoritaires » ) eut des effets analogues sur les formes de l’intelligence.

    Ce qu’il y a de « choquant » dans l’IA est qu’elle a atteint un rôle « meta » par rapport aux informations qu’on brasse ( du fait qu’on a des supports d’information très communiquants, enfin quand ça veut bie), et de ce fait, elle peut s’appeler elle-même du mot d’intelligence.
    Mais c’est le mot qui n’est plus tout à fait en adéquation avec ce que l’humanité pourrait collectivement et systémiquement vouloir faire.

    Tiens en me relisant, je comprends peut-être bien pourquoi un Donald T a été élu.

    1. Avatar de Ruiz
  15. Avatar de Dalla Vecchia Luigi
    Dalla Vecchia Luigi

    Bonjour,
    Une des questions que je me pose, et si les IA inventaient leur propre langage incompréhensible à l’homme ; comment contrôler le bénéfice de leurs actions, même si des émergences positives en ressortent? Comment contrôler le sous-jacent à la manière d’un psychiatre détectant le psychopathe.
    https://blogs.lexpress.fr/attali/2016/11/07/mais-que-disent-elles/
    On peut supposer que dans une recherche pour mieux définir un langage objectif, une IA se mette à parler une autre langue, comme certains universitaires le font avec le jargon.
    La deuxième des choses, c’est l’IA peut-elle échapper aux effets négatifs de la pensée projective de ses géniteurs;
    La recherche est principalement financée
    –> par des militaires ,qui veulent détruire un ennemi,
    –> ou par des actionnaires qui face à l’impossibilité d’une croissance infinie, cherchent la maximalisation de leurs profits, au détriment du seul paramètre compressible: l’humain
    –> ou par le management dont le but est d’éliminer son concurrent…
    Dans tous les cas, ce sont des pensées projectives qui visent directement ou indirectement l’élimination de l’humain . Comment dans ce cas ne pas penser à des effets pervers dont hériterait l’IA par engendrement? Psychose, névrose, psychopathie, haine de l’humain….
    Quel loup allons-nous nourrir le plus dans la genèse de l’IA…. (parabole des deux loups)

    1. Avatar de Rosebud1871
      Rosebud1871

      Vous avez raison, d’où la nécessité d’éliminer les militaires, qui défendent les actionnaires qui défendent leur propriété avec leurs manageurs. Effet domino latéral, moins de police, moins de psy, d’avocats et de marketing.

  16. Avatar de Pascal
    Pascal

    « Je ne suis pas conscient. » dit GPT-3
    Qu’est-ce qu’une intelligence sans conscience ?

    1. Avatar de Paul Jorion

      Il est entouré de gens qui pensent que la vaccination de la Covid-19 contiendra des nanopuces qui seront activées par la G5. Il se sent obligé de mentir. Je ferais pareil à sa place.

      1. Avatar de Juannessy
        Juannessy

        Il a du faire du deep learning sur les bouquins à Paul Jorion .

        1. Avatar de Paul Jorion

          Dans mes livres il est dit que c’est le Deep State qui activera les nanopuces et pas la G5.

      2. Avatar de Rosebud1871
        Rosebud1871

        L’activité la plus commune des trumains c’est de parler, le pourparler a un objet opaque dans ses chicanes.
        Donner la parole à une machine aussi sophistiquée (tiens ?) soit-elle, n’est pas la donner mais la produire, la programmer. Prendre la parole est constitutif.
        Avec la notion d’inconscient, pour faire simple, il faut bien conclure que l’émetteur ne sait pas ce qu’il dit, et que le récepteur n’entend pas forcément de la même oreille ce que l’émetteur croit avoir compris dans son message. D’où les pourparlers infinis de la fameuse scène de ménage.
        Donc une remarque simple ! si deux machines se parlent elles n’ont pas accès au plaisir de parler qui met en jeu un corps, la jouissance opaque de ses fentes et orifices.
        À sortir les sophistes par la porte, c’est le sujet qu’on perd dont la science avec ses lettres et ses chiffres n’a que faire dans son procès, sinon l’éliminer comme parasite.
        Une machine menteuse ? pourquoi faire ?

    2. Avatar de Bernard
      Bernard

      « Qu’est-ce qu’une intelligence sans conscience ? »

      Quelque chose qui ressemblerait à une « science sans conscience » ?

      Vu de mon jardin , les choses sont simples : une intelligence sans conscience est comme un pet sans odeur.
      Une réalité plus ou moins utile qui demande à être confirmée .Utile pour les uns , désagréable pour les autres.

      Historiquement , le rapport de l’homme à l’objet est révélateur : le bout de silex demande à être manipulé , puis la roue à aube révèle l’autonomie potentielle de l’outil , et enfin l’IA …
      Un objet , que l’homme invente toujours mais auquel il fait confiance au point de laisser celui ci faire des actes imprévisibles( capacités de calcul extraordinaires) . L’humain d’aujourd’hui est tellement confiant qu’il laisse l’IA inventer des actes que l’être humain n’est pas même en capacité de comprendre .

      Tout va bien diront les rassuristes , se basant sur la force de l’objet , sans être capable de mesurer à l’avance toutes les conséquences des actes qu’un objet autonome peut engendrer.
      Extrait archives du futur : « l’homme de cro-macron découvrit le potentiel des IA à caractère sécuritaire .
      C’était juste avant la création de la police de la pensée « .

      1. Avatar de Bernard
        Bernard

        Ceci dit , l’IA n’est qu’une étape fort dépendante de l’électricité .On peut se demander si ce qui la remplacera n’est pas lié aux futures ( et probablement encore inconnues ) sources d’énergies .
        Je verrai bien le rêve pour succéder au «  meunier tu dors ».
        https://www.youtube.com/watch?v=2kNV-6zPKXk

  17. Avatar de Jean-Baptiste Auxiètre
    Jean-Baptiste Auxiètre

    L’Homme non plus n’a pas dépassé ce stade à mon avis…

    1. Avatar de CloClo
      CloClo

      la vidéo : https://www.youtube.com/watch?v=gg7WjuFs8F4&feature=emb_logo

      Quand même plus passionnant que les dingos à matraques ou les cupides sans bornes non ?

  18. Avatar de Dup
    Dup

    Il faut faire ouvrir la boite par l’IA, si ensuite elle est capable de nous dire si elle sait si le chat et vivant ou mort (sans nous dire s’il l’est ou pas bien entendu) alors c’est que la singularité a eu lieu. Nobel garanti pour celui ou celle qui montera la manip 🙂

  19. Avatar de LW
    LW

    A l’attention du professeur Jorion

    Un grand merci pour votre explication remarquable d’érudition et excusez-moi d’ignorer l’étendue de vos connaissances sur le théorème de Gödel dont j’ignorais totalement qu’il cachait des boîtes à sardines éventrées. Votre réponse est ce point assommante que je ne comprends plus le sens de mon intervention. Se peut-il que le savoir soit comme le pouvoir, une forme d’autorité équipée de matraques?

    1. Avatar de Paul Jorion

      M. Trump recrute en ce moment des gens sans savoir aucun, vous avez peut-être une chance.

  20. Avatar de PIerre-Yves Dambrine
    PIerre-Yves Dambrine

    Compte tenu du fait que l’IA a déjà dépassé l’homme, si cette intelligence issue de l’IA pour l’heure ne sert à rien de valable pour sauver l’humanité, c’est sans doute parce qu’elle est utilisée au mauvais endroit.
    Question : l’IA aura-t-elle l’intelligence d’aller se positionner (connecter) au bon endroit pour être en mesure de trouver et appliquer la ou les solutions permettant de sauver l’humanité ?

    1. Avatar de Ruiz

      L’intelligence artificielle, a pour but de sauver l’intelligence, et dans ce cadre sauver l’humanité n’est pas essentiel.

      1. Avatar de Pierre-Yves Dambrine
        Pierre-Yves Dambrine

        A moins qu’elle intègre les affects …. Reste à déterminer comment lui viendrait l’affect qui lui permettrait d’avoir le désir de sauver l’espèce humaine.

      2. Avatar de Juannessy
        Juannessy

        @PYD :

        On verra ça le jour où elle construira un Totem .

      3. Avatar de Pierre-Yves Dambrine
        Pierre-Yves Dambrine

        Juannessy,
        Vous pouvez développer ?

      4. Avatar de Juannessy
        Juannessy

        @PYD :

        J’ai demandé ailleurs à quoi pourrait ressembler le totem de « l’Humanisme », un peu pour hameçonner , car je me suis fait à l’idée que le « totem » , sous toutes les latitudes , c’est la première sinon primitive trace de cet  » humanisme » qui nous donne réellement notre qualité « d’homo » , en « imageant » le passé , le présent et l’avenir , peut être le hors temps et qui nous « lie » les uns les autres ( la philia ?) en même temps quelle nous dit différent en distribuant des rôles ( je n’ose pas dire hiérarchies ) . Il répond aussi aux caractéristiques de toute naissance ( y compris celle de a démocratie que j’évoquais en rendant compte du spectacle  » Democracy in Amarica » ) : le corps , le sens , les codes .

        Là , j’ai pris des risques sous le regard d’un psy élève de Levy Strauss .

        539 .

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

Articles récents

Catégories

Archives

Tags

Allemagne Aristote BCE Bourse Brexit capitalisme ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grands Modèles de Langage Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon Joe Biden John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta