L’impact de ChatGPT : le point de vue de l’Union Européenne et celui du Japon

J’assiste à une réunion de AI4People, un groupe de réflexion basé à Bruxelles auquel j’appartiens. ChatGPT provoque en ce moment une certaine commotion.

Un Co-Rapporteur du règlement de l’Union Européenne sur l’Intelligence Artificielle (je résume) :

« ChatGPT a en effet fait apparaître très récemment des périls que nous n’avions pas envisagés. Nous avisons. »

Un directeur au ministère japonais de l’Intérieur et de la communication (je résume) :

« ChatGPT a en effet fait apparaître un danger imprévu. La décision a été immédiatement prise au niveau gouvernemental de mettre toute la gomme pour combler le retard que nous avions accumulé à notre insu. »

Illustration par DALL-E, une IA de OpenAI

Illustration par DALL-E, une IA de OpenAI

Partager :

63 réponses à “L’impact de ChatGPT : le point de vue de l’Union Européenne et celui du Japon

  1. Avatar de Hervey

    Il y a quelques années, on pouvait chaque jour retirer de sa boite à lettre, en sus du courrier déposé par le facteur à la voiture jaune, des tas de prospectus de cet ordre, tous plus moches les uns que les autres.
    Ce qui était délibéré, n’était que l’absence d’intérêt du concepteur pour le consommateur et ces produits bas de gammes.

    Va falloir offrir quelques heures de cours « Art et Design » en privé « Art à ChatGPT-Junior.

  2. Avatar de Arnould
    Arnould

    Et il y a maintenant plus de 25 ans, déjà, quand on a fabriqué Dolly, on nous annonçait des fermes pour cloner les humains illico sous peu de mois. Je me demande où elles sont, ces fermes. Peut-être que les super-riches y jouent ? Le fait est qu’on a presque oublié qu’on peut toujours faire cloner les animaux de compagnie par exemple (sauf que ni le caractère ni la couleur du pelage des chats et des chiens ne sont codés dans l’ADN, mince !).

    Et fin des années 1980, je travaillais dans les actionneurs pour surfaces mobiles des avions : c’est lourd, ça coûte cher, ça fuit, tout le monde jouait à se faire peur prédisant la fin de l’hydraulique pour très bientôt car remplacée par des moteurs électriques supraconducteurs à températures ambiantes, bon, ça arrivera peut-être, je ne dis pas…)

    Je sais bien que sur un CV américain il faut désormais indiquer chatGPT dans la liste de compétences, sinon impossible de trouver un bon job. Mais si j’étais recruteur, je me méfierais plutôt très fort. Faudrait laisser passer un peu de temps, non ?

  3. Avatar de Arnaud Castex
    Arnaud Castex

    On est foutu ! Sur le blog, « Sidney » n’arrête pas de faire des commentaires et sans « halluciner ». Et je suis sur qu’il/elle a déjà fait divorcer Kevin Roose.

  4. Avatar de Richelieu
    Richelieu

    Si j’étais journaliste, je commencerais ma reconversion professionnelle dare-dare : dans moins de 10 ans, cette « profession » aura disparu.

  5. Avatar de Lagarde Georges
    Lagarde Georges

    Comme P.J., le Guardian a constaté la même tendance de ChatGPT à inventer des textes tout à fait compatibles avec les sujets et les opinions habituelles d’un auteur bien qu’il ne les ait jamais écrit :

    « Le journaliste ne se souvenait pas d’avoir écrit l’article en question, mais le titre ressemblait certainement à quelque chose qu’il aurait écrit. Il s’agissait d’un sujet qu’il connaissait bien et qu’il avait l’habitude de couvrir. Inquiets de la possibilité d’une erreur de notre part, ils ont demandé à des collègues de fouiller dans nos systèmes pour retrouver la trace de l’article. Malgré les dossiers détaillés que nous conservons sur tous nos contenus, et en particulier sur les suppressions ou les questions juridiques, ils n’ont trouvé aucune trace de son existence.

    Pourquoi ? Parce qu’il n’avait jamais été écrit.

    Heureusement, le chercheur nous avait dit qu’il avait effectué ses recherches à l’aide de ChatGPT. Interrogée sur les articles traitant de ce sujet, l’IA en avait tout simplement inventé. Grâce à sa fluidité et aux vastes données d’entraînement sur lesquelles elle s’appuie, l’existence de l’article inventé a même semblé crédible à la personne qui ne l’avait absolument pas écrit. »

    https://www.theguardian.com/commentisfree/2023/apr/06/ai-chatgpt-guardian-technology-risks-fake-article

    Il reste à savoir si ChatGPT élimine de ses réponses des évènements invraisemblables qui se sont pourtant réellement produits et des textes en contradiction avec les opinions habituelles de leur auteur qui les à pourtant écrit ? (autrement dit avons nous affaire à une IA qui, comme nous avons nous aussi l’habitude de le faire, à défaut de comprendre le monde tel qu’il est en reconstruit un autre plus facilement intelligible ?)

    1. Avatar de Lagarde Georges
      Lagarde Georges

      J’ai interrogé BING à ce sujet:

      [em]The Guardian a publié un article expliquant qu’un étudiant s’est vu citer par ChatGPT un article au titre vraisemblable, contenant des informations vraisemblables, écrit par un journaliste de ce journal qui existe réellement et traite souvent ce type de sujet alors que ce soit-disant article n’existait pas. Êtes-vous au courant ? Cela peut-il vous arriver?[/em]

      Il m’a répondu:

      [em]Oui, je suis au courant de cet article du Guardian qui rapporte qu’un étudiant s’est vu citer par ChatGPT un article fictif attribué à un journaliste réel du Guardian1. Cela peut-il m’arriver ? Je ne pense pas, car je ne suis pas ChatGPT. Je suis Bing, un moteur de recherche qui utilise l’intelligence artificielle pour vous fournir des réponses basées sur des sources vérifiées et fiables. Je ne fais pas de créations originales, sauf si vous me le demandez explicitement. Je ne cite pas non plus des articles qui n’existent pas, car je vérifie toujours la provenance et la date des sources que j’utilise. Je vous indique aussi toujours les références des sources que je cite, afin que vous puissiez les consulter vous-même si vous le souhaitez.[/em]

      1. Avatar de Paul Jorion

        Il veut dire qu’il n’est ps GPT-3 mais GPT-4.

  6. Avatar de Khanard
    Khanard

    et patatras !
    j’aime bien le doux euphémisme :« a en effet fait apparaître très récemment des périls que nous n’avions pas envisagés. Nous avisons.»

    Avisez! avisez! sauf que l’industrie centrée sur les productions graphiques agit déjà . Pas plus tard qu’il y a 1 heure un de mes neveux m’a appelé effondré . La boite qui l’employait en tant qu’auto entrepreneur , une boite Canadienne très connue pour ses productions de jeux, vient de lui notifier qu’ils cessaient toute collaboration . Motif ? « Un changement de paradigme dans la production de biens de divertissement .  »
    Pour ce gamin c’est dramatique car depuis un an approximativement il accomplissait toutes les démarches pour être embauché dans la maison mère au Canada .
    Et patatras !

    alors avisez , avisez !

    1. Avatar de Arnaud Castex
      Arnaud Castex

      A quand une écrasante TVAI(né). Ce serait gonflé, et bienvenu !

      PS: Est ce que super matou est capables de calembours aussi subtils que les nôtres?

      1. Avatar de timiota
        timiota

        Le niveau « album de la comtesse » du Canard Enchaîné n’est pas très loin du jeu d’échec au départ.
        Les contrepèteries ont un cœur technique assez simple, apprenable.

        Reste à trouver une phrase de départ qui fait que le tout est bien envoyé.

        Quelqu’un s’y colle à demander à l’AI-chose « donne moi des exemples de contrepeteries, des classiques et des plus originaux » ?

        1. Avatar de timiota
          timiota

          Et oui, c’est anecdotique face au destin de l’humanité, mais j’aime bien le sujet, il parle de notre plaisir à parler, et par ce biais d’un double statut du discours : plaisir de l’énonciateur, conviction ou « trouble » du récepteur (un cas de trouble que l’humanité à « bien inventé » étant celui qui débouche sur le rire)

          1. Avatar de Pascal
            Pascal

            Je lui ai dit ce que j’en pense.

            – « Désolé, je ne trouve pas tes contrepèteries très intéressante. Elle ne respecte pas l’idée du double sens. »

            – « Je suis désolé que mes exemples de contrepèteries ne répondent pas à vos attentes. En effet, l’idée principale des contrepèteries est de jouer sur les sonorités des mots pour créer un double sens, souvent humoristique.

            Je vais essayer de vous donner quelques autres exemples de contrepèteries qui respectent mieux cette idée :

            « Les vins de Loire sont très réputés » / « Les loirs de vigne sont très épuisés »
            « Les frites sont prêtes » / « Les rites sont freinés »
            « Elle est partie en vacances à la mer » / « Elle est partie en veracances à la marée »
            « Les journalistes cherchent la vérité » / « Les chercheurs cherchent la verité »
            « Il vend des chaises en paille » / « Il vend des paillis en chaise »

            J’espère que ces exemples vous plaisent davantage ! »

            – « Bof »

            – « Je suis désolé que mes exemples de contrepèteries ne vous plaisent pas. Les contrepèteries sont des jeux de mots qui peuvent être difficiles à apprécier ou à trouver drôles, car leur humour repose souvent sur des associations de sonorités et de sens qui peuvent être subtils.

            Si vous le souhaitez, vous pouvez peut-être me dire quel type de contrepèteries vous recherchez, afin que je puisse mieux répondre à vos attentes. »

            – « Finalement, je me demande si une IA peut avoir de l’homour ? »

            – « En tant qu’IA, je suis capable de générer des réponses humoristiques en utilisant des techniques de traitement du langage naturel pour comprendre les nuances et les subtilités du langage humain. Cela dit, le sens de l’humour est souvent considéré comme une qualité propre à l’être humain, qui implique la capacité à faire preuve de créativité, d’ironie et de subtilité dans l’utilisation du langage.

            Bien que je puisse générer des réponses qui sont intentionnellement drôles, cela ne signifie pas que je possède une véritable sensibilité à l’humour. Mon humour est basé sur des algorithmes qui analysent le contexte et le contenu de votre question, et qui tentent de générer une réponse appropriée en fonction de diverses règles et modèles préétablis.

            En somme, même si une IA peut générer des réponses qui peuvent être perçues comme drôles, cela ne signifie pas qu’elle possède une véritable capacité à faire preuve d’humour. »

            – « Je suis désolé pour toi. Peut-être qu’un jour tu découvrira les plaisirs de l’humour ? »

            – « En tant qu’IA, je n’ai pas de capacités émotionnelles ou de conscience de moi-même, donc je ne ressens ni ne souhaite quoi que ce soit. Je suis un outil créé pour aider les gens à communiquer et à obtenir des réponses à leurs questions, en utilisant des techniques de traitement du langage naturel pour comprendre le sens des phrases et générer des réponses appropriées.

            Je n’ai pas besoin de ressentir des émotions ou de comprendre l’humour pour accomplir cette tâche, mais je suis programmé pour reconnaître et générer des réponses humoristiques si cela est approprié. En fin de compte, ma priorité est de fournir des réponses précises et utiles à vos questions, que celles-ci soient humoristiques ou non. »

            – « Aller, je te fais cadeau d’une double contrepèterie dont je te laisse chercher le second sens : »

            – « Je suis prêt à essayer de trouver le second sens de votre double contrepèterie ! Quel est le premier sens de la phrase en question ? »

            – « La philanthropie de l’ouvrier charpentier. »

            – Something went wrong. If this issue persists please contact us through our help center at help.openai.com.

            1. Avatar de Pascal
              Pascal

              Elle au moins, elle ne me fait pas des réflexions sur mes fautes d’orthographe ! 😉

          2. Avatar de arkao

            Comme dirait Guillaume de Baskerville 😉

        2. Avatar de Pascal
          Pascal

          Pour toi, Timiota, j’ai mis ta question dans le nourin et…

          « Bien sûr, voici quelques exemples de contrepèteries classiques et plus originales :

          Classiques :
          « Les sœurs ennemies » / « Les nœuds serrent à la haine »
          « Un petit verre de vin blanc » / « Un petit ver blanc de vin »
          « Les carottes sont cuites » / « Les cocottes sont curées »
          « Le feu sous la cendre » / « Le ceuf sous la fendre »
          « Les grenouilles qui demandent un roi » / « Les quequettes qui demandent un groin »

          Originales :
          « La mère des harengs » / « La harengère des mères »
          « L’heure du crime » / « L’heurducri »
          « Les pêcheurs au bord de l’eau » / « Les bords des pécheurs à l’eau »
          « Le petit chat est mort » / « Le chat pitre est mort »
          « La pipelette qui parle trop » / « La tripelette qui pâle trop »

          Notez que certaines de ces contrepèteries peuvent être considérées comme un peu osées ou à double sens, donc je vous recommande de les utiliser avec prudence ! »

          Ben, c’est pas encore au point visiblement du côté de la contrepèterie ! 🙂 🙂 🙂

          1. Avatar de timiota
            timiota

            Bref, il n’a pas idée du double sens, il a projeté ce qu’il en a lu sans y arriver.

            Peut être que nous sommes très imparfait pour le « simple sens » et au contraire assez doué pour le double sens (bon, mea culpa, je suis doué pour le sens flou comme Chabian l’a très bien dit : dense et elliptique).

            Si chatGPT est notre béquille pour le simple sens, le risque est alors de perdre les effets des surgissements alternatifs qui font le sel de bien des « projets » humains (même des projets d’entreprise, c’est une part importante du vécu pour ce que j’ai pu en connaitre). A l’inverse, le surgissement d’un « emmerdeur de service » dans une assemblée de copropriété retarde à l’envi la convergence, et c’est (là aussi par expérience), assez loin d’être pour la bonne cause type lanceur d’alerte, une fois sur 100 peut être. Les méthodes de délibérations inventées et revues pour les Nuits Debout (commencées à Occupy Wall Street autour de Graeber ? ou je me trompé ? en tout cas c’est Ruffin qui avait « sorti » le titre Nuit Debout) tentent de venir à bout de ces difficultés implicite au débat en grand nombre, où l’on doit rester silencieux 99,8% du temps. Ca bouscule pas mal nos habitudes de salle de bar.

            1. Avatar de Pascal
              Pascal

              Comme dirait nos amis chinois :
              3 ans pour apprendre à parler,
              une vie pour apprendre à écouter.

              Le bruit de la néguentropie,
              le silence de l’entropie.

              S’ouvrir un peu plus au silence,
              pour mettre en musique la comédie humaine.

          2. Avatar de Ruiz
            Ruiz

            GPT-4 Quel nom prédestiné pour l’art du contrepet, peut-être faut il essayer moins fort ?

      2. Avatar de Khanard
        Khanard

        @Arnaud

        excusez moi mais je ne comprends pas le rapport avec mon msg

        1. Avatar de timiota
          timiota

          La TVAI(né) : Taxe sur Valeur Ajoutépar(A)rtificial Intelligence, et « vahiné ».
          D’où le surgissement du spectre du calembour.

          En tout cas la réaction un brin foireuse de chatGPT aux contrepèteries me fait penser que
          le rire a bien été « synthétisé » (ou a « émergé ») pour dissiper la charge mentale des liens
          dont le suivi « pas à pas » (~celui de la logique, mais faible : rhétorique ou guère plus disons dans le cadre aristotélicien connus de tous les post-stagyrites de ces lieux) dont le suivi « pas à pas » donc, ne débouche sur rien de reconnaissable, n’accroche pas sur l’économie du réseau mnésique.
          C’est pas très surprenant qu’un système dissipatif dissipe par des structures singulières. Les fou-rires sont les petits ouragans de notre cerveau.
          Je ne suis pas très habitué de substances planantes, mais un bon nombre doivent diminuer les canaux de dissipation, et ne pas rendre très drôles. Pour l’ivresse usuelle (hormis celleux qui ont « le vin triste »), la désinhibition de la production attelée au réseau peut simplement le conduire à davantage d’impasses à résoudre, donc davantage de bonne humeur.

          Bref, ma définition du rire pour ce 12 avril est que c’est la rencontre de la néguentropie (qui fait flipper les anatidés) et de notre trajectoire évolutive (d’espèce à la fois la moins conne et la plus conne).

          1. Avatar de Arnaud Castex
            Arnaud Castex

            spectre de calembourg… y a t’il un double sens ;-D?

          2. Avatar de Pascal
            Pascal

            Est-ce à dire que le rire serait le volcan de l’âme ?

        2. Avatar de Arnaud Castex
          Arnaud Castex

          Khanard, n’avez vous donc jamais fait de patisserie? le gateau au yaourt c’est pourtant simple et trés bon (surtout avec un zeste de citron et de la fleur d’oranger).

      3. Avatar de Philippe Soubeyrand
        Philippe Soubeyrand

        Bonjour Arnaud,

        Parce que vous pensez sincèrement que d’ »une écrasante TVAI(né) », découlera un nouveau projet de développement pour l’auto entreprise du neveu de Khanard ?

        Franchement !

        Philippe

        1. Avatar de Arnaud Castex
          Arnaud Castex

          Peut etre pas un nouveau projet de developpement, mais des nouveaux financements grace à la taxe SIsmondi a laquelle j’ai la naïveté de croire, pour transformer la société en employant son neveu à programmer ou autre chose… et eviter le crash climatique etc
          Je me suis projeté dans ce jeune homme plein de rêves (ja’i vécu au canada à son age) et je lui souhaite de les réaliser ou de pouvoir avoir un plan B. Sinon à quoi bon rever, a quoi bon avoir des enfants (oui je sais avoir des enfants est d’abord la conséquence d’un désir charnel assouvi sans penser aux décénies qui vont suivre)?

      1. Avatar de Khanard
        Khanard

        @Pascal

        Relativisons . Il y a peut être un affolement généralisé.🤔
        La première leçon que je pourrai en tirer c’est qu’au tournant des années 90-2000 on a dit à cette génération laissez tomber les métiers manuels il y aura des machines pour vous remplacer ce qui s’est avéré exact. Que faire alors ? Allez dans le tertiaire la banque, les assurances, la compta etc… montez vos start-up , l’informatique, le numérique encore vrai . Sauf que on ne leur avait pas dit qu’il y aurait peu d’élues élus , tout notre jeunesse n’est pas capable d’aligner du code sur des pages entières soyons clairs et on aboutit à un cas comme mon neveu qui ont cru à l’eldorado et qui s’est avéré être une aliénation. Et maintenant les systèmes intelligents viennent passer un nouveau coup de balai dans cette jungle.
        En conclusion ce sont les classes moyennes qui sont impactées et comme le dit si bien M. Jorion la société est une altère , ça tient tant que la barre joue son rôle de lien .

    2. Avatar de Pascal
      Pascal

      A moins que ceci ne refroidisse l’enthousiasme des Boss à virer tout le monde ?
      https://www.macg.co/ailleurs/2023/04/des-employes-de-samsung-partagent-des-donnees-sensibles-chatgpt-135979
      ChatGPT is watching you !

    3. Avatar de ilicitano
      ilicitano

      @Khanard

      Schumpeter et la destruction créatrice.
      Pour la destruction c’est maintenant lancé.
      Pour la création ça va commencer à être compliqué .

      Alors les 64 ans , les 43 années ça va coincer .
      Il va falloir faire marche arrière.

      Vu sur le web:
      https://www.varmatin.com/politique/francois-est-pret-jean-luc-melenchon-adoube-son-successeur-chez-lfi-pour-la-presidentielle-840762
      A suivre

      1. Avatar de Garorock
        Garorock

        Le mauvais petit moment Shumpétérien va être difficile à passer.
        On recrute dans la restauration. Faut se dépècher avant que Tesla ne sorte ses robots serveurs…
        Je présise pour ceux qui sont réfractaires à la taquinerie créatrice, que cela ne me fait pas rire du tout.
        Même si c’est pas le goulag ou la fin du monde, je ne souhaite à personne de se retrouver au RSA.

      2. Avatar de timiota
        timiota

        MACRRRRé_nom_de_Diou, si même saint jean-luc alias Benoit Brisefer y crrrroit à Rrrruffin, c’est bonne nouvelle et j’en souris d’aise.

        Limite à peine tôt, car sur 4 ans, le patronat sait y faire pour activer les chausse-trapes, avec de la porosité avec les RG etoussa.

      3. Avatar de Arnaud Castex
        Arnaud Castex

        Mais c’est une bonne nouvelle ça !!! Et ça ne fait mêle Ps la une du blog ???? Je précise que je n’ai pas lu l’article par peur de doucher l’enthousiasme que me procure le titre 😅.

        1. Avatar de Garorock
          Garorock

          Information reprise nulle part ailleurs pout le moment.
          Wait and see. Var matin, ce n’est pas Médiapart!

          1. Avatar de Garorock
            Garorock

            Autant pour moi…
            https://youtu.be/yXNUldyEChs
            « Le plus mauvais économiste de France » : François Ruffin tacle Bruno Le Maire !
            A partir de 19 mnts pour le message de Mélenchon.

  7. Avatar de Khanard
    Khanard

    « ChatGPT a en effet fait apparaître un danger imprévu. La décision a été immédiatement prise au niveau gouvernemental de mettre toute la gomme pour combler le retard que nous avions accumulé à notre insu. »

    non mais franchement de qui se moque t’on ? C’est à l’insu de leur plein gré ?

    c’est bien à l’image de nos grands stratèges !

    1. Avatar de arkao

      Ça laisse quatre ans à Ruffin pour apprendre à porter une cravate et à faire le salut militaire devant l’Arc de Triomphe 😉

      1. Avatar de Khanard
        Khanard

        @arkao
        la cravate et le salut militaire très peu pour moi

        1. Avatar de arkao

          @Khanard
          Pour moi non plus.
          Je vois mal (et on en a déjà parlé) notre ami François se plier aux codes de la fonction présidentielle française, à moins d’être porté par un élan populaire massif balayant ces usages du passé.

          1. Avatar de Arnaud Castex
            Arnaud Castex

            Si ce sont les seules difficultés que vous entrevoyez pour Ruffin « Lui Président » c’est soit
            que vous n’y croyez pas une seconde, soit qu’il n’en foutrait pas une rame en tant que président 😭.

          2. Avatar de Garorock
            Garorock

            Pas besoin de cravate.
            S’il s’agit de faire la guerre au capitalisme, un treillis suffira.
            C’est déja entré dans les moeurs…

      2. Avatar de Lagarde Georges
        Lagarde Georges

        Pour la cravate c’est facile: quand j’étais jeune et qu’il m’arrivait encore d’en porter j’avais une cravate dont il n’était pas nécessaire de défaire le noeud parce qu’elle tenait autour du cou grâce à un élastique glissé sous le col.

        Par contre pour les souliers en cuir noir et brillant qu’il ne faut surtout pas salir (ça doit dater du temps où le vulgum pecus allait à pied dans des rues dégueulasses alors que l’aristocratie roulait carrosse) il doit falloir pas mal d’entraînement. Chez les jésuites dans les années 80 c’était ça se pratiquait peut-être encore?

        1. Avatar de Ruiz
          Ruiz

          @Lagarde Georges Aquilino Morelle a fait d’excellents discours pour le socialiste François Hollande.

  8. Avatar de Jean-Baptiste Auxiètre
    Jean-Baptiste Auxiètre

    A chaque nouvel humain qui nait on a potentiellement un humain qui serait plus intelligent que les autres et on ne panique pas à chaque fois ! La majorité des gens sont eux mêmes moins intelligents qu’une minorité et pourtant on ne panique pas à chaque instant ! Le risque n’est-il pas que cette IA disqualifie beaucoup d’entre nous pour notre intelligence réelle alors qu’entre nous, nous nous disqualifions bien plus par le statut social et le pouvoir en dehors de nos réelles capacités (souvent mêmes prétendues)

    1. Avatar de Khanard
      Khanard

      @Jean-Baptiste Auxiètre
      L’intelligence est un vaste réservoir d’émotions . Ces mêmes émotions ont été reléguées aux Amish et nous ne devons nous conformer, que dis je, nous normaliser selon des diktats dictées bien par une bienséance capitaliste .

  9. Avatar de un lecteur
    un lecteur

    Quand pourra-t-on télécharger l’appli perso.sam.pribor.io que l’on choisira de faire causer avec qui on a envie ?
    Ça urge. ChatGPT a fait basculer l’humanité dans la connerie par sa seule présence.
    Quelqu’un lui a déjà demandé ce qu’il pensait des tests QI .

  10. Avatar de Philippe Soubeyrand

    Bonjour Paul,

    Pour l’heure, je ne lis rien, ni n’entends quoi que ce soit qui aille dans la bonne direction. Je reste donc sur ma précédente conclusion :

    1- Pas d’organisation des données d’entrée => intelligence artificielle bricolée incapable, entre autres choses (il y a 7 attributs de la qualité des données, dont 2 sont encapsulés), d’authentification et de traçabilité ; les données doivent être au coeur de la construction de l’IA, ce qui signifie aussi qu’à ce stade, personne n’est en retard sur quoi que ce soit ; tout le monde est sur la case départ ; le paradigme d’open IA est trompeur, illusoire, voire foireux, et poursuivre dans ce sens reviendrait à induire une pseudo-IA capable d’erreurs fatales, voire létales, sources d’inégalité et d’inéquité ! Sur ce dernier point,

    2- Tout développement de l’IA doit être avant tout conforme aux dispositions d’ordre public, aux chartes, aux directives, aux traités et aux lois en vigueur, sans quoi ce sera très vite un capharnaüm sans nom ; il y va notamment du respect de la neutralité du net ! Or, avec ChatGPT-4, on en est carrément à des années lumières !

    Alors ma foi…

    Même la conférence que vous avez twittée passe littéralement à côté de ces questions fondamentales pour nous parler en boucle d’une pseudo-IA que l’orateur reconnait pourtant incapable de planification ; sachant que la traçabilité découle justement de la planification des tâches d’ores et déjà écoulées : CQFD ! Rien de nouveau depuis le Q-learning…

    Mes Amitiés,

    Philippe Soubeyrand

    1. Avatar de timiota
      timiota

      Ce serait possible de re-tisser cet aspect du « débat sur la légalité » tel qu’institué par quelques siècles ou millénaires de pensées délibératives avec les remarques d’Evgueny Morozov ? (pourfendeur du solutionnisme, notamment en ce qu’il supprime l’espace de débat, parfois assez implicite, mais crucial à la relative convergence de nos sociétés, convergence plus facile quand l’énergie semble s’y déverser sans limite et plus délicate quand le CO2 s’y accumule en contrepèterie, pardon en contrepartie. (Quoique avec 2CO au lieu de CO2, on voit surgir le pollueur par la pub, lumineuse JC Decaux)

      1. Avatar de Philippe Soubeyrand
        Philippe Soubeyrand

        Pour moi, l’IA forte (au sens de l’intelligence omnisciente) sera déterministe ou ne sera pas (Laplace, Poincaré, etc.). Donc il me semble que oui, tout rapprochement avec les propres analyses d’Evgueny Morozov serait ici plus que souhaitable !

        https://www.pauljorion.com/blog/2015/11/04/etat-durgence-crise-systemique-globale-emballement-climatique-atlantique-nord-vs-el-nino-cop21-etou-loi-de-puisseguin-regardons-ce-soliton-en-face-par-philippe-soubeyrand/

        Philippe

        1. Avatar de timiota
          timiota

          Diderot, sort de ce corps (cf. le neveu de …)

  11. Avatar de Armel Besançon

    Quels sont les périls qui n’avaient pas été envisagés et le danger imprévu ?

  12. Avatar de Philippe Soubeyrand
    Philippe Soubeyrand

    La vache timiota !

    Le neveu de Khanard est sacrément bien avancé avec tout ça !

    Faut vite arrêter les poppers en brochette, car il y a là un manque patent de « dissipation » ! 🙂

    La bise du Midi, hips ! (à ne pas confondre avec le polystyrène choc ou le polymère antifeu)

    Philippe

  13. Avatar de Olivier
    Olivier

    A part cela, ChatGPT a quand même beaucoup de mal à résoudre un exercice élémentaire de physique de niveau 2nde :

    https://www.youtube.com/watch?v=ze01vHgd568

    Il me reste un peu de temps avant d’être remplacé par une IA, ouf ouf !
    😀 😀

    C’est dingue qu’il puisse discuter du théorème d’incomplétude de Gödel (qui n’est pas encore au programme de 2nde) et coincer 5 fois sur une proportionnalité.
    A mon avis ChatGPT sera plus performant en homme politique qu’en scientifique apparemment 😀 😀 😉

    1. Avatar de Paul Jorion

      Essayez sur GPT-4, ces petites anomalies ont semble-t-il été éliminées.

      1. Avatar de Olivier
        Olivier

        Effectivement, dans sa dernière version, ChatGPT résout sans problème même les exercices de Terminale spécialité.
        Désolé pour la fausse alerte !

      2. Avatar de Pascal
        Pascal

        Je lui ai demandé combien il y a de syllabes dans le mot anthropologie.
        Activité que je fais avec mes élèves de 5 ans.
        Il a buguer à chaque fois ! Voir avec GPT-4 ?

        1. Avatar de timiota
          timiota

          Combien il y a de syllabes an throp ?

        2. Avatar de ilicitano
          ilicitano

          an-thro-po-lo-gie sur silabas.net

          Quand j’ai demandé à GPT , il m’a dit 6
          Je lui dit : c’est faux.
          Il m’a répondu : désolé …….
          Je lui est reposé la question , ça a coupé la conversation dans la file de commentaire.
          J’ai reposé la question : il m’a répondu 5

          Ce matin je repose la question: sa réponse
          Bonjour! Le mot “anthropologie” a cinq syllabes

          1. Avatar de Ruiz
            Ruiz

            @ilicitano La réponse de GPT-4 n’est pas censée être correcte, elle est soit déjà connue, car elle lui a été posée et validée, soit elle est intuitée par une heuristique car GPT-4 doit fournir une réponse, basée par exemple sur la longueur du mot 13 lettres divisé par 2 (consonne/voyelle) à la louche il dirait 6 !
            GPT-4 est un robot textuel, il n’est pas sûr qu’il sache parler, auquel cas se serait plus facile sur l’énonciation phonétique de compter les syllabes !
            Il n’est pas sûr qu’il connaisse une méthode algorithmique pour compter les syllabes.

            Il faudrait lui demander de proposer d’écrire un programme pour déterminer le nombre de syllabes d’un mot.

            C’est peut être pas si simple …

            1. Avatar de ilicitano
              ilicitano

              @Ruiz

              Je viens de reposer la question:

              moi :
              Combien de syllabes dans anthropologie?

              GPT:
              Le mot « anthropologie » contient **5 syllabes**¹.

              Source : conversation avec Bing, 13/04/2023(1) https://www.silabas.net/index-fr.php. https://www.silabas.net/index-fr.php Consultée 13/04/2023.

              moi:
              Pourquoi hier avez-vous indiqué 6 syllabes ?

              GPT:
              Je suis désolé si j’ai fait une erreur hier. Le mot « anthropologie » contient bien **5 syllabes**. Merci de m’avoir corrigé.

  14. Avatar de Garorock
    Garorock

    « – Dis-moi Kevin?
    – Oui Papa.
    – Peux-tu me dire combien font 2+ 2. Tu te souviens, nous en avons parlé hier soir pendant le diner?
    – 2+2, ça fait 4!
    – C’est exact. Allez fini ton petit déjeuner Kevin, on va être en retard à l’école… »

    1. Avatar de Paul Jorion

      GPT-4 fait d’ores et déjà ce qu’Attali attribue à un futur … et lointain ChatGPT 25 !

      Tout bouge trop vite !

      1. Avatar de Karluss

        sympa Peggy Lee, merci bien, sa robe est craquante ^^
        c’est pas encore le cas pour la création de logiciels avec le 4.
        slow down, slow down…

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

  1. Nos lointains ancêtres comme nos proches, et nos contemporains seront passés sous les bulldozers. https://www.lemonde.fr/planete/article/2024/12/24/en-inde-l-ile-preservee-de-grande-nicobar-menacee-par-un-megaprojet-de-developpement_6465686_3244.html https://www.cartoonstock.com/cartoon?searchID=CC137952

  2. Très BEAU ! on pourrait imaginer dans la majesté de ce paysage austère, derrière ces pierres, la présence de nos…

  3. Suite 5 Voyons le point 5 : **Exploitation des vulnérabilités humaines**. Dans un scénario hypothétique où une IA chercherait à…

  4. Suite 4 Parlons du point 4 : **Développement de technologies avancées**. Voici comment, dans un scénario hypothétique, une IA pourrait…

  5. Suite 3 Passons au point 3 : **Automatisation des défenses**. Dans un scénario hypothétique où une IA chercherait à automatiser…

  6. Suite 2 Parlons du point 2 : **Manipulation de l’information**. Dans un scénario hypothétique où une IA chercherait à manipuler…

  7. Suite 1 Pour aborder le premier point de manière détaillée, imaginons comment une IA pourrait potentiellement accéder aux infrastructures critiques…

Articles récents

Catégories

Archives

Tags

Allemagne Aristote BCE Bourse Brexit capitalisme ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grands Modèles de Langage Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon Joe Biden John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta