Des versions plus plausibles du monde invraisemblable qui nous est offert !
Merci Khanard, de m’avoir envoyé la liste. Que dire ? que dire ? 😀 1 – Il y a peut-être…
*Godot est mort !*
Vidéo – Les hallucinations de ChatGPT, c’est quoi ?
142 réponses à “Vidéo – Les hallucinations de ChatGPT, c’est quoi ?”
-
@Philippe
oui et non . j’ai effectivement lu cet article qui est dramatique mais par mon commentaire je vais au delà de cet exemple en parlant de thérapie mentale en ceci que je me questionne sur une thérapie sur le long terme . -
ChatGPT , Plugins et Internet
https://openai.com/blog/chatgpt-plugins
Des plugins OpenAI vont connecter ChatGPT à des applications tierces.
Ils permettront à ChatGPT d’interagir avec des développements qui vont améliorer ainsi ses capacités.Les plugins peuvent permettre à ChatGPT de faire des choses comme:
Récupérer des informations en temps réel. Par exemple, les résultats sportifs, les cours des actions, les dernières nouvelles, etc.
Récupérer les informations de la base de connaissances; p. ex., documents de l’entreprise, notes personnelles, etc.
Effectuer des actions au nom de l’utilisateur; p. ex., réserver un vol, commander de la nourriture, etc.Exemple de sociétés qui sont entrain de se pluger avec ChatGPT:
Expedia, FiscalNote, Instacart, KAYAK, Klarna, Milo, OpenTable, Shopify, Slack, Speak, Wolfram et Zapier.L’objectif étant que ChatGPT fournissent des données et des fonctionnalités de ces services tiers pour fournir des réponses plus complètes et à jour.
(infos glanées sur openai et le web)-
Et là, trouvez l’intrus :
« Expedia, FiscalNote, Instacart, KAYAK, Klarna, Milo, OpenTable, Shopify, Slack, Speak, Wolfram et Zapier. »
J’espère simplement que Wolfram ne va pas se transformer en marchand de tapis…
Comme quoi, rien n’est dû au hasard…
Philippe
-
-
Quant ChatGPT entre à l’Assemblée nationale :
« .. Pour alerter sur les enjeux démocratiques et sociaux liés à l’intelligence artificielle, le député socialiste Hervé Saulignac a décidé de poser une question entièrement rédigée avec cet outil de conversation automatisé. Quelques semaines plus tôt, un amendement rédigé par l’IA avait été déposé….
Les robots seront-ils bientôt des députés comme les autres ?
Hier après-midi dans l’hémicycle, lors de la traditionnelle séance de questions au gouvernement, le député ardéchois Hervé Saulignac (PS) a pris la parole pour interpeller l’exécutif sur les enjeux économiques liés à l’intelligence artificielle. Avant de dévoiler, quelques minutes plus tard, et après la réponse du ministre délégué à la Transition numérique, Jean-Noël Barrot, que sa question avait été entièrement rédigée par ChatGPT, l’outil de conversation automatisé qui utilise l’IA..« Monsieur le ministre vous venez de répondre à cet instant au 578e député, a-t-il déclaré, puisque la question que je viens de vous poser a été entièrement rédigée par ChatGPT.» Moment de flottement dans l’hémicycle. «Vous noterez que le robot qui vient de vous interroger n’a pas soulevé de question de sécurité, de liberté, de démocratie ou de menace pour notre civilisation. Or les vrais sujets sont précisément ceux que le robot contourne.»
Rien, ni dans la formulation de la question ni dans son fond, n’a fait tiquer qui que ce soit. Le ministre délégué a répondu tout à fait sérieusement, en appuyant sur le renouvellement de la stratégie nationale pour le développement de l’IA voulue par Emmanuel Macron. Sans se douter un instant qu’il répondait techniquement à un robot. …
(Libération)La vidéo de l’intervention du député Sauvignac :
https://twitter.com/hsaulignac/status/1643288078067326986Et aussi, le ministre Lemaire et Xi jinping via ChatGPT : https://www.presse-citron.net/ce-depute-interroge-un-ministre-sur-les-risques-de-lia-avec-chatgpt/
-
Et il fallait oser le faire !
C’est excellent !Philippe
-
-
De la fascination pour nos propres inventions.
Un échange avec Ruiz à propos du contrôle de l’humanité sur l’AI me donne envie de poursuivre :
La façon dont l’humanité a colonisé son espace illustre bien souvent le proverbe : Quand on a un marteau, tout ressemble à un clou.
Nous progressons de façon linéaire, avec une succession de » projets » ayant le plus souvent pour objectif de régler les conséquences néfastes du projet précédent.
Saint Exupéry illustre ainsi, cette tunnelisation des idées :
« Celui auquel on montre telle constellation du firmament comme ayant la forme d’un cygne, ne sera plus capable d’y voir autre chose. »
Un autre phénomène est aussi à l’oeuvre, il est qu’en plus d’être captifs, nous sommes dans l’admiration de toutes nos créations. A fortiori des gros trucs, le paquebot, le stade , un peu comme si ces signes visibles de notre puissance humaine venaient nous rassurer.
Tandis que sur le blog, un peu comme un ostéopathe, Paul propose de remonter autant que possible à la bifurcation où la cause d’origine du problème, est apparue.
Cela requiert une démarche constante, pour sortir du tunnel, pour gagner sa liberté sur la pente naturelle, s’interroger sur les conventions et être capable de les remettre en cause. Être capable de voir autre chose qu’un cygne dans le ciel étoilé.
Plutôt bon signe, finalement, quand chat GPT raconte votre vie la probable, et que celle-ci se trouve être éloignée de la vraie, de la vie libre, vécue en défiant les lois de la probabilité.
-
Vie la PLUS probable…
-
Et :
Une fois que vous avez vu que l’esthétique des voitures Smart, en particulier les lignes ondoyantes latérales, et les couleurs, est absolument semblable à celle des chaussures de sport du grand commerce, vous ne voyez plus autrement une Smart que comme une godasse.
-
-
https://youtu.be/XiL1dgsYN5g
Emission de France culture.
M Badinet dit qu’il ne faut pas s’inquiéter. Ce sera juste un mauvais moment Shumpetérien à passer.
Oui, cela va faire du chomage mais comme à chaque fois cela va recréer de l’emploi parce qu’il y aura de nouveaux métiers et de nouveaux services…
En gros, tout va bien. Pas la peine d’avoir peur.
Pour étayer sa démonstration, M Badinet prend l’exemple du chemin de fer qui a remplacé la diligence…-
Aristote a dit « On ne généralise pas à partir d’un seul exemple ».
Or, le seul cas connu de recréation équivalente d’emplois, c’est celui des travailleurs et travailleuses quittant les usines qui ont pu tous se reconvertir dans les services. Sinon, lors des grands exodes ruraux européens (liés à des crises : phylloxéra, mildiou, doryphore, etc.), les usines ne purent pas absorber tout le monde. D’où les « hordes de la faim » errant alors sur les routes.
Combien de programmeurs/euses pour coder un logiciel éliminant 100.000 caissières ?
-
La dame, invitée dans l »émission de F.C, qui travaille sur une I.A « au service de l’humain » donne l’exemple de personnes qui ne savent pas parler en public et que l’I.A pourrait aider…
Combien de programmeurs/euses pour coder un logiciel éliminant 100.000 coachs?
😎-
Les gens n’auront même plus à se parler, ça économisera pas mal de salive. Chacun aura son compte ChatGPT pour répondre (voir même poser une question si cela est encore toléré) à « l’individu » en face de nous qui aura lui aussi, un compte ChatGPT.
Ça se règlement en famille en quelque sorte. La grande famille de la communauté humaine.
En cas de conflit, une IA juridique dira qui a raison ou tort et y aura bien un robot de chez Boston Dynamics dans le coin pour les récalcitrants qui souhaiteraient créer leur propre famille d’humains.« La beauté est le nom de quelque chose qui n’existe pas et que je donne aux choses en échange du plaisir qu’elles me donnent ».
Fernando Pesoa
-
-
IA : Justwalkout
Technologie Amazon du commerce sans caissièreDans le monde réel
https://en.wikipedia.org/wiki/Cashierless_storehttps://www.bbc.com/news/technology-56266494
Aldi a annoncé son intention d’ouvrir son premier magasin gratuit de caisse au public aux Pays-Bas au début de l’année prochaine, alors qu’il se concentre davantage sur les achats automatisés.
Il a demandé l’aide de la société de technologie israélienne Trigo pour équiper son magasin des capteurs, des caméras et des systèmes d’IA nécessaires pour permettre les achats autonomes, la même société que Tesco utilise pour sa propre offre sans caisse à venir.
Le magasin Aldi d’Utrecht permettra aux clients de se connecter au magasin en scannant un code QR, puis de suivre les articles qu’ils choisissent dans les rayons avant de les facturer automatiquement lorsqu’ils quittent le magasin.
—————-
Un des éléments majeurs pour faire fonctionner l’IA est le traitement du signal:
« Le traitement du signal est la discipline qui développe et étudie les techniques de traitement, d’analyse et d’interprétation des signaux. Parmi les types d’opérations possibles sur ces signaux, on peut dénoter le contrôle, le filtrage, la compression et la transmission de données, la réduction du bruit, la déconvolution, la prédiction, l’identification, la classification, etc.
Bien que cette discipline trouve son origine dans les sciences de l’ingénieur (particulièrement l’électronique et l’automatique), elle fait aujourd’hui largement appel à de nombreux domaines des mathématiques, comme la théorie du signal, les processus stochastiques, les espaces vectoriels et l’algèbre linéaire et des mathématiques appliquées, notamment la théorie de l’information, l’optimisation ou encore l’analyse numérique. » ( wiki)
-
-
-
François Hollande piégé par des humoristes Russes qui se sont fait passés pour Porochenko avec l’aide de l’IA (DeepFake) au sujet des accords de Minsk.
«C’était très très bien fait, il arrivait à imiter parfaitement Porochenko pendant l’appel en visio. Mais ce qui compte, ce sont les propos que j’ai tenus, et c’est ceux que je tiens [publiquement] dans toutes les interviews, sur les accords de Minsk et sur la responsabilité russe.»
Des propos tronqués ont repris par Sud Radio pour faire dire ce qu’il n’a pas dit.
On peut donc le constater : le côté positif que Hollande voit dans les accords de Minsk, c’est avant tout «l’affirmation de l’intégrité territoriale de l’Ukraine». François Hollande passe ensuite à autre chose. Ce sont les deux Russes qui le relancent, pour lui faire dire que cet accord a aussi permis de donner du temps à l’Ukraine pour se rétablir. Ce que confirme l’ancien président français : «C’est nous qui voulions gagner du temps pour permettre à l’Ukraine de se rétablir, de renforcer ses moyens militaires.» Mais ce «nous», alors qu’il est interrogé sur les propos de Merkel, concerne lui et Merkel, pas l’Otan. Il est en effet question des accords de Minsk II, signés en février 2015 dans la capitale biélorusse, dans le cadre du format dit «Normandie» : c’est-à-dire en présence de François Hollande (France), d’Angela Merkel (Allemagne), de Petro Porochenko (Ukraine), de Vladimir Poutine (Russie), et des représentants des républiques populaires autoproclamées de Donetsk et de Louhansk (sécessionnistes de l’Ukraine). Un accord par ailleurs très vite violé, après l’éphémère accord de Minsk I signé quelques mois plus tôt en septembre 2014.
« …Auprès de CheckNews, François Hollande précise également sa position : «Dans aucun de mes propos, parce que c’est sur ça qu’ils essayent de mettre l’accent, je n’ai laissé penser que nous aurions signé les accords de Minsk pour permettre aux Ukrainiens de préparer la guerre. Il s’agissait [pour le pays] de retrouver une stabilité, un équilibre et de renforcer leurs moyens militaires s’ils étaient attaqués. Depuis l’interview de Merkel [et sa déclaration sur Minsk], c’est ce qu’ils veulent absolument démontrer, de prétendre que Minsk a été une tromperie pour permettre à l’Ukraine de s’armer, de préparer une agression, mais ce n’était pas le cas. Nous voulions protéger l’Ukraine [d’une invasion] que la Russie a fini par commettre….»
Au final Hollande s’en est très bien sorti. Je n’aimais pas le Hollande de la politique sociale et économique, mais en politique étrangère il tenait vraiment la route. Qu’on se souvienne pas exemple de son niet à propos de l’exportation des navires Mistral vers la Russie…
-
… se sont fait passer …
-
-
ChatGPT = Perroquets stochastiques ?
« La linguiste numérique Emily Bender a appelé les grands modèles de langage tels que ChatGPT et BART et BERT de Google « perroquets stochastiques » dans un article de 2021. Ses co-auteurs de Google, Timnit Gebru et Margaret Mitchell, ont été invités à retirer leurs noms du papier. Quand ils ont refusé, ils ont été licenciés par Google. »
https://independentmediainstitute.org/publisher-portal/?article_id=11724 -
Bonjour,
Je dépose ceci en commentaire au dernier billet de Paul traitant à ce jour de ChatGPT, avec le risque qu’il passe inaperçu en queue de peloton dans les commentaires, si je peux dire.
Une ligne de conduite que j’essaie de suivre dans les discussions sur des événements d’actualités qui provoquent de nombreuses réactions immédiates, « le nez sur le guidon », est d’attendre au moins un jour, ou plus, que les choses décantent un minimum, avant de former mon avis provisoirement. Évidemment, je n’y « arrive » pas toujours.
J’ai donc fini par m’inscrire à https://chat.openai.comAppliquer une préconisation personnelle que j’ai déjà présentée dans se blog, « ne jamais dire ‘vous’ au chatbot », est un exercice intéressant et contre-spontané, face à des textes qui me disent ‘je’ et ‘vous’. Essayez ça. Je m’y suis tenu, et la difficulté est comparable à celle de répondre à un commissaire de police expérimenté « Je n’ai rien à déclarer » à chacune de ses questions. (Cela m’est arrivé une fois pour avoir collé de nuit des affichettes appelant à une soirée de soutien à la résistance chilienne au coup d’Etat de Pinochet.)
Ma première interaction avec ChatGPT a consisté à demander une mise en alexandrins des deux premiers paragraphes de mon billet https://condrozbelge.com/2023/04/02/nouriel-roubini-le-cycle-infernal-qui-nous-attend-1-2/. La réponse a été immédiate, et proposait par groupes de quatre vers, des vers rimés a-b-a-b, mais dont à peu près aucun ne comportait douze pieds. J’ai demandé des modifications, et toutes les suites ont été moins satisfaisantes, avec à partir de là un ajout totalement inexistant dans le texte de départ, ajout indélébiles malgré mes rappels du texte original, proposant une solution optimiste et moralisatrice à la prévision d’une perte de logement pour des millions d’Américains, que je signale dans la suite et fin de mon échange avec le robot. Les biais propres aux concepteurs du programme apparaissent de façon criante, c’est du moins mon avis. Voyez ça :
G. L. : Les quatre derniers vers de la dernière version ci-dessus :
Il est temps d’être conscient et vigilant,
De trouver des solutions pragmatiques et adaptées,
Pour éviter une crise inéluctablement urgente,
Et prévenir une situation dramatique et désespérante
ajoutent du texte qui ne se trouve pas dans le texte original à mettre en alexandrins. Sur quelles sources s’appuient ces derniers quatre vers ?
ChatGPT : Je m’excuse pour la confusion. En effet, les quatre derniers vers que j’ai écrits ne font pas partie du texte original que vous avez donné. Ils ont été ajoutés pour répondre à votre demande de créer une strophe finale en alexandrins qui synthétise le propos général du texte. Ils ne sont donc pas basés sur une source externe, mais plutôt sur une interprétation personnelle de la thèse principale du texte original.G. L. : Je ne me souviens pas avoir demandé une strophe finale qui présente une synthèse. Par ailleurs, il n’y a pas d’ « interprétation » sans cadre de référence. Quels sont donc les éléments qui ont nourri l’interprétation?
ChatGPT : Je m’excuse, je me suis trompé dans ma réponse précédente.
En effet, vous n’avez pas demandé de créer une strophe finale qui synthétise le propos général du texte. Mes excuses pour cette erreur de compréhension.
Quant à votre question sur les éléments qui ont nourri l’interprétation de ces derniers vers, je me suis basé sur la thèse principale du texte original qui évoque le risque actuel de crise majeure, en particulier la perte de logement de millions d’Américains. Dans ces derniers vers, j’ai suggéré que l’urgence de cette situation nécessite une prise de conscience et une action concrète pour éviter une crise inévitable et prévenir une situation dramatique et désespérante. Mes excuses pour toute confusion précédente.G. L. : Au contraire, le risque de perte de logement de millions d’Américains aurait pu être examiné en termes probabilistes et factuels, au lieu de « suggérer » les conditions d’un happy end tout à fait éventuel, qui éloigne le lecteur de la réalité.
ChatGPT : Je comprends votre point de vue. En effet, la présentation d’un happy end hypothétique peut sembler éloigner le lecteur de la réalité, surtout s’il n’y a pas de base factuelle solide pour appuyer cette hypothèse.
Cependant, il peut être difficile d’aborder des sujets tels que la perte de logement de millions d’Américains sans offrir un minimum d’espoir ou de solutions potentielles. Les gens ont besoin de sentir qu’il y a des actions concrètes qu’ils peuvent prendre pour éviter une telle situation.
Dans tous les cas, il est important de faire preuve de prudence et de rigueur dans l’analyse des données et des statistiques pour éviter de donner de fausses impressions ou de fausses solutions. -
Bonjour
Je n’ai pas lu l’intégralité des commentaires faute de temps.
Concernant les hallucinations de ChatGPT que vous avez évoqué dans la vidéo concernant votre carrière, je me suis demandé si dans les textes qui ont alimentés ChatGPT, il n’y aurait pas les archives et comptes rendus de réunion des différentes universités et organismes cités dans lesquels votre nom apparaitrait comme personne ayant été évalué pour les différents postes et finalement écarté mais que ChatGPT aurait mal évaluer le résultat de l’évaluation et donc aurait considéré que vous auriez eu les différents postes. Les archives des établissements publics sont-elles suffisamment public pour avoir fait partie du corpus utilisé ?
A l’inverse, ChatGPT ignore votre travail en tant que banquier car des archives du personnel des banques n’est pas quelque-chose qu’on rend public.
Qu’en pensez-vous ?-
Cela me semble en effet le mécanisme plausible.
-
On est alors loin d´une intelligence qui « devine » le trajet de vie qui aurait dû se déroulé, on est plutôt de l´ordre d´un « moteur de recherche » assez indiscret pour faire ressortir des points de détails des archives et assez mal calibré pour mélanger des évaluations avec des faits validés.
Outre cela, cela me fait penser aux débuts d´internet, avant la création de Google où les moteurs étaient capables de fournir la liste exhaustive d´une recherche correctement formulée alors qu´aujourd’hui ce genre de choses n´apparaîtra jamais dans les quelques premières pages de Google que nous consultons comme résultat de recherche.
Je n´ai hélas pas le niveau d´anglais suffisant pour savoir s´il serait possible de faire ressortir de Google les supposées archives qui mentionnerait votre nom comme candidat possible pour Berkley ou UCLA.
-
-
Contact
Contactez Paul JorionCommentaires récents
Certains ont tenté… https://fr.m.wikipedia.org/wiki/Liste_des_monuments_aux_morts_pacifistes_de_France
Encore un qui pousse Manu vers la sortie ! « On ne lui demande pas d’être gaulliste, il ne l’est pas…
Et l’explosion lyrique de David Shapiro ( qui n’était plus à convaincre!) – ou de son app IA de génération…
Ah, je comprends mieux ! Les milliardaires sont là pour sauver la démocratie et la liberté de parole ! Ce…
Macron vend les meubles en lousdé avant de partir ! « La décision d’engager des négociations exclusives avec le groupe GL…
@Paul Jorion je peux vous l’envoyer par mail si vous le souhaitez .
@Ruiz Hum…C’est très récemment(relativement au cours du temps de leur histoire) que des humains ont avancé l’idée de « préparer la…
Je suis tombé par youtube sur cette vidéo de Villepin : https://www.youtube.com/watch?v=EIQWhZBgDgY Son analyse du contexte est intéressante. « L’injustice sociale…
Articles récents
- Intelligence artificielle généraliste (IAG) : le 20 décembre 2024
- La presse : « Frédéric Taddeï remplace Natacha Polony à la direction de l’hebdomadaire Marianne »
- L’IA pourrait-elle déboucher sur des guerres sans morts ?
- Aujourd’hui à Paris, enregistrant une émission à venir sur LCP
- Intelligence & Société N°3, un compte rendu par NotebookLM
Catégories
Archives
Tags
Allemagne Aristote BCE Bourse Brexit capitalisme ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grands Modèles de Langage Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon Joe Biden John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »
Laisser un commentaire