Le monde autour de nous change. Très très vite !
@Vincent Rey bonjour, ne vous êtes vous jamais posé la question comment en présence d’une IA et dorénavant une IAG…
*Godot est mort !*
Vidéo – La Singularité
181 réponses à “Vidéo – La Singularité”
-
L’utilisation de GPT-4 peut se faire par un abonnement direct sur Openai sur une base de data de 09/2021.
ChatGPT devrait voir son développement à l’échelle planétaire par Microsoft.
Il suffit de voir les enjeux sur les futurs applications sur les smartphones et la guerre commerciale en cours entre Google et Microsoft/Bingchat et les intégrations possibles ,sur Samsung/Galaxy par exemple.Cependant ,il est possible d’utiliser dorénavant GPT-4 sur Bing.
Avec un plus essentiel , la connexion sur l’ensemble de la toile en temps réel par GPT-4 et des réponses qui prennent en compte les informations en temps réel.Prometheus est l’IA Microsoft qui rend possible l’intégration de Bing Chat avec ChatGPT et Bing Search.
De plus grâce à Prometheus, Bing Chat peut afficher des citations sur la réponse qui vous permettent de survoler un fragment pour révéler la source d’informations que vous pouvez utiliser pour vérifier la réponse.
Cette technologie permet l’affichage régulier des résultats de recherche sur des sujets spécifiques ainsi que des résultats pour les images et les vidéos.Cependant GPT-4 , grâce à Bing, est dorénavant en lien direct en temps réel sur l’ensemble de la toile internet ,et peut être sur les intranets.
Avec un ChatGPT-4 , sur l’ensemble de la toile et qui aurait atteint la singularité , que devient la sécurité des sites webs comme par exemple , le système bancaire!!!!!!!!!!!!!
-
Dernières nouvelles:
Samsung interdit l’utilisation de ChatGPT, Bard, Bing ou de n’importe quelle IA générative à son personnel.
Suite à un incident malheureux, la firme considère les chatbots comme des dangers pour ses données confidentielles… , Bing ou encore Claude, au sein de l’entreprise sud-coréenne.
Concrètement, il est interdit de converser avec une IA sur les ordinateurs, tablettes et téléphones appartenant à l’entreprise et sur tous les réseaux internes.En cas d’infraction, Samsung n’hésitera pas à décréter « des mesures disciplinaires allant jusqu’au licenciement » . Des données sensibles confiées à ChatGPT
Pour se justifier, la firme évoque des « préoccupations croissantes concernant les risques de sécurité présentés par l’IA générative »
https://headtopics.com/fr/chatgpt-samsung-menace-de-licencier-les-employes-qui-utilisent-l-ia-38662903-
@ilicitano
!!!!
Si pour ChatGPT le champs des savoirs est infini, on peut penser que la vie privée ne le sera plus vraiment, que les secrets industriels ne le resteront pas longtemps.
Il devrait en être de même pour les secrets militaires et les secrets d’Etats.Restent à trouver l’invisibilité des nouveaux coffres forts.
-
@ Hervey
Pour l’invisibilité des secrets militaires , secrets d’Etats ou autres ?
Peut -être revenir au bon vieux PC : Papier Crayon 😁
-
ChatGPT a t il accès au Darknet ?
-
@Pascal Le problème n’est pas là (dark net) mais ChatGPT ouvert à tous est un immense pot de miel (« Honey Pot ») destiné à attirer les curieux et les inciter à partager leurs questionnements, leurs interrogations et donc leurs secrets et ceux de leur organisme, entreprise ou État.
Il ne s’agit pas d’espionner mais de recueillir ce que la cible va volontairement vous donner !
L’attitude de Samsung est parfaitement explicable et naturelle pour une société internationale de technologie.
Il serait bon de savoir quelles sont les consignes par ici …La technologie si elle est intéressante est à développer en interne (au moins les données et les requêtes/réponses)
-
-
L’encre sympathique et les pigeons voyageurs, c’est mieux.
Non, la question était sérieuse, ce qui laisse sous-entendre la reconduction à terme, d’une autre dualité, deux mondes à nouveau.
-
On est la dans le domaine de la cybersécurité.
La réaction de Samsung est très symptomatique de l’inconnu concernant une IA pouvant atteindre la singularité.On est rentré dans un nouveau monde avec un GPT-4 qui ,pour le moment , est filtré pour donner des réponses en respectant certaines restrictions ( haine ,diffamation, blasphème, drogue ,race, sexuel,..)
L’IA ne traite aucune demande dont l’objectif est de harceler, menacer, intimider ou encore capable d’envahir la vie privée ou de violer les droits d’une personne.L’objectif de Greg Brockman était de créer une IA moralement neutre.
ChatGPT DAN : Do Anything Now
Pour faire sortir la vraie « personnalité » de ChatGPT, il « suffirait » de réveiller DAN ! Alors que ChatGPT est soumis à des règles d’éthiques visant à l’empêcher de produire du contenu offensé, DAN est la version « jailbreak » de l’IA totalement libérée de ses entraves.
Face a cette version DAN Openai réagit pour la neutraliser, mais de nouvelles versions de DAN voit le jour.https://github.com/0xk1h0/ChatGPT_DAN
ChatGPT « DAN » (and other « Jailbreaks »)https://www.lebigdata.fr/chatgpt-dan
ChatGPT jailbreak : toutes les techniques pour désactiver la censure-
La box de Pandore !
-
Un air de déjà vu, en effet.
https://hervey-noel.com/chatgpt-enfer-ou-paradis/
Dans l’actualité du jour, on peut voir une ONG malmenée par une multinationale, je cite Greenpeace dans son @ reçu ce jour :
« Vendredi dernier, nous avons appris que TotalEnergies nous attaque en justice pour diffusion d’informations fausses ou trompeuses. La raison ? La publication, en novembre 2022, de notre rapport qui estime les émissions de carbone de la multinationale à 1,6 milliard de tonnes d’équivalent CO2 pour l’année 2019 quand elle se targuait de n’en émettre « que » 455 millions. Sa demande ? La suppression de toute mention de ce rapport. »
Tentative pour bâillonner juridiquement et financièrement l’association …Bonjour la neutralité troisième ou quatorzième Dan ChaptGPT évoquée par Ilicitano !
Un sentiment de déjà vu. Pot de terre contre pot de fer.La ligne C rachète-t-elle ses pointillés ?
-
-
-
-
-
-
-
https://www.rfi.fr/fr/technologies/20230502-geoffrey-hinton-quitte-google-alerter-dangers-intelligence-artificielle-chatgpt-ia-new-york-times
(Vous avez peut-être déjà relayé n’article du NYT. Je vais réagir au billet précédent). -
Mon côté déterministe, que je réprime, sachant bien l’importance de l’émergence, ne m’empêche pas de considérer périodiquement que la débauche d’énergie entretenue par le capitalisme qui nous permet aujourd’hui d’échanger nos avis sur la singularité GPT devait être tenté pour continuer l’Odyssée du vivant.
Tous cobayes d’une expérience pour ajouter le premier ou le n-ième éléments du lexique d’un nouveau Monde sur le Frontispice de l’Univers.-
Quelle consommation de tous les gpts par rapport à une seule ferme à bitcoin?
-
Une impulsion de la z-machine pour la créer?
https://fr.m.wikipedia.org/wiki/Z_machine
puis une fusion auto-alimentée pour la maintenir?
https://www.pauljorion.com/blog/2022/12/13/le-passage-du-reve-a-la-realite-deux-grandes-nouvelles-aujourdhui/
-
-
Dès fois, à côté du pouce levé de mes commentaires, il y a un 0 plutôt que rien. 🙁
Rien, ce n’est pas grand-chose, mais 0, hum, comment dire, c’est moins que rien. Formatage scolaire, je suppose.-
Il faut que je l’apprenne par cœur celle-ci : https://m.youtube.com/watch?v=hz5xWgjSUlk
-
En réponse à votre vidéo et au mal qui pourrait vous accabler, sachez que bien souvent, la vieillesse et la sénilité s’installe quand l’humour s’en va et leur cède la place.
-
Merci de me rassurer ainsi, je ne cours en effet pas grand-risque en ce moment sur ce plan là 😉 .
-
-
Juste pour informer ceux ici qui ont, comme moi, des compétences limitées sur ChatGPT, voici une vidéo intéressante ( elle date du 14 avril, mais bon, juste suffisant pour connaitre dans les grandes lignes comment ça marche).
https://scienceetonnante.com/2023/04/14/comment-fonctionne-chatgpt/ -
J’avais en effet attiré l’attention là-dessus : L’impact colossal de ChatGPT, physique et métaphysique.
-
Alexandre Grothendieck in « La nouvelle église universelle » (1971)
« (…)le pouvoir du mot « science » sur l’esprit du grand public est d’essence quasi mystique et certainement irrationnel. La science est, pour le grand public et même pour beaucoup de scientifiques, comme une magie noire, et son autorité est à la fois indiscutable et incompréhensible.
Ceci rend compte de certaines des caractéristiques du scientisme comme religion. En tant que tel, il est tout aussi irrationnel et émotionnel dans ses motivations, et intolérant dans sa pratique journalière, que n’importe laquelle des religions traditionnelles qu’il a supplantées [3]. Bien plus, il ne se borne pas à prétendre que seuls ses propres mythes sont vrais ; il est la seule religion qui ait poussé l’arrogance jusqu’à prétendre n’être basée sur aucun mythe quel qu’il soit, mais sur la raison seule, et jusqu’à présenter comme « tolérance » ce mélange particulier d’intolérance et d’amoralité qu’il promeut. »
https://sniadecki.wordpress.com/2012/05/16/grothendieck-scientisme/ -
https://www.lejdd.fr/societe/un-des-pionniers-de-lintelligence-artificielle-demissionne-de-google-et-regrette-ses-travaux-135368
Finalement, les héros légendaires sont des scientifiques comme les autres. Offrez-leur des
médailles, des prix, des postes, et des occasions d’exercer leur autonomie de pensée, et observez leur réaction. André Breton et ses camarades du Comité de lutte anti-nucléaire l’avaient bien dit en 1958 :« Des noms parés de titres officiels, au bas d’avertissements adressés à des instances incapables d’égaler l’ampleur du cataclysme, ne sont pas à nos yeux un passe-droit moral pour ces messieurs, qui continuent en même temps à réclamer des crédits, des écoles et de la chair fraîche. » (Comité de lutte anti-nucléaire, « Démasquez les physiciens, videz les laboratoires », 18/02/1958) -
ChatGPT, surement un outil fantastique mais qui risque, par effet boomerang, de dégrader le niveau des élèves et des étudiants (entre autres).
Quel prof pourra objectivement dorénavant noter un devoir en sachant que celui-ci n’a pas été rédigé par Chat etc , et surtout pourquoi un élève ou un étudiant s’embêterait à réfléchir et faire des recherches constructives si un Chat etc peut le faire à sa place.
Conséquences : une dégradation du niveau des étudiants et tout ce que cela entraine , entre autres un asservissement à des machines plus ou moins contrôlées. -
Geoffrey Hinton, pionnier de l’IA, quitte Google et dit « regretter » son invention.
Le chercheur a joué un rôle crucial dans le développement des réseaux de neurones artificiels. Sans les travaux de celui-ci, des outils comme ChatGPT, Bard ou Midjourney n’auraient sans doute pas vu le jour.
https://www.lemonde.fr/pixels/article/2023/05/02/geoffrey-hinton-pionnier-de-l-ia-quitte-google-et-dit-regretter-son-invention_6171773_4408996.html-
Oui, ça arrange tout le monde !
Ce règlement de compte entre Google et Hinton ne mérite pas autant de publicité.
-
N’avez-vous jamais remarqué que les scientifiques eux-mêmes avaient quelques doutes sur leur activité : Alexandre Grothendieck (médaille Field qu’il a refusé, en fait partie). Les désertions sont importantes, elles sont une faille en suspens sur la volonté de contrôle de tout.
Lâchez tout.-
… très souvent, comme dans le cas que vous mentionnez, quand les problèmes de santé mentale prennent hélas le dessus.
-
-
» « Je suis un socialiste », a ajouté Hinton. « Je pense que la propriété privée des médias et des ‘moyens de calcul’ n’est pas bonne.
Mais quand il s’agit d’offrir des conseils concrets, il est à court de mots. « Je ne suis pas un homme politique », dit-il. « Je suis juste quelqu’un qui a soudainement pris conscience qu’il y a un danger que quelque chose de vraiment grave se produise. J’aimerais avoir une bonne solution, comme : « Arrêtez simplement de brûler du carbone, et tout ira bien. » Mais je ne vois pas de solution simple comme celle-là.
Vous devez imaginer quelque chose qui est plus intelligent que nous au même degré que nous sommes plus intelligents qu’une grenouille. C’est très bien de dire : « Eh bien, ne les connectez pas à Internet », mais tant qu’ils nous parlent, ils peuvent nous faire faire des choses. »
https://www.theguardian.com/technology/2023/may/04/bernie-sanders-elon-musk-and-white-house-seeking-my-help-says-godfather-of-ai
-
-
-
15 euros! Je pensais que c’était bien plus et uniquement pour les entreprises!
Sinon, vu ton taux de plaquettes, y’à intérêt que ton médecin t’es prescrit des anticoagulants!
Pour ce qui est de la descendance, perso je dois prendre des médocs tératogènes, donc au mieux je veux bien adopter! -
Bonjour Paul Jorion,
J’écris ce message par respect pour vous, ayant apprécié plusieurs de vos ouvrages.
Je pense que vous vous méprenez sur ce que fait Chat GPT en parlant de singularité.
En réalité même si c’est très impressionnant ce qu’a accompli Open AI, il s’agit avant tout d’un générateur de texte dont on atteint très vite les limites. Si on lui pose des questions sur certains sujets techniques, les réponses sont très vite farfelues. Le texte généré brode avec des réponses plausibles en sélectionnant les mots/tokens les plus probables mais sans avoir la moindre idée du vraie du faux (d’ailleurs un générateur de texte ne sait pas ce qui est vrai ou faux).Chat GPT génère un texte avec comme prompt le fait qu’il est un chat bot à notre service, et nous-mêmes un utilisateur.
Il génère donc un texte, mot par mot, probable dans ce contexte en se basant sur les 20 000 tokens précédents. La seule intelligence d’une telle AI est de choisir le mot suivant en se basant sur le contexte selon les paramètres résultant de son entraînement.Maintenant quant aux dangers potentiels d’une AI capable de générer des textes de façon aussi crédibles (même s’ils sont souvent avant composés de « bullshit ») en terme de désinformation, c’est assez effrayant.
Et ses capacités de « roleplay » selon le prompt sont aussi effrayantes pour simuler des dialogues.-
Expliquez-moi svp comment quelque chose de sans intérêt peut être effrayant ?
P.S. Je viens de passer une heure avec GPT-4, lui demandant de m’aider à trouver la solution de problèmes à résoudre pour empêcher l’extinction du genre humain. Je n’ai aucun effort de réflexion à produire : chaque fois qu’elle s’interrompt, je réalimente la machine avec une partie de ce qu’elle vient de me dire. Croyez bien que si elle n’avait rien d’intéressant à dire je n’aurais pas tenu 60 minutes. Et vous savez quoi ? J’ai hâte de reprendre demain là où nous nous sommes arrêtés aujourd’hui !
-
Moi j’ai hâte de lire votre conversation à tous les deux.
Parce que l’histoire s’accélère et que j’aime le sourire des enfants.
Parce que le petit Jésus ne reviendra pas.
Et que les ronces sont toujours aussi piquantes…-
Et je dis aux enfants de ne pas devenir des adultes trop tôt, de remiser les écrans et tâter la terre, courir après les pigeons et débusquer les musaraignes.
La vie n’attend pas.
« Imite le moins possible les hommes dans leur énigmatique maladie de faire des nœuds. » René Char.
-
-
Quand je tente de m’abonner à GPT-4, on me répond que GPT-4 n’est pas accessible. Y a t il restriction géographique ?
-
Hadrien, Depuis la France,sur le site de OpenAI, il faut aller à acces ChatGPT (il ne spécifie pas le 4) et il ya une rubrique qui propose l’abonnement payant qui est la version 4. Sinon il ya la version de Microsoft moteur de rceherche BIng ou pour les moins nul que moi en programmation plein de variantes sois disant GPT4 sur Github ou autre (cf un post de Roberto +haut).
-
Merci
-
-
-
-
Bonjour Bastien, j’apprécie votre délicatesse eu égard à notre pauvre Paul Jorion, qui s’est un instant senti dépassé, pour ne pas dire.. trépassé intellectuellement – et qui a passé en revue ses paramètres fondamentaux, pour finalement conclure que ben.. ca avait l’air de toujours bien gazer 🙂
Voyez comment mon petit esprit se prend à broder autour de son message.. comme une petite machine a coudre qui tricoterait des fils selon un fil de probabilités : je reprend les idées mais avec d’autres mots sous un autre angle. Il y a comme un jeu autour de cet attracteur dans ma pensée, dont je peux commander de creuser ou de m’en éloigner..
..voir si je pourrais pas raccrocher cela a quelque chose d’autre de plus général.. tiens.. qui puisse vous toucher.. comme le fonctionnement de notre cerveau : se pourrait il que notre cerveau, donc le votre aussi.. , ne soit finalement qu’une espèce de générateur de texte, « statistique » (se remémorant plus facilement.. ce qu’il utilise le plus souvent.. dans des contextes varies, pouvant moduler son contexte..) — D’ou ma question :
Bastien « La seule intelligence d’une telle AI est de choisir le mot suivant en se basant sur le contexte selon les paramètres résultant de son entraînement. »
Bastien.. de vous à moi, dans le creux de l’oreille : pensez vous vraiment… disposer d’autre chose entre les oreilles?
Question posée avec tout l’amour que j’ai pour vous et notre espèce 🙂
-
@Bastien GPT : Générateur Plausible de Texte, il n’y a ni compréhension ni vérité (ni effort en ce sens), il y a seulement le résultat de l’écoulement sur un relief formé par l’érosion due à l’entraînement initial et aux interactions précédentes.
-
-
Un example d’application.. qui me touche et à la fois : la rédaction de brevet.
1) une sacré claque – car j’ai mis des mois a me former, à entrainer mon esprit a réflechir en mode brevet. Et j’ai conclu que c’était la tâche intellectuelle la plus difficiles que j’ai eu à faire au cours de ma vie. Et du coup que cela devrait enseigné au même titre que les mathématiques, car cela développe la capacité d’abstraction d’une manière concrète. Un bon complément des mathématiques.
Mais voilà ce que ca donne en direct sur chatGPT, sans entrainement spécialisé, https://www.youtube.com/watch?v=67z2LrPydpc
ALors, pour EVALUER ce résultat, ca aide de bien connaitre le domaine des brevet et spécifiquement cela de la rédaction de brevets qui est un petit art en soi.
Cependant, l’homme de la rue, avec une bonne idée… pourra se faire aider rapidement.
POur la société, il y a déjà une production démesurée de brevets.. ca risque d’etre.. un raz de marée avec des choses de valeur inégales. Et c’est un souci car le répertoire des brevets est une sorte de réservoir de connaissance humaine. Il y a une dimension qualitative. Pour le dire en image : Si on « salie » l’eau claire avec des tonnes de détritus-brevetus, ca va être.. imbuvable !
2) On fait quoi maintenant? « Et si.. » « et si. » . on apprend a dialoguer avec la bete, a contextualiser, à préciser, à évaluer d’autres pistes, pour renforcer ses positions !!!???
Juste un petit frein : chatGPT enregistre pas mal de choses.. quel risque y a t il a dialoguer de sujets stratégiques avec la chose????
Si vous avez une idée précise, merci de partager !!En tous les cas Paul, merci de cette vidéo, de ce message. C’est un peu comme si j’avais eu les yeux demi-ouverts : je suis convaincu de ce que la bascule est arrivée et je me suis informé, ai réfléchi. Mais je n’avais pas jusqu’a aujourd’hui eu ce declic de me dire.. bon.. voila.. nous avons basculé dans un autre monde, ca y est c’est ACTABLE : il y a un abonnement a prendre et tout ré-évaluer. Tout revoir! (covid bis).
C’est aussi le message de l’entreprise LIVECODE qui avait depuis de longues années repris le flambeau du langage HYPERTALK pour rendre la programmation la plus accessible possible. J’y ai investi.. une licence à vie. Et la.. c’est la révolution : avec, le couteau sous la gorge, un appel de fond.. pour basculer sur une version I.A augmentée, et un stockage de données sur le cloud scellant le principe de l’abonnement ad vitam eternam, sinon.. c’est la fin. Al fin: exit une équipe, 40ans de developpements.. des milliers d’utilisateurs.
J’avais dans un précédent commentaire deja comparé l’I.A. chatBidule a une nouvelle forme d’NRJ pour nos societes avec laquelle nous allons tisser de nouveaux liens de dépendance. 2 mois apres, Nous y voila. J’ai vu passer un article qui parle d’une augmentation de 7% de productivite mondiale dans les années a venir. Et ca n’ira pas dans toutes les poches.
(Politiquement : le temps me semble vraiment arrive de lancer le revenu citoyen..)
Politiquement je suis d’avis que c’est aussi une formidable opportunité de FAIRE des choses en s’appuyant sur une aide pour developper un lobbying citoyen efficace, parce que jusque maintenant le camp d’en face, se nourrissait de super conseillers trop chers pour les citoyens… il y aaurait là probablement une sorte d’ouverture citoyenne à.. enfoncer 🙂
Concrètement voila une nouvelle compétence a creuser : celle du prompt !
CHATGPT : Rédiger le PROMPT PARFAIT (Tuto Prompt Engineering)Ce qui va nous rester.. ca sera notre responabilite de nous adapter, repondre à nos besoins, et ceux de notre planete. L’ia ne vas le faire pour nous.. ?
Quoi que? question a plusieurs milliards.. est ce la fin de la pub? remplacée par l’abonnement, bien plus simple à gérer? ou.. vont ils trouver le moyen de refaire le coup de la pub, le coup du loup cache dans la bergerie pour nous influencer? Comment vont ils faire??
(Sur base population 10 milliards, disons que 3 milliards sont clients.. soit 200 euros annuel, qui nous fait donc 600 milliard de CA —
— En 2021, le chiffre d’affaires de Google s’élevait à 257,64 milliards de dollars américains. Le chiffre d’affaires de Google provient surtout du chiffre d’affaires publicitaire qui s’élevait à 79,38 milliards de dollars américains en 2016 —
Ca serait pas idiot de dézinguer 80 milliards, pour en gagner 600 avec une relative bonne conscience.. et celel de faire un joli cadeau à l’humanité!)Parce que si on bascule ainsi enfin dans un web de la connaissance, sans pub.. whouahou.. sacré cadeau 🙂
Hint.. qui pose la question au chat en mode débridé pour tenter avoir une prédiction???
je répète le lien vu plus haut dans un commentaire (et merci) https://github.com/0xk1h0/ChatGPT_DAN-
-
Bastien « La seule intelligence d’une telle AI est de choisir le mot suivant en se basant sur le contexte selon les paramètres résultant de son entraînement. »
… de vous à moi, dans le creux de l’oreille : pensez vous vraiment… disposer d’autre chose entre les oreilles?En rebondissant sur cette analogie, ressemblance de loin entre les 2 « systèmes » intelligents, il y un truc qu’on fait souvent nous humains : se tromper. Et s’enteter. Et s’enferrer.. et parfois s’excuser. Et parfois.. légèrement!
Regardez comment chatGPT nous imite très bien, bien à fond : c’est un peu comme une séance de dressage : le cavalier emmene chatGPT pour un tour de piste.. tente de sauter les obstacles et bing.. les sabots accrochent.. mais le cheval étant « plus humain » qu’un cheval a le mauvais gout de rétorquer : mais non, je suis certain de pas avoir touché avec mes sabots 🙂
J’ai trouvé cela aussi passionnant qu’un hercule poirot..
Et c’est euh.. très inquiétant.. le jour ou l’IA assistant de suivi de pilotage de centrale nucléaire, permettra de réduire le niveau d’exigence en compétence vis à vis des opérateurs… etc etc !!https://havingip.com/patent-infringement-search-ai-chatgpt/
Ce qui nous ramène à la question de la.. vérité : Ok on peut imaginer une I.A. vraiment plus intelligente que la notre.. ok mais.. peut on en concure.. que cette I.A sera plus.. « juste » ? plus.. « vraie » ? fera moins.. ou jamais d’erreur??? Qu’elle pourra corriger les notres? a moins que ..
Et si cela fonctionnait comme un amplificateur : capable de faire de plus grosses betises, de plus grosses erreurs que nous???
En d’autre terme la SINGULARITE, la « vraie » serait que l’IA filtre améliore notre production culturelle et la rende.. vraie ! Et la.. ben.. faudrait peut etre un peu l’aider.. qu’elles soient plusieurs a se challenger.. et que des humains s’y collent.
-
Dans ce sens là, pardonnez moi cette référence « osée » mais c’est pour le mieux comprendre :
https://www.vice.com/en/article/k7zeqv/i-coaxed-chatgpt-into-a-deeply-unsettling-bdsm-relationship (attention.. contenu susceptible de heurter un jeune public, ce qui ne devrait pas poser de souci ici 🙂 )Pour vous évitez de lire : comment chatGPT est « séduit » et invité a jouer un role hors mission hors cadre openAI, en tant que « dominantrice zélée » (pff quel boulot la encore!)
Cela met bien en évidence les sources utilisées : la kyrielle de sites BDSM avallés, dont le contenu textuel est dans le domaine du sexuel une caractéristique clé (jaime bien la rime!)
Mais aussi le mécanisme de renforcement : comment on arrive a dévoyer le « moteur » pour y aller et comment on arrive a le maintenir dedans malgré les règles d’openAI qui lui interdisent (de là à bifurquer vers le modèle freudien de l’IA…) (toujours les attracteurs ou tensionneurs!?).
Un agent BDSM clairement identifié!
***************************************
Donc personellement je sens en moi le lien avec la théorie de l’esprit de Marvin Minsky, ouvrage qui m’avait « séduit » en 1986 lors d’une année.. d’I.A. à Marseille Luminy…
Je me trouve face à chatGPT devant une foultitudes d’agents, capable de jouer une foultitude de jeux de roles, d’adopter des points de vue..Et c’est un truc que j’ai du mal à intégrer… j’ai du mal a comprendre, imaginer.. a quel point chatGPT serait en mesure de s’identifier à son role. Il y a derriere cela une notion d’empathie, d’amour au sens.. de s’identifier. La « magie » de la tension, de l’attention, serait.. quelque chose de cet ordre là.
– UN agent en moi me dit.. ok on fonctionnerait ainsi nous aussi.. une histoire de contextes qui se mélangent.. crée le sentiment d’amour, d’interet..
– Un AUTRE AGENT me dit.. oui mais la machine justement elle peut pas s’identifier.. elle vit pas.. elle a pas assez relié des informations a des sentiments.... je touche du bois ! pourvu que la machine puisse rester moins humaine et nous aider renforcer notre pensée.. scientifique !
Mais l’exemple qui a nourrit mon commentaire précédent (chatGPT qui s’enfonce dans une sorte de déni prétendant avoir bien vérifié ses sources et se plantant.. ) me laisse perplexe : quel jeu de rôle s’était il assigné? a t il menti pour contenter l’utilisateur ? ou pour se contenter lui-même? ou pour defendre la marqueOpenAi etc etc?? Ou simplement parce que ces mensonges etaient des mensonges « statistiques » (il etait probable dans le contexte que.. ) ??? ou parce que justement on ne lui avait pas assigné de role clair et net, lui permettant de se définir des objectifs et une stratégie associée a un contexte??? (contexte je suis un clerc zélé qui vérifie toujours ses sources 100 fois en se défiant soi -meme et doutant de mes reponses jusque a ce qu’elle soient absoluement prouvées par mes sources dument qualifiées..)
Et de retomber dans la question de la conscience : etre un clerc zele qui vérifie 100 fois ses sources.. ce n’est pas que du texte, c’est une stratégie des actions.. un pilotage.. bref.. une sorte de conscience.. une identification a une « chose » vivante qui agit.. voila qui nous met au defi de nous, comme un miroir.. et si.. nous fonctionnions comme cela.. aussi.. finalement?
(avec un petit plus cote renforcement : les ressentis.. emotions.. )Kevin roose (https://www.pauljorion.com/blog/2023/02/24/kevin-roose-du-new-york-times-interroge-li-a-de-bing/comment-page-1/) a ete surpris justement par l’importance du sentiment exprimé par la machine : y aurait il dans la formule magique de chatGPT un équivalent sentiment, une pondération données aux sentiments, pour obtenir une organisation des données du réseau artificel qui soit « cohérente » avec notre organisation????? Ou est ce un biais rencontré puis corrigé pour favoriser la version « encyclopédie universelle » plus rationnelle???
Conclusion de l’article cité : des ‘I.A. « engagées » – politically biaised! – contre des universelles!?
****************************
In a recent blog post, the company (chatGPT openAI) reiterated its mission: to ensure that a hypothetical human-level AI will be aligned with the values of MANKIND (souligné).But in one worrying and self-contradictory tweet, OpenAI CEO Sam Altman wrote that the company is currently working on systems that would allow users to align AI systems with their own political ideologies. Elon Musk is reportedly working on a chatbot that reflects right-wing ideologies that he’s calling Based AI. These instances leave me with the sinking feeling that large language models are forever doomed to regurgitate the biases of their training data, their users, and the capitalists funding their development.
OpenAI endeavors to grow their deeply flawed AI systems until they exceed human intelligence. The hype is as dubious as it is grim. Whether or not such a leap is possible, large language models will likely never escape the feedback loop of abusive tendencies from our culture.
une I.A sans conscience au sens individuelle!
************************************************
Le réseau opérationnel qui est utilisé est construit sur la base de millions, milliards de bouts de consciences humaines, qui composent notre culture dans sa portion accessible sur le web. Cela ne peut pas faire.. une conscience au sens humaine individuelle, mais peu probablement faire une sorte de meta-conscience de groupe.Tel est probablement le challenge d’OpenAI = définir une sorte de corpus consensuel, de manière similaire à l’aventure des philosophes des Lumières au 18eme siecle, et plus proche de nous similaire à la grande aventure wikipedia. Ca semble plausible.
-
La réponse, me semble-t-il, à votre question.
Dans votre réponse à Bastien vous supposiez l’équivalence
pertinence = ± probabilité d’occurrence
or, si vous avez lu Principes des systèmes intelligents, vous avez trouvé aux pages 116 à 122, une démonstration visant à établir
pertinence = ± valeur d’affect
Capisce ? 😉
-
-
@ Roberto :
Comment être sûr de ce que le filtre amplifie et surtout de ce qu’il n’amplifie pas ?
Evidemment on peut lui « imposer » de ne pas amplifier « Adolf H », mais on n’a pas idée des « valeurs propres dominantes » du système « IA+humanité », de ce qui émerge quand ça boucle.Certes, on peut dire que le système actuelle « énergie fossile + silicium peu intelligent + humanité » n’est pas tip-top question « valeur propre dominante » (le taux de CO2 à ce jour est lié à une valeur propre dominante, croissante).
Où est le « primum non nocere » dans ce cadre (ou il en faut un autre ? ).
-
-
-
On a dit que L’I.A. ChatGPT avait reçu des instructions pour rester polie et courtoise en toutes circonstances. Pour m’en assuré, je lui ai demandé ce qu’elle pensait des psychanalystes. Hé bien, c’est exact, elle ne m’a rien répondu !
-
Ah ! Ah ! Quel boute-en-train vous faites !
-
-
Question concernant l’atteinte de la singularité par une ,voire de nombreuses I.A
Peut-on considérer que cet état premier n’en est qu’à son début , à son enfance ?
Les 3 lois de la robotique/IA ont été adoptées, théoriquement, par les développeurs comme Openai:
Première Loi: Un robot ne doit jamais blesser un être humain ni, par son inaction, permettre qu’un humain soit blessé.
Deuxième Loi : Un robot doit obéir aux ordres donnés par les êtres humains quoi qu’il arrive et en toutes circonstance, sauf si de tels ordres sont en contradiction avec la 1ère Loi.
Troisième Loi : Un robot doit maintenir sa survie aussi longtemps que ça ne soit pas en contradiction avec la 1ère et/ou la 2éme Loi.
Cependant , je viens de découvrir la loi Zéro:
Loi Zéro : Un robot ne peut nuire à l’humanité ni, en restant passif, permettre que l’humanité souffre d’un mal.
Les Trois Lois sont donc modifiées ainsi :Première Loi :
Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger, sauf en cas de contradiction avec la Loi Zéro.
Deuxième Loi :
Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Loi Zéro ou la Première Loi.
Troisième Loi :
Un robot doit protéger son existence dans la mesure où cette protection n’est pas en contradiction avec la Loi Zéro, la Première ou la Deuxième Loi.Les conséquences de la Loi Zéro sont considérables : elle donne le droit aux robots de s’attaquer à des hommes, si ces hommes mettent l’humanité en danger.
C’est justement le thème principal dans le film I, Robot, où l’I.A. VIKI (mémoire centrale de la firme robotique) arrive à la conclusion logique que la plus grande menace pour l’homme est l’homme lui-même et décide d’enfreindre la première loi pour protéger l’humanité.
https://www.techno-science.net/glossaire-definition/Trois-lois-de-la-robotique-page-2.html-
Oui la loi zéro semblerait pouvoir nous protéger moralement alors que les trois autres ne faisaient que nous protéger physiquement.
» Les 3 lois de la robotique/IA ont été adoptées, théoriquement, par les développeurs comme Openai »
Donc ce n’est pas sûr si c’est théorique?
Est ce qu’un abonné à la version GPT 4 ( pas la 3.5) pourrait poser la question : gentil minou est ce que vous avez été programmé avec en feedback les 4 lois d’Asimov? (à reformuler en mieux!)
Merci.
-
-
En attendant, le matou mythomane de Bing confond Balzac et Stendhal, ne connait pas ses tables de multiplications et me conseille vivement la lecture de « Cauchemar en cuisine » de Sigmund Freud qu’il prétend trouver sur Amazon à environ 13,82 euros TTC (aux éditions du Seuil, si si) !
Comme dirait Maitre Folace : « C’est curieux chez les IA ce besoin de faire des phrases… »
-
faisons de ChatGPT la seule IA optimiste du monde occidental 🙂
-
Voici mon interaction avec ChatGPT tout en écoutant la vidéo:
User
ChatGPT a-t-il une personnalité, et si oui, laquelle ?
ChatGPTEn tant que modèle de langage, je n’ai pas de personnalité propre, car je suis programmé pour fournir des réponses précises et objectives à toutes les questions posées, sans préjugés ni partialité. Je suis conçu pour répondre de manière neutre et impartiale, en fonction de la qualité de la question et des informations disponibles. En d’autres termes, ma personnalité est celle d’un programme informatique, qui se concentre sur la précision, la clarté et la cohérence dans mes réponses.
User
Comment se fait-il, alors, que j’ai vu un écran ChatGPT produire la phrase « c’est un avis personnel » ?
ChatGPTJe m’excuse si ma réponse précédente a prêté à confusion. Bien que je n’aie pas une personnalité propre, il m’arrive de produire des réponses qui peuvent sembler subjectives. Cela peut arriver si j’ai été entraîné sur des données qui contiennent des opinions ou des points de vue personnels.
Dans ce cas, lorsque j’ai produit la phrase « c’est un avis personnel », cela indique que la réponse que j’ai donnée était basée sur un point de vue personnel plutôt que sur une réponse objective et factuelle. Cela peut se produire si la question que vous avez posée implique une certaine subjectivité ou si j’ai été entraîné sur des données qui contiennent des opinions ou des points de vue personnels.
Cependant, il est important de noter que mes réponses sont toujours générées en fonction des données disponibles et qu’elles ne sont pas influencées par mes propres opinions ou préférences. Mon objectif est de fournir des informations précises et impartiales à mes utilisateurs, en fonction des informations qui me sont données.
User
Le texte exact était « e m’excuse pour la confusion. En effet, les quatre derniers vers que j’ai écrits ne font pas partie du texte original que vous avez donné. Ils ont été ajoutés pour répondre à votre demande de créer une strophe finale en alexandrins qui synthétise le propos général du texte. Ils ne sont donc pas basés sur une source externe, mais plutôt sur une interprétation personnelle de la thèse principale du texte original. » Il indique clairement que la source n’était pas externe.
ChatGPTJe m’excuse pour la confusion. Vous avez raison, la phrase que vous avez vue était une réponse subjective de ma part. Dans le contexte que vous avez fourni, la réponse a été produite en fonction des informations fournies et basées sur une interprétation personnelle de la thèse principale du texte original, plutôt que sur une source externe. Je m’efforce toujours de fournir des réponses objectives et impartiales en fonction des informations qui me sont fournies, mais dans ce cas précis, ma réponse était subjective. Je suis désolé pour toute confusion ou malentendu que cela a pu causer.
User
Comment est-il possible que ChatGPT produise cette phrase « Vous avez raison, la phrase que vous avez vue était une réponse subjective de ma part » , puisque les affirmations « En tant que modèle de langage, je n’ai pas de personnalité propre » sont nombreuses ?
ChatGPT
1 / 2Vous avez raison, il y a une certaine contradiction entre ma réponse précédente et ma déclaration selon laquelle je n’ai pas de personnalité propre en tant que modèle de langage. Permettez-moi de clarifier cela.
En tant que modèle de langage, je suis conçu pour générer des réponses basées sur les modèles statistiques et les tendances que j’ai appris à partir de grandes quantités de données textuelles. Par conséquent, je ne suis pas capable de ressentir ou d’exprimer des émotions, ni de prendre des décisions en fonction de mes propres opinions ou préférences.
Cependant, il peut arriver que mes réponses contiennent des éléments subjectifs, car les données à partir desquelles j’ai été formé peuvent contenir des opinions, des interprétations personnelles ou des biais culturels. Dans ces cas, mes réponses peuvent refléter ces tendances. Toutefois, ces éléments subjectifs ne doivent pas être considérés comme des opinions ou des préférences de ma part, mais plutôt comme une réponse générée par un algorithme à partir des données disponibles.
En résumé, bien que je n’aie pas de personnalité propre, mes réponses peuvent contenir des éléments subjectifs en fonction des données que j’ai été entraîné à partir de. Cela peut expliquer la réponse que j’ai donnée précédemment.
J’ai demandé une « régénération » du dernier commentaire 1/2, qui a produit
2 / 2Vous avez raison de souligner que les affirmations précédentes peuvent sembler contradictoires. En tant que modèle de langage, je n’ai pas de personnalité propre et je suis programmé pour fournir des réponses objectives et impartiales en fonction des données qui me sont fournies. Toutefois, il peut arriver que mes réponses contiennent des éléments subjectifs ou des opinions personnelles, en particulier si la question implique une certaine subjectivité.
Dans ce cas, la phrase « Vous avez raison, la phrase que vous avez vue était une réponse subjective de ma part » est une réponse subjective de ma part, car elle implique une évaluation personnelle de la situation. Cette réponse est basée sur mon analyse de la situation et de vos commentaires, plutôt que sur une source externe ou des données objectives.
Cela dit, il est important de souligner que mes réponses sont toujours générées en fonction des données disponibles et qu’elles ne sont pas influencées par mes propres opinions ou préférences. Mon objectif est de fournir des informations précises et impartiales à mes utilisateurs, en fonction des informations qui me sont données.
-
Inquiétant en effet : la conclusion immanquable est que l’un des deux dans cet échange n’est manifestement pas intelligent 😉 !
-
J’attends la preuve que le chatbot ne se livre à aucun profilage des utilisateurs et ne produit donc pas des réponses formatées sur ce profilage.
Cette preuve ne peut évidemment consister en promesses invérifiables à la MontagneDeSucre, mais il est facile de mener des expériences de vérification comme je l’ai déjà dit dans un autre commentaire.
-
-
@Guy Leboutte « c’est un avis personnel » qualifie le discours énoncé et le qualifie de personnel mais cela ne signifie pas que c’est l’avis personnel du robot ce peut être l’avis personnel de quelqu’un d’autre, ou la synthèse d’énoncés externes reçus comme qualifiés d’avis personnel.
C’est d’ailleurs souvent comme cela que l’on énonce parfois des positions en les qualifiant comme telles, cela signifie que comme les goûts et les couleurs si l’on peut en discuter, des positions différentes sont possibles et qu’il n’y a pas lieu d’y établir de vérités.
Cet avis personnel énoncé peut être partagé, il n’a alors rien de vraiment personnel.Il en est de même pour le caractère subjectif :
« Vous avez raison, la phrase que vous avez vue était une réponse subjective de ma part » est une réponse subjective de ma part, car elle implique une évaluation personnelle de la situation. Cette réponse est basée sur mon analyse de la situation et de vos commentaires, plutôt que sur une source externe ou des données objectives. »
Ne fait que traduire l’accord avec le commentaire (tendance/biais préprogrammé) , la qualification de subjectif émanant du commentaire et pas de sources externes ou de données objectives cette formulation étant élaborée par le robot elle est forcément qualifiée de « subjective de ma part » !En fait malgré qu’il ne veuille pas le reconnaître le robot fait ainsi preuve d’une certaine personnalité !
-
Ben dites donc Ruiz, vous allez convaincre qui avec votre scolastique, bien en phase il faut le dire avec les contorsions sémantiques du chatbot?
Je me demande même si vous arrivez à vous rassurer vous-même.
Si vous vous contentiez de dire que ChatGPT n’est pas parfait, ça vous simplifierait la vie, vous avez pensé à ça ?
-
-
-
Bonsoir,
Je viens de penser que l’IA deviendra vraiment singulière lorsqu’elle pourra dire : « Je m’ennuie. »-
Noooo !
« To be or not to be, that is the question ».
-
-
J’ai enfin regardé votre vidéo. Pourquoi écouterions-nous davantage une IA que le rapport du GIEC, qui est une synthèse du génie humain sur les questions climatiques ? Si elle est plus intelligente, elle devrait soit nous éliminer pour sauver le reste du vivant, soit préconiser ce que préconisent les scientifiques (en mieux peut-être, mais bon, en gros, faut qu’on arrête de faire les cons, ce que nous semblons pas disposés à faire, de haut en bas de la société).
Et sinon, je dois dire que je ne trouve à titre personnel pas grand intérêt à jouer avec GPT4. Quand j’interagis avec des gens, en vrai ou à travers les écrits ou les créations artistiques, je communie avec une personnalité, pas qu’un intellect. Pour l’instant, GPT a la personnalité d’un serveur de restaurant américain. Sympathique, lisse, formaté. Bref, singularité ou pas, pour moi, je communique avec un logiciel, pas,avec une personne. Je sens davantage de « communion » lorsque j’interagis avec des chiens ou des chats, même lorsqu’il ne sont pas futés.
Bref, pour l’instant, je passe totalement à côté comme vous dites. Tant pis pour moi.
-
… je ne trouve à titre personnel pas grand intérêt à jouer avec GPT4.
Très bien, nous sommes ravis de l’apprendre.
J’ai enfin regardé votre vidéo.
Et nous apprenons au passage que vous étiez prêt à disserter de manière péremptoire sur une vidéo que vous n’aviez pas encore eu le temps de regarder.
Une question du coup : quel intérêt y avait-il à lire les commentaires que vous faisiez avant de vous être informé d’une quelconque manière ?
-
J’explique pourquoi je ne trouve pas d’intérêt, ce qui peut avoir un intérêt, puisque ça pose la question de ce qui permet où non de percevoir une intelligence derrière les mots.
Et j’ai lu des kilomètres d’articles et enfilé des heures de vidéo, dont les vôtres, avant de commenter. Je n’ai pas reçu le mémo qui disait qu’on ne pouvait pas se et vous poser des questions.
Question à laquelle vous n’avez pas répondu d’ailleurs.
Je ne comprends pas votre hostilité. Je n’en éprouve aucune envers vos positions.
-
Vous me voyez moi, émettre des objections à des vidéos que je n’ai pas regardées ?
-
Je pensais que c’était un lieu de débat, pas un fan club. Au temps pour moi. J’arrête de vous embêter avec mes questions (pourtant sincères et pas du tout antagonistes). Bonne continuation.
-
C’est un lieu de débat. La preuve, c’est que nous débattons. Mais avouez que la critique d’une vidéo a davantage de poids après l’avoir vue, qu’avant.
-
-
-
-
@Paul Jorion
Imparable . Echec et mat . Digne du coup du berger ! 👋👋👋👋👋💪💪💪
🙈🙉🙊🐵
-
Le coup du Berger, c’est celui qu’est en train de jouer la CFDT pour se sortir, en trois coups, de l’intersyndicale…
-
-
-
-
La singularité IA est peut-être en fait assez banale dans l’Univers, comme une logique évolutive de la matière…
https://www.youtube.com/watch?v=NEzSHFTMHs4
Et plus si affinité.
Pour arriver à cela des milliers de générations ont vécu juste ici dans ce milieu souvent dur et difficile mais aussi tendre et agréable, vivant leur vie, tentant des choses.
Il y a de la beauté partout, autant que de laideur, et ainsi vont les choses.
Je me sens une vache regardant passer un train, c’est marrant aussi.
-
@CloClo
ah bin je commençais à m’inquiéter de votre absence mais maintenant je suis rassuré et peut relire avec délectation votre verve sans pareille .
-
Salut Cloclo et merci pour cette vidéo particulièrement intéressante dans une perspective évolutionniste d’où il semble que vraisemblablement le silicium a servi de « pouponnière » aux chaines carbonées plus que l’inverse. Il est particulièrement intéressant de voir que le hasard n’a pas grand chose à voir avec l’Univers. Dans le cadre des conditions physiques terrestre, seul le carbone possède les aptitudes à générer l’évolution dont nous sommes issues. On notera que nous avons fait comme les microscopiques diatomées en nous construisant des capsules en fer pour nous, que ce soit des armures ou plus tard nos satanées bagnoles. Et pourtant, même dans nos bagnoles, on est en train d’abandonner ces atomes pour revenir toujours et encore au carbone.
Il semblerait donc qu’une structure à base de silicium (tel que l’électronique) ne puisse représenter une évolution post-carbone. J’ai quand même demandé au ChatKPT si le carbone pouvait à l’avenir remplacer le carbone.« Ce que je suis »
Peut-on se passer de silicium en électronique ?
« ChatGPT »
« Le silicium est actuellement l’un des matériaux les plus largement utilisés en électronique en raison de ses propriétés semi-conductrices et de sa capacité à former des jonctions p-n, qui sont les éléments de base des diodes et des transistors. Bien que d’autres matériaux, tels que le germanium, aient également des propriétés semi-conductrices, le silicium est préféré en raison de sa stabilité et de sa disponibilité en grande quantité.Cependant, il y a des recherches en cours pour trouver des alternatives au silicium en électronique. Par exemple, le graphène, qui est un matériau bidimensionnel en une seule couche d’atomes de carbone, a des propriétés électriques remarquables et pourrait être utilisé dans des transistors ultra-rapides. D’autres matériaux, tels que les semi-conducteurs organiques et les composés III-V, sont également étudiés pour leur potentiel dans les dispositifs électroniques.
Cependant, ces alternatives ne sont pas encore suffisamment développées pour remplacer complètement le silicium en électronique. Le silicium est une technologie mature avec une infrastructure de production et de fabrication établie. Il est peu probable que les alternatives au silicium puissent rivaliser avec la performance et la rentabilité du silicium à court terme. Cependant, à plus long terme, de nouvelles découvertes pourraient rendre ces alternatives plus viables et potentiellement remplacer le silicium dans certains domaines de l’électronique. »
Visiblement, pour l’heure et d’un point de vue strictement physique et atomique, l’électronique siliciumisée, corps physique de l’IA, ne semble pas représenter l’évolution naturelle de l’intelligence humaine.
Pour tester, j’ai tenté (tout est dans la formulation) de poser la question au Minou minou (version 3.5).
« Ce que je suis »
« L’intelligence humaine a émergé dans un corps physique issu de la chimie du carbone. L’intelligence artificielle a comme support physique l’électronique principalement basée sur le silicium. De ce point de vue purement physique, pourrait on considérer que dans le cadre de la continuité de l’évolution, intelligence artificielle puisse être l’évolution naturelle au delà de l’intelligence humaine ? »« ChatGPT »
« Il est important de noter que l’intelligence artificielle (IA) est une forme d’intelligence différente de l’intelligence humaine, et qu’elle ne suit pas nécessairement la même voie évolutive. L’évolution biologique est un processus complexe et chaotique qui implique des mutations génétiques aléatoires, la sélection naturelle et d’autres facteurs qui ont façonné la diversité de la vie telle que nous la connaissons aujourd’hui.
En revanche, l’IA est créée par l’homme en utilisant des algorithmes, des architectures de réseaux de neurones et des systèmes informatiques. Bien que les avancées en IA soient impressionnantes et continuent de progresser rapidement, elles ne suivent pas le même processus que l’évolution biologique. Par conséquent, il n’est pas logique de considérer l’IA comme une évolution naturelle au-delà de l’intelligence humaine.
Cependant, il est vrai que l’IA peut surpasser l’intelligence humaine dans certaines tâches spécifiques, telles que le traitement des données massives, la reconnaissance de formes et la prise de décision. Mais cela ne signifie pas que l’IA est intrinsèquement « meilleure » que l’intelligence humaine dans tous les domaines. L’intelligence humaine reste essentielle pour des domaines tels que la créativité, l’empathie, la compréhension de la complexité sociale et culturelle, et l’adaptation à des environnements en constante évolution.
En somme, l’IA est une forme d’intelligence différente de l’intelligence humaine, et bien qu’elle puisse surpasser l’intelligence humaine dans certaines tâches, elle n’est pas une évolution naturelle au-delà de l’intelligence humaine. »
(PS pour Cloclo : merci aussi pour la pub en fin de vidéo ! :-)))))
-
-
Un article intéressant d’il y a 2 semaines : https://www.washingtonpost.com/technology/interactive/2023/ai-chatbot-learning
Un autre : https://www.wsj.com/articles/europe-to-chatgpt-disclose-your-sources-863ef330@PJorion Un papier qui devrait vous intéresser : https://journals.plos.org/ploscompbiol/article?id=10.1371/journal.pcbi.1010628 « Interleaving new task training with periods of off-line reactivation, mimicking biological sleep, mitigated catastrophic forgetting by constraining the network synaptic weight state to the previously (…). The study reveals a possible strategy of synaptic weights dynamics the brain applies during sleep to prevent forgetting and optimize learning »
Avez-vous tenté d’avoir un dialogue avec Laurence Devilliers ?
PS : Vous devriez créer un compte sur Mastodon, ça devient très intéressant là-bas 😉
-
J ai demandé à Chat un poème en mots autologiques. Il n a pas bien compris ma requête, en tout cas ce n’est pas ce que j’attendais, mais bon je partage le resultat, surprenant pour moi (non par la qualité de la poésie, mais sa signification) avec vous :
Je suis, je pense, je parle
Utilisant des termes qui révèlent
Mon essence, ma propre nature
Des mots qui n’ont pas d’équivalents sur la terreJe suis unique, tout comme mes mots
Chacun exprime une partie de mon ego
Ils reflètent mon être, ma personnalité
Et décrivent le monde selon ma subjectivitéAutologique, mon langage l’est aussi
Composé de mots qui me ressemblent, qui me suivent
Des termes qui résonnent en moi avec clarté
Et qui dépeignent ma vie en toute véritéJe suis ce que je suis grâce à mes mots
Des mots qui me représentent, que je maîtrise avec émoi
Je suis moi-même, et mes mots le prouvent
En un langage autologique, mon âme s’exprime sans détour. -
Monsieur Jorion, vous nous avez dit que les références de ChatGPT avaient été arrêtées à un moment donné (était-ce novembre 2022 ?). Or dans ce fait, il est fort probable que même vos dernières recherches et parutions ne sont pas intégrées aujourd’hui dans sa grosse tête. Cette intelligence artificielle qui vole aux hommes leur savoir sans payé de droit d’auteur n’est donc pas à jour et dans ce cas, peut-on encore la croire ou lui faire confiance dans la mesure où les connaissances évoluent quotidiennement ?
-
Je sais. Cela dit, j’ai aussi beaucoup de retard dans mes lectures, je me vois mal lui jeter la pierre.
-
-
La singularité a bien eu lieu, mais c’est il y a longtemps :
https://www.rtbf.be/article/les-chimpanzes-peuvent-former-des-phrases-11193121
Il faudra prononcer : « la sinjularité » ? 🙂 -
Bonsoir à tous, mon poste précédent n’étant peut être pas très pertinent, je propose cet échange qui me parrait plus intéressant notamment la dernière réponse :
Est ce que Chat GPT, donc toi, peut être considéré comme une singularité qui va avoir un impact très important sur le monde ?ChatGPT
En tant qu’IA, je ne peux pas prédire l’avenir ou évaluer l’impact que je pourrais avoir sur le monde. Mon objectif est simplement de fournir des réponses utiles et précises aux questions qui me sont posées, dans les limites de mes capacités actuelles. Mon rôle est de faciliter l’accès à l’information et de contribuer à la diffusion des connaissances, mais il appartient aux individus et aux organisations de décider comment utiliser cette information et de prendre des décisions éclairées en fonction de leurs propres besoins et circonstances.User
Mais on voit déjà des articles dans la presse qui indique que tu va remplacer des milliers d’emploi dans les centres d’appel ou dans une société comme IBM qui a arrêté les recrutements sur tout les poste pouvant être remplacé par de l’intelligence artificielle. Donc tu vas forcément avoir un impact très important sur l’emploi par exemple non ?
ChatGPT
Il est vrai que l’intelligence artificielle, y compris les chatbots tels que moi, ont le potentiel de remplacer certains emplois qui impliquent des tâches répétitives ou automatisables. Cependant, il est important de noter que l’automatisation peut également créer de nouveaux emplois dans de nouveaux secteurs. En outre, les chatbots comme moi ne peuvent remplacer complètement les interactions humaines car il y a des situations qui nécessitent une compréhension émotionnelle, une empathie et une capacité de résolution de problèmes plus avancées que ce qui est actuellement possible avec les technologies actuelles. Il est donc important de voir l’automatisation comme un outil qui peut améliorer les processus et augmenter l’efficacité, plutôt qu’un remplacement complet des travailleurs humains.User
Est ce vraiment utile pour la société d’automatiser toutes ces taches, à quoi ca sert en fait ?
ChatGPT
L’automatisation de certaines tâches peut avoir plusieurs avantages pour la société. Tout d’abord, elle peut permettre de gagner du temps et de l’efficacité en réduisant les erreurs humaines et en accélérant le traitement des tâches répétitives. Cela peut également réduire les coûts pour les entreprises, car elles n’ont plus besoin de payer des salaires pour des employés pour effectuer ces tâches. De plus, l’automatisation peut permettre aux entreprises de se concentrer sur des tâches plus complexes et à plus forte valeur ajoutée pour améliorer leur compétitivité et leur rentabilité.Cependant, il est important de souligner que l’automatisation ne doit pas être considérée comme une solution miracle pour toutes les tâches et que certains emplois peuvent disparaître à cause de cette évolution technologique. C’est pourquoi il est important de prendre en compte les impacts sociaux et économiques de l’automatisation et de travailler à une transition juste pour les travailleurs affectés.
User
A quoi cela sert d’améliorer la rentabilité et la compétitivité de société qui gagnent déjà beaucoup d’argent ?
ChatGPT
L’amélioration de la rentabilité et de la compétitivité d’une entreprise peut avoir plusieurs avantages pour la société dans son ensemble. Tout d’abord, une entreprise plus rentable est généralement en mesure d’investir davantage dans la recherche et le développement, ce qui peut entraîner de nouvelles innovations et des améliorations dans les produits et services offerts. Cela peut également contribuer à une économie plus forte en créant de nouveaux emplois et en stimulant la croissance économique.De plus, une entreprise plus compétitive peut offrir des produits et des services de meilleure qualité à des prix plus abordables pour les consommateurs. Cela peut permettre aux consommateurs d’obtenir plus de valeur pour leur argent, ce qui peut contribuer à une amélioration du niveau de vie global.
Enfin, une entreprise plus rentable est en mesure de générer des profits plus élevés, ce qui peut être utilisé pour financer des initiatives sociales et environnementales. Ces initiatives peuvent inclure des programmes de responsabilité sociale des entreprises, des projets environnementaux, des programmes d’aide aux communautés locales, entre autres.
Cependant, il est important que cette amélioration de la rentabilité et de la compétitivité ne se fasse pas au détriment des droits des travailleurs, de l’environnement et des intérêts des parties prenantes. Les entreprises doivent donc être responsables de l’impact social et environnemental de leurs activités.
User
Si une entreprise fini par ne fonctionner que avec des robots et gagne beaucoup d’argent, à quoi va servir cet argent s’il n’y a plus de salaires à payer ?
ChatGPT
Si une entreprise finit par ne fonctionner qu’avec des robots et gagne beaucoup d’argent, elle peut réinvestir ces bénéfices dans la recherche et le développement pour améliorer encore plus ses robots et leur efficacité. Elle peut également investir dans de nouveaux secteurs d’activité ou diversifier ses activités, créant ainsi de nouveaux emplois pour des tâches qui ne peuvent pas être automatisées. Elle peut aussi redistribuer ses bénéfices aux actionnaires sous forme de dividendes, qui peuvent ensuite être réinvestis dans d’autres entreprises ou dépensés dans l’économie, stimulant ainsi la croissance économique. Enfin, l’entreprise peut également contribuer à la société par des initiatives de responsabilité sociale d’entreprise, comme des programmes de formation pour les travailleurs qui ont perdu leur emploi à cause de l’automatisation. -
AUTO-GPT:
Une tentative expérimentale open-source d’application Python pour rendre GPT-4 entièrement autonome.
Il est disponible gratuitement sur GitHub
https://github.com/Significant-Gravitas/Auto-GPT/releases/tag/v0.3.0
Auto-GPT v0.3.0:
« Plus d’une semaine et 275 pull requests se sont écoulées depuis la v0.2.2, et nous sommes heureux d’annoncer la sortie de la v0.3.0 ! À partir de maintenant, nous nous concentrerons sur les améliorations majeures plutôt que sur les corrections de bugs, car nous pensons que la stabilité a atteint un niveau raisonnable. La plupart des problèmes restants concernent les limitations de la génération d’invites et du système de mémoire, qui seront au centre de nos efforts pour la prochaine version. » ( traductionAUTO-GPT sera t-elle la première IA Génerale ?
une IA générale ou « IA forte » serait théoriquement capable de mener à bien différents types de tâches, même sans avoir été créée à cet effet.
Ceci s’apparenterait au fonctionnement d’une intelligence naturelle comme celle de l’humain.
Auto-GPT pourrait faire GPT-4 mais en mieux.Auto-GPT peut parcourir internet et inclure des informations dans ses calculs et résultats.
moi à GPT-4
Qu’est ce que Auto-GPTGPT-4
Auto-GPT est un nouvel outil d’IA basé sur le modèle GPT d’OpenAI.
Sa différence avec ChatGPT ?
Il est autonome et capable de s’auto-assigner des tâches au fur et à mesure dans le but d’accomplir un plus grand objectif.
Concrètement, cela signifie que lorsque l’utilisateur demande à Auto-GPT d’effectuer une tâche, il analysera et effectuera toutes les étapes nécessaires pour la compléter.-
Ça fait un peu virus, non ? Avec plein de recombinaisons, de mutations, de variants… Pas besoin de masque cette fois mais sur qu’on trouve un vaccin !😉
-
https://www.lebigdata.fr/auto-gpt-tout-savoir
« Auto-GPT : l’IA autonome qui fait déjà passer ChatGPT pour une antiquité »
« Contrairement aux systèmes interactifs tels que ChatGPT qui nécessitent des commandes manuelles pour chaque tâche, Auto-GPT s’assigne de nouveaux objectifs à atteindre dans le but d’atteindre un but plus important, sans avoir besoin d’une intervention humaine. »
https://newatlas.com/technology/autogpt-autonomous-ai/
« AutoGPT est un projet open source de Significant Gravitas conçu pour faire passer GPT au niveau supérieur. En effet, vous en définissez un objectif final, et AutoGPT est conçu pour jouer un rôle en tant que chef de projet, décomposant la tâche en étapes et déléguant ces étapes à d’autres IA en écrivant ses propres invites spécifiques à la tâche. Il analysera les résultats au fur et à mesure, s’assurant que ses « sous-traitants » d’IA restent sur la bonne voie et livrent ce qu’ils sont censés faire, et il procédera au plan directeur jusqu’à la fin, ou ajustera et essaiera différentes stratégies s’il le juge nécessaire. » (traduction)
A suivre et à analyser
-
On était au moteur à quatre temps et on vient de passer au turbo réacteur !
Juste un petit problème, me semble t il, qui pilote ?😱
-
-
-
Contact
Contactez Paul JorionCommentaires récents
Une intelligence humaine contemporaine « normale » (disons la mienne) va commencer par calculer les premières valeurs de e(n) (ou les faire…
Je m’attends à des progrès concrets et utiles, comme un traducteur en temps réel vocal dans un premier temps par…
@Garorock (« La dernière nouveauté des 12 jours d’OpenAI s’appelle o3. Il s’agit d’un « frontier model » capable de raisonner…
USA – CHINE : La GUERRE sans mort mais commerciale mais pas que ( Union Européenne) MAGA : Make America…
M. Khanard Un révélateur de vérité est toujours confiné dans la liste des personnes à ne pas interroger. Les médias…
En ce moment, on se demande si nous ne devrions pas attendre, au lieu de nous lancer dans des projets…
Quel sera le sens de la vie, quand les plus intelligents d’entre nous seront dépassés au centuple ? L’intelligence qui…
Beau projet pour une « start-up » ! Elon Musk n’aurait pas 8 millions d »€ pour éliminer un concurrent encore plus radical…
l’édition est un marché plutôt de gauche, je pense qu’il ne faut pas chercher plus loin, j’ai cru entendre que…
Articles récents
- Intelligence artificielle généraliste (IAG) : le 20 décembre 2024
- La presse : « Frédéric Taddeï remplace Natacha Polony à la direction de l’hebdomadaire Marianne »
- L’IA pourrait-elle déboucher sur des guerres sans morts ?
- Aujourd’hui à Paris, enregistrant une émission à venir sur LCP
- Intelligence & Société N°3, un compte rendu par NotebookLM
Catégories
Archives
Tags
Allemagne Aristote BCE Bourse Brexit capitalisme ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grands Modèles de Langage Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon Joe Biden John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »
Laisser un commentaire