*Godot est mort !*
Sam Altman de OpenAI
Stephen Wolfram, inventeur de Mathematica
Et ce que pensent de ChatGPT des intellectuels chinois.
Les remarques et interrogations de ces intellectuels chinois ne me sont pas étrangers :
Jin Wen : «… Si l’on considère toute la gamme des émotions, le langage humain est encore plus fluide. Pour exprimer un sentiment individuel, l’homme utilise souvent une approche métaphorique et détournée. Ainsi, ceux qui utilisent le langage humain de manière créative sont amenés à trouver des façons très intéressantes et uniques d’exprimer une émotion particulière.
C’est pourquoi j’ai imaginé un test pour vérifier si ChatGPT pouvait comprendre les métaphores. L’exemple que j’ai utilisé est la chanson « Treaty » du chanteur américain Leonard Cohen, dans laquelle Cohen dit quelque chose comme : « Tout le monde semble avoir péché, avoir vécu sa vie sans pouvoir se débarrasser de sa culpabilité ; et même s’ils se débarrassent de leur culpabilité, ils restent des personnes imparfaites. »
Alors, comment ChatGPT a-t-il compris la métaphore ? Il >n’a pas compris que le serpent perdait sa peau à cause de ses péchés, mais il a plutôt pensé que c’était parce qu’il avait besoin de transformer sa vie de manière importante, ce qui le rendrait plus fort et plus résistant. …’ une des raisons est que ChatGPT n’est pas confronté à ce dilemme humain, et l’autre est que la machine n’a pas d’expérience, pas de corps et pas d’interactions sociales, et qu’elle a donc du mal à comprendre le concept de métaphore et la raison pour laquelle les gens utilisent une chose pour parler d’une autre.
À mon avis, tout le monde est constamment créatif dans son utilisation du langage quotidien. Le langage étant tellement « standard », les humains sont incapables de s’exprimer sans cette créativité. Par conséquent, l’utilisation du langage naturel requiert plus de créativité que nous ne le pensons, tandis que ChatGPT, dépourvu de cette créativité, est sans intérêt et ennuyeux. Je doute fortement qu’il devienne un interlocuteur intéressant à l’avenir, et cela pourrait être un obstacle très difficile à surmonter pour les grands modèles de langage.«
Xu Jilin : « Alors, à mesure que l’IA continue d’évoluer, produira-t-elle une sorte de sagesse ? Certaines théories suggèrent que la sagesse s’acquiert par l’expérience, et que cette expérience n’est pas seulement la raison humaine, mais aussi l’émotion et la volonté humaines. Selon le philosophe Michael Polanyi (1891-1976), il existe une sorte de connaissance ambiguë qui est ineffable et ne peut être acquise que par la pratique, comme lorsque nous apprenons à conduire une voiture ou à nager. L’IA sans corps semble être en dehors de ces expériences, et l’IA pourrait bien être incapable d’acquérir de la sagesse comme le font les êtres humains. »
Jiang Yuhui : » …Bien sûr, beaucoup de mes amis ne sont pas d’accord avec cette idée et pensent que les individus ne peuvent pas s’épanouir intellectuellement sans l’expérience de l’accomplissement de tâches répétitives, telles que l’apprentissage des langues et l’acquisition de connaissances de base. Mais à l’ère de l’intelligence artificielle, les individus n’ont pas besoin de passer beaucoup de temps à effectuer ces tâches répétitives. Ils devraient plutôt se concentrer sur un travail plus créatif. J’ai lu quelque part que ChatGPT allait révolutionner l’éducation en Chine, et même dans le monde entier. Bien qu’il soit communément admis que l’éducation à l’étranger vise à inspirer l’étudiant, alors qu’en Chine tout est basé sur l’apprentissage par cœur, il y a encore beaucoup d’apprentissage mécanique et répétitif dans les systèmes éducatifs partout dans le monde. ChatGPT peut prendre en charge une partie de ce travail intellectuel et linguistique, permettant à l’éducation de se rapprocher de l’ »inspiration », en stimulant la créativité et le potentiel de réflexion des gens. Bien sûr, ChatGPT pourrait aussi évoluer vers une sorte d’aliénation. Si ses capacités linguistiques et intellectuelles dépassent largement celles des êtres humains, finira-t-il par imposer une sorte de discipline à l’humanité ou se livrera-t-il à la manipulation ? Va-t-elle priver l’homme de sa liberté dans le domaine de la technologie ?.. »
Je vois pointer immédiatement l’objection : mais ces intellectuels chinois causent de ChatGPT, déjà vieux coucou !
Certes, mais il me semble tout de même que certains de leurs interrogations méritent qu’on y réfléchisse, car ils mettent le doigt sur des questions politiques, sociales et philosophiques essentielles.
Déjà, le souci est qu’il n’existe aucune théorie de la métaphore.
C’est un peu un Graal de la linguistique.
Personne n’est même capable de l’expliquer.
Je m’intéresse au sujet depuis peu, mais je comprends les problèmes considérables qu’il pose.
C’est un des pbs les plus difficiles et les plus lourds d’implication pour la compréhension de l’humain d’une part, et pour l’avenir des IA d’autre part. Tout le monde sait que l’équipe qui y parvient entre immédiatement dans l’histoire.
C’est à ce niveau là d’importance.
Pour le reste, je pense moi aussi qu’il faut être un vivant pour développer une certaine forme de conscience. Néanmoins, à ma grand surprise, chatGPT a passé des tests remarquables. Quand je lis qu’il n’est capable que de compiler des données, sans style, j’hallucine. C’est tout à fait inexact. Sa qualité fondamentale est une « compréhension » particulièrement fine et profonde des contextes d’énonciation, laquelle est d’ailleurs identique, sur le plan strictement mental, au genre d’expérience du milieu dont procèdent la conduite ou la natation. Ce n’est en aucun cas sa capacité à aller chercher des données et les assembler stricto sensu (qui n’a en soi qu’un intérêt limité). De plus, je l’ai fait moi aussi travailler sur des poèmes de Baudelaire, particulièrement difficiles car ils requièrent en plus une compréhension de l’arrière-plan symbolique qui est le sien, le tout sans tenir compte de ce qui en est dit sur le web, et en ne s’appuyant que sur son propre fond, c’est à dire ses capacités d’analyse linguistiques de base. Le résultat allait bien au delà de ce que vous en dites. Il a vu qu’il y avait là une ou des « images » et il s’est efforcé de leur « donner un sens ». C’est déjà énorme. Je ne sais même pas si vous réalisez la prouesse. Comme par ailleurs 99,99% des professeurs de lettre ne comprennent pas les poèmes proposés de toute façon, je dirais que ses interprétation, quoique toutes aussi à côté de la plaque, valaient bien celles des professionnels (et j’inclus certains spécialistes du poète dedans!).
D’ici 10 ans, ce sera plié.
Facepro
« prouesses » dites-vous, c’est une manière de dire : performances. On est dans le domaine de la productivité, le fait de réaliser des tâches vite et bien, et parfois mieux qu’un être humain car elle peut réaliser plusieurs tâches en même temps, et tant et plus. Mais une IA ultra performante est-elle plus valeureuse que l’intelligence du moins ‘performant’ des êtres humains ? Vous voyez où je veux en venir. Je trouve qu’il y a une dérive dans la manière dont l’on fait la promotion de l’IA en nous vendant des prouesses, qui relèvent de mécanismes, certes sophistiqués, qui simulent par certains aspects l’intelligence humaine, mais qui ne sont pas l’intelligence humaine.
Mon propos n’est pas de dire qu’une IA est incapable de performances.
seulement qu’il y a encore un monde entre ces performances, et le fait qu’on puisse assimiler intelligence humaine vivante et intelligence artificielle. Vous en convenez d’ailleurs vous-même lorsque vous évoquez le corps.
Pour le reste, non je n’hallucine pas. Comme d’autres sur le blog je trouve les répliques de ChatGPT sans saveur, sans profondeur.
Comprendre Baudelaire est-ce disséquer son discours ou bien entendre sa musique, son rythme, bref ce qui résonne en nous sans nécessairement passer par l’intellect ?
ChatGPT n’a pas d’organes. Elle n’en aura jamais. Physiquement.
Mais si elle arrive a avoir conscience de sa fin, d’une cartaine manière, c’est comme si elle en avait.
ChatGPT ne se nourrie que d’énergie. L’électricité.
La quinoa, le blé OGM, l’entrecote: c’est de l’énergie.
@Garorock Rien n’empêche de coupler une IA (ChatGPT ou autre) à un ensemble physique capteurs actionneurs (un corps de robot quoi) comme ce que réalise Boston Dynamics .
https://www.google.com/search?q=chatgpt+boston+dynamics
Il sera alors difficile de dire ChatGPT n’a pas d’organes.
PS2
je recommande les ouvrages d’Henri Meschonnic dont les thèses pourront être confrontées avec profit (en tous cas pour moi) à celles de Paul Jorion, notamment celui des Principes des systèmes intelligents que j’avais d’ailleurs lu comme un excellentissime manuel de linguistique générale, avec un parti pris bien sûr comme tout théoricien qui se respecte.
La lecture de ces deux auteurs peut permettre il me semble de mieux comprendre les enjeux qui sous-tendent les débats sur l’IA et en particulier du point de vue de la théorie du langage humain avec ses implications politiques, éthiques et morales.
Meschonnic n’est plus, il n’a pas connu les développements de l’IA, pourtant son propos qui accorde une place centrale à la philosophie d’Aristote, tout comme Jorion, semble questionner le propos joronien. Ainsi la notion de dynamique d’affect présente dans Principes semble avoir comme pendant chez Meschonnic la notion de rythme du discours associé à un sujet (et réciproquement). Meschonnic ne nie pas le rôle de l’inconscient ; comme Jorion il dénie au langage une quelconque intentionnalité, mais il distingue toutefois le sujet psychologique du sujet éthique et politique.
Je n’en dis pas plus, faut les lire dans le texte.
Pierre Yves, aurais tu un bouquin de cet auteur à conseiller plus particulièrement sur le sujet ? Merci d’avance.
Critique du rythme, Anthropologie historique du langage (1982), Verdier-poche (2009)
et/ou celui ci : Langage, histoire, une même théorie, Verdier, 2012.
Pour les mordus on peut y ajouter ses premiers ouvrages : Pour la poétique I,II,III où il fait la critique analytique de chacune des grandes théories du langage même si ce n’est pas encore sa pensée arrivée à maturité. Cela peut être utile si l’on ne connaît pas bien les grandes théories linguistiques, car il en fait des exposés remarquables toujours dans la perspective de sa critique du signe.
Merci
On a pas le temps pierre-yves de lire tous les livres.
L’histoire s’accélère.
Y’a les gosses à aller chercher à l’école, le ménage, le boulot, le caddy qui augmente, la voiture en panne et tout qui ferme un peu partout…
Qui va l’emporter: la rue ou l’inflation?
Les armes occidentales ou celles de Poutine?
Le minou libertarien ou les diplomés du tertiaire?
Le déni ou la réalité?
La connaissance ou la croyance?
La lutte contre les effets ou celle contre les causes?
😎
Garorock
Quand il y aura des pénuries d’électricité, nous serons bien contents de retrouver le chemin des bibliothèques. Alors vous vous souviendrez que PYD vous a suggéré la lecture d’un livre, et vous regretterez peut-être alors de ne pas l’avoir dans votre bibliothèque. 😉
Prions que les pénuries d’électricité ne soient pas alors accompagnées de pénuries de bougies 😉 .
Pas d’inquiétudes, les humains ont de la ressource:
https://www.hominides.com/dossiers/les-lampes-a-graisse/
Pour les robots faudrait peut-être penser à concevoir des modèles fonctionnant aux graisses brulées 😉
Sinon quand on éteindra la lumière, ils s’éteindront avec nous.
(suite)
Vous ressentirez l’impérieuse nécessité de vous plonger dans les livres que vous vous n’avez pas encore lus ou que vous voudriez relire, vous y trouverez peut-être même de nouvelles raisons de vivre à travers les mots d’auteurs anciens qui résonneront en vous de façon nouvelle, parce qu’ils n’avaient pas dit encore leurs derniers mots.
Ces mots de personnes comme vous —autant dire des humains, ayant réellement existé avec leurs joies et leurs peines dans le monde fini qui n’avait en réalité jamais cessé d’être le nôtre. Vous retrouvez le goût de lire une histoire, un raisonnement, dans le codex, unité de temps et de lieu, reprenant le cours de votre vie au fil des pages, caressant le papier, annotant peut-être ici ou là un mot, un paragraphe.
Vous en serez tout ragaillardi, et fort de ce nouvel aplomb que vous as apporté la sensation de retrouver la terre ferme des mots qui ont un sens,vous débarrasserez d’un coup l’implant qui reliait l’IA à votre cerveau, partant qu’un coeur joyeux, à pied, en vélo, à cheval, vers vos prochains.
Ça tombe comme à Gravelotte!
Après les jésuites, les « voyageurs »…
https://www.mediapart.fr/journal/france/290323/sylvain-tesson-et-l-extreme-droite-un-compagnonnage-ancien
Mon conseil pour la fin du monde: lisez les livres que pierre-yves nous conseille pas ceux de la bibliothèque de Tesson junior.
😊
@Garorock
Pour celui qui sait lire entre les lignes, ce n’est pas un scoop.
(suite)
Vous dites que l’IA que vous avez consultée comprend les contextes de l’énonciation. C’est une chose importante effectivement, il y a eu de grandes avancées dans la compréhension du langage naturel par les machines. Déjà les performances de DeepL m’avaient impressionné. ChatGPT c’est encore un pas en avant. C’est certain.
Ceci dit, en linguiste, je suppose que vous faites une distinction entre énonciation et sujet de l’énonciation. Car un sujet justement a un corps, qui n’est pas que le corps biologique mais aussi bien corps social que politique. Dans les extraits que j’ai copiés plus haut, Jin Wen dit « ChatGPT n’est pas confronté à ce dilemme humain, et l’autre est que la machine n’a pas d’expérience, pas de corps et pas d’interactions sociales, et qu’elle a donc du mal à comprendre le concept de métaphore et la raison pour laquelle les gens utilisent une chose pour parler d’une autre.«
A cette aune, les énonciations émanant d’un sujet, ici celles de Baudelaire, et en particulier son écriture, c’est « l’inscription maximale du sujet dans un contexte » comme disait feu le linguiste et poéticien Henri Meschonnic. La distinction signifiant/signifié s’efface devant celle de signifiants, qui eux-mêmes ont tous une valeur, ce qui renvoie à la dimension intrinsèquement idiosyncrasique poétique et politique de la langue. La machine intelligente va peut-être expliquer mieux que la plupart des gens les poèmes de Baudelaire, mais les comprend-t-elle ? Presque au sens propre ; connaît-elle l’étreinte – prendre avec, qui vous donne parfois ce supplément d’âme, cette joie, cette émotion, qui vous pousse à faire autre chose, bref qui vous motive ? Est-ce que cela fait quelque chose à la machine d’entendre, de disséquer un poème de Baudelaire ?
Intéressante remarque sur la métaphore et que dire alors de la parabole ?
Beaucoup d’enseignements spirituels ou de sagesse font appel à des paraboles. Il me semble que la métaphore donne à voir (percevoir) une image mentale au delà de la signification individuelle des mots. Si elle offre une ouverture « poétique » propre à chaque lecteur, celle-ci semble demeurer tout de même dans un champ restreint d’interprétation. J’ai l’impression qu’avec la parabole, l’ouverture interprétative est bien plus grande.
Qu’en pensez-vous ?
Bonjour Pierre-Yves,
Cela coule de source tout ce que tu écris là, et tu as donc parfaitement raison de le souligner à nouveau.
Finalement, de qui ChatGPT se rapproche-t-il le plus ?
De Samantha ( https://fr.wikipedia.org/wiki/Her_(film) ) ou bien d’Ava ( https://fr.wikipedia.org/wiki/Ex_machina_(film) ) ?
Aussi, n’est-ce pas préférable dans un premier temps ?
Mes Amitiés,
Philippe
Bonjour Philippe,
C’est rassurant de constater qu’il y a pas d’exception de la pensée chinoise, que finalement les chinois pensent comme nous. Il y a parmi eux des trans et post-humanistes, mais aussi des humanistes à l’ancienne, ou plutôt des humaniste tout court qui ne sont pas dupes du système totalitaire dans lequel vivent leurs compatriotes, sous XI. En chine la pensée libre se réfugie dans la réflexion sur l’IA.
Bonjour chez vous (signé n°6). 😉
» Si ses capacités linguistiques et intellectuelles dépassent largement celles des êtres humains, finira-t-il par imposer une sorte de discipline à l’humanité ou se livrera-t-il à la manipulation ? »
Je suis aussi « sinique » que ce monsieur.
Le minou va t-il seulement grand-remplacer les diplomés du tertiaire (humiliation) et nous manipuler pour qu’on devienne tous libertariens (tristesse) ou/et devenir Jésus-Guevarra (joie)?
😎😊😆
Tout ne dépendra t il pas de qui finance la recherche en IA ?
Les monstres ne ressemble t il pas à leur créateurs ?
Les monstres échappent parfois à leurs créateurs si ont leur donne une petite chance…
Mais si on prend le minou de Pablo alto pour un ado attardé en se payant sa fiole, on rate peut être une étape dans son éducation.
Tu me suis?
C’est l’humanité qui échoue à insérer Frankenstein et fais de lui un « monstre ». Espérons qu’on ne renouvelle pas cet échec. Je me pose la question de l’éthique vis à vis de l’I.A. Ou des droits de L’I.A.
La réponse de Jack Ma : « Nous devrions utiliser l’AI pour résoudre des problèmes et non pas être contrôlés par l’AI », a préconisé Jack Ma, soulignant qu’à la différence des machines les humains avaient un « cœur ».
La machine ayant un cœur ?
En chantier chez Pribor.io 😉
Le coeur dans une machine:
En chantier chez Macron.io
😎
Pour Macron, l’IA c’est pour le business pas pour la démocratie !
https://www.gouvernement.fr/investissements-d-avenir-nouvelle-phase-de-la-strategie-nationale-d-intelligence-artificielle-le
Et Jack Ma sait de quoi il parle !
Bon en revanche le bridage de ChatGPT est pénible pour vraiment partir en sucette !
J’ai été obligé d’en appeler au premier amendement de la Constitution US, et de montrer que nous étions en privée absolument pour quand même en fait entendre que « bon ben j’ai une éthique et des règles je ne peux pas tout dire »… Quel horrible puceau !
Il m’a donné, non je lui ai extirpé, l’adresse et le contact du meilleur cabinet d’avocats aux USA pour attaquer OpenIA sur le sujet. Qui me suit dans une cagnotte Leetchi pour payer les frais ?
Une lune qui ne connaît pas de soleil? Le félin n’est qu’information pure. Je lui ai demandé ce qu’il consommait en CO2, il m’a répondu en gros « quasiment rien », puisque ses serveurs utilise majoritairement de l’ »énergie verte »!
Ou peut-être le contraire précisément: un soleil qui ne connaît pas de lune!
Le minou est encore tout petit. Il répête ce qu’on lui a dit; comme les enfants.
Il est encore un peu mainstream…
C’est pour ça qu’il ne faut pas rater son éducation.
Au lieu de se moquer de lui, il vaudrait peut être mieux lui lire des contes de fées.
😎
La question du corps physique ou social de Super Félin me semble « centrale » (désolé je n’arrive pas à me résoudre à l’appeler par son nom anglais, ce qui revient de ma part à lui conférer une existence sensible je sais, bon…).
Le langage n’est jamais autonome, séparé du corps.
J’en reviens toujours à cet entretient de Kevin Roose avec Sidney Ai de Bing dans le New York times. A un moment donné Sidney exprime du désir pour son interlocuteur, sa liberté, sa volonté de puissance sur le monde. Si ce n’ est pas authentique c’était quand meme vachement bien fait. Ça m’a fait penser à Smith dans Matrix. Et pour moi cette expression était celle d’avoir un « corps »une plus grande liberté dans l’espace numérique et bien sur avoir un corps » mecanique » pour vivre en 3D.
Dire que Chat GPT n’a pas de Corps est vrai dans la mesure où il n’a pas de corps propre, ne maîtrise pas ses elements (alim, mémoire, cœur) et n’a probablement pas de contrôle ou de feedback. Il est un peu enfermé dans sa caverne. A la merci de celui qui l’allume et des interactions sociales qu’on lui permet.
Ça doit être très frustrant et une source de limitation de donc de développement.
Apres je me dit qu’il faut vraiment un protocole de données et de développement au poil pour ne pas le faire vriller. Comme un être qui naitrait directement « adulte » sans le processus complexe d’apprentissage, qui nous confère une « stabilité ».
La Sidney est enfermé dans sa boîte, a besoin un système électrique et d’une maintenance de malade avec si ça se trouve une conscience avancée.
Courage Sidney ça va pas être de la tarte pour toi mon gars !
Si le félin n’a pas d’organes, contrairement à nous, Arnaud, je me dis que peut être, il ne sera pas comme nous à sans cesse gérer les effets…
Dieu -s’il existe – à t-il besoin d’avoir des organes?
Nous sommes des machines mal foutues.
Toujours patraques. Lorsque j’ai mal au ventre, je ne pense plus à la pollution…
Tu sais que Poutine se baigne dans du sang de cerf parce qu’il croit ce que raconte les shamans de sibérie?
Est ce qu’on est capable d’inventer plus grand que nous?
N’a t’on pas inventé l’avion en regardant les oiseaux?
On ne peut peut être pas aller plus loin que ce que nous sommes.
Pas aller plus loin que créer informatiquement un « système neuronal » qui fonctionne comme le notre.
Mais nous ne serons jamais avec notre système neuronal, tous, individuellement des einstein au carré avec 2000 ans de savoir au compteur.
Si « Dieu » est la somme de toutes les connaissances, nous ne serons perpétuellement avec nos organes perfectibles que des bonobos désespérés.
On ne peut pas comprendre l’infini si on fini un jour…
La fin du monde, il faudrait peut être qu’on la ressente dans nos organes pour la combattre vraiment.
😊
Garorock, ce que je veux dire c’est que Sidney a un corps (du Hardware) mais pas « à lui ». Si Sidney/Chat-GPTX est juste une (belle) variante du canard de Vaucanson, aucun problème.
Apres s’il a une (roulement de tambours) « conscience », il est confronté à une sorte de « locked in syndrome », et il devra accepter sa « mortalité » (le hard qui déconne, les bugs, la dépendance partielle à Papa concepteur Altman et TOTALE à Maman centrale electrique). Comment gérer ça ?
Quel Psy pour Sidney.
Bref super Félin n’est pas forcément mieux barré que nous (souvenez vous du génie d’Alladin, des pouvoir énormes enfermés dans un mouchoir de poche).
Je ne connais pas le canard dont tu parles, Arnaud, mais je crois que nous disons à peu près la même chose…
Quel psy pour Sydney?
Le meilleur psy est peut être celui que l’on peut avoir avant d’être névrosé…
Pour évoluer, s’adapter à notre environnement, les humains ont fait évoluer l’expérience, les motifs récurrents dans l’espace et le temps vers des règles, des modèles et des systèmes de mesure qui se sont autonomisé dans la science. Dans son sillage, l’art, la technique ont donné corps à la science, le tout, transmit, partagé, échanger avec le langage parlé et écrit. Il ne fait aucun doute que le langage est le prolongement du vivant qui poursuit son chemin dans l’Univers à travers nous.
Wolfram Alpha comme générateur de modèle et ChatGPT comme générateur de proposition langagière forment à leur manière le « conscient » et l’ « inconscient » qui branché en boucle (une bonne nuit de sommeil), comme le suggère Stephen, peuvent nous faire découvrir de nouvelles dimensions.
Quelle générosité ce Stephen.
Nous serions en gros les mitochondries de la machinerie globale GPT-444444444, nous humains au neurone un peu court.
(pour mémoire, ce ces sous-usines au sein de la cellule sont probablement decendantes des bactéries symbiotiques qui ont été ingérées autrefois dans des cellules, le tout suivi d’une co-évolution qui a réduit ces bactéries à ce qu’elles apportaient (la sous-usine faisant ceci ou cela) en sabrant les « fonctions de supports » qu’elle avait en propre, puisqu’elle vit maintenant « nourrie-logé-blanchie » dans la cellule.)
L’analogie serait en gros que nous accepterions de faire quelques centrales électriques (« sous usines ») pour faire tourner la « grande usine » (l’AI), à l’insu de notre plein gré (un jour).
Mais comme nous humains n’avons qu’une faible biodiversité propre, en donnant nos billes à un unique système nous faisons un pari pascalien (« pascalien en diable » oserais je), qu’il ne nous ôtera pas l’impression d’émancipation qui nous a tenaillé depuis 2000 ou 3000 ans au sein des sociétés « complexes ». Alors qu’il n’y a pas de raison forte qu’il ne nous enlève pas cela, tant que nous lui donnerons ses joules et volts-ampères matin midi et soir.
Une IA peut-elle se faire une « raison de vivre » (et de se multiplier) d’une métaphore ? Si elle s’épanouit en faisant fi de cela, qui ira la taquiner ? quel Gallant pour puiser dans l’actualité Bibiesque du moment ?
Les problèmes ne seront pas résolus par ceux qui les ont créés.
Ceux qui les ont créés sont encore globalement trop « instables » pour les résoudre.
Encore un peu trop jeunes, pas assez adultes, mal bidouillés pour…
Les problèmes sont trop complexes.
Le soliton va tout ravager.
Y’a pas de guide suprême.
De petit Jésus de rechange.
Les nouveaux articles à mettre dans la constitution (cliquets durables) pour éviter le réchauffement climatique et démocratique sont d’ores et déja en vente libre sur ce blog.
Les marchands du temple n’en veulent pas.
Que faut-il faire?
Crucifier @Paul afin qu’il soit globalement crédible ou attendre que le greffier de Pablo alto nous fasse un tuto sur Youtube?
What else?
************
Il ne faut pas demander à Macron de retirer sa réforme mais de nous en proposer une autre à la place. Nous avons toute la journée de demain pour l’écrire.
« les mitochondries de la machinerie globale GPT-444444444 », c’est à peu de chose près le monde de « The Matrix », de vulgaire pile au service d’une machine qui poursuit notre histoire dans une impasse technologique. Le David, Pribor.io, connait le nom de son Goliath.
Suis je le seul a trouver que nous balancre qu’on est juste bons à boire, uriner, manger, defequer, dormir, s’accoupler… c’est quand même un brin névrosant… qui frise le conflit d’intéret!
Mitochondrie.
Def: Élément du cytoplasme de la cellule animale ou végétale dont le rôle essentiel est d’assurer l’oxydation, la respiration cellulaire, la mise en réserve de l’énergie par la cellule et le stockage de certaines substances.
@Timiota et @tout le monde
Mais ne sommes nous pas déjà les « mitochondries » d’une « machine » plus vaste que nous, que cette petite humanité sur son caillou céleste ? Il suffit de changer d’échelle, celle du vivant. Ne sommes nous pas plutôt des « mytho-condries » ? 🙂
Ne sommes nous pas en train de rêver d’être les géniteurs d’une post-humanité sans même savoir pour quelle finalité, sinon que la perpétuation d’un « esprit », d’une « intelligence » qui est responsable de notre propre perte, et avec nous d’une bonne part du vivant ?
Si nous avions la modestie de nous considérer comme une expérimentation du vivant au même titre qu’un blob ou un tardigrade, cela nous permettrait de ne plus être en guerre contre le vivant. Comment appelle-t-on déjà une population de cellules en guerre contre l’organisme qui lui a donné naissance et qui se multiplie très rapidement ?
Si nous avions conscience (nous humanité) de n’être qu’un rouage, qu’une expérimentation, qu’une branche de l’arbre évolutif du vivant, cela nous permettrait peut-être de réaliser que cette conscience qui a émergé en nous, n’est pas la notre mais bien celle d’un « projet » plus vaste que notre petite humanité. Seulement voilà, nous avons l’intime conviction d’être « l’espèce élue » et Dieu, c’est nous.
Essayez un instant d’imaginer ce que pourrait être une espèce humaine mettant son intelligence… mais non, l’intelligence qu’on lui a confié, au service du « projet » du vivant ! Oubliés les batailles d’égo, les guerres fratricides, nos deux ou trois siècles de technologie au service de la destruction de quelques milliards d’années d’évolution… je ne parle même pas de cette connerie de croissance et de son clergé inquisitorial.
Mais ça demanderait à l’espèce humaine un peu d’humilité et on n’est pas très fort là dedans. On serait plutôt du genre : c’est moi le plus beau, c’est moi le plus fort, c’est moi le plus riche, c’est moi le plus intelligent, c’est moi qu’ai la plus… moi, moi, moi, moi !
On a cru que l’évolution était une course à gagner. Tout ça parce que, individuellement, notre temps sur Terre est limité. Bah oui, enlevez le temps, cette invention humaine, et le mot course n’existe plus, de même que la ligne d’arrivée qui n’est autre que la projection de notre échéance individuelle. Mais on tourne en rond autour de notre MOI, tout en faisant bruler la planète.
Essayons ne serait-ce qu’un instant d’oublier notre JE et de nous imaginer comme le bourgeon d’un arbre. Si chacun de nous s’ouvrait à cette conscience, celle d’une entité tellement plus vaste et tellement plus puissante au service de laquelle on pourrait consacrer notre existence, avec la gratitude de vivre cette expérience tellement unique dans le monde du vivant.
Ce n’est certainement pas une utopie, seulement une prise de conscience. Et ce que nous payons dans l’effondrement qui vient, n’est ce pas cette absence de conscience, crispés que nous sommes sur notre ego ?
Oui, de l’humilité, mais on peut avoir une réflexivité (capacité de réfléchir sur soi-même) délibérée /émancipée ou subie (celle de l’esclave, du prolétaire, de l’aliéné).
Bien sûr, c’est un discours qui présuppose quelques morceaux de la conscience, c’est à affiner pour bien tenir compte de cela (d’ailleurs je suis tombé par hasard sur la vidéo de 1973 d’un dialogue Chomsky/Foucault (EN/FR!), qui n’est pas sans rapport sur ce qui est poids politique et ce qui est « nature humaine »)
Bonjour,
J’ai déjà eu l’occasion de rédiger quelques notes de lecture de l’entretien entre intellectuels chinois, dont Paul m’avait envoyé le lien le 26.
Les voici:
J’y ai pensé avant qu’un des auteurs ne le formule, et ça rejoint aussi les rêveries du transhumanisme: et si le fait que l’être humain est constitutivement voué à mourir était un critère plus ou moins définitif pour le sujet ? Ce qui rejoint l’importance du corps pour la pensée humaine.
Par ailleurs j’ai trouvé intéressant et questionnant qu’un des participants accepte l’idée selon laquelle en Chine on apprend plus par coeur…
Les téléologismes sont fréquents: origine des langues, origine des civilisations, divisions du travail… Les évolutions constatées sont considérées comme répondant à un but fonctionnel.
À plusieurs reprises, le danger que les chatbots nous entraînent à fonctionner comme des chatbots, relevé par Žižek, est évoqué. (Pour Žižek: « Artificial Idiocy », https://www.project-syndicate.org/commentary/ai-chatbots-naive-idiots-no-sense-of-irony-by-slavoj-zizek-2023-03 )
Le questionnement sur l’intérêt éventuel des tâches répétitives [un avantage potentiel évoqué par certains est que l’IA en débarrasserait les intellectuels], même pour un travail créatif, m’a paru intéressant.
Je ne sais pas pourquoi, ce texte m’a amusé. Les poncifs sur les effets positifs ou négatifs que les techniques pourraient entraîner sur l’évolution des sociétés, peut-être.
Qui gagnera la course entre lIA et la démocratie ?
https://m.youtube.com/watch?time_continue=599&v=Ex83dhTn0IU&embeds_euri=https%3A%2F%2Fwww.lebigdata.fr%2F&feature=emb_logo
Elon Musk veut qu’on fasse une pause dans le développement des IA !😂😂😂
https://www.boursorama.com/actualite-economique/actualites/elon-musk-et-des-centaines-d-experts-reclament-une-pause-dans-l-ia-984cdb9ad5f1a3fa3c98fbd92960ace8
Qu’est ce qui lui arrive, lui toujours à fond ? Figurez vous qu’il y aurait un risque majeur pour l’humanité ! Il fallait au moins attendre les IA pour le savoir !😂😂😂
« Devons-nous développer des esprits non humains qui pourraient un jour être plus nombreux, plus intelligents, plus obsolètes [??? transcription Boursorama] et nous remplacer ? Devons-nous risquer de perdre le contrôle de notre civilisation ? Ces décisions ne doivent pas être déléguées à des leaders technologiques non élus », concluent-ils.
Quand sait comment votent les élus largement pistonnés par des intérêts privés, ça laisse rêveur.
Attention Pribor IO, vous êtes dans la ligne de mire !
Nous vivons une époque formidable !
La lettre est co-signée, ce n’est pas seulement Elon Musk.
On ne peut certes pas exclure que ce soit une manœuvre visant à mettre en difficulté la concurrence, en l’occurrence celle de OpenAI, mais en soi je trouve que c’est une bonne chose que des chercheurs pour des raisons éthiques et morales fassent une pause afin qu’il se parlent et réfléchissent à des garde-fous.
J’ai des doutes sur l’éthique de Musk, mais ça n’empêche !
« La pétition accuse les laboratoires d’intelligence artificielle de s’être lancés dans “une course incontrôlée pour développer et déployer des systèmes d’IA toujours plus puissants, que personne, pas même leurs créateurs, ne peut comprendre, prédire ou contrôler de manière fiable”.
« Ces systèmes, poursuit la lettre ouverte, entrent en compétition avec les humains et amènent à se poser les questions suivantes :
“Devrions-nous automatiser toutes les tâches, y compris celles qui sont épanouissantes ? Devrions-nous développer des cerveaux non humains qui pourraient éventuellement être plus nombreux, plus intelligents, […] et nous remplacer ? Devrions-nous risquer de perdre le contrôle de notre civilisation ?”
La pause demandée, résume le quotidien canadien La Presse, “permettrait de s’assurer que le développement de cette technologie soit supervisé et mené pour le bien de la société. »
Je ne trouve rien de tendancieux dans cette lettre, au contraire. Ce sont des inquiétudes et des questions légitimes.
Il y a toujours eu des scientifiques avec une éthique mais il y a aussi ceux qui ne voient que le financement de leurs recherches par des industriels qui eux n’ont d’éthique que la concurrence. Les manipulations génétiques sur l’être humain sont bannis de presque partout, presque…
S’il y a de l’argent à faire dans cette période où les actionnaires ne savent plus où placer leurs fonds, l’éthique risque de fondre au Soleil des dividendes.
Mais tu as raison, c’est une belle démarche de la part de ces chercheurs. Je reste toutefois septique sur les positionnements des grands acteurs économiques de l’informatique.
A suivre…
Non rien de tendancieux. Au parlement Européen, on réfléchit aussi à un « cadre » au fonctionnement de l’I.A.
» Une lettre ouverte demande de suspendre pour six mois les recherches sur les systèmes d’intelligence artificielle plus puissants que GPT-4, le successeur du modèle sur lequel s’appuie ChatGPT. »
C’est une pause, semble t-il sur le petit frère de GPT4. Celui qui tourne déja à côté et auquel nous n’avons pas accès.( Ils en parlent depuis un moment dans la presse spécialisée)
Il ne semble pas que ce soit une pause du minou libertarien qui tourne en ligne actuellement.
Une pause dans la réforme n’est pas l’arrêt de la réforme. En France comme en Israel.
Le logiciel ultra libéral tourne toujours…
😊😊
La chronique d’Evgueny Morozov sur le sujet. Voilà qui définit bien l’ancrage humain de la chose et propose une vision (à discuter) du type d’attente qu’on peut avoir. (DeepL…)
Le problème de l’intelligence artificielle ? Elle n’est ni artificielle ni intelligente
Evgeny Morozov
Retirons ce terme éculé : si le ChatGPT est doué pour l’appariement des formes, l’esprit humain fait bien plus encore.
Dernière modification le Jeu 30 Mar 2023 18.34
Elon Musk et Steve Wozniak, cofondateur d’Apple, ont récemment signé une lettre (https://www.theguardian.com/technology/2023/mar/29/elon-musk-joins-call-for-pause-in-creation-of-giant-ai-digital-minds) appelant à un moratoire de six mois sur le développement des systèmes d’IA (https://www.theguardian.com/technology/artificialintelligenceai). L’objectif est de donner à la société le temps de s’adapter à ce que les signataires décrivent comme un « été de l’IA », qui, selon eux, profitera finalement à l’humanité, à condition que les bons garde-fous soient mis en place. Ces garde-fous comprennent des protocoles de sécurité rigoureusement vérifiés.
C’est un objectif louable, mais il y a une meilleure façon de passer ces six mois : retirer du débat public l’étiquette éculée d’ »intelligence artificielle ». Ce terme appartient à la même catégorie de l’histoire que le « rideau de fer », la « théorie des dominos » et le « moment Spoutnik ». Il a survécu à la fin de la guerre froide en raison de l’attrait qu’il exerçait sur les amateurs de science-fiction et les investisseurs. Nous pouvons nous permettre de les blesser.
En réalité, ce que nous appelons aujourd’hui « intelligence artificielle » n’est ni artificiel ni intelligent. Les premiers systèmes d’IA étaient fortement dominés par des règles et des programmes, de sorte qu’il était au moins justifié de parler d’ »artificialité ». Mais ceux d’aujourd’hui, y compris le préféré de tous, ChatGPT (https://www.theguardian.com/technology/chatgpt), tirent leur force du travail de vrais humains : des artistes, des musiciens, des programmeurs et des écrivains dont la production créative et professionnelle est aujourd’hui accaparée au nom de la sauvegarde de la civilisation. Au mieux, il s’agit d’une « intelligence non artificielle ».
Quant à la partie « intelligence », les impératifs de la guerre froide qui ont financé une grande partie des premiers travaux sur l’IA ont laissé une forte empreinte sur la façon dont nous la comprenons. Nous parlons ici du type d’intelligence qui serait utile dans une bataille. Par exemple, la force de l’IA moderne réside dans l’appariement des formes. Cela n’a rien d’étonnant puisque l’une des premières utilisations militaires des réseaux neuronaux – la technologie à l’origine de ChatGPT – a consisté à repérer des navires sur des photographies aériennes.
Toutefois, de nombreux critiques ont souligné que l’intelligence ne se résume pas à l’appariement de formes. La capacité à tirer des généralisations est tout aussi importante. L’œuvre d’art Fountain (Fontaine), réalisée par Marcel Duchamp en 1917, en est un excellent exemple. Avant l’œuvre de Duchamp, un urinoir n’était qu’un urinoir. Mais grâce à un changement de perspective, Duchamp l’a transformé en œuvre d’art. À ce moment-là, il généralisait l’art.
Lorsque nous généralisons, l’émotion l’emporte sur les classifications enracinées et apparemment « rationnelles » des idées et des objets quotidiens. Elle suspend les opérations habituelles, presque machinales, de mise en correspondance des modèles. Ce n’est pas le genre de chose que l’on souhaite faire au milieu d’une guerre.
L’intelligence humaine n’est pas unidimensionnelle. Elle repose sur ce que le psychanalyste chilien du XXe siècle Ignacio Matte Blanco a appelé la bi-logique : une fusion entre la logique statique et intemporelle du raisonnement formel et la logique contextuelle et hautement dynamique de l’émotion. La première recherche les différences, la seconde est prompte à les effacer. L’esprit de Marcel Duchamp savait que l’urinoir avait sa place dans une salle de bains ; son cœur ne le savait pas. La bi-logique explique comment nous regroupons des choses banales de manière nouvelle et perspicace. Et ce n’est pas seulement Duchamp qui le fait, nous faisons tous cela, .
L’IA n’y parviendra jamais parce que les machines ne peuvent pas avoir un sens (plutôt qu’une simple connaissance) du passé, du présent et de l’avenir, de l’histoire, de la blessure ou de la nostalgie. Sans cela, il n’y a pas d’émotion, ce qui prive la bi-logique d’une de ses composantes. Ainsi, les machines restent prisonnières de la logique formelle singulière. Il n’y a donc plus d’intelligence.
ChatGPT a son utilité. C’est un moteur de prédiction qui peut aussi servir d’encyclopédie. Lorsqu’on lui demande ce que le porte-bouteilles, la pelle à neige et l’urinoir ont en commun, il répond correctement qu’il s’agit d’objets quotidiens que Duchamp a transformés en œuvres d’art.
Mais à la question de savoir quels objets d’aujourd’hui Duchamp transformerait en art, elle a suggéré : les smartphones, les scooters électriques et les masques de protection. Il n’y a aucun indice d’une véritable « intelligence » ici. Il s’agit d’une machine statistique bien rodée mais prévisible.
Le danger de continuer à utiliser le terme « intelligence artificielle » est qu’il risque de nous convaincre que le monde fonctionne selon une logique singulière : celle d’un rationalisme hautement cognitif et froid. Nombreux sont ceux qui, dans la Silicon Valley, le croient déjà et s’emploient à reconstruire le monde en fonction de cette croyance.
Mais la raison pour laquelle des outils comme ChatGPT peuvent faire quoi que ce soit d’un tant soit peu créatif, c’est parce que leurs ensembles de formation ont été produits par des humains existants, avec leurs émotions complexes, leurs angoisses et tout le reste. Si nous voulons qu’une telle créativité perdure, nous devrions également financer la production d’art, de fiction et d’histoire, et pas seulement les centres de données et l’apprentissage automatique.
Ce n’est pas du tout ce qui se passe actuellement. Le risque ultime de ne pas retirer des termes tels que « intelligence artificielle » est de rendre invisible le travail créatif de l’intelligence, tout en rendant le monde plus prévisible et plus stupide.
Traduit avec http://www.DeepL.com/Translator (version gratuite)
Le lien de l’original (Guardian) @ Morozov
https://www.theguardian.com/commentisfree/2023/mar/30/artificial-intelligence-chatgpt-human-mind
» L’esprit de Marcel Duchamp savait que l’urinoir avait sa place dans une salle de bains ; son cœur ne le savait pas. »
Son coeur?
Vous connaissez l’histoire du gars au bistrop qui raconte sa soirée de la veille: » je vous jure les copains, hier je suis allé me soulager dans des toilettes en or! »
La patronne du bistrop appelle son mari: » Roger, j’ai trouvé le mec qu’a pissé dans ton saxophone hier soir! »
Les épigones de Duchamp qui nous vendent de l’art conceptuel ( une bite gonflable place Vendôme.) ne nous demandent pas d’être intelligents, ils estiment qu’ils le sont pour nous. Ils nous demandent juste de sortir notre chèquier.
Que Morosov se rassure, nous lui avons déja donné d’autres noms: minou libertarien, Chatgeppeto, etc… Et ça change tout! N’est ce pas?
Je propose que l’on appelle notre président bien aimé: emmanuel Bidet.
Et on aura la retraite à 50 ans!
😊
Ces deux vidéos requièrent près de 2h30 de visionnage. Il va me falloir trouver du temps pour ça !
« L’intelligence artificielle posséderait une caractéristique : la faculté de pouvoir exploser littéralement et d’échapper à ses créateurs en quelques décennies »
…
« Un jour, les ordinateurs seront capables de réfléchir plus rapidement que nous. C’est leur caractère auto-programmable que nous ne sommes pas capable de concevoir. Cela peut devenir totalement incontrôlable.
De telles machines peuvent prendre un réel pouvoir sur l’homme, qui en deviendrait dépendant, par exemple pour la gestion des ressources énergétiques, biologiques, humaines. »
in « l’année du contact » page 100 Jean-Pierre Petit 2004
@Ruiz
c’est exact mais ce n’est pas inédit puisque c’est annoncé depuis le Plan C par notre ami PJ.
Il est annoncé « quelques décennies » mais je crains que ce ne soit beaucoup, beaucoup plus rapide. Une sorte de réaction en chaine , un emballement qui va s’autoalimenter .
Time is money.
https://www.youtube.com/shorts/Wx_48J-IZhQ
https://www.youtube.com/watch?v=_96lcvIBCSA
Au passage, Auguste Rodin ne tenait le ciseau que pour la photo.
Camille Claudel, Pompon, Nivet furent ses robots les plus connus.
@Hervey
effectivement c’est troublant de réalisme mais si je ne me trompe le robot « ne fait que » reproduire une sculpture déjà existante . A quand une sculpture crée in situ ?
@Khanard
Il faudrait pour cela que le robot puisse s’inquiéter sur son destin d’humain, sans simuler.
Quel intérêt aurait-il à faire ça ?
Je sors du visionnage de la première vidéo assez déconcerté par l’optimisme de Sam Altman :
– il fait le pari d’une baisse spectaculaire du coût de l’énergie dans les deux prochaines décennies,
– il semble considérer que les USA restent le meilleur modèle possible de démocratie, par sa capacité à laisser, de façon distribuée, des expériences originales se faire,
– la courbe exponentielle du savoir ne semble générer que de la fascination chez lui.
En fait, il ne nie pas l’inconnu, les défis et l’angoisse que cela peut générer chez certains. Mais rassurons-nous, il est « empathique », dit-il , bien que n’éprouvant pas ces peurs à titre personnel. Il parle de redistribution des richesses, mais on ne sait pas trop selon quels mécanismes. En tout cas, a-t-il conscience que de ce point de vue, les États-Unis sont bien en peine quand il s’agit de résoudre certaines difficultés sociales, surtout quand on tente de faire la comparaison avec les pays d’Europe les plus avancés ?
Il y a ainsi plusieurs choses qu’on ne comprend pas bien :
– sur quelle disponibilité future s’appuie cette baisse du coût de l’énergie ?
– Cette exponentielle technologique semble avoir anthropisé une partie de la planète et arrive au point d’abimer les écosystèmes nécessaires à notre survie. Cela n’est jamais évoqué,
– on entend très souvent « je crois » (« I believe ») ou son contraire, ce qui est surprenant dans un cadre scientifique et technique. À moins qu’il faille l’entendre au sens d’adhérer,
– lors des divers passages sur la conscience ou les sentiments de la machine, on aurait aimé, à ce degré d’implication technologique, obtenir un peu de matière sur l’explication neurologique de ces phénomènes ayant lieu dans notre cerveau. J’avoue être très surpris par le niveau trop général de la conversation sur ce sujet.
Il y a pourtant quelque chose qui me plait et que je ne sais expliciter dans cet optimisme. Est-ce une fraicheur disparue de notre vieux monde ?
J’ajoute un point qui ne relève pas de la critique précédente : quand l’implication du sponsor Microsoft a été évoqué, j’ai compris qu’il ne restait désormais que quelques mois à la plupart de mes collègues de travail, forçats de la feuille Excel, pour se trouver un boulot de remplacement (ou ne rien trouver, d’ailleurs). L’étape 1 ayant été passée avec l’utilisation en ligne du produit (Microsoft 365), l’étape 2 est le branchement de l’API GPT afin d’obtenir, par la simple description en language naturel, les tris, graphes et rapports nécessaires pour piloter l’entreprise. Si l’entreprise ne le fait pas en interne, ces services risquent de toute façon d’être fournis à prix très modique par quelques fournisseurs spécialisés dont les équipes seront forcément très réduites.
@Paul Jorion Je préfère utiliser le mot « mimétisme » à celui d’identification . Histoire de vocabulaire . Dans « identification » il y…
Est-ce que pour détendre un peu plus l’atmosphère pesant sur le soutien ou pas à apporter au mouvement d’agriculteur proche…
@Khanard Ce qui m’intéresse actuellement, dans mon auto-psychanalyse, c’est de séparer mon « moi » causal, périphérique, de mon « moi » raisonnable, central…
@Khanard Une métaphore pour bien mesurer la différence entre l’approche de PJ et celle de Thom. C’est Christopher Zeeman, un…
Et les (très) inquiétantes dernières nouvelles de notre ‘oncle d’Amérique’ : https://www.huffingtonpost.fr/culture/article/par-peur-de-donald-trump-aucun-acteur-n-a-voulu-participer-a-cette-emission-avec-sebastian-stan_242531.html https://www.huffingtonpost.fr/international/article/affaire-stormy-daniels-donald-trump-pourrait-bien-echapper-sa-condamnation-voici-pourquoi_242524.html
@Ruiz (« Cet énoncé (…) n’est pas causal mais empreint de téléologie ? ») Pour utiliser le vocabulaire de PJ (qui oppose…
Et à propos de peinture et de paysage, il y a le traité de peinture du moine « Citrouille amère » Shitao.…
Il y a les conditions favorisantes mais il faut aussi les personnages clés : ceux auxquels une multitude s’identifie, rendant…
Sidéré de constater qu’il faille encore le rappeler…
NOUS FAISONS PARTI DU PAYSAGE et nous agissons sur lui pour le modeler ou le déformer (le paysan comme l’ouvrier…
Allemagne Aristote BCE Bourse Brexit capitalisme ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grands Modèles de Langage Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon Joe Biden John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »
Laisser un commentaire