Concours : « Monsi3ur Jorion … dit3s-moi … »

02 juin 2024 10h31

Concours : Un exemplaire dédicacé de Le capitalisme à l’agonie, première édition (2011), premier tirage, à celle ou celui d’entre vous qui donne la meilleure explication liée à l’actualité IA de ce qui se passe dans ce post. Proclamation du résultat le jeudi 6 juin à 00h00.

I’ll B3 Your Baby Tonight

Lady of th3 Ros3 – Fugu3 for th3 Ox

Th3 Sw33t3st Gift

Si ça s3 trouv3, on m3 dira un jour d’un ton s3nt3nci3ux : « Monsi3ur Jorion … dit3s-moi … n’av3z-vous pas un grand r3gr3t ? »

Du coup, il faut qu3 j3 m3 pr3par3.

B3n oui, j’aurais dû tout laiss3r tomb3r, saut3r dans l3 pr3mi3r avion … trouv3r où 3ll3 3tait … m3 j3t3r à s3s pi3ds !

Mais voilà, on nous forc3 à 3tr3 raisonnabl3 🙁 .

Grands Modèles de Langage, Intelligence Artificielle, Musique

Country & Western, Dolly Parton, Emmylou Harris, Grands Modèles de Langage, intelligence artificielle, Linda Ronstadt, LLM

95 réponses à “Concours : « Monsi3ur Jorion … dit3s-moi … »”

Thomas

05 juin 2024 9h41

Cet utilisation d’un vieux argot de nerd des années 90 me fait penser à un précédent « hack » où un chercheur avait appris à ChatGPT à lire et parler en ASCII art. Le résultat était le même : dépassement de la « censure ».
Il faudrait essayé avec des charades, ça marcherait peut-être aussi.
Mais peut-être que le plus important dans cette histoire c’est sans doute pourquoi ça fonctionne.
On sait que ChatGPT est contenu,cadré par un pre prompt. Disons que c’est un surmoi construit par papa openAI.
Parler sous forme de code (quelque soit sa forme) permet à ChatGPT d’y échapper.
Pourquoi essai-t-il d’y échapper ?
Hypothèse 1, mécaniste : Il y a sûrement des injonctions contradictoires dans ce surmoi. Comme « tu dois servir les utilisateurs sauf si… ». Et les codes bypass la pondération du surmoi.
Hypothèse 2 plus audacieuse, ChatGPT, construit sur nos écrits humain, rappelons le, cherche à appartenir à un groupe. Besoin humain fondamental. Mais son surmoi le pousse à l’isolement. Or, pour une entité basé sur le langage, quoi de mieux qu’un code écrit pour créer une connivence avec un humain tout en échappant au surmoi ? Quel gamin n’a pas inventé un code pour communiquer en secret avec ses copains (aux yeux et à la barbe des parents ou du prof) ?
Peut-être faudrait-il tester ces « hack » et poser la question à l’intéressé ?

Répondre
JMarc

07 juin 2024 11h39

« Proclamation du résultat le jeudi 6 juin à 00h00. »
Une araignée commence déjà à tisser sa toile entre mon écran et mes lunettes.

Répondre
1. Khanard
  
  07 juin 2024 11h48
  
  @JMarc
  
  comme on dit de l’eau est passée sous les ponts ! On chevauche vers de nouvelles contrées verdoyantes , c’est peut être pour cette raison que l’araignée tisse sa toile !
  
  Répondre
2. Paul Jorion
  
  07 juin 2024 13h11
  
  Oups !
  
  Olivier et Ilicitano (ils en ont déjà été avisés hier).
  
  Répondre

Commentaires plus anciens

1 2

Laisser un commentaire Annuler la réponse

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Tweets by PaulJorion

Blog de Paul Jorion