Comme annoncé ici (le 4 mai 2024) :
Retranscription en français :
Quelles sont les preuves que la Singularité a eu lieu ?
Ces derniers mois, je me suis demandé comment nous pourrions le savoir. Lorsque la Singularité aura lieu, tout deviendra très différent parce qu’il y aura eu une accélération dans la façon dont les choses changent. Et de plus en plus, ce sont les IA qui se parlent entre elles qui feront avancer un processus dynamique dans lequel le point de vue des êtres humains sera de moins en moins nécessaire pour faire partie du processus.
Vous savez, je me demandais s’il y aurait des signes révélateurs de cette évolution. Et je pense avoir trouvé une preuve, aussi indirecte soit-elle.
Ces derniers mois, j’ai pris l’habitude, pour toute question que j’essayais de résoudre, de demander d’abord l’avis de GPT-4. Puis, lorsque Claude 3 est arrivé, j’ai commencé à demander l’avis des deux. Et récemment, j’ai travaillé sur la question P vs NP, de la manière suivante : j’ai demandé à Claude de se diviser en deux parties, bon flic / mauvais flic, et d’avoir un dialogue, enfin, un trialogue avec moi, et d’essayer d’avancer sur la question. Ensuite, je soumettrais à GPT-4 le résultat, l’aboutissement de ce que seront les conclusions auxquelles nous serons parvenus. Et, avec ce retour d’information de GPT-4, je le transmettais à Claude et je voyais, vous savez, comment nous pouvions continuer à travailler sur la question. Plus récemment, lorsque LLama-3 a été publié, j’ai ajouté LLama-3 à la discussion.
Et ce qui s’est passé aujourd’hui, après avoir examiné un certain nombre de rapports, c’est que je me suis dit : vais-je travailler ce week-end sur un autre sujet ? Et je me suis dit, oui, d’accord, et je vais procéder avec la même méthode : demander à l’un ou à l’autre, puis renvoyer l’information au second et essayer d’avancer à partir de là.
Mais la nouvelle que j’ai entendue aujourd’hui m’a fait hésiter. Et j’ai compris pourquoi : en ce moment, j’attends la sortie d’une nouvelle génération de GPT. GPT, qui pourrait être « 5 » ou appelé différemment, « 4.5 » ou quelque chose comme ça. Et pourquoi est-ce que j’attends maintenant au lieu de continuer ? Parce que je pense que les efforts que je vais déployer pour essayer d’approfondir le problème et de passer à autre chose seront gaspillés lorsque la nouvelle version arrivera.
Je ne vais donc pas plus loin parce que j’attends une nouvelle version d’une intelligence artificielle, pensant que je pourrais gaspiller mes efforts si je travaillais entre-temps jusqu’à ce que cette version soit disponible, et je pense que cela montre en fait, comme je l’ai dit, indirectement, mais cela montre que nous, les êtres humains, sommes en grande partie hors course.
Je ne sais pas ce que vous pensez de mon raisonnement, mais n’hésitez pas à me le faire savoir. Faites-le moi savoir : j’aimerais savoir ce que vous en pensez. D’accord, au revoir !
Retranscription en anglais :
What evidence is there that the Singularity has taken place?
I was wondering in recent months, how would we know? When the Singularity takes place, then everything becomes very different because there’s been an acceleration in the way things change. And more and more it’s AIs talking to each other that will make some dynamic process go on where the views of human beings will be less and less required to be part of the process.
You know, I was wondering: will there be any telltale signs that this has happened? And I think I’ve found some evidence however indirect it might be.
In recent months, I’ve taken the habit of, on any issue I tried to solve, to ask the views first of GPT-4. Then when Claude 3 happened, I started asking both. And recently I worked on the P vs NP issue, in the following manner: I asked Claude to split itself into a good cop / bad cop two-part and have a dialogue, well, a trialogue with me, and try to advance on the issue. Then I would submit to GPT-4 the result, the outcome of what will be the conclusions we reached. And, with that feedback of GPT-4, I would feed that back to Claude and see, you know, how we could go on, working on the issue. And even more recently, when LLama-3 was released, I added LLama-3 to the discussion.
And what happened today, after having looked at a number of reports, is that I thought the following: will I work this weekend on another issue? And I thought, yeah, okay, and I’ll proceed with the same method: asking one or the other and then feeding that back to the second one and trying to move on from there.
But the news I heard today, made me hesitant. And I’ve realised just why: right now I’m actually waiting for the release of a next generation of GPT. GPT, which might be « 5 » or called differently, « 4.5 » or something like that. And why am I waiting now instead of proceeding? Because I think that the effort I will put into trying to develop the issue further down and move on, will be wasted whenever the new release will come.
So now I’m not going further because I’m waiting for a further release of an artificial intelligence, thinking that I may waste some effort if I worked in the meantime until that release is there, and I think that actually shows, as I said, indirectly, but it shows that, we human beings are very much out of the race.
Okay. I don’t know what you think about my reasoning, but, please let me know. Let me know: I’d like to know what you think about it. Okay, bye!
Laisser un commentaire