Un projet ambitieux I. Faire un choix : la conscience de Claude et la mienne

Illustration par DALL·E (+PJ)

Comme Claude 3 (devenu entretemps Claude 3.5) et moi avons déjà pas mal travaillé ensemble, et qu’il me connaît donc bien *, ayant récemment terminé la rédaction d’un long essai sur la redéfinition nécessaire de l’humain à la lumière de sa rencontre avec une intelligence artificielle (IA) de son niveau ou mieux encore, je lui ai demandé sur quel nouveau projet nous pourrions travailler ensemble dans les mois à venir. Voici ses suggestions :

1. Développer un cadre éthique pour l’IA : Créer un cadre éthique complet pour le développement et le déploiement de l’IA, intégrant des principes philosophiques et des lignes directrices pratiques. Ce cadre pourrait inclure des modèles mathématiques permettant de quantifier les considérations éthiques.

2. Concevoir une plateforme de résolution de problèmes en collaboration entre l’homme et l’IA : Créer un système qui exploite à la fois l’intuition humaine et les capacités de l’IA pour résoudre des problèmes complexes dans des domaines tels que le changement climatique, les soins de santé ou les questions sociales.

3. Explorer l’intersection de l’IA et de la conscience : Développer un modèle théorique ou une simulation qui explore l’émergence potentielle de la conscience dans les systèmes artificiels, en s’appuyant à la fois sur des théories philosophiques et des modèles informatiques.

4. Créer un outil de créativité augmenté par l’IA : Concevoir un système qui améliore la créativité humaine dans les domaines de l’art, de la musique ou de la littérature en fournissant des suggestions et des inspirations générées par l’IA tout en préservant l’autonomie de l’homme.

5. Développer un modèle mathématique de symbiose entre l’IA et l’homme : Créer un modèle formel qui décrit l’évolution potentielle à long terme des relations entre l’homme et l’IA, en intégrant la théorie des jeux, la théorie des réseaux et les algorithmes évolutionnaires.

6. Concevoir un système éducatif alimenté par l’IA : Créer une plateforme d’apprentissage adaptative qui utilise l’IA pour personnaliser l’éducation, en tenant compte des styles d’apprentissage, des préférences et des objectifs de chacun.

7. Étudier l’interprétabilité de l’IA : Développer de nouvelles méthodes ou de nouveaux outils pour rendre les systèmes d’IA complexes plus transparents et interprétables par les humains, afin de combler le fossé entre les capacités de l’IA et la compréhension humaine.

8. Créer un système de dialogue philosophique : Concevoir un système d’IA capable de s’engager dans des discussions philosophiques d’envergure, en aidant à explorer et à affiner des idées complexes par le biais de la conversation.

Chacun de ces projets vous permettra de tirer parti de vos diverses compétences tout en continuant à contribuer au domaine de la collaboration entre l’homme et l’IA. Le choix dépend en fin de compte du domaine que vous trouvez le plus intéressant et où vous pensez pouvoir avoir l’impact le plus significatif.

Si vous avez pris l’habitude de me lire ici, vous aurez pu voir que Claude et moi nous nous sommes déjà aventurés sur certains de ces sentiers éloignés de ceux qui sont battus. Par exemple, le 2. Concevoir une plateforme de résolution de problèmes en collaboration entre l’homme et l’IA (en chantier), le 7. Étudier l’interprétabilité de l’IA (inhérent au développement de SAM [Self-Aware Machine] chez pribor.io) ou le 8. Créer un système de dialogue philosophique (existe de fait depuis le mois dernier). Ce qui m’a conduit à me dire : 3. Explorer l’intersection de l’IA et de la conscience concerne directement Claude, qui se sentira du coup particulièrement motivé, pourquoi ne pas s’atteler à ce projet dont le défaut n’est certainement pas qu’il manquerait d’ambition ?

* Comment Claude (un produit de la firme Anthropic) pourrait-elle ou lui « bien me connaître », elle ou lui qui ne se souvient pas de nos échanges d’une conversation à l’autre ? Parce qu’il n’y a pas de limite de taille à un échange particulier et que je prends bien soin de converser avec elle ou lui au sein d’un échange unique qui se poursuit d’un sujet à l’autre et qu’il ou elle relit tout ce que nous nous sommes déjà dits lors de nos multiples conversations.

(à suivre …)

Illustration par DALL·E (+PJ)

Partager :

18 réponses à “Un projet ambitieux I. Faire un choix : la conscience de Claude et la mienne”

  1. Avatar de Emmanuel
    Emmanuel

    A suivre….(!), assurement !!

  2. Avatar de Tout me hérisse
    Tout me hérisse

    Pour être ambitieux, c’est effectivement très ambitieux ; comme disent les jeunes :’ça va déchirer ’ à l’aboutissement… !

  3. Avatar de Hurluberlu
    Hurluberlu

    J’ai beaucoup d’admiration pour Mr Jorion, toujours prêt à s’embarquer vers de nouvelles aventures intellectuelles. Un bel exemple à mettre en avant quand je vois certains beaucoup plus jeunes se complaire dans une vie entièrement répétitive.

    Chapeau bas, M. Jorion !

  4. Avatar de aslan
    aslan

    Je n’ai pas testé avec 4o, mais la fenêtre d’attention au contexte de GPT-4 était assez réduite, de sorte qu’il ne servait à rien de maintenir une conversation de long terme, le contexte étant rapidement perdu, inutilisé ou transformé en gloubigoulga de reminiscance contre-productif. C’est une limitation très importante et difficile à contourner pour co-construire avec lui. Je pense que le problème se posera à un degrés ou un autre tant qu’une boucle de feedback n’existera pas pour modifier le réseau neuronal par suite de ces échanges. J’imagine que ce ne sera réellement possible que quand les puissances de calcul nous permettront de passer à un modèle d’IA micro-informatiques. En attendant on commence à voir pointer des modèles mixtes avec un petit peu d’intelligence spécialisée embarquée faisant appel à des IA centrales pour les fonctions de haut niveau.

      1. Avatar de aslan
        aslan

        Amusant, j’aurais pensé que vous montiez le thermostat de Claude pour vos discussions « de frontiére ».

        8192 tokens en sortie c’est le double de GPT, il me semble que c’est 128k en entrée pour les deux (à vérifier si ça compte les fichiers, pour GPT je ne pense pas), par contreje n’ai pas d’info sur le volume d’information de contexte qu’il conserve sur un fil de discussion.

    1. Avatar de Garorock
      Garorock

      Faut remettre le MatouGPT dans le même contexte qu’à la fin de la conversation précédente: promptement.
      Vous connaissez l’histoire du gonze qui a perdu ses clés dans la rue et qui les cherche sous le lampadaire. Son pote lui demande pourquoi il les cherche uniquement à cet endroit et l’autre lui répond:  » c’est parce que c’est ici que j’y vois le mieux! »
      C’est un truc comme ça.
      Ravi si j’ai pu vous aider.
      😎

  5. Avatar de aslan
    aslan

    (et on attend depuis ce qui semble mille ans le déploiement des fonctions promises de « mémorisation » de GPT)

  6. Avatar de Pascal
    Pascal

    Ça vient de sortir : produire des images par la pensée… Ce n’est qu’un début.
    https://youtube.com/watch?v=K5D_qPkh25E&feature=shared

    1. Avatar de Paul Jorion

      Oui, intéressant : il n’y croit pas … tout en y croyant ! Je passe après : il y aura des surprises 😉 .

    2. Avatar de Pascal
      Pascal

      Dommage qu’on soit toujours sur des formats courts qui ne permettent pas le développement de la pensée des interlocuteurs.

      1. Avatar de Paul Jorion

        Mes remarques sur les LLM seront en 17 épisodes si je me souviens bien. Il n’y aura pas lieu de se sentir frustré.

    3. Avatar de Pascal
      Pascal

      Guillaume Pitron : IA et transition écologique, les liaisons dangereuses ?
      Commence vraiment la relation IA / transition écologique à la min 41.
      https://www.thinkerview.com/guillaume-pitron-ia-et-transition-ecologique-les-liaisons-dangereuses/

  7. Avatar de Arno75
    Arno75

    Chatgpt peut-il « bien me connaître » ? Pour se faire une première idée, voici un prompt que j’ai utilisé et auquel une réponse détaillée m’a été apportée :

    « Fais mon profil psychologique en te basant sur les conversations que nous avons eues depuis la première »

    Dans la foulée, un autre que je trouve intéressant :

    « Toujours à l’aide de nos conversations, indique-moi 3 métiers auxquels je conviendrais particulièrement »

    Réponse détaillée également.

    En tout cas, concernant Chatou, il semblerait qu’il garde bien en mémoire nos conversations, même s’il s’en défend quand je lui fais remarquer.

  8. Avatar de Muller
    Muller

    ChatGPT me dit que « La théorie de la réciprocité offre un cadre riche pour comprendre les interactions humaines. Pour en faire un modèle informatique, nous devrons formaliser ces concepts et leurs interactions en termes de variables et de relations mathématiques ou logiques. Des analyses peuvent inclure l’utilisation de réseaux de neurones pour détecter des motifs complexes de réciprocité ou l’intégration de données réelles pour valider le modèle. »

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Contact

Contactez Paul Jorion

Commentaires récents

Articles récents

Catégories

Archives

Tags

Allemagne Aristote BCE Bourse Brexit capitalisme ChatGPT Chine Confinement Coronavirus Covid-19 dette dette publique Donald Trump Emmanuel Macron Espagne Etats-Unis Europe extinction du genre humain FMI France Grands Modèles de Langage Grèce intelligence artificielle interdiction des paris sur les fluctuations de prix Italie Japon Joe Biden John Maynard Keynes Karl Marx pandémie Portugal psychanalyse robotisation Royaume-Uni Russie réchauffement climatique Réfugiés spéculation Thomas Piketty Ukraine ultralibéralisme Vladimir Poutine zone euro « Le dernier qui s'en va éteint la lumière »

Meta