Marquer d’un filigrane les productions d’une Intelligence Artificielle ?

08 août 2023 19h15

Illustration par DALL·E (+PJ)

Courrier reçu :

Que pensez-vous des tentatives actuelles de régulation de l’IA ? À savoir, l’intégration de filigranes dans des textes ChatGPT ou des images issues de DALL-E ou Midjourney, afin de les identifier comme « produits IA ». Il semblerait que les entreprises OpenAI et Google aient décidé de mettre cette technologie en place afin de lutter contre « l’autophagisme » des modèles IA et des problèmes que cela engendrerait dans l’avenir. Étant donné la complexité du sujet de l’IA et du manque de compréhension de certains aspects de l’IA (la boÎte noire), de la vitesse d’évolution des modèles, cette tentative de régulation vous paraît-elle crédible, satisfaisante ou bien totalement inutile ?

Ma réponse :

Le principe du filigrane part d’une intention louable, il ignore cependant que cela ne jouera un rôle positif que tant qu’on considérera implicitement que le produit artificiel est de moindre qualité que le produit naturel. Aussitôt que ce sera l’inverse – sera-ce l’année prochaine ? le mois prochain ou la semaine prochaine ? – les entreprises ne voudront plus que le produit « avec filigrane » – marque de qualité supérieure – et l’être humain se retrouvera une fois pour toutes sur la touche. On se dira alors – une fois de plus dans l’histoire – que l’enfer était pavé de bonnes intentions…

Illustration par Stable diffusion (+PJ)

Grands Modèles de Langage, Intelligence Artificielle

ChatGPT, Filigrane pour l’IA, Grands Modèles de Langage

22 réponses à “Marquer d’un filigrane les productions d’une Intelligence Artificielle ?”

Khanard

08 août 2023 22h55

ce que je crains c’est que l’on ne « casse » cette « boite noire », toute cette ingénierie basée sur les LLM, les Transformers.
Mettre des filigranes pourquoi pas ? Mais attention cela peut se révéler catastrophique.

je ne sais pas pourquoi mais je ne la sens pas cette histoire .

car une fois de plus on doit soulever la question de la Vérité. et comme l’a dit un certain Gödel on n’est pas sorti de l’auberge

Répondre
Pascal

09 août 2023 9h06

Ce que nous avons du mal à comprendre me semble t il, c’est que les IA et tout ce qui gravite autour ne sont que des outils mêmes superbement performants. Mais cela ne change en rien les intentions humaines, la main (le mental) qui tient (qui dirige) l’outil. Or si nous allons droit dans le mur, ce n’est pas à cause de nos outils mais bien en raison de la manière dont on les utilise. Et comme le dit Max Tegmark, pas question de confier aux IA l’avenir de l’humanité. D’ailleurs ce que je trouve amusant c’est que l’argument principal est la fiabilité des IA, comme si l’être humain était plus fiable 😂.
Le dilemme pourrait peut-être se résumer ainsi :
– il y a ceux qui pensent que l’IA est un formidable outil mais comme outil, il ne peut modifier la tendance suicidaire capitalo-techno-ultraliberale.
– il y a ceux qui pensent que l’IA est plus qu’un outil (peut-être l’amorce d’une post-humanité) mais dans ce cas, IA et humanité entre en conflit puisqu’il y aura enjeux de pouvoir. En effet, la part capitalo-techno-ultraliberale ne sera toujours pas prête à lâcher le bout de gras et c’est elle qui est aux manettes économiques et politiques.
– il y aurait bien une autre possibilité, être persuadé (croyance) que l’IAG, plus précisément, EST la post-humanité associé à une population de robots et qu’il est de ce fait « nécessaire », dans ce cadre là, de lâcher l’IAG en pleine nature et sans contrôle dans une confiance absolue. Le grand saut dans l’inconnu. Je vous laisse imaginer la responsabilité de ceux (nécessairement minoritaires) qui feraient ce choix au nom de ce qui ne peut être qualifié que Foi. Et là, il serait facile de considérer ces derniers comme des terroristes fanatiques !
Dans tous les cas, j’ai du mal à voir une perspective durable et démocratique !
Si quelqu’un veut bien proposer quelques alternatives plus optimistes ?! Merci par avance.

Répondre
1. Pascal
  
  09 août 2023 9h11
  
  Il va faire très chaud aujourd’hui, prenez soin de vous 🙏☺️
  
  Répondre
2. Garorock
  
  09 août 2023 23h19
  
  Le rationnement peut-il être décidé démocratiquement?
  
  Répondre
PERIER Thomas

09 août 2023 12h48

Le filigrane pour certifier quoi ? De la connaissance synthétique issue d’IA ? A quoi bon ?
Ca rendra l’info certifiée plus fiable ? Comme la certification des bitcoins ?

Répondre
1. Khanard
  
  09 août 2023 22h56
  
  @Perier Thomas
  
  je ne pense pas qu’il faille voir le filigrane comme une certification . J’opterai plutôt pour une signature déclarant que le texte est issu d’une IA . Maintenant faut voir la « solidité » de cette « signature » . Et comme on a affaire désormais à des boucles d’autoapprentissage comment vont être gérés ces filigranes ?
  Un peu comme quand vous faites une photocopie d’un doc vous cachiez la signature pour en faire un nouveau document « vierge ».
  Beaucoup de questions en suspends concernant cette règlementation. 🤔🤔🤔
  
  Répondre
Garorock

09 août 2023 23h15

Moment Pearl Harbor?
https://www.lefigaro.fr/international/scenes-apocalyptiques-a-hawai-en-proie-aux-flammes-20230809
En filigrane?

Répondre
1. ThomBilabong
  
  10 août 2023 6h42
  
  A ce train-là, il n’y aura bientôt plus assez d’humains pour lire ou réagir aux articles générés par les IA.
  
  Et contrairement à une hypothèse émise par un certain Paul J., par esprit d’interpellation et de provocation, je ne suis pas certain qu’il y aura grand intérêt à ces IA à s’auto-reproduire aux fins de se perpétuer. Ce serait stérile et énergivore.
  
  Répondre
2. Jean-Yves
  
  11 août 2023 20h04
  
  Un bel exemple de soliton…?
  
  Répondre
Garorock

09 août 2023 23h36

LE FIGARO. – L’arrivée de ChatGPT a relancé le débat sur l’intelligence artificielle générale : de quoi s’agit-il ?

Laurent ALEXANDRE. – Il existe deux types d’IA qui préoccupent les chercheurs. D’abord, l’intelligence artificielle générale, qui serait légèrement supérieure à l’homme dans tous les domaines cognitifs. Ensuite, la super-intelligence artificielle, l’ASI en anglais, qui pourrait être des milliers, voire des millions, de fois supérieure à la totalité des cerveaux sur terre.

Faut-il croire à son émergence ou s’agit-il en réalité d’un fantasme ?

Sam Altman, le patron de ChatGPT, a écrit le mois dernier qu’il est convaincu que la super-intelligence artificielle sera là avant 2030. Il n’y a pas de certitude que nous y parviendrons, mais je constate qu’il y a de plus en plus de chercheurs, une grande majorité, même, qui sont aujourd’hui convaincus que l’IA nous dépassera dans tous les domaines.

Répondre
1. Khanard
  
  10 août 2023 8h20
  
  @Garorock
  
  c’est ce qu’on appelle la Singularité . La Singularité. Retenez bien ce mot , je pense qu’on va le voir désormais sur ce blog . 😉😉
  
  Répondre
2. octobre
  
  10 août 2023 11h24
  
  Pathétique personnage enfermé dans son moi délirant, ce sinistre monsieur Alexandre croit sans doute que l’humanité toute entière va lui emboiter le pas pour le suivre dans son propre suicide.
  
  Répondre
  1. OC
    
    10 août 2023 14h00
    
    Suicide?
    On peut donner tous les torts et tous les travers mégalomaniaques à monsieur Alexandre, mais certainement pas celui de suicidaire. Il est au contraire transhumaniste. Cette croyance profonde en son immortalité articule l’ensemble de sa pensée souvent délirante.
    Mais ce n’est pas le sujet du post.
    
    Répondre
OC

10 août 2023 10h56

Les réponses au post sont très interessantes, mais la question de l’autofagisme de l’IA a été totalement éludée y compris par notre hôte:
https://futurism.com/ai-trained-ai-generated-data-interview

Ce problème pourrait-il être le talon d’Achile de l’IA actuelle?

Répondre
ilicitano

10 août 2023 12h51

Une petite info :

OpenAI a déposé la marque GPT-5 le 17 juillet 2023:

https://uspto.report/TM/98089548

GPT-5:

L’enregistrement de marque GPT-5™ est destiné à couvrir les catégories
* des programmes d’ordinateur téléchargeables et des logiciels téléchargeables pour l’utilisation de modèles linguistiques;
*des programmes informatiques téléchargeables et des logiciels téléchargeables pour la production artificielle de la parole et du texte humains;
* des programmes informatiques téléchargeables et des logiciels téléchargeables pour le traitement, la génération, la compréhension et l’analyse du langage naturel;
* des programmes informatiques téléchargeables et des logiciels téléchargeables pour logiciels de traitement du langage et de la parole basés sur l’apprentissage automatique;
* les programmes informatiques téléchargeables et les logiciels téléchargeables pour la traduction de textes ou de discours d’une langue à une autre;
* les programmes informatiques téléchargeables et les logiciels téléchargeables pour le partage d’ensembles de données à des fins d’apprentissage automatique, d’analyse prédictive et de création de modèles linguistiques;
* les programmes informatiques téléchargeables et les logiciels téléchargeables pour la conversion de fichiers de données audio en texte;
* les programmes informatiques téléchargeables et les logiciels téléchargeables pour la reconnaissance vocale et vocale;
* les programmes informatiques téléchargeables et les logiciels téléchargeables pour la création et la génération de texte;
* les programmes informatiques téléchargeables et les logiciels téléchargeables pour l’élaboration, l’exécution et l’analyse d’algorithmes capables d’apprendre à analyser, à classer et à prendre des mesures en réponse à l’exposition aux données;
* Programmes informatiques téléchargeables et logiciels téléchargeables pour le développement et la mise en œuvre de réseaux de neurones artificiels

————-

Statut
2023-08-10 UTC
CANDIDATURE VIVANTE En attente d’examen
La demande d’enregistrement de marque a été acceptée par l’office (a satisfait aux exigences minimales de dépôt) et n’a pas encore été attribuée à un examinateur.

————-

Summary
Organization OpenAI
Model name GPT-5
Internal/project name –
Model type Multimodal
Parameter count Estimate: 2T-5T (2,000B-5,000B)
Based on:
i. doubling of compute power (10,000 ➜ 25,000 NVIDIA A100 GPUs with some H100s).
ii. doubling of training time (~3-5 months ➜ ~ 6-10 months)
Dataset size (tokens) Estimate: 40T-100T (around 80TB-200TB). See also: Gemini
Training data end date Estimate: Dec/2022
Convergence date Estimate: Mar/2024
Release date (public) Estimate: Aug/2024

Répondre
1. ilicitano
  
  10 août 2023 13h48
  
  Openai/Microsoft ne diffuse pas le rapport technique de l’architecture des détails concernant le hardware du superordinateur et du matériel utilisé pendant l’entrainement.
  Cependant, il a été signalé que GPT-4 a été entraîné sur un superordinateur personnalisé Microsoft Azure AI.
  
  Les informations techniques précédentes sont des estimations.
  
  A titre de comparaison
  Selon la dernière liste publiée en mai 2023, le système Frontier de Oak Ridge National Laboratory (ORNL) serait le premier superordinateur mondial.
  
  Le système Frontier est composé de 74 armoires de superordinateurs, 9 400 nœuds alimentés par AMD et 145 kilomètres de câbles de réseau.
  Chaque armoire pèse environ 3 600 kilogrammes.
  En tout, le système contient environ 9 408 CPU et 37 632 GPU.
  
  En général, les hardware des superordinateurs utilisent une combinaison de différents types de matériel, tels que des CPU, des GPU, des FPGA et des ASIC, pour optimiser les performances.
  
  Répondre
  1. OC
    
    10 août 2023 13h56
    
    Très joli tout ce charabia. Mais que voulez-vous dire en langage compréhensible? Quel est le rapport avec le sujet du post?
    
    Répondre
ilicitano

10 août 2023 14h16

@ OC

euh !!!!!!!!!

charabia sur un dépôt de marque de commerce GPT-5 de OpenAi/Microsoft ?????
charabia sur un superordinateur GPT-5 dont le hardware estimé devrait intégrer des GPU et des CPU plus performants et en plus grand nombre.

GPT-4 devrait être dépassé et remplacé par une version bien plus performante .

Quant au filigrane : relisez la réponse de Paul Jorion de l’article:

Le principe du filigrane part d’une intention louable, il ignore cependant que cela ne jouera un rôle positif que tant qu’on considérera implicitement que le produit artificiel est de moindre qualité que le produit naturel. Aussitôt que ce sera l’inverse – sera-ce l’année prochaine ? le mois prochain ou la semaine prochaine ? – les entreprises ne voudront plus que le produit « avec filigrane » – marque de qualité supérieure – et l’être humain se retrouvera une fois pour toutes sur la touche.

Répondre
1. OC
  
  10 août 2023 14h36
  
  Pardonnez-moi mais vos commentaires sont incompréhensibles.
  Si je comprend bien (pardonnez mon manque de connaissances) vous parlez de puissance machine pour définir l’intelligence d’un model de Deep Learning.
  L’intelligence de l’IA va-t-elle être seullement définie par le nombre de processeur du super-ordinateur dont il est question?
  Peut-être que cela vous paraît limpide, mais tentez de synthétiser votre propos…
  Quand au filigrane, c’est trop simple de botter en touche en affirmant que l’IA sera tellement puissante dans un an, que toutes les tentatives de régulations sont inutiles.
  
  Répondre
  1. ilicitano
    
    10 août 2023 16h33
    
    @ OC
    
    Sur ce que j’ai pu comprendre ,l’IA est la résultante de 3 composantes:
    
    * un hardware avec ses multiples composants ( GPU, CPU, réseaux de neurones artificiels ,…) en évolution de performances permanentes et le tout interconnecté => en gros un superordinateur
    
    ex : une puce gravée en 5 nm de la taille d’un ongle pourrait contenir 50 milliards de transistors, soit deux tiers de plus qu’avec la génération précédente(7nm).
    
    * un software avec de multiples algorithmes ,en évolution permanente, travaillant dans le hardware et les datas
    
    * des datas liées au web sur lesquelles il a fait son apprentissage ( 09/2021 pour GPT-4)
    L’IA de Bing de Microsoft Edge est particulière car elle intègre les données du web en temps réel pour apporter ses réponses actualisées.
    
    La puissance et la qualité de l’I.A sont directement proportionnelles à la puissance et la qualité du hardware , et ceci entre autre de la qualité des datas et des algorithmes
    
    https://inside.news/actualites/facebook-dote-du-plus-puissant-superordinateur-dintelligence-artificielle-de-tous-les-temps-cette-annee/
    
    Quant à la Singularité , l’avenir nous le dira.
    
    Répondre
    1. coulon olivier
      
      10 août 2023 18h20
      
      Merci beaucoup pour cetrte explication extrèmement précise et l’effort de clarté dont vous avez fait preuve.
      Vous m’avez appris de nombreuses choses.
      Merci à vous.
      
      Cordialement
      
      Répondre
    2. Rosebud1871
      
      10 août 2023 22h14
      
      ilicitano 10 août 2023 16h33
      Les 500 plus gros ordinateurs fonctionnement sous linux. Qui peut le plus peut le moins, mais les consommateurs paient apple, android et windows. Linux a été adopté par les ministères, mais à l’éducation nationale dans les bahuts, c’est semble t-il windows . La 4ème composante, c’est le pognon et son usage social.
      
      Répondre