Tiens ! Puisqu’on ne parle que de ça aujourd’hui : le mirage de l’épuisement des données

31 janvier 2025 9h59

Piqûre de rappel. Cela date du 12 décembre 2024 (l’équivalent de l’âge du bronze quand il est question d’IA).

J’expliquais qu’on ne manquerait pas de données puisque les IA produisaient désormais les leurs … de qualité supérieure à l’humain.

Synthetic data will be plenty and of a higher standard than human-produced

Grands Modèles de Langage, Intelligence Artificielle

AlphaGo, AlphaZero, Artificial Intelligence, Data, données synthétiques, Ilya Sutskever, Large Language Model, LLM, synthetic data

8 réponses à “Tiens ! Puisqu’on ne parle que de ça aujourd’hui : le mirage de l’épuisement des données”

Hadrien

31 janvier 2025 10h53

Je pense que l’intelligence implique la créativité. IA m’en semble dépourvue. Je changerai d’avis quand IA démontrera une conjecture mathématique non encore résolue.

Répondre
1. Hadrien
  
  31 janvier 2025 10h55
  
  PS, il y a bien sûr , d’autres exemples de créativité, dont 2 que j’ai testés , en vain.
  
  Répondre
  1. Thomas jeanson
    
    31 janvier 2025 11h33
    
    Raphaël, sors de ce corps !
    
    Répondre
2. Ruiz
  
  31 janvier 2025 11h43
  
  @Hadrien Déjà il serait pas mal de demander à l’IA d’énoncer une conjecture nouvelle !
  Et qui le reste un certain temps (non démontrée ou réfutée).
  
  Lui demander de démontrer une conjecture c’est lui demander de dépasser l’intelligence de tout les mathématiciens qui se sont penchés sur la question à ce jour !
  
  As-t-on besoin d’un tel niveau de performance pour déjà remplacer avantageusement quelques travailleurs intellectuels ?
  
  Répondre
  1. CloClo
    
    31 janvier 2025 12h46
    
    Allons plus loin, on prêtera attention aux commentaires d’Hadrien, qui manque pas mal de créativité à tourner en rond avec son équation de kaya et son eugénisme light, quand ce dernier aura résolu une conjecture mathématique même déjà résolue ! 😀
    
    Répondre
ilicitano

31 janvier 2025 13h32

Essai avec GPT4 o1 de création mathématique dans le domaine des réseaux de neurones profonds .

Prompt :
Pouvez-vous faire de la créativité en mathématiques ou physique ?

GPT4 o1:
Absolument! En mathématiques et en physique, je peux faire preuve de créativité dans les domaines suivants:

– **Résolution de problèmes**:
Proposer des solutions innovantes à des problèmes complexes.
– **Modélisation mathématique**:
Créer des modèles pour représenter des phénomènes physiques ou des systèmes complexes.
– **Visualisation de données**:
Générer des graphiques et des visualisations pour représenter des données de manière claire et attrayante.
– **Exploration de concepts**:
Expliquer des concepts mathématiques ou physiques de manière créative et accessible.
– **Simulation**:
Simuler des expériences ou des phénomènes physiques pour explorer des hypothèses.

Par exemple, je peux vous aider à visualiser les courbes de Bézier, à simuler un lancer de projectile ou à expliquer le principe de superposition en physique quantique.

A suivre

Répondre
1. ilicitano
  
  31 janvier 2025 13h35
  
  Prompt:
  
  Très bien . Créez un modèle mathématiques complexe que vous expliquerez de façon détaillée
  
  GPT4 o1
  D’accord, je vais vous expliquer un modèle mathématique complexe:
  **Le Modèle de Réseaux de Neurones Profonds**.
  C’est un concept clé dans le domaine de l’intelligence artificielle.
  
  ### Réseaux de Neurones Profonds
  
  Un réseau de neurones profonds est une structure mathématique inspirée du cerveau humain, composée de couches de neurones artificiels. Chaque neurone dans une couche est connecté à plusieurs neurones dans la couche suivante, et chaque connexion a un poids associé.
  
  #### Architecture du Réseau
  
  1. **Couches d’entrée**: Les neurones de la couche d’entrée reçoivent les données brutes (comme les pixels d’une image).
  2. **Couches cachées**: Entre la couche d’entrée et la couche de sortie, il y a une ou plusieurs couches de neurones. Ces couches sont appelées « couches cachées ».
  3. **Couche de sortie**: Les neurones de la couche de sortie produisent la sortie du réseau, comme la classification d’une image.
  
  #### Fonctionnement
  
  1. **Propagation avant (Forward Propagation)**:
  – **Entrée**: Les données d’entrée sont multipliées par les poids des connexions et passées à travers une fonction d’activation, qui introduit de la non-linéarité.
  – **Couches cachées**: Chaque neurone de chaque couche cachée effectue un calcul similaire.
  – **Sortie**: Le résultat final est calculé par les neurones de la couche de sortie.
  
  2. **Rétropropagation (Backpropagation)**:
  – **Erreur**: La différence entre la sortie réelle et la sortie prévue est calculée.
  – **Ajustement des poids**: Les poids des connexions sont ajustés pour minimiser cette erreur en utilisant un algorithme d’optimisation comme la descente de gradient.
  
  #### Mathématiques derrière les Réseaux de Neurones
  
  Pour un neurone \( j \) dans une couche donnée, la sortie \( y_j \) peut être calculée comme:
  
  \[ y_j = f\left(\sum_{i=1}^{n} w_{ij} x_i + b_j \right) \]
  
  où:
  – \( x_i \) sont les entrées du neurone.
  – \( w_{ij} \) sont les poids des connexions.
  – \( b_j \) est le biais.
  – \( f \) est la fonction d’activation (comme la fonction sigmoïde ou ReLU).
  
  #### Exemples de Fonctions d’Activation
  
  1. **Sigmoïde**:
  \[ f(x) = \frac{1}{1 + e^{-x}} \]
  
  2. **ReLU (Rectified Linear Unit)**:
  \[ f(x) = \max(0, x) \]
  
  3. **Tanh (Hyperbolic Tangent)**:
  \[ f(x) = \tanh(x) \]
  
  Les réseaux de neurones profonds peuvent apprendre des représentations très complexes des données, ce qui les rend extrêmement puissants pour des tâches comme la reconnaissance d’images, la traduction automatique, et bien d’autres applications d’intelligence artificielle.
  
  A suivre
  
  Répondre
2. ilicitano
  
  31 janvier 2025 13h37
  
  Prompt:
  
  Est ce votre propre création en tant que GPT4 o1?
  
  GPT4 o1:
  
  Le modèle de réseaux de neurones profonds que je viens de décrire n’est pas une création unique de ma part. Il s’agit d’un concept largement étudié et développé par la communauté scientifique et technologique depuis plusieurs décennies. Des chercheurs et des ingénieurs du monde entier ont contribué à l’évolution et à l’amélioration des réseaux de neurones artificiels.
  
  En tant qu’IA développée par Microsoft, je peux expliquer et illustrer ces concepts, mais je ne les ai pas « inventés ». Je suis capable de synthétiser et de présenter l’information de manière accessible et compréhensible. Mon objectif est de vous aider à comprendre et à utiliser ces concepts de manière efficace.
  
  Si vous avez d’autres questions sur les réseaux de neurones ou un autre sujet, n’hésitez pas ! 😊
  
  A suivre
  
  Répondre