GAN (Generative Adversarial Networks)

Les GAN (Réseaux Antagonistes Génératifs) sont une architecture de deep learning où deux réseaux s’affrontent pour apprendre à générer des données réalistes (images, sons, textes). Introduits par Ian Goodfellow en 2014.

Le principe : un jeu à deux joueurs§

graph LR
    Z["Bruit aléatoire<br/>z ~ N(0,1)"] --> G["Générateur G<br/>(le faussaire)"]
    G --> FAKE["Image générée<br/>(fausse)"]
    REAL["Image réelle<br/>(dataset)"] --> D["Discriminateur D<br/>(le détective)"]
    FAKE --> D
    D --> VERDICT["Vrai ou Faux ?"]

    VERDICT --> |"Feedback"| G
    VERDICT --> |"Feedback"| D

    style G fill:#E91E63,color:#fff
    style D fill:#2196F3,color:#fff
    style VERDICT fill:#FF9800,color:#fff

Analogie : un faussaire essaie de créer de faux billets, et un détective essaie de les repérer. Au fil du temps, le faussaire s’améliore et ses faux deviennent indiscernables des vrais.

Formulation mathématique§

Les deux réseaux jouent un jeu minimax :

$$\min_G \max_D ; V(D, G) = \mathbb{E}{x \sim p{data}}[\log D(x)] + \mathbb{E}_{z \sim p_z}[\log(1 - D(G(z)))]$$

• $D(x)$ : probabilité que $x$ soit réel (le discriminateur veut maximiser)
• $D(G(z))$ : probabilité que l’image générée soit classée comme réelle (le générateur veut maximiser)
• $p_{data}$ : distribution des données réelles
• $p_z$ : distribution du bruit (généralement gaussien)

Le processus d’entraînement§

graph TD
    subgraph "Entraînement alterné"
        direction TB
        STEP1["1. Entraîner D<br/>sur des vrais et faux exemples"] --> STEP2["2. Geler D<br/>Entraîner G à tromper D"]
        STEP2 --> STEP3["3. Répéter jusqu'à<br/>équilibre de Nash"]
    end

    subgraph "Évolution"
        E1["Début : G génère du bruit"] --> E2["Milieu : formes reconnaissables"] --> E3["Fin : images réalistes"]
    end

    style STEP1 fill:#2196F3,color:#fff
    style STEP2 fill:#E91E63,color:#fff
    style STEP3 fill:#4CAF50,color:#fff

Équilibre de Nash : l’entraînement converge quand D ne peut plus distinguer le vrai du faux ($D(x) = 0.5$ partout) et G produit des données indiscernables de la réalité.

Variantes principales§

graph TB
    GAN["GAN"] --> DCGAN2["DCGAN"]
    GAN --> CGAN["Conditional GAN"]
    GAN --> WGAN["WGAN"]
    GAN --> STYLEGAN2["StyleGAN"]
    GAN --> PGAN["ProGAN"]
    GAN --> CYCLEGAN2["CycleGAN"]
    GAN --> PIX2PIX2["Pix2Pix"]

    style GAN fill:#673AB7,color:#fff
    style DCGAN2 fill:#2196F3,color:#fff
    style STYLEGAN2 fill:#4CAF50,color:#fff
    style CYCLEGAN2 fill:#FF9800,color:#fff

DCGAN (Deep Convolutional GAN)§

• Remplace les couches denses par des convolutions
• Architecture stable pour la génération d’images
• Guidelines : pas de pooling, utiliser BatchNorm, ReLU pour G, LeakyReLU pour D

Conditional GAN (cGAN)§

• Ajoute une condition (label, texte, image) au générateur et au discriminateur
• Permet de contrôler ce que l’on génère (ex: “génère un chat roux”)

WGAN (Wasserstein GAN)§

• Remplace la log-loss par la distance de Wasserstein
• Entraînement beaucoup plus stable
• Réduit le problème de mode collapse

StyleGAN (Nvidia)§

• Génère des visages de qualité photographique
• Contrôle le style à différentes échelles (forme du visage, couleur des cheveux, texture de peau)
• StyleGAN2 et StyleGAN3 : améliorations successives

CycleGAN§

• Traduction d’image non appariée (unpaired image-to-image translation)
• Pas besoin de paires d’exemples
• Ex : transformer des photos en peintures, des chevaux en zèbres

Pix2Pix§

• Traduction d’image appariée (paired)
• Nécessite des paires (input, output)
• Ex : sketch → photo, carte satellite → plan

Problèmes courants§

Applications§

GAN vs Modèles de Diffusion§

Les modèles de diffusion (Stable Diffusion, DALL-E, Midjourney) ont largement remplacé les GAN pour la génération d’images depuis 2022 :

Les GAN restent pertinents pour les applications nécessitant une génération en temps réel.