NEAT

01La Neuroevolution

Dans le cours sur les reseaux de neurones, vous avez decouvert la retropropagation : un algorithme qui ajuste les poids en calculant des gradients.

Mais que faire si :

• Vous n'avez pas de labels pour l'apprentissage supervise ?
• La fonction d'objectif n'est pas derivable ?
• Vous voulez que l'architecture elle-meme evolue ?

C'est la que la neuroevolution entre en jeu : une approche inspiree de la selection naturelle qui fait evoluer des populations de reseaux de neurones.

02Le Genome

Dans NEAT, un reseau de neurones est encode comme un genome : un ensemble de genes qui definissent sa structure.

Il existe deux types de genes :

• NodeGene : Represente un neurone (id, type, biais)
• ConnectionGene : Represente une synapse (entree, sortie, poids, actif, innovation)

Chaque connexion possede un numero d'innovation unique qui permet de suivre son historique evolutif a travers les generations.

03Les Mutations

Les mutations sont le moteur de la variation genetique. Dans NEAT, il existe trois types principaux :

• Mutation de poids : Ajuste legerement les poids (le plus frequent)
• Ajout de connexion : Cree un nouveau lien entre deux neurones
• Ajout de noeud : Divise une connexion en inserant un neurone cache

Ces mutations permettent aux reseaux de complexifier progressivement leur structure, partant d'un reseau minimal pour evoluer vers des architectures sophistiquees.

04Innovation & Crossover

Lorsque deux genomes se reproduisent, comment aligner leurs genes ? C'est la que les numeros d'innovation interviennent.

Chaque nouvelle connexion recoit un numero unique. Lors du crossover :

• Matching genes : Meme numero d'innovation dans les deux parents
• Disjoint genes : Numero present dans un seul parent (milieu de plage)
• Excess genes : Numero present dans un seul parent (fin de plage)

L'enfant herite de tous les genes du parent le plus fit, et choisit aleatoirement parmi les matching genes.

05La Speciation

Imaginez une innovation prometteuse mais fragile : un nouveau neurone qui augmente temporairement l'erreur. Dans une competition directe, cette innovation disparaitrait !

La speciation protege la diversite en regroupant les genomes similaires en especes. La distance de compatibilite mesure la similarite :

Ou E = genes excess, D = genes disjoint, N = taille du plus grand genome, W = difference moyenne de poids.

Si δ < seuil, deux genomes appartiennent a la meme espece.

06Fitness & Selection

La fitness mesure la performance d'un genome sur une tache (survie dans un jeu, distance parcourue, etc.).

Mais pour proteger les especes petites et innovantes, NEAT utilise le fitness sharing :

Ainsi, une espece nombreuse voit sa fitness divisee : cela evite qu'une espece dominante n'elimine toutes les autres.

Lors de la reproduction, chaque espece recoit un nombre de descendants proportionnel a sa fitness ajustee totale.

07Le Cycle d'Evolution

NEAT fonctionne par generations. A chaque generation :

1. Evaluation : Chaque genome joue et obtient une fitness
2. Speciation : Les genomes sont regroupes en especes
3. Selection : Seuls les meilleurs de chaque espece se reproduisent
4. Crossover : Combinaison de deux parents pour creer un enfant
5. Mutation : L'enfant subit des mutations aleatoires

Les especes stagnantes (pas d'amelioration pendant N generations) sont eliminees.

08Applications Reelles

NEAT a ete utilise avec succes dans de nombreux domaines : jeux video, robotique, simulation, art generatif...

Sur ce site, vous pouvez voir NEAT en action sur deux demos :

• Flappy Bird : NEAT apprend a jouer en evaluant la position des tuyaux
• Course de voitures : NEAT evolue des pilotes en utilisant des capteurs de distance

Observez la difference entre un reseau de Generation 1 (simple, aleatoire) et Generation 50+ (complexe, optimise).