Darwin et l'IA : la sélection artificielle des machines

Le 24 novembre 1859, un naturaliste anglais de cinquante ans publie un livre au titre interminable : De l'origine des espèces au moyen de la sélection naturelle, ou la préservation des races favorisées dans la lutte pour la vie. Deux jours plus tôt, lors de la vente aux libraires organisée par l'éditeur John Murray, les commandes ont déjà dépassé les 1 250 exemplaires du premier tirage.

Le mécanisme que Charles Darwin y décrit tient en quelques lignes. Les individus varient. Certaines variations aident à survivre et à se reproduire dans un milieu donné. Elles se transmettent. On répète l'opération sur des millions de générations et on obtient des yeux, des ailes, des cerveaux.

Plus de cent soixante ans plus tard, nos modèles d'IA se copient, s'entraînent sur les sorties des autres et disparaissent quand une version plus rentable sort. L'air de famille est tentant. Reste à savoir qui joue le rôle de la nature.

Le plus apte, pas le plus fort

Petit détour par un contresens qui a la vie dure. « Survie du plus apte » n'est pas une formule de Darwin. Elle vient du philosophe Herbert Spencer, en 1864, Darwin ne la reprend qu'en 1868, sur le conseil d'Alfred Russel Wallace, puis l'ajoute en 1869 à la cinquième édition de L'Origine des espèces, en citant Spencer. Le mot anglais, fittest, désigne ce qui est ajusté à son environnement. Une bactérie est très apte. Un ours polaire au Sahara, beaucoup moins.

Quant à la phrase qu'on voit passer sur LinkedIn, « ce n'est pas le plus fort qui survit mais celui qui s'adapte le mieux au changement », Darwin ne l'a jamais écrite. Elle vient d'un professeur de management de Louisiane, Leon Megginson, qui paraphrasait Darwin en 1963.

Turing y avait pensé

En 1950, dans Computing Machinery and Intelligence, Alan Turing, déjà croisé dans l'histoire de l'intelligence artificielle, suggère de ne pas programmer une intelligence adulte d'un bloc.
Il préfère partir d'un « cerveau d'enfant » et le faire progresser. Il compare lui-même la démarche à l'évolution : la structure initiale de la machine tient lieu de matériel héréditaire, les modifications qu'on lui apporte de mutations. Et la sélection naturelle ? Sa réponse tient en une ligne :

« Sélection naturelle = jugement de l'expérimentateur. »
Alan Turing, Computing Machinery and Intelligence, 1950

On y reviendra.

Des algorithmes qui évoluent

En 1975, John Holland publie Adaptation in Natural and Artificial Systems et pose les bases des algorithmes génétiques. Au lieu de chercher directement la solution d'un problème, on fait évoluer une population de solutions candidates. Une fonction de fitness les note, on garde les meilleures, on les mute, on recommence.

Le plus simple est de le voir tourner. En 1986, dans L'Horloger aveugle, le biologiste Richard Dawkins écrit un petit programme baptisé « Weasel ». Il part d'une chaîne de caractères aléatoire et la fait évoluer jusqu'à une réplique de Hamlet : METHINKS IT IS LIKE A WEASEL. Voici l'idée en Java :

import java.util.Random;

public class Weasel {

    static final String CIBLE = "METHINKS IT IS LIKE A WEASEL";
    static final String GENES = "ABCDEFGHIJKLMNOPQRSTUVWXYZ ";
    static final int DESCENDANTS = 100;
    static final double TAUX_MUTATION = 0.05;
    static final Random RANDOM = new Random();

    public static void main(String[] args) {
        String parent = genomeAleatoire(CIBLE.length());
        int generation = 0;

        while (!parent.equals(CIBLE)) {
            String meilleur = parent;
            for (int i = 0; i < DESCENDANTS; i++) {
                String enfant = muter(parent);           // variation
                if (score(enfant) > score(meilleur)) {   // sélection
                    meilleur = enfant;
                }
            }
            parent = meilleur;                           // hérédité
            System.out.printf("Génération %3d : %s (%d/%d)%n",
                    ++generation, parent, score(parent), CIBLE.length());
        }
    }

    static String genomeAleatoire(int taille) {
        StringBuilder sb = new StringBuilder();
        for (int i = 0; i < taille; i++) {
            sb.append(GENES.charAt(RANDOM.nextInt(GENES.length())));
        }
        return sb.toString();
    }

    static String muter(String parent) {
        StringBuilder sb = new StringBuilder(parent);
        for (int i = 0; i < sb.length(); i++) {
            if (RANDOM.nextDouble() < TAUX_MUTATION) {
                sb.setCharAt(i, GENES.charAt(RANDOM.nextInt(GENES.length())));
            }
        }
        return sb.toString();
    }

    static int score(String candidat) {
        int score = 0;
        for (int i = 0; i < CIBLE.length(); i++) {
            if (candidat.charAt(i) == CIBLE.charAt(i)) score++;
        }
        return score;
    }
}

Un java Weasel.java suffit : depuis Java 11, la commande compile le fichier en mémoire et l'exécute dans la foulée. Et si le public static void main(String[] args) vous pique les yeux, un simple void main() suffit depuis Java 25. Chez moi, la phrase est apparue à la 41e génération :

Génération   1 : GPJEJDVORARMEAXYXZWBAXDOKYCC (1/28)
Génération   2 : GPJEJDVORARMQAXYXZWBA DOKY C (2/28)
...
Génération  41 : METHINKS IT IS LIKE A WEASEL (28/28)

Tirer 28 caractères au hasard et tomber juste, c'est une chance sur 27 puissance 28, soit à peu près 10 puissance 40. Ici, un enfant n'est gardé que s'il fait mieux que son parent : le score ne peut que monter, et c'est ce qui change tout. Dawkins parle de sélection cumulative.

Il signalait lui-même le défaut de son exemple : la cible est connue d'avance. La nature ne vise rien du tout.

Quand c'est un LLM qui mute

Les réseaux de neurones ont eu droit au même traitement. En 2002, Kenneth Stanley et Risto Miikkulainen présentent NEAT (NeuroEvolution of Augmenting Topologies), qui fait évoluer les poids d'un réseau et sa structure en même temps.

Google DeepMind a ensuite branché des modèles de langage sur la boucle. Avec FunSearch, publié dans Nature fin 2023, un LLM propose des variantes de programmes, un évaluateur automatique les note et les meilleures servent de parents à la génération suivante. Le système a trouvé de nouvelles constructions pour le problème mathématique des cap sets. AlphaEvolve a poussé l'idée plus loin en 2025. Il a trouvé une façon de multiplier deux matrices complexes 4×4 en 48 multiplications, un cas où personne n'avait fait mieux que l'algorithme de Strassen depuis 1969, Il a aussi produit une heuristique d'ordonnancement pour Borg, le gestionnaire de clusters de Google, qui récupère en moyenne 0,7 % des ressources de calcul de l'entreprise dans le monde.

Les mutations ne sont plus tirées au hasard, elles sont proposées par un modèle qui a lu beaucoup de code. Le squelette est toujours celui de Darwin.

Des éleveurs plutôt qu'une nature

On dit volontiers que les modèles d'IA « évoluent ». Leur histoire ressemble pourtant davantage à de l'élevage.

Darwin l'aurait sans doute vu tout de suite. Le premier chapitre de L'Origine des espèces ne parle pas de jungle, il parle de pigeons. Darwin en élevait chez lui, à Down House, et s'était inscrit à des clubs colombophiles londoniens. Il y observait comment des éleveurs, en choisissant chaque année les oiseaux qui leur plaisaient, avaient tiré du pigeon biset des races aussi différentes que le pigeon paon ou le culbutant. Il appelle ça la sélection méthodique, et s'en sert comme d'une porte d'entrée vers la sélection naturelle.

Côté IA, les éleveurs ont des outils plus modernes. Les benchmarks fixent ce qui compte comme « apte ». Le RLHF, l'apprentissage par renforcement à partir de retours humains, récompense les réponses que des annotateurs préfèrent. Puis le marché tranche : un modèle trop cher à servir finit déprécié, quelles que soient ses qualités.

C'est le jugement de l'expérimentateur dont parlait Turing. Les modèles s'adaptent aux critères qu'on leur donne, et les éleveurs connaissent le revers de la médaille. À force de sélectionner un seul trait, on abîme le reste : les bouledogues ont du mal à respirer, et un modèle optimisé pour un benchmark finit par apprendre le benchmark. Les économistes appellent ça la loi de Goodhart.

Une précision pour les puristes : l'entraînement d'un réseau par descente de gradient n'a rien d'évolutif. Il n'y a ni population ni reproduction, juste un modèle ajusté pas à pas pour réduire son erreur. S'il y a évolution, elle se joue au-dessus, entre les modèles, les architectures et les équipes qui les produisent.

Des modèles consanguins

Là où le parallèle avec la biologie devient vraiment parlant, c'est avec ce que j'avais appelé l'IA dégénérative. En juillet 2024, Ilia Shumailov et ses co-auteurs publient dans Nature une étude au titre explicite : AI models collapse when trained on recursively generated data. Un modèle réentraîné, génération après génération, sur des textes produits par son prédécesseur perd d'abord les cas rares, puis se met à produire des absurdités. Dans l'un de leurs essais, un texte de départ sur l'architecture médiévale devient, à la neuvième génération, une liste de lièvres à queue noire, blanche, bleue ou rouge.

En biologie, le phénomène est connu depuis longtemps. Une population isolée qui ne se reproduit qu'avec elle-même perd sa diversité génétique, et les variantes rares disparaissent par simple hasard : c'est la dérive génétique. Les Habsbourg d'Espagne en sont l'exemple le plus cité, avec Charles II, dernier de la lignée, mort sans descendance en 1700.

Pour un modèle, les données écrites par des humains jouent le rôle des gènes venus de l'extérieur. Elles apportent les exceptions et les tournures bizarres, tout ce qui traîne dans les queues de la distribution et qu'un modèle a tendance à lisser.

Un web rempli de textes générés, c'est un pool génétique qui rétrécit.

« Adapte-toi ou disparais »

Reste la question qui inquiète dans les open spaces : l'IA va-t-elle « sélectionner » les développeurs ? On entend souvent qu'il faut s'adapter ou disparaître. La formule sonne scientifique. Elle relève surtout du darwinisme social, cette lecture de l'évolution qui sert à justifier la compétition entre humains, et que l'on doit davantage à Spencer, encore lui, qu'à Darwin.

Le raisonnement a un problème de fond. L'évolution n'a pas de but, et être adapté ne veut rien dire hors d'un environnement précis. Or l'environnement d'un développeur n'a rien d'un climat ou d'une chaîne de montagnes. Ce sont des décisions d'entreprise, des budgets, des choix d'outils, tous pris par des humains et donc discutables.

Et puis la compétition n'est pas la seule stratégie qui marche. En 1902, le géographe russe Pierre Kropotkine publie L'Entraide pour rappeler que beaucoup d'espèces survivent parce qu'elles coopèrent. Les fourmis s'en sortent plutôt bien.

J'ai déjà imaginé où tout cela pouvait mener, dans Déboguer l'intuition puis dans la dystopie du dernier développeur. Le métier change, c'est évident. Je doute que l'avantage aille à celui qui génère le plus de lignes à l'heure. Je parierais plutôt sur celui qui comprend ce qui a été généré et sait l'expliquer à l'équipe.

Qui choisit ?

Darwin a décrit un processus sans auteur. Avec l'IA, nous avons reconstruit la mécanique (des variantes, un tri, une transmission) et nous y avons remis quelqu'un aux commandes. C'est nous qui écrivons les benchmarks, fournissons les données et décidons quel modèle on débranche.

En 1818, Mary Shelley racontait l'histoire d'un créateur qui fuit sa créature. Victor Frankenstein, au moins, n'avait fabriqué qu'un seul être. Nous, nous élevons des lignées entières, et ce que nous favorisons aujourd'hui donnera la prochaine génération.