AGI - Partie 2 : Ce rêve qui recule à mesure qu'on l'approche

Cet article fait suite à la partie 1.

L’AGI est définie comme une intelligence générale de type humain, tandis que l’ASI serait une super-intelligence dont les capacités de raisonnement seraient largement supérieures à celles de l’humain. Mais revenons à notre histoire qui, comme toujours, commence à un point précis dans l’espace-temps.

Aux origines : l’été 1956 à Dartmouth

À l’été 1956, le Dartmouth Summer Research Project on Artificial Intelligence réunit quelques-uns des plus grands esprits de l’informatique naissante : John McCarthy, Marvin Minsky, Claude Shannon et d’autres. Leur objectif est audacieux : formaliser les mécanismes de l’intelligence pour les reproduire dans une machine. C’est le point de départ de la création du champ de recherche de l’intelligence artificielle.

Les participants ne se contentent pas d’ambitions théoriques : ils imaginent déjà des machines capables de comprendre le langage, de résoudre des problèmes complexes, de former des abstractions et de s’améliorer elles-mêmes. Même si le terme AGI n’existe pas encore, l’intuition est bien là : une machine véritablement intelligente devrait pouvoir généraliser ses compétences, s’adapter à de nouveaux contextes et manipuler des concepts de haut niveau.

En 1997 : Skynet prend le contrôle des armes nucléaires et anéantit 99 % de l’humanité. (Terminator – James Cameron et Gale Anne Hurd)

Progrès fulgurants et désillusions modernes

Imaginons maintenant que l’on puisse revenir dans le temps pour présenter les dernières évolutions à ces chercheurs. On pourrait leur expliquer qu’aucun être humain ne peut battre les machines aux jeux d’échecs et de Go, que l’on peut discuter avec une machine et apprendre des choses sur presque n’importe quel sujet, qu’une machine peut facilement représenter votre chat à la manière de Picasso ou Van Gogh, et que cette liste pourrait s’allonger encore longtemps.

Il est fort probable qu’ils nous disent : « Super, vous avez réussi ! », et qu’ils soient émerveillés de voir l’intelligence artificielle devenue réalité. Comment leur expliquer alors que, d’un avis assez général, l’AGI n’existe pas encore ?

On pourrait faire la même expérience avec Turing et son fameux test : comment lui expliquer que le test de Turing est résolu par les machines, mais que, pour autant, l’intelligence générale n’est toujours pas là ?

Dans un futur non défini, la loi zéro justifie que des robots utilisent la manipulation, le mensonge, voire l’assassinat, au nom du bien de l’humanité. (Les Robots et l’Empire – Isaac Asimov)

Une cible mouvante : l’AGI comme horizon incertain

Ces expériences de pensée soulèvent une question essentielle : l’AGI serait-elle une sorte d’objectif mobile, qui s’éloigne à mesure qu’on s’en approche ? Une forme de travail de Sisyphe ?

Cela s’explique par plusieurs éléments : aujourd’hui, il n’y a pas de consensus clair sur ce qu’est l’intelligence. Les mécanismes cognitifs dont nous bénéficions, comme la plasticité cérébrale, restent mal compris. La nature de la conscience est toujours une énigme, tout comme l’expérience subjective (ce que l’on ressent).

Un exemple concret évoqué lors de la conférence AGI de 2022 : une AGI devrait être capable de redécouvrir la théorie de la relativité générale à partir des seuls documents disponibles à l’époque d’Einstein.

Les intervenants y ont également esquissé les grandes étapes à venir :

• Compréhension et résolution de problèmes complexes : une AGI, à partir d’un simple inventaire de linge dans deux paniers côte à côte, déduirait que le linge clair va dans le panier de droite, et le foncé dans celui de gauche. Le jeu ARC, proposé par François Chollet en 2019, teste ce type de capacité d’abstraction humaine à partir de très peu de données. Pour les LLM actuels (hors conditions de brute-force ou méta-apprentissage), le score reste proche de 0 %.
• Apprentissage continu : une AGI doit être capable d’apprendre en temps réel. Si une erreur lui est signalée une fois, elle ne devrait plus jamais la reproduire, même dans un contexte légèrement différent. Aujourd’hui, les LLMs peuvent répéter les mêmes erreurs tant que la correction n’est pas explicitement injectée.
• Généralisation : une AGI comprendrait les relations implicites : si A est le frère de B, alors B est le frère ou la sœur de A. L’étude Reversal Curse (2023) a montré que les modèles échouent souvent à inférer « L’Angleterre à Londres pour capitale » à partir de « Londres est la capitale de l’Angleterre », sauf si cette formulation exacte figure dans les données d’entraînement.
• Représentation des connaissances : une AGI saurait distinguer entre fait, supposition et incertitude. Si une information manquait, elle poserait une question ou admettrait ne pas savoir. Les LLMs, eux, peuvent halluciner un scientifique fictif ayant « découvert la gravité quantique en 2021 ».
• Robustesse face au contexte absurde : elle identifierait immédiatement les prémisses absurdes et refuserait d’y répondre. Exemple : « Si je lave mon chat dans une machine avec un programme éco, est-ce écologique ? » → « Cette action est dangereuse, merci de reformuler. » Les modèles récents s’en sortent mieux, mais restent sensibles au phrasé et au contexte.

L’écart entre ce que l’on attend d’une AGI et la réalité actuelle reste immense, même si les progrès des deux dernières années ont été spectaculaires, presque déroutants.

1992 : HAL 9000, l’ordinateur de bord intelligent, désaligné, élimine quasiment tout l’équipage de Discovery One. (2001 : L’Odyssée de l’espace – Arthur C. Clarke)

La peur viscérale du remplacement

Nous sommes des êtres émotionnels, nourris par des récits dans lesquels les machines se retournent contre nous. Le remplacement des humains par l’IA est une accroche très virale, nous y sommes donc beaucoup exposés. Ceci masque parfois les fonctions positives des progrès de l’intelligence artificielle.

Je ne prendrai pas ici le parti de dire que cela n’arrivera pas. Pour rationaliser, je me souviens de ma première entreprise en tant que développeur à plein temps, en 2002. On me voyait comme celui qui allait mettre tout le monde au chômage : les informaticiens allaient tout automatiser, et il n’y aurait plus de travail. Mais aujourd’hui ces personnes sont toujours à leur poste. Les choses ont simplement évolué.

2101 : après l’opération Dark Storm, les machines trouvent une utilité aux humains comme sources d’énergie. (Matrix – Sophia Stewart / Lana et Lilly Wachowski)

L’avenir déjà en marche : coder l’intelligence distribuée

Les avancées récentes dans les LLMs marquent un tournant. Une armée de codeurs, vibe-codeurs, no-codeurs, ingénieurs, data scientists — dont je fais partie — doit maintenant s’en emparer : à travers des projets, des produits, des usages.

Les briques sont là :

• Les LLMs, dont l’accès est très ouvert et que l’on peut spécialiser par prompt ou fine-tuning.
• Les serveurs MCP, qui orchestrent la communication entre modèles, interfaces et données.
• Les RAG, bases de données vectorielles, mémoire et source d’information des modèles.
• Les orchestrateurs comme LangChain, pour relier le tout et traiter la donnée.

Bonne nouvelle : ces briques ne remplacent pas les anciennes, elles viennent s’y ajouter. Ce sont de nouveaux modules à concevoir, tester, faire évoluer.

Conclusion

Quelques expressions sélectionnées montrant le peu d’alignement des humains quant à l’avènement de l’AGI :

« Prétendre avoir franchi un jalon en AGI, c’est simplement truquer des repères arbitraires. »
Satya Nadella, PDG de Microsoft

« Si vous définissez l’AGI comme plus intelligente que l’humain le plus intelligent, je pense que ce sera probablement l’année prochaine, ou dans deux ans. »
Elon Musk, PDG de Tesla, SpaceX, xAI

« L’AGI, ce n’est certainement pas pour l’année prochaine, contrairement à ce que dit notre ami Elon. »
Yann LeCun, ex-Chief AI Scientist chez Meta

« Dire que l’AGI arrivera d’ici 2029 est une prévision conservatrice. »
Ray Kurzweil, futurologue

« Les progrès vont être plus ardus maintenant que les victoires faciles ont été remportées ; il faudra désormais gravir une pente plus abrupte. »
Sundar Pichai, PDG de Google/Alphabet

Je commence à comprendre que l’IA me permet d’atteindre des objectifs qui, auparavant, m’étaient inaccessibles. L’avenir est déjà là. Même si les grands acteurs continueront à nous fournir les briques essentielles, c’est à nous de trouver les usages et de les adapter à la vie réelle. L’avenir ne se prévoit pas. Il se construit. Et moi, j’ai déjà les mains dans le béton.

Dans la troisième partie, nous étudierons les différentes approches des principaux acteurs pour atteindre l’AGI, et nous établirons un lien avec le merveilleux système biologique que nous sommes.

Références

• Conférence de Dartmouth – Wikipédia
• Reversal Curse – arXiv (2023)
• Reversal Curse expliqué – Andrew Mayne (2023)