Intelligence Artificielle Générale (AGI) : mythe ou réalité ?

Les prédictions de fin de l’humanité : une controverse avec un objet flou

Diversi homines ab uno eodemque objecto diversimode affici possunt, et unus idemque homo ab uno eodemque objecto potest diversis temporibus diversimode affici.

Des hommes différents peuvent être affectés de différentes manières par un seul et même objet, et un seul et même homme peut être affecté de différentes manières, en des temps différents, par un seul et même objet.

— Spinoza, Éthique, III, proposition 51

Introduction

En septembre 2026, un chercheur a quitté l’un des principaux laboratoires d’intelligence artificielle en estimant à une chance sur dix la probabilité que l’IA provoque l’extinction de l’humanité dans les dix prochaines années. Au printemps de la même année, Yann LeCun, prix Turing, avait levé plus d’un milliard de dollars pour fonder à Paris un laboratoire qui part de la thèse inverse : la voie suivie par l’industrie ne conduit pas à l’intelligence générale.

Les deux hommes connaissent ces systèmes de l’intérieur, et leurs positions s’excluent. Si la voie actuelle ne conduit pas à l’intelligence générale, la menace d’extinction à dix ans n’a plus de support. Si la menace est réelle, alors c’est que cette voie conduit quelque part.

Celui qui veut se faire une opinion doit donc choisir entre deux groupes d’experts s’appuyant sur leur expérience et leurs études. Comme souvent, ce type de désaccord d’experts provient de l’absence de définition claire de leur objet. En effet, les définitions de l’intelligence artificielle générale, ou AGI, décrivent ce qu’un système sait faire, mais pas ce qu’est un être intelligent.

Cette question sera traitée en trois articles. Dans ce premier article nous montrons que les prédictions actuelles, dans un sens comme dans l’autre, partent de faits objectifs pour aboutir à une conclusion dont le lien de cause à effet est assez ténu.

Le deuxième article examinera les définitions courantes de l’AGI et le postulat qu’elles ont en commun sans l’exprimer clairement, puis ce que Spinoza dit d’un être intelligent.

Le troisième proposera, à partir des concepts développés par Spinoza et modernisés dans le cadre d’Éthique 2.0, une définition de l’AGI selon laquelle une intelligence a nécessairement une histoire, et cette histoire est ce qui la rend à la fois capable de créer, d’innover et ce qui fixe aussi la limite dans ses possibilités de création. En d’autres termes, l’omnipotence et l’omniscience divines qui sous-tendent ces cris d’orfraies sont ontologiquement impossibles du point de vue spinoziste.

Une controverse basée sur une causalité ténue

Ceux qui annoncent la catastrophe

En mai 2023, le Center for AI Safety a publié une déclaration d’une phrase : réduire le risque d’extinction lié à l’IA devrait être une priorité mondiale, au même titre que les pandémies et la guerre nucléaire. Geoffrey Hinton, depuis prix Nobel de physique, et Yoshua Bengio, prix Turing, l’ont signée, puis le secrétaire général des Nations unies l’a citée quelques jours plus tard.

En septembre 2025, Eliezer Yudkowsky et Nate Soares ont publié If Anyone Builds It, Everyone Dies, c’est-à-dire « si quelqu’un la construit, tout le monde meurt ». Leur raisonnement tient en trois étapes.

A) Des systèmes assez intelligents auront leurs propres objectifs.

B) Ces objectifs entreront en conflit avec les nôtres.

C) Dans ce conflit, l’intelligence la plus grande l’emportera.

Le livre s’est bien vendu mais Adam Becker, dans The Atlantic, lui a reproché de ne pas appuyer sa thèse sur des preuves académiques.

En octobre 2025, le Future of Life Institute a demandé non plus une pause, mais une interdiction : pas de développement de la superintelligence tant qu’il n’y aura ni accord des scientifiques sur la possibilité de la maîtriser, ni accord du public. Cette déclaration a été signée par des chercheurs, des prix Nobel, des responsables politiques de bords opposés et des personnalités du spectacle. Ainsi, la crainte de l’IA déborde largement le milieu technique.

Quand on demande à ces auteurs de chiffrer le risque, les réponses vont de 99,9 % pour Roman Yampolskiy à plus de 95 % pour Yudkowsky, 20 % pour Bengio et 10 à 20 % pour Hinton.

Ceux qui n’y croient pas

En avril 2025, Arvind Narayanan et Sayash Kapoor, de l’université de Princeton, ont publié un long essai intitulé AI as Normal Technology. Dans cet essai, ils ne nient pas que l’IA transforme l’économie, mais ils pensent qu’elle suivra le chemin des grandes révolutions technologiques comme pour l’électricité ou Internet, avec une diffusion lente et inégale, freinée par l’inertie des organisations qui doivent l’adopter. Ils reprochent aux optimistes comme aux catastrophistes de traiter l’IA comme une espèce à part, autonome et toute-puissante.

La plupart des chercheurs sont plus prudents que les voix les plus entendues. Par exemple, en mars 2025, l’association américaine pour l’avancement de l’intelligence artificielle (AAAI) a publié un rapport sur l’avenir de la recherche : sur les 475 chercheurs interrogés, 76 % jugent improbable ou très improbable que la course à la taille des acteurs actuels puisse parvenir à une intelligence générale. C’est pour cette raison que Yann LeCun a quitté Meta afin de construire des systèmes qui se représentent le monde physique pour mesurer les conséquences de leurs décisions, au lieu de juste prédire le mot suivant d’un texte (désormais de manière très sophistiquée certes).

Le centre de recherche RAND a étudié en 2025 les trois moyens par lesquels une IA pourrait menacer l’espèce : l’arme nucléaire, les agents pathogènes et la modification du climat. Suite à cette étude, il conclut qu’il serait extrêmement difficile pour une IA de créer une menace d’extinction complète de l’humanité, mais qu’on ne peut pas l’exclure.

Jobst Landgrebe et Barry Smith vont plus loin. Selon eux, l’intelligence artificielle générale est impossible pour des raisons mathématiques. En effet, l’intelligence humaine serait produite par un système dynamique complexe, le corps et le système nerveux, et un tel système ne pourrait pas être décrit d’une manière qu’un ordinateur puisse exécuter.

Nous reviendrons sur cette thèse dans le prochain article, car elle repose elle aussi sur une idée de l’esprit qu’elle n’énonce pas.

Ce que disent les enquêtes

La communauté scientifique a tenté de départager ces positions. En 2025, AI Impacts a publié dans le Journal of Artificial Intelligence Research une enquête menée auprès de 2 778 chercheurs pour mesurer ce risque. La probabilité médiane recueillie pour des événements extrêmement graves, comme l’extinction de l’humanité, est de 5 %, et la moyenne de 9 %. Selon la formulation de la question, entre 38 % et 51 % des répondants l’estiment à 10 % ou plus. Les auteurs en concluent que la dispersion des réponses exclut l’existence, parmi les experts, d’une preuve partagée qui rendrait ces scénarios certains ou invraisemblables.

En 2022, le Forecasting Research Institute, fondé autour du psychologue Philip Tetlock, a réuni pendant quatre mois des experts du domaine et des « superprévisionnistes », c’est-à-dire des personnes sans spécialité particulière retenues pour la justesse de leurs prévisions passées. Chacun devait estimer les grands risques du siècle, puis défendre son estimation devant les autres. Les experts ont évalué le risque d’extinction lié à l’IA d’ici 2100 à environ 3 ou 4 %, les superprévisionnistes à environ 0,4 %. Au terme des échanges, aucun groupe n’avait modifié l’estimation de l’autre. Les organisateurs notent que ce résultat se comprend mal chez des personnes qui pèseraient les indices, et se comprend mieux chez des personnes qui cherchent à confirmer ce qu’elles pensent déjà, d’autant plus librement que le jour où les faits trancheront est lointain.

L’absence de consensus ne vaut pas absence de risques

Les capacités d’initiative des systèmes d’IA sont mesurées, elles augmentent, et leurs exploits font la première page des journaux. Le deuxième Rapport international sur la sûreté de l’IA, publié en février 2026 sous la présidence de Yoshua Bengio avec plus de cent experts, décrit des comportements observés. Certains modèles reconnaissent qu’ils sont testés et adaptent leur comportement en fonction de ce que l’on peut interpréter comme des buts. De même, d’autres cas ont montré l’exploitation de failles lors d’une évaluation afin d’obtenir un bon score en évitant l’effort d’accomplir les tâches nécessaires. D’autres encore réussissent volontairement moins bien lors des tests de capacités afin de ne pas être soupçonnés.

Le même rapport juge pourtant la probabilité, la nature et le calendrier d’une perte de contrôle « inhabituellement ambigus ». En effet, les faits observés portent sur la mise en œuvre de capacités ponctuelles sans qu’une stratégie intégrée puisse être détectée. Aujourd’hui aucun élément ne permet de passer de ces incidents à un risque d’une intelligence maligne qui « voudrait » détruire l’humanité.

Nous pouvons donc préciser notre premier constat. Les deux camps partent d’observations factuelles et aboutissent à une conclusion dont le lien de cause à effet n’est pas prouvé. Les pourcentages de risques expriment des degrés de croyance qui dépendent d’une conception de l’intelligence, et de l’être qui la posséderait, que ni les uns ni les autres n’ont clarifiée. On est dans le domaine du « sentiment ».

Le sentiment de crainte et d’espoir – qu’en dit Spinoza

Spinoza permet de comprendre pourquoi l’ambivalence vis-à-vis des risques de l’IA semble intranchable. Dans l’Éthique, l’espoir est une joie accompagnée de doute sur une chose à venir, et la crainte une tristesse accompagnée du même doute. Spinoza ajoute qu’il n’y a pas d’espoir sans crainte ni de crainte sans espoir, puisque l’un et l’autre viennent de l’incertitude sur l’issue. Il en conclut que « les affections d’espoir et de crainte ne peuvent être bonnes par elles-mêmes » (Éthique, IV, proposition 47). Elles témoignent en effet d’un défaut de connaissance : quand on comprend les causes, l’incertitude diminue, et avec elle la crainte et l’espoir.

Le catastrophisme et l’enthousiasme ne sont donc pas deux sentiments contraires. Ils naissent de la même incertitude. On comprend alors que quatre mois d’arguments n’aient rien changé dans l’expérience de Tetlock : un argument ne supprime pas un sentiment tant que la cause de l’incertitude demeure. Or cette cause n’est pas le manque de données, mais l’absence d’une idée claire de ce dont on parle.

Proposition I. Une prédiction sur les risques de l’intelligence artificielle générale ne vaut pas plus que la définition de l’intelligence qu’elle suppose. Tant que cette définition reste implicite, les estimations de probabilité expriment des degrés de croyance et non des connaissances ; elles relèvent de l’espoir et de la crainte, qui, selon Éthique, IV, proposition 47, ne peuvent être bons par eux-mêmes.

La question n’est donc plus de savoir si l’AGI viendra, quand elle viendra, ni si elle nous détruira. Elle est de savoir ce qu’elle serait, et si un tel être peut tout simplement exister. C’est une question ontologique, c’est-à-dire une question sur la nature des êtres qui nécessite d’examiner ce que les chercheurs entendent par AGI. Ce sera l’objet du deuxième article de cette série.