En matière d’IA, la décennie qui nous attend pourrait être vertigineuse !
Dans une brillante série de 8 essais, Léopold Aschenbrenner, jeune chercheur et ex-responsable du super-alignement à OpenAI (ChatGPT), fait un survol complet de la situation actuelle en matière d’IA et de ce qui pourrait nous attendre dans la prochaine décennie.
En retraçant l’histoire récente de l’IA générative, de GPT-2 (2018) à GPT-4 (2023), il utilise des ordres de grandeur pour étayer son analyse prospective, indiquant que chaque niveau est le décuple (x10) du précédent.
Selon lui, et contrairement à l’idée actuelle que nous aurions atteint un plafond de performances en IA, il faudrait donc s’attendre à une prochaine accélération d’une ampleur similaire à celle des 4 dernières années, ce qui nous amènerait à la frontière de l’AGI vers 2027-2028.
L’AGI (intelligence artificielle générale) est une IA surpassant l’humain dans la totalité de ses capacités cognitives (raisonnement, abstraction, etc.).
Pour l’instant, nous disposerions avec GPT-4 et des modèles semblables d’un assistant ayant le niveau d’un « lycéen intelligent », ce qui ne surprend plus personne. Pourtant, il y a deux ans à peine, même les meilleurs spécialistes ne s’attendaient pas à de telles performances avant 2030, voire 2040 !
En s’appuyant sur trois facteurs de progrès, Aschenbrenner explique comment l’AGI se dessine de façon quasi certaine, et à brève échéance :
- La puissance de calcul, dopée par les progrès dans la finesse de gravure des processeurs (voir mon article précédent), autant que par les budgets colossaux désormais alloués (on parle de milliers de milliards de dollars).
- Les nombreux, et souvent oubliés, progrès algorithmiques.
- Enfin, le « débridage » des possibilités latentes des LLM (connexion à Internet, amélioration des prompts, immixtion dans nos outils du quotidien, etc.).
Cette AGI serait l’équivalent d’un ingénieur ou d’un doctorant de haut niveau, omniscient, donc un expert au fait du meilleur état de l’art, toutes matières confondues.
Par analogie, l’explosion d’Hiroshima pourrait être comparée à la mise à disposition commerciale de l’AGI sur l’échelle de temps de l’IA, préfigurant l’émergence soit d’un miracle technologique monumental, soit d’un véritable danger : la super-intelligence, probablement par un agrégat de millions / milliards d’AGI pour commencer, l’équivalent de l’ère de la bombe H (hydrogène), potentiellement 1.000.000 de fois plus puissante !
La différence ici, c’est qu’entre l’AGI et l’arrivée de la super-intelligence, il pourrait ne se passer que quelques mois et non plus quelques décennies.
Tout concourt à ce que les capitaux, les ressources énergétiques (principalement nucléaires) comme les récentes découvertes et les moyens techniques permettent d’atteindre ce stade en moins de 10 ans.
Une ère extraordinaire de découvertes scientifiques et de prospérité économique comme l’humanité n’en a jamais connue pourrait arriver, et personne n’y est vraiment prêt, ni en a vraiment conscience.
En matière de superalignement (protection des humains) de ce type d’IA, l’inquiétude est palpable dans la communauté des chercheurs, et probablement similaire à celle qui prévalait au début des années 1940, quand les premières expériences de fission nucléaire préfiguraient la bombe atomique et ses conséquences, comprises seulement par une poignée d’entre eux.
La question est posée : comment superviser une super-intelligence quand on ne sera plus capable de la comprendre ? Ce serait comme demander à un écolier de superviser un chercheur en physique nucléaire sur ses réelles intentions ! Les scénarios à la « Skynet » (Terminator) seront-ils donc probables / possibles ?
L’auteur s’inquiète également de la sécurité presque inexistante aujourd’hui dans un monde essentiellement fait de startups, soulignant qu’il sera nécessaire que les gouvernements prennent ce sujet à bras-le-corps, et vite !
Enfin, l’intégration de l’AGI puis de la super-intelligence sera inévitable dans le domaine militaire et amplifiera drastiquement les tensions géopolitiques. Une nouvelle course à l’armement est (déjà) en cours.
Se pose donc réellement la question de la souveraineté face à d’autres puissances, pas forcément « démocratiques », et qui pourraient avoir accès à ce type de technologie proprement démiurgique.
Tous les sujets sont abordés ici : technologiques, économiques, philosophiques, et ces essais regorgent de références à consulter pour aller plus loin.
Une lecture à mon sens indispensable pour quiconque s’intéresse de près ou de loin au sujet, rédigé par un spécialiste de ces questions.