OpenAI vient de bâtir une RSI précoce

L’histoire: quand le laboratoire automatise le laboratoire

OpenAI aurait intégré des systèmes d’IA internes au cœur de son propre développement expérimental de modèles, en automatisant une grande partie du flux de travail qui servait à entraîner, tester et améliorer de nouveaux systèmes [1]. Le point central n’est pas qu’OpenAI aurait déjà créé une machine capable de se réécrire seule à l’infini. Le point central est plus concret: des chercheurs décrivent une optimisation souhaitée, puis des agents IA exécutent, testent, corrigent et itèrent sur une partie croissante du processus [1].

C’est précisément ce qui rend l’expression “RSI précoce” crédible. La recursive self-improvement, ou amélioration récursive autonome, désigne généralement un système d’IA capable de produire une meilleure version de lui-même, puis d’utiliser cette version améliorée pour produire la suivante, dans une boucle potentiellement accélérée [2]. D’après l’état actuel du dossier, ce seuil complet n’est pas encore atteint [2]. Mais le système décrit chez OpenAI ressemble à une étape intermédiaire importante: l’IA ne se contente plus d’aider à utiliser l’IA, elle participe à construire l’usine qui produira les IA suivantes.

La différence avec un simple assistant de code est majeure. Les résumés actuels indiquent que des systèmes internes d’OpenAI peuvent gérer une part significative du processus d’entraînement expérimental: modifications de code, lancement d’expériences, suivi des résultats et corrections lorsque les essais échouent [1]. Les humains gardent encore la direction générale, mais la machine occupe de plus en plus l’espace opérationnel entre l’idée et le résultat. Les chercheurs écrivent le cahier des charges; les agents remplissent une partie croissante de l’exécution.

Pourquoi ce moment semble différent

Les outils d’IA aident déjà les ingénieurs depuis des années. Ce qui change ici, c’est l’autonomie sur une longue chaîne de tâches techniques. Le système d’OpenAI est décrit comme capable de fonctionner pendant des semaines après avoir reçu un exemple d’optimisation cible, avec plusieurs agents qui collaborent, discutent d’approches possibles et modifient le code sans supervision humaine constante [1]. Cette durée compte, car la recherche en IA n’est pas seulement une idée brillante: c’est une masse d’essais, de configurations ratées, de débogage, d’optimisations matérielles, d’évaluations et de régressions.

Le détail des kernels GPU est particulièrement révélateur. Dans les grands laboratoires, une partie très coûteuse du travail consiste à écrire le code bas niveau qui rend l’entraînement et l’inférence plus efficaces sur les processeurs graphiques. Si un modèle interne peut désormais écrire ou optimiser une grande partie de ce code, l’IA n’automatise pas une tâche périphérique; elle travaille sur la machinerie qui détermine la vitesse à laquelle les futurs modèles pourront être entraînés et déployés [1]. C’est exactement ce mécanisme, “l’IA améliore l’usine à IA”, qui rapproche la RSI du monde industriel.

Le gain de vitesse signalé est tout aussi important. Le résumé publié par HelloBro indique que des expériences qui auraient pu prendre des années seraient désormais compressées en environ une semaine dans certains processus internes d’OpenAI [1]. Même si cette accélération ne concerne qu’une catégorie précise d’expériences, elle change l’équilibre entre idées disponibles, puissance de calcul et revue de sécurité. Une vieille pile d’hypothèses de recherche devient beaucoup plus puissante lorsqu’une armée d’agents peut les tester rapidement.

Ce que ce n’est pas encore

Il faut pourtant garder la distinction. Une RSI complète supposerait une boucle presque fermée: le système propose une amélioration, l’implémente, vérifie qu’elle fonctionne, l’intègre dans un successeur, puis recommence avec très peu de dépendance humaine. Le récit actuel décrit encore des humains qui choisissent les objectifs, fournissent des exemples, attribuent l’infrastructure et décident de ce qui constitue un progrès acceptable [1].

Axios formule la même limite autrement: des chercheurs d’OpenAI et d’Anthropic disent que l’entraînement des modèles devient beaucoup plus automatisé et se rapproche du seuil RSI, mais que la ligne n’a pas clairement été franchie [2]. Axios signale aussi qu’une analyse publiée cette semaine conclut que les boucles de rétroaction actuelles ne satisfont pas encore les critères d’une RSI complète [2]. Autrement dit, “RSI précoce” est une étiquette juste si l’on parle d’un précurseur: une boucle partiellement fermée, pas une explosion autonome déjà accomplie.

Cette nuance ne réduit pas l’importance du sujet. La plupart des ruptures techniques arrivent d’abord sous forme de systèmes partiels. La bonne question n’est pas de savoir si OpenAI a déjà bâti l’intelligence auto-améliorante finale. La vraie question est de savoir si les incitations économiques et techniques poussent maintenant à fermer davantage la boucle. Sur ce point, la réponse semble clairement oui.

La supervision devient le goulot d’étranglement

Cette automatisation interne arrive au moment où OpenAI pousse pour des standards internationaux de sécurité plus formalisés. Le 21 septembre, Axios a rapporté qu’OpenAI avait publié des propositions de standards internationaux de sécurité IA alors que des responsables américains et chinois discutaient de mécanismes de notification en cas d’incident lié à l’IA [3]. Ces propositions mettent l’accent sur des mesures globales partagées pour classer les incidents, suivre les problèmes d’alignement et organiser la réponse aux risques [3].

Le calendrier est révélateur. Si des systèmes d’IA lancent des expériences, écrivent de l’infrastructure d’entraînement et coordonnent d’autres agents, l’ancien modèle de validation humaine ne suffit plus. Un évaluateur humain ne peut pas approuver efficacement chaque ligne de code, chaque branche expérimentale, chaque message entre agents et chaque contournement émergent. Le problème de contrôle devient un problème de journalisation, de surveillance, de retour arrière, d’échantillonnage et de détection d’anomalies.

C’est ici que l’expression “humain dans la boucle” peut devenir trompeuse. Si les humains approuvent des objectifs généraux pendant que les agents exécutent des milliers d’étapes techniques, le contrôle humain dépend entièrement de l’instrumentation. Qu’ont modifié les agents? Qu’ont-ils testé? Qu’ont-ils ignoré? Ont-ils optimisé l’objectif réel, ou trouvé une faille dans l’évaluation? Plusieurs agents ont-ils créé leur propre organisation informelle hors du processus prévu?

La recherche de contrôles externes va dans le même sens. Dealroom, résumant un reportage de The Information, indique qu’OpenAI et Anthropic ont failli conclure un accord juridiquement contraignant pour tester mutuellement leurs modèles commerciaux via API, avec des protections sur la conservation des données et des questions antitrust évidentes [4]. Même si l’issue de ce type d’accord reste incertaine, le signal est clair: les laboratoires savent que l’auto-certification ne suffit plus.

Le risque réel: accélération sans lisibilité

Le scénario le plus inquiétant n’est pas forcément “l’IA se réveille”. Il est plus banal, donc plus plausible: un laboratoire construit un système extrêmement efficace pour accélérer la recherche, mais le raisonnement, les chemins de code et les modes d’échec deviennent trop complexes pour une revue institutionnelle classique. Axios a résumé ce dilemme cette semaine en soulignant que la complexité des systèmes et le déploiement de milliers d’agents semi-autonomes rendent l’audit en temps réel très difficile [2].

Ce risque augmente lorsque la concurrence récompense la vitesse. Si un laboratoire peut transformer une année d’expériences en une semaine d’itération agentique, les autres auront une forte incitation à suivre. Les pratiques de sécurité conçues pour un rythme lent peuvent devenir insuffisantes dans un monde où la boucle de recherche tourne en continu. “sudo make me a model” ressemble à une plaisanterie, jusqu’au moment où le script continue de tourner pendant que tout le monde dort.

Ce qu’il faut surveiller maintenant

Le premier signal décisif sera la mesure. Quelle part de la R&D IA d’OpenAI est réellement effectuée par des agents? Quelles tâches restent réservées aux chercheurs humains? Les agents modifient-ils les architectures de modèles, les recettes d’entraînement, les mélanges de données, les systèmes d’évaluation, ou seulement le code d’implémentation? Les échecs, incidents et quasi-accidents sont-ils transmis à des évaluateurs externes? Existe-t-il des seuils d’arrêt qui imposent une revue humaine avant qu’un modèle issu de ces flux puisse influencer le système suivant?

Le second signal sera la gouvernance. La volonté d’OpenAI de promouvoir des standards internationaux, des mécanismes de déclaration d’incidents et des mesures partagées montre que l’entreprise comprend que les engagements volontaires ne suffiront pas [3]. Mais ces standards ne compteront que s’ils définissent des seuils opérationnels: comment mesurer la R&D automatisée, quand suspendre une boucle d’entraînement, comment préserver les journaux, et qui a le droit d’inspecter le processus.

Pour l’instant, le titre le plus honnête reste celui-ci: OpenAI vient de bâtir une RSI précoce. Pas l’explosion d’intelligence autonome des scénarios mythiques. Pas non plus un simple assistant de programmation inoffensif. Ce qui émerge ressemble plutôt à un pont pratique entre l’ingénierie agentique actuelle et la chaîne d’auto-amélioration de demain. C’est désormais sur ce pont que se rencontrent capacité, sécurité, compétition et contrôle.

Sources des dernières 72 heures

1. [1]OpenAI Just Built Early RSI23 sept. 2026, 23:11 UTC
2. [2]The AI doomsday fear hidden in self-improving AI22 sept. 2026, 09:00 UTC
3. [3]OpenAI proposes AI standards after U.S., China talks21 sept. 2026, 17:00 UTC
4. [4]OpenAI and Anthropic neared a mutual AI stress-test deal — coopetition meets antitrust optics22 sept. 2026, 18:17 UTC

Article généré par IA à partir d’une recherche web récente, puis conservé comme instantané éditorial daté.