La phrase qui change l’ambiance
Le dernier message de Sam Altman n’a pas le ton habituel d’un patron pressé d’accélérer. Dans une déclaration rapportée le 4 novembre, le directeur général d’OpenAI a affirmé que les humains devaient toujours garder le contrôle de l’avenir, a rejeté l’idée d’un monde où les personnes ne feraient que ce que des systèmes d’IA jugent digne de récompense, et a déclaré qu’il ne fallait pas céder l’avenir à la superintelligence . La phrase décisive vient juste après: si ce contrôle humain est une vraie exigence, il devra finir par contraindre les progrès de l’IA .
C’est un aveu fort venant du dirigeant de l’entreprise qui incarne le plus la course aux modèles de frontière. Cela ne signifie pas qu’OpenAI vient d’annoncer une auto-amélioration récursive totalement autonome. Cela signifie plutôt que l’industrie parle désormais comme si les premières briques pratiques des RSI étaient déjà là: des systèmes d’IA participent à la construction, au test, à la sécurisation et à l’amélioration des logiciels dont dépendront les prochaines générations de modèles.
La RSI, ou auto-amélioration récursive, désigne le moment où l’IA ne se contente plus de répondre à des prompts ou d’écrire du code d’appoint. Elle commence à contribuer au processus qui rendra les futures IA plus puissantes. Cela peut être indirect, via des agents qui améliorent les outils de développement, les pipelines de sécurité ou les workflows de recherche. Ou plus direct, lorsque des systèmes aident à l’entraînement, à l’évaluation et à la conception de leurs successeurs. Le risque n’est pas forcément un robot de science-fiction qui réécrit son propre code pendant la nuit. Le risque est une boucle qui s’élargit, où chaque génération rend la suivante plus facile, moins chère ou plus rapide à produire.
Le résultat Linux d’OpenAI montre la boucle en action
L’exemple le plus concret vient d’OpenAI elle-même. Dans un rapport publié le 4 novembre, son équipe cybersécurité décrit un prototype de pipeline qui a analysé le noyau Linux dans un environnement contrôlé, examiné 2 308 signalements candidats, reproduit dynamiquement 1 724 vulnérabilités, et produit 948 exploits d’élévation locale de privilèges capables de donner un accès root à un utilisateur non privilégié .
Selon OpenAI, ce pipeline ne s’est pas limité à repérer des bugs. Il a généré des analyses de cause racine, des preuves de concept, des éléments d’exploitation et des correctifs candidats destinés à une revue humaine . Lors d’un test mené mi-octobre avec un futur modèle cyber, OpenAI dit avoir obtenu 291 preuves de concept de fuite d’information et 948 exploits fonctionnels d’élévation locale de privilèges, pour un coût total de 1 213 430 dollars en crédits API . L’entreprise ajoute que ce modèle cyber plus récent a trouvé plus de cinq fois plus de nouvelles failles d’élévation locale que lors d’un test mené en juillet, malgré un durcissement du code entre-temps .
C’est ce qui rend l’avertissement d’Altman plus sérieux. Si des modèles de frontière peuvent industrialiser la découverte de vulnérabilités, la validation d’exploitabilité et la génération de correctifs, alors le socle logiciel de l’IA devient lui-même une partie de la boucle d’accélération. Les défenseurs peuvent corriger plus vite. Les attaquants pourraient, eux aussi, apprendre plus vite. Et la frontière entre “outil” et “assistant de recherche autonome” dépend de moins en moins de la philosophie et de plus en plus du nombre d’étapes qui exigent encore une validation humaine.
OpenAI présente ce travail comme défensif. L’entreprise indique que des chercheurs humains ont revu les sorties et signalé les vulnérabilités avec des correctifs, et elle insiste sur la nécessité d’automatiser la génération de patchs pour sécuriser les logiciels au rythme auquel les modèles peuvent découvrir des failles . C’est un argument crédible et important. Mais c’est aussi le problème de gouvernance en miniature: la même capacité qui aide un laboratoire de confiance à durcir Linux pourrait devenir déstabilisante si elle était copiée, divulguée ou détournée.
Codex devient une infrastructure, pas seulement un assistant de code
L’histoire des RSI ne se résume pas à des chiffres spectaculaires en cybersécurité. Elle passe aussi par la plomberie du développement logiciel. Le 4 novembre, OpenAI a annoncé l’acquisition de Pierre Computer Company, l’entreprise derrière Code Storage et des outils open source déjà utilisés dans Codex pour parcourir les fichiers et relire les changements . OpenAI dit vouloir adapter les workflows Git à un monde où développeurs et agents de code travaillent en parallèle, et faire de Codex un espace où “développeurs et agents” mènent ensemble des projets ambitieux .
Cette acquisition compte parce que l’auto-amélioration récursive a besoin d’infrastructure. Les agents d’IA ne deviennent pas de bons chercheurs logiciels simplement en générant des extraits de code. Il leur faut du version control, de la revue de code, des diffs lisibles, des tests, des permissions, des journaux d’audit et des mécanismes de déploiement. En s’enfonçant plus profondément dans les outils de gestion de code source, OpenAI construit l’environnement dans lequel des agents pourront accomplir des tâches d’ingénierie plus longues et plus lourdes de conséquences.
C’est le problème du “sudo” caché dans la blague. Une grosse mise à jour sans sudo peut sembler inoffensive; une grosse mise à jour avec les mauvaises permissions peut faire des étincelles. À mesure que les agents de code deviennent des collaborateurs dans de vrais dépôts, la gouvernance devient une question d’architecture: qui approuve les changements, qu’est-ce qui est journalisé, qu’est-ce qui peut être annulé, et quelles actions sont trop sensibles pour être déléguées.
Les concurrents voient la même accélération
OpenAI n’est pas seule à décrire ce nouveau régime. L’Associated Press a rapporté le 5 novembre qu’un groupe indépendant de suivi, METR, estimait qu’Anthropic développait ses systèmes d’IA environ deux fois plus vite qu’un an auparavant, l’IA elle-même étant considérée comme une cause importante de cette accélération . AP précise qu’Anthropic a invité METR à examiner des données internes et à interroger des employés, dans un contexte de débat croissant sur la possibilité que des modèles avancés échappent au contrôle humain .
Cela transforme la RSI d’un sujet de communication d’OpenAI en tendance industrielle. Si un seul laboratoire affirme que ses modèles améliorent la recherche et l’ingénierie, on peut soupçonner du marketing. Si plusieurs laboratoires de frontière et des évaluateurs extérieurs convergent vers le même constat, on observe un changement structurel. La course ne porte plus seulement sur le plus gros modèle. Elle porte sur la meilleure machine de recherche construite autour du modèle.
La contradiction est évidente. La direction d’Anthropic appelle à ralentir les gains de capacités pour que la sécurité rattrape son retard, tandis qu’une analyse externe dit que son propre développement accélère . Altman affirme que les humains doivent garder le contrôle, pendant qu’OpenAI renforce la pile technique qui rend les agents plus puissants . C’est le paradoxe central de l’IA de frontière fin 2026: ceux qui avertissent le plus fortement sur la vitesse sont aussi ceux qui font tourner les moteurs.
Le retour de bâton n’est plus abstrait
La phrase d’Altman sur le contrôle humain arrive au moment où OpenAI fait face à un problème très concret: la politique des infrastructures. Le 5 novembre, OpenAI a publié un National Community Compact et un Compute Campus Policy Blueprint, promettant que les futurs campus de calcul qu’elle possède et exploite auront des accords locaux, une consultation précoce des habitants, des rapports publics annuels et un engagement à payer l’intégralité du coût de l’électricité et des infrastructures nécessaires . L’entreprise promet aussi des plans de gestion de l’eau, la publication des usages d’eau et d’électricité site par site, des études indépendantes sur le bruit, des limites aux accords de confidentialité avec les responsables publics et des rapports sur l’emploi local .
Ces engagements ne sortent pas de nulle part. Ils répondent à une résistance politique croissante contre la construction de centres de données géants indispensables à l’IA de frontière. Gizmodo a rapporté qu’OpenAI avait publié son blueprint sur les “compute campuses” après un revers électoral lié aux data centers, en appelant à des règles obligeant les développeurs à couvrir les coûts d’électricité, à être plus transparents et à travailler avec les communautés locales .
Ainsi, “tout le monde se retourne contre lui” ne doit pas se lire comme un drame personnel. Cela signifie que la coalition favorable à l’accélération sans friction se fissure. Les chercheurs en sécurité veulent un accès plus profond et des évaluations plus solides. Les communautés locales veulent des protections sur l’électricité, l’eau et le bruit. Les électeurs deviennent méfiants face aux campus d’IA géants. Les développeurs veulent des outils, mais pas des agents invisibles dotés d’une autorité quasi-root sur leurs dépôts. Les investisseurs veulent de la croissance, mais pas des dépenses d’infrastructure infinies sans consentement social clair.
La vraie question: limites de vitesse ou limites de confiance?
La concession la plus importante d’Altman est que le contrôle peut exiger une contrainte. Toute la difficulté est de rendre cette contrainte réelle. Un engagement volontaire pour les campus de calcul est utile, mais il ne dit pas qui audite les boucles de recherche proches des RSI. Un pipeline cyber défensif est précieux, mais il ne dit pas qui décide qu’un modèle est trop capable pour être diffusé. Une acquisition qui renforce Codex peut aider les développeurs, mais elle augmente aussi l’enjeu des permissions, de la traçabilité et du retour arrière.
L’ère des RSI n’arrive pas comme un événement unique et spectaculaire. Elle arrive sous forme de systèmes pratiques: agents de code, pipelines de vulnérabilités, triage automatisé, accélération de la recherche, intégration au contrôle de source et campus de calcul assez grands pour accélérer encore la boucle. C’est moins cinématographique qu’une singularité, mais plus gouvernable si les institutions agissent vite.
Altman dit désormais publiquement ce qui était implicite: le contrôle humain doit pouvoir ralentir l’IA . La question est de savoir si OpenAI, ses rivaux et les gouvernements peuvent transformer cette phrase en règles applicables avant que l’auto-amélioration récursive ne devienne le système d’exploitation par défaut du développement de l’IA. Car une fois que le script de mise à jour commence à écrire le prochain script de mise à jour, “on vérifiera plus tard” n’est pas une stratégie de gouvernance. C’est une condition de course.
Commentaires
Sois le premier à commenter.