Le sujet n’est pas une IA déjà autonome
Le titre de travail correspond bien à l’histoire: Sam Altman vient de dire que l’ère du RSI a commencé, alors que tout le monde se retourne contre lui. La nuance essentielle est la suivante: Altman ne dit pas qu’une machine totalement autonome aurait déjà pris le contrôle de son propre perfectionnement. Ce qu’il dit, dans un long entretien récent avec Raj Shamani, c’est que son problème le plus difficile du moment consiste à gérer le rythme du progrès alors que l’IA entre dans l’ère du RSI .
Cette formule est importante parce qu’elle déplace le débat. Le RSI, ou amélioration récursive de soi, désigne généralement le moment où un système d’IA contribue à créer un système d’IA plus puissant, qui accélère ensuite le cycle suivant. Dans la version actuelle d’Altman, l’enjeu immédiat n’est pas une explosion soudaine et parfaitement autonome. C’est une transition progressive, confuse et déjà politique: les outils d’IA aident la recherche, le code, l’évaluation et le développement de produits, tandis que les humains continuent de fixer les objectifs, de décider ce qui est publié et de porter la responsabilité publique lorsque la puissance devient inquiétante .
C’est précisément pour cela que le sujet est explosif. Altman ne décrit pas seulement une courbe technique. Il décrit un piège de gouvernance.
Deux scénarios d’échec: perte de contrôle et concentration du pouvoir
Dans la transcription de l’entretien, Altman ramène les risques à deux grandes familles. La première est l’accident de perte de contrôle: les humains cèdent, volontairement ou non, trop de pouvoir sur l’avenir à des systèmes devenus bien plus capables qu’eux. La seconde est l’accident de concentration du pouvoir: une personne, une entreprise ou un pays obtient un levier disproportionné grâce à l’IA .
Ce second risque explique pourquoi ses propos ont été reçus de manière si ambiguë. Altman met en garde contre exactement le danger que ses critiques associent déjà à OpenAI: l’accumulation de puissance, de données, d’infrastructure, d’utilisateurs et d’influence autour d’un petit nombre de laboratoires. Dans le même entretien, il défend le pluralisme et dit qu’il ne serait pas souhaitable qu’OpenAI soit seule à posséder cette technologie . Mais le compte rendu publié après l’interview souligne aussi la tension centrale: Altman plaide pour plusieurs efforts concurrents tout en reconnaissant que l’avantage d’OpenAI tient à sa base d’utilisateurs, à sa marque, à sa chaîne technique, à ses modèles et à son accès à l’infrastructure .
Voilà le paradoxe de gouvernance de l’ère RSI. Les laboratoires affirment que l’échelle est nécessaire pour rendre les systèmes utiles et sûrs. Les critiques répondent que cette même échelle rend la surveillance plus difficile, la concurrence plus étroite et le contrôle démocratique plus fragile.
Pourquoi l’étiquette de “méchant” colle
Le retour de bâton n’est pas seulement technique. Il est personnel. Un article récent de NDTV consacré au même entretien présente Altman à travers l’étiquette de “bad guy”, en rappelant les critiques liées à ses déclarations, aux changements de pouvoir dans l’entreprise et au coût matériel de la course à l’IA . Dans l’entretien, Altman explique une partie de l’hostilité par la méfiance américaine envers les personnes puissantes, en particulier les dirigeants des grandes entreprises technologiques .
Cette réponse est révélatrice. Altman ne dit pas que l’inquiétude est illégitime; il suggère plutôt qu’elle est peut-être allée trop loin. Mais il reconnaît en même temps l’idée qui rend cette inquiétude durable: l’IA est une force sociale exceptionnelle, et l’industrie technologique concentre désormais un pouvoir considérable .
Son explication sur le fait de ne pas détenir d’actions OpenAI ajoute une couche supplémentaire. Altman affirme que cette décision, prise pour des raisons qu’il jugeait bonnes, a finalement été une erreur parce qu’elle a rendu ses motivations plus difficiles à comprendre . Autrement dit, même un geste pouvant être lu comme une manière de réduire son intérêt financier personnel a produit une autre forme de soupçon. Si le patron de l’entreprise d’IA la plus observée du monde n’est pas principalement motivé par l’actionnariat, le public se demande quelle forme de pouvoir le motive.
L’ère des laboratoires rivaux
L’entretien aborde aussi la fragmentation étrange du premier cercle de l’IA de pointe. Shamani évoque plusieurs personnalités devenues concurrentes ou figures d’autres laboratoires, notamment Mira Murati, Ilya Sutskever, Dario Amodei et Elon Musk. Altman répond que, lorsque les enjeux paraissent immenses, beaucoup de personnes finissent par croire qu’elles seules peuvent être dignes de confiance pour construire l’avenir .
C’est l’une des remarques les plus fortes de l’échange, car elle donne à la course à l’IA un air de crise de légitimité plutôt que de simple compétition industrielle. Si chaque fondateur important pense que seul son laboratoire peut être trusted, le pluralisme devient à la fois un mécanisme de sécurité et une course aux armements. Plus de laboratoires réduisent le risque de monopole. Mais plus de laboratoires augmentent aussi la pression pour avancer vite.
C’est ici que l’expression “ère du RSI” devient inflammable. L’amélioration récursive n’est pas seulement un mécanisme technique. C’est aussi un mécanisme concurrentiel. Si les systèmes d’IA aident les chercheurs à travailler plus vite, alors le laboratoire qui possède la meilleure boucle de recherche assistée par IA peut progresser plus vite, attirer davantage d’utilisateurs, lever plus de capitaux et creuser l’écart. La question de gouvernance posée par Altman est donc inséparable de la question économique.
La promesse scientifique
L’argument optimiste d’Altman reste la découverte scientifique. Dans l’entretien, il dit vouloir pousser l’IA vers la compréhension du monde, la physique, les traitements médicaux, l’énergie et des découvertes que nous ne savons pas encore imaginer . C’est l’argument positif en faveur de l’entrée dans l’ère RSI plutôt que de son arrêt complet: la recherche automatisée ou semi-automatisée pourrait accélérer l’alignement et la sécurité autant que les capacités.
Mais le public ne reçoit pas cette promesse dans le vide. Il la reçoit en même temps que l’anxiété sur l’emploi, les conflits autour des centres de données, la rareté des puces, les erreurs de modèles, les déclarations de sécurité opaques et le sentiment que quelques entreprises prennent des décisions historiques. Chaque promesse d’accélération arrive désormais avec une facture politique.
Un site qui a repris l’histoire sous l’angle du backlash a aussi fait apparaître des réactions brutes du public, notamment des commentaires hostiles visant Altman, les actions liées à l’IA et le contenu généré par IA lui-même . Ce n’est pas un sondage, mais c’est un indicateur d’ambiance: autour de l’IA, le sentiment dominant n’est plus seulement l’émerveillement ou la peur. C’est aussi la fatigue, le soupçon et le ressentiment.
Ce que “l’ère du RSI a commencé” devrait impliquer
La lecture responsable n’est donc pas qu’OpenAI aurait annoncé un système autonome et achevé d’auto-amélioration. La lecture responsable est qu’Altman considère le développement de l’IA assisté par l’IA comme assez central pour que le rythme, la surveillance, la sécurité et la légitimité démocratique deviennent des questions principales .
Cela implique trois choses.
D’abord, l’industrie doit définir ses termes. “RSI” peut désigner aussi bien une IA qui aide des ingénieurs à corriger du code qu’un chercheur artificiel totalement autonome capable de produire des modèles successeurs. Sans définitions précises, les entreprises peuvent exagérer l’accélération devant les investisseurs et minimiser l’autonomie devant les régulateurs.
Ensuite, les revendications de sécurité doivent subir une pression indépendante. Si les laboratoires qui bénéficient de la vitesse sont aussi les seuls à mesurer si cette vitesse est sûre, le problème de concentration du pouvoir est déjà présent dans la mesure elle-même.
Enfin, la logique d’Altman suppose que la gouvernance ne peut pas attendre le grand basculement. Si le danger est le rythme même de l’amélioration, attendre une preuve incontestable de RSI pourrait revenir à attendre que la surveillance soit déjà trop lente.
La vraie histoire
La vraie histoire n’est pas que Sam Altman aurait déclaré le franchissement d’un seuil magique. Elle est que le dirigeant le plus associé à l’IA de pointe parle désormais comme si la transition vers un développement auto-accéléré de l’IA avait commencé, alors même que la licence sociale de cette transition s’affaiblit.
C’est pour cela que le titre frappe. L’ère du RSI ne commence pas forcément avec une machine isolée qui se réécrit elle-même dans un laboratoire. Elle commence quand une industrie admet que l’IA accélère déjà la création de l’IA, tandis que le public demande qui a autorisé la boucle.
La réponse d’Altman tient en quelques mots: pluralisme, contrôle humain, meilleure gouvernance et poursuite du progrès. Ses critiques entendent un message plus inquiétant: les personnes qui construisent la boucle sont encore celles qui demandent à en fixer la vitesse. Dans l’ère du RSI, c’est peut-être le conflit central.
Commentaires
Sois le premier à commenter.