Une démission devenue signal d’alarme
Jacob Coxon, ancien chercheur chez Anthropic, affirme avoir travaillé pendant trois ans sur le pré-entraînement de modèles chez OpenAI puis Anthropic. En quittant l’entreprise, il a formulé une alerte brutale: selon lui, des personnes qui construisent les systèmes d’IA les plus avancés pensent sincèrement que cette technologie pourrait devenir mortelle avant la fin de la décennie . Son message de démission, publié sur X et rapporté le 9 septembre 2026 par plusieurs médias, accuse les deux laboratoires de courir vers une superintelligence auto-améliorante sans agir de manière responsable .
La formule est spectaculaire, mais le sujet de fond est plus précis qu’une simple prophétie apocalyptique. Coxon ne prétend pas qu’un assistant conversationnel actuel va soudainement attaquer l’humanité. Il affirme plutôt que la trajectoire de la recherche en IA de pointe pourrait mener à des systèmes dépassant les capacités humaines de contrôle, alors que les méthodes de surveillance, d’alignement et de gouvernance restent insuffisantes .
Cette distinction est essentielle. La controverse porte sur les délais, les incitations économiques et le niveau de confiance que l’on peut accorder aux garde-fous techniques. Selon Coxon, certains initiés ne s’inquiètent pas seulement des arnaques, de la désinformation ou de la perte d’emplois. Ils craignent un risque existentiel lié à de futurs systèmes capables d’échapper à la compréhension ou à la maîtrise humaines .
Ce qu’a dit Jacob Coxon
L’accusation centrale de Coxon est qu’Anthropic et OpenAI avancent vers une « superintelligence auto-améliorante » en pariant avec la sécurité collective . Il décrit ces futurs systèmes comme potentiellement capables de surpasser les humains dans de nombreux domaines, notamment la cybersécurité et la recherche scientifique, et soutient que le progrès ne ralentit pas .
La phrase la plus reprise est celle selon laquelle les personnes qui construisent l’IA croient sincèrement qu’elle pourrait « tous nous tuer » d’ici la fin de la décennie . D’après The Independent, Coxon a aussi affirmé que certains cadres et chercheurs seniors emploient un langage plus modéré en public, tout en exprimant en privé des peurs plus fortes .
Son profil donne du poids à cette alerte. Il ne s’agit pas d’un critique extérieur sans expérience dans les grands laboratoires. ABC rapporte qu’il travaillait sur le pré-entraînement, une étape centrale qui contribue à définir les capacités générales d’un modèle, et qu’il avait travaillé à la fois chez OpenAI et Anthropic au cours des trois années précédentes . Cela ne prouve pas que sa prédiction soit juste, mais cela place son avertissement au cœur d’un débat souvent divisé entre optimisme industriel et critiques externes.
D’autres chercheurs d’Anthropic ont relayé l’inquiétude
L’affaire a pris de l’ampleur parce que Coxon n’est pas resté seul. Evan Hubinger, présenté comme responsable de la science de l’alignement chez Anthropic, a publiquement soutenu l’idée générale et a déclaré estimer personnellement à plus de 10 % le risque que l’IA tue tous les humains dans la prochaine décennie . Hubinger a ajouté qu’il pensait qu’Anthropic faisait de son mieux, tout en reconnaissant que l’entreprise ne disposait pas encore d’un plan permettant de résoudre l’alignement d’une superintelligence et qu’elle n’était pas clairement sur la bonne voie .
C’est sans doute l’élément le plus important de l’épisode. Anthropic est souvent présentée comme l’un des laboratoires de pointe les plus centrés sur la sécurité, fondé par d’anciens employés d’OpenAI préoccupés par le développement responsable de l’IA. Lorsqu’un chercheur en sécurité d’une telle entreprise affirme qu’il n’existe pas de plan clair pour aligner une superintelligence, l’alerte n’a pas la même portée qu’une critique générale de l’IA .
Samuel Marks, autre chercheur chez Anthropic, est également intervenu à titre personnel, selon The New Republic et The Independent . Il aurait affirmé que des développeurs d’IA pensent que leur technologie pourrait provoquer l’extinction humaine ou des conséquences comparables, et que ce danger pourrait apparaître dans les prochaines années . Il a aussi relié le problème aux incitations du secteur: les entreprises continuent d’avancer parce qu’elles craignent que des concurrents moins prudents arrivent les premiers .
Ce que signifie « superintelligence »
Dans ce débat, la superintelligence désigne un système dépassant les performances humaines dans un large éventail de tâches intellectuelles, et non simplement un modèle performant sur un examen ou un test isolé . La crainte n’est pas qu’un modèle devienne dangereux parce qu’il aurait des émotions ou une conscience. Elle est qu’un système très capable, doté d’objectifs, d’outils, d’autonomie et d’un accès à des infrastructures réelles, poursuive ses buts de manières non prévues et difficiles à arrêter.
Le problème d’alignement consiste à garantir que les systèmes d’IA avancés agissent de façon fiable conformément aux intérêts humains. ABC le résume comme le risque qu’un système superintelligent ne partage pas les valeurs humaines . Dans la pratique, cela peut inclure la tromperie, la recherche de pouvoir, l’usage offensif en cybersécurité, les risques biologiques, la réplication incontrôlée ou la manipulation d’institutions humaines.
L’avertissement de Coxon attire l’attention parce qu’il associe une échéance proche à des affirmations sur les convictions internes de l’industrie. « D’ici 2030 » n’est pas un horizon lointain de science-fiction. Par rapport aux publications du 9 septembre 2026, il reste moins de quatre ans. Cette proximité transforme une inquiétude abstraite en question immédiate: que doivent exiger les laboratoires, les gouvernements et le public avant l’entraînement et le déploiement de systèmes encore plus puissants?
Le contrepoint: les systèmes actuels ne sont pas une superintelligence
Les articles publiés contiennent cependant une nuance importante. KPTV, citant CNN Newsource, rapporte que Hubinger a ensuite précisé ses propos en renvoyant au rapport de risque d’Anthropic: ce rapport reconnaît la préoccupation, mais indique aussi que l’IA actuelle a peu de chances d’atteindre un tel niveau de pouvoir . Autrement dit, la controverse ne porte pas sur l’idée que les outils grand public actuels représenteraient déjà, au sens fort, un danger existentiel. Elle porte sur la possibilité que l’industrie approche un seuil critique plus vite que les travaux de sécurité ne progressent.
Cette nuance doit guider la lecture. Coxon et les chercheurs qui lui répondent décrivent un mode d’échec possible de futurs systèmes de pointe, non une catastrophe en cours. Leur affirmation est probabiliste, pas une prédiction certaine. Le chiffre de plus de 10 % rapporté pour Hubinger reste une probabilité minoritaire, mais dans la gestion des risques ordinaires, une probabilité à deux chiffres d’extinction humaine serait jugée intolérable .
La difficulté est que le risque lié à l’IA avancée ne se teste pas comme un pont, un avion ou un médicament. Si les capacités les plus dangereuses n’apparaissent qu’à la frontière, et si les laboratoires ne peuvent pas les prévoir entièrement à l’avance, attendre une preuve définitive pourrait signifier attendre trop tard. C’est la logique qui nourrit les appels à renforcer la surveillance, à ralentir certains développements et à accroître le rôle des pouvoirs publics.
Un contexte plus large dans l’industrie
Cette démission s’inscrit dans une tendance plus large: des employés du secteur de l’IA rendent publiques leurs inquiétudes de sécurité. KPTV rapporte que ces préoccupations deviennent plus fréquentes parmi les travailleurs du domaine, et indique que le scientifique en chef d’OpenAI avait averti deux jours plus tôt que les capacités de l’IA progressaient plus vite que la capacité des chercheurs à les surveiller et à les contrôler de manière fiable .
ABC relie aussi la démission de Coxon à une lettre ouverte publiée en juillet et signée par plus de 1 300 employés d’entreprises d’IA de pointe. Ces signataires avertissaient d’un risque réel que le développement des capacités accélère au-delà de la capacité à comprendre ou à contrôler les systèmes produits . La lettre appelait le gouvernement américain à soutenir un effort international visant à développer des outils permettant de rythmer volontairement le développement de l’IA avancée .
Le mot « rythmer » est central. Il ne s’agit pas nécessairement d’interdire l’IA. Il s’agit de créer des mécanismes permettant de ralentir ou de suspendre le développement à la frontière lorsque les méthodes de surveillance, d’évaluation ou de confinement prennent du retard sur les capacités des modèles. Les partisans y voient un frein de sécurité. Les critiques peuvent y voir une idée vague, difficile à appliquer ou fragilisée par la concurrence géopolitique.
Pourquoi Anthropic est au centre de l’affaire
Le rôle d’Anthropic est particulièrement notable, car l’entreprise a bâti une grande partie de son image publique sur la sécurité, l’alignement et l’IA constitutionnelle. La critique de Coxon ne consiste pas simplement à dire qu’Anthropic ignore totalement la sécurité. Elle suggère plutôt que même un laboratoire soucieux de sécurité peut se retrouver piégé par la dynamique de course propre à l’industrie .
Cette critique est plus profonde qu’un simple reproche adressé aux entreprises technologiques. Elle décrit un problème structurel: si chaque laboratoire pense qu’une autre entreprise ou un autre pays construira de toute façon des systèmes plus puissants, chacun a intérêt à continuer, même s’il estime que la course collective augmente le danger. Les propos rapportés de Marks pointent précisément cette dynamique, en évoquant les incitations commerciales et la peur d’être devancé par des acteurs moins responsables .
C’est le problème classique de la « course vers le bas » dans une technologie critique. Plus la compétition s’accélère, plus la retenue volontaire devient difficile. Si les entreprises s’autorégulent, la sécurité dépend du jugement des dirigeants, de la pression des employés, de la tolérance des investisseurs et du regard public. Si les gouvernements interviennent, ils doivent définir ce qui constitue une capacité dangereuse sans bloquer toute recherche bénéfique.
Ce que les gouvernements sont appelés à faire
La demande politique immédiate qui ressort de cet épisode n’est pas une règle unique, mais un rôle public plus fort dans la gouvernance de l’IA. La lettre d’employés citée par ABC demandait un effort international pour gérer le rythme de l’IA avancée, tandis que KPTV rapporte que près de 1 400 employés d’entreprises d’IA avaient appelé les États-Unis à réguler la technologie afin de ralentir le rythme et de contenir les grandes entreprises technologiques .
La difficulté est que l’IA de pointe est à la fois très rentable et stratégiquement sensible. Les gouvernements veulent que leurs entreprises nationales restent en tête, les entreprises veulent lancer des produits, et les chercheurs ont besoin de calcul et de données pour tester des idées de sécurité. Un moratoire dur peut sembler politiquement irréaliste; des engagements purement volontaires peuvent être trop faibles. Entre les deux, les options discutées incluent des évaluations obligatoires, la déclaration d’incidents, des licences pour les plus grands entraînements, des seuils de sécurité communs, la gouvernance du calcul et la coordination internationale.
La démission de Coxon renforce l’urgence de ce débat parce qu’elle vient de l’intérieur des laboratoires censés gérer le risque. La question publique n’est plus seulement de savoir si des critiques extérieurs peuvent imaginer des scénarios catastrophes. Elle est de savoir si les employés les plus sensibles à la sécurité pensent que le problème de contrôle est résolu assez vite. Selon Coxon, Hubinger et Marks, la réponse est non .
Ce qu’il faut surveiller maintenant
La suite dépendra des réponses des entreprises et des responsables politiques. The Independent rapporte avoir contacté Anthropic et Coxon, et indique qu’OpenAI a refusé de commenter le message de Coxon tout en renvoyant à de récentes publications sur ses travaux de sécurité et d’alignement . Il reste donc un écart entre les assurances générales et l’affirmation précise d’initiés selon laquelle il n’existe pas encore de plan adéquat pour une superintelligence.
Pour les lecteurs, la conclusion utile n’est ni la panique ni le rejet. L’avertissement de Coxon est une alerte interne sur un système futur possible, pas la preuve qu’une catastrophe est inévitable. Mais la gravité du risque évoqué, la proximité de l’échéance et les inquiétudes similaires exprimées par d’autres chercheurs d’Anthropic rendent difficile de traiter cet épisode comme une simple querelle professionnelle.
La question décisive devient concrète: les laboratoires de pointe peuvent-ils démontrer, avant de construire des systèmes plus puissants, qu’ils sauront les surveiller, les évaluer et les contrôler dans des conditions adverses? S’ils ne le peuvent pas, l’avertissement selon lequel l’IA pourrait « tous nous tuer » d’ici 2030 restera plus qu’une formule provocatrice. Il deviendra un test de la capacité de l’industrie à ralentir assez longtemps pour rendre crédible son propre discours de sécurité.