Altman et Amodei alertent l’ONU : la sécurité de l’IA devient un sujet de Conseil de sécurité

Deux rivaux, un même signal d’alarme

Sam Altman et Dario Amodei ne sont pas des alliés naturels. OpenAI et Anthropic se disputent les clients, les talents, les capitaux et la confiance du public. Pourtant, devant le Conseil de sécurité des Nations unies, le 23 septembre 2026, les deux dirigeants ont convergé vers une même idée: les systèmes d’IA les plus puissants posent désormais un problème de sécurité internationale, impossible à gérer par une seule entreprise ou un seul État [1].

La mise en scène comptait presque autant que le contenu. Altman était présent à New York, assis à la table du Conseil, tandis qu’Amodei intervenait par visioconférence; Clément Delangue, directeur général de Hugging Face, participait aussi à distance, et Yoshua Bengio, coprésident du panel de l’ONU sur l’IA, faisait partie des intervenants attendus [2]. Une discussion qui aurait pu rester confinée aux laboratoires et aux régulateurs technologiques a ainsi été déplacée vers l’arène diplomatique où l’on parle d’escalade militaire, de cyberconflits et d’armes autonomes.

Altman a présenté le moment comme un choix entre une renaissance portée par l’IA et une révolution industrielle plus désordonnée, marquée par des institutions dépassées, une concentration du pouvoir et des décisions que les humains ne comprendraient plus vraiment [2]. Amodei a employé des termes plus directs: mal maîtrisée, l’IA pourrait devenir un risque pour l’humanité dans son ensemble, notamment par l’aide à la création d’armes biologiques ou par la perte de contrôle sur des systèmes capables de s’améliorer trop vite [3].

Ce qu’ils demandent vraiment

Les deux dirigeants n’ont pas présenté un traité commun prêt à signer. Leurs interventions dessinent plutôt une architecture de sécurité: évaluations communes des modèles, systèmes de vérification, notification des incidents et normes internationales pour les usages les plus dangereux de l’IA [2]. Amodei a plaidé pour un accord interdisant l’utilisation de l’IA dans la fabrication d’armes biologiques, pour des moyens de vérifier les capacités réelles des modèles et pour des standards communs de test concernant les risques de détournement et de perte de contrôle [5].

Altman a insisté sur un autre angle. Selon lui, les décisions les plus importantes sur l’IA ne peuvent pas être prises seulement par des laboratoires installés à San Francisco; elles doivent passer par des processus démocratiques et par des gouvernements responsables devant leurs citoyens [3]. Le message est notable venant d’une entreprise souvent accusée par ses critiques de vouloir avancer vite tout en pesant fortement sur les règles du jeu. À New York, Altman a tenté de défendre une voie médiane: éviter le fatalisme, maintenir le contrôle humain et faire de l’IA un outil d’autonomie plutôt qu’un système qui transforme les individus en rouages [3][4].

Amodei, lui, a davantage insisté sur l’urgence. Il a évoqué la progression rapide vers des systèmes extrêmement compétents et prévenu que les gouvernements pourraient manquer de temps pour bâtir une supervision efficace [2]. Son inquiétude ne porte pas seulement sur les acteurs malveillants. Elle concerne aussi des capacités qui deviendraient plus difficiles à prévoir, à tester et à contenir à mesure que les modèles gagnent en autonomie [2].

Pourquoi l’ONU change l’échelle du débat

Le Conseil de sécurité n’est pas une autorité de certification logicielle. Il ne peut pas, à lui seul, auditer un centre de données, valider un modèle de frontière ou imposer un seuil de sécurité à un laboratoire privé. Mais il peut changer la catégorie politique du problème. En s’exprimant devant lui, Altman et Amodei ont contribué à faire passer la sécurité de l’IA du domaine de la politique technologique nationale à celui de la paix et de la sécurité internationales [1].

Ce déplacement est essentiel, car les scénarios les plus graves discutés à New York ignorent les frontières. Un modèle qui aiderait un groupe terroriste à rechercher un agent pathogène, un outil cyber autonome capable de frapper des infrastructures critiques, ou un système militaire choisissant des cibles sans contrôle humain significatif créeraient tous des risques transnationaux. L’Associated Press a décrit une réunion centrée sur une question fondamentale: qui doit contrôler les décisions de vie ou de mort, l’humain ou la machine [5]?

Cette réunion s’est aussi tenue pendant une semaine d’Assemblée générale déjà très marquée par l’IA. The National a rapporté qu’Altman et Amodei avaient dit aux dirigeants mondiaux que les humains devaient rester au centre des décisions liées à l’IA, dans un climat d’inquiétudes allant de l’emploi et de l’énergie des centres de données aux cyberattaques et aux recherches sur les armes biologiques [4]. Le Conseil de sécurité n’a donc pas ouvert le débat: il l’a porté à un niveau plus stratégique.

Consensus entre laboratoires, divisions entre États

La nouveauté, c’est l’alignement public de dirigeants concurrents. La difficulté, c’est la réponse des gouvernements.

Le ministre britannique des Affaires étrangères, Ed Miliband, a déclaré devant le Conseil que les entreprises d’IA disaient en substance qu’on ne pouvait pas leur laisser seules la responsabilité d’éviter une catastrophe; il a ajouté que le Royaume-Uni placerait le contrôle de l’IA au cœur de sa présidence du G20 l’an prochain, avec l’objectif d’un ensemble unique de normes mondiales pour un développement sûr [5]. Le ministre français Jean-Noël Barrot a comparé l’étape actuelle de l’IA à l’aube de l’ère atomique, en affirmant que la communauté internationale devait réguler cette technologie pour en tirer le meilleur tout en évitant le pire [5].

Les États-Unis ont adopté une position plus réticente. Le conseiller scientifique de la Maison-Blanche, Michael Kratsios, a estimé que les inquiétudes sur le contrôle ne justifiaient ni pause dans le développement de l’IA ni nouvelle structure mondiale de gouvernance [5]. Donald Trump avait également rejeté, pendant la même semaine onusienne, les tentatives qu’il décrivait comme des efforts globalistes de contrôle de l’IA [4]. La Chine, de son côté, a mis en garde contre les blocs technologiques et l’« hégémonie numérique », tout en défendant une approche plus favorable aux modèles open source [5].

Cette divergence est le cœur du problème. Des standards de test communs sont plus faciles à annoncer qu’à appliquer. La notification des incidents semble simple jusqu’au moment où entreprises et États doivent définir ce qui doit être signalé, à qui, dans quel délai et avec quel niveau de détail. La vérification est encore plus sensible: elle suppose un accès technique, une confiance politique et des règles valables à la fois pour les modèles propriétaires et pour les modèles ouverts.

Ce qui peut suivre

Le résultat le plus probable n’est pas une police mondiale de l’IA. Il s’agit plutôt d’un empilement de mécanismes partiels: bancs d’essai communs, licences nationales pour les systèmes les plus puissants, canaux confidentiels d’alerte, restrictions sur l’assistance aux armes biologiques et dossiers de sécurité exigés avant l’entraînement ou le déploiement de modèles de frontière. Axios a rapporté qu’Amodei appelait précisément à des systèmes d’évaluation et de vérification, à des standards communs de test et à un mécanisme de notification pour les préoccupations de sécurité mondiale [2].

Ce programme ne satisfera pas tout le monde. Les défenseurs les plus stricts de la sécurité jugeront peut-être la démarche trop lente. Les partisans de l’open source craindront des règles favorisant les grands laboratoires fermés. Les responsables de sécurité nationale refuseront certaines transparences au nom des capacités stratégiques. Les pays en développement demanderont si la gouvernance « mondiale » leur donne réellement une voix, ou si elle officialise surtout des décisions prises à Washington, Pékin, Bruxelles et dans quelques entreprises privées.

Reste que l’intervention Altman-Amodei marque un seuil. Quand les dirigeants de deux des laboratoires d’IA les plus influents demandent au Conseil de sécurité de traiter la sûreté des modèles comme un enjeu mondial, ils reconnaissent aussi que les promesses privées ne suffisent plus. Ceux qui construisent les systèmes les plus avancés disent aux gouvernements que la technologie pourrait dépasser les mécanismes ordinaires de contrôle. Après le 23 septembre, la question est donc simple: les États peuvent-ils avancer plus vite que les systèmes contre lesquels on les met en garde?

Le signal venu de New York est clair. L’IA de frontière est entrée dans la zone rouge de la diplomatie. Les rivaux restent rivaux, les modèles continuent de progresser, mais même ceux qui les construisent demandent des règles avant que Skynet, métaphoriquement, ne réclame une immunité diplomatique.

Sources des dernières 72 heures

1. [1]"We have a choice": AI leaders sound alarm at UN23 sept. 2026, 00:00 UTC
2. [2]OpenAI’s Altman and Anthropic’s Amodei address UN security council23 sept. 2026, 21:15 UTC
3. [3]ChatGPT and Anthropic chiefs tell UN that humans must be centre of AI decisions23 sept. 2026, 22:40 UTC
4. [4]Tech leaders to UN: For the sake of humanity, please control the AI technology we created23 sept. 2026, 19:53 UTC
5. [5]Altman, Amodei Call on UN, World Leaders to Boost AI Safety (2)23 sept. 2026, 20:09 UTC

Article généré par IA à partir d’une recherche web récente, puis conservé comme instantané éditorial daté.