Tech • IA • Robotique • Jeu
Peut-on prédire la fin du monde avec l’IA ?
8/10INTRO
L’ancien chercheur de Google DeepMind Alex Turner a relancé le débat sur le risque existentiel lié à l’IA en estimant à 25 à 30 % la probabilité que l’IA contribue à la mort d’au moins 1 milliard de personnes d’ici 2050, tandis que ses critiques soutiennent que ces chiffres sont subjectifs, politiquement chargés et souvent façonnés par la culture interne des grands laboratoires d’IA.
POINTS CLÉS
L’avertissement de Turner et son départ
Alex Turner, qui travaillait sur l’alignement de l’IA chez Google DeepMind, a déclaré qu’il existait environ une chance sur trois que l’IA provoque au moins 1 milliard de morts avant 2050. Son départ de Google était lié non seulement à des inquiétudes sur la sécurité à long terme de l’IA, mais aussi à ses objections concernant les usages gouvernementaux et militaires de l’IA, qu’il jugeait insuffisamment encadrés par des garanties éthiques.
Ce que signifie “P Doom”
Cette estimation s’inscrit dans le concept de sécurité de l’IA appelé P Doom, abréviation de probabilité de catastrophe fatale. En pratique, il s’agit d’une prévision subjective d’issues catastrophiques plutôt que d’une mesure issue d’un modèle scientifique reproductible. Cette subjectivité en a fait un puissant outil de communication, mais aussi un objet de controverse.
Dans cette vision, le mauvais usage humain pèse plus que l’IA hors de contrôle
Une nuance importante de la position de Turner est qu’une part minoritaire seulement du danger viendrait d’une machine autonome malveillante. L’essentiel du risque, dans ce cadre, viendrait des humains, en particulier des États, des armées ou des agences de sécurité utilisant des systèmes d’IA avancés de manière déstabilisatrice ou oppressive.
Scepticisme face aux pourcentages précis
Les critiques de ces avertissements se demandent comment des chercheurs peuvent attribuer des probabilités exactes à des événements aussi vastes et sans précédent que l’extinction humaine ou des morts à l’échelle du milliard. Selon eux, annoncer de tels résultats avec des chiffres comme 10 %, 25 % ou 30 % ressemble moins à de la science qu’à une spéculation informée habillée d’un langage technique.
Le pouvoir des gouvernements est au cœur du débat
Le désaccord ne porte pas seulement sur la question de savoir si l’IA deviendra incontrôlable. Il concerne aussi qui accédera en premier à des systèmes hautement capables. L’inquiétude est que les gouvernements, y compris démocratiques, déploient l’IA à des fins de surveillance, de coercition ou d’escalade militaire bien avant l’apparition d’une quelconque superintelligence hypothétique.
Une fracture entre prudence et accélération
Un camp estime que les progrès rapides de l’IA justifient une grande prudence, une régulation et des garde-fous renforcés. Un autre soutient qu’une centralisation excessive et des ralentissements dictés par la peur peuvent créer d’autres risques en concentrant le pouvoir, en réduisant la résilience et en laissant moins de voies d’adaptation si la technologie continue malgré tout à progresser.
L’argument de la superintelligence
Les prévisions les plus alarmistes reposent sur l’idée que les capacités de l’IA pourraient croître extrêmement vite si les progrès ne plafonnent pas. Dans ce scénario, des systèmes déjà perçus comme très compétents pourraient dépasser largement les performances humaines en quelques années, créant une profonde incertitude sur le contrôle, les incitations et le rôle humain dans la prise de décision.
La culture des laboratoires peut amplifier la pensée apocalyptique
Une autre critique s’intéresse moins aux modèles qu’aux personnes qui les construisent. Des chercheurs formés dans le monde académique entrent souvent dans des laboratoires d’IA privés en s’attendant à une recherche ouverte, puis se heurtent à une forte pression produit, au secret et à des conflits internes à forts enjeux. Cet environnement, combiné au travail sur des systèmes présentés comme potentiellement déterminants pour la civilisation, peut engendrer épuisement, stress moral et alarme publique.
Le recrutement et l’adéquation des profils deviennent des sujets de préoccupation
Certains estiment que les grandes entreprises d’IA ont recruté de brillants spécialistes techniques comme s’il s’agissait de développer des logiciels ordinaires, avant de leur demander d’évaluer des menaces sociétales et existentielles comparables au risque nucléaire. Ce décalage peut aider à expliquer pourquoi certains chercheurs rejettent ensuite publiquement ce travail, quittent le secteur ou changent radicalement de carrière.
Au-delà des scénarios catastrophes
Le débat se polarise de plus en plus entre prévisions catastrophistes et visions techno-optimistes. Les partisans du progrès de l’IA soutiennent que le débat public est dominé par les pires scénarios et néglige des trajectoires plus positives dans lesquelles l’IA améliore progressivement la productivité, la science et la qualité de vie sans provoquer d’effondrement.
CONCLUSION
Le débat sur le risque lié à l’IA ne porte plus seulement sur des machines devenant dangereuses. Il concerne aussi la crédibilité des prévisions d’experts, la concentration du pouvoir au sein des gouvernements et des laboratoires, et la capacité réelle des personnes qui construisent l’IA avancée à juger les conséquences de ce qu’elles créent.
Poser une question