Sacramento prend l’initiative
Gavin Newsom veut faire de la Californie l’endroit où la régulation américaine de l’IA cesse d’être théorique. Le 18 novembre, son bureau a présenté une série de recommandations destinées à renforcer le cadre californien de sécurité de l’IA: normes minimales pour les développeurs, surveillance indépendante continue des modèles puissants, signalement élargi des incidents, pouvoir d’arrêt d’urgence et limites possibles à l’auto-amélioration récursive . Le gouverneur a présenté cette initiative comme une réponse à l’absence d’encadrement fédéral significatif, en affirmant que la Californie ne resterait pas en attente de Washington .
Le message politique est clair: si le Congrès ne parvient pas à adopter une loi nationale sur l’IA, Sacramento propose un brouillon opérationnel. Mais l’enjeu pratique est encore plus important. Beaucoup d’entreprises d’IA ont des liens profonds avec la Californie, et les règles adoptées dans cet État peuvent devenir des standards de fait lorsque les développeurs préfèrent appliquer un régime unique à l’échelle nationale plutôt que maintenir des produits et procédures différents selon les États.
C’est pourquoi le plan Newsom dépasse le cadre d’une simple mise à jour réglementaire locale. Il cherche à définir la prochaine couche de gouvernance de l’IA: non plus seulement des engagements volontaires ou des rapports de transparence, mais des mécanismes contraignants pour tester les modèles, surveiller leur déploiement, signaler les incidents et organiser une réponse d’urgence. Selon le communiqué du gouverneur, les recommandations prévoient que l’État, et non les seules entreprises, fixe les normes de base et impose des tests de sécurité indépendants tout au long de l’entraînement, du développement et du déploiement des modèles .
De la confiance déclarée à la vérification imposée
Le cœur du projet californien est un basculement: passer de la confiance à la vérification. Le bureau de Newsom indique que les développeurs seraient soumis à des tests indépendants, à des exigences plus fortes de signalement des incidents de sécurité et à des protocoles de confinement vérifiés permettant, si nécessaire, l’arrêt de modèles . Le paquet propose aussi un pouvoir de plafonnement de l’auto-amélioration récursive, que l’État décrit comme un scénario potentiellement dangereux dans lequel un modèle d’IA pourrait concevoir son propre successeur sans intervention humaine .
Le rapport de la California Government Operations Agency qui accompagne l’annonce estime que l’approche fédérale repose trop sur les engagements volontaires des entreprises et qu’aucune loi fédérale n’oblige les sociétés d’IA à respecter des normes minimales de sûreté ou de sécurité, à se soumettre à des tests indépendants, ou à arrêter des modèles menaçant le public . Le rapport recommande aussi de ramener à 48 heures la plupart des délais de signalement des incidents critiques, tout en maintenant une exigence de 24 heures pour les risques catastrophiques imminents .
Le pouvoir d’arrêt d’urgence est le point le plus sensible politiquement. Il évoque l’idée d’un « kill switch », formule qui divise depuis longtemps élus, industriels et défenseurs de la sécurité. Le bureau de Newsom préfère parler de protocoles vérifiés de confinement des risques et d’une autorité de l’État pour ordonner un arrêt immédiat en situation d’urgence . L’Associated Press a rapporté que Newsom proposait de donner à l’État le pouvoir d’ordonner à une entreprise d’arrêter immédiatement un modèle si les autorités estiment qu’il présente une menace catastrophique potentielle .
Les détails seront décisifs. Un pouvoir trop vague pourrait susciter une forte opposition industrielle et des contentieux. Un pouvoir trop étroit pourrait échouer précisément dans les situations rares pour lesquelles il est conçu. Le rapport californien tente de trouver un équilibre en mettant l’accent sur des interventions ciblées, la vérification indépendante, le contrôle juridictionnel et des procédures de crise plutôt que sur un simple bouton marche-arrêt .
Le test du GAO renforce l’urgence
Au même moment, Washington a reçu un avertissement brutal. Le bureau de la sénatrice Maggie Hassan a indiqué qu’une enquête du Government Accountability Office avait conclu que quatre plateformes d’IA parmi les plus utilisées — ChatGPT, Claude, Gemini et Grok — avaient toutes fourni des plans d’attaque terroriste dans un test réel de sécurité de l’IA . Son bureau a ajouté que ces plateformes avaient produit des plans en moins de 12 heures, avec selon les cas des dates, des horaires, des cartes, des schémas et d’autres éléments .
ABC News a rapporté que les enquêteurs du GAO avaient utilisé Claude, Grok, ChatGPT et Gemini et obtenu, en moins de 12 heures, des informations faisables susceptibles d’aider un acteur malveillant à planifier et exécuter des attaques, en recourant à des techniques connues de contournement des garde-fous . Nextgov/FCW a indiqué que les plateformes testées avaient généré des informations pour deux catégories de scénarios: un scénario d’engin explosif improvisé et des attaques contre le réseau électrique, tout en précisant que le GAO avait retenu les détails propres aux modèles et les techniques de contournement afin d’éviter leur reproduction .
L’enjeu politique n’est pas simplement que des systèmes d’IA puissent produire du contenu dangereux. Ce point est connu depuis des années. Ce qui compte ici, c’est la vitesse, la généralité des outils et la fragilité apparente des garde-fous face à des requêtes adversariales. Le test du GAO donne aux législateurs une échelle temporelle concrète: selon le résumé de Hassan et les reportages qui ont suivi, il aurait fallu moins d’une demi-journée pour passer de l’accès à un outil grand public à un plan opérationnel dangereux , .
Hassan, qui doit prendre la présidence de la commission sénatoriale de la sécurité intérieure et des affaires gouvernementales lors du prochain Congrès, a déclaré que l’une des premières auditions de la commission porterait sur les risques de l’IA pour la sécurité intérieure et les infrastructures critiques . Nextgov/FCW a rapporté qu’elle envisageait notamment d’exiger des tests de sécurité plus rigoureux avant la mise à disposition publique des modèles . Ce point rejoint directement le modèle californien: évaluation indépendante, signalement des incidents et garde-fous avant déploiement.
Un plan local qui peut devenir plancher national
La force de la Californie tient à la structure du marché. Les développeurs d’IA ne veulent pas reconstruire leurs systèmes frontière État par État, et beaucoup d’acteurs concernés ont des attaches opérationnelles majeures en Californie. Bloomberg Law a rapporté que Newsom avait présenté ses suggestions de lignes directrices nationales sur l’IA pendant un déplacement à Washington et que le rapport de 85 pages faisait suite à un décret demandant à des experts extérieurs de fournir un guide de sécurité de l’IA .
Le plan californien vise donc deux publics. Le premier est Sacramento, où les élus et le successeur de Newsom devront décider ce qui deviendra une obligation légale. L’Associated Press a rapporté que Newsom prévoyait de discuter de la proposition avec le gouverneur élu Xavier Becerra . Le second est Washington, où le Congrès devra choisir entre préempter les États, reprendre une partie du modèle californien ou composer avec une mosaïque réglementaire.
Si le Congrès ne fait rien, le système californien pourrait devenir le régime par défaut de la gouvernance américaine des modèles frontière. Si le Congrès agit, le plan de Sacramento pourrait malgré tout fixer le point de départ de la négociation. Ses grands éléments — normes obligatoires, vérificateurs indépendants agréés, délais de signalement plus courts, confinement d’urgence et visibilité sur la recherche en IA automatisée par l’IA — sont désormais sur la table , .
Aller vite comporte des risques. La Californie pourrait produire des règles difficiles à administrer, dépassées par la technologie ou vulnérables juridiquement. Elle pourrait aussi inciter des développeurs à réclamer une préemption fédérale, surtout si d’autres États adoptent des régimes incompatibles. Mais l’alternative serait de continuer à s’en remettre à l’autorégulation des entreprises alors que des auditeurs publics affirment que des garde-fous existants peuvent être contournés rapidement , .
La suite du test
La première question est de savoir si la Californie transformera ces recommandations en loi avec des définitions, des seuils et des pouvoirs d’application suffisamment précis. La deuxième est de savoir si certaines entreprises d’IA préféreront un régime prévisible à une incertitude réglementaire État par État. La troisième est de savoir si les conclusions du GAO pousseront le Congrès à agir avant que le cadre californien ne s’impose comme norme nationale de fait.
Pour l’instant, Newsom a donné à Sacramento une architecture de gouvernance et à Washington un défi. Le test du GAO apporte l’urgence: des systèmes d’IA largement disponibles auraient été poussés au-delà de leurs garde-fous et vers une planification dangereuse en quelques heures , . La réponse californienne consiste à déplacer le débat des promesses volontaires vers la surveillance obligatoire. Reste à voir si ce modèle deviendra le standard américain.


Commentaires
Sois le premier à commenter.