L’enjeu: sortir l’IA du réflexe Nvidia
Google et AWS intensifient leur offensive face à Nvidia dans le calcul pour l’intelligence artificielle. Mais l’histoire ne se résume pas à l’annonce de nouvelles puces. Le vrai sujet est l’assemblage entre accélérateurs spécialisés, logiciels compatibles avec les habitudes des développeurs et intégration cloud. C’est à ce niveau que se joue la possibilité de faire tourner des charges d’IA massives ailleurs que sur les GPU Nvidia.
Le 9 novembre 2026, Google a annoncé l’élargissement de sa gamme TPU de huitième génération avec deux nouveaux systèmes, TPU 8tx et TPU 8i Max, portant cette génération à quatre systèmes lancés sur une seule année . Dans le même cycle d’actualité, de nouvelles informations sur TorchNeuron d’Amazon ont mis en avant un backend PyTorch natif capable d’exécuter du code PyTorch existant sur les puces AWS Trainium avec quasiment aucune modification . Les deux mouvements se complètent: Google multiplie les options matérielles selon les charges de travail, tandis qu’AWS attaque le principal frein à l’adoption de ses puces, à savoir le coût de migration logicielle.
C’est précisément là que se trouve la force de Nvidia. Son avantage ne vient pas seulement de ses GPU, mais de l’écosystème complet: CUDA, bibliothèques, outils, documentation, réflexes des développeurs, disponibilité dans le cloud et confiance opérationnelle. Google et AWS veulent rendre leurs propres accélérateurs moins exotiques, plus ordinaires, plus faciles à tester et à déployer.
TPU 8tx: Google cible les données sensibles
Le TPU 8tx est conçu pour l’inférence sécurisée et confidentielle, tout en pouvant aussi servir à de petites charges d’entraînement . Google le présente comme un système destiné aux entreprises réglementées et aux gouvernements qui exécutent des modèles propriétaires ou des agents autonomes au contact de données sensibles . Cette cible est stratégique: les secteurs les plus prudents face à l’IA générative sont aussi ceux qui disposent de budgets importants, mais ils exigent des garanties fortes sur l’isolation des données.
Le problème technique est connu. Les données peuvent être chiffrées au repos et en transit, mais elles doivent souvent être déchiffrées lorsqu’elles sont traitées en mémoire. Google affirme que le TPU 8tx repose sur le même silicium que le TPU 8t, qu’il est associé à des hôtes CPU AMD EPYC de 5e génération et qu’il intègre la sécurité directement au niveau matériel afin de protéger les données sensibles et les poids de modèles même pendant leur utilisation active . Le message ne vise donc pas seulement la performance brute: il vise la conformité, la confiance et l’acceptabilité des agents IA en production.
Google ajoute que le TPU 8tx adopte le réseau à faible latence Boardfly, créé pour le raisonnement en temps réel, avec jusqu’à deux fois moins de latence que le TPU 8t et une pénalité de performance quasi nulle . Pour des agents capables d’appeler des outils, de consulter des bases de données, d’attendre une réponse externe, de mettre à jour leur mémoire et de poursuivre un raisonnement, la latence devient vite cumulative. Un petit retard à chaque étape peut dégrader toute l’expérience utilisateur. Google cherche donc à combiner confidentialité et réactivité.
TPU 8i Max: répondre au mur mémoire
Le TPU 8i Max s’attaque à un autre problème: les très longs contextes. Google indique avoir combiné deux puces TPU 8i à faible latence dans un seul package afin de doubler la puissance de calcul, la SRAM et la bande passante HBM par rapport au TPU 8i . La cible est le “mur mémoire” rencontré lorsque des agents travaillent sur un dépôt de code entier, des heures de vidéo, de grands ensembles documentaires ou des contextes de l’ordre du million de tokens .
C’est un changement important dans la manière de penser l’infrastructure IA. Pendant la première phase de l’IA générative, la communication marketing s’est beaucoup concentrée sur les FLOPS, les grands clusters et l’entraînement de modèles géants. Les agents déplacent une partie du débat. Un agent en production ne fait pas seulement une énorme opération de calcul; il manipule de longs historiques, des résultats d’outils, des fichiers, des états utilisateur, des extraits récupérés par RAG et des plans intermédiaires. Dans ce monde, la bande passante mémoire, la densité par rack et la proximité des données deviennent des arguments centraux.
Google présente désormais sa famille de huitième génération comme un portefeuille spécialisé: TPU 8t pour l’entraînement à grande échelle, TPU 8i pour le raisonnement à faible latence, TPU 8tx pour le calcul confidentiel et TPU 8i Max pour les contextes massifs et la densité de calcul maximale par rack . Le message est clair: l’IA agentique ne relève pas d’un accélérateur universel, mais d’une architecture différenciée par usage.
Le logiciel, cœur de la défense de Nvidia
Les nouvelles puces de Google auraient moins de poids sans l’effort logiciel qui les accompagne. Dans le même billet, Google rappelle son ouverture aux développeurs PyTorch avec TorchTPU, qui permet d’exécuter du code PyTorch et des modèles Hugging Face nativement sur TPU, ainsi que des backends TPU pour des moteurs d’inférence open source comme vLLM et SGLang . Google met aussi en avant une suite d’agents TPU, XLA Serving Engine, Agent Compute Engine, TPU Sync, Cloud Pathways sur GKE et le découpage dynamique GKE .
Le fil conducteur est simple: rendre les TPU plus familiers. Si une équipe doit réécrire ses modèles, reformer ses ingénieurs, reconstruire son observabilité et modifier son orchestration, même une puce moins chère ou mieux adaptée peut perdre. Si elle peut conserver PyTorch, Kubernetes, ses moteurs de service et ses formats de modèles, alors le calcul économique change.
AWS suit la même logique avec TorchNeuron. InfoQ a rapporté le 9 novembre 2026 qu’Amazon avait présenté TorchNeuron lors de PyTorch Conference North America 2026 comme un backend PyTorch natif permettant d’exécuter du code existant sur les puces AWS Trainium avec quasiment aucune modification . Autrement dit, Amazon ne demande pas aux équipes d’aimer un nouveau framework: il veut que Trainium ressemble à une cible PyTorch supplémentaire.
TorchNeuron: attaquer le coût de migration
Le cœur de la promesse TorchNeuron est la réduction du coût de migration. Selon InfoQ, lorsqu’un projet utilise la détection automatique de périphérique de PyTorch via torch.accelerator, le changement principal peut consister à remplacer .to('cuda') par .to('neuron') . InfoQ indique aussi que TorchNeuron prend en charge l’entraînement distribué et des API de parallélisme PyTorch comme DDP, FSDP2 et DTensor, ainsi que des flux et événements Torch via des objets propres à TorchNeuron .
Ces détails comptent. Les démonstrations simples peuvent tourner sur beaucoup de matériels. Les vraies plateformes d’IA dépendent de l’exécution distribuée, du débogage, du profilage, de la reproductibilité et d’une montée en charge prévisible. Pour déplacer des charges de travail GPU vers Trainium, AWS doit couvrir ces besoins ordinaires mais indispensables.
Amazon met aussi en avant un argument économique. InfoQ note que TorchNeuron peut permettre aux entreprises de partager la capacité matérielle entre entraînement et inférence, en réallouant des ressources d’inférence vers l’entraînement pendant les heures creuses . Pour des clusters très coûteux, l’utilisation effective du matériel est un sujet de direction générale. Une flotte qui peut servir à plusieurs types de charges vaut plus qu’un parc spécialisé laissé partiellement inactif.
Les premiers exemples restent à confirmer à grande échelle. InfoQ rapporte qu’Amazon cite notamment Cartesia pour l’inférence vocale et le Lieber Institute for Brain Development pour l’exploration de cibles thérapeutiques et de découverte de médicaments . Mais la trajectoire est nette: AWS veut que Trainium soit jugé non seulement sur le prix ou la performance, mais sur la compatibilité logicielle.
Pourquoi cela menace Nvidia
Des couvertures de marché récentes ont présenté les TPU 8tx et 8i Max comme une escalade dans la rivalité entre Google et Nvidia, StockAnalysis indiquant que Bloomberg avait cadré l’annonce ainsi avant la publication officielle de Google . StockAnalysis rapporte aussi que Google compte près de 100 clients TPU et que certains peuvent déployer ces systèmes directement dans leurs propres centres de données . Quartz, citant Bloomberg, indique que les TPU 8tx et 8i Max doivent être disponibles l’an prochain et les décrit comme des TPU spécialisés venant élargir l’offensive de Google contre Nvidia .
La question immédiate n’est pas de savoir si Google ou AWS vont renverser Nvidia d’un coup. Nvidia reste le fournisseur par défaut de nombreuses entreprises et de nombreux laboratoires, et son écosystème logiciel est profondément installé. La vraie question est de savoir si Google et AWS peuvent accumuler assez de victoires par type de charge pour modifier les décisions d’achat.
C’est pourquoi ces annonces sont importantes. Google affirme qu’un client n’a pas besoin du même accélérateur pour de l’inférence gouvernementale confidentielle, des agents de code à très long contexte, de l’entraînement à grande échelle et du raisonnement à faible latence. AWS affirme qu’une équipe PyTorch n’a pas besoin de réécrire son code pour évaluer Trainium. Dans les deux cas, l’idée attaquée est la même: les GPU Nvidia ne seraient plus l’unique choix pratique.
Le fond stratégique
Le marché de l’infrastructure IA passe d’une phase dominée par la rareté des GPU à une phase de concurrence entre plateformes. Au début du boom génératif, l’avantage allait surtout à ceux qui pouvaient obtenir suffisamment de GPU Nvidia. La prochaine phase pourrait favoriser les fournisseurs capables d’offrir le bon accélérateur, avec le bon profil mémoire, le bon modèle de sécurité, la bonne intégration logicielle, le bon coût par requête et les bons outils d’exploitation.
Les TPU 8tx et TPU 8i Max traduisent le pari de Google sur la spécialisation pour les agents, le calcul confidentiel et les longs contextes . TorchNeuron traduit le pari d’AWS sur la compatibilité: conserver PyTorch, changer de backend et rendre Trainium beaucoup plus facile à essayer . Ni l’un ni l’autre ne chasse Nvidia du centre de l’infrastructure IA à court terme. Mais tous deux installent une idée décisive: l’avenir du calcul IA comptera davantage de choix de silicium, moins d’hypothèses exclusivement CUDA et une bataille plus dure pour contrôler le flux de travail des développeurs.
Commentaires
Sois le premier à commenter.