Une offensive TPU qui dépasse le simple lancement de puce
Le mouvement de Google autour des TPU n’est pas seulement une annonce de semi-conducteur supplémentaire. Le cœur de l’information est que Google vend désormais des systèmes TPU complets à des clients externes, rompant avec un modèle historique où le matériel TPU restait principalement exploité dans une infrastructure cloud gérée par Google . Pour le client, la différence est majeure: il ne s’agit plus seulement de louer du temps d’accélérateur via Google Cloud, mais de pouvoir accéder à un système TPU intégré comprenant calcul, stockage, réseau, logiciels et services liés à l’entraînement et à l’inférence .
La revendication centrale est frontalement comparative: l’offre TPU en rack complet afficherait une performance d’inférence par dollar supérieure de 50% à celle du GB200 de Nvidia . Cette promesse devra évidemment être vérifiée selon les charges de travail réelles, mais le message commercial est limpide: Google positionne les TPU comme substitut possible aux systèmes Nvidia à l’échelle du rack, et non plus seulement comme option cloud réservée aux clients déjà engagés dans son écosystème .
Le calendrier renforce aussi le signal. Le rapport indique que Google a élargi en une seule année sa huitième génération de TPU à quatre configurations, dont deux nouvelles puces visant respectivement l’inférence confidentielle et les contextes longs . Ce vocabulaire de portefeuille montre que Google ne vend plus l’idée d’un accélérateur universel. L’entreprise met plutôt en avant une spécialisation par usage: entraînement, inférence temps réel, calcul confidentiel et longues fenêtres de contexte .
Du silicium interne au système vendu à l’extérieur
Pendant longtemps, le TPU a surtout été une histoire d’infrastructure interne. Le rapport rappelle que le TPU est né en 2013 comme accélérateur conçu par Google pour réduire le coût de calcul de ses propres services d’IA, avant l’ouverture de capacités TPU à la location sur Google Cloud en 2018 . Dans ce modèle, Google gardait la main sur le matériel, exploitait l’infrastructure et proposait aux utilisateurs externes un accès à travers le cloud .
La nouveauté est la vente de systèmes TPU complets en dehors de ce modèle fermé. Selon le rapport, Google a commencé à livrer des systèmes TPU complets à des clients dès le deuxième trimestre 2026 . Le même article présente cette décision comme un changement stratégique interne: les commandes externes permettent de partager l’énorme charge d’investissement des centres de données IA, tandis que la demande à grande échelle peut améliorer la courbe de coût du matériel conçu par Google .
C’est précisément ce que Nvidia doit surveiller. Nvidia domine parce qu’il ne vend pas seulement des GPU, mais aussi des systèmes à l’échelle du rack, du réseau, du logiciel et un écosystème qui fait du GPU le choix par défaut pour l’infrastructure IA. Google reprend cette logique système: si les acheteurs raisonnent de plus en plus en racks d’IA, Google doit concurrencer Nvidia au niveau du rack, pas seulement au niveau de la puce ou de l’instance cloud .
L’inférence, nouveau centre de gravité économique
L’expression la plus importante de cette histoire est “performance par dollar”. L’entraînement attire l’attention parce que les grands runs de modèles frontières coûtent extrêmement cher, mais l’inférence est le coût qui se répète chaque jour une fois le modèle déployé. À mesure que les produits d’IA passent de l’expérimentation à la production, le problème de l’opérateur n’est plus seulement la facture ponctuelle d’entraînement, mais le coût marginal de chaque token généré, de chaque requête utilisateur et de chaque session à long contexte.
C’est pourquoi une avance revendiquée de 50% en performance d’inférence par dollar face au GB200 serait stratégique si elle se confirme sur un nombre suffisant de charges de production . Un hyperscaler, un laboratoire d’IA, une plateforme financière ou un éditeur logiciel d’entreprise ne cherche pas uniquement le rack le plus rapide. Il cherche celui qui sert le plus de tokens au coût le plus bas, tout en respectant les contraintes de latence, de fiabilité, de logiciel et de déploiement.
Le rapport relie aussi déjà les ventes de systèmes TPU à la trajectoire financière de Google Cloud: le chiffre d’affaires de Google Cloud a atteint 30,7 milliards de dollars au troisième trimestre, en hausse de 103% sur un an, tandis que le bénéfice opérationnel est passé de 3,594 milliards à 11,121 milliards de dollars . Il indique en outre qu’Alphabet classe désormais les “ventes de produits, principalement les systèmes TPU” dans les revenus de Google Cloud, et que la direction prévoit une poursuite de l’expansion des ventes de systèmes TPU au quatrième trimestre .
Cela ne signifie pas que les ventes de TPU ont déjà transformé le compte de résultat d’Alphabet. Le même article précise que l’essentiel des revenus contractuels associés aux ventes de systèmes TPU devrait être reconnu en 2027, et non immédiatement . Mais cela signifie que l’activité est devenue assez visible pour être discutée dans la croissance de Google Cloud, plutôt que de rester noyée dans la comptabilité interne de l’infrastructure .
Le mur logiciel: CUDA contre TorchTPU
Le défi de Google face à Nvidia ne peut pas être gagné avec du matériel seulement. L’avantage le plus durable de Nvidia n’est pas uniquement le silicium; c’est CUDA, avec ses outils développeurs, ses bibliothèques, ses intégrations et les habitudes accumulées pendant des années autour du calcul GPU. Le rapport de 36Kr souligne explicitement ce point, en rappelant que le support mature de PyTorch autour de CUDA a longtemps fait des GPU Nvidia la voie dominante du développement IA .
C’est là que TorchTPU devient central. Le rapport indique que Google a commencé à travailler avec l’équipe PyTorch de Meta à la mi-2025 pour développer TorchTPU, avec l’objectif de faire fonctionner des modèles PyTorch sur TPU avec peu de modifications de code . Il précise aussi que cette collaboration a été publiée en open source à la fin du mois dernier, réduisant la barrière de migration liée à l’association historique des TPU avec TensorFlow et JAX .
Ce point logiciel n’est pas un détail. Si les clients doivent réécrire une large part de leur code, revalider les kernels, reformer les équipes et reconstruire les pipelines de déploiement, un matériel moins cher peut tout de même perdre. Si TorchTPU rend la migration plus progressive, l’argument rack de Google devient beaucoup plus crédible . Autrement dit, Google ne vend pas seulement un rack; il tente de vendre une sortie praticable hors d’une dépendance logicielle exclusivement GPU.
Nvidia conserve des réponses
L’histoire n’est pas que Nvidia aurait soudainement perdu le marché de l’infrastructure IA. Le même rapport cite des tests SemiAnalysis où le TPUv7 Ironwood de Google a montré, dans certains scénarios d’inférence agentique, une meilleure production de tokens par dollar que des GPU Nvidia; mais il indique aussi que Nvidia a répondu par un travail d’optimisation et que le GB300 a finalement dépassé le TPU de 1,5 à 2,6 fois sur un modèle après quatre cycles d’optimisation .
Ce détail est essentiel, car il montre que la compétition reste dynamique. Les benchmarks ne sont pas des lois fixes. Les kernels, la quantification, le batching, la gestion mémoire, l’interconnexion et les piles de serving propres à chaque modèle peuvent changer le résultat. Un rack TPU peut être très compétitif sur un profil d’inférence, tandis que la plateforme Nvidia peut reprendre l’avantage après optimisation sur un autre .
Mais l’attaque de Google modifie l’environnement de négociation. Jusqu’ici, de nombreux grands acheteurs pouvaient se plaindre des prix et des contraintes d’approvisionnement des GPU, tout en ayant peu d’alternatives comparables à grande échelle. Un système TPU complet en rack leur donne une autre option intégrée, et même les clients qui restent chez Nvidia peuvent gagner en pouvoir de négociation si Google devient une source crédible de capacité .
Ce que cela change pour les grands opérateurs d’IA
Les premiers clients les plus probables ne sont pas de petites startups achetant quelques accélérateurs. Les systèmes TPU en rack complet visent surtout des entreprises qui ont une demande IA soutenue, des équipes capables de valider une nouvelle pile d’accélération et des volumes d’inférence assez importants pour faire de chaque centime par million de tokens un sujet stratégique. Le rapport indique que Google observe une forte demande de TPU chez les laboratoires d’IA, les acteurs des marchés financiers et les applications de calcul haute performance .
Pour ces clients, la question n’est plus seulement “GPU ou TPU?”. Elle devient: “quelles charges doivent rester sur GPU, lesquelles peuvent migrer vers TPU, et quel pouvoir de négociation crée une stratégie multi-accélérateurs?” L’entraînement, l’inférence à faible latence, le service à long contexte, l’inférence confidentielle et les charges agentiques en batch ne finiront pas nécessairement sur le même silicium.
La vente de racks TPU complets par Google représente donc plus qu’un lancement produit. Elle signale un changement structurel dans l’achat d’infrastructure IA: le silicium spécialisé passe du statut d’avantage interne d’hyperscaler à celui de produit externe en concurrence avec les systèmes rack de Nvidia . Si Google prouve l’économie réelle, renforce la pile logicielle et livre de façon fiable, la bataille des GPU entre dans une nouvelle phase — avec un challenger qui n’est pas un autre GPU, mais un rack façonné par les TPU.


Commentaires
Sois le premier à commenter.