Nvidia lance Groq 3 LPX et transforme son acquisition de 20 milliards de dollars en produit commercial

Nvidia commence à concrétiser sa plus importante acquisition avec la mise en production complète de son rack Groq 3 LPX, une architecture spécialisée dans l’inférence d’intelligence artificielle à très faible latence.

Le système doit être déployé plus tard cette année chez le fournisseur cloud Nebius, où il fonctionnera aux côtés des processeurs centraux Vera et des GPU Rubin de Nvidia.

L’annonce montre que le groupe ne cherche plus uniquement à dominer le calcul nécessaire à l’entraînement des grands modèles d’IA. Nvidia veut également gagner une part plus importante du marché de l’inférence, c’est-à-dire la phase pendant laquelle un modèle déjà entraîné génère réellement des réponses pour les utilisateurs.

Cette évolution devient particulièrement importante avec l’essor des agents IA et des outils de programmation, où quelques secondes ou même quelques centaines de millisecondes de délai peuvent fortement modifier l’expérience utilisateur.

Groq 3 LPX entre en production quelques mois après l’acquisition

Nvidia avait acquis des actifs de la start-up Groq en décembre pour 20 milliards de dollars, soit la plus importante opération de croissance externe de son histoire.

Moins d’un an plus tard, la technologie commence déjà à être intégrée dans son offre commerciale.

Dion Harris, directeur principal chez Nvidia, a indiqué que les racks Groq 3 LPX étaient désormais en production complète.

Le premier déploiement annoncé doit intervenir chez Nebius avant la fin de l’année.

Ce rythme d’intégration suggère que Nvidia considère l’inférence spécialisée comme une priorité stratégique plutôt que comme un simple complément à son portefeuille de GPU.

L’inférence à faible latence devient un marché à part entière

Pendant plusieurs années, la compétition autour de l’IA s’est principalement concentrée sur la puissance nécessaire pour entraîner les plus grands modèles.

La priorité commence à évoluer.

À mesure que davantage de modèles passent en production, la qualité du service dépend aussi de la rapidité avec laquelle ils peuvent générer des tokens.

Pour les assistants de programmation et les agents IA, une réponse lente peut rendre le produit beaucoup moins utile.

Nvidia estime que les fournisseurs cloud pourront même facturer davantage pour des niveaux de service offrant une latence plus faible.

Harris a expliqué que cette capacité pourrait permettre de créer des offres premium destinées aux clients les plus sensibles au temps de réponse.

Groq utilise une architecture différente des GPU classiques

Le principal avantage de Groq repose sur une architecture conçue spécifiquement pour réduire certains goulets d’étranglement de mémoire.

Chaque puce Groq intègre environ 500 mégaoctets de SRAM directement sur le die.

Cette mémoire très rapide permet de limiter les délais liés aux transferts de données, particulièrement importants pendant certaines étapes de l’inférence.

Les puces Groq sont fabriquées par Samsung, alors que les GPU Nvidia sont principalement produits par Taiwan Semiconductor Manufacturing Company.

Cette différence ajoute également une forme de diversification dans la chaîne de production de Nvidia.

Un rack LPX réunit 256 puces Groq 3

Nvidia assemble 256 puces Groq 3 dans chaque rack LPX.

Selon un benchmark d’Artificial Analysis cité par l’entreprise, un rack Groq 3 LPX peut atteindre environ 3 400 tokens par seconde.

Ce chiffre illustre le positionnement très spécifique du produit.

Le système n’est pas destiné à remplacer l’ensemble des accélérateurs Nvidia, mais à fournir un processeur particulièrement rapide pour les parties du workload où la latence est prioritaire.

Cette approche crée une architecture plus hétérogène dans laquelle différents processeurs sont affectés aux tâches auxquelles ils sont les mieux adaptés.

Nvidia ne présente pas Groq comme un remplacement des GPU

Cette distinction est essentielle.

Les GPU restent les principaux composants polyvalents utilisés dans l’IA.

Ils peuvent prendre en charge aussi bien l’entraînement que l’inférence et restent suffisamment flexibles pour fonctionner avec de nouveaux modèles et différentes architectures.

Groq, à l’inverse, est davantage spécialisé dans la phase dite de « decode », lorsque le modèle génère les tokens composant sa réponse.

Harris a explicitement indiqué que le projet ne visait pas à remplacer les GPU.

L’objectif est d’utiliser le bon processeur, au bon prix, pour la bonne partie de la charge de travail.

Vera Rubin reste au centre de l’infrastructure Nvidia

La stratégie Groq s’inscrit donc à l’intérieur d’un portefeuille beaucoup plus large.

Nvidia augmente actuellement les livraisons de ses systèmes Vera Rubin, dont la production a commencé plus tôt cette année.

Ces systèmes combinent notamment les processeurs Vera et les GPU Rubin et représentent la prochaine génération de la plateforme de calcul IA du groupe.

Lors de leur présentation en mars, Jensen Huang avait prévu que Blackwell et Vera Rubin pourraient générer ensemble 1 000 milliards de dollars de ventes cumulées jusqu’en 2027.

Cette estimation montre que l’essentiel de l’opportunité commerciale reste encore lié aux grandes plateformes GPU.

Groq pourrait néanmoins occuper une part importante des data centers dédiés au code

Huang avait également donné une indication précise de la place qu’il envisage pour Groq dans certains environnements.

Il avait déclaré qu’il attribuerait environ un quart de l’espace de data center destiné aux applications de programmation aux puces Groq.

Les trois quarts restants resteraient principalement basés sur Vera Rubin.

Cette répartition illustre la logique de spécialisation.

Pour des workloads de génération de code où les utilisateurs attendent une réponse immédiate, Groq peut devenir un accélérateur complémentaire particulièrement pertinent.

La compétition sur la latence s’intensifie

Nvidia n’est pas seule à viser ce segment.

AMD a annoncé plus tôt cette année qu’elle intégrerait ses systèmes rack-scale avec des puces de Cerebras.

Cerebras, récemment introduite en Bourse, se concentre elle aussi fortement sur l’inférence à faible latence.

OpenAI a également annoncé un mode Ultrafast offrant jusqu’à 750 tokens par seconde et fonctionnant avec Cerebras.

Cette concurrence montre que le marché commence à se fragmenter selon les usages.

La meilleure architecture pour entraîner un modèle géant n’est pas nécessairement la plus efficace pour générer rapidement les réponses de millions d’utilisateurs.

La latence pourrait devenir un nouveau facteur de différenciation commerciale

Le marché du cloud IA a longtemps été dominé par des discussions sur le prix du calcul et le nombre de GPU disponibles.

La rapidité de génération devient maintenant un troisième critère.

Pour les applications interactives, la différence entre 100 et 1 000 tokens par seconde peut modifier profondément la perception du service.

Un système capable de répondre presque instantanément peut être commercialisé comme une offre premium.

C’est précisément la logique évoquée par Nvidia.

Si cette demande se confirme, l’inférence spécialisée pourrait générer une nouvelle catégorie de revenus au-delà de la simple vente de GPU.

Une intégration rapide réduit aussi le risque lié à l’acquisition

Le prix de 20 milliards de dollars payé pour les actifs de Groq était considérable.

Pour justifier une telle transaction, Nvidia doit montrer que la technologie peut être industrialisée rapidement et générer une demande réelle.

La production complète de Groq 3 LPX et son déploiement annoncé chez Nebius constituent donc des étapes importantes.

Elles montrent que l’acquisition n’est pas restée au stade de la technologie expérimentale.

Le véritable test viendra toutefois lorsque davantage de clients commenceront à adopter les racks et que Nvidia pourra mesurer leur contribution commerciale.

Les résultats de Nvidia pourraient apporter davantage de détails

L’annonce arrive quelques jours avant la publication des résultats trimestriels du groupe mercredi.

Les investisseurs surveilleront naturellement la croissance du chiffre d’affaires et la demande pour Blackwell et Vera Rubin.

Mais la contribution potentielle des nouveaux produits liés à Groq pourrait également devenir un sujet plus important.

Le marché cherchera à savoir si Nvidia considère l’inférence à faible latence comme un nouveau moteur significatif ou comme un marché complémentaire encore limité.

Conclusion

La mise en production de Groq 3 LPX marque une étape importante dans l’intégration de l’acquisition de 20 milliards de dollars réalisée par Nvidia.

Le groupe cherche désormais à combiner ses GPU polyvalents avec des puces spécialisées capables de traiter certaines phases de l’inférence beaucoup plus rapidement.

Cette stratégie reflète l’évolution du marché de l’IA, qui passe progressivement de la course à l’entraînement des modèles à la recherche de réponses plus rapides, moins coûteuses et mieux adaptées aux agents et applications interactives.

Point clé final

Groq 3 LPX montre que Nvidia ne veut pas seulement vendre davantage de GPU : l’entreprise veut contrôler une plus grande partie de l’architecture complète des data centers IA. Si la faible latence devient un service premium pour les clouds, les agents et les outils de programmation, l’acquisition de Groq pourrait ouvrir un nouveau segment de croissance sans remettre en cause le rôle central de Vera Rubin.