Un rack, des millions d’euros et une question simple : combien coûte vraiment l’IA ?
Lorsque l’on pose une question à ChatGPT, Claude ou Gemini, l’expérience paraît immatérielle : quelques mots, une réponse, parfois une image ou du code. En coulisse, elle repose pourtant sur une infrastructure industrielle dont l’unité de base n’est plus le serveur, mais le rack complet d’accélérateurs. C’est le message que cristallisent les annonces de NVIDIA autour de GTC Taipei et de Computex 2026, ainsi que les récentes estimations de coûts relayées par Les Numériques.
Le chiffre le plus spectaculaire circule depuis quelques jours : environ 7,8 millions de dollars, soit près de 7 millions d’euros, pour un rack NVIDIA de génération Vera Rubin NVL72 selon une estimation attribuée à Morgan Stanley et reprise par Les Numériques. Il faut toutefois corriger un raccourci fréquent : ce montant ne correspond pas strictement au GB200 NVL72 déjà commercialisé autour de Blackwell, mais plutôt aux estimations de nomenclature pour la génération Vera Rubin, parfois appelée VR200 NVL72. Le GB200 NVL72 reste le modèle fondateur de cette architecture rack-scale : 36 CPU Grace, 72 GPU Blackwell, refroidissement liquide et un domaine NVLink présenté par NVIDIA comme capable de faire fonctionner le rack comme une seule énorme machine.
Autrement dit, le prix du rack à 7 millions d’euros n’est pas une étiquette publique vérifiée par NVIDIA. C’est une estimation financière, utile pour comprendre les ordres de grandeur, mais à manier avec prudence. NVIDIA, de son côté, communique surtout sur la performance, l’efficacité énergétique et le coût par jeton. C’est une source primaire, donc précieuse techniquement, mais aussi naturellement biaisée : une annonce d’entreprise n’est pas une validation indépendante.
De Blackwell à Vera Rubin : l’IA devient une usine
Le GB200 NVL72 a changé l’échelle du calcul IA. NVIDIA le décrit comme un ordinateur exascale dans un seul rack, avec 72 GPU Blackwell interconnectés par NVLink et 130 To/s de bande passante GPU à GPU. L’intérêt n’est pas seulement d’empiler des puces : il s’agit de réduire la latence entre accélérateurs, de mutualiser la mémoire et de rendre possibles des modèles à mille milliards de paramètres avec une inférence plus rapide.
À Computex 2026, NVIDIA pousse déjà le récit vers Vera Rubin NVL72. Selon le blog officiel de NVIDIA, la plateforme Vera Rubin NVL72 a reçu des prix Computex et combine 36 CPU Vera et 72 GPU Rubin, avec NVLink 6, ConnectX-9, BlueField-4 et Spectrum-X. NVIDIA promet jusqu’à dix fois plus de performance d’inférence par watt et un coût par jeton divisé par dix par rapport à Blackwell. Ces affirmations sont ambitieuses, mais elles restent des chiffres constructeur : elles devront être confirmées par des déploiements réels, des benchmarks reproductibles et des coûts d’exploitation mesurés.
Le vocabulaire de NVIDIA n’est pas anodin. L’entreprise ne parle plus seulement de centres de données, mais d’« AI factories ». Le calcul devient une chaîne de production : en entrée, de l’électricité, des données et des requêtes ; en sortie, des jetons, des embeddings, des décisions, du code, des images et des agents logiciels. Ce glissement explique pourquoi le rack NVL72 devient une unité économique comparable à une machine-outil dans une usine classique.
Le vrai coût : achat, mémoire, énergie, réseau et occupation GPU
Le prix d’achat n’est que la partie visible. Les estimations rapportées par Les Numériques indiquent que la mémoire pèserait lourd dans la génération Vera Rubin : HBM4 côté GPU et LPDDR5X côté CPU. TrendForce observe de son côté que les fabricants de DRAM réallouent leurs capacités vers la HBM et les applications serveurs, ce qui contribue à la hausse des prix de la mémoire, y compris pour les PC et le matériel grand public. Micron explique également dans ses communications financières que la demande IA contraint l’offre en DRAM et NAND, et que ses livraisons HBM4 visent notamment la plateforme Vera Rubin.
C’est ici que le coût de ChatGPT devient concret. Une requête ne consomme pas « un rack », bien sûr, mais elle mobilise une fraction d’un parc immense. Les grands modèles doivent rester disponibles, avec de la capacité excédentaire pour absorber les pics, de la redondance pour éviter les pannes, des réseaux ultra-rapides pour synchroniser les GPU et du stockage pour les données, les caches et les journaux. À cela s’ajoutent l’énergie, le refroidissement liquide, les transformateurs électriques, les systèmes de distribution, les techniciens, les logiciels d’orchestration, les licences et les marges du cloud.
Microsoft donne une idée de cette industrialisation avec Fairwater, son architecture d’AI superfactory. Le groupe explique que ses centres de données IA sont conçus pour intégrer des centaines de milliers de GPU GB200 et GB300 dans un supercalculateur distribué, avec des racks autour de 140 kW et un refroidissement liquide en boucle fermée. NVIDIA a aussi décrit un cluster Azure GB300 NVL72 de plus de 4 600 GPU Blackwell Ultra pour les charges OpenAI. Ce n’est pas une anecdote : c’est le format de production de l’IA commerciale.
Pourquoi Slurm devient aussi important que le matériel
L’autre information essentielle vient du blog développeur de NVIDIA sur Slurm. Elle est moins spectaculaire que le prix d’un rack, mais probablement plus importante pour la rentabilité. Sur un rack NVL72, mal placer les tâches peut fragmenter le domaine NVLink et réduire les gains promis. NVIDIA et SchedMD mettent donc en avant une planification « topology-aware » : le planificateur Slurm tient compte de la topologie physique pour placer les jobs là où ils communiqueront le plus efficacement.
Dans ses simulations, NVIDIA évoque un cluster de 5 000 nœuds GB200 NVL72, soit 20 000 GPU, et affirme que le placement topologique peut préserver l’occupation GPU à environ 1 % du maximum théorique tout en réduisant la fragmentation. La recommandation varie selon les charges : grands entraînements MoE, modèles denses, petits jobs d’entraînement ou d’inférence. En clair, une infrastructure à plusieurs milliards peut perdre énormément si le logiciel de placement n’est pas à la hauteur.
C’est un point souvent sous-estimé : l’exascale de l’IA n’est pas seulement un exploit matériel. C’est une négociation permanente entre architecture réseau, mémoire, ordonnancement, tolérance aux pannes et profils de charge. Le rack à 7 millions d’euros ne vaut ce prix que s’il est saturé correctement.
Une course qui se heurte au mur énergétique
L’Agence internationale de l’énergie estime que la consommation mondiale des centres de données pourrait doubler pour atteindre environ 945 TWh en 2030 dans son scénario de base. Les serveurs accélérés, surtout liés à l’IA, croîtraient beaucoup plus vite que les serveurs conventionnels. Le Lawrence Berkeley National Laboratory a aussi publié un rapport de référence sur la consommation des centres de données américains, soulignant l’importance de scénarios prospectifs à mesure que l’IA transforme la demande.
Le paradoxe est là : NVIDIA promet un meilleur coût par jeton et une meilleure efficacité par watt, mais l’industrie augmente simultanément le nombre de jetons produits. Si l’usage explose plus vite que l’efficacité, la facture totale continue de monter. C’est l’effet rebond appliqué à l’IA générative.
Prospective : le rack comme monnaie stratégique
La prochaine bataille ne se jouera pas seulement entre modèles, mais entre chaînes d’approvisionnement. Qui obtient les GPU ? Qui sécurise la HBM ? Qui a accès aux sous-traitants taïwanais comme Foxconn ? Qui dispose de terrains, d’électricité, d’eau, de fibre et de permis ? L’accord OpenAI-NVIDIA annoncé en 2025, portant sur au moins 10 GW de systèmes NVIDIA et des millions de GPU, montre que l’IA se planifie désormais à l’échelle énergétique nationale.
Pour les utilisateurs, cela signifie deux choses. Premièrement, les abonnements IA resteront soumis à une économie de capacité : les fonctions les plus puissantes, les contextes longs et les agents autonomes coûteront cher tant que le calcul restera rare. Deuxièmement, l’optimisation logicielle deviendra un facteur de souveraineté. Un pays ou une entreprise qui achète des racks NVL72 sans maîtriser l’ordonnancement, les réseaux et l’exploitation paiera le prix fort sans obtenir toute la performance.
Le rack NVIDIA NVL72 devient ainsi plus qu’un produit : c’est le lingot de l’économie IA. Mais un lingot qui chauffe, consomme, se fragmente et se déprécie vite. Le vrai gagnant ne sera pas forcément celui qui en achète le plus, mais celui qui transforme chaque watt, chaque gigaoctet de HBM et chaque fenêtre Slurm en jetons utiles.