Auto-héberger un LLM ou payer au token : où se situe vraiment le seuil
Faire tourner un modèle à poids ouverts sur un GPU loué ne coûte moins cher que le paiement au token qu'au-delà d'un seuil de volume ; en dessous, c'est plus cher. Le GPU se facture à l'heure, occupé ou non ; une API ne facture que les tokens consommés. Avec le prix catalogue d'un H100 chez OVHcloud (2,80 € HT de l'heure, relevé le 6 octobre 2026) et le prix de Llama 3.3 70B chez Evanesca, ce seuil tourne autour de 1,6 milliard de tokens par mois pour une carte — et un modèle de 70B en demande en pratique deux.
Publié le 6 oct. 2026 · vérifié le 20 oct. 2026
Toute la question tient en une division
Louer un GPU et appeler une API ne se facturent pas dans la même unité. La machine facture du temps ; l'API, de la consommation. Les comparer tient en une ligne :
tokens par mois = (prix horaire de la machine × 730) ÷ prix par token730, c'est le nombre d'heures d'un mois moyen. Mettez les deux côtés sur la même base fiscale : les prix d'Evanesca sont TTC, donc la machine se compte TTC elle aussi. Le résultat est le même hors taxes des deux côtés — le taux s'annule —, mais comparer un prix HT à un prix TTC ferait paraître l'auto-hébergement environ un cinquième moins cher qu'il ne l'est.
Côté machine : ce que coûte un H100
Le catalogue public d'OVHcloud pour la France, consulté le 6 octobre 2026, propose l'instance h100-380 — un NVIDIA H100 de 80 Go de mémoire, 30 vCores et 380 Go de RAM — à 2,80 € HT de l'heure, soit 3,36 € TTC (catalogue, page des tarifs). Allumée tout le mois, elle coûte 2 452,80 € TTC ; le forfait mensuel de la même machine est à 1 940 € HT.
| Instance | GPU | Par heure, HT | Par heure, TTC | Un mois en continu, TTC |
|---|---|---|---|---|
| h100-380 | 1 × H100 80 Go | 2,80 € | 3,36 € | 2 452,80 € |
| h100-760 | 2 × H100 80 Go | 5,60 € | 6,72 € | 4 905,60 € |
| h100-1520 | 4 × H100 80 Go | 11,20 € | 13,44 € | 9 811,20 € |
Ce sont des prix catalogue. Ils varient selon la région et l'engagement, et le stockage comme le trafic sortant peuvent s'y ajouter. Prenez-les comme point de départ de votre propre devis, pas comme le devis.
Côté API, et le seuil de rentabilité
Evanesca sert Llama 3.3 70B chez Scaleway à Paris, avec OVHcloud en relais, pour 1,512 € par million de tokens, en entrée comme en sortie, TVA comprise — le montant réellement débité, pas un coût d'infrastructure (tous les prix). Diviser le coût de la machine par ce prix donne le seuil :
| Machine | Par mois, TTC | Seuil par mois | Tokens par seconde, jour et nuit |
|---|---|---|---|
| 1 × H100, à l'heure, en continu | 2 452,80 € | 1,6 milliard | 620 |
| 1 × H100, forfait mensuel | 2 328,00 € | 1,5 milliard | 590 |
| 2 × H100, à l'heure, en continu | 4 905,60 € | 3,2 milliards | 1 230 |
| 4 × H100, à l'heure, en continu | 9 811,20 € | 6,5 milliards | 2 470 |
Pour fixer les idées : la plus petite recharge d'Evanesca, 2 €, achète environ 1,3 million de tokens sur Llama 3.3 70B, et une recharge de 5 € environ 3,3 millions — ou environ 30 millions de tokens d'entrée sur Gemma 4 26B, le prix d'entrée le plus bas du catalogue d'Evanesca. Comparez ces chiffres au volume réel du mois dernier, tiré de vos journaux, pas de vos prévisions.
C'est la mémoire qui fixe le nombre de cartes
Les estimations se trompent souvent ici : elles chiffrent une carte, puis le déploiement en prend deux. Un modèle de 70 milliards de paramètres stocké à deux octets par paramètre demande environ 140 Go rien que pour ses poids, contre 80 Go sur un H100. Quantifiés à un octet, les poids tombent à environ 70 Go — ils tiennent, mais ne laissent presque rien au cache KV, cette mémoire qui grandit avec la longueur du contexte et le nombre de requêtes servies en même temps. Un modèle de 70B avec un contexte utile et du traitement par lots réclame deux cartes, ce qui double le seuil, à environ 3,2 milliards de tokens par mois.
L'architecture change la donne. La fiche d'OpenAI indique que GPT-OSS 120B tient « into a single 80GB GPU » grâce à des poids quantifiés (fiche du modèle, lue le 6 octobre 2026). Mais il est aussi bon marché au token chez Evanesca : pour trois tokens d'entrée par token de sortie, son prix moyen est de 0,4410 € par million, et un H100 devrait servir environ 5,6 milliards de tokens par mois pour faire mieux.
À l'autre bout, Kimi K3 compte 2,8T de paramètres (104B actifs) : même à un octet par paramètre, ses poids demandent environ 2 800 Go, bien au-delà des 320 Go de l'instance à quatre GPU. À cette taille, c'est un projet sur plusieurs machines.
C'est le taux d'utilisation qui tranche
Convertissez le seuil en débit et tout s'éclaire : 1,6 milliard de tokens par mois, c'est environ 620 tokens par seconde, tenus jour et nuit. Nous ne donnons aucun chiffre de débit pour votre modèle sur votre matériel : il dépend de la quantification, de la taille des lots, de la longueur du contexte, du mélange entre prompt et réponse, et de la pile de service. Mesurez-le sous votre propre charge. Ce que montre le calcul, c'est que le seuil se situe tout près de la saturation de la machine.
La vraie question est donc : pouvez-vous occuper le GPU chaque heure que vous payez ? Un outil interne utilisé aux heures de bureau — huit heures par jour, cinq jours par semaine — consomme environ 173 des 730 heures d'un mois, soit à peu près 24 % : chaque token servi coûte alors environ 4,2 fois le chiffre calculé à saturation. Les pics aggravent les choses : la machine est dimensionnée pour l'heure la plus chargée et payée pendant toutes les heures creuses.
Ce que le prix horaire ne dit pas
- Le stockage et le trafic sortant, souvent facturés à part — et les poids d'un modèle pèsent des dizaines à des centaines de gigaoctets.
- La redondance : une machine est un point de défaillance unique, et une seconde double la facture pour les mêmes tokens.
- Le temps d'ingénierie : déploiement, pile de service (les serveurs d'inférence à héberger soi-même), mises à jour des pilotes, supervision, et quelqu'un d'astreinte quand tout s'arrête la nuit. Il apparaît rarement dans la comparaison et c'est souvent la plus grosse ligne.
- Plusieurs modèles, c'est plusieurs déploiements, ou des rechargements permanents qui ruinent le taux d'utilisation espéré.
- Le rythme des versions : les poids ouverts évoluent vite, et chaque mise à niveau impose un redéploiement et une nouvelle série de tests.
Une API au token met tout cela du côté du fournisseur. Chez Evanesca, une seule clé atteint tous les modèles du catalogue, et l'API est compatible OpenAI : essayer un modèle, c'est changer une chaîne, pas déployer.
Quand l'auto-hébergement l'emporte
- Un volume soutenu et saturant sur un seul modèle — le seul cas où la division penche nettement du côté de la machine.
- Des poids personnalisés ou affinés qu'aucun fournisseur ne sert.
- Un modèle qu'aucun opérateur géré ne propose encore.
- Une exigence qu'aucun fournisseur ne remplit : isolation réseau, objectif de latence, lieu précis.
L'auto-hébergement ne règle pas à lui seul la question de la juridiction. Un GPU loué à un cloud sous contrôle américain, même dans une région UE, reste à portée du CLOUD Act ; loué à un fournisseur sans contrôle extérieur à l'UE, il est hors de sa portée directe. C'est l'opérateur qui décide, pas le fait d'exécuter le modèle vous-même — le guide RGPD et CLOUD Act explique pourquoi.
Trancher en six étapes
- Relevez le volume réel de tokens du mois dernier dans vos journaux, entrée et sortie séparément.
- Multipliez par le prix publié du modèle que vous utiliseriez : c'est votre facture d'API.
- Dimensionnez la machine nécessaire — la mémoire d'abord, le débit ensuite — et multipliez son prix horaire par 730.
- Si la facture d'API est inférieure à la machine, arrêtez-vous : l'API l'emporte.
- Si elle est supérieure, divisez le seuil par 2 628 000 pour obtenir le débit en tokens par seconde qu'il faudrait tenir, et demandez-vous si votre trafic le tient un dimanche à 3 heures du matin.
- Ajoutez les coûts cachés du côté machine avant de conclure.
Si l'API l'emporte, Evanesca n'a pas d'abonnement : des recharges dès 2 €, un crédit qui n'expire jamais et le coût exact sous chaque réponse (tarifs). Le guide des modèles à poids ouverts aide à choisir le modèle.
Questions fréquentes
Auto-héberger un LLM coûte-t-il moins cher qu'une API ?
Seulement au-delà d'un seuil de volume. Un GPU loué se facture à l'heure, occupé ou non : il ne l'emporte que maintenu près de la saturation. Face au prix d'Evanesca pour Llama 3.3 70B, un H100 au prix catalogue d'OVHcloud d'octobre 2026 s'équilibre autour de 1,6 milliard de tokens par mois, et les deux cartes qu'un modèle de 70B demande en pratique autour de 3,2 milliards.
Combien de tokens par mois pour rentabiliser un H100 loué ?
Divisez le coût mensuel de la machine par votre prix au token. À 3,36 € TTC de l'heure, un H100 allumé tout le mois coûte 2 452,80 € ; face à 1,512 € par million de tokens, cela fait environ 1,6 milliard de tokens, soit environ 620 tokens par seconde tenus jour et nuit.
Un modèle de 70B tient-il sur un seul H100 ?
À peine. À deux octets par paramètre, ses poids demandent environ 140 Go contre 80 Go sur la carte ; quantifiés à un octet, ils tiennent dans environ 70 Go mais laissent peu de place au cache KV dont a besoin le service de plusieurs utilisateurs. Dimensionnez par la mémoire d'abord, par le débit ensuite.
L'auto-hébergement rend-il conforme au RGPD ?
Pas à lui seul. Il retire un sous-traitant de la chaîne, mais vous tournez toujours sur l'infrastructure de quelqu'un, et la société qui la contrôle décide si le CLOUD Act peut atteindre les données. Le reste du RGPD — base légale, minimisation, conservation, droits des personnes — s'applique quel que soit l'exécutant du modèle.
À lire aussi
- Agrégateurs d'API IA : une clé pour de nombreux modèles, et la question de qui les exécuteUn agrégateur d'API IA réunit de nombreux modèles derrière une clé compatible OpenAI. Ce qui distingue OpenRouter, Together AI, Groq, Fireworks AI et Evanesca.
- Comment choisir un agrégateur d'API d'IA pour votre entrepriseLes cinq questions à poser à un agrégateur d'API d'IA — juridiction, données gardées, facturation, catalogue, compatibilité — et les réponses de cinq acteurs.
- Passerelles d'IA et serveurs d'inférence open source à héberger soi-mêmeLiteLLM, vLLM, SGLang, Ollama, TGI, Xinference : ce que fait chaque outil auto-hébergé, ce qu'il coûte à exploiter, et quand une API européenne suffit.