LES POINTS ESSENTIELS
À retenir
- Compter séparément demandes, tokens d’entrée et tokens de sortie.
- Préciser les tarifs, la devise et les postes exclus.
- Comparer plusieurs scénarios et ajouter les coûts d’exploitation.
Séparer les volumes d’entrée et de sortie
Pour un scénario simple, notez le nombre de demandes, les tokens fournis au modèle et les tokens qu’il produit. L’entrée peut inclure la question, des instructions, un historique et des passages documentaires. Elle ne correspond donc pas seulement à la phrase saisie par l’utilisateur.
Les volumes varient selon les tâches. Préparer un court classement et produire un long rapport ne consomment pas la même quantité. Utilisez des mesures issues d’un essai représentatif lorsque vous en disposez. À défaut, présentez plusieurs hypothèses au lieu de qualifier une moyenne inventée de consommation réelle.
Écrire une formule vérifiable
Dans un scénario sans tarification particulière, le coût des tokens est : nombre de demandes multiplié par la somme du volume d’entrée fois son tarif et du volume de sortie fois son tarif, puis divisé par un million si les tarifs sont exprimés à cette unité.
Exemple purement illustratif : dix mille demandes, mille deux cents tokens d’entrée et trois cents de sortie, avec des prix saisis de une et quatre unités monétaires par million. Les entrées représentent douze unités, les sorties douze unités, soit vingt-quatre unités pour ces seuls tokens. Ces prix n’appartiennent à aucun fournisseur désigné et ne constituent pas une offre commerciale.
Identifier les cas qui demandent une autre ligne
Le cache, les outils externes, les médias, le stockage ou une offre contractuelle peuvent modifier la facturation. Utilisez les conditions applicables à votre service et à votre modèle au moment de l’estimation. Ne mélangez pas des tarifs dans des devises différentes.
Si votre architecture déclenche plusieurs appels pour une seule demande utilisateur, décrivez-les. La recherche, la préparation et une vérification peuvent constituer des étapes séparées. Une formule fondée sur un appel unique sous-estimerait alors le volume. Le nombre de visiteurs et le nombre d’appels ne sont pas des unités interchangeables.
Construire plusieurs scénarios de charge
Préparez une utilisation courante, une période soutenue et un cas de documents longs. Faites varier un paramètre à la fois pour comprendre son influence. La taille de l’historique ou la longueur des réponses peuvent peser davantage que le volume initialement retenu.
Définissez aussi les limites : longueur maximale, fréquence des demandes et budget d’alerte. Ces paramètres influencent l’expérience et doivent être discutés avec les utilisateurs. Une limite claire permet d’éviter qu’une opération coûteuse se répète sans que l’équipe puisse en comprendre la cause.
Ajouter le coût du service complet
L’intégration, les essais, la mise à jour des documents, l’hébergement et l’assistance restent à prévoir. Selon le projet, ces postes peuvent être plus structurants que la consommation du modèle. Il faut les distinguer pour comparer des solutions sur un même périmètre.
Notre simulateur de coût d’un assistant IA calcule la part des tokens à partir de vos propres paramètres. Il affiche sa formule et ses exclusions. Utilisez-le pour explorer un scénario, puis rapprochez le résultat des conditions de votre fournisseur et de votre budget d’exploitation. Un simulateur rend les hypothèses visibles ; il ne remplace pas un devis complet.