Réduire sa consommation de tokens : dix méthodes concrètes

Ce qu’est un token, et pourquoi il compte

Un modèle de langage ne lit pas des mots, il lit des tokens : des morceaux de mots. En anglais, un token vaut à peu près les trois quarts d’un mot. En français, il en faut un peu plus pour dire la même chose, à cause des accents et des mots plus longs. Une page de texte dense représente, en ordre de grandeur, entre cinq cents et huit cents tokens.

Les tokens comptent pour trois raisons.

• Le prix. Si vous utilisez une API, vous payez chaque token lu par le modèle et chaque token qu’il écrit. Les tokens écrits coûtent en général plusieurs fois plus cher que les tokens lus.
• Les limites. Si vous avez un abonnement, vous ne payez pas au token, mais votre usage est plafonné. Plus vos conversations sont lourdes, plus vite vous atteignez le plafond.
• La qualité. Un modèle noyé sous des pages de texte dont il n’a pas besoin répond moins bien. Il passe à côté d’un détail, mélange deux versions, ou oublie une consigne donnée au début.

Ce troisième point est le plus important : réduire sa consommation, bien fait, améliore les réponses.

D’où vient vraiment la consommation

L’idée reçue est que la consommation dépend de la longueur de vos questions. C’est faux. Elle dépend de tout ce qui est dans le contexte au moment où le modèle répond, et ce contexte est relu en entier à chaque message.

Prenez une conversation où vous avez collé un document de dix pages au début. Au premier message, le modèle lit dix pages. Au deuxième, il relit ces dix pages, plus votre premier échange. Au vingtième message, il relit les dix pages, plus les dix-neuf échanges précédents. Le document a été lu vingt fois.

Voici ce qui remplit un contexte, du plus lourd au plus léger dans la plupart des cas.

1. Les documents collés ou joints, relus à chaque tour.
2. L’historique de la conversation, qui grossit à chaque message.
3. Les résultats d’outils : pages web consultées, fichiers lus, résultats de recherche.
4. Les consignes permanentes : instructions personnalisées, descriptions des outils branchés.
5. Votre message, qui est presque toujours la plus petite part.

Quand on cherche à économiser, on regarde donc d’abord ce qui est collé et ce qui traîne, pas la façon de formuler la question.

Dix méthodes, de la plus rentable à la plus fine

1. Arrêtez de coller des documents entiers

C’est le premier poste d’économie, et de loin. Si votre question porte sur une clause d’un contrat de trente pages, le modèle n’a besoin que de cette clause et de ce qui l’entoure.

Deux façons d’y arriver. À la main, en ne collant que la section utile. Ou, bien mieux, en branchant l’assistant sur une source où il peut chercher et ne lire que le passage qui l’intéresse. Voir la méthode 9.

2. Ouvrez une nouvelle conversation par sujet

Une conversation qui dure toute la journée traîne tout son passé à chaque message. Quand vous changez de sujet, changez de conversation. Si vous avez besoin de garder un fil, demandez un résumé de dix lignes de l’ancienne et commencez la nouvelle avec.

3. Écrivez vos consignes permanentes une fois, et courtes

Les instructions personnalisées sont ajoutées à chaque conversation. Trois paragraphes précis valent mieux que trois pages qui répètent la même chose. Gardez-y ce qui vaut pour tout, et sortez le reste vers des documents que l’assistant ira lire quand il en aura besoin.

4. Donnez la consigne complète dès le premier message

Chaque aller-retour de correction relit tout le contexte. « Rédige un email » suivi de cinq précisions coûte cinq tours. Dites tout de suite pour qui, sur quel ton, avec quelle longueur et quel résultat attendu : vous obtenez la bonne réponse en un tour.

5. Demandez des réponses à la bonne longueur

Les tokens écrits sont les plus chers et les plus lents. Si vous voulez cinq points, demandez cinq points. Si vous voulez seulement la partie modifiée d’un texte, dites-le, au lieu de laisser le modèle réécrire le document entier à chaque retouche.

6. Choisissez le modèle selon la tâche

Les éditeurs proposent plusieurs modèles, du plus léger au plus puissant, avec des écarts de prix importants. Reformuler un email, classer des messages ou extraire des dates ne demande pas le modèle le plus cher. Gardez celui-ci pour le raisonnement difficile.

7. Dosez la réflexion étendue

Les modes de réflexion approfondie font produire au modèle un raisonnement intermédiaire, qui compte dans la consommation. Ils sont précieux sur un problème complexe, inutiles pour une tâche simple. Activez-les quand la difficulté le justifie.

8. Tirez parti de la mise en cache

Les API des principaux éditeurs proposent une mise en cache : la partie du contexte qui ne change pas d’un appel à l’autre, comme de longues consignes, est facturée bien moins cher quand elle est relue. Pour en profiter, placez ce qui est stable au début et ce qui varie à la fin. Si vous développez un outil interne, c’est souvent le réglage le plus rentable.

9. Faites chercher l’assistant au lieu de tout lui donner

C’est le changement de fond. Au lieu de mettre vos documents dans le contexte, vous branchez l’assistant sur l’endroit où ils sont rangés. Quand il a besoin d’une information, il lance une recherche, reçoit quelques extraits courts avec leur emplacement, et ne lit que la partie utile.

La différence est grande sur un document long.

C’est ce que permet le protocole MCP, expliqué dans MCP expliqué simplement.

10. Rangez et découpez vos documents

La méthode 9 ne vaut que si les documents s’y prêtent. Un fichier fourre-tout de quatre-vingts pages oblige l’assistant à lire large. Des documents qui traitent chacun d’un sujet, avec des titres et des intertitres clairs, lui permettent d’aller droit au but. Nous décrivons la méthode dans Construire une base de connaissances pour IA.

Ce qui ne marche pas

Certaines astuces circulent beaucoup et rapportent peu.

• Supprimer la politesse. « Bonjour » et « merci » pèsent quelques tokens. Un document collé en pèse des milliers.
• Écrire en style télégraphique. Vous économisez dix tokens et vous obtenez une réponse à côté, qu’il faut corriger en trois tours.
• Tout passer en anglais. L’économie existe mais reste modeste, et vous perdez en précision si vos documents et vos lecteurs sont francophones.
• Compresser les documents par un résumé. Utile pour un historique de conversation, risqué pour une procédure ou un contrat : le détail qui manque est toujours celui dont on avait besoin.

Mesurer avant et après

On ne réduit bien que ce qu’on mesure.

Avec une API, chaque réponse indique le nombre de tokens lus et écrits, et la console de votre fournisseur donne la consommation par jour et par modèle. Regardez le rapport entre tokens lus et tokens écrits : si vous lisez cent fois plus que vous n’écrivez, vos contextes sont trop chargés.

Avec un abonnement, vous n’avez pas toujours de compteur précis. Observez à quel moment de la journée vous atteignez la limite, et sur quel type de conversation. Les outils de programmation en ligne de commande affichent souvent la taille du contexte en cours.

Faites un essai simple : la même tâche, une fois avec le document collé, une fois avec l’assistant branché sur la source. Comparez la consommation et la qualité de la réponse.

En équipe, le gaspillage se multiplie

Seul, coller dix pages à chaque conversation est une mauvaise habitude. À dix, c’est la même mauvaise habitude dix fois, sur les mêmes dix pages, tous les jours. Et chaque personne colle une version légèrement différente.

Une source commune où chaque assistant lit le passage utile règle les deux problèmes d’un coup : la consommation, et la cohérence des réponses. C’est l’objet de notre guide Partager le contexte entre les IA d’une équipe.

Ce que fait Linkevio sur ce point

Linkevio est une base de connaissances partagée que vos assistants IA lisent directement. Elle applique la méthode 9 par construction.

• La recherche porte sur le texte de vos documents et de vos fichiers importés, et renvoie de courts extraits avec leur emplacement.
• L’assistant lit ensuite la partie du document dont il a besoin, pas le document entier.
• Les documents sont rangés par projet et peuvent être marqués comme faisant foi, ce qui évite à l’assistant de lire trois versions pour en trouver une bonne.

Nous ne vous annoncerons pas de pourcentage d’économie : il dépend de la longueur de vos documents et de ce que vous colliez jusque-là. Plus vos documents sont longs et plus vous les utilisiez souvent, plus l’écart est grand. L’offre gratuite permet de le vérifier sur vos propres cas : créez votre espace et faites l’essai décrit plus haut.

Questions fréquentes

Pourquoi j’atteins si vite la limite de mon abonnement ?

Presque toujours à cause de longues conversations qui contiennent de gros documents. Chaque message relit tout. Ouvrez une nouvelle conversation par sujet et évitez de coller des documents entiers : c’est ce qui fait le plus de différence.

Est-ce qu’une question plus courte coûte moins cher ?

À peine. Votre message est la plus petite part du contexte. Ce qui compte, c’est ce qui l’accompagne : documents, historique, résultats d’outils.

Brancher des outils par MCP ne consomme-t-il pas des tokens ?

Si, un peu : la description de chaque outil occupe de la place. C’est pourquoi il vaut mieux n’activer que les connecteurs dont vous vous servez. Mais un connecteur qui renvoie des extraits au lieu de documents entiers fait économiser bien plus qu’il ne coûte.

La mise en cache s’applique-t-elle à mon abonnement ?

La mise en cache est d’abord un mécanisme des API, qui concerne ceux qui développent. Dans un abonnement, les optimisations sont gérées par l’éditeur ; vous n’avez pas à vous en occuper.

Les fichiers joints à un projet sont-ils relus à chaque fois ?

Cela dépend de l’assistant et de la taille des fichiers : certains chargent tout, d’autres vont chercher des portions. Dans les deux cas, ce sont des copies qu’il faut penser à mettre à jour.

Réduire les tokens dégrade-t-il les réponses ?

Non, si vous retirez ce qui est inutile et gardez ce qui est nécessaire. Un contexte plus court et mieux ciblé donne en général de meilleures réponses. Ce qui dégrade, c’est de retirer une information dont le modèle avait besoin : d’où l’intérêt de le laisser chercher lui-même.