Reducir el consumo de tokens: diez métodos concretos
Llegas al límite de tu suscripción a media tarde, o tu factura de API se duplica sin que entiendas por qué. La causa es casi siempre la misma, y tiene arreglo.
Qué es un token y por qué importa
Un modelo de lenguaje no lee palabras, lee tokens: fragmentos de palabras. En inglés, un token equivale más o menos a tres cuartos de palabra. En español hacen falta algunos más para decir lo mismo, por las tildes y las palabras más largas. Una página de texto denso representa, como orden de magnitud, entre quinientos y ochocientos tokens.
Los tokens importan por tres razones.
- El precio. Si usas una API, pagas cada token que lee el modelo y cada token que escribe. Los tokens escritos suelen costar varias veces más que los leídos.
- Los límites. Si tienes una suscripción, no pagas por token, pero tu uso tiene un tope. Cuanto más pesadas son tus conversaciones, antes llegas a ese tope.
- La calidad. Un modelo sepultado bajo páginas de texto que no necesita responde peor. Se le escapa un detalle, mezcla dos versiones u olvida una instrucción dada al principio.
Este tercer punto es el más importante: reducir el consumo, si se hace bien, mejora las respuestas.
De dónde viene realmente el consumo
La idea extendida es que el consumo depende de la longitud de tus preguntas. Es falso. Depende de todo lo que hay en el contexto en el momento en que el modelo responde, y ese contexto se relee entero con cada mensaje.
Piensa en una conversación en la que pegaste un documento de diez páginas al principio. En el primer mensaje, el modelo lee diez páginas. En el segundo, relee esas diez páginas, más tu primer intercambio. En el vigésimo mensaje, relee las diez páginas, más los diecinueve intercambios anteriores. El documento se ha leído veinte veces.
Esto es lo que llena un contexto, de lo más pesado a lo más ligero en la mayoría de los casos.
- Los documentos pegados o adjuntos, que se releen en cada turno.
- El historial de la conversación, que crece con cada mensaje.
- Los resultados de las herramientas: páginas web consultadas, archivos leídos, resultados de búsqueda.
- Las instrucciones permanentes: instrucciones personalizadas, descripciones de las herramientas conectadas.
- Tu mensaje, que casi siempre es la parte más pequeña.
Por eso, cuando se quiere ahorrar, lo primero que hay que mirar es lo que se pega y lo que se arrastra, no la forma de plantear la pregunta.
Diez métodos, del más rentable al más fino
1. Deja de pegar documentos enteros
Es la primera fuente de ahorro, y con diferencia. Si tu pregunta se refiere a una cláusula de un contrato de treinta páginas, el modelo solo necesita esa cláusula y lo que la rodea.
Hay dos formas de conseguirlo. A mano, pegando solo la sección útil. O, mucho mejor, conectando el asistente a una fuente donde pueda buscar y leer solo el pasaje que le interesa. Consulta el método 9.
2. Abre una conversación nueva por tema
Una conversación que dura todo el día arrastra todo su pasado con cada mensaje. Cuando cambies de tema, cambia de conversación. Si necesitas mantener el hilo, pide un resumen de diez líneas de la anterior y empieza la nueva con él.
3. Escribe tus instrucciones permanentes una vez, y breves
Las instrucciones personalizadas se añaden a cada conversación. Tres párrafos precisos valen más que tres páginas que repiten lo mismo. Deja ahí lo que vale para todo, y pasa el resto a documentos que el asistente irá a leer cuando los necesite.
4. Da la instrucción completa desde el primer mensaje
Cada ida y vuelta de corrección relee todo el contexto. «Redacta un correo» seguido de cinco aclaraciones cuesta cinco turnos. Di desde el principio para quién, con qué tono, con qué extensión y qué resultado esperas: obtienes la respuesta correcta en un solo turno.
5. Pide respuestas con la extensión adecuada
Los tokens escritos son los más caros y los más lentos. Si quieres cinco puntos, pide cinco puntos. Si solo quieres la parte modificada de un texto, dilo, en lugar de dejar que el modelo reescriba el documento entero con cada retoque.
6. Elige el modelo según la tarea
Los proveedores ofrecen varios modelos, del más ligero al más potente, con diferencias de precio importantes. Reformular un correo, clasificar mensajes o extraer fechas no requiere el modelo más caro. Resérvalo para los razonamientos difíciles.
7. Dosifica el razonamiento extendido
Los modos de razonamiento en profundidad hacen que el modelo produzca un razonamiento intermedio, que cuenta en el consumo. Son valiosos ante un problema complejo e inútiles para una tarea sencilla. Actívalos cuando la dificultad lo justifique.
8. Aprovecha el almacenamiento en caché
Las API de los principales proveedores ofrecen almacenamiento en caché: la parte del contexto que no cambia de una llamada a otra, como unas instrucciones largas, se factura mucho más barata cuando se relee. Para aprovecharlo, coloca lo estable al principio y lo que varía al final. Si desarrollas una herramienta interna, suele ser el ajuste más rentable.
9. Haz que el asistente busque en lugar de dárselo todo
Es el cambio de fondo. En lugar de meter tus documentos en el contexto, conectas el asistente al lugar donde están guardados. Cuando necesita una información, lanza una búsqueda, recibe unos pocos extractos breves con su ubicación y lee solo la parte útil.
La diferencia es grande con un documento largo.
| Forma de trabajar | Qué lee el modelo | Con qué frecuencia |
|---|---|---|
| Documento pegado en la conversación | El documento entero | En cada mensaje |
| Archivo adjunto a un proyecto | El documento entero, o partes amplias | En cada conversación que lo usa |
| Búsqueda y lectura selectiva | Unos pocos extractos y luego una sección | Solo cuando la pregunta lo requiere |
Es lo que permite el protocolo MCP, explicado en MCP explicado de forma sencilla.
10. Ordena y divide tus documentos
El método 9 solo vale si los documentos se prestan a ello. Un archivo cajón de sastre de ochenta páginas obliga al asistente a leer de más. Unos documentos que tratan cada uno un tema, con títulos y subtítulos claros, le permiten ir directo al grano. Describimos el método en Crear una base de conocimiento para IA.
Lo que no funciona
Algunos trucos circulan mucho y aportan poco.
- Suprimir la cortesía. «Hola» y «gracias» pesan unos pocos tokens. Un documento pegado pesa miles.
- Escribir en estilo telegráfico. Ahorras diez tokens y obtienes una respuesta desacertada, que hay que corregir en tres turnos.
- Pasarlo todo al inglés. El ahorro existe, pero es modesto, y pierdes precisión si tus documentos y tus lectores son hispanohablantes.
- Comprimir los documentos con un resumen. Útil para un historial de conversación, arriesgado para un procedimiento o un contrato: el detalle que falta siempre es el que hacía falta.
Medir antes y después
Solo se reduce bien lo que se mide.
Con una API, cada respuesta indica el número de tokens leídos y escritos, y la consola de tu proveedor muestra el consumo por día y por modelo. Fíjate en la relación entre tokens leídos y tokens escritos: si lees cien veces más de lo que escribes, tus contextos van demasiado cargados.
Con una suscripción, no siempre tienes un contador preciso. Observa en qué momento del día llegas al límite, y con qué tipo de conversación. Las herramientas de programación de línea de comandos suelen mostrar el tamaño del contexto en curso.
Haz una prueba sencilla: la misma tarea, una vez con el documento pegado y otra con el asistente conectado a la fuente. Compara el consumo y la calidad de la respuesta.
En equipo, el derroche se multiplica
Para una persona sola, pegar diez páginas en cada conversación es una mala costumbre. Entre diez, es la misma mala costumbre diez veces, con las mismas diez páginas, todos los días. Y cada persona pega una versión ligeramente distinta.
Una fuente común en la que cada asistente lee el pasaje útil resuelve los dos problemas a la vez: el consumo y la coherencia de las respuestas. De eso trata nuestra guía Compartir el contexto entre las IA de un equipo.
Qué hace Linkevio en este punto
Linkevio es una base de conocimiento compartida que tus asistentes de IA leen directamente. Aplica el método 9 por diseño.
- La búsqueda se hace sobre el texto de tus documentos y de tus archivos importados, y devuelve extractos breves con su ubicación.
- Después, el asistente lee la parte del documento que necesita, no el documento entero.
- Los documentos se organizan por proyecto y pueden marcarse como de referencia, lo que evita que el asistente lea tres versiones para dar con una buena.
No vamos a prometerte un porcentaje de ahorro: depende de la longitud de tus documentos y de lo que pegabas hasta ahora. Cuanto más largos son tus documentos y más a menudo los usabas, mayor es la diferencia. El plan gratuito permite comprobarlo con tus propios casos: crea tu espacio y haz la prueba descrita más arriba.
Preguntas frecuentes
¿Por qué llego tan rápido al límite de mi suscripción?
Casi siempre por conversaciones largas que contienen documentos grandes. Cada mensaje lo relee todo. Abre una conversación nueva por tema y evita pegar documentos enteros: es lo que más se nota.
¿Una pregunta más corta cuesta menos?
Apenas. Tu mensaje es la parte más pequeña del contexto. Lo que cuenta es lo que lo acompaña: documentos, historial, resultados de herramientas.
¿Conectar herramientas por MCP no consume tokens?
Sí, un poco: la descripción de cada herramienta ocupa espacio. Por eso conviene activar solo los conectores que usas. Pero un conector que devuelve extractos en lugar de documentos enteros ahorra mucho más de lo que cuesta.
¿El almacenamiento en caché se aplica a mi suscripción?
El almacenamiento en caché es, ante todo, un mecanismo de las API, que afecta a quienes desarrollan. En una suscripción, las optimizaciones las gestiona el proveedor; no tienes que ocuparte de ellas.
¿Los archivos adjuntos a un proyecto se releen cada vez?
Depende del asistente y del tamaño de los archivos: algunos lo cargan todo, otros van a buscar fragmentos. En ambos casos, son copias que hay que acordarse de actualizar.
¿Reducir los tokens empeora las respuestas?
No, si quitas lo inútil y conservas lo necesario. Un contexto más corto y mejor enfocado suele dar mejores respuestas. Lo que las empeora es quitar una información que el modelo necesitaba: de ahí el interés de dejar que la busque él mismo.