La economía del contexto: lecturas de caché, deterioro del contexto, recuperación primero
Tu factura de IA en la nube volvió a subir este trimestre, y la parte difícil de explicarte a ti mismo es por qué. El equipo no está entregando proporcionalmente más. Minutos de CI alojado, tokens de agentes, licencias de herramientas de ingeniería — las líneas siguen creciendo mientras la producción crece más despacio. Si alguna vez abriste el panel de un proveedor y te preguntaste qué pagaste realmente, la respuesta honesta suele ser: pagaste por recordarle al modelo cosas que ya sabía.
Esa es la afirmación a la que el libro blanco de Koinessa pone números en sus secciones de economía del contexto, y vale la pena detenerse en ella, porque los números son más específicos — y más acotados — que el discurso habitual de «la IA es cara». Esta publicación recorre la evidencia exactamente como la expone el libro blanco: qué está medido, qué está derivado, y qué no establece cada cifra.
La factura es, sobre todo, historial releído
Empecemos por la propia documentación de costos de Claude Code de Anthropic, que publica un ejemplo de sesión resuelto sobre cómo una sesión de un agente de codificación gasta tokens (code.claude.com). El libro blanco toma ese ejemplo resuelto y hace la aritmética: el 85.6% del procesamiento del lado de entrada — entrada sin caché, creación de caché y lecturas de caché combinadas — es contexto que se está transportando, y las lecturas de caché por sí solas representan alrededor del 51% de eso. Aquí importan dos matices, y el libro blanco expone ambos. Primero, el 85.6% es una derivación a partir del ejemplo publicado por el proveedor, no una estadística que imprima el proveedor; la aritmética se conserva en el compendio de investigación del libro blanco. Segundo, describe la combinación de entradas de un solo ejemplo resuelto — no establece el gasto real de ninguna organización.
El panorama de la varianza es igual de sorprendente. El estudio de 2026 de Bai et al., «How Do AI Agents Spend Your Money?», midió el consumo de tokens en ocho modelos sobre OpenHands con SWE-bench Verified y encontró aproximadamente una diferencia de 1,000 veces en tokens entre ejecuciones, y una varianza de hasta 30 veces en la misma tarea (arxiv.org). Misma familia de benchmark, misma tarea, lecturas de medidor radicalmente distintas. El límite que el libro blanco añade: esto no se generaliza a todos los flujos de trabajo de agentes. Pero combinado con la derivación del ejemplo resuelto, la dirección es difícil de rebatir — en la programación agéntica, el principal impulsor de costos es el transporte de contexto, y es muy sensible a cómo el arnés gestiona ese contexto.
Veintidós mil setecientos millones de tokens, desglosados
La telemetría interna es donde la mayoría de los proveedores se vuelven vagos. El libro blanco hace lo contrario, así que aquí están sus números con sus límites intactos.
A lo largo de 27 días registrados hasta el 2026-08-16, la propia carga de trabajo del operador de Koinessa consumió 22,696,191,284 tokens en total, de los cuales 20,918,082,610 — el 92.17% — fueron lecturas de caché, con precio de lista de $12,027.14; ningún día posterior había sido ingerido a fecha de la instantánea del 2026-08-23. Una ventana separada de 30 días (del 2026-07-11 al 2026-08-09) muestra la misma forma: 18,284,233,434 tokens en total, 17,088,709,895 de ellos lecturas de caché — el 93.46% — con precio de lista de $13,910.58. Las lecturas de caché son historial que se vuelve a transportar hacia el modelo, no trabajo nuevo que se esté haciendo.
El libro blanco es explícito sobre lo que esto no es: no es una comparación de productividad controlada, y no demuestra lo que habría gastado un flujo de trabajo contrafactual. Lo que sí hace es identificar dónde se acumula el costo. Más de nueve de cada diez dólares de esa ventana con precio de lista se gastaron en releer. Ese es el objetivo al que debería apuntar cualquier arquitectura de costos, y por eso el KPI rector del libro blanco es el trabajo verificado por dólar, atribuido por elemento de trabajo — no los recuentos de tokens en bruto celebrados como rendimiento.
El contexto largo no es memoria barata
Si el transporte de contexto es el impulsor del costo, la contraargumentación natural es «las ventanas de contexto ahora son enormes, simplemente transporta todo». La investigación citada dice lo contrario, dos veces.
El benchmark NoLiMa de Modarressi et al. (ICML 2025) extiende las pruebas de aguja en un pajar con pares de aguja-pregunta que tienen un solapamiento léxico mínimo, de modo que los modelos deben inferir asociaciones latentes en lugar de encontrar coincidencias de patrones (arxiv.org). Al evaluar 13 modelos que afirman tener contextos de al menos 128K tokens, encontraron que, a 32K tokens, 11 de los 13 modelos cayeron por debajo del 50% de sus sólidas líneas base de longitud corta. Incluso GPT-4o, una de las principales excepciones, cayó de una línea base casi perfecta del 99.3% al 69.7%. El libro blanco presenta esto como un resultado específico del benchmark — que es exactamente cómo se presenta NoLiMa a sí mismo.
La investigación «Context Rot» de Chroma (Hong, Troynikov y Huber, 2025) generaliza esa incomodidad (trychroma.com). En 18 modelos y tareas controladas deliberadamente simples, el rendimiento se degrada a medida que crece la longitud de la entrada, de formas no uniformes y a veces sorprendentes — incluso en una tarea trivial de repetición de palabras. Su conclusión es tajante: que la información relevante esté presente en el contexto no es lo único que importa; cómo se presenta importa más.
La tercera pata es operativa. Los escritos de ingeniería de Anthropic sobre contexto gestionado señalan que los mensajes compactados permanecen en el contexto activo solo en forma resumida, y son recuperables por completo únicamente cuando se persisten por separado (anthropic.com). La lectura del libro blanco es cuidadosa: la pérdida de información es una inferencia sobre el detalle no persistido, no una afirmación de que se destruya todo registro duradero. Juntos, estos resultados producen la regla arquitectónica que traza el libro blanco: el estado canónico debe vivir fuera de la ventana del modelo. La ventana es memoria de trabajo. Es costosa, se degrada con la longitud, y su resumen tiene pérdida a menos que persistas en otro lugar. Tratarla como el sistema de registro es la forma en que terminas pagando $12,027.14 de precio de lista por olvidar cosas.
Recuperación primero, medida desde ambos lados
La alternativa al transporte es la recuperación — obtener exactamente lo que la tarea necesita, cuando lo necesita. El libro blanco enmarca esta disyuntiva con estudios externos de ambos lados.
En un estudio de preguntas y respuestas de solo lectura sobre repositorios de Python, Rafiei Oskooei et al. (2026) compararon la recuperación semántica contra un enfoque de búsqueda agéntica profunda: $0.32 por respuesta correcta para la recuperación semántica frente a $0.74 para Deep — Deep cuesta unas 2.3 veces más, la semántica es alrededor de 57% más barata — con la mayor brecha de tokens, 22.4 veces, aplicándose específicamente a Qwen3-235B (arxiv.org). Límites: preguntas y respuestas de solo lectura sobre repositorios de Python, no rendimiento de tarea completa, no ahorros válidos para todos los modelos. Codebase-Memory de Vogel et al. (2026), un enfoque estructural basado en grafo de código, reportó 83% frente a 92% de calidad de respuesta usando alrededor de diez veces menos tokens y 2.1 veces menos llamadas a herramientas, con la exploración conservada como respaldo (arxiv.org). Límite: no establece que las ediciones sean seguras ni que se pueda prescindir de la exploración.
La contraposición es real, y el libro blanco lo expone con claridad: Anthropic probó un índice de recuperación dentro de las primeras versiones de Claude Code y lo retiró en favor de la búsqueda agéntica, citando obsolescencia, privacidad y fiabilidad. Esas son objeciones arquitectónicas, no evidencia de que la recuperación esté equivocada — y se pueden responder arquitectónicamente. Un índice que es exclusivamente local, que nunca sale de la máquina, y que se actualiza por cada commit, resuelve la obsolescencia y la privacidad directamente; mantener grep como el respaldo declarado en lugar de una herramienta prohibida resuelve la fiabilidad. La recuperación primero, tal como la enmarca el libro blanco, es un primer salto barato, no una doctrina según la cual el índice reemplaza la búsqueda. Una publicación hermana recorre con más detalle la propia estrategia de recuperación.
Cómo lo aplica Koinessa
La regla de diseño cabe en una frase: el modelo en la nube tiene memoria de trabajo, mientras que Koinessa tiene memoria de proyecto. Reductores deterministas e inferencia local ensamblan, comprimen y dan formato al contexto antes de que un modelo de frontera lo vea siquiera; cada token ensamblado o reducido localmente es un token que el proveedor de frontera no factura. Esto está En vivo, no en la hoja de ruta.
Concretamente, el índice de inteligencia de código — ingerido con Doxygen, 17,903 símbolos solo para este proyecto en la instantánea del 2026-08-23, indexado por última vez el mismo día — responde «qué archivo, qué líneas, qué firma exacta, qué archivos dependen de él» como una sola consulta a DuckDB, en milisegundos, con un resultado lo bastante pequeño como para pegarlo en un paquete de contexto. El conocimiento institucional recibe el mismo trato: los PRD, las decisiones, las políticas y los registros de procedencia viven como tablas y documentos consultables en el cerebro compartido, en lugar de tener que re-derivarse del historial de chat. Y la regla se hace cumplir de forma automática, no aspiracional: un hook previo a la herramienta rechaza las búsquedas de identificadores por texto en los arneses de Claude y Kimi, y en su lugar devuelve la consulta exacta del índice que hay que ejecutar.
También hay un recibo de un arnés que Koinessa no controla. En una prueba de sandbox controlado el 2026-08-23 — una sola pregunta, en una sola sesión de nivel de pago — el Devin CLI respondió una pregunta de localización de símbolos a través del índice de símbolos del cerebro en cuatro segundos: 44,496 tokens de prompt (42,752 de ellos lecturas de caché), 329 tokens de finalización, once pasos, sin búsqueda de texto. La misma pregunta, enrutada a través de herramientas de servidor de lenguaje, costó 171,317 tokens de prompt en dieciséis pasos — aproximadamente cuatro veces el costo en tokens. Se aplica el propio matiz del libro blanco: una pregunta, un arnés, un día; un recibo, no un benchmark. Pero es la forma de la afirmación, observada en la naturaleza.
Esta es la ventaja de costos del enfoque local-first expresada en la capa de contexto, y se compone con el resto de los componentes de la arquitectura: el mismo cerebro que sirve la recuperación también contiene los registros de evidencia y procedencia que hacen medible el trabajo verificado por dólar.
La conclusión
El aumento de las facturas de IA no es principalmente un problema de precios de modelos; es un problema de transporte de contexto. El panorama medido — el 85.6% del procesamiento del lado de entrada derivado del propio ejemplo resuelto de Anthropic, el 92.17% de lecturas de caché a lo largo de 27 días registrados, el colapso de 11 de 13 en NoLiMa a 32K, y la recuperación a $0.32 frente a $0.74 por respuesta correcta — apuntan en una sola dirección: deja de pagarles a los modelos de frontera por releer el historial, persiste el estado canónico fuera de la ventana del modelo, y recupera antes de repetir. Cada cifra aquí viene con su límite adjunto, y el argumento completo, con todas las citas y matices, está en el libro blanco de Koinessa.