La economía del contexto en la IA: recuperación sin el multiplicador
Ya conoces el ritual. Se abre una nueva sesión de agente, y los primeros veinte minutos son arqueología: el modelo vuelve a leer archivos que ya había leído, vuelve a deducir una decisión que alguien tomó el martes pasado, vuelve a ejecutar una búsqueda que otra sesión ya ejecutó. Cada nueva sesión de IA empieza sin suficiente conocimiento de las decisiones anteriores, y pagas la amnesia dos veces — una en tokens, otra en tu propia supervisión. El instinto es arreglarlo con una ventana de contexto más grande o un índice de recuperación. La pregunta honesta es cuánto vale realmente cada uno de ellos, en términos medidos.
La sección 7 del libro blanco de Koinessa responde a esa pregunta de una forma que la mayoría de los proveedores no hace: con una tabla de evidencia de cinco filas, una negativa explícita a multiplicar las filas entre sí, y una fila de la telemetría propia del operador etiquetada como un recibo, no como un benchmark. Este artículo repasa qué es realmente cada medición, qué no demuestra, y por qué la arquitectura mantiene el estado canónico fuera de la ventana del modelo — incluida una respuesta directa al propio argumento de Anthropic en contra de los índices de recuperación.
Ningún multiplicador compuesto, a propósito
El libro blanco abre la sección con una frase que rara vez se ve en el marketing de IA: no hay ningún resultado observado de tarea completa ni de 70 veces. Los estudios externos y los recibos internos miden componentes no equivalentes — un benchmark de preguntas y respuestas aquí, un sistema de grafo de código allá, un estudio de varianza de tokens en otro lugar — así que no se multiplican para producir un titular. Cualquier proyección interna futura debe declarar sus supuestos y usar un factor secuencial medido o una ecuación ponderada, y sigue siendo un cálculo de diseño condicional, nunca un benchmark.
Vale la pena detenerse en esto, porque la tentación es real. Si la recuperación semántica es aproximadamente un 57% más barata por respuesta y un índice estructural usa aproximadamente diez veces menos tokens, un vendedor de marketing multiplicaría, sumaría la telemetría, e imprimiría un número. El artículo se niega, y esa negativa es el punto. Una organización de ingeniería que en algún momento entregará a este sistema datos de atribución de costos necesita que los insumos se mantengan honestos más de lo que necesita que el titular sea grande. La misma disciplina recorre los demás artículos de medición de la serie, desde el análisis de la brecha de verificación en adelante: una afirmación que no puedes defender en una reunión con un cliente es un pasivo, no un activo.
Qué dicen realmente las cinco mediciones
Recuperación semántica frente a búsqueda agéntica profunda
Rafiei Oskooei y colegas publicaron en 2026 un estudio empírico sobre respuesta de preguntas a nivel de repositorio de código, comparando enfoques en repositorios de Python de solo lectura (arXiv:2608.01507). El límite medido que cita el artículo: $0.32 por respuesta semántica correcta frente a $0.74 para el enfoque de búsqueda agéntica Deep — la semántica era aproximadamente un 57% más barata, Deep aproximadamente 2.3 veces más cara. La mayor brecha de tokens, 22.4 veces, se aplicaba específicamente a Qwen3-235B, no a todos los modelos del estudio.
Importan dos matices. La tarea era responder preguntas de solo lectura sobre repositorios de Python, así que el resultado no demuestra el desempeño en tareas completas de trabajo de ingeniería real. Y la cifra de 22.4 veces es un máximo para un solo modelo, así que no demuestra el ahorro en todos los modelos. Lo que sí demuestra es más estrecho y sigue siendo útil: para la clase de trabajo que los agentes hacen con más frecuencia — encontrar y entender código — el precio de recuperación primero es sustancialmente mejor que el precio de dejar-que-el-agente-explore.
Un grafo de código persistente frente a la exploración
Vogel y colegas construyeron Codebase-Memory, un sistema de código abierto que construye un grafo de conocimiento persistente basado en Tree-Sitter sobre un repositorio y lo sirve a través del Model Context Protocol, analizando 66 lenguajes (arXiv:2603.27277). Evaluado en 31 repositorios del mundo real, alcanzó un 83% de calidad de respuesta frente a un 92% de un agente de exploración de archivos — con aproximadamente diez veces menos tokens y 2.1 veces menos llamadas a herramientas, y con la exploración conservada como respaldo.
Léase el intercambio con claridad: se ceden nueve puntos de calidad de respuesta y se recupera aproximadamente un orden de magnitud en tokens. Como primer salto antes de que un agente empiece a trabajar, es un buen intercambio. No demuestra ediciones seguras, y no reemplaza el respaldo de exploración — el libro blanco dice ambas cosas, y el propio diseño de Codebase-Memory coincide al mantener disponible el explorador.
Qué tan impredecible es realmente la factura
Bai y colegas realizaron el primer estudio sistemático de consumo de tokens en programación agéntica: trayectorias de ocho modelos de frontera sobre OpenHands en SWE-bench Verified (arXiv:2604.22750). Los hallazgos que cita el artículo son aleccionadores: una diferencia de tokens de aproximadamente 1,000 veces entre ejecuciones y hasta 30 veces de varianza en la misma tarea. El estudio también encontró que un mayor uso de tokens no se traduce en mayor precisión, y que los modelos de frontera subestiman sistemáticamente sus propios costos de tokens cuando se les pide predecirlos.
El matiz del libro blanco: ocho modelos, un solo arnés de benchmark — esto no describe todos los flujos de trabajo de agentes. Pero si tu modelo de costos asume que una sesión de agente es una cantidad predecible, este estudio es el contraargumento medido. Una varianza de ese tamaño es un argumento a favor de gestionar el contexto de forma deliberada en lugar de dejar que se expanda sin control, porque en esa expansión es donde vive la varianza.
Adónde van los tokens de entrada
La propia documentación de Claude Code de Anthropic incluye un ejemplo desarrollado de costo de sesión (code.claude.com). El libro blanco es cuidadoso con la procedencia aquí: la cifra del 85.6% — la proporción del procesamiento del lado de entrada que es transporte de contexto en lugar de trabajo nuevo — es una derivación propia del artículo a partir del ejemplo desarrollado de esa página, con la aritmética conservada en el resumen de investigación; la página misma no imprime el porcentaje. Solo las lecturas de caché representan aproximadamente un 51%.
El matiz: esto es un ejemplo desarrollado, no un gasto real de la organización. Su función es estructural — muestra hacia dónde va el dinero dentro de una sesión, que es lo que hace interpretable la siguiente fila.
Qué muestra la telemetría propia de Koinessa
La quinta fila es interna: 27 días registrados de telemetría en vivo hasta el 2026-08-16, sin ningún día posterior incorporado a partir del 2026-08-23. En esa ventana: 22,696,191,284 tokens totales, de los cuales 20,918,082,610 fueron lecturas de caché — 92.17% — valorados a precio de lista en $12,027.14. «Precio de lista» significa las tarifas publicadas del proveedor aplicadas a los tokens medidos, no una factura.
El artículo se niega a llamar a esto una comparación controlada de productividad, porque no lo es. La telemetría identifica dónde se acumuló el costo; no demuestra cuánto habría gastado un flujo de trabajo contrafactual. Lo que sí muestra, de forma coherente con la derivación de Anthropic anterior, es que en una operación real AI-first la abrumadora mayoría de los tokens facturados es historial que se vuelve a transportar — el impuesto de la amnesia, medido. El KPI de control que nombra el artículo es trabajo verificado por dólar, atribuido por elemento de trabajo e interpretado manteniendo intactos la calidad de la tarea, la aceptación y el costo de la revisión humana. Los tokens son el denominador; los resultados verificados son el numerador.
Por qué la ventana del modelo no es un archivador
La estrategia de contexto más barata sería simplemente comprar una ventana más grande y guardarlo todo en ella. Dos resultados acotados explican por qué la arquitectura se niega a hacerlo.
El primero trata sobre qué sobrevive a la compactación. Los escritos de ingeniería de Anthropic sobre contexto gestionado plantean el límite con claridad: los mensajes compactados permanecen en el contexto activo solo en forma resumida, y son recuperables por completo únicamente cuando se persisten por separado (anthropic.com). El libro blanco añade su propia precisión: la pérdida de información es una inferencia sobre el detalle no persistido, no una afirmación de que se destruye todo registro duradero. En otras palabras, si una decisión solo vivió dentro de la ventana, su forma completa está a una compactación de convertirse en un resumen.
El segundo trata sobre qué puede hacer realmente la ventana con lo que contiene. NoLiMa — Modarressi y colegas, ICML 2025 — es un benchmark de contexto largo que extiende las pruebas de aguja en un pajar eliminando la superposición léxica literal entre la pregunta y la aguja, de modo que los modelos deben inferir asociaciones latentes en lugar de emparejar patrones (arXiv:2502.05167). Al evaluar 13 modelos que afirman contextos de al menos 128K tokens: a los 32K tokens, 11 de los 13 cayeron por debajo del 50% de sus propias líneas base de longitud corta. Incluso GPT-4o, una excepción de alto desempeño, cayó de una línea base casi perfecta de 99.3% a 69.7%. El libro blanco tiene cuidado de llamar a esto resultados específicos del benchmark, y la investigación Context Rot de Chroma apunta en la misma dirección. La conclusión acotada no es «el contexto largo es inútil» — es que la ventana es una memoria de trabajo con degradación medible, no un archivo. El estado canónico pertenece fuera de ella, en algo consultable.
La contraposición de Anthropic, respondida
El argumento más fuerte en contra de retrieval-first viene de la propia Anthropic, y el artículo lo expone en lugar de esconderlo: Anthropic probó un índice de recuperación dentro de las primeras versiones de Claude Code y lo eliminó a favor de la búsqueda agéntica, citando desactualización, privacidad y confiabilidad.
Esas son objeciones arquitectónicas, así que reciben respuestas arquitectónicas. Desactualización: el índice de inteligencia de código de Koinessa se actualiza en cada commit mediante los mismos hooks que mantienen actualizada la evidencia — la instantánea del 2026-08-23 contenía 17,903 símbolos solo para este proyecto, indexados por última vez el mismo día. Privacidad: el índice es exclusivamente local y nunca sale de la máquina, lo cual encaja con el modelo de costos local-first que la serie describe en otro lugar. Confiabilidad: grep sigue siendo el respaldo declarado en lugar de una herramienta prohibida, y la regla vigente está aplicada mecánicamente en el sentido contrario — un hook previo a la herramienta rechaza las búsquedas de identificadores por texto y responde con la consulta exacta del índice que debe ejecutarse en su lugar. Retrieval-first es un primer salto barato, no una doctrina de que el índice reemplaza la búsqueda. El desglose de la arquitectura cubre cómo el índice, el cerebro y el Context Compiler encajan entre sí como componentes.
Lo esencial
Que cada nueva sesión empiece desde cero no es un problema de ingeniería de prompts; es un problema de economía del contexto, y tiene límites medidos. Recuperación con un precio de $0.32 frente a $0.74 por respuesta correcta en un estudio, una reducción de tokens de diez veces con un intercambio de nueve puntos de calidad en otro, una advertencia de varianza de 1,000 veces contra la expansión sin gestionar, un 85.6% del procesamiento del lado de entrada derivado como transporte de contexto, y un 92.17% de lecturas de caché en 27 días registrados de telemetría en vivo — todo apunta en la misma dirección, sin que nada de esto autorice un titular compuesto. La respuesta es memoria compartida persistente y recuperación antes que repetición: estado canónico persistido fuera de la ventana del modelo, un índice local como primer salto barato, la exploración como respaldo declarado, y el trabajo verificado por dólar como el único KPI que cuenta. El argumento completo, con cada matiz intacto, está en el libro blanco de Koinessa; el artículo complementario sobre rendimiento gobernado continúa donde termina el piso de costos.