El uso intensivo de modelos de lenguaje en flujos de trabajo profesionales suele chocar con dos barreras inevitables: facturas elevadas por el reprocesamiento continuo de contexto y tiempos de espera molestos. Dominar la técnica de Prompt Caching permite transformar la arquitectura de tus peticiones para que la API reutilice cómputo previo en lugar de recalcular cada token desde cero.

¿Qué es Prompt Caching y cómo transforma la economía de los LLMs?

Cada vez que envías un documento largo, una especificación de código o un manual corporativo a un LLM convencional, el sistema debe computar y procesar todos esos tokens repetidamente en cada turno de conversación. El Prompt Caching es una funcionalidad a nivel de API diseñada para memorizar y reutilizar los prefijos estáticos de tokens entre múltiples llamadas consecutivas.

En lugar de reconstruir las matrices de atención (KV cache) desde la nada, el proveedor lee directamente del estado en memoria los datos previamente procesados. Esta mecánica no solo desploma la latencia inicial de respuesta hasta en un 85%, sino que disminuye drásticamente el coste por token de entrada recurrente.

La anatomía del prompt perfecto para aprovechar la caché

Para que el motor de Anthropic reutilice la memoria efímera, existe una regla estricta: la correspondencia del prefijo debe ser exacta carácter a carácter. El procesamiento sigue un flujo acumulativo inalterable. Si cambias un solo espacio en una etapa temprana, todo el contenido posterior queda invalidado.

Cálculo financiero y retorno de inversión: ¿Cuándo conviene cachear?

La implementación de Prompt Caching introduce una tarifa diferenciada para la escritura inicial frente a las lecturas posteriores. Escribir un bloque estático en caché con un tiempo de vida (TTL) estándar de 5 minutos tiene un recargo del 25% (tarifa de 1.25x respecto al precio base de entrada). Por su parte, la escritura con TTL extendido de 1 hora tiene una tarifa de 2.0x (100% extra).

A cambio, cada lectura confirmada (cache hit) cuesta tan solo 0.1x (un 90% de descuento) en la mayoría de modelos Claude, reduciéndose a 0.05x (95% de descuento) en Opus 5.5 y Sonnet 5.5, e incluso 0.025x en modelos como Fable 5.1 y Mythos 5.1.

El punto de equilibrio se logra rápidamente: dos consultas consecutivas sin caché suman un coste relativo de 2.0x. Con caché efímera de 5 minutos, la primera llamada cuesta 1.25x y la segunda apenas 0.1x, logrando un coste combinado de 1.35x. A partir del segundo uso dentro del TTL, el sistema genera un retorno neto.

Implementación práctica: Caching Automático vs. Breakpoints Explícitos

Existen dos formas técnicas de indicarle al modelo qué fragmentos deben conservarse en memoria:

1. Caching Automático

Se configura incluyendo un único bloque cache_control en el nivel superior de la solicitud API. El sistema desplaza de manera dinámica el punto de control hacia el último bloque válido antes del contenido variable del usuario.

2. Breakpoints Explícitos

Permite colocar marcas manuales mediante el parámetro "cache_control": {"type": "ephemeral"} en secciones específicas. La plataforma admite hasta 4 breakpoints explícitos por solicitud, ideales para separar la documentación fija del historial conversacional reciente.

{
  "model": "claude-3-7-sonnet",
  "system": [
    {
      "type": "text",
      "text": "Eres un asistente legal corporativo. Analiza las dudas basándote exclusivamente en este manual normativo de 15,000 tokens: [INSERTE TEXTO EXTENSO DE NORMATIVAS]...",
      "cache_control": { "type": "ephemeral" }
    }
  ],
  "messages": [
    {
      "role": "user",
      "content": "¿Cuál es el procedimiento de rescisión establecido en la cláusula 4?"
    }
  ]
}

Los 4 errores críticos que invalidan tu caché

Cometer descuidos menores de formateo puede provocar que pagues repetidamente el recargo de escritura de 1.25x sin obtener los descuentos de lectura de 0.1x. Presta atención a estos escenarios habituales: