Prompt cache: cuánto ahorra y cómo subir la tasa de acierto

Respuesta corta: la mayor parte de la diferencia de costo entre dos usuarios del mismo modelo se debe al prompt cache. La facturación de entrada tiene dos niveles: los tokens procesados por primera vez a la tarifa estándar y las lecturas de prefijos en caché con un fuerte descuento (la tarifa de lectura de caché varía según el modelo: Claude Sonnet 5.5 cobra $0.10 frente a $2 de entrada estándar por millón de tokens, y Claude Fable 5.1 $0.25 frente a $10; consulte la página de precios de cada modelo). Por eso, cuanto más estable y largo sea su prefijo repetido, menor será su costo efectivo de entrada. Las herramientas conversacionales como Claude Code y AI Chat suelen tener tasas de acierto superiores al 60% en sesiones sanas, mientras que una marca de tiempo en el prompt de sistema puede anular por completo la caché y multiplicar el costo varias veces. Para aumentar la tasa de acierto, coloque primero el contenido que no cambia (prompt de sistema, definiciones de herramientas, ejemplos few-shot) y al final el contenido que cambia, mantenga fuera del prefijo las marcas de tiempo, los IDs aleatorios y otros datos dinámicos, y continúe las sesiones en lugar de reiniciarlas. Después revise el detalle de uso de la consola, que divide cada solicitud en tokens de entrada estándar, escritura de caché y lectura de caché, y observe cómo aumenta la proporción de lecturas de caché.

La mayoría de los usuarios que revisan su primera factura se preguntan: ¿por qué otra persona paga mucho menos por el mismo modelo? La respuesta, ocho de cada diez veces, es el prompt cache. Este artículo explica la mecánica de facturación, las tasas de acierto reales y cómo estructurar los prompts para aprovechar todo el descuento.

Mecánica de facturación: las lecturas de prefijos en caché tienen un gran descuento

La facturación de entrada de las APIs de LLM tiene dos niveles: los tokens procesados por primera vez cuestan la tarifa estándar; los aciertos de prefijos en caché tienen un fuerte descuento (la tarifa de lectura de caché varía según el modelo: Claude Sonnet 5.5 cobra $0.10 frente a $2 de entrada estándar por millón de tokens, y Claude Fable 5.1 $0.25 frente a $10; consulte la página de precios de cada modelo). Dicho de forma sencilla: cuanto más estable sea el prefijo de su sesión y más larga la parte repetida, menor será su costo efectivo de entrada.

Tasas de acierto reales

Desde nuestra posición como gateway: las herramientas conversacionales como Claude Code y AI Chat envían en cada turno el prompt de sistema y el historial de mensajes, por lo que las sesiones sanas suelen tener tasas de acierto de caché superiores al 60%. Las implementaciones deficientes (por ejemplo, incluir marcas de tiempo en el prompt de sistema) pueden anular la caché por completo y multiplicar los costos varias veces.

Tres técnicas para duplicar su tasa de acierto

1. Ponga primero lo que "nunca cambia" y al final lo que "cambia".La caché coincide por prefijo: el prompt de sistema, las definiciones de herramientas y los ejemplos few-shot van al principio; la entrada del usuario y los resultados recuperados van al final. Un campo dinámico en medio invalida todo lo que viene después.
2. Nunca ponga datos dinámicos en su prompt.Las marcas de tiempo, los IDs aleatorios o "qué día es hoy" acaban con la caché. Si necesita una marca de tiempo, póngala al final, en el mensaje del usuario.
3. Continúe las sesiones, no las reinicie.Mantenga las interacciones de varios turnos en la misma sesión para acumular aciertos de caché. Reiniciar en cada turno desperdicia el prefijo en caché cada vez.

Cómo verificar que está obteniendo el descuento

El detalle de uso de su consola desglosa los tokens de entrada estándar, escritura de caché y lectura de caché de cada solicitud. Después de reorganizar sus prompts, ejecute algunos turnos y compare la proporción de lecturas de caché: si su optimización funcionó, se ve en los números de inmediato.

La caché no es magia, es coincidencia de prefijos. Organice sus prompts como "prefijo inmutable + sufijo variable", y su factura le recompensará con honestidad.