NOTAS · 9 NOV 2026 · POR TECH BENDERS

Mantener el costo de la IA bajo control

Tokens, caché, enrutamiento de modelos y presupuestos, explicados para quien decide. Mecanismos documentados por los proveedores, sin precios inventados.

Los costos de la IA casi nunca explotan el primer día. Se van colando. Una función que en pruebas costaba casi nada llega a miles de usuarios, un prompt crece unos párrafos a la vez, un agente empieza a leer documentos completos en vez de las partes que necesita, y un mes la factura es una línea que alguien tiene que explicar.

La buena noticia es que los mecanismos para mantener ese costo bajo control están bien documentados y no son complicados. Este artículo los explica para quienes toman decisiones, sin código y sin precios: los precios cambian, los mecanismos se quedan. Para cada uno enlazamos la documentación oficial del proveedor.

A dónde se va el dinero: tokens

Los modelos de lenguaje se cobran por tokens, pedazos pequeños de texto. Los proveedores publican precios por millón de tokens, y cobran dos cosas por separado:

  • Tokens de entrada: todo lo que le envías al modelo. Las instrucciones, la conversación hasta ese momento, los documentos, los resultados de las herramientas que llamó.

  • Tokens de salida: todo lo que el modelo escribe de vuelta.

En la tabla de precios de Anthropic, los tokens de salida cuestan varias veces más que los de entrada en todos los modelos listados. De ahí salen dos consecuencias. Primero, una respuesta larga es más cara que una pregunta larga. Segundo, la entrada se acumula en silencio: en un agente o en un chat, cada turno nuevo reenvía el historial, así que el mismo contexto se paga una y otra vez a menos que hagas algo al respecto.

Por eso casi todo el control de costos es, en realidad, control del contexto: qué envías, cada cuánto lo envías y a qué modelo.

Palanca 1: guardar en caché lo que se repite

Casi todas las aplicaciones de IA envían lo mismo una y otra vez: un prompt de sistema largo, un conjunto de definiciones de herramientas, un documento de políticas, la primera parte de una conversación. El prompt caching permite que el proveedor guarde ese prefijo repetido y lo reutilice.

Cómo funciona, según la documentación oficial:

  • La caché compara un prefijo: el principio de la petición, en un orden fijo (herramientas, luego instrucciones de sistema, luego mensajes). Cualquier cambio en la parte guardada rompe la coincidencia, así que lo estable va primero y lo que cambia va al final.

  • Por defecto, una entrada de caché dura cinco minutos, y se renueva sin costo extra cada vez que se usa. Existe una opción de una hora con costo adicional.

  • Escribir en la caché cuesta un poco más que la entrada normal (1.25 veces el precio base de entrada para la caché de cinco minutos, el doble para la de una hora). Leer de ella cuesta una fracción (0.1 veces el precio base de entrada en la mayoría de los modelos, y menos en algunos más recientes).

  • La documentación explica el punto de equilibrio: la caché se paga sola después de una lectura en la duración de cinco minutos, o después de dos en la de una hora.

Además, en la API de Claude, los tokens leídos de la caché no cuentan para el límite de tokens de entrada por minuto. En AWS, Amazon Bedrock también soporta prompt caching.

La pregunta para tu equipo: ¿qué parte de nuestros tokens de entrada se lee de la caché? La Claude Console muestra la tasa de caché en su página de uso, y cada respuesta de la API reporta cuántos tokens se escribieron y se leyeron de la caché.

Palanca 2: procesar en lote lo que puede esperar

No toda tarea de IA necesita respuesta en segundos. Clasificar los tickets de soporte del mes pasado, resumir un archivo de documentos, generar descripciones de producto durante la noche: eso puede esperar.

Para ese tipo de trabajo, la Batch API de Anthropic procesa las peticiones de forma asíncrona "con un descuento del 50 por ciento en tokens de entrada y de salida". La página oficial de precios también indica que los multiplicadores de la caché se suman al descuento de la Batch API, así que se pueden combinar.

La pregunta para tu equipo: ¿cuáles de nuestras cargas de IA son interactivas, y cuáles solo lo parecen porque nadie las separó?

Palanca 3: mandar cada tarea al modelo correcto

Usar el modelo más capaz para todo es la configuración más simple y muchas veces la más cara. La propia guía de precios de Anthropic para agentes recomienda "Haiku para tareas simples, Sonnet para la mayoría de las cargas en producción y Opus para el razonamiento más complejo". El enrutamiento es la práctica de tomar esa decisión por tarea, y no una sola vez por aplicación.

Hay tres formas de hacerlo, de la más simple a la más automática:

  1. Enrutar por tipo de tarea en tu propio código. Clasificación, extracción y respuestas cortas van a un modelo más pequeño; el razonamiento complejo va a uno más grande. Es explícito y fácil de auditar.

  2. Ajustar el esfuerzo dentro de un mismo modelo. Algunos modelos exponen un parámetro de esfuerzo (effort) que, según la documentación, permite "controlar cuántos tokens gasta Claude al responder", intercambiando exhaustividad por eficiencia con un solo modelo. Para muchas rutas es más simple que mantener varios modelos.

  3. Usar un enrutador administrado. En AWS, el intelligent prompt routing de Amazon Bedrock reparte las peticiones entre modelos de una misma familia prediciendo la calidad de respuesta en cada una. AWS enumera sus límites con claridad: está optimizado para prompts en inglés, no puede ajustarse con datos de desempeño de tu aplicación y puede no enrutar de forma óptima en casos especializados.

Elijas lo que elijas, mide lo correcto: costo por tarea terminada, no costo por petición. Un modelo más barato que necesita tres intentos, o una corrección humana, no es más barato.

Palanca 4: presupuestos y límites que de verdad detienen el gasto

El monitoreo te dice qué pasó. Los límites deciden qué se permite que pase. Importan los dos.

  • Límites de gasto en el proveedor. En la Claude Console, una organización puede fijar su propio límite mensual de gasto por debajo del tope de su nivel de uso. Cuando el uso llega a ese límite, las peticiones se detienen con un error hasta que se sube el límite o empieza el mes siguiente.

  • Límites por espacio de trabajo. La misma documentación describe límites de gasto y de uso para cada workspace, para que un proyecto o equipo no consuma el presupuesto de los demás. (No se puede fijar un límite de gasto en el workspace por defecto, así que conviene poner los proyectos reales en uno propio.)

  • Presupuestos en la cuenta de nube. Si la IA corre en AWS, AWS Budgets puede alertar sobre el gasto real y el pronosticado, y disparar acciones. AWS advierte que puede haber un retraso entre un cargo y su aviso, así que una alerta de presupuesto es una red de seguridad, no un freno en tiempo real.

La pregunta para tu equipo: si un error hiciera que nuestro agente diera vueltas todo el fin de semana, ¿qué lo detendría, y cuánto costaría antes de detenerse?

La arquitectura decide más que cualquier descuento

Los descuentos bajan el precio de los tokens. La arquitectura decide cuántos tokens existen en primer lugar, y quién los paga.

Cuando construimos el Agente de Datos Abiertos, la decisión principal de costo no fue un descuento. Fue dónde vive el razonamiento: en la cuenta de la persona que usa el asistente, con nuestro servidor solo traduciendo peticiones a datos públicos y regresando JSON. La factura de infraestructura y la de inteligencia nunca se mezclan. Luego, dentro de ese diseño, las herramientas agregan en la fuente y regresan resultados pequeños, porque cada fila que regresan se vuelve tokens de entrada de alguien.

El mismo criterio aplica a cualquier función de IA:

  • Envía la parte del documento que importa, no el documento completo.

  • Resume o recorta los historiales largos en vez de reenviarlos para siempre.

  • Haz los conteos, filtros y agrupaciones en la base de datos, no en el modelo.

  • Limita el largo de la salida donde una respuesta corta basta.

Una lista de una página

Antes de que una función de IA llegue a producción, quien decide debería poder obtener una respuesta clara a cada una de estas preguntas:

  • ¿Qué modelo atiende cada tarea, y por qué ese?

  • ¿Cuál es nuestra tasa de aciertos de caché, y qué contenido debería estar en caché?

  • ¿Qué cargas corren en lote?

  • ¿Cuánto cuesta al mes un usuario activo, y cómo se mide?

  • ¿Qué límites de gasto existen, en qué nivel (organización, workspace, cuenta de nube), y a quién le llega la alerta?

  • ¿Qué le pasa al costo si el uso crece diez veces?

Si el equipo no puede responder, el costo todavía no está bajo control. Solo es pequeño por ahora.

Para ir más lejos

La ruta IA generativa en AWS cubre cómo operar IA generativa en producción con guardrails de seguridad y controles de costo. La ruta IA para líderes es para quienes toman las decisiones sin escribir el código. Y el taller Automatiza un proceso de negocio de punta a punta termina con una estimación de cuánto cuesta operar la automatización.

Si quieres una segunda opinión sobre el costo de un sistema de IA que ya operas, hablemos.

SEC. 06 · EL ESTUDIO

Por qué existe este estudio

Durante décadas, construir software fue cosa de perfiles técnicos con años de formación, y llevar un producto digital a la vida real le tomaba a las empresas meses o años. El no-code y la inteligencia artificial han acortado esa brecha, pero el conocimiento sigue en manos de unos cuantos.

Tech Benders existe para abrir ese conocimiento, para que los equipos de negocio y los perfiles no técnicos puedan poner sus ideas en producción con las decisiones técnicas correctas detrás. La IA hace lo que le pides. Sin una base técnica, lo que construye puede no escalar con el ecosistema de tu empresa, y sus costos se disparan con el tiempo.

El equipo conoce los dolores de las organizaciones grandes y la velocidad a la que tienen que moverse. Trae arquitectura de soluciones, ingeniería de datos, producto construido de punta a punta, del backend al frontend, y trabajo diario con IA. Software que resuelve lo que necesitas en días, no en meses, con los costos de la IA bajo control.

Fundadores

El estudioConoce Tech Benders →

Escríbenoshi@techbenders.io

Hecho con Wislab