Cómo controlar el costo de las APIs de IA en tu app

El costo de las APIs de IA se controla midiendo primero qué funciones y qué usuarios generan los tokens, y poniendo después límites en tres niveles: un tope de gasto en el proveedor, una cuota por usuario o por plan dentro de tu app y un tamaño máximo para cada petición. A partir de ahí, el mayor ahorro suele venir de mandar menos texto en cada llamada, usar un modelo más barato donde la calidad lo permite y aprovechar la caché de prompts y los descuentos por lotes de los proveedores. Juntas, estas medidas convierten la factura en algo previsible y no en una sorpresa a fin de mes.

En esta guía verás cómo cobran las APIs de IA, cómo saber a dónde va el dinero y los cambios concretos que lo reducen, más o menos en el orden en que conviene hacerlos.

¿Por qué la factura de IA es más alta de lo que esperaba?

Proveedores como OpenAI y Anthropic cobran por token, una unidad de texto que en promedio es algo más corta que una palabra. Pagas los tokens de entrada (todo lo que envías: instrucciones, historial de la conversación, documentos, definiciones de herramientas) y los de salida (lo que escribe el modelo), y los de salida suelen costar más por token. Los precios varían mucho entre modelos, así que revisa la página de precios actual de los que uses.

En apps armadas rápido con herramientas de IA, la factura crece por motivos bastante previsibles:

1. El historial se reenvía en cada turno. En un chat, el mensaje 30 incluye los mensajes del 1 al 29. Cada respuesta cuesta más cuanto más larga es la conversación.
2. Se manda el documento completo en cada llamada, cuando solo importaba una sección.
3. Se usa el modelo más potente para todo, incluso para clasificar un mensaje o extraer una fecha.
4. No hay límite de salida, y el modelo escribe respuestas largas que nadie pidió.
5. Reintentos sin tope. Una petición que falla y se reintenta en bucle multiplica el costo de un error.
6. Endpoints abiertos. Si la ruta de tu API que llama al modelo no tiene autenticación ni límite por usuario, cualquiera que la encuentre puede inflar tu factura. Si tu clave está en el código del frontend, lee primero qué hacer con una clave de API expuesta en el frontend.

¿Cómo veo a dónde va el dinero?

Los paneles de los proveedores muestran el gasto por día, por modelo y por clave o proyecto. Es un comienzo, pero no te dice qué función ni qué cliente es responsable.

Cada respuesta de estas APIs trae una sección de uso con los tokens de entrada y de salida. Guarda esos números en tu propia base de datos en cada llamada, junto con:

• el nombre de la función (resumir_informe, chat, sugerir_respuesta),
• el ID del usuario o de la cuenta,
• el modelo,
• si la llamada salió bien.

Con una semana de datos ya puedes responder lo que importa: qué función cuesta más, cuánto gasta el 1% de usuarios más intensivo y cuánto te cuesta al mes un cliente típico frente a lo que te paga.

Usar una clave o un proyecto distinto por entorno (desarrollo, pruebas, producción) también ayuda, para que las pruebas no se escondan dentro de los números de producción.

¿Qué límites debería poner?

En el proveedor

• OpenAI permite configurar alertas de gasto mensuales y límites de gasto estrictos para la organización y para cada proyecto. Cuando un proyecto llega a su límite estricto, las peticiones devuelven un error 429 con el código project_spend_limit_exceeded hasta que subas el límite o empiece el mes siguiente. Las alertas por sí solas no frenan el gasto.
• Anthropic permite fijar un límite de gasto mensual para la organización en la configuración de facturación de la Claude Console, y límites menores por workspace (no en el workspace por defecto).

Un tope estricto te protege de un desastre, pero cuando se alcanza la función deja de andar para todos. Tu app tiene que manejar ese error con un mensaje claro, no con una pantalla en blanco.

En tu app

Los límites por usuario son los que impiden que una sola cuenta se coma el presupuesto de todos. Opciones habituales:

• Un número de acciones con IA por día o por mes según el plan, guardado y comprobado en el servidor.
• Una extensión máxima de documento o de páginas por petición.
• Un tiempo de espera entre acciones costosas.

Nuestra guía para limitar el uso de funciones con IA muestra cómo implementarlos. Si vendes planes, ata las cuotas a ellos como se explica en limitar funciones por plan en un SaaS.

En cada petición

Define una longitud máxima de salida en cada llamada y un tiempo máximo de espera. Ninguno de los dos debería quedar en el valor por defecto.

¿Cómo abarato cada llamada?

1. Manda menos contexto. Resume los turnos viejos de la conversación en vez de reenviarlos completos, deja literales solo los últimos mensajes y recupera las partes relevantes de un documento en lugar del documento entero.
2. Elige el modelo más chico que haga bien el trabajo. Prueba el modelo barato con 20 o 30 ejemplos reales y usa el grande solo donde se note la diferencia. Muchas apps mandan los pasos simples (clasificar, extraer, reescribir) a un modelo pequeño y dejan el grande para la respuesta principal.
3. Ordena los prompts para aprovechar la caché. OpenAI y Anthropic ofrecen caché de prompts: el inicio repetido de un prompt se cobra a una fracción del precio normal de entrada en las llamadas siguientes. OpenAI la aplica sola en los modelos compatibles cuando el prompt es lo bastante largo; en Anthropic tienes que marcar qué guardar con cache_control. En ambos casos, pon primero lo estable (instrucciones, herramientas, material de referencia) y al final lo que cambia (la pregunta del usuario, fechas). Escribir en la caché puede costar algo más que la entrada normal, así que conviene cuando el mismo inicio se reutiliza dentro de la vida útil de la caché.
4. Procesa por lotes lo que no es urgente. La Batch API de OpenAI cobra un 50% menos que las llamadas normales a cambio de entregar los resultados en un plazo de 24 horas; Anthropic también ofrece procesamiento por lotes con descuento. Los resúmenes nocturnos, el etiquetado masivo y los informes son buenos candidatos.
5. Guarda respuestas completas tú mismo. Si muchos usuarios hacen la misma pregunta sobre los mismos datos, guarda la respuesta y reutilízala hasta que los datos cambien.
6. Pide respuestas más cortas. Indica un formato y una extensión; suele ser más rápido además de más barato.

¿Cómo sé si los cambios funcionaron?

Compara el costo por función y por usuario activo en tus registros la semana antes y la semana después de cada cambio, no solo la factura total (que también se mueve con el tráfico). Revisa la calidad con el mismo conjunto de ejemplos reales que usaste para elegir el modelo. Un ahorro que empeora las respuestas de forma visible suele costar más en clientes perdidos de lo que ahorra.

Respuestas rápidas

¿Cuál es la forma más rápida de frenar una factura descontrolada? Pon hoy un límite de gasto estricto en el proveedor y después agrega límites por usuario en tu app.

¿La caché de prompts cambia las respuestas? No. Solo cambia cómo se cobra la entrada repetida y qué tan rápido se procesa.

¿Dejo que los usuarios usen su propia clave de API? Les traslada el costo, pero pasas a manejar sus claves secretas, lo que suma trabajo de seguridad. En la mayoría de las apps es más simple poner cuotas por plan.

¿Cómo le pongo precio a una función con IA? Usa el costo por usuario al mes que registraste, súmale un margen y mete los límites en el plan, para que el uso intensivo cueste más o se detenga en un tope.

¿Quieres que revisemos tu consumo?

Si tu factura de IA crece más rápido que tus usuarios, nuestro equipo de inteligencia artificial para empresas puede revisar cómo llama tu app a los modelos y dejar listos límites, registros y caché, y el mantenimiento de software lo vigila después. También puedes escribirnos contando cómo lo tienes armado. OpenAI explica sus controles en la guía de límites de gasto.