HopBaseElegir entre desplegar un LLM en sus propias instalaciones o usarlo por API no depende de cuál es más barato en general, sino de tres condiciones: si los datos no pueden salir de la empresa, si el volumen es alto y estable y si necesita ajustar (fine-tuning) el modelo. Si no se cumple ninguna, la API de pago por uso casi siempre resulta más sencilla y más barata. Si solo se cumple la primera, lo habitual es un modelo híbrido: los datos sensibles van a un modelo abierto local y el resto a una API. Este artículo ofrece un marco de decisión neutral y fórmulas de coste para rellenar con sus propias cifras; no supone ningún precio de hardware. Para ser claros: HopBase solo ofrece acceso por API y no ofrece despliegue privado.
La estructura de costes de un vistazo
| Partida | Despliegue propio (on-premise) | API de pago por uso |
|---|---|---|
| Inversión inicial | Servidores GPU, red, almacenamiento o cómputo reservado a largo plazo | Ninguna; basta con un saldo prepago |
| Coste fijo | Amortización, energía y alojamiento, personal de operaciones y ML; se paga aunque no se use | Ninguno |
| Coste variable | Bajo (sobre todo energía) | Por token; paga lo que usa |
| Riesgo de utilización | Suyo: las horas ociosas encarecen la unidad | Lo asume el proveedor |
| Actualización de modelos | Descargar, probar, ajustar y quizá cambiar GPU en cada generación | Cambiar un campo model |
| Modelos disponibles | Solo modelos de pesos abiertos | Modelos abiertos y modelos cerrados como Claude, GPT y Gemini |
Fórmulas de coste: ponga sus propias cifras
- Coste mensual propio C = coste del hardware ÷ meses de amortización + energía y alojamiento mensuales + personal de operaciones/ML mensual + parte mensual del trabajo de actualización y migración de modelos.
- Producción mensual propia T = rendimiento máximo (tokens/segundo) × segundos al mes × tasa de utilización. La utilización es la variable decisiva: las cargas que se concentran en horario laboral y quedan ociosas de noche suelen quedar muy por debajo de lo previsto.
- Coste unitario propio = C ÷ (T ÷ 1.000.000), es decir, el coste por millón de tokens.
- Coste mensual de la API = Σ(tokens de entrada × precio de entrada + tokens de salida × precio de salida + aciertos de caché × precio de caché). Los precios son el precio oficial de cada fabricante × el descuento de su grupo; consulte la página de precios.
- Punto de equilibrio: el despliegue propio solo gana sobre el papel cuando C ≤ la factura de la API para el mismo volumen y ese volumen se mantiene estable hasta terminar de amortizar el hardware.
Dos partidas que suelen olvidarse. Diferencia de calidad: si el modelo abierto que puede ejecutar en local no alcanza el nivel necesario, sume el coste de rehacer trabajo o de revisión humana. Coste de renovación: los modelos cambian cada pocos meses y el hardware se amortiza en tres a cinco años; cada migración intermedia consume horas de personal. Para los precios oficiales, vea Precios de lista de APIs de modelos de IA comparados.
Cuándo tiene sentido el despliegue privado
- Los datos no pueden salir de la empresa: la normativa, un contrato o la política interna exigen que permanezcan en sus instalaciones. Es la razón de más peso y el coste pasa a segundo plano.
- Volumen muy alto y estable: inferencia masiva, predecible y continua que mantiene una utilización alta durante años.
- Fine-tuning profundo: necesita entrenar o ajustar pesos con sus propios datos y mantener ese modelo a largo plazo.
- Un equipo que lo opere: alguien se encarga del servicio de inferencia, la monitorización, el escalado, los parches de seguridad y las actualizaciones.
Cuándo conviene más una API
- Carga variable: pilotos, negocio estacional, picos diurnos. Con pago por uso no paga capacidad ociosa.
- Modelos cerrados de primer nivel: Claude, GPT y Gemini no publican sus pesos, así que no se pueden alojar en casa; la API es la única vía.
- Renovación rápida de modelos: cuando sale un modelo nuevo, cambia el ID y compara resultados, sin compras ni despliegues.
- Varios modelos a la vez: una clave puede incluir varios grupos y llamar a DeepSeek, Qwen, GLM, Kimi, Claude, GPT y otros, con un solo saldo y una sola exportación de uso.
El modelo híbrido: decidir según la clase de datos
- Clasifique primero los datos: separe los datos de negocio en «no pueden salir» y «pueden salir», y déjelo por escrito en su política.
- Los sensibles se quedan en local: ejecute un modelo de pesos abiertos en la red interna solo para esa clase, dimensionado para ese volumen y no para la carga total.
- El resto, por API: preguntas generales, programación, traducción y tareas multimodales, con modelos de primer nivel donde aporten.
- Una sola forma de llamar: las aplicaciones usan el formato compatible con OpenAI y el mismo SDK para ambos lados; la clase de datos decide la Base URL de cada solicitud.
- Controle el gasto de la API por clave: una clave por aplicación con límite de gasto. Al agotarse, las solicitudes se rechazan antes de procesarse (HTTP 402), y el uso se exporta en CSV por clave, miembro o departamento.
El límite de los datos en el lado de la API
Si elige una API, pida por escrito las condiciones sobre los datos. Las de HopBase: las instrucciones y las respuestas solo se usan para completar la solicitud, no se conservan como datos de negocio y no se usan para entrenar; los metadatos de facturación (modelo, tokens, latencia, estado) se conservan para facturas y auditoría; todo el tráfico va cifrado con TLS. Las claves se guardan en el servidor solo como hash unidireccional, admiten lista de IP y fecha de caducidad y pueden revocarse en cualquier momento. Para una evaluación más completa, vea la lista de verificación de seguridad para APIs de IA empresariales.
Preguntas frecuentes
¿Debe mi empresa alojar su propio LLM?
Hágase tres preguntas: si los datos no pueden salir, si el volumen es alto y estable y si necesita fine-tuning. Si ninguna se cumple, use una API; si solo la de los datos, opte por un modelo híbrido; si se cumplen las tres y tiene equipo de operaciones, evalúe el despliegue propio.
¿Cómo se calcula el coste de un LLM on-premise frente a la API?
Sume amortización, energía y alojamiento, personal y trabajo de actualización para obtener el coste mensual; divídalo entre rendimiento máximo × tiempo × utilización para obtener el coste por millón de tokens y compárelo con la factura de la API para el mismo volumen. Suponga una utilización baja para ir sobre seguro.
¿HopBase ofrece despliegue on-premise?
No. HopBase solo ofrece acceso por API, que encaja en la parte «puede salir» de un esquema híbrido. Para volumen empresarial y facturación, escriba a sales@hop-base.com.