Gateway de LLM autoalojado vs gestionado (LiteLLM, One API)

Elegir entre un gateway de LLM autoalojado y uno gestionado depende de una pregunta: ¿quiere su equipo asumir de forma permanente todo el trabajo que rodea al gateway? Autoalojar un proyecto de código abierto como LiteLLM, One API o New API no cuesta licencias y le da control total sobre dónde se ejecuta. Pero sigue necesitando una cuenta, unas condiciones firmadas y un saldo con cada proveedor de modelos, y su equipo se encarga de la alta disponibilidad, las cuotas, la auditoría, la conciliación de facturas y de seguir los modelos nuevos y los cambios de precio. Un gateway gestionado empaqueta ese trabajo como servicio, a cambio de que el proveedor decida cómo se despliega. Los equipos con requisitos estrictos de residencia de datos o con contratos ya firmados con los proveedores suelen estar mejor autoalojando. Los que quieren que varios departamentos usen varias familias de modelos cuanto antes, sin ampliar el equipo de operaciones, suelen ahorrar tiempo con un gateway gestionado.

Qué implica realmente autoalojar un gateway de código abierto

LiteLLM es a la vez un SDK de Python y un servidor de gateway autoalojado (LiteLLM Proxy). One API y New API son gateways de código abierto que usted despliega; reúnen las API de muchos proveedores en un formato compatible con OpenAI e incluyen gestión de claves y cuotas. Resuelven la interfaz unificada. Lo demás sigue siendo tarea suya:

Cuentas y saldos con cada proveedor. Un gateway de código abierto no suministra modelos: traduce y enruta peticiones. Para usar Claude, GPT, Gemini, DeepSeek y Qwen hay que registrarse con cada proveedor, pasar la verificación o firmar contrato, añadir un medio de pago y vigilar cada saldo por separado.
Despliegue y alta disponibilidad. El gateway, su base de datos y su caché hay que desplegarlos y respaldarlos. Varias instancias, comprobaciones de salud, actualizaciones, reversiones, monitorización y alertas corren de su cuenta. Si el gateway cae, caen todas las llamadas de IA de la empresa.
Adaptar claves, cuotas y auditoría a su organigrama. Los proyectos de código abierto suelen incluir claves virtuales y cuotas. Los departamentos, quién puede cambiar una cuota y el nivel de detalle del registro de auditoría hay que configurarlos o desarrollarlos.
Conciliación de facturas. Cada proveedor factura por separado, en su moneda y con sus reglas. A fin de mes alguien cruza los registros del gateway con cada factura y reparte el coste entre departamentos.
Modelos nuevos y cambios de precio. Cuando un proveedor lanza un modelo, cambia un ID o modifica un precio, hay que actualizar la lista de modelos y la tabla de precios del gateway; si no, los informes internos de coste se desvían.
Compatibilidad de protocolos. El streaming, las llamadas a herramientas y las diferencias entre Anthropic Messages y el formato de OpenAI hay que volver a probarlos con cada actualización.

Qué cubre un gateway gestionado (con HopBase como ejemplo)

Una cuenta, un saldo: Claude, GPT, Gemini, DeepSeek, Qwen, GLM, Kimi, Doubao, Hunyuan, Grok y modelos de imagen y vídeo como Seedance, Kling y Hailuo. Se factura en USD al precio oficial de cada proveedor × el descuento del grupo, sin darse de alta proveedor por proveedor.
Dos protocolos: compatible con OpenAI en https://api.hop-base.com/v1; Anthropic Messages en https://api.hop-base.com (sin /v1).
Capacidad y failover: cada petición la atiende uno de los grupos de la clave, respaldado por capacidad redundante agrupada con failover automático.
Gobierno del equipo: el titular de la empresa y los administradores de empresa gestionan miembros, departamentos y claves. Hay cuotas en tres niveles (clave, miembro, departamento) y las cuotas mensuales se reinician el día de corte que usted elija (del 1 al 28). Si la cuota se agota, la petición se rechaza antes de procesarse con HTTP 402.
Control de claves: cada clave incluye de 1 a 10 grupos y admite cuota, fecha de caducidad, lista de IP y límite de concurrencia. Se puede desactivar o revocar en cualquier momento; el servidor solo guarda un hash unidireccional.
Auditoría y conciliación: se registran todos los cambios de organización, miembros, cuotas y claves. La página de uso exporta CSV filtrado por fecha, clave, miembro o departamento, y cada fila se puede recalcular como coste oficial × descuento ÷ tipo de cambio = importe cobrado. Las peticiones fallidas no se cobran.
Datos: los prompts y las respuestas solo se usan para completar la petición, no se conservan como datos de negocio ni se usan para entrenar. TLS de extremo a extremo.

Para ser claros con los límites: HopBase no ofrece despliegue on-premise. Si es imprescindible, conviene empezar por autoalojar.

Comparativa: gateway autoalojado vs gestionado

Aspecto	Autoalojado (LiteLLM / One API / New API)	Gestionado (HopBase)
Cuentas y contratos con proveedores	Una por proveedor; firma y recarga cada una	Una cuenta para muchas familias de modelos
Ubicación / residencia de datos	Su centro de datos, la región cloud que elija o su red privada	Servicio de HopBase; sin opción on-premise
Alta disponibilidad	Usted monta instancias, copias, monitorización y actualizaciones	Capacidad redundante agrupada y failover automático incluidos
Claves, cuotas, auditoría	Funciones básicas; la estructura organizativa la configura o desarrolla usted	Cuotas en tres niveles, departamentos y registro de auditoría listos
Conciliación	Varias facturas y monedas, unidas a mano	Una factura en USD; CSV recalculable fila a fila
Modelos nuevos y precios	Actualiza usted listas de modelos y tablas de precios	Catálogo y precios oficiales mantenidos por el servicio
Personalización	Puede cambiar el código, añadir plugins e integrar sistemas internos	Lo que ofrecen la consola y la API
Costes principales	Tarifas de proveedores + servidores + horas de operación	Pago por uso; el volumen empresarial lo cotiza el equipo comercial

Cómo elegir

Elija autoalojado si:

El cumplimiento normativo exige que las peticiones se queden en una región concreta o dentro de su red, sin pasar por un servicio de terceros.
Ya tiene contratos empresariales o capacidad reservada con los proveedores de modelos y quiere seguir usándolos directamente.
Necesita despliegue on-premise o una integración profunda con sistemas internos.
Hay una persona responsable de operaciones y acepta diagnosticar usted mismo las incidencias del gateway.

Elija gestionado si:

Necesita varias familias de modelos y no quiere darse de alta, recargar y conciliar proveedor por proveedor.
Quiere cuotas y gasto por departamento, miembro y clave sin desarrollarlo.
No tiene un equipo de operaciones dedicado y prefiere que el servicio se encargue de la disponibilidad y el failover.
Finanzas necesita una exportación de uso que pueda recalcular línea a línea.

O combinar ambos

Si ya ejecuta LiteLLM Proxy, manténgalo como punto de entrada interno y añada HopBase como provider compatible con OpenAI: anteponga openai/ al ID del modelo y fije api_base en https://api.hop-base.com/v1. Consulte la guía de LiteLLM.

Una decisión en cuatro pasos

Enumere los requisitos: qué modelos, qué cargas de trabajo y si los datos pueden salir de su red.
Estime el esfuerzo: si autoaloja, cuente los días-persona de despliegue, guardias, conciliación mensual y actualización de modelos.
Haga un piloto pequeño: elija un departamento y pruebe cada opción una semana. Compare disponibilidad, tiempo de conciliación y gestión de incidencias.
Valide con una lista de verificación: completitud del protocolo, comportamiento con concurrencia y transparencia de la facturación. Nuestra lista para elegir gateway en equipo detalla las pruebas, y la ingeniería de alta concurrencia y failover está en este artículo técnico.

Para probar la opción gestionada, regístrese en HopBase; al crear una cuenta de empresa podrá añadir miembros y departamentos. Para transferencia bancaria, facturas o liquidación empresarial, escriba a sales@hop-base.com.

Preguntas frecuentes

¿Cuánto cuesta autoalojar LiteLLM?

El software es gratuito. Los costes son las tarifas de uso de cada proveedor, los servidores y bases de datos, y las horas de operación. Esto último es lo que más se subestima: despliegue, actualizaciones, monitorización, conciliación y nuevos modelos requieren dedicación constante.

¿Después de desplegar One API o New API sigo necesitando créditos propios de cada modelo?

Sí. Estos gateways unifican la interfaz y reparten las peticiones; la capacidad de los modelos sigue viniendo de las cuentas que abra con cada proveedor. Saldos, límites de velocidad y facturas se gestionan por separado.

¿Qué hay que mirar primero al elegir un gateway de IA empresarial?

Los requisitos de datos. Si las peticiones deben quedarse en su red o en una región concreta, empiece por autoalojar. Si no, compare el esfuerzo de operación, cuántas familias de modelos necesita y lo difícil que será conciliar.