AI Gateway.

En la práctica

Cloudflare lanzó el suyo en septiembre de 2023. Se pone entre tu aplicación y las API de los modelos, guarda respuestas en caché, limita y reintenta peticiones y mide el uso. Hoy lo ofrecen también Microsoft, dentro de Azure, con límites de tokens por consumidor, y proyectos abiertos como LiteLLM.

El problema que resuelve lo contó Cloudflare en junio de 2026. Una clave de API compartida por todos y, a final de mes, una factura que nadie sabe explicar.

Un ejemplo. Una distribuidora tiene el chatbot de atención al cliente con un proveedor, las fichas de producto con otro y un piloto de agente comercial. Con un gateway pone un presupuesto mensual por departamento, ve qué agente consume más y, si el primer proveedor cae, pasa el chatbot al segundo sin tocar la aplicación.

Por qué te importa

Compensa cuando hay varios proveedores, varios equipos o agentes que gastan solos, o cuando necesitas el gasto por persona o por departamento. Si la empresa usa IA solo con licencias por persona, o tiene una aplicación con un único proveedor, la consola de ese proveedor suele bastar y el gateway es una pieza más que mantener. Las versiones gratuitas no quitan el trabajo de configurarlo y revisarlo.

Los límites

Concentra todas las claves de la empresa en un sitio, así que es un punto único de fallo y de ataque. El 24 de marzo de 2026 se publicaron dos versiones de LiteLLM con código que robaba credenciales; según el propio proyecto, estuvieron disponibles unos 40 minutos.

Ya se vende también como producto de seguridad. Palo Alto Networks lanzó el suyo en julio de 2026, dentro de su línea de seguridad para IA, con la tecnología de Portkey, empresa que había comprado.

Y las cifras de ahorro suelen ser del fabricante. El enrutado automático de Cloudflare promete «hasta un 30 %» menos de gasto, medido en una prueba interna suya de septiembre de 2026. Para saber si te ahorra a ti, mide el coste por tarea antes y después.