Todos los proyectos
Agentes
Gateway multi-agente de LLMs
Agentes que comparten un único gateway hacia Bedrock, OpenAI y Gemini — con caché, control de costos y herramientas MCP.
El problema
Cuando cada agente habla con los proveedores de LLM por su cuenta, las API keys se reparten por todos lados, los costos son invisibles y cambiar de modelo implica reescribir código.
Cómo funciona
Un gateway central pone tres proveedores detrás de una sola API, con caché TTL y métricas de costo, tokens y latencia por petición. Los agentes en LangGraph usan herramientas a través de un servidor MCP y se exponen por REST y streaming por WebSocket. Todo corre en Docker, listo para Kubernetes.
Pipeline
- 01Cliente
- 02Agente (REST / WS)
- 03Herramientas MCP
- 04Gateway LLM
- 05Bedrock · OpenAI · Gemini
Puntos clave
- Cambiar de proveedor sin tocar el código de los agentes
- Caché de respuestas que reduce el gasto repetido en APIs
- Streaming en tiempo real por WebSocket
- Health checks en cada servicio; listo para AWS EKS
Stack
LangGraphMCPFastAPIAWS BedrockOpenAIGeminiDockerKubernetes
¿Quieres algo así para tu empresa?
Construyo versiones de producción de estos sistemas sobre tus datos y tu infraestructura.
Servicio relacionado: Agentes y automatización
Agendar llamada