Herramientas y Reviews 6 min lectura
Cómo enrutar solicitudes de agentes de código a modelos adecuados con NVIDIA NeMo Switchyard y LiteLLM en Amazon Bedrock
El enrutamiento entre modelos cambia la métrica relevante: no es el costo por token sino el costo por tarea resuelta. Aquí explicamos cómo desplegar LiteLLM con el plugin Switchyard en AWS y cómo medir costo por tarea para tomar decisiones informadas.