El backend de transformers en vLLM: rendimiento nativo para modelos grandes
vLLM ahora puede ejecutar modelos definidos en transformers con velocidad comparable a implementaciones nativas optimizadas. Esto reduce la necesidad de portar código y acelera la puesta en producción de LLM y VLM.