Herramientas y Reviews 6 min lectura
Entrenamiento asíncrono con LoRA y vLLM en Hugging Face Jobs: un flujo sin NCCL
TRL v1.14 añadió soporte para entrenar adaptadores LoRA con AsyncGRPOTrainer y sincronizarlos a vLLM. Con adaptadores de pocos megabytes y Storage Buckets montados en cada Job, es posible separar trainer e inferencia en máquinas distintas sin mover gigabytes por red.