Inteligencia Artificial 5 min lectura
Levantar un servidor vLLM en Hugging Face Jobs con un solo comando
Con Hugging Face Jobs pueden lanzar un endpoint privado compatible con la API de OpenAI usando vLLM en una sola línea de comando. Esta guía explica requisitos, comandos, cómo consultar el modelo y buenas prácticas para pruebas y evaluación.