vLLM es un motor de código abierto para servir modelos de lenguaje de gran tamaño con alto rendimiento, que optimiza el uso de la memoria de la GPU durante la inferencia.
Forma parte de HP Z Runtime (ZRT), de HP, que lo instala y mantiene junto al resto de herramientas del paquete en las estaciones de trabajo HP Z.
