home/categories/llm-ai/stakpak-community-paks-vllm-deployment-skill-md
llm-aidata-ai

vllm-deployment

Deploy vLLM for high-performance LLM inference. Covers Docker CPU/GPU deployments and cloud VM provisioning with OpenAI-compatible API endpoints.

stakpak
maintainer
stakpak
अपडेट किया गया 1/18/2026
स्टार
3
फोर्क
0
quick start

Installation and usage

Deploy vLLM for high-performance LLM inference. Covers Docker CPU/GPU deployments and cloud VM provisioning with OpenAI-compatible API endpoints.

इंस्टॉलेशन
$ install --globalskills.sh
उपयोग

इंस्टॉल करने के बाद, आप टर्मिनल में यह कमांड चलाकर इस स्किल का उपयोग कर सकते हैं:

skills use vllm-deployment