home/categories/llm-ai/eyadsibai-ltk-plugins-ltk-data-skills-llm-inference-skill-md
llm-aidata-ai

llm-inference

Use when "LLM inference", "serving LLM", "vLLM", "llama.cpp", "GGUF", "text generation", "model serving", "inference optimization", "KV cache", "continuous batching", "speculative decoding", "local LLM", "CPU inference"

eyadsibai
maintainer
eyadsibai
업데이트됨 1/15/2026
스타
0
포크
0
quick start

Installation and usage

Use when "LLM inference", "serving LLM", "vLLM", "llama.cpp", "GGUF", "text generation", "model serving", "inference optimization", "KV cache", "continuous batching", "speculative decoding", "local LLM", "CPU inference"

설치
$ install --globalskills.sh
사용법

설치 후 터미널에서 다음 명령을 실행하여 이 스킬을 사용할 수 있습니다:

skills use llm-inference