home/categories/machine-learning/doanchienthangdev-omgkit-plugin-skills-ai-engineering-inference-optimization-skill-md
machine-learningdata-ai
inference-optimization
Optimizing AI inference - quantization, speculative decoding, KV cache, batching, caching strategies. Use when reducing latency, lowering costs, or scaling AI serving.
maintainer
doanchienthangdev
আপডেট হয়েছে 1/8/2026
স্টার
1
ফর্ক
0
quick start
Installation and usage
Optimizing AI inference - quantization, speculative decoding, KV cache, batching, caching strategies. Use when reducing latency, lowering costs, or scaling AI serving.
ইনস্টলেশন
$ install --globalskills.sh
ব্যবহার
ইনস্টল করার পর, টার্মিনালে নিচের কমান্ড চালিয়ে আপনি এই স্কিল ব্যবহার করতে পারবেন:
skills use inference-optimization