home/categories/framework-internals/atrawog-bazzite-ai-plugins-bazzite-ai-jupyter-skills-quantization-skill-md
framework-internalsdevelopment
quantization
Model quantization for efficient inference and training. Covers precision types (FP32, FP16, BF16, INT8, INT4), BitsAndBytes configuration, memory estimation, and performance tradeoffs.
maintainer
atrawog
আপডেট হয়েছে 1/12/2026
স্টার
0
ফর্ক
0
quick start
Installation and usage
Model quantization for efficient inference and training. Covers precision types (FP32, FP16, BF16, INT8, INT4), BitsAndBytes configuration, memory estimation, and performance tradeoffs.
ইনস্টলেশন
$ install --globalskills.sh
ব্যবহার
ইনস্টল করার পর, টার্মিনালে নিচের কমান্ড চালিয়ে আপনি এই স্কিল ব্যবহার করতে পারবেন:
skills use quantization