home/categories/framework-internals/alexai-mcp-hermes-ccc-skills-llama-cpp-skill-md
framework-internalsdevelopment

llama-cpp

Run quantized LLMs locally with llama.cpp — CPU+GPU inference, GGUF format, OpenAI-compatible server, and Python bindings.

AlexAI-MCP
maintainer
AlexAI-MCP
آخر تحديث 4/7/2026
النجوم
62
التفرعات
14
quick start

Installation and usage

Run quantized LLMs locally with llama.cpp — CPU+GPU inference, GGUF format, OpenAI-compatible server, and Python bindings.

التثبيت
$ install --globalskills.sh
الاستخدام

بعد التثبيت، يمكنك استخدام هذه المهارة بتشغيل الأمر التالي في الطرفية:

skills use llama-cpp